李怡志：如何生成有效的圖騙

1. 一句話總結

生成式圖片會不會騙到你，關鍵從來不是圖做得像不像，而是它有沒有踩中你的立場、你的情緒、你不知道的知識落差，以及你對其他按讚分享者的信任；李怡志把這四點拆開來一一示範。

2. 重點筆記

從2003年開始教生成式圖像

他自我介紹是政大的助理教授，從2003年就開始在政大教生成式圖像，前後累積下來大概教了8個學分的課程。他先秀了一個學生作業當開場：一位同學做了一張「1942年的大麥克」，也就是二戰時期就有大麥克這種穿越感十足的假歷史照片，那位同學把圖拿去騙自己的媽媽，媽媽真的信以為真。同一批作業裡還有同學做了假的伯明翰罷工事件照片、捏造「台灣自古種咖啡所以本來該叫Aroma而不是Formosa」的故事去騙韓國的語言交換夥伴。他說這些圖其實破綻不少，但拿去騙媽媽、騙長輩、騙外國朋友，對方都信了，這才是他真正好奇、也想在這場分享的問題：為什麼破綻明顯的圖，還是有人會信。

他特別點出講題裡「圖騙」的雙關：這個「片」可以是圖片的片，也可以是騙人的片。

假圖到底想騙你什麼

他把假圖的目的分成四種：

• 灌輸錯誤的記憶：機器學習需要餵資料，假圖就是把錯的資料餵進閱聽人的腦子裡。他舉的例子包括：一張被移花接木、把某位在Me Too事件中被指控性侵的人士與另一位女性合成在一起的照片（這張合成照片的當事人身分，查無可獨立佐證的外部報導，標記為待查證）；馬丁路德・金恩比中指的照片，原始畫面其實是他在得知參議院通過民權法案後比出的和平手勢（雙指V字），後來被竄改成只留一根手指變成不雅手勢（查證後見第七節）；2023年那張造成美股短暫下跌的五角大廈爆炸假照片（查證後見第七節）；以及兩張分別由中國駐法大使館與《中國日報》歐盟分社社長陳衛華發布、用來控訴以色列攻擊巴勒斯坦的AI生成圖（查證後見第七節）。
• 操弄你的態度：他舉了瑪丹娜與教宗有親密關係的假圖，目的是要閱聽人改變對教宗的觀感；也提到台大蔡蕙如與師大林玉鵬合寫的評論，討論用吉卜力風格描繪以色列軍隊，把暴力畫得很可愛，本質上是把暴力「去脈絡化」成溫馨畫面（查證後見第七節）。
• 強化你的情感：不管正向或負向都算，他舉了一張朋友在社群媒體上分享、明顯是AI生成卻讓人看了想哭的圖，還有他自己去提醒對方「這是AI生成的」，對方反而回問「為什麼這些人要騙我」。
• 降低你的判斷力：他認為這是最可怕的一種，因為久了以後你會乾脆放棄查證。他舉了川普自己發布的「川普當國王」AI生成圖，以及教宗過世後川普發布自己扮成教宗的AI合成照（兩者均經查證，見第七節），這類真假難辨又高頻出現的圖，會讓人乾脆放棄思考「這是不是真的」這一步。

為什麼會被騙：從捷思到系統式判斷，再到Source Monitoring Framework

他借用傳播理論裡的雙軌判斷框架來解釋：滑手機時大多數人用的是「捷思式判斷（Heuristic）」，快速掃過去、有感覺就分享，不可能每張圖都花時間認真研究；另一種是「系統式判斷（Systematic）」，需要花時間仔細評估真假。他說社群媒體的設計本質上就是鼓勵捷思式判斷。

接著他介紹一個框架，叫「Source Monitoring Framework」，他提到理論淵源可以追到1987年一篇他稱為Jackson的研究，再到1993年的後續發展（這組人名年份在外部資料裡對應到的是Johnson、Hashtroudi與Lindsay在1993年發表的Source Monitoring；1987年那篇的作者與確切篇名未能查得對應出處，人名部分研判「Jackson」應是「Johnson」的口誤，年代待查證，見第七節）。這個框架認為，我們判斷一則資訊是真是假，除了視覺（看起來像不像真的）之外，還會同時被資訊、情緒、信任三個面向影響。

他把這四個面向拆成可操作的細節：

• 視覺特徵：包含局部修改（copy-move）、拼貼（splicing）、修圖（retouching）、裁剪（cropping）、局部模糊（blurring）。他舉的例子是川普第一次就任典禮的照片被裁掉了前方沒有人潮的角度；美國國家檔案局也曾把抗議川普的標語局部模糊處理掉。
• 語意特徵：內容要符合常識，時代、地點、文化細節要一致。他提醒學生如果要生成2020到2023年之間的場景，人物一定要戴口罩，不戴口罩看起來就假。
• 情緒特徵：圖片或影片能不能讓人生氣、開心、難過，越貼近閱聽人熟悉的情境，越容易激起情感、也越容易被相信。
• 信任策略：混用真實與生成畫面（背景真實、前景人物是AI生成）、假造時間戳記與浮水印、模擬社群平台的轉載痕跡（認證帳號、新聞截圖）、按讚數與轉發數營造出來的可信度。

在這之上，他還加了兩個很關鍵的心理機制：知識落差效應（Knowledge Gap Effect）——我們每天接收的資訊多到不可能全部查證，剩下不知道又懶得查的部分，就是最容易被騙的破口；以及證實偏誤（Confirmation Bias）——只要一則資訊符合我們原本的立場，我們就傾向直接相信它是真的，不管它實際上是真是假。

他用哈佛大學那封被瘋傳「用紅筆改到滿江紅」回應教育部長的信當例子：那封信底下的批改其實是一位網友自己動手做的，並非哈佛官方回應，但因為劇情太符合大眾對「教育部長沒讀過書」的既定印象，很多人轉發前根本沒有查證的念頭，他自己一開始也差點跟著轉。

他也舉了幾個台灣社群上的案例來說明整套機制怎麼疊加運作：一個是網傳「參賽的中國籍選手服裝寫成Chinese Taipei」的說法（世界壯年運動會期間流傳的說法之一，他提到後續有轉發者被依社會秩序維護法裁罰），另一個是把真實發生的剴剴保母虐童案，疊加上「涉案保母是中配（中國籍配偶）」的說法，再搭配「你認識她嗎、你不認識、所以是被隱瞞了」的話術，把知識落差、證實偏誤和情緒一次串起來，讓人不看一張圖也願意相信整套敘事；另一起是網傳中配「雅雅」返中再婚、帶大陸親屬來台依親的說法。他也提到自己臉書底下有朋友留言引述「周偉航說是真的」，再加碼「這是在某個政論節目上說的所以更可信」，這種疊加式的「張冠李戴」也是常見的手法（他也提到一則被證實是假訊息的RTHK臉書貼文轉貼案例，連結見投影片，列在第七節）。

示範怎麼把一張假圖做得更真

他現場示範了一次「反向教學」：先寫品質類的提詞（realistic、Canon EOS 5D、natural、加一點不完美的瑕疵），再設定語意情境（烏克蘭的居住大樓場景、人物身上戴紅十字臂章），再疊加情感元素（小孩臉上要有害怕與難過的表情）。做出一張「烏克蘭孩童受到戰地醫護救助」的圖之後，他又疊加了CNN風格的臉書貼文外觀——但他提醒大家仔細看那個「CNN」旁邊多了一個點，其實是仿冒帳號，不是真正的CNN。他還示範了信任策略的另一層：如果這張圖顯示被「李慕約」與「李怡志」按讚，一般人就會更容易相信，因為大家會不自覺地信任自己追蹤的意見領袖，即便這些意見領袖自己也很容易被騙。

怎麼不被騙

他提出的做法很務實，不是要求大家變成事實查核員：

1. 先忘記視覺上像不像真的——現在任何人都做得出很像真的圖，這已經不是重點。
2. 檢查自己有沒有踩到四個開關：這張圖符不符合你原本的價值觀與立場、你有沒有情緒反應、你是不是真的知道實情、有沒有很多人按讚分享（他提醒，大部分成功的假訊息都有很高的互動數，互動數本身不能當作真實性的證據）。
3. 一旦想分享，就先做一次簡單查證，例如對圖片按右鍵用Google圖片搜尋，很多時候下面就會直接跳出事實查核組織的說明。他現場示範的例子，是一張標榜「國家地理獎年度得獎照片」的流星劃過樹梢的圖，一查就發現已經被標記為假圖。

3. 關鍵數據與案例

• 他從2003年開始在政大教生成式圖像，累積教學經歷約20年以上（講者自述）。
• 2023年五角大廈爆炸假圖曾造成美股標普500指數短暫下跌約0.26%（查證後見第七節）。
• 馬丁路德・金恩「比中指」照片，原圖其實是比出兩指的和平手勢，這張竄改圖在2017年被重新翻出並大量轉傳（查證後見第七節）。
• 哈佛「紅筆改教育部長信」事件發生於2025年5月，該封信是一位網友個人動手修改，並非哈佛官方回應（查證後見第七節）。
• 川普分別在2025年發布「國王川普」風格的AI合成圖，以及在教宗過世後發布自己扮成教宗的AI合成照片，兩者都引發輿論爭議（查證後見第七節）。

4. 金句

• 「這個片可以是圖片的片，也可以是騙人的片。」
• 「大家都還去查證不用查證了，這川普就是會搞這件事情。」
• 「當你越想分享的東西，它就越可能有問題，你就越要去檢查。」
• 「各位都是生成式AI界的專家，我們最起碼希望能夠做到一點，就是大家盡量不要被騙。」

5. 提到的工具與名詞

• Source Monitoring Framework：判斷一則資訊記憶來源的心理學框架，區分視覺、資訊、情緒、信任四個影響判斷的面向，常見出處為Johnson、Hashtroudi與Lindsay 1993年發表的〈Source Monitoring〉。
• 捷思式判斷（Heuristic）／系統式判斷（Systematic）：傳播與心理學裡常見的雙軌資訊處理模型，用來解釋人在滑社群媒體時多半用前者快速判斷。
• 知識落差效應（Knowledge Gap Effect）：資訊量越大，個人已知與未知之間的落差越容易被利用。
• 證實偏誤（Confirmation Bias）：只要符合既有立場就傾向相信，不論真假。
• Copy-move／Splicing／Retouching／Cropping／Blurring：他歸類的五種傳統影像造假手法，分別對應局部修改、拼貼、修圖、裁剪、局部模糊。
• Google圖片反搜尋：他示範用來初步檢查一張可疑圖片是否已被標記為假圖的做法。

6. 延伸觀察

這場其實沒有要教大家怎麼抓AI生成的破綻，因為講者很清楚破綻已經抓不完了，關鍵是把問題從「這張圖是不是AI生成的」換成「我為什麼會想相信這張圖」。他點出的四個開關（立場、情緒、知識落差、從眾）幾乎可以套用在任何一次滑手機想按分享的瞬間，這種把心理機制講清楚、而不是丟一堆檢測工具的做法，比單純教技術辨識更難忘，也更持久有用。

7. 資料來源