
來源:Hasan Minhaj/YouTube(官方縮圖)
W 亂報 Re:Post · w.repost.tw · 自家機房排版印行
排版中

來源:Hasan Minhaj/YouTube(官方縮圖)
W 亂報 Re:Post · w.repost.tw · 自家機房排版印行

來源:影片畫面擷取自 YouTube/Hasan Minhaj(約 04:38)
Warzel 把轉折放在 2010 年代中後期:網路從主動點連結、逛網站,逐漸變成由 feed 猜測使用者下一秒想看什麼。TikTok 把停留、滑走與重播都變成即時訊號;Google 的 AI 答案則進一步把「十個連結,自己查」改成「先接受一個合成答案」。
這不只影響媒體網站能拿到多少流量。原本的連結至少保留作者、出版物與不同說法,合成答案卻把多個來源壓成一個看似完整的聲音。當使用者看不到答案的形成過程,判斷力就從比較證據,退成決定要不要相信介面。
大型假事件有時反而容易查證。2023 年五角大廈爆炸假圖曾短暫擾動市場,但地方官員、五角大廈與新聞機構很快都能指出現場沒有爆炸。Warzel 認為,更難處理的是大量規模較小、只需讓少數人相信的假內容,以及一般人遭製作不實色情影像時缺乏名人等級的公開紀錄與查證資源。
法律學者 Robert Chesney 與 Danielle Citron 在 2018 年工作論文、2019 年期刊版本中提出 liar’s dividend:假內容越多,真的證據反而越容易被否認。影片舉出 Tesla 律師曾以 Elon Musk 的公開談話可能是 deepfake 為由,拒絕確認影片真實性;承審法官不接受把 deepfake 當成泛用藉口。技術不必成功騙過所有人,只要替當事人提供一句「那可能是 AI」,就足以延長爭議、消耗查證成本。
deepfake 也能被拿來否認真實證據。
liar’s dividend 讓造假技術變成說謊者拖延責任的藉口。

來源:影片畫面擷取自 YouTube/Hasan Minhaj(約 12:26)
Warzel 沒有把答案收在更強的偵測器。他用印刷術類比,認為社會需要時間形成新的閱讀習慣與規範;同時也要保留不被錄影、追蹤與 feed 佔滿的線下空間,並透過政策與集體行動要求科技公司踩煞車。時間能讓人熟悉新的造假方式,卻不能代替揭露金流、限制監控或追究平台責任。
真正要拿回的不是辨認每一張圖的超能力,而是知道內容從哪裡來、誰因為它獲利,以及平台為何把它送到眼前。只把責任丟給使用者逐張查證,等於接受製造與放大內容的人繼續隱身;信任要恢復,來源和誘因就不能一直是黑箱。
來源、金流與分發原因,比逐張猜真假更重要。
透明度與平台責任不能全轉嫁給使用者。
原文出處(9)
The Internet Is Fake - with Charlie Warzel
影片 · Hasan Minhaj · youtube.com
本文主要來源
AI Is Causing a Crisis of Agency
文章 · Charlie Warzel/The Atlantic · theatlantic.com
crisis of agency 的原始文章
AI Now Writes as Many Online Articles as Humans
文章 · Graphite · graphite.io
AI 生成英文文章比例與方法
The TikTok AI Slop Report
文章 · Kapwing · kapwing.com
新帳號推薦與分類樣本
Artificial Intelligence fuels rise of hard-to-detect bots that now make up more than half of global internet traffic, according to the 2025 Imperva Bad Bot Report
文章 · Thales/Imperva · cpl.thalesgroup.com
2024 年自動化流量觀測
Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security
文章 · Robert M. Chesney、Danielle Citron · law.utexas.edu
liar’s dividend 的法律研究
FACT FOCUS: Fake image of Pentagon explosion briefly sends jitters through stock market
文章 · AP · apnews.com
五角大廈爆炸假圖查證
Influencers, are your #materialconnection #disclosures #clearandconspicuous?
文章 · U.S. Federal Trade Commission · ftc.gov
付費代言揭露原則
Tesla’s lawyers claim Elon Musk’s past statements about self-driving safety could just be deepfakes
文章 · The Verge · theverge.com
Tesla 訴訟中的 deepfake 抗辯

影片 · YouTube