「這是真的嗎」已經不只是辨認一張假圖的問題。當貼文、留言、流行歌曲、政治廣告與搜尋答案都可能由機器或受雇帳號大量製造，人不只難以判斷內容真假，也開始不知道它為什麼會出現在眼前。Hasan Minhaj 與《大西洋月刊》記者 Charlie Warzel 把這種狀態稱為一場主導感（agency）危機：人覺得選擇仍在自己手上，卻無法看見背後的分發、金流與操控者。
三個驚人數字，各自只說明一小塊網路
節目開場把三個數字並排：AI 已寫下約一半的新文章、新帳號會看到大量 AI slop，bot 流量也超過人類。外部資料能支持趨勢，卻不能把三個樣本直接升級成「整個網路」的完整統計。
Graphite 從 Common Crawl 隨機抽取約 5.54 萬篇有 article 標記、至少 100 字的英文文章，再用三個偵測器判讀；修訂後資料顯示，AI 生成文章在 2025 年第一季占 49.6%，第四季才到 50.9%。Kapwing 的 59% 則來自一個全新 TikTok 帳號收到的前 500 支影片；同樣方法下，YouTube Shorts 是 21%。Imperva 所稱的 51%，是其全球網路在 2024 年觀測到的自動化流量比例，研究資料包含攔截的 13 兆次惡意 bot 請求。這些研究測的是英文文章樣本、新帳號推薦與資安業者網路，不是同一個母體。
流行感可以先做出來，再等真人接手
節目用 Brooklyn 樂團 Geese 與行銷公司 Chaotic Good Projects 解釋 trend simulation。公司公開談過的做法，是讓許多帳號以足夠高的頻率發文、累積曝光，先向推薦系統送出「這首歌正在流行」的訊號；後續若有真人真的開始使用歌曲，人工推力與自然傳播便混在一起。它證明的是流行感可以被投放與放大，不是沒有人真的喜歡那首歌。
clipping economy 把同一套邏輯擴大到 podcast、直播與政治人物。受雇剪輯者從數小時內容裡挑出最刺激的十幾秒，改標題、字幕與比例，再分送到 TikTok、Reels 與 Shorts。美國 FTC 的原則是，代言者與品牌之間若有會影響可信度的實質關係，就應清楚揭露；問題不在每支短片都違法，而在付費宣傳一旦長得像自發分享，觀眾便很難知道熱度從哪裡開始。
來源：影片畫面擷取自 YouTube／Hasan Minhaj（約 04:38）
演算法拿走的，是內容抵達眼前的脈絡
Warzel 把轉折放在 2010 年代中後期：網路從主動點連結、逛網站，逐漸變成由 feed 猜測使用者下一秒想看什麼。TikTok 把停留、滑走與重播都變成即時訊號；Google 的 AI 答案則進一步把「十個連結，自己查」改成「先接受一個合成答案」。
這不只影響媒體網站能拿到多少流量。原本的連結至少保留作者、出版物與不同說法，合成答案卻把多個來源壓成一個看似完整的聲音。當使用者看不到答案的形成過程，判斷力就從比較證據，退成決定要不要相信介面。
deepfake 最麻煩的後果，是連真的也能被說成假的
大型假事件有時反而容易查證。2023 年五角大廈爆炸假圖曾短暫擾動市場，但地方官員、五角大廈與新聞機構很快都能指出現場沒有爆炸。Warzel 認為，更難處理的是大量規模較小、只需讓少數人相信的假內容，以及一般人遭製作不實色情影像時缺乏名人等級的公開紀錄與查證資源。
法律學者 Robert Chesney 與 Danielle Citron 在 2018 年工作論文、2019 年期刊版本中提出 liar’s dividend：假內容越多，真的證據反而越容易被否認。影片舉出 Tesla 律師曾以 Elon Musk 的公開談話可能是 deepfake 為由，拒絕確認影片真實性；承審法官不接受把 deepfake 當成泛用藉口。技術不必成功騙過所有人，只要替當事人提供一句「那可能是 AI」，就足以延長爭議、消耗查證成本。
來源：影片畫面擷取自 YouTube／Hasan Minhaj（約 12:26）
重新建立規範，比練成真假鑑定師更實際
Warzel 沒有把答案收在更強的偵測器。他用印刷術類比，認為社會需要時間形成新的閱讀習慣與規範；同時也要保留不被錄影、追蹤與 feed 佔滿的線下空間，並透過政策與集體行動要求科技公司踩煞車。時間能讓人熟悉新的造假方式，卻不能代替揭露金流、限制監控或追究平台責任。
真正要拿回的不是辨認每一張圖的超能力，而是知道內容從哪裡來、誰因為它獲利，以及平台為何把它送到眼前。只把責任丟給使用者逐張查證，等於接受製造與放大內容的人繼續隱身；信任要恢復，來源和誘因就不能一直是黑箱。
The Internet Is Fake - with Charlie Warzel ／ Hasan Minhaj · 在 YouTube 觀看 ↗