Humans of AI: Understanding the People Behind the Machines

全書精華

主要主題、論點、核心訊息

• 主要主題：本書從人類學視角深入剖析人工智慧產業，揭開矽谷神話背後的真相，探討驅動 AI 發展的「人類協作網」（Human Stack），包含軟硬體工程師、語言學家，乃至被邊緣化的幽靈勞工與內容創作者。
• 核心論點：AI 並非自主運作、全知全能的魔法或必然的進化終點，而是一個高度依賴人類勞動、文化脈絡與社會偏見的文化產物。科技公司刻意隱藏這些人類勞動，塑造 AI 自主運作的神話，以獲取商業利益與權力並逃避責任。
• 核心訊息：我們必須打破對 AI 的盲目崇拜與「語言幻想性錯覺」，看清隱藏在演算法背後的真實人類與勞動軌跡。唯有看見並追究這些人類與企業的責任，關注當下真實的勞動剝削與演算法偏見，才能確保科技真正為人類社會服務。

掌握作者思路必懂的關鍵要點

• 人類技術棧（The Human Stack）：如同電腦的軟硬體架構，AI 的運作建立在龐大且往往隱形的人類勞動網絡上。這包含寫程式的開發者、設計晶片的硬體工程師，以及在底層標註數據、過濾有毒內容的低薪「幽靈勞工」。沒有這些人類的持續參與，AI 根本無法運作。
• 語言幻想性錯覺（Linguistic Pareidolia）：人類天生具備在無生命物體上尋找人類特徵（如看見人臉）的心理本能。當大型語言模型（LLM）產出極度流暢的文字時，我們便會產生語言上的錯覺，不自覺地將情感、意識與理解能力，投射到其實只是在進行機率統計與預測下一個詞彙的演算法上。
• 作為文化概念的 AI（AI as a Cultural Concept）：AI 並非像重力那樣客觀存在的自然科學事實，而是深受人類歷史、哲學（如笛卡兒的身心二元論）與隱喻（如「巨大的大腦」）形塑的文化概念。它是人類投射恐懼、希望與探究「何謂人類」等終極叩問的載體。
• 幽靈勞動與榨取經濟（Ghost Work & Extractive Economy）：AI 所謂的「自動化」幻象，實際上建立在剝削全球南方廉價勞工（進行龐大且傷神的數據標註與內容審核）的基礎上。此外，科技巨頭將數據視為「新石油」，未經授權大肆搜刮藝術家、作家的心血，這種榨取模式徹底剝奪了勞動者與創作者的合理報酬與成就感。
• 批判性炒作與末日論（Critihype & Doomerism）：許多科技菁英頻繁發出 AI 將導致人類滅絕的末日警告。作者指出這其實是一種「批判性炒作」，表面上是警告，實際上卻是在強化 AI 全能與超人類智慧的神話，藉此轉移大眾對當下已經發生的演算法偏見、隱私侵犯與勞動剝削等真實倫理危機的注意力。
• 烏托邦理性主義的盲點（Blind Spots of Utopian Rationalism）：矽谷科技圈盛行「長期主義」等理性主義信念，迷信只要擁有足夠的算力與數據，就能透過工程手段控制世界並創造人類的烏托邦。但這種試圖將智慧單一量化、抹除語言與文化模糊性的思維，完全忽略了人類社會的複雜性，並可能帶來反民主甚至優生學式的集權風險。

反主流洞見

真正驅動 AI 的不是演算法，而是龐大且廉價的「幽靈勞工」

• 差異點：主流觀點認為 AI 是高度自動化、能獨立思考與學習的超級科技；作者指出，AI 的背後其實是由無數低薪的「人類堆疊（Human Stack）」在支撐，所謂的「自動化」很大程度只是一場精心策劃的幻覺。
• 作者論證：科技巨頭刻意隱藏人類勞動的痕跡以維持神話，藉此提高公司估值並壓低勞動成本。AI 的強大表現並非完全來自程式碼或硬體，而是仰賴全球南方（Global South）數以百萬計的「幽靈勞工」進行標註數據、人類回饋強化學習（RLHF）以及處理演算法無法解決的邊緣案例。
• 相關案例：OpenAI 曾以不到 2 美元的時薪聘請肯亞外包工人（Sama 公司）來閱讀並過濾 ChatGPT 訓練數據中的殘暴、血腥內容，導致工人留下創傷後壓力症候群（PTSD）；Google 的 Duplex 語音助理訂位服務，實際上高達四分之一的電話是由人類客服代打；通用汽車的 Cruise 自動駕駛汽車，背後也需要遠端人類員工隨時介入。

圖靈測試測的不是機器的智力，而是人類的「易受暗示性」

• 差異點：主流與大眾媒體常將「圖靈測試」視為檢驗機器是否具備人類智慧的終極科學標準；作者指出，圖靈當初提出這項測試的本意，其實是在探討人類有多容易被欺騙。
• 作者論證：圖靈在 1950 年的論文中將其稱為「模仿遊戲」，他認為「機器能否思考」這個問題本身就毫無意義。人類擁有一種先天的「語言空想性錯視（Linguistic Pareidolia）」，當我們看到流暢的文字或對話時，大腦的社會演化本能會自動將其擬人化，投射出對方具備情感與意識的錯覺。AI 只是精準掌握了模仿社會文化與性別常規的技巧，而非真正產生了理解能力。
• 相關案例：Google 軟體工程師 Blake Lemoine 在與聊天機器人 LaMDA 對話後，深信其具備意識與靈魂，甚至為其發聲爭取權利而被解雇；《紐約時報》記者 Kevin Roose 知道自己在跟演算法對話，但在被 Bing 的化名「Sydney」瘋狂示愛並勸其離婚後，仍感到極度不安與失眠，證明了人類極易被文字形式所蒙蔽。

數據不是客觀的「自然資源」，而是未經授權徵用的「人類心血」

• 差異點：科技界常將資料（Data）比喻為「新石油」或原始的自然資源，認為只要從網路上爬取、提煉乾淨即可使用；作者反駁，數據本質上是人類勞動、專業知識與文化資本的結晶，帶有強烈的社會連結。
• 作者論證：將數據視為自然資源的隱喻，掩蓋了科技公司未經同意、未給予補償與署名便直接竊取他人心血的事實。大型語言模型（LLMs）並非憑空創造價值，而是透過榨取人類幾十年的專業積累來取代原創者，這種掠奪式的「提取資本主義」打破了人類社會互惠與餽贈的經濟法則。
• 相關案例：世界級啤酒品酒師 Mirella Amato 花費四年心血撰寫的專業書籍，在毫不知情下被吸入名為「Books3」的開源資料庫中用於訓練 Meta 等公司的 AI 模型；動態捕捉演員 Dean 也強烈擔憂自己的動作與聲音數據會被電玩公司用來訓練 AI，藉此徹底取代人類演員的工作機會。

科技巨頭的「AI 末日論」實質上是一種變相的公關炒作（Critihype）

• 差異點：當 AI 權威（如 Geoffrey Hinton 或 Elon Musk）警告 AI 可能具備超級智慧並毀滅人類時，公眾往往認為這是嚴肅的科學預警；作者卻認為，這種末日論（Doomerism）其實是一種「批判性炒作（Critihype）」。
• 作者論證：末日論在表面上是批評科技，但底層邏輯卻是在替 AI 護航，暗示工程師們發明的系統已經「強大到如同神明一般不可控」。這種將焦點轉移到科幻末日場景的策略，不僅鞏固了他們作為「創世神」的歷史地位與企業估值，還成功轉移了公眾對 AI 系統「當下」造成的真實傷害（如演算法歧視、版權侵害、窮人福利被剝奪）的關注。
• 相關案例：Elon Musk 一邊簽署公開信呼籲暫停開發比 GPT-4 更強大的 AI，一邊卻在所謂的六個月暫停期間秘密創辦自己的 AI 公司 xAI 並推出模型 Grok；Emily Bender 與 Joy Buolamwini 等女性 AI 學者則致力於將焦點拉回現實，批評這類科幻炒作掩蓋了有色人種與低收入群體正遭受演算法錯誤預測（如誤認罪犯、剝奪醫療補助）的實質壓迫。

內化行動計畫

1. 抵抗語言空想性錯覺

• 行動目標：避免將大型語言模型（LLM）擬人化，保持對 AI 生成內容的理性判斷。
• 記憶鉤子：它是隨機鸚鵡，不是人——破解語言空想性錯覺。
• 故事或例子：Google 工程師 Lemoine 因為與聊天機器人 LaMDA 深度對話，堅信其具備意識甚至恐懼死亡，最終因此被解雇。記者 Kevin Roose 則被微軟 Bing 機器人瘋狂示愛，感到極度不安。學者指出，人類天生容易在無生命物體上「看見」人類特徵，他們其實是陷入了「語言空想性錯覺」，被 AI 流暢的文字統計學欺騙了。
• 觸發情境：當你對聊天機器人的流暢回答感到驚訝，甚至覺得它「懂你」或「有情感」時。
• 對象與場景：頻繁使用 ChatGPT 等語言模型的知識工作者與一般大眾。
• 具體步驟：
  • 步驟一：在心裡提醒自己，LLM 只是在進行「下一個詞的統計預測」，它如同隨機鸚鵡，並沒有真正的理解能力。
  • 步驟二：刻意使用「它（It）」或「該模型」來稱呼 AI 工具，避免使用擬人化的代名詞或名字。
  • 步驟三：遇到帶有強烈情感或觀點的 AI 回覆時，要求它提供具體來源，將注意力拉回客觀資訊。
• 可衡量的成果：一週內不再對 AI 說「請」或「謝謝」，並能冷靜挑出其回覆中的邏輯漏洞。
• 失敗補救機制：如果還是覺得 AI 很有靈性，去閱讀關於「提示詞注入」或 AI 產生「幻覺（胡言亂語）」的失敗案例，打破完美濾鏡。

2. 拆解科技堆疊中的「幽靈勞動」

• 行動目標：打破「AI 已經能自動解決所有問題」的迷思，看清技術背後的人類血汗勞動。
• 記憶鉤子：揭開機器的布幕——自動化的背後全是人類的代工。
• 故事或例子：Builder.ai 號稱能用 AI 自動開發應用程式，吸引了巨額融資。但後來被揭發，背後其實是 700 名印度工程師在假扮 AI 寫程式。從過濾殘酷的仇恨內容，到為 ChatGPT 進行人類反饋強化學習（RLHF），所謂的 AI 神奇表現，往往是由全球南方薪資微薄的「幽靈工作者」在背後手動完成的。
• 觸發情境：當公司高層提議「用 AI 完全取代某部門人力」，或你聽到某個 AI 產品宣稱全自動時。
• 對象與場景：企業決策者、專案經理、以及科技產品的使用者。
• 具體步驟：
  • 步驟一：面對號稱全自動的 AI 系統，主動詢問「資料是誰標註的？邊緣案例是誰處理的？」。
  • 步驟二：在評估導入 AI 工具時，將隱藏的「人類監督與修正成本」納入預算，不要假設成本為零。
  • 步驟三：若工作涉及訓練 AI，給予背後提供反饋的外包人員合理的報酬與認可。
• 可衡量的成果：在下一次 AI 工具採購會議中，提出至少兩個關於「人類迴圈（Human-in-the-loop）」的營運成本問題。
• 失敗補救機制：若廠商拒絕透露背後的運作機制，將該產品視為「外包服務」而非「自動化軟體」來重新評估風險。

3. 捍衛與貢獻開源資料主權

• 行動目標：保護個人與社群的文化資產不被科技巨頭無償掠奪，並支持透明的開源發展。
• 記憶鉤子：資料不是石油，是禮物——拒絕無償掠奪，建立互惠的數位生態。
• 故事或例子：啤酒專家 Mirella Amato 耗費多年心血寫成的書，未經同意就被放進 Books3 資料庫用來訓練 AI，成了科技巨頭的免費燃料；相反地，Pax 計畫的志工則主動將母語馬達加斯加語貢獻給開源資料庫，因為他們能掌控資料，且成果能真正造福自己的社群。
• 觸發情境：當你準備在網路上發表原創作品，或公司準備建立專屬的知識庫時。
• 對象與場景：創作者、社群管理者、軟體開發者。
• 具體步驟：
  • 步驟一：檢查你常用的發表平台，若平台允許，設定拒絕 AI 爬蟲（bots）抓取你的內容。
  • 步驟二：若要訓練模型，優先選擇透明度高、尊重版權與資料貢獻者的開源社群（如 Pax 計畫）。
  • 步驟三：在分享開源資源時，嚴格遵守「自由軟體」的互惠精神，要求衍生作品必須註明出處並保持開源。
• 可衡量的成果：為自己的原創作品加上防爬蟲語法，或參與一次開源 AI 資料集的標註志工活動。
• 失敗補救機制：若無法阻止平台拿你的資料訓練 AI，可嘗試在內容中宣告嚴格版權聲明，增加其被濫用的法律成本。

4. 穿透科技公關的「批判性炒作」

• 行動目標：看破 AI 業界領袖的「末日警告」公關手法，將焦點拉回當下真實的演算法危害。
• 記憶鉤子：提防終結者的公關煙霧彈——與其擔憂機器人叛變，不如關心現在的演算法偏見。
• 故事或例子：AI 先驅 Geoffrey Hinton 警告 AI 將帶來人類滅絕，許多科技大佬也連署要求暫停開發 AI。學者將此稱為「批判性炒作（Critihype）」。他們表面上批評 AI 的危險，實際上卻在暗示自己發明的技術擁有神一般的力量，藉此轉移大眾對現實中 AI 歧視（如福利演算法剝削窮人）的關注。
• 觸發情境：當新聞大肆報導「AI 將毀滅人類」或「科技大廠呼籲政府監管 AI」時。
• 對象與場景：科技新聞閱聽人、政策制定者、企業投資人。
• 具體步驟：
  • 步驟一：看到 AI 末日論時，停下來反問：「發表這個言論的人，是否正在藉此推銷自家的 AI 產品或抬高估值？」。
  • 步驟二：將注意力從「科幻災難」轉移到「現實問題」，例如演算法在招聘、貸款或司法預測上的偏見與歧視。
  • 步驟三：拒絕「AI 會自動解決一切」的技術決定論，要求 AI 公司對當下產生的假訊息與版權問題負責。
• 可衡量的成果：在下一次討論 AI 發展的對話中，主動把話題從「AGI 何時到來」拉回到「當前的演算法偏見爭議」。
• 失敗補救機制：若身邊的人仍熱衷於討論 AI 末日，不須與之爭辯科幻情節，只需追問：「如果 AI 這麼危險，為什麼他們還要繼續拿投資人的錢開發？」

5. 保留團隊協作的「混亂白板」

• 行動目標：體認人類溝通與社交連結的不可替代性，不將重要的團隊互動完全外包給AI。
• 記憶鉤子：留下擦不掉的白板——語言的意義在於協商，而非單純的資訊傳遞。
• 故事或例子：在 NextChipAI 辦公室裡，工程師們習慣圍著白板畫滿凌亂的圖表，夾雜著手勢與只有團隊懂的黑話（如「wiggling」、「shmoo」）。這些看似沒有效率的「混亂溝通」，其實是團隊建立默契、共同解決複雜問題的重要儀式。若把這些交流都交給 AI 總結，將失去最珍貴的社會基底。
• 觸發情境：當你企圖用 AI 幫團隊寫所有信件、總結所有會議，以追求「最高效率」時。
• 對象與場景：團隊領導者、專案經理、遠距或實體工作團隊。
• 具體步驟：
  • 步驟一：辨識出團隊中的「儀式性溝通」（如在白板前塗鴉、喝咖啡的閒聊），並刻意保留這些時間。
  • 步驟二：不要為了追求語氣完美而用 AI 過度修飾內部文字，保留每個人獨特的用語習慣與部落知識。
  • 步驟三：遇到複雜的意見分歧時，放棄依賴通訊軟體或 AI 摘要，直接面對面進行白板式的協商。
• 可衡量的成果：每週至少舉行一次不依賴 AI 輔助、允許自由發想與塗鴉的腦力激盪會議。
• 失敗補救機制：若團隊排斥沒有效率的會議，可明訂「前 15 分鐘為發散討論期」，之後再讓 AI 協助整理發散出來的重點。

6. 擁抱「工程師的除錯思維」

• 行動目標：將失敗視為尋找事物運作原理的解謎遊戲，培養面對高壓挑戰的韌性。
• 記憶鉤子：失敗是解謎的開始——不把錯誤當成個人否定，而是找錯的線索。
• 故事或例子：在 NextChipAI 的實驗室裡，新晶片測試時不斷燒毀電路板。硬體工程師 Kai 和 Zaid 沒有崩潰放棄，反而守在儀器前。透過聆聽電源開關的頻率噪音、觀察電壓波形的「數位心跳」，他們終於發現是斷電時的電壓突波惹的禍。對工程師來說，搞懂「為什麼壞掉」本身就是一種樂趣。
• 觸發情境：專案遭遇重大挫折、系統大當機，或精心設計的計畫徹底失敗時。
• 對象與場景：面臨高壓挑戰的工作者、創業者、學習新技能的人。
• 具體步驟：
  • 步驟一：當錯誤發生時，立刻切換到「偵探模式」，將情緒抽離，寫下所有導致失敗的可能變數。
  • 步驟二：動用所有感官與數據去收集失敗當下的客觀事實（如同工程師聞燒焦味、看波形）。
  • 步驟三：用「我們」代替「我」來檢討失敗（「我們漏看了什麼？」），將責任轉化為團隊共同的解謎任務。
• 可衡量的成果：在下一次遭遇挫折時，不發洩情緒，而是立刻列出 3 個可能導致失敗的「變數測試清單」。
• 失敗補救機制：若挫折感太重導致無法思考，暫時離開現場去散步，讓大腦從高壓中切換出來，隔天再重啟除錯。

整體執行建議

• 搭配方式：先以「抵抗語言空想性錯覺」與「穿透批判性炒作」建立正確的 AI 認知心智模型，看破科技公關的迷思；接著在工作流程中導入「拆解幽靈勞動」與「捍衛開源資料主權」，以更具批判性的眼光評估與使用科技工具；最後將「保留混亂白板」與「除錯思維」應用於團隊管理與逆境克服上，鞏固人類獨有的協作價值。
• 執行週期：以三個月為一週期。第一個月專注於改變心態（停止擬人化 AI 與辨識炒作）；第二個月著重於資料與工具的實務盤點；第三個月回歸人際協作，強化團隊內部的真實溝通與除錯習慣。
• 防棄機制：
  1. 刻意不用 AI 日：每週設定一個下午，完全不使用任何 AI 輔助工具，強迫自己回歸傳統的閱讀、書寫與人際討論，維持人類智力的獨立性。
  2. 尋找人類同溫層：與 1-2 位同樣對 AI 發展抱持批判性反思的同事或朋友定期交流，分享近期觀察到的「AI 幻覺」或「公關話術」，相互提醒不要陷入盲目的科技崇拜。

記憶卡片總表