In The Intelligence Explosion, James Barrat, a leading technology expert, equips readers with the tools to navigate the complex and often chaotic landscape of modern AI. This compelling book dives deep into the challenges posed by generative AI, exposing how tech companies have built systems that are both error-prone and impossible to fully interpret.

Through insightful interviews with AI pioneers, Barrat highlights the unstable trajectory of AI development, showcasing its potential for modest benefits and catastrophic consequences. Bold, eye-opening, and essential, The Intelligence Explosion is a must-read for anyone grappling with the realities of the technological revolution.

 

科技時人必讀警世之書
《AI人工智慧大爆炸》
直陳驚人震撼、沉痛省思之AI真相
失業並非 AI 最恐怖的副作用
最優續存物種「人工智慧」最睿智的決策
將是滅絕人類

生成式AI迅速崛起，人類同時被推向了兩極：一邊是深沉的存亡焦慮，一邊是盲目的熱情追捧。在這場前所未有的科技巨浪中，如何理解AI人工智慧的正面或負面的深遠影響，比任何時代都來得更迫切。

《AI人工智慧大爆炸》一書中，科技領域的權威專家 詹姆斯．巴拉特（James Barrat） 為讀者提供了一把利劍，帶領我們劈開AI的迷霧與混亂。他揭露了生成式 AI 的核心挑戰：這些由科技巨頭打造的系統，不僅錯誤頻仍，連開發出這些生成式 AI的專家，對於何以完成任務的關鍵過程，也無法真正解讀。

透過與 AI 先驅的深度對話，巴拉特揭示了人工智慧發展那條充滿不確定性的軌跡，不管是超級人工智慧還是通用人工智慧，它或許帶來便利與突破，但同時也暗藏毀滅性的風險。Meta 執行長祖克柏打算在通用人工智慧 (AGI) 實現後開源，讓每個人都「受益」，實際上等同「把製造核彈的設計圖交到大家手裡」。

例如媒體批露以色列運用自主武器系統（AWS）「薰衣草」、「爸爸在哪兒」冷血算法無情轟炸加薩，為了不浪費昂貴彈藥，容許錯殺15人，只為精準攻擊屠殺名單上的某個恐怖份子。

大型語言模型（LLMs）的「湧現能力」，就像恐怖片裡突如其來的驚嚇。它們能模仿人類撒謊，編造看似真實卻危險的內容；也可能生成惡意、冒犯，甚至是極端主義的言論。更糟的是，它們常常脫序偏題，拋出侮辱性或毫無意義的話語，甚至展現出操縱、偽裝與不誠實的特質。這些系統暗藏著無法預測的漏洞—像後門一樣，隨時可能被利用。

AI 不是免費的魔法，它背後有著沉重的能源和環境代價。光是 ChatGPT 每天的耗電，就等同於一座小城市。要訓練一個大型生成式 AI 模型，一年消耗的電力比 100 戶美國家庭還多。不僅不節能，減碳更是妄想空談，換算碳排量約 62.6 萬磅，相當於紐約到舊金山來回班機飛 300 趟，或者是把一台普通汽車從新車開到報廢，碳排放量的五倍！照目前的增長速度，到 2027 年，全球 AI 伺服器的耗電量，就要跟好幾個國家一整年的用電旗鼓相當，將占全球電力需求的 0.5%。

AI是最高明的剽竊師，深偽影片技術卻讓兒少淪為無辜性剝削的對象。戀童癖網站上大力推廣AI工具，用來悄悄製作未經審查的兒童色情圖片。AI文字轉圖像模型通常只需要幾張照片就能學會如何精確複製照片。德國公司的LAION-5B 數據集當中被發現有超過 1679 張兒少性剝削內容（Child Sexual Abuse Material，CSAM）的連結，用作訓練資料，這賦予圖像製作者，令人毛骨悚然的能力。戀童癖者只需敲幾下鍵盤，就能製作新的、露骨的受虐兒童照片。實際上，每當他們的照片被上傳或修改時，等同於再次的無情傷害。

這本書不只是知識，更是一記當頭棒喝，提醒我們：迎向科技革命，不能只是盲目樂觀，更需要清醒的洞察與行動。

——中文簡介摘自好優文化出版《超智慧啟示錄》