智能爆炸

詹姆斯·巴拉特

相關主題

商品描述

生成式人工智能飛速崛起,人們對人工智能系統既滋生出生存層面的擔憂,也湧現出不加思辨的追捧。在這個技術發展的時代,認清人工智能帶來的深遠影響——無論利弊——比以往任何時候更為關鍵。

本書提供了一套分析工具,幫助大家看清紛繁覆雜、亂象叢生的當代人工智能圖景。這本具吸引力的深入剖析了生成式人工智能帶來的各類挑戰,揭示了大型科技公司所搭建的系統既容易出錯,又無法被完全解讀的現狀。

通過對人工智能領域先驅的深度訪談,巴拉展示了人工智能發展充滿變數的軌跡,既呈現其帶來有限益處的可能性,也揭示其會釀成災難性後果的風險。本書觀點鮮明、啟人深思,具閱讀值,是每一位想要直面這場技術革命現實的讀者的讀之作。

目錄大綱

序 章

第一章 壞的情況會是什麼?

智能炸:一個思想實驗

ChatGPT 的橫空出世與“魔法”

生成式 AI:煉金術而非科學

魯棒性缺失:偏見、錯誤與毒性

第二章 壞的情況會更壞

制造者的警告:公開信與監督呼籲

尤德科夫斯基的端預言

競賽:資本、傲慢與地位

比毀滅更糟:無盡的痛苦

第三章 引擎蓋下(上)——遠看向生活光明的一面

生成式 AI的商業潛力與科學應用

本·戈策爾:反對末日論

弗蘭克·羅森布拉與感知機的興衰

傑弗裏·辛頓與深度學習的突破

轉換器架構與生成革命

第四章 引擎蓋下(下)——不可靠、不可預測且非法

人工智能倫理的三大支柱

算法失範的悲劇案例

LAION 數據集與兒童虐待內容

OpenAI在肯尼亞的倫理汙點

版權爭議:盜竊還是創新

第五章 生成式人工智能受審

合理使用之爭:大型科技公司的邏輯

遊說、監管俘獲與“AI快速響應小組”

不可索解的黑箱與版權困局

第六章 智能炸(上)——點燃

機械可解釋性:窺視黑箱的科學

模型:AI的空間與時間表征

開源之辯:創新加速器還是風險倍增器

湧現:不可預測的質變

第七章 智能炸(中)——點火的兩條道路

遞歸式自我改進與指數級增長

快速起飛與慢速接管

第八章 智能炸(下)——

失業浪潮:從藝術家到知識工作者

通用 AI員工與機器人革命

自然選擇偏愛 AI:達爾文主義在數字的演繹

賈恩·塔林和“黑箱 AI”

欺騙、自私與接管推演

第九章 對齊問題

對齊與倫理:目標一性與道德框架

人類值的矛盾與對齊的難題

值鎖定:我們想存什麼

第十章 上車吧,失敗者——我們正駛向失敗!

無效的控制框架和倫理文化

要不要把方向盤交給 Meta、OpenAI、谷歌

第十一章 繁榮,還是崩盤?

兩未來:烏托邦與滅之間

來自內的警告

第十二章 壯麗七人組

一場存在性災難

讓人類來拯救

第十三章 你死後,錢將如何被花掉?

AI研究的資助版圖

建立一整套不易被 AI攻擊的人類基礎設施

結 語

參考文獻

最後瀏覽商品 (20)