湧現：從簡單規則到覆雜世界

張江 北京師範大學系統科學學院教授，集智俱樂部、集智學園創辦人，集智科學研究中心理事長，National Science Review（《國家科學評論》）編委成員。主要研究領域：因果湧現、覆雜系統分析與建模、覆雜網絡與機器學習、社會與經濟系統的規模法則等。

*篇 生命中的湧現
第1章　隨椋鳥飛行　2
1.1　靈活一致性　3
1.2　局部簡單規則　4
1.3　破解真實鳥群　5
1.4　小結　7
參考文獻　7
第2章　蟻群的智慧　8
2.1　螞蟻社會　8
2.2　*生物體　9
2.3　螞蟻覓食　10
2.3.1　覓食實驗　11
2.3.2　信息素與正反饋　12
2.3.3　模擬實驗　13
2.4　蟻群的啟發　14
參考文獻　15
第3章　神奇的黏菌設計師　16
3.1　黏菌—阿米巴　16
3.2　黏菌路網規劃實驗　17
3.3　揭秘黏菌的湧現　18
3.3.1　收縮的管道　18
3.3.2　正反饋　19
3.3.3　黏菌模擬　19
3.4　黏菌“寵物”　22
參考文獻　22
第4章　無中生有　23
4.1　什麼是湧現　23
4.2　秩序的無中生有　23
4.3　度量湧現　24
4.3.1　無序和有序的度量——
信息熵　25
4.3.2　湧現的量化　26
4.3.3　不足　27
4.4　湧現與計算機模擬　28
參考文獻　29
*篇　計算機程序中的湧現
第5章　模擬生靈　32
5.1　人工生命：Floy　32
5.1.1　運行Floy　33
5.1.2　Floy的規則　34
5.1.3　Floy帶來的啟發　35
5.2　群體運動的統一　35
5.2.1　作用區間　36
5.2.2　多種集體行為　36
5.2.3　小結　38
5.3　蘭頓螞蟻　38
5.3.1　規則　39
5.3.2　行為模式　39
5.3.3　神奇的“高速公路”　40
5.3.4　各種擴展　40
5.3.5　小結　40
參考文獻　41
第6章　方格宇宙　42
6.1　神奇的生命遊戲　42
6.1.1　遊戲規則　43
6.1.2　斑圖　43
6.1.3　更多神奇的結構　44
6.1.4　生命遊戲的意義　47
6.2　基礎元胞自動機　48
6.2.1　狀態　48
6.2.2　鄰域　48
6.2.3　規則　49
6.2.4　編碼　50
6.2.5　執行規則　50
6.2.6　循環邊界　50
6.2.7　運行　51
6.2.8　湧現*是一張運行圖　51
6.3　元胞自動機分類　52
6.3.1　四種類型　54
6.3.2　信息擴散　55
6.4　小結　56
參考文獻　56
第7章　計算宇宙　57
7.1　各式計算宇宙　57
7.1.1　圖靈機　57
7.1.2　替代系統　60
7.1.3　正整數　61
7.2　計算宇宙之間的紐帶　63
7.2.1　元胞自動機模擬圖靈機　63
7.2.2　圖靈機模擬元胞自動機　65
7.2.3　通用機器　67
7.2.4　尋找*小通用機器　68
7.3　兩條重要原理　69
7.3.1　計算等價性原理　69
7.3.2　計算不可約原理　71
7.4　小結　71
參考文獻　72
第8章　從人工神經網絡到大語言
模型　73
8.1　從設計到湧現　73
8.2　神經網絡　74
8.2.1　神經元與神經網絡　74
8.2.2　神經網絡的學習能力　75
8.2.3　各式神經網絡　78
8.3　大語言模型　82
8.3.1　何謂語言模型　82
8.3.2　預訓練與微調　83
8.3.3　大則不同　83
8.3.4　提示詞誘導的能力　84
8.3.5　上下文學習　84
8.3.6　思維鏈與覆雜推理　85
8.3.7　測試階段推理　86
8.4　湧現的人工智能　86
參考文獻　87
第9章　大語言模型中的湧現　88
9.1　神經網絡的頓悟　88
9.2　大語言模型的能力湧現　90
9.3　什麼是湧現　92
9.4　滲流與相變　93
9.4.1　森林火災模型　93
9.4.2　隨機網絡　96
9.4.3　相變與臨界　97
9.5　大語言模型中的滲流　98
9.5.1　概念-特征二分圖　99
9.5.2　二分圖上的滲流相變　99
9.5.3　不足與展望　100
參考文獻　101
第10章　混沌與秩序的邊緣　102
10.1　蘭頓的參數　102
10.2　再探四種類型的元胞自動機　103
10.2.1　混沌邊緣的相變　104
10.2.2　覆雜度的突變　105
10.3　擴展討論　106
10.4　混沌邊緣下的湧現　107
參考文獻　107
第11章　自組織臨界與程序進化　108
11.1　沙堆模型與自組織臨界　108
11.1.1　沙堆模型　108
11.1.2　自組織臨界　110
11.2　數字生命　110
11.2.1　生物進化　110
11.2.2　模擬生物進化　111
11.2.3　進化的Floy　112
11.2.4　Tierra　114
11.3　進化與湧現　118
11.4　程序世界的總結　119
參考文獻　120
第三篇　人類群體中的湧現
第12章　人類的集體愚蠢　122
12.1　大規模擁擠與踩踏　122
12.1.1　大規模踩踏事件　122
12.1.2　大規模人群=流體？　123
12.1.3　如何避免群體踩踏　123
12.2　交通堵塞　124
12.3　烏合之眾　126
12.4　為什麼“萬物靈長”會成為
“烏合之眾”　127
參考文獻　127
第13章　人類的群體智能　128
13.1　群氓的智慧　128
13.1.1　集體乒乓球　128
13.1.2　上萬人集體玩《原神》　129
13.1.3　百萬用戶的拼圖　130
13.1.4　群氓的智慧的產生　131
13.2　群體智能與集體愚蠢　132
參考文獻　132
第14章　協同的力量　133
14.1　整體與部分　133
14.1.1　整體不等於部分　133
14.1.2　整體大於部分之和　134
14.1.3　整體小於部分之和　135
14.2　協同是什麼　135
14.2.1　時空同步　136
14.2.2　信息力　136
14.3　量化協同　136
14.3.1　互信息　137
14.3.2　互信息的分解　138
14.3.3　多個源變量與冗餘
晶格　142
14.4　小結　146
參考文獻　146
第15章　人類組織中的群體智能　148
15.1　組織——從“紅色”到
“青色”　148
15.2　測量“集體智商”　151
15.2.1　麥格拉思任務環形圖　151
15.2.2　影響“集體智商”的
因素　152
15.2.3　決策流與評價流的
對沖　153
15.2.4　多樣性　154
15.2.5　協同湧現與團隊表現　155
15.3　多樣性、產出與增長　157
15.3.1　規模法則　158
15.3.2　協同與冗餘的新度量　160
15.3.3　新度量方法的優缺點　162
15.4　組織層級的湧現　162
15.4.1　收益與成本　163
15.4.2　層級化組織　164
15.4.3　層級化組織的*模型　165
15.4.4　對鄧巴數比例的解釋　168
15.5　小結　169
參考文獻　170
第四篇　走進物理世界
第16章　*越協同　172
16.1　繩子上的波　172
16.2　錢塘潮　174
16.3　臺風　176
16.4　木星大紅斑　177
16.5　不僅是協同　178
16.5.1　新物理的湧現　179
16.5.2　熱力學與統計物理學　179
16.5.3　真實還是虛擬　181
參考文獻　182
第17章　走進數學世界　183
17.1　什麼是動力系統　183
17.1.1　狀態　184
17.1.2　動力學　185
17.1.3　演化　186
17.2　隨機動力系統　187
17.3　馬爾可夫鏈　189
17.3.1　狀態轉移圖　189
17.3.2　狀態分布、動力學與
演化　192
17.3.3　如何得到馬爾可夫鏈　199
17.3.4　與確定性動力系統的
比較　200
17.4　小結　200
參考文獻　200
第五篇　揭秘湧現
第18章　從現象到本質　202
18.1　湧現意味著什麼　203
18.1.1　新奇性　204
18.1.2　自組織　204
18.1.3　去中心化　205
18.1.4　穩健性與適應性　206
18.1.5　*越設計　206
18.2　湧現的歷史　207
18.2.1　整體先於部分　207
18.2.2　格式塔心理學　208
18.2.3　原始湧現主義　209
18.2.4　新湧現主義——覆雜
科學　209
18.2.5　湧現的量化研究　210
18.3　湧現的定義　211
18.3.1　不可歸約性　211
18.3.2　不可預測性　212
18.3.3　融合思路　212
18.3.4　產生方式與行為表現　212
18.4　湧現的核心要素　213
18.4.1　尺度　213
18.4.2　觀察者　215
18.4.3　斑圖　217
18.4.4　因果　218
18.4.5　湧現的因果　219
18.4.6　綜合　221
參考文獻　222
第19章　湧現的分類　224
19.1　基於歸因的分類　224
19.1.1　名義湧現　224
19.1.2　弱湧現　224
19.1.3　強湧現　225
19.1.4　小結　226
19.2　基於反饋的分類　227
19.2.1　簡單湧現（不存在
反饋）　227
19.2.2　弱湧現（存在反饋）　228
19.2.3　多重湧現（正負反饋
並存）　228
19.2.4　強湧現（隨附性）　231
19.2.5　小結　232
19.3　基於觀察者的分類　232
19.3.1　發現　233
19.3.2　反思湧現　233
19.3.3　機械湧現　233
19.4　更多分類方式　234
參考文獻　234
第20章　因果湧現　235
20.1　什麼是因果湧現　235
20.2　布爾網絡上的因果湧現　237
20.2.1　四節點的簡單例子　238
20.2.2　有效信息　239
20.2.3　粗粒化　239
20.2.4　更多例子　241
20.2.5　小結　242
20.3　馬爾可夫鏈上的因果湧現　242
20.3.1　有效信息　243
20.3.2　例子　245
20.3.3　如何計算　246
20.3.4　狀態空間的粗粒化　248
20.3.5　狀態轉移圖的粗粒化　249
20.3.6　因果湧現示例　251
20.3.7　有效性與有效性湧現　253
20.3.8　觀察者效應與*化
有效信息　253
20.3.9　小結　255
20.4　覆雜網絡上的因果湧現　255
20.4.1　各種網絡的有效信息　255
20.4.2　覆雜網絡的因果湧現　257
20.5　應用案例　259
20.5.1　基因調控網絡　259
20.5.2　演化與湧現　260
20.5.3　蟻群互動網絡　261
20.6　小結　262
參考文獻　263
第21章　湧現的信息分解理論　264
21.1　量化因果湧現　265
21.1.1　赫爾等人框架中的
一個問題　265
21.1.2　為什麼要用信息分解　266
21.1.3　基於特有信息的定義　266
21.1.4　基於協同信息的定義　267
21.2　因果湧現的分解　270
21.2.1　整合信息分解　271
21.2.2　因果湧現的分解　273
21.2.3　因果解耦　273
21.2.4　向下因果　274
21.3　優勢和不足　275
21.3.1　優勢：不需要粗粒化
方案　275
21.3.2　優勢：能夠清晰反映
“整體大於部分之和”　275
21.3.3　優勢：因果解耦和向下
因果　276
21.3.4　不足：計算方法的缺失
與不足　276
21.3.5　不足：信息分解理論
存在缺陷　276
21.3.6　不足：與因果無關　277
21.4　兩套理論的融合　277
21.4.1　因果湧現與信息分解　277
21.4.2　有效信息的分解　280
21.5　小結　284
參考文獻　285
第22章　因果湧現與時間倒流　286
22.1　動力學與信道　287
22.1.1　香農的通信模型　287
22.1.2　動力學即信道　287
22.1.3　馬爾可夫鏈　288
22.2　動力學可逆性　289
22.2.1　什麼是動力學可逆性　289
22.2.2　近似動力學可逆性　289
22.2.3　近似動力學可逆性的
本質　293
22.3　基於可逆性的因果湧現　297
22.3.1　動力學可逆性的湧現　297
22.3.2　更多討論　302
參考文獻　305
第23章　更多湧現理論　306
23.1　因果湧現2.0　306
23.1.1　更廣泛的因果效應度量
手段　306
23.1.2　微觀—宏觀路徑　307
23.1.3　因果分配模式　307
23.1.4　湧現覆雜度　308
23.2　閉圈理論　309
23.3　廣義的湧現　311
23.3.1　對稱性湧現理論　312
23.3.2　廣義的秩序湧現　313
23.3.3　目標導向性的湧現　313
23.3.4　範疇論表述　314
23.4　小結　316
參考文獻　316
第六篇　人工智能與湧現
第24章　覆雜系統自動建模　318
24.1　科學智能　318
24.2　覆雜科學與人工智能　319
24.3　覆雜系統的數據驅動建模　319
24.4　動力學學習　320
24.4.1　回聲狀態網絡　321
24.4.2　圖神經網絡　321
24.4.3　霧霾預報　322
24.5　網絡重構　325
24.5.1　GGN　325
24.5.2　AIDD　327
24.5.3　動態圖學習　328
24.6　小結　329
參考文獻　329
第25章　從數據中發現湧現　330
25.1　因果湧現識別　330
25.1.1　輸入　331
25.1.2　輸出　331
25.2　NIS　332
25.2.1　預測世界的下一步　332
25.2.2　NIS的總體框架　332
25.2.3　編碼器　333
25.2.4　解碼器　336
25.2.5　動力學學習器　337
25.2.6　訓練和學習　337
25.2.7　遍歷　337
25.2.8　實驗結果　338
25.2.9　小結　345
25.2.10　信息通路與信息瓶頸　345
25.2.11　優勢與不足　347
25.3　NIS+　347
25.3.1　數學！數學！數學！　348
25.3.2　NIS+框架　349
25.3.3　覆雜的編碼器　350
25.3.4　訓練　352
25.3.5　實驗結果　353
25.3.6　優勢與不足　360
25.3.7　*化有效信息原理　361
25.3.8　機器觀察者　363
參考文獻　364
第26章　計算力學——湧現研究的
新範式　365
26.1　什麼是計算力學　366
26.2　湧現的觀察者視角　368
26.3　觀察者智能體　369
26.3.1　0級模型　370
26.3.2　因果態　371
26.3.3　機　372
26.3.4　機器的升級　373
26.3.5　一個重構的實例　374
26.3.6　意義　375
26.4　覆雜度　376
26.4.1　柯氏覆雜度　376
26.4.2　統計覆雜度　377
26.5　對比　379
26.5.1　與因果湧現的比較　379
26.5.2　與NIS系列的對比　380
26.6　小結　382
參考文獻　382
第七篇　湧現理論的應用
第27章　因果湧現與意識之謎　384
27.1　唯物、唯心與湧現　384
27.2　意識的整合信息理論　385
27.2.1　多和一　385
27.2.2　386
27.2.3　示例　387
27.2.4　和意識的關系　389
27.2.5　關於意識的六條公理　390
27.2.6　實驗驗證　392
27.2.7　批判　393
27.3　大腦中的因果湧現　393
27.3.1　實驗與數據　394
27.3.2　因果湧現結果　395
27.3.3　湧現動力學　395
27.3.4　歸因分析　397
27.4　大腦中的協同與冗餘　399
27.5　意識與因果湧現　400
參考文獻　401
第28章　生命活性的度量　402
28.1　背景　402
28.1.1　兩種看似矛盾的能力　402
28.1.2　個體信息論　403
28.1.3　有效信息的重要性　404
28.2　定義活性　404
28.2.1　因果機制　404
28.2.2　有效信息　406
28.2.3　活性的度量　406
28.2.4　活性的分解　407
28.3　活性指標的應用　408
28.3.1　用活性指標刻畫混沌
邊緣狀態　408
28.3.2　布爾網絡的活性　409
28.3.3　尋找*適應的基因組件　410
28.3.4　應用前景　412
參考文獻　412
第29章　湧現計算　413
29.1　什麼是湧現計算　413
29.2　基於仿生的湧現計算　414
29.2.1　從鳥群到粒子群的優化
算法　414
29.2.2　螞蟻覓食的優化算法　415
29.2.3　黏菌的湧現計算　417
29.2.4　小結　418
29.3　基於進化的湧現計算　419
29.4　可微分的元胞自動機　421
29.5　大模型加持的搜索　423
29.5.1　基礎模型　424
29.5.2　生命程序的向量表示　424
29.5.3　搜索程序空間　424
29.5.4　量化湧現現象　428
29.6　湧現計算引發的思考　429
參考文獻　429
第30章　湧現控制　431
30.1　什麼是控制　432
30.1.1　控制的基本概念　432
30.1.2　控制問題的特別之處　433
30.2　覆雜系統的控制　433
30.2.1　覆雜的因果之網　433
30.2.2　找到那只“小蝴蝶”　434
30.2.3　“小蝴蝶”與“大勢能”　435
30.3　湧現控制理論　435
30.3.1　分布式湧現控制　435
30.3.2　基於湧現因果的湧現
控制　436
30.4　研究案例　438
30.4.1　預判“大勢”　438
30.4.2　尋找“蝴蝶”　439
30.4.3　覆雜網絡的可控性　441
30.4.4　四兩撥千斤　442
30.4.5　自重構機器人　443
30.4.6　數據驅動的控制　444
30.4.7　強化學習與湧現控制　445
30.5　小結　450
參考文獻　450
第31章　湧現設計　452
31.1　簡單算法的非凡覆雜性　452
31.1.1　覆數疊代的神奇世界　452
31.1.2　L系統的非凡創造　455
31.1.3　元胞自動機音樂　457
31.1.4　集群動畫　459
31.2　AI大模型的創造　460
31.2.1　生成式AI模型　460
31.2.2　深度夢境　462
31.3　交互式進化　463
31.3.1　盲眼的鐘表匠　463
31.3.2　人臉的“進化”　465
31.3.3　與生成式AI結合　465
31.4　湧現與遊戲　467
31.4.1　湧現與沈浸　468
31.4.2　面向遊戲設計的人工
智能　469
31.5　湧現設計的更多應用　472
31.5.1　教育領域的湧現設計　472
31.5.2　敏捷開發　472
31.5.3　建築領域的湧現設計　473
參考文獻　474
第32章　模擬真實社會　476
32.1　如何創造人工社會　476
32.1.1　市場的出現　477
32.1.2　價格的形成　479
32.2　湧現還是進化　481
32.2.1　社會分工及其進化　481
32.2.2　貨幣的湧現　485
32.3　網絡遊戲——大規模的真人
模擬　488
32.3.1　虛擬世界中的疫情
傳播　488
32.3.2　人工市場中的不可
預測性　489
32.3.3　測算網絡遊戲的GDP　490
32.4　基於大語言模型的社會學模擬　491
32.4.1　斯坦福小鎮　491
32.4.2　人工“利維坦”　492
32.4.3　社會模擬器
AgentSociety　493
32.4.4　宏觀經濟系統模擬器EconAgent　494
32.4.5　更*的評估　495
32.5　小結　495
參考文獻　495
第33章　人機協同與未來社會　497
33.1　AI會取代人類嗎　498
33.1.1　奇點臨近　498
33.1.2　被忽視的人機關系　498
33.1.3　人的意義　499
33.2　AI外衣　500
33.2.1　界面革命　500
33.2.2　AI智能體　501
33.2.3　智能體式AI　502
33.2.4　智能體之網　503
33.2.5　機器經濟人　504
33.2.6　“上帝視角”的優化　505
33.3　人機混合社會　508
33.3.1　人機社會學　508
33.3.2　從眾包到遊戲化　510
33.3.3　兩種智能　512
33.3.4　註意力流視角　515
33.4　走近2050　518
33.4.1　地球生態系統　519
33.4.2　能量流和系統嵌套　521
33.4.3　具身智能與向下因果　521
33.4.4　自穩態調節與全球腦
覺醒　522
參考文獻　523
第八篇　終結
第34章　結語與展望　526
34.1　湧現　526
34.1.1　簡單程序中的發現　526
34.1.2　協同*是整體大於部分
之和　527
34.1.3　宏觀*越微觀　527
34.1.4　湧現認識小結　527
34.2　觀察者與湧現　528
34.2.1　觀察者效應能*嗎　528
34.2.2　因果湧現的雙重含義　528
34.2.3　機器觀察者　529
34.2.4　湧現是不是一種觀察者
效應　530
34.2.5　大語言模型中的湧現　530
34.3　因果　531
34.3.1　因果機制　531
34.3.2　因果力　531
34.3.3　因果力與可逆性　532
34.3.4　對稱性的湧現與破缺　532
34.3.5　因果力與觀察者　533
34.3.6　向下因果　534
34.3.7　自由意誌　535
34.4　湧現理論與東方智慧　536
參考文獻　537
附錄　冗餘信息、特有信息和
協同信息的計算方法　538