無界——透視微軟創新研究之境

第1章　引領計算新範式 1
1.1　深入的科學研究比以往任何時候都更加重要 2
1.2　人工智能基礎創新的第二增長曲線 8
1.2.1　基礎模型是人工智能的第一性原理 10
1.2.2　推理效率是新一代基礎模型架構革新的關鍵驅動力 12
1.2.3　推動多模態大語言模型演進，邁向原生多模態 14
1.2.4　推進通用型人工智能基礎研究第二增長曲線 16
1.3　大模型時代的電腦系統革新：更大規模、更分佈式、更智能化 18
1.3.1　大規模和高效的電腦系統是下一代人工智能發展的基石 19
1.3.2　以智能化為內核，重塑雲計算系統 20
1.3.3　分佈式系統將是分佈式智能的關鍵基礎設施 22
1.3.4　未來的電腦系統將自我演化 23
1.4　媒體基礎：打開多模態大模型的新思路 24
1.4.1　打破復雜真實世界與抽象語義之間的壁壘 25
1.4.2　神經編解碼器構建多媒體的抽象表示 27
1.4.3　探索隱文本語言之外的另一種可能 28
1.5　創新智能環境帶來無線通信與感知的新視角 30
1.5.1　無線通信逼近理論極限，通信範圍成最大挑戰 31
1.5.2　突破傳統思維，為無線通道構建可調整的
智能環境 32
1.5.3　創造智能環境，實現更易用的無線感知 35
1.6　大模型時代更需要電腦理論研究 39
1.6.1　電腦理論研究是一門交叉學科 39
1.6.2　通過理論研究獲得解釋 40
1.6.3　AI發展越快，電腦理論研究面臨的問題越多 41
1.6.4　新的技術方向推動理論研究發展 42
1.6.5　大語言模型帶來的改變 43
1.6.6　理論研究更需要創新 44
1.7　AI編譯器界“工業重金屬四部曲” 45
1.7.1　AI編譯“夯土機”Rammer：提升硬件並行利用率 46
1.7.2　AI編譯“壓路機”Roller：提高編譯效率 48
1.7.3　AI編譯“電焊機”Welder：優化全局訪存效率 49
1.7.4　AI編譯“研磨機”Grinder：實現控制流的高效執行 51
1.8　統一化數據庫：為大語言模型垂域應用奠定基礎 53
1.8.1　VBase復雜查詢系統 55
1.8.2　SPFresh：向量索引的實時就地增量更新 57
1.8.3　OneSparse：稀疏向量索引和稠密向量索引的統一化查詢 58
1.8.4　統一化數據庫加速大語言模型的發展和硬件創新 59
1.9　跨越模態邊界，探索原生多模態大語言模型 61
1.9.1　原生多模態大語言模型 62
1.9.2　語言是多模態模型的基礎 63
1.9.3　聲音與視頻模態也可以基於語言模型的方法建模 65
1.9.4　從算法和架構上推動原生多模態大語言模型發展 66
第2章　跨越學科的邊界 69
2.1　大模型在醫療健康領域的應用 70
2.1.1　面向未來的情境研究：大語言模型與科研未來的交匯 70
2.1.2　GPT-4與醫療未來：人工智能的機遇與挑戰 72
2.1.3　人工智能與醫療決策：信任、監管和自我規範 75
2.1.4　微軟視野：定義人工智能的未來方向 76
2.2　AI for Science，憧憬人人都可參與科學發現的未來 77
2.2.1　AI for Science的三個要素 78
2.2.2　AI for Science的基座模型要讀懂大自然的語言 80
2.2.3　聚焦微觀世界的深入探索與應用 81
2.2.4　憧憬人人都可參與科學發現的未來 83
2.3　當AI遇見大腦：電腦與人腦協同“進化” 86
2.3.1　人工智能加速理解人腦，提升人腦健康水平 87
2.3.2　從腦啟發到創造新的人工智能 90
2.3.3　人工智能與腦科學研究需要跨領域和系統性的研究能力 93
2.4　人工智能≠機器“人”，激活大語言模型在產業界的巨大潛力 95
2.4.1　大語言模型在產業界潛力無限 96
2.4.2　落地產業界需要剋服的四個難題 97
2.4.3　構建產業基礎模型：融合通用知識和領域專業知識 98
2.4.4　大語言模型引領產業數字化轉型的下一波浪潮 102
2.5　守護人類健康：人工智能深入醫療創新 104
2.5.1　早發現、早治療：人工智能輔助疾病診斷與康復訓練 104
2.5.2　病程預測與個性化治療：人工智能輔助精準醫療 109
2.5.3　跨領域合作，釋放人工智能價值 110
第3章　堅守社會責任與價值 113
3.1　人工智能治理如何跟上技術發展的腳步 114
3.1.1　人工智能的治理與未來：機遇、風險與共同進化 115
3.1.2　國際合作在應對人工智能風險和挑戰方面的作用 118
3.1.3　跨學科合作在人工智能發展中的作用和意義 119
3.1.4　如何為未來的人工智能培養跨學科人才 120
3.2　跨學科合作構建具有社會責任的人工智能 121
3.2.1　在更大的影響來臨之前早做準備 122
3.2.2　為人工智能設定“價值觀護欄” 123
3.2.3　讓AI始終處於人類視野之中 126
3.2.4　艱難但必要的跨學科合作 128
3.2.5　跨行業、跨學科共同協作，讓人工智能主動承擔社會責任 129
3.3　價值觀羅盤：如何讓大模型與人類價值觀對齊 131
3.3.1　人工智能與人類價值觀對齊的四層目標 132
3.3.2　價值觀對齊的三條路徑總結 135
3.3.3　理想的大模型價值觀對齊體系應具備三大特性 137
3.3.4　BaseAlign算法：在基本價值空間中實現大模型對齊 139
3.4　為“冷門絕學”甲骨文研究插上科技之翼 145
3.4.1　甲骨文研究的歷史與價值 146
3.4.2　Diviner引領的文化遺產數字化 148
3.5　以科技之力，守護地球家園 154
3.5.1　跨學科基礎創新，助力實現碳中和目標 155
3.5.2　解決真實場景中的現實問題 156
3.5.3　節能減排下一步：多技術角度打造綠色低碳數據中心 159
3.5.4　共建創新合作平臺，共營碳中和發展生態 159
第4章　培養跨學科人才，文化先行 163
4.1　讓AI滲透每個學科，交叉融合、共同成長 164
4.1.1　跨學科合作的重要性 166
4.1.2　人工智能給跨學科創新帶來的機遇 168
4.1.3　人工智能與生態學研究的結合 169
4.2　轉變思維，以使命和任務驅動培養跨學科人才 170
4.2.1　自由研究與使命驅動研究的平衡之道 172
4.2.2　變革思維與文化，驅動科學智能發展 173
4.2.3　跨地域協作與項目管理 174
4.2.4　跨領域和跨學科研究 175
4.3　打造一流創新環境：協作、開放、可持續 176
4.3.1　開放積極：創新與年齡、資歷無關 177
4.3.2　透明無礙：打破一切無形的牆 179
4.3.3　多元包容：遵循三個原則，打造獨特文化 180
4.3.4　轉型思維方式：讓文化成為創新能源 183
4.4　AI系統研究：硬件和軟件的“雙向奔赴” 187
4.4.1　從“全棧式”視角看待系統與AI研究 187
4.4.2　匯溪成流，AI系統優化360°迭代 188
4.4.3　以數據為脈絡，賦能百行千業 191
4.5　從生物跨界到電腦，只因“貪心”想做自己 193
4.5.1　做實驗和寫代碼，我全都要 193
4.5.2　不管有沒有用，我全都學 194
4.5.3　遇到機會，就全力以赴 195
4.5.4　人生沒有最優路徑 198
4.5.5　找到自己真正的熱愛，勇敢地走下去 198
4.6　三重跨越：從理論物理、腦科學到人工智能 200
4.6.1　從人工智能與腦科學的交叉研究，探索智能的
本質 201
4.6.2　跨學科思維，帶來研究新靈感 204
4.6.3　跨領域合作：解決實際問題 206
4.6.4　從對游戲的鑽研，到對科研的堅持 207
4.7　你相信“無線感知”嗎 208
4.7.1　遵循內心渴望，來到微軟亞洲研究院 208
4.7.2　無線感知打開應用新天地 209
4.7.3　想要從事無線感知研究？需要興趣導向，腦洞大開 212
第5章　不斷攀升科學匠人之路 215
5.1　博士之後，下一站在哪兒 216
5.1.1　新一代電腦博士的潛力、挑戰與成長路徑 216
5.1.2　卓越研究員的素質：好奇心、真善美與跨學科創新 218
5.1.3　從理念、組織結構、氛圍和制度設計上來支持創新 221
5.2　科研到底怎麽做，什麽是高質量研究 224
5.2.1　為什麽我們要進行科學研究 225
5.2.2　什麽是高質量研究 227
5.2.3　如何能夠勇攀科研高峰 230
5.3　在研究中，你是否踩過這些工程的“坑” 233
5.3.1　代碼始終是基本功 233
5.3.2　“趕工”時最容易掉進坑裡 235
5.3.3　坑踩多了，自然就有了源代碼管理 236
5.3.4　開發流程管理可以簡單，但不能沒有 237
5.3.5　代碼之外，細節同樣決定成敗 240
5.4　探路“研究員+工程師”模式，推動人工智能與系統協同進化 243
5.4.1　微軟亞洲研究院（溫哥華）：專註特定領域智能的探索 244
5.4.2　人工智能與系統協同進化，自動設計AI系統 245
5.4.3　開展以目標為導向的研究 246
5.4.4　從偶發躍遷式突破到持續漸進發展 248
5.5　堅持長期主義，是一個不斷說服自己的過程 250
5.5.1　以正確的方式做正確的事 250
5.5.2　層層遞進研究，持續打磨成果 252
5.5.3　自由地選擇研究方向 253
5.5.4　做研究是一件長久的事 254
5.6　如何抓住時代機遇，做好關鍵選擇 256
5.6.1　變革的時刻 257
5.6.2　選擇的時刻 258
5.6.3　向上的時刻 261
5.7　在世界選擇你的瞬間，請積極面對 263
5.7.1　做自己喜歡的工作，20餘年不變 264
5.7.2　在那個瞬間，世界選擇了你，請忘掉所謂的“頭銜” 265
5.7.3　對待工作和事業，要有欲望 268
參考文獻 270