創新工場講AI課：從知識到實踐

創新工場於 2017 年發起了面向高校在校生的DeeCamp 人工智能訓練營（簡稱DeeCamp訓練營），訓練營內容涵蓋學術界與產業界領軍人物帶來的全新AI 知識體系和來自產業界的真實實踐課題，旨在提升高校AI 人才在行業應用中的實踐能力，以及推進產學研深度結合。 本書以近兩年 DeeCamp 訓練營培訓內容為基礎，精選部分導師的授課課程及有代表性的學員參賽項目，以文字形式再現訓練營"知識課程+產業實戰”的教學模式和內容。全書共分為9 章，第1 章、第2 章分別介紹AI 賦能時代的創業、AI 的產品化和工程化挑戰；第3 章至第8 章聚焦於AI 理論與產業實踐的結合，內容涵蓋機器學習、自然語言處理、電腦視覺、深度學習模型的壓縮與加速等；第9 章介紹了 4 個優秀實踐課題，涉及自然語言處理和電腦視覺兩個方向。

★李開復★
李開復博士於2009 年創立創新工場，擔任董事長兼首席執行官，專注於科技創新型的投資理念與最前沿的技術趨勢。
十多年來創新工場已經投資逾400個創業項目，管理總額約160 億人民幣的雙幣基金。
2016 年秋季創辦創新工場人工智能工程院，致力於利用最前沿的AI 技術為企業提供人工智能產品與解決方案。
在此之前，李開復博士曾是谷歌中國全球副總裁兼大中華區總裁，擔任微軟全球副總裁期間開創了微軟亞洲研究院，並曾服務於蘋果、SGI 等知名科技企業。
李開復在美國哥倫比亞大學取得計算機科學學士學位，以zui gao榮譽畢業於卡耐基梅隆大學獲得博士學位。
同時，李開復獲得香港城市大學、卡耐基梅隆大學榮譽博士學位。
李開復獲選為美國電機電子工程師學會（IEEE）的院士，並被《時代》雜誌評選為2013影響全球100位年度人物之一，《Wired 連線》本世紀推動科技全球25位標杆人物，2018亞洲商界領袖獎等殊榮，並出任世界經濟論壇第四次工業革命中心的AI 委員會聯席主席。
李開復博士發明過十項美國專利，發表逾百篇專業期刊或會議論文，並出版過十本中文暢銷書。

★王詠剛★
王詠剛，現任創新工場CTO人工智能工程院執行院長，加入創新工場前擔任谷歌主任工程師和高級技術經理超過十年，在谷歌參與或負責研發的項目包括桌面搜索、谷歌拼音輸入法、產品搜索、知識圖譜、谷歌首頁塗鴉（Doodles）等，在知識圖譜、分佈式系統、自然語言處理、HTML5動畫和遊戲引擎等領域擁有豐富的工程研發經驗。
目前專注於人工智能前沿科技的工程化與商業化，以及人工智能高端人才的培養，作為聯合創始人，創立了人工智能商業化公司創新奇智，同時也是人工智能高端應用型人才培養項目DeeCamp的發起者。

★張潼★
張潼博士，機器學習領域國際著名專家，擁有美國康奈爾大學數學和計算機雙學士學位，以及斯坦福大學計算機碩士和博士學位，在香港科技大學數學系和計算機系任教。
曾經擔任美國新澤西州立大學終身教授，IBM研究院研究員和雅虎研究院主任科學家，百度研究院副院長和大數據實驗室負責人，騰訊AI Lab主任。
他曾參加美國國家科學院大數據專家委員會，負責過多個美國國家科學基金資助的大數據研究項目，此外還是美國統計學會和國際數理統計學會fellow，並擔任NIPS、ICML、COLT等國際頂級機器學習會議主席或領域主席，以及PAMI, JMLR, 和Machine Learning Journal等國際一流人工智能期刊編委。

★宋彥★
宋彥博士，香港中文大學（深圳） 數據科學學院副教授，創新工場大灣區研究院首席科學家。
歷任微軟、騰訊研究員及首席研究員，創新工場大灣區研究院執行院長等職，是“微軟小冰”項目的創始團隊成員之一，其研究方向包括自然語言處理、信息檢索和抽取、文本表徵學習等。

★屠可偉★
屠可偉博士，上海科技大學信息科學與技術學院長聘副教授、研究員、博士生導師。
研究方向包括自然語言處理、機器學習、知識表示、計算機視覺等人工智能領域，側重於研究語言結構的表示、學習與應用。

★張發恩★
張發恩，創新奇智聯合創始人，創新奇智公司CTO， 寧波諾丁漢大學客座教授。
2008年畢業於中國科學院軟件研究所，同年加入微軟，負責Office相關軟件產品的研發工作；2010年，入職Google，作為核心研發人員，主導和參與Google搜索引擎、Google知識圖譜等相關工作；2015年，加入百度，作為百度雲早期創始團隊成員之一，曾任​​百度雲計算事業部技術委員會主席，百度雲計算事業部大數據和人工智能主任架構師。
他在IT行業擁有十幾年技術研發和管理經驗，涉及企業級軟件、室內地圖定位與導航、互聯網搜索引擎、全領域知識圖譜、大數據計算與存儲、機器學習、深度學習、機器視覺等眾多領域。工作期間獲得10餘項美國專利，70餘項中國專利，發表過多篇頂級會議學術論文。

★唐劍★
唐劍博士，滴滴智能控制首席科學家，AI Labs 負責人兼算法委員會主席，IEEE Fellow和ACM傑出科學家，領導滴滴在智能物聯網、計算機視覺和自動駕駛方向上的研發。
他在國際頂級期刊和會議上發表了160多篇學術論文，擁有多項發明專利，在邊緣智能、AI驅動的系統控制和群智感知方向上做出開創性貢獻，並多次獲得最佳論文獎, 其中包括通信網絡領域的zui gao論文獎2019 年度IEEE 通信學會William R. Bennett Prize和IEEE車載技術學會2016年度最佳車載電子論文獎。
目前還擔任中國電子學會物聯網專委會專家委員、新一代人工智能產業技術創新戰略聯盟專家委員會委員、IEEE車載技術學會傑出演講人、以及IEEE通信學會交換和路由技術委員會主席。

★張彌★
張彌博士，現任密歇根州立大學副教授，2006年畢業於北京大學，2013年獲得美國南加州大學博士學位，2013-2014年在美國康奈爾大學任博士後。
主要研究領域包括終端深度學習、自動機器學習、聯邦學習和機器學習系統。
本人及其研究團隊在2019年Google MicroNet Challenge 全球競賽中獲得CIFAR-100賽道第四名(北美第一名)，在2017年NSF Hearables Challenge全球競賽中獲得第三名，在2016年NIH Pill Image Recognition Challenge全球競賽中獲得冠軍。

★吳佳洪★
吳佳洪，創新奇智高級研究員，2017年畢業於北京大學。
曾帶隊獲得Pascal Voc 世界冠軍、Cityscapes 實例分割冠軍、ADE20K物體分割冠軍等；曾負責創新奇智無人貨櫃項目的算法工作，專注於計算機視覺領域，發表過多篇CVPR論文。

★劉寧★
劉寧博士，滴滴資深研究員，畢業於美國東北大學計算機工程系。
研究領域包括深度增強學習、深度模型壓縮與加速、邊緣計算等。
在國際頂級期刊和會議AAAI, MICRO, ASPLOS，ISCA等發表學術論文20餘篇，發表多項發明專利。

★第1章AI賦能時代的創業★
1.1 中國AI如何彎道超車
1.2 AI從“發明期”進入“應用期”
1.2.1 深度學習助推AI進入“應用期”
1.2.2 To B創業迎來黃金發展期
1.2.3 “傳統產業+AI”將創造巨大價值
1.2.4 AI賦能傳統行業四部曲
1.3 AI賦能時代的創業特點
1.3.1 海外科技巨頭成功因素解析
1.3.2 科學家創業的優勢和短板
1.3.3 四因素降低AI產品化、商業化門檻
1.4 給未來AI人才的建議

★第2章AI的產品化和工程化挑戰★
2.1 從AI科研到AI商業化
2.2 產品經理視角—數據驅動的產品研發
2.2.1 數據驅動
2.2.2 典型C端產品的設計和管理
2.2.3 典型B端產品解決方案的設計和管理
2.2.4 AI技術的產品化
2.3 架構設計師視角—典型AI架構
2.3.1 為什麼要重視系統架構
2.3.2 與AI相關的典型系統架構
2.4 寫在本章最後的幾句話
本章參考文獻

★第3章機器學習的發展現狀及前沿進展★
3.1 機器學習的發展現狀
3.2 機器學習的前沿進展
3.2.1 複雜模型
3.2.2 表示學習
3.2.3 自動機器學習

★第4章自然語言理解概述及主流任務★
4.1 自然語言理解概述
4.2 NLP主流任務
4.2.1 中文分詞
4.2.2 指代消解
4.2.3 文本分類
4.2.4 關鍵詞（短語）的抽取與生成
4.2.5 文本摘要
4.2.6 情感分析
本章參考文獻

★第5章機器學習在NLP領域的應用及產業實踐★
5.1 自然語言句法分析
5.1.1 自然語言句法分析的含義與背景
5.1.2 研究句法分析的幾個要素
5.1.3 句法分析模型舉例
5.2 深度學習在句法分析模型參數估計中的應用
5.2.1 符號嵌入
5.2.2 上下文符號嵌入
本章參考文獻

★第6章計算機視覺前沿進展及實踐★
6.1 計算機視覺概念
6.2 計算機視覺認知過程
6.2.1 從低層次到高層次的理解
6.2.2 基本任務及主流任務
6.3 計算機視覺技術的前沿進展
6.3.1 圖像分類任務
6.3.2 目標檢測任務
6.3.3 圖像分割任務
6.3.4 主流任務的前沿進展
6.4 基於機器學習的計算機視覺實踐
6.4.1 目標檢測比賽
6.4.2 蛋筒質檢
6.4.3 智能貨櫃
本章參考文獻

★第7章深度學習模型壓縮與加速的技術發展與應用★
7.1 深度學習的應用領域及面臨的挑戰
7.1.1 深度學習的應用領域
7.1.2 深度學習面臨的挑戰
7.2 深度學習模型的壓縮和加速方法
7.2.1 主流壓縮和加速方法概述
7.2.2 權重剪枝
7.2.3 權重量化
7.2.4 知識蒸餾
7.2.5 權重量化與權重剪枝結合併泛化
7.3 模型壓縮與加速的應用場景
7.3.1 駕駛員安全檢測系統
7.3.2 高級駕駛輔助系統
7.3.3 車路協同系統
本章參考文獻

★第8章終端深度學習基礎、挑戰和工程實踐★
8.1 終端深度學習的技術成就及面臨的核心問題
8.1.1 終端深度學習的技術成就
8.1.2 終端深度學習面臨的核心問題
8.2 在冗餘條件下減少資源需求的方法
8.3 在非冗餘條件下減少資源需求的方法
8.3.1 特殊化模型
8.3.2 動態模型
8.4 深度學習系統的設計
8.4.1 實際應用場景中的挑戰
8.4.2 實際應用場景中的問題解決
8.4.3 案例分析
本章參考文獻

★第9章DeeCamp訓練營最佳商業項目實戰★
9.1 方仔照相館—AI輔助單張圖像生成積木方頭仔
9.1.1 讓“AI方頭仔”觸手可及
9.1.2 理論支撐：BiSeNet和Mask R-CNN
9.1.3 任務分解：從圖像分析到積木生成的實現
9.1.4 團隊協作與時間安排
9.2 AI科幻世界—基於預訓練語言模型的科幻小說生成系統
9.2.1 打造人機協作的科幻小說作家
9.2.2 理論支撐：語言模型、Transformer模型和GPT2預訓練模型
9.2.3 從“找小說”到“寫小說”的實現步驟
9.2.4 團隊協作與時間安排
9.3 寵物健康識別—基於圖像表徵學習的寵物肥胖度在線檢測系統
9.3.1 人人都能做“養寵達人”
9.3.2 理論支撐：表徵學習、人臉識別原理和ArcFace損失函數
9.3.3 任務分解：從數據收集到肥胖度檢測
9.3.4 團隊協作與時間安排
9.4 商品文案生成—基於檢索和生成的智能文案系統
9.4.1 智能內容生成
9.4.2 理論支撐：Word2Vec詞嵌入、預訓練語言模型BERT和Seq2Seq文本生成
9.4.3 任務分解：“尋章摘句”和“文不加點”
9.4.4 團隊協作與時間安排
本章參考文獻