誰在帶風向、玩精準行銷|認知駭客如何操弄人心 (Data Versus Democracy: How Big Data Algorithms Shape Opinions and Alter the Course of History)

Kris Shaffer 著 吳國慶 譯

  • 誰在帶風向、玩精準行銷|認知駭客如何操弄人心 (Data Versus Democracy: How Big Data Algorithms Shape Opinions and Alter the Course of History)-preview-1
  • 誰在帶風向、玩精準行銷|認知駭客如何操弄人心 (Data Versus Democracy: How Big Data Algorithms Shape Opinions and Alter the Course of History)-preview-2
  • 誰在帶風向、玩精準行銷|認知駭客如何操弄人心 (Data Versus Democracy: How Big Data Algorithms Shape Opinions and Alter the Course of History)-preview-3
  • 誰在帶風向、玩精準行銷|認知駭客如何操弄人心 (Data Versus Democracy: How Big Data Algorithms Shape Opinions and Alter the Course of History)-preview-4
  • 誰在帶風向、玩精準行銷|認知駭客如何操弄人心 (Data Versus Democracy: How Big Data Algorithms Shape Opinions and Alter the Course of History)-preview-5
  • 誰在帶風向、玩精準行銷|認知駭客如何操弄人心 (Data Versus Democracy: How Big Data Algorithms Shape Opinions and Alter the Course of History)-preview-6
  • 誰在帶風向、玩精準行銷|認知駭客如何操弄人心 (Data Versus Democracy: How Big Data Algorithms Shape Opinions and Alter the Course of History)-preview-7
  • 誰在帶風向、玩精準行銷|認知駭客如何操弄人心 (Data Versus Democracy: How Big Data Algorithms Shape Opinions and Alter the Course of History)-preview-8
  • 誰在帶風向、玩精準行銷|認知駭客如何操弄人心 (Data Versus Democracy: How Big Data Algorithms Shape Opinions and Alter the Course of History)-preview-9
誰在帶風向、玩精準行銷|認知駭客如何操弄人心 (Data Versus Democracy: How Big Data Algorithms Shape Opinions and Alter the Course of History)-preview-1

買這商品的人也買了...

商品描述

▌揭露假新聞的操作手段
本書將告訴您,在社群媒體時代,演算法、心理學的濫用如何激化人類的偏見,影響輿論,甚至左右選舉的結果。

▌什麼是「認知駭客」
任何基於統計數據而部分或完全做成結論的系統,都可透過操縱統計數據來左右遊戲規則,人類大腦的運作方式也是如此。隨著時間推移,我們的認知會整合成「類化」的模式,這些模式也會隨著新訊息的加入而不斷變化,而透過改變大腦的大量輸入後,這種「認知駭入」便能影響我們的大腦模式(很神奇吧?)。「認知駭客」便是利用這種「認知駭入」的手法,影響我們對事物的定義方式,左右我們將它們聯想為正面或負面的傾向--只要他們能在你觸及特定議題時,操縱夠多的媒體即可。

▌內容推薦系統的功與過
在資訊大爆炸的時代,人們自然而然地依賴內容推薦系統來篩選源源不絕的訊息。然而,推薦系統也帶來了新的危機:演算法「投其所好」的結果,也激化了人們的偏見。

 

<序>

從稀缺到豐富
訊息與宣傳問題簡史

自從有「訊息」開始,就有了假訊息。自從有了廣告之後,我們就開始試著分析大眾心理。而自從印刷機發明以來,我們又開始擔心大眾媒體受「腐化」的影響。然而在過去十幾年裡出現了一些全新的東西,它們所帶來的豐富訊息量是我們在十幾二十年前所無法想像的。「推薦引擎」這類新科學,亦即基於個人訊息檔案,而由演算法選擇的內容,主導著現代的媒體格局。在這篇簡介裡,我們將釐清誤解並關注問題的核心,也就是訊息豐富度、人類心理學、用戶數據分析和媒體推薦演算法的交會點,亦即「宣傳(propaganda)」闖入現代社會之處。

認知駭入
任何基於統計數據而部分或完全做成結論的系統,都可透過操縱統計數據來左右遊戲規則。這也是人類大腦的運作方式:隨著時間推移,我們的認知會整合成「類化」的模式,這些模式也會隨著新訊息的加入而不斷變化(當然愈成熟的模式,變化得愈慢)。而透過改變大腦的大量輸入後,這種「駭客」便能影響我們的大腦模式(很神奇吧?)。

這種「認知駭入(cognitive hacking)」攻擊,不僅能影響我們對事物的定義方式,還會左右我們將它們聯想為正面或負面的傾向。就像前面說過的另類右翼駭客,是少數能影響平台的Google專家一樣,即使是一小群的「認知駭客」,也有辦法對我們的「心智圖」(以及其所影響的行為)造成顯著的衝擊。一切只要他們能在你觀看特定議題時,操縱夠多的媒體即可。

在你心裡開始想著「是俄國人!俄國人幹的!」之前,值得注意的是,許多認知駭入的情況並非故意的(後面會提到俄羅斯,亦即國家所贊助的影響力行動,但它們是背後更大問題裡的一部分而已)。也就是說,我們每天使用的媒體平台結構,會影響我們對世界的認知。

舉例來說,我們知道用戶傾向較常接觸能夠激起強烈情緒的媒體,尤其是激起「憤怒」情緒的媒體。我們也知道人們越來越常透過社群媒體平台觀看新聞,他們會被追求「互動」(點擊、按讚、收藏、分享、憤怒的表情符號等)最大化的演算法提供內容,而互動最大化通常也會轉化為強烈情緒的最大化,尤其是憤怒的情緒。因此毫不意外的,那些研究政治和數位媒體的人,便會觀察到政治問題的兩極分化日益加劇:強烈的情緒、價值觀的細微差異以及意識形態立場,便從中心點進一步聚集擴大。
隨著數據本身與數據生產者的數量增加,並以驚人速度成長後,能夠引起強烈情緒的事物,自然更能吸引我們的注意力。2013年時,科學家評估全世界90%的數據都是在過去兩年內所創造的。

到了2015年,Facebook本身的用戶數量,就已超過2008年時的整體網際網路用戶數量。加上在許多家庭裡的電視頻道激增,以及其他可攜式數位螢幕裝置的流行,把整個社會浸泡在視覺和聽覺的媒體世界裡,讓人類的演化過程根本來不及為此做好準備。任何商業媒體都在競相爭奪我們的注意力,每家媒體都試圖超越另一家媒體。

「認知操縱」的數位軍備競賽
這項結果便是「認知操縱」的數位軍備競賽,強化這些已經瀕臨險惡、極端效應下的媒體。
然而,這種極端的分化不光是激發情緒帶來的結果。人們還會傾向於認同能夠強化自己「現有觀點」的事物,科學家稱之為「確認偏差」。亦即如果我已經認同某個觀點,那這個觀點必然有某些好的部分,包含可以「確認正確性」的情況。因為當你找到能「證明自己正確」的新訊息,感覺會非常好。而確認那些不同觀點者的「不正確」,感受也是如此。

人類具有一種演化的傾向(這點很重要!),亦即討厭且會盡量避免「因爲自己的錯誤而受到驚嚇」的狀況,在過去「獵食者/獵物」正常互動的時代裡,這種錯誤驚嚇的情況往往是致命的。但當涉及到網路上的政治辯論時,這種演化的傾向,卻會讓個人和社會傾向避免在智力、倫理和道德上成長的情況。這種避免細微差異和屈服於確認偏見的情況,會讓我們再次偏離辯論的中心點,並且遠離那些我們不同意的觀點。因此我們便建立了自己的「個人迴音室」,同時相信我們是基於更廣泛訊息的基礎,而建立了自己的觀點,這都要歸功於網際網路所帶來的「奇蹟」啊。於是在這種錯覺下,只要不加干預,社會就變得更加分散,來自不同意識形態的人們將更難找到共同點。

雖然我們生活在人類歷史上訊息最豐富,聯繫最緊密的時代,但從我們的思想很「自然」的處理豐富訊息的方式,代表我們可能是人類歷史上最容易受到「宣傳(propaganda)」影響的一代。不過我強調的是「自然」,因為我們經由祖先抵禦各方威脅後所得到的遺傳傾向,在許多方面都可說是非凡的天賦。但是,在這個大多數人不常受到獵食者威脅的時代,變成要對抗那些試圖利用媒體操縱我們的注意力,以便影響你的思想和行為的人時,我們也很自然的無法以正確的工具,應對這種不易察覺的威脅。亦即當你背後出現獵食者,或者當熱量過低且面對一堆食物的時候,我們完全具有良好本能反應。但如果遇上的是數位假訊息時,人類並不會產生本能的直覺反應。

雖然人類已經發展出學習、分析、推理、溝通、說服等邏輯思考的能力,但這些都不是我們的直覺反應。如果可以適當地導正我們的思想,亦即如果我們能在正確的時間以正確的方式掌握自己的注意力,就能抵制這種假訊息的操縱,建立一個更美好的社會。不過這點必須經過努力,在完成以前,我們必須了解問題所在。

這也就是我們將在本書探索的內容。


▌被駭的民主
社群媒體讓各種團體能夠相互聯繫並協調他們的活動。同樣的工具也可以被用來傳播政治訊息,不僅讓合法團體與非法人士均可使用,甚至會被某些國家用來影響其他國家的選舉。本書將揭露其中一些操作手段,並探討未來的威脅和防禦。

誰適合閱讀本書
.社群編輯
.資料科學家
.媒體工作者
.想要更深入了解「假新聞」的人

來自讀者的讚譽
♥ 完美詮釋為什麼會有假新聞,以及假新聞是怎麼運作的
♥ 對於網軍如何利用社群媒體帶風向有詳盡的說明
♥ 推薦給意識到假新聞正嚴重戕害民主的人閱讀

作者簡介

Kris Shaffer
「新知識(New Knowledge)」智庫的資料科學家暨資深電子假訊息分析師。曾參與美國參議院情報特別委員會「網際網路研究機構的策略與技巧」的撰寫,這是一篇有關俄羅斯在2016年美國總統選舉中,介入社群媒體之行為的報告。Kris為多個美國政府機構、非營利組織和大學,就假新聞、數據道德和數位教育方面的問題提供諮詢。在此之前的職涯裡,Kris是一位學院派和數位人文主義者。曾在耶魯大學、科羅拉多大學博爾德分校、瑪麗華盛頓大學和查爾斯頓南方大學教授音樂理論與認知、電腦科學和數位研究課程,擁有耶魯大學的博士學位。

目錄大綱

簡介|從缺到豐富
PART I 「宣傳」的問題
CHAPTER 1 注意!訊息過量會影響我們觀看媒體的方式
CHAPTER 2 系統中的認知機制|大腦的限制為何讓我們容易受到「認知駭入」的攻擊
CHAPTER 3 逆流而上|內容推薦引擎如何影響訊息並操縱你的注意力

PART II 案例研究
CHAPTER 4 美國國內的騷動|佛格森案、遊戲門和美國另類右翼的崛起
CHAPTER 5 被駭的民主(上篇)|俄國干涉與新冷戰
CHAPTER 6 被駭的民主(下篇)|南半球的謠言、機器人和種族滅絕
CHAPTER 7 總結|今後我們將何去何從?