算法霸權 算法霸权

未來20年，算法和大數據將席捲世界，接管我們的生活、社會和經濟。我們生活中的很多方面都將落入自動化的數據分析之下。確保算法和大數據的公平性將是一項重大的任務，數據倫理的價值和意義將不斷凸顯出來。在這本書的作者凱西•奧尼爾看來，黑盒裡，大數據的規模、傷害和隱秘共存，她在書中引用了大量發生在美國當下的、基於大數據和算法的、改變個人生活的案例，並對影響這些城市生活經驗的算法做了特別的觀察和研究。作者認為，數據和算法的關係就像槍械和軍火，數據沒有價值觀，是中立的，但來自人類行為的輸入，難免隱含偏向，而算法創造的數據又對人類行為產生反作用，從而導致更多的不公。凱西在書中指出：算法模型一旦運轉，執法行為就會增多，產生的新數據又會進一步證明加強執法的必要性。形象地說，就是哪裡“前科”越多，哪裡就越受算法“關照”，最終形成一個失真甚至有害的回環。因此，建模者應該對自己的算法承擔更多責任，政策制定者要對模型的使用進行管理，讓更多的人受益，維護社會的公平與民主。