大數據的傲慢與偏見:一個「圈內數學家」對演算法霸權的警告與揭發(Weapons of Math Destruction:How Big Data Increases Inequality and Threatens Democracy)
內容描述
這是個演算法包圍現代公民的時代!演算法在幕後影響著我們生活的各種決定,包括我們上什麼學校、能否借到汽車貸款,以及醫療保險必須支付多少保費,愈來愈多判斷是由數學模型,而非某些人所做出。這一切看似公平:因為所有人是根據相同的規則評斷,不受偏見影響。
對熱情的「問題解決者」來說,大數據像仙境,它蒐集資訊、再運用數學模型,使我們得以更有效地調配資源、篩選最優的人事物、並做出最好的決定,這些熱情的宣揚者更是四處宣傳大數據應用的威力。
但是,曾在典型數據分析圈內工作的凱西.歐尼爾不是上述這種人。
她在本書指出,事實與我們想的恰恰相反!這些數學模型不透明、不受管制,即便出錯,受害者往往無法申訴。最令人不安的是,這些模型會「強化歧視」,例如,貧窮學生在申請學貸時,可能因自家的郵遞區號,被審核貸款的數學模型視為還款高風險者,因而無法獲得貸款……。這類問題會形成惡性循環——獎勵幸運兒、懲罰遭踐踏的人,創造出危害民主的「有毒雞尾酒」。
歡迎認清大數據的黑暗面
歐尼爾在本書中揭開對我們人生各階段有巨大影響的各種黑箱數學模型,不管我們願不願意,演算法系統都已經為我們打上「分數」。
當前許多數學模型已經失控濫用、還自作主張地替教師和學生評鑑、篩選履歷表、審核貸款、評估員工績效、鎖定目標選民、決定假釋名單,以及監測我們的健康狀態,決定我們個人及社會的未來。
歐尼爾呼籲:在這個人人都被迫擁有自己在某種演算系統中持有「e化評分」的時代,那些建立模型的人應該為他們所創造出來的演算法負起更多責任,而政策制定者更應該負起監督管理的責任。這本重要著作使我們得以提出關鍵問題、揭露這些「數學毀滅性武器」的真相和要求變革。
目錄大綱
引言
第1章 數學炸彈元件:什麼是模型?
第2章 金融業震撼:一個量化分析師的幻滅之旅
第3章 軍備競賽:大學入學問題
第4章 宣傳機器:網路廣告
第5章 殃及池魚:大數據時代的執法問題
第6章 資格不符的第一關:艱難的求職者
第7章 隱形焦慮:恐慌的工作者
第8章 連帶傷害:當個人信用出了問題
第9章 沒有安全區:你想買保險嗎?
第10章 被瞄準的公民:現代人的科技生活
結語
致謝