文：馬克．科克爾柏格（Mark Coeckelbergh）
更多的世代問題：操控、取代、用人課責和權力
人工智慧可以用來操控人們。工智我已提到過助推的代人導無都危可能性，它影響了決策（參見第二章）。類領論何就像其他數位科技一樣，反民它甚至可以被用來塑造人類的世代經驗和思想。如同拉尼爾（Jaron Lanier, 2010）以科技專家的用人名義所說的那樣：「我們是透過對你的認知經驗的直接操控來擺弄你的哲思，而不是工智間接地透過論證來那麼做。只需要一小群的代人導無都危工程師，就能以驚人的類領論何速度創造出能夠塑造人類經驗之整體未來的科技」（7）。在代議民主制與其投票程序的反民脈絡下，人工智慧與其他數位科技可以透過個人化的世代廣告等方式來對選民助推，使其朝向支持某個特定政治人物或是用人政黨。
尼亞佐夫（Sukhayl Niyazov, 2019）主張說，工智這可能會導致少數派（搖擺選民）之暴政。一個涉及操控民眾的知名案例便是劍橋分析（參見第二章），該公司在未經Facebook用戶許可之下，收割用戶們的私人數據。據稱，那些數據旋即被用於影響政治程序的目的之上，如川普於二○一六年的總統競選活動。
把貝淡寧（2016）對於政治領導力的標準銘記於心，人工智慧的操控性使用可能也反映出一種遠離了智力、社交技巧和德行的轉變。據他的看法，如果人工智慧真的要去接管政治領導權的話，其是否真能具備所需的智識能力、社交技巧和德行，是啟人疑竇的。
用人工智慧來取代人類的領導，無論如何都是危險且反民主的。這個危險不只在於一個接管了的人工智慧可能會摧毀人類，還在於它的統治，或它所聲稱的統治理由——為了人類的最大利益。這是一種科幻小說的經典路數（例如電影《機械公敵》〔I, Robot〕 或是阿瑟爾〔Neal Asher〕 的系列小說《政體》〔Polity〕），也是所有民主理想的危險所在：它摧毀了自由民主，因為它摧毀了作為公民自主的自由，並且到最後，如同達姆賈諾薇奇（Ivana Damnjanovi?,2015）曾說過的，它也從我們身上奪去了政治本身。
只有對柏拉圖進行一種非常特殊的詮釋才可能會去支持這種場景，在這種詮釋之中，人工智慧會充當一位人造的哲學家皇帝（這或許與一種旨在實現人類整體效益極大化的當代效益主義論點相符，或是與一種旨在實現人類的生存與和平的霍布斯式論點相符），國家之船的船長或是舵手（kybernetes）屆時變成了一種自動輔助駕駛。
也許，它甚至可以為人類整體和地球進行導航。這種願景，理所當然地受到我們在此所考量的所有的民主理論的批判。而這類人工智慧是否將會擁有實際上的權威，則尚屬未知，不論擁有這一類的人工智慧權威是對是錯、是公正或不義。
由技術哲學的角度來看，這類場景和討論顯示了人工智慧不只是一種科技而已，更總是與道德和政治的可能性聯繫在一塊。其展現了人工智慧的非工具性：人工智慧不只是政治的工具而已，還改變了政治本身。此外，即使人工智慧是在民主的框架內來使用，在根據人工智慧的建議來做決策時，也都存在著課責性（accountability）與正當性的問題，尤其是如果這些決策做出的方法並不透明的話，或是如果在這個過程中有偏見被引入或是再現的話。
一個著名的案例是，人工智慧協助美國法官處理刑事判決、假釋和社會服務的資格等等事項（參見在第三章中提到的COMPAS案例）。對一個民主體制來說，公共課責是至關重要的：對公民們做出決策的公職人員應該要承擔責任，而如果他們高度依賴人工智慧來做出決策，並且如果人工智慧達成其決策的方式既不透明也不中性的話，那麼要如何維持這種公共課責就會是個問題。
正當性也很重要，因為如同在第二章末尾所提到的，人們可以把平等看作是民主的一個條件。從這個角度來看，如果我們受到一個被壟斷的科技產業所控制的話，這個產業控制了數據及其流動，從而最終控制人民，這也是非常有問題的。尼米茲（Paul Nemitz, 2018）對當今數位權力的集中進行批判，他主張，由人工智慧所帶來的挑戰不能只靠人工智慧倫理來處置，而是需要透過一種由民主程序所產生的、具有強制力並且正當的規則來處理。他呼籲建立一種民主的人工智慧文化。
當涉及到假新聞和虛假訊息的時候，科技巨擘的權力也帶來了問題。雖然假新聞——以新聞來呈現的虛假或是誤導性訊息——也被用在對數位媒體科技進行技術決定論的、過度悲觀的批判（Farkas and Schou, 2018: 302），但這些現象也對民主構成了一種嚴重的政治問題。什麼算是「假新聞」，由誰來決定的？諸如Twitter和Facebook的社群媒體公司是否應該成為審查者？那些決定什麼內容是允許的、什麼是不被允許的人，難道不該由一個民選的實體來擔任嗎？若是如此，它們該如何處理這個問題呢？
如前所述，網路公司使用內容審查系統——讀作：言論審查制度（censorship）。考量到目前社群媒體平臺的規模以及較短的時間窗口，這種部分或是完全自動化的內容審查系統似乎是不可避免的。但是它意味著，公共言論的規則們（以及什麼算作是事實與真相的規則）都是由一小搓的矽谷菁英團體所制定的。這等同於一種隱蔽的治理類型，遠離了民主機構的公開注目。
