兵臨城下 ~ 《AI威脅》 ~ roger bootle

web 3.0人工智能時代橫空降臨，AI會改變我們的未來，究竟人類是邁向美好的新世界，抑或迎面遇上前所未有的威脅？

且從此書一看端倪，作者是以精確的預測能力，而廣為各界稱道的倫敦知名經濟學家roger bootle，書名是《AI威脅》。

人工智能機械人很早已出現在科幻作品中，電影《2001太空漫遊》控制太空船操作的機械人HAL，陰險地殺死太空人，令人看得心寒。《未來戰士》續集，人工智能系統「天網」甦醒，發動核戰，所謂甦醒，是AI突然有了自我意識，出現重大的頓悟，感覺到自己的存在。亦即是人工智能機械人有了人性，而又同時擁有人類無可匹敵的運算力，於是爆發一場大浩劫。

著名科幻小說作家艾西莫夫說過：「最遺憾的，就是整體社會智慧的成長速度，趕不上科學進步的幅度。」這現象在今日非常明顯，AI以驚人速度發展，後果不可預測的問題，已經是逼在眉睫。沒有人能測得準人工智能三年後，甚至三個月後會發展成甚麼狀態。美國總統拜登，於去年10月30日發布行政命令，要求各個AI系統開發商，在向公眾發布新項目之前，須就美國國家安全、經濟、公共衛生等方面，與政府分享安全測試結果及相關資料。這項命令是基於冷戰時期的《國防生產法》，該項法律賦予聯邦政府權力，在國家安全受到威脅時，對公司進行一定程度的限制。換句話說，美國政府認為人工智能系統已進入了國家安全的範疇。這項行政命令，是試圖降低AI人工智能於各方面可能導致出現的風險。

電腦領域最高獎項「圖靈獎」得主之一，曾在科技公司alphabet效力10年的人工智慧研究先驅geoffrey hinton，去年年5月表示，AI給人類帶來的威脅，可能比氣候變化更加迫切。同時期亦有上千人簽署公開信，呼籲所有AI實驗室，至少在6個月內，暫停研發比openAI的gpt-4更強大的系統，聯署人包括了elon musk和同樣是「圖靈獎」得主之一的yoshua bengio。現時接近一年過去了，這項呼籲就像泥牛入海，各大AI科技企業不只沒有響應，反而紛紛加大資本投資與收購整合，進行人工智能競賽，大家都唯恐落後於人。

歷史上每次出現重大科技突破，人類都會感到憂慮，無論如何，AI發展已是勢如破竹，不可阻擋。

時間回到2014年，英國deepmind公司組成了一個團隊，開始開發人工智能圍棋軟件alphago，這是一套專用型AI，即是訓練電腦只針對一個目的而發展的人工智能。下棋時，alphago不只會對每步棋作出最合理和有利回應，並能模仿人腦創作思考，可以行險，可以使詐，就如人心一樣奸狡。2016年，alphago在世人面前，一舉擊敗圍棋世界冠軍李世乭。一年之後，alphago的團隊推出新一代版本alphago zero，特點是可以完全靠自我對弈學習圍棋策略，不再需要人類棋手的棋譜數據。在短短40天訓練中，展現出強大的深度學習和自我學習，足以擊敗原版alphago的能力。

2022年下半年開始，隨著midjourney、stable diffusion等圖像運用AI，和chatgpt、claude這些文字運用AI的熱度提升，人工智能發展全面落入普羅大眾視野。台灣的蘇經天博士在《新AI與新人類》這本書對chatgpt有準確的描述 。今日我們經常使用chatgpt，由於它與我們對話的方式與口吻，就像平常人一樣，我們便誤以為它是「通用型AI」(general purpose AI)，即是對任何課題都能自我學習成長，有著像人類般的智慧。其實chatgpt是「專用型AI」(special-purpose AI)，即是訓練電腦只針對一個目的而發展的人工智能，它是專門用來聊天用的。如果是「通用型AI」和我們對話，它說的每句話都會是經過思考而來的。而chatgpt卻沒有經過思考，而是從受過訓練的數據庫中，找到和我們的提問方向最符合的文字，接龍組合起來，生成句子，作為回應的答案。

無論如何，人工智能已經兵臨城下，人類正在面對一場全新的革命，許多專家都認為，一旦AI到達人類的程度，便會快速越過臨界，最終勢必走向超人類AI (superhuman AI)。本書作者認為，AI革命可能是人類史上最後的進步發明，人類最終將淪為次貨，甚至一無是處，AI將輕易地摧毀我們。

但這種悲觀論點，絕不是一面倒，人工智能的未來是好是壞，意見兩極。最常見的樂觀看法是，科技革命過往曾多次出現，每次都令人類產生一度程度的害怕、盲點、誇大和悲觀，但最後都以改善人類生活以告終，所以我們應擁抱改變。而消極看待AI的觀點則認為，這場革命在速度與範圍上前所未見，特別是它破壞了對人類勞動的需求，很多故有工種將迅速被取代並消失。機械人不須要支薪、福利和退休金，效率更高，成本更低，為甚麼還要聘用人類？

問題來了，人類大量失業，沒有賺錢能力，便沒有消費能力，於是由機械人產出的物品與服務也不再被需要，那豈不是會導至人類與機械人一起失業，同歸於盡的結果？

常識告訴我們，世上沒有絕對而只有相對的優勢與劣勢，管理諮詢公司mckinsey & company的分析指出，最不容易受自動化所取代的，是創造力和感知情緒，感知情緒是emotion perception，當我們聽到悲傷的音樂，會傷感，機械人卻不會，這的確是人類凌駕AI的一大特質。但在創造力層面，AI已開始展示力量，人類亦正在與AI一同創作小說和劇本；去年10月，中國「江蘇青年科普科幻作品大賽」公佈了獲獎名單，獲得二等獎的作品《機憶之地》，就是AI和人類共同寫作而成。這是文學史上第一次、也是AI史上第一次出現的AI和人類一起創作，參賽並獲獎的案例。mckinsey說創造力不容易受自動化影響，是不是太樂觀呢？

本書的作者認為，人類除了以上兩項，仍然有其他相對優勢，包括運用常識common sense的能力，他認為現時最具智慧的AI，仍然缺乏這種技能，即使將來AI接管了大部份工作領域和經濟活動，仍需要「更高階」的人類來監督。此外，人類雙手的靈活度、應變能力，以及最重要的「人性」，都是現階段人工智能機械人所沒有的。

無論如何，現在普遍都認為，奇點singularity即將來臨，奇點是指AI取得與人類智力相當的通用智慧general intelligence的時刻。奇點如此重要，不只因為在奇點之後，機械人能夠在每項任務上都超越人類，並能在沒有人干預的情況下自我發展。更糟糕的是，我們可能成為AI統治下的臣民，AI可能認為，人類充滿情緒，又經常作出非理性行為，如果放任他們作重大決定，很可能將世界置於危險之中。而回望人類的歷史，AI這樣考慮亦的確合情合理。當有一日AI徹底超越人類，我們勢必會處於一種心情低落的狀態，會不斷質問自己，人類還有甚麼長處？

也許，未來人類將不得不與AI制定一套彼此共存與互動的生活模式，大家都不是對方的奴隸，但到時這套模式，會是由可能已落入從屬地位的人類，抑或強勢的AI來制定呢？