因為人工智慧是感興趣的題材就直接抓了，不過開讀後意識到這本比較偏向趨勢探討，不過我比較想看的是技術面介紹（儘管不一定看得懂），所以就有點騷不到癢處，不過即使如此本書仍在許多方面帶給我新資訊與省思。定量未來學家艾美．韋伯（Amy Webb）的這本書架構很清晰，先是介紹人工智慧的歷史與當前弊病，再透過分析與研究提出以目前科技業九大巨頭，也就是蘋果、Google、亞馬遜、微軟、IBM、臉書、騰訊、百度、阿里巴巴的發展為核心，關於人工智慧未來發展的三種可能性。最後則是處於關鍵時點的人類該如何做，才能在人工智慧的發展之路上踏上最好的那一條。
人類對於自動思考機器的想像源古流長，眾多的可能性一再被想像，並充滿哲學思考。作者在書中介紹了許多人工智慧的古老源頭，許多讀來頗具詩意與趣味。不過儘管計算機器很早以前便已誕生，人工智慧比較大眾意義上的正式開始還是要等到二十世紀。
隨著電腦誕生且功能漸漸增強， 1955年數學和神經學教授明斯基、數學教授麥卡錫、貝爾實驗室的數學家和密碼學家夏農，與IBM的電腦科學家羅切斯特等人規劃了達特矛斯研討會，他們在會議上集結了相關領域的專家探討人工智慧的可能性。
當然光看時點就知道儘管這個可能性曾經有一度風風火火，在那個科學至上的樂觀年代被相信很快就能達成目標（儘管這目標到底是什麼有點微妙），創造出神奇的人工智慧以成就，呃，許多人想像的許多成就。
不過實際上當時的技術尚無法真正創造出符合理想期待的人工智慧。也因為越研究就越發現困難所在，所以後來這個領域沈寂了很長一段時間，直到二十一世紀才再度成為金流滾滾而來的顯學。
但也就是從達特矛斯研討會開始，就種下了許多令人擔憂的警訊。如同作者在書中反覆強調的，儘管這個研討會與日後許多的研究都有跨領域的性格，但跨的幅度從來都不夠。首先當初研討會的參與者雖然全是菁英但同質性卻異常相近，千篇一律全都是白種男人。
而且不要靠夭什麼那是因為那時代就只有白種男科學家夠格參加，作者在書末註釋整理出了長長的清單，提出許多（但不是全部）同年代有足夠專業與資格參與這場研討會的女性與有色人種研究者。或許當年她們全被跳過並不完全是基於歧視（雖然以五零年代來說要講沒有歧視未免太天真），但某方面而言該說正因為不見得（完全）是因為歧視，所以才顯現出這種高同質性現象的問題有多大。
同質性高就代表價值觀與思考方式相近，人類一定會有的偏見與疏漏也會被視為環境背景甚至世界理所當然的一部分。這點即使來到現代也沒多少改善，頂尖的人工智慧研究者依舊同質性過高。這些人大多出身自類似的家庭背景、進入幾間特定的學校修習性質相近的課程，畢業後進入幾間特定的大公司繼續沈浸在相似的文化裡。
現代企業基於財報壓力已經沒有培育新進員工的餘裕，於是無論是雇主還是學生都認定即戰力是種重要的東西。而學生就業成果會影響學院與大學本身的收入與評價，所以自然也得全力全開培養出即戰力，好讓業界的龍頭大公司願意垂青自家的畢業生。
然而人工智慧是個複雜的領域，於是大學課程在塞滿了各式各樣的必修項目後，再也沒有時間留給其他領域的課程。更糟的是大企業的AI在審履歷時，搞不好還會因為不符合常規，直接把學分來源不夠單一而是太多元的求職者給刷掉。
結果就是人文領域的課程基本上不可能進入這群專家的課表，倫理課程也基於利益導向無法與專業科目結合，變成喊口號重於深刻體會（結果就是即使是業界，談到倫理也還是繼續喊口號而沒有落實），畢竟如作者所云，要建構一門優秀且結合實作的倫理課程很困難也很花錢，而憑我們目前的體制無法讓大學院校與有能力的教授去花這個錢與時間，最後就還是喊口號喊身心理健康的，而且從在學校一路喊到就業以後。
最終就是開設人工智慧相關學系的頂尖大學每年都不斷培養出經歷過的世界很小，卻可能自認代表全世界，或至少在不知不覺間用自己的標準去調整世界的專家。這樣的人做出來的AI會不會有問題？嗯哼，我學人文還是覺得自己各種問題，就別提整個大學幾乎都在農本科又近親繁殖的養殖、咳，養成過程了。
「康威定律」描述在沒有指令與規則的存在下，團隊做出的選擇會反映內部隱含的價值，而那些價值又是什麼呢？在大數據的傲慢與偏見一書中我們可以看見這種思維方式，將透過技術對整個社會造成多少危害。本書中也提及美國聯合航空超賣機位後，動用暴力把因為有緊急手術所以不願放棄座位的華裔醫生拖下飛機的案例。
在這案例裡我們可以清楚看到在AI還無法周全妥適的現在，人類員工即已完全退守，放棄自己的判斷力而只顧著跟隨SOP走。是怎樣的企業文化讓SOP成為如此僵化甚至愚蠢的規則？又是怎樣的企業文化讓現場人員相信跟隨電腦指示的規則強硬行事是好主意，或至少必須做的事？
如果未來人類都放棄思考，讓很聰明但無法周全妥適通盤考慮的AI接手一切時，世界會變成什麼樣子？也許設計這些AI的專業人員他們不是故意讓AI犯這種錯，只是沒想過自己的偏見與思考盲點會導致這種事，而且完全沒意識到有必要改善，只因為這群人才的養成過程中，從來沒有老師與課程讓他們意識些問題的存在？（然後繼續嘲笑文組比較窮，不斷加深性別與種族歧視？）
無情的說一句，這樣的危害長遠下來所造成的社會衝突與不穩定，也會影響到雲端之人的自由與生活。近年來已經有許多省思，開始質疑群眾總是給著這些手握大把金錢的科技富豪巨大的影響力與話語權，但這些人實際上沒有足以負擔起這一切的智慧與警覺心。
要想改善這一切需要跨領域的學養，而且不是一般小型的跨領域，而是更加巨大橫跨傳統文理、需要更加寬廣的專業與視野，才足以應付真實的人類社會。遺憾的是在消費主義的社會裡能獲得越多金錢以換取更富裕生活的東西就越好，於是不同專業也被以不合理的方式排定階級。
近年來來以薪水為依據嘲笑特定領域的專業已成為理所當然的風景，這還不提嘲笑別人的人也許根本不知道自己嘲笑的專業是怎樣的存在。這背後既顯現出消費主義深刻入骨的影響，也帶出在這樣的社會中，人對專業與他人毫不尊重的踐踏以及拒絕思考。長久來看射出的箭或許確實擊中了他人，但在滿坑滿谷的屍體中即使是無知的幸福之人，也終將有因為反作用力與蝴蝶效應而痛苦的一天。
當然講這麼多作者重點是想強調目前培育人工智慧的土壤一點也不健康，偏見、歧視都是問題，基於對更多金錢與利潤的渴望也為這領域的發展蒙上陰影。現代人工智慧引入深層神經網路的技術，令其能透過自行學習快速進步，但進步的方向對人類卻不一定有益。
框架、演算法與資料集是構成人工智慧的核心，但目前卻存在著各式各樣的問題。各家企業的框架彼此間不相容可能造成未來社會人與人之間的隔閡及不便。裡頭存在著各種偏見與謬誤的資料集，已經形成打一開始就不斷倒毒給人工智慧，令其進一步加深社會中各種不公不義的現象。
更別提現階段的人工智慧已經累積大量的黑盒子，當人們為人工智慧提出的成果感到驚豔的同時，即使是最頂尖的科學家也（不一定或往往）不懂人工智慧是如何「判斷」出那個成果。這份無知讓人工智慧做出的結論變得危險，在不清楚推論過程的情況下，可能會發生這次看起來很正確，下次同樣的邏輯卻造成害死一堆人，並導致影響深遠的悲劇也不一定。
作者在書中提出兩大警告，第一是人類過於輕忽對人工智慧的管理，認為令其自由發展也無所謂。但事實上在限定人工智慧、通用人工智慧到超級人工智慧的這條路上，倘若沒有周全的監管，最後人類讓機器把自己搞到爆炸的機率其實很高。
第二個警告是目前人工智慧相關的權力掌握在極小一批人手中，而這群人基於上述提到的種種狀況，其實不見得能周全的處理人工智慧對人類全體的影響，於是我們需要更多元的參與方式與權力制衡以及國家的介入，當然國家要介入的前提是我們的從政者與政府官員，首先要學習AI相關的知識，知道這是什麼東西、為什麼要監管，還有如何監管比較好。
此外作者提到的一個點也讓我思考良多，書中提到對比中國三巨頭，美國的大企業現在往往拒絕與政府各方面的密切合作。之前Google員工基於不為惡的理念要集體要求公司不可與國防部合作，但作者也警告這些頂尖的人才若只想著不想髒了自己手，卻忽視美國和中國軍力因此一來一往的差異可能帶來恐怖的後果。
等到未來戰爭真的開打，或甚至更慘戰力差異拉到想打也打不了時，最終惡果會降臨到生活在自由民主國家裡的所有人身上。儘管艾西莫夫的機器人三大原則對AI設計來說其實過於籠統無法使用用，但第零原則的存在值得更多的思考。長遠來看一聽到研究武器或者和國防部合作就崩潰，也許不利於自己與那些所有好的價值與事物。
當然作為介紹趨勢的書，本書也從當前局勢與發展現況做推估，提出三個未來可能的方向。本書一個優點也因此凸顯出來，那就是作者對中國的認知有著歐美學者難得的謹慎與貼近現實。她明確的將中國視作民主自由價值最危險的對手，想保護自由就必須加以反制抗衡。
在樂觀的世界線裡，人類正視人工智慧的發展弊病並提出因應之道，發起一個跨國也跨企業的管理聯盟統一規畫人工智慧的發展進程，並大力改善相關從業人員同質性過高以及資料集內容缺失的問題。於是現行人工智慧訓練過程中的偏見、歧視、可能形成的結構性及體制性問題皆獲得改善。
人工智慧將以安全又平權的方式前進，美國五大巨頭擁有的人工智慧與受到適當保護的個人資料全都可以跨平台使用，即使企業要利用大數據也可以透過理想的去識別化方式進行而不傷及隱私。
相較之下中國三巨頭基於政治理由拒絕加入自由度如此之高的聯盟，於是其市占率將持續萎縮，最終只能在越來越小的圈圈裡也就是中國內部獨家運作，同時發展也比不上共進共榮的五大巨頭。
在那樣的世界裡，人們逐漸發現過往造成煩擾的那些浪費生命的瑣事，全都由人工智慧代為處理，從此人類可以更加專注於自己的目標之上。各國政府與聯盟也早已做好產業轉型造成的失業潮，讓人們得以在適當培訓後無痛轉往新興的工作領域。
人工智慧將提供更安全也更廉價的醫療資源，並協助個人預防疾病。儘管世界溫暖化仍無可阻擋，但在人工智慧幫助下可以迅速妥適的將人們從不再宜居之地遷徙到正在變得宜居的地方。長久下來每個人都更快樂，大家都知道自己受到人工智慧的輕推引導，但也知道這樣的輕推不會有害於自己與社會整體。
而且通用人工智慧的安全性也持續受到監督，避免無法應對的人工智慧犯罪出現。儘管超級人工智慧的出現在審慎評估後受到限制與延遲，但在那美好的世界裡，人類可以相信當那樣的存在真的面世時，我們也不需要擔心那會變成魔王降臨。
至於在務實的世界線裡，很遺憾人類終究沒能就人工智慧成立有力的跨國跨企業聯盟，不過即使如此人工智慧現存的弊病仍受到重視，於是多少做出一些改善。儘管監督程度不如預期，也很難避免偏見與歧視，但最終人工智慧這領域還是避免了最糟糕的情形。
在這樣的世界裡五大巨頭並未就人工智慧的框架與系統平台進行整合，結果就是圍籬依舊存在而且造成用戶許多不便。個人資料未受到妥善保護，就像現在一樣經常在人們不知情的狀況下受到惡用。各國政府對此的應對之道是端出各類嚴格的法規，結果企業與國家在相關制度上持續發生衝突，並讓自由民主社會內部與國家之間因系統與法令產生分裂。
相較之下中國三巨頭在政府支援下持續像現在這樣，繼續大量使用國內各式各樣的數據與隱私資料，並透過國家機器支援讓人工智慧有了長足的進展，而那是單打獨鬥的五大巨頭與無甚作為的自由民主國家難以企及的發展速度與深度。
於是中國政府也據此出發將其體制與人工智慧產品，推廣至其他人權本即不佳的國家以擴展勢力範圍。相較之下自由民主國家的人們，開始發現依照自己使用的五大巨頭產品價格，比以往更嚴重的數位種姓制度逐漸形成。
而且人工智慧的出現非但沒有提供更多的便利，反而因為疊床架屋造成更多不便與資源浪費。人類醫療系統獲得改善，但卻以穩私與人權的侵害做為代價，甚至可能造成恐怖的後果，並催生出違反醫療倫理的人獸嵌合實驗生物。
同時因為完全沒對人工智慧應用造成的白領階級失業潮做好準備，形成嚴重的社會問題。各種細小的偏見與歧視造成人工智慧應用上，出現越來越多且難以改善的不公不義。通用人工智慧成功面世卻未受到合理監管，出現各種會自主進化而且目的不明的人工智慧，並衍生出難以應付的犯罪手段。
即使五大巨頭試圖端出監管其他人工智慧的人工智慧對抗這些問題，但這樣的人工智慧卻被不瞭解問題的政府與人民以違反人權之名拒絕安裝。在此同時中國人工智慧的進展已完全超越自由民主陣營，由中國政府發起的駭客攻擊不但造成生活的不便，還破壞了人民對五大巨頭的信任，更進一步控制住西方民主國家的所有基礎建築，相關軍事動作更威脅國際安全。
但此時美國已經沒有足夠的國力制衡中國，只能眼看現狀逐漸惡化。最終世界不但被分成兩大陣營，而且自由民主國家即將面對漫長且無法逆轉的衰退，這回看起來極權體制搭配社會信用制度將宰制人類的未來。
超級人工智慧即將在這樣的世界誕生，而且是在不知不覺間誕生，而我們根本無法掌握這樣的存在將帶來怎樣的後果……
如果務實的狀況看起來已經很慘，那接下來還有悲觀的世界線。在這世界裡人們對現行的人工智慧弊端毫無反應，結果就是糟糕的現狀不但繼續下去還變本加厲。科學家不知道隱藏在人工智慧演算法之中的黑盒子到底代表什麼，對通用人工智慧系統開始為害社會時更毫無招架之力。
系統與平台間不相容的結果是人們不但落入數位種姓制度的牢籠中，還成為五大巨頭財報上的肥羊。當然有錢的肥羊會比沒錢的肥羊快樂，個資也能獲得更多的保障。但即使如此人們仍會發現即使是最高等級的人工智慧產品，感覺仍然不夠便利而且常常出現各種問題。
由於導入奈米機器作為醫療系統的一部分，人類得以用十分經濟的方式維持建康，但這些奈米機器的安全卻頗有疑慮，並強迫人類以違反人權和意願的方式追求定義狹隘的健康狀態與生活形態。有錢的人更可以透過技術與硬體改造基因擴張智力，貧富差距成為一種再也無法翻轉的現實。
在此同時中國三巨頭在長年勵精圖治的狀態下，在人工智慧的領域獲得極其良好的成果，並將社會信用體制推廣出國境，形成一個以中國為核心的AI生活圈。在這個跨國生活圈中只要社會信用夠高就能獲得各種優惠待遇，即使是自由民主國家中的人們也難以抵抗這些誘人的優惠，踴躍的主動奉獻金錢、個資並接受管束及自我審查，以換取個人社會信用點數的增加。
當通用人工智慧進入應用狀態時，舊有的偏見與歧視等社會問題非但沒獲得解決，反而進一步惡化。社會變成巨大的壓力鍋，生活品質極度惡化，但個人與政府皆已無力反抗，五大巨頭的存在已經大到根本不可能管束。而實際上考慮到五大巨頭對人工智慧領域研究的相對落後，面對通用人工智慧帶來的種種犯罪與社會問題，根本也沒有足夠的能力可以應對。
不知不覺間西方民主國家的生活已遠遠落後於以中國為核心的人工智能王朝，在社會信用生活圈中的人只要願意放棄自由，就能過著便利豐足的生活。不過即使如此地球環境的惡化仍將為所有人帶來困擾，而在此時國力早已超越自由民主國家的中國人工智能王朝，將為爭奪資源發動攻擊。
到那個時候已經不需要傳統軍事武器，只要駭入奈米醫療機器、啟動早已潛伏在自由民主陣營各種系統中的通用人工智慧，便能為帶來壯大的勝利。到了那時自由民主陣營還會有多少人活著？不知道。會是以怎樣的形式活著？不知道。
唯一能知道的只有超級人工智慧要來了，而它絕對不懷好意。
當然比起我接近一團漿糊極度簡略的帶過，這三種未來的細節還是要閱讀本書才能看見最完整的說明與細節。不過總而言之如同作者在書中所述，目前我們所身處的時代同時存在可能促成上述三種發展的跡象，於是人類究竟會走上那條路目前尚未決定好……不過大概也快了。
要想讓人類的未來不變成恐怖小說，目前可以做的事很多。倡議全球組成跨國家跨企平台以合理方式監管人工智慧的發展，除非能確定特定的通用人工智慧對人類社會確實利遠大於弊否則不應輕易放行。掃除目前出現在人工智慧培育過程中的偏見與歧視，追求更加多元的人才培育方式，關於超級人工智慧的誕生則需要絕對的審慎面對與長期的準備
只是該怎麼說呢，有時閱讀這種書遺憾的點正在於，比起像是自我催眠一般的每次消費都會改變世界（不然還能怎麼辦呢？），本書中所涉及通往樂觀世界的道路必須仰賴巨大的金流與權力，而能促成那一切的絕不是一般的消費者：不管有多吵多努力抵制都一樣。
畢竟除非吵到可以改變這個消費主義社會的體制，吵到全人類拿出決心面對那巨大的偏見與歧視結構，以強硬方式讓阻止華爾街繼續以踩線的方式追逐金錢（然後還有很多人會覺得那是他們應得的，別想改革稅制你們這群左膠），並改變大型跨國企業對營利的渴望，不然……我們只剩手中的選票，希望能支持一個瞭解人工智慧發展重要性也知道該怎麼前進的政治家，雖然不曉得這樣的人究竟存不存在。
更別提一想到人類面對全球氣候變遷的無力，對未來就更無法懷抱希望。
AI未來賽局：中美競合框架下，科技9巨頭建構的未來（THE BIG NINE: How the Tech Titans and Their Thinking Machines Could Warp Humanity）雖然和我原先期待的不太一樣，但還是讓我學到不少新知與之前沒想過的思考方式。如果想要以簡要的方式理解人工智慧的發展史，並瞭解現狀與未來可能的發展趨勢，以及應該努力的方向，那本書便值得一讀。
雖然讀著讀著不免絕望，但知道未來會怎麼倒楣總還是挺重要的吧。
------------------------
八旗文化出版加註警語：
看到本書最後二十頁時，突然看見八旗文化的總編發表歧視言論，當下感覺精神上被甩了一巴掌，忍不住心生感慨，原來讀者是被這樣看待的啊。
我剛開始不很明白，為什麼一個已經死去多年的外國皇帝姓名，因為文化推廣活動被無傷大雅的因應時事開玩笑，會讓這位總編氣到不惜發表性別與階級歧視發言。只是疑惑沒維持很久，想想這位總編向來對自己與滅亡國家皇室與貴族的親戚關係十分重視，而清國皇帝不可能是女人時，關於性別與階級的問題也自然浮現出來，看來古老的魔咒不死，而且不死就是不死。
不過即使這個氣憤的源頭有些微妙，可人心中有些檻過不了也很正常。但讓人氣結的是該總編被指出謬誤後的反應是拒絕反省，還搬弄專有名詞堅持自己的錯誤不是錯誤，甚至為此沾沾自喜。當有男作家加以勸諫時，他的反應是恭維對方比較會演，自己就沒這麼厲害了，只能維持本色的活著啊。隨後還開始拙劣的負面行銷，行銷的還是我正在看的那本書。
這之後該總編的社群網站成為右翼仇女者的同樂會場，該總編不加制止而是默許，有時還樂於附和。於是此這裡為止這人的立場清晰明確起來，他不介意吸附這種能量甚至鼓勵，因為他非常認同且能從中獲利。
於是我感到憤怒，決定在八旗文化總編道歉或者換人之前，都不會再購買這家出版社的商品。該社有些出版品我真的很喜歡，所以這個決定下得有點難過。也或許正像朋友安慰我的一樣，書是無辜的，我大可一邊批判一邊繼續買書閱讀和收藏。
但該怎麼說呢，儘管沒有號召他人一同抵制的打算（也不會有人理會），但我意識到如果自己連這一丁點的犧牲都不做而是繼續裝死，那此刻的憤怒和想法都會顯得可笑又愚蠢，那是我無法接受的結果，於是決定堅持原本的決定。
說真的當看著該總編底下留言的人，在那裡嘲諷女權左膠鬧事無所謂，反正她們根本不是八旗文化出版品的客群，而該總編也不加制止時，我看著我書櫃裡無數的八旗文化出版品，以及電腦資料夾中尚未貼出的心得，還有才剛讀完的新書，不免在內心鬱悶的苦笑：那我是什麼，空氣人嗎？
既然如此，我也只願意給這家出版社空氣。
沒有留言:
張貼留言