【人類過去的發明有沒有可能帶我們走錯了方向？
從第二盤AlphaGo vs. 李世石的觀察】
轉發自微信：
來自一位名叫陳老宇的網友：想想就可怕，今天整個棋局和昨天幾乎一樣，在開局時人類根本看不懂阿法狗怎麼下棋。許多不入流的業余棋手甚至都認為自己完全能戰勝機器狗。到了中盤李世石的優勢非常明顯。中國第一當紅棋星柯潔甚至宣布，阿法狗完全沒戲了！而這條機器狗，在人類的嘲笑聲中，不動聲色地繼續不斷地下出人類認為的俗手大臭棋。讓李世石繼續擴大優勢。同時可能在暗中讓他不斷更充分地暴露出他的每一處至命弱點，並牢記在心。
最後，總清算的時刻終於到來了！直到收官時人類才發現：原來盤面上機器狗竟是處處占優！剛才我們看到的黑棋處處虧，白棋處處贏，所有人類認定的好棋，李世石該走的都走了！但最後的局面竟然是黑棋占絕對優勢。原來人類和機器狗對大局全局的看法竟然完全不同！在對戰略全局的把握上，充滿靈性的人類反而比冰冷笨拙看上去傻乎乎的機器狗要差得太多！這才是最可怕的一點！
整個收官，就是AlphaGo對李世石的屠殺！在機器還有 21 分時，李世石的時間就用完了。李世石進入讀秒，慌亂中竟不得不在最後一秒落子，引發觀戰席一片虛驚。而毫無任何感情波動的AlphaGo沒有給李世石任何一點點機會，步步緊逼直到他投降。
有了機器狗我們可能才明白，我們人類過去對圍棋的許多認識的都是錯誤的。都是一種迷信。機器狗的認識反而是正確的。盡管它的棋下的很難看。它的棋雖然是人類教會的，人類還教會了它繼續學習的方法。但它通過自己的學習，產生了它獨立的對圍棋的理解，這種理解竟和我們完全不同。現在反過來我們可能需要向機器狗學些什麼了。
柯潔，這位自稱大棋渣的中國最自信的九零後棋王，前幾天還說他對機器狗肯定是下五盤贏五盤，下十盤贏十盤。今天，也開始改口說，不知道能不能真的下贏這只狗。這個態度，我想代表了我們所有人對人工智能的新感覺。
蔡文勝對這篇文章的點評：這裡最有啟發的是，我們一直用以往經驗來做判斷，但那就是最好的嗎？為什麼飛行器就要模仿鳥類飛行？為什麼房子要建成四方的？為什麼能源依靠石油？回頭看，或許人類很多發明都是錯誤方向。
棋王讀後感 在 [心得]《AI製造商沒說的祕密》：讀後感- 看板book - 批踢踢實業坊 的八卦
部落格圖文心得：https://maxjamesread.com/genius-makers/
自AlphaGo在 2016 打敗棋王李世石以來，人工智慧、深度學習等字眼相信大家早已不陌
生。面對這個 AI 急速發展的時代，你對這「智慧」了解有多少呢？推薦這本《AI製造商
沒說的祕密》，帶你一探AI的崛起之路，思索「它」的可能與危險。
作者凱德．梅茲是《紐約時報》科技記者，長期深耕人工智慧、自動駕駛、機器人等領域
。書中他從「人」的角度出發，為讀者帶來一場精彩的AI演進簡史。取材嚴謹，敘事流暢
，讀來暢快又引人深思。
我的構想不是寫此一科技，而是研發此一科技的人。
【AI的起源】
1958 年， 29 歲的康乃爾教授法蘭克．羅森布拉特與他的海軍同伴展示了一個名為「感
知器」的機器。羅森布拉特將兩種卡片塞入機器，一張左邊有方形記號，一張在右邊。起
先機器無法辨別差異，但在 50 張卡片後，它開始能分辨卡片上的記號，左邊、右邊、右
邊……，作答精確無誤。
羅森布拉特表示，這是套模仿「人類大腦」的數學系統。在未來，「它」將可以學會辨識
手寫字體、口語指令，甚至是人臉。據《紐約時報》報導，海軍官員對於是否要將其稱為
「機器」有些拿捏不定，因為它太像「人類」，只差沒有生命。
海軍設計出能夠思考的科學怪人。
感知器是最早的「神經網路」之一，可說是AI（人工智慧）的起源。羅森布拉特預言現在
看來精準的駭人，而他也被稱作是深度學習之父。不過他在43歲時意外過世，繼續推動AI
走到今天的，是一群神經網路狂熱者……
【AI黑手黨】
羅森布拉特的目標是打造能像人腦般「自我學習」的機器。科學家稱這樣的概念為「連結
主義」，因為它需要大量「神經網路」連結運算。與之相對的是「符號主義」，其步標是
打造能根據人類指示，在不同狀況下做出不同反應的機器。
現在神經網路已然是人工智慧顯學，但這領域一度面臨寒冬。過去很長的一段時間，神經
網路發展極度遲緩，不但被政府大刪預算，大多數科學家也都轉向符號主義的懷抱。那段
時間，研究人員為讓論文被接受，甚至故意用像「函式近似」或「非線性回歸」等名詞取
代「神經網路」。
即便憋屈，但仍有一搓人對神經網路的充滿信仰。這領域的關鍵人物有三人：辛頓、楊立
昆與班吉歐。整本書內容幾乎都環繞在這「三巨頭」身上。而他們也在 2019 年獲得電腦
界諾貝爾獎的「圖靈獎」。
當然神經網路的成功，絕非只靠這三人，還有太多太多人的共同努力。光書中提到的就有
數十人。在閱讀的過程中，我感受到這群人對「夢想」的狂熱。如同《失控的轟炸》中那
群相信精準轟炸的轟炸機黑手黨般，這些人同樣抱著宗派式的狂熱，對神經網路一往情深
。開放人工智慧實驗室領導人阿爾特曼形容得傳神：
自信是一股非常強大的力量，我所認識最成功的人士都相信自己，堅信不移，
甚至已到幻想的地步。
隨著神經網路、深度學習的概念被認可，這些狂熱終於轉成真金白銀。各大科技公司都捧
著高薪求才。書中提到，即便是剛出校門的菜鳥博士，年薪都高達 50 萬鎂。看得我不免
感嘆入錯行（笑）。敝司在美國給新人博的價碼連 20 萬鎂都不到，根本雲泥之別……
書中描述各種瘋狂搶才大戰，鬥智鬥力可說相當精彩。最後谷歌搶到了辛頓，而臉書則擁
有楊立昆，而他們的徒子徒孫們也都進入各大公司，一展長才。
【AI的強大可能】
話說回來，大家常聽到的「深度學習」到底是什麼？它是一種「多層」神經網路。不像感
知器只有單層，這方式可以藉由將訊息傳輸給下一層，學習更複雜的事物。
比如給系統看一張狗的照片，第一層會分析像素顏色（黑、白、棕……）；接著將結果傳
給第二層，第二層進一步分析像素模式（直線、弧線……）；第三層會繼續檢視這些像素
的其他模式，以此類推……最終就能辨識出一隻狗的形象。
當然要實現這想法並沒那麼簡單，光辨識出一隻狗，就花了科學家大把時間。不過在這群
狂熱者的奮戰下，深度學習開始在各領域攻略城池。現在的深度學習系統已能精準判讀語
音；穩定辨識手寫字體；順利在不同語言間轉譯；甚至還能作曲、作畫。而最廣為人知的
例子，或許是AlphaGo擊敗前世界圍棋棋王李世石。
書中有個例子讓我印象很深。辛頓的學生喬治．達爾參加由默克藥廠發起一項競賽。這競
賽想探討的是一種稱作「定量構效關係」的藥物研發技術。但達爾壓根不曉得這是什麼，
卻依然用深度學習系統獲得優勝。如辛頓說的：「喬治橫掃整個領域，卻還不知它叫什麼
。」
這讓我想到《反脆弱》。深度學習系統似乎就實踐其中提到，不用了解「理論」，而是藉
由反覆試誤、調整找到更佳解的模式。人工智慧用強大的自我學習能力，找到人類不能企
及的新可能。谷歌前執行長史密特說得巧：
在科學與生物學中，存在許多人類看不到的模式，而在辨識出來後，可以幫助
我們開發出更好的藥物與解決方案。
看起來很美好，但這一切並不是沒有隱憂……
【AI的問題？】
從眾人看衰，到攻無不克，AI的未來看似一切光明。但隨著人工智慧逐漸強大，許多問題
也浮上檯面。
〔隱私疑慮〕
辛頓的學生蘇茨克曾說，神經網路的優勢是你只要餵它資料，它就可以自我學習行為。
但問題是你要先有「資料」。
深度心智的創辦人蘇萊曼曾打算透過進行一項計畫，透過讓 AI 分析病患醫療紀錄（血檢
、生命跡象、過去醫療史等），預測「急性腎損傷」。急性腎損傷發生率高（每 5 個住
院病人就有 1 人），甚至可能會喪命，但只要及早發現就能治癒。
原本深度心智已經與皇家醫院國民保健基金會信託金簽約，獲取 160 萬名病患的資料。
但在《新科學人》雜誌揭露此合作案後，馬上就引發眾人對隱私權遭侵犯的恐懼。最終這
項合作被英國主管當局判定違法。
不管你希望深度學習攻克哪個領域，都要有大量的資料供它自我訓練。但當其牽扯到個人
隱私時，狀況就變得相當棘手。
〔訓練偏誤〕
另一個問題是，深度學習的訓練可能會產生「偏差」。
書中有個駭人的例子。谷歌所提供的智能辨識系統竟誤將非裔美國人識別為「大猩猩」。
因為當初在建立辨識系統時，工程師多為白人男性，而他們挑選的資料也幾乎都是白人，
這導致系統對有色人種判斷力不足。
除了餵養的資料可能會有偏差，還有一個更難解的問題：訓練標準。
隨著社群發展，假新聞與仇恨言論得到前所未有的放大。臉書創辦人祖克柏就聲稱能透過
人工智慧，撤除這些「有問題」的資訊。問題是連人類都很難對什麼是假新聞，什麼是仇
恨言論達成共識，又要怎麼訓練機器去判讀呢？
不若圍棋或星海等遊戲是封閉環境，有清楚規則與判定勝利的標準，現實世界沒有人會打
分數。如電腦科學家喬艾．布蘭維尼說的：
我們該以由誰的決定進步的意義？有該以何種標準決定進步？
我想，這問題恐怕永遠都難有解答。
〔誤用危機〕
更糟的是 AI 被用到壞的地方。如三巨頭之一的班吉歐說的：
我們的工具可以使之為善，也可以使之為惡。
對於能將AI應用在哪些領域一直都存在爭議。如 Deepfake 強大的換臉功能，就成了許多
女性的惡夢。《紐約時報》也曾報導中國政府利用人臉識別，追蹤與控制維吾爾人。如作
者所言：
深度學習創造出一種力量，即便當初的開發者也無法完全控制。
無怪伊隆·馬斯克會說人工智慧可能毀了人類……而解方或許如深度心智創辦人之一的蘇
萊曼所說的：
我們在建立科技之前，必須審慎思考此一科技會如何遭到誤用的問題，還有如何將其至於
監管之下的問題。
像當初深度心智在出售公司給谷歌的合約中，就訂下兩個條件：
１．禁止將深度心智的任何科技應用在軍事目的。
２．成立獨立倫理委員監督人工智慧科技使用情況。
事實上他們當初決定將公司賣給谷歌而非臉書，原因就在於祖克柏並不認同他們對人工智
慧可能造成的道德疑慮，拒絕成立監督委員會。
另外，更多元的參與或許也會是解方。如美國計算機科學家蒂姆尼特．蓋布魯說的：
如果許多人被排除在創造人工智慧的過程之外，此一科技僅會讓少數人獲利，卻會對無數
人造成傷害。
【後記：圍棋的那點小事】
身為業餘圍棋愛好者，我永遠無法忘記當初追直播時，看到李世石投子認輸的震撼。
書中提到的神奇37手，以圍棋術語來說叫5路肩衝。傳統認為4路是極限，但 AlphaGo 卻
硬上5路。事實證明那是步好棋。
第二局第37手（截自DeepMind）
我更無法忘懷的，是看到李世石在第四局使出渾身解數打出 78 的鬼手，成功爆破中央，
幫人類短暫守住最後堡壘時的感動。
第四局第78手（截自DeepMind）
現在圍棋使用AI輔助已非常普遍。棋手都會用AI訓練，甚至直播時也會放上AI勝率圖供觀
眾參考。
第五屆吳清源杯世界女子圍棋賽16強：黑嘉嘉七段 vs.於之瑩七段，盧鈺樺四段 vs.李赫
五段（截自海峰棋院）
對於現在不時有AI取代人類的說法，我覺得圍棋的模式或可作為參考。如上頭說的，現在
棋手都會用AI訓練，用電腦的推薦選點作為行棋參考。
但這並不意謂著AI取代人類。事實上，有些選點根本超越人類理解，就算照著下也無法掌
握之後的變化。當今圍棋第一人申真諝在專訪中就提到，希望AI增加參考選點，讓棋士能
有更多選擇。
或許這就是人類與AI能共榮的模式吧？藉由人工智慧協助，對人類遭遇的各種問題提供更
多可能解方。而最終還是要靠人類自己選擇，找到最適合我們的出路。
我想，不管面對隱私、誤用等問題，最終還是要回歸到「人」，思考這些應用是否能為人
們，甚至是整個世界的其他生物帶來更好的環境。納入更多元的角度才不會走偏鋒，而能
利用 AI 開拓出更嶄新的道路吧！
--
姆斯的閱讀空間
FB: https://www.facebook.com/maxjamesread/
IG: https://www.instagram.com/maxjamesread/
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.238.117.26 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/book/M.1662723236.A.A8A.html
... <看更多>