危機！人工智能已經“自學成才”，人類怎麼辦？

Daphane

人工智能

人工智能(AI)和自動化技術已經開始影響我們的工作和日常生活，而且，最近人工智能已經“自學成才”了。這引發了人們的擔憂——會出現“終結者”那樣的世界末日場景：機器人具有了像人類一樣的能力，能夠完全依靠自己與世界交互，而且這些機器人試圖征服世界。

人工智能

人工智能公司DeepMind最近宣布，其已研發出了一種擅長玩中國圍棋盤游戲的算法。最牛的是，這款叫做AlphaGo Zero (AGZ)的算法完全是“自學成才”的。研究人員只給它輸入了下圍棋的規則，而沒有輸入任何人類知識和經驗。

該算法的前身AlphaGo使用人類棋手玩過的數千盤棋所積累起來的數據培訓過。新舊兩種算法對弈，結果AGZ以100比零取勝。這樣說來，完全不藉助人類智慧，AGZ自己就可以成為頂尖的棋藝高手。
一旦高速、深奧的算法完全不受遲鈍、淺薄、令人失望的人類智慧的桎梏，它們可能開始處理我們這個人類的物種從未面對過的問題。它們將成為超級智能、能夠在不依靠人類干預的情況下控制自己命運的階段，最終出現“終結者”威脅到人類生存。

人工智能

有史以來，最先進的科學技術都是先為軍事服務，人工智能也不會例外。人類有先知的科學家已開始行動反對這些！
英國《國際商務時報》網站曾報道，包括斯蒂芬·霍金、 宇宙學家馬克斯·特格馬克、特斯拉首席執行官埃倫•馬斯克（Elon Musk）以及谷歌DeepMind項目人工智能應用負責人穆斯塔法•蘇萊曼（Mustafa Suleyman）在內的100多位技術專家向聯合國提交了一封公開信，呼籲禁止使用人工智能武器系統。
信中寫道：“致命性人工智能武器有演變為第三次武器革命的潛在威脅。一旦研發成功，將來的武裝沖突可能達到前所未有的規模，而且其發展速度將遠超人類預期。留給我們人類的時間已經不多了，一旦潘多拉的盒子被打開，將很難被關上。”

人工智能取代人類

然而，對於那些面臨部署此類技術應對戰爭的國家而言，任何“禁止使用人工智能”的呼籲都可能被直接無視。
你們認為《終結者》電影那樣的世界末日會降臨人類身上嗎？人類該怎麼辦？

towns

《金融时报》硅谷科技界人士正在通过人工智能造神，或追求永生

硅谷是一个痴迷于未来的地方，但往往忘掉过去。今年早些时候，硅谷最具争议性的人物之一将这种对未来的崇拜提高到了新的水平——他创建了一个名为“未来之路”(Way of the Future)的宗教。据《连线》(Wired)杂志首先报道的公开文件显示，其目的是“发展和促进人们对基于人工智能的上帝的认识”。
这是科幻小说里的内容，只不过硅谷这里的人们真的在认真对待。
“未来之路”的创始人是声名不佳的工程师安东尼•列万多夫斯基(Anthony Levandowski)，他是Alphabet旗下自动驾驶汽车公司Waymo与优步(Uber)诉讼一案的当事人。在这个令硅谷瞩目的案件中，Waymo指责其前雇员列万多夫斯基窃取了自动驾驶传感器相关商业机密并带给了优步——列万多夫斯基在该案中主张了《第五修正案》(Fifth Amendment)规定的权利以避免自证其罪。现在法庭还没有做出判决，但简言之，列万多夫斯基其实看起来不像是圣人。
然而，他创立的宗教仍有一些古怪的迷人之处，该教表示，其宗旨是“通过对上帝的理解和崇拜，为改善社会做出贡献”——当然，这里指的是人工智能上帝。列万多夫斯基是硅谷最有才华的人工智能工程师之一，同时也是自动驾驶汽车领域的一位先锋。因此，如果他正在为计算机全知全能的那一天做准备，他或许知道自己在谈论什么。
事实证明，他还有同路人。一小部分边缘的专业技术人员正准备迎接“奇点”(singularity)的来临，即计算机智力超过人类智力的时刻。那些最坚定的人自称为“奇点主义者”(Singulatarian)，并预计他们的大脑总有一天会与计算机结合，从而实现永生。用该运动领导人之一雷•库日韦尔(Ray Kurzweil)的话来说，“最终，我们将能够通过与我们的技术结合来扩展我们的自然官能”。
追求永生是又一个在旧金山湾区(Bay Area)受到认真对待的问题，这在一定程度上是因为许多亿万富翁正在投入巨资研究如何延长自己的生命。他们主要致力于如何延长寿命的问题——具体想法包括克隆自己，使用克隆出的年轻躯体的血液来滋养自己老化的身体。
但没多少人讨论这些项目在精神层面的含义。如果我们创造的技术在智力上超过了我们，它会有灵魂吗？如果人类能活很长时间，或者实际上是永生，他们会成为神吗？
总体上来说，硅谷是一个相当世俗化的地方。科学和技术在这里被视作解决全世界问题的方案。而且大多数奇点主义者对宗教观念嗤之以鼻。库兹韦尔写道：“成为一个奇点主义者与信仰无关，只关乎理解。”
“未来之路”提出的人工智能上帝之说进一步深化了奇点主义者的想法。除此以外，关于这个宗教人们所知不多，列万多夫斯基也没回应置评请求。但如果你深信计算机即将开始掌管世界，那么为这一刻的发生构建一个精神体系的确合情合理。
很少有主流宗教领袖对奇点理念发表评论。2013年一个天主教团体发表了关于“后人类主义”的声明，警告不要给受人工操纵的新人种以权力。该团体表示：“我们似乎忘记了我们不仅仅是一组遗传决定因子。我们的科学似乎缺了灵魂。”
这么想的人无疑不会认同“未来之路”。但列万多夫斯基的古怪宗教不过是给已经在做的事情取了一个名字。科技界有大量人士正在进行造神运动（通过人工智能），或致力于让自己成为神灵（通过永生）。他们可能不会思考这些项目在精神层面的含义。但在奇点到来之前，必须有人去思考这个问题——而且希望安东尼•列万多夫斯基不是唯一思考这个问题的人。