編者按：近幾十年來，隨著計算機科學(xué)的快速發(fā)展和高級算法以及編程語言的不斷完善，AI逐步開始接近人類在某些方面處理問題的能力，并迅速得到全球的關(guān)注。但在AI發(fā)展一片向好之時，多位科學(xué)家卻對AI和人類未來的關(guān)系充滿了擔(dān)憂。
1 悲觀的預(yù)言
人工智能（Artificial Intelligence, AI）是指人們所制造的機器能夠體現(xiàn)的智能，主要通過計算機程序代碼來實現(xiàn)這種類人智能技術(shù)。自從1955年約翰·麥卡錫在一次訪談中提出了這個詞，近幾十年來，隨著計算機科學(xué)的快速發(fā)展和高級算法以及編程語言的不斷完善，AI逐步開始接近人類在某些方面處理問題的能力，并迅速得到全球的關(guān)注。谷歌、百度、Facebook等互聯(lián)網(wǎng)巨頭都斥巨資開發(fā)人工智能和相關(guān)的服務(wù)，AI成為了現(xiàn)代人類生活中無法忽視的一個因素。
但是，在AI發(fā)展一片欣欣向榮的景象中，傳奇物理學(xué)家斯蒂芬·霍金卻對未來AI和人類的關(guān)系充滿了擔(dān)憂。他認為AI可能是人類文明歷史中最糟糕的發(fā)明，擔(dān)心AI終將取代人類。他曾多次公開表示：“徹底開發(fā)人工智能可能導(dǎo)致人類滅亡”。
不僅是霍金，處于風(fēng)口浪尖的“鋼鐵俠”設(shè)計者埃隆·馬斯克以及微軟創(chuàng)始人比爾·蓋茨，也都警告過要注意AI的“危害”。MIT的教授以及幾名來自美國三大互聯(lián)網(wǎng)巨頭谷歌、IBM和微軟的企業(yè)員工等，也曾聯(lián)名寫過公開信，表達AI未來會影響人類安全問題和社會福利問題的憂慮。
2 關(guān)鍵的“技術(shù)奇點”
按照霍金的說法，AI在初級發(fā)展階段的確可以為人類生活帶來極大的便利，但是，機器將可能以不斷加快的速度重新設(shè)計自己，“如果人類能夠?qū)懗鲇嬎銠C病毒，那么也能夠設(shè)計出能夠自我復(fù)制的AI”，而人類則受制于生物進化速度，在智能的演進速度上根本無法與之競爭，使得人類最終被AI超越。科學(xué)界將這種AI全面超越人類智慧的轉(zhuǎn)折點稱之為“技術(shù)奇點”。
具體的“技術(shù)奇點”含義是指，當廣義上的AI擁有了“自我進化”的能力或者當“機器能生產(chǎn)更加聰明的機器”這種情況得以實現(xiàn)，因為技術(shù)進化的速度會遠遠高于生物進化的速度，所以在AI和人類智慧的比較上將會產(chǎn)生滾雪球的效應(yīng)，AI會不斷進步并且發(fā)展得越來越快，并最終迅速超越所有人類智能的總和。超越這個“技術(shù)奇點”以后，AI會迅速超過人類可以控制甚至理解的范疇，當機器運行的原理不為人類所掌握，人類也就無法控制機器的運行，因此在突破了奇點之后，人類的命運也就將不會完全掌握在自己的手中。
3 AI終結(jié)人類的必要條件
但是，當AI已經(jīng)全面超過了人類智慧之后，就一定代表AI會采取措施終結(jié)人類的生存嗎？這個問題值得我們好好思考，因為人類對于強于自己甚至是有可能強于自己的事物懷有深深的擔(dān)憂和敵意，當然這也是人類的自我防衛(wèi)機制的本能反應(yīng)，不過這種主觀的本能反應(yīng)，會深刻地影響我們對于形勢的判斷。
從邏輯上說，要獨立解決任何一個問題，需要有兩個必要條件，即解決問題的能力和解決問題的動機，前者為個體所具有的“能力”，而后者可稱為個體的“意識”。因此，對于“AI會不會成為人類終結(jié)者？”這個問題，我們把其拆成兩個主要部分：第一，AI能不能具備終結(jié)人類的能力？第二，AI會不會有終結(jié)人類的意愿？
根據(jù)目前AI的發(fā)展情況，從解決問題的能力的角度來看，AI的智能全面超越人類智慧是大概率事件。目前在人類日常生活中能遇到的所有問題中，有80%以上的問題我們已經(jīng)能夠通過設(shè)計出超過人類智慧的AI來更高效地解決。二十年前的兩次世界象棋“人機大戰(zhàn)”與2015年AlphaGo連續(xù)戰(zhàn)勝多位圍棋九段高手的對比，便是AI在能力上快速擴張和快速超越人類的典型案例之一。
但是，對于AI是否有終結(jié)人類的意愿，或者說未來的AI是否能擁有意識，便完全是另外一件事情了。按照達爾文的進化論假說，解決問題的意識來源于生物的應(yīng)激性，并且通過“遺傳變異+進化優(yōu)勢”這種模式增大基因延續(xù)概率，從而慢慢發(fā)展而來。在這里，有兩個條件是必須具備的：第一，該個體具有隨機變異機制的基因系統(tǒng)；第二，該個體具有能夠保留有利基因、消滅不利基因的內(nèi)在環(huán)境。
但是，這兩個條件目前AI完全不具備，雖然目前AI界的“強人工智能”概念便是制造出真正能推理和解決問題的、并且是有知覺和自我意識的智能機器，但是AI界甚至哲學(xué)界都對這一論題進行了激烈的可行性爭論，而研究還沒有實質(zhì)的進展。即使未來AI科學(xué)家取得突破并使得AI系統(tǒng)具有發(fā)展自我意識的前提條件，AI是否能在短時間內(nèi)達到生物界數(shù)十億年自然進化的效果、獲得有效的意識，也很難預(yù)料。
更進一步，就算AI具有了可以自我控制的意識，我們并不能斷定AI就會有終結(jié)人類的意愿。首先從能力上，人類并不會威脅到AI的生存，因為人類智慧根本不可能和已經(jīng)具有自我意識的AI抗衡，也就不會對AI造成實質(zhì)性的威脅從而形成敵對關(guān)系；其次在生存環(huán)境上，AI以機器為載體，上可翱翔太空下可潛入水底，而人類還需要呼吸氧氣，也就不會和AI存在利益沖突。因此AI和人類之間，并沒有一定會發(fā)生矛盾甚至戰(zhàn)爭的誘導(dǎo)因素，AI也就沒有終結(jié)人類的意義。
4 未知的未來
通過上面的分析，AI直接發(fā)動戰(zhàn)爭滅絕人類的可能性非常小，但是在未來社會，AI卻也許會用別的方式毀滅人類而無需產(chǎn)生自我意識。最典型的，就是AI會深刻地改變?nèi)藗兊墓ぷ骱蜕罘绞?，引起人類社會的混亂和矛盾，從而借人類自己的手將人類自己毀滅。
目前這種AI威脅論甚囂塵上，很多著名學(xué)者都預(yù)測人類的很多職業(yè)都將被AI所取代，造成大量工人的失業(yè)，從而使得社會面臨動蕩和沖突的危險。這就需要未來人類在面對這種生活巨變的時候，能夠正視變革、擺好心態(tài)，找準自己的位置，各展其才，各盡其用，在這變革的洪流中挖掘自身更大的力量和價值。
聯(lián)系客服
