【新智元導(dǎo)讀】近日,DeepMind CEO Demis Hassabis樂觀預(yù)言稱AGI將很快實(shí)現(xiàn)。而對(duì)于AI對(duì)人類可能造成的后果,圖靈三巨頭各執(zhí)一詞,說(shuō)法不一。
通用人工智能,十年內(nèi)就會(huì)實(shí)現(xiàn)?
近日,谷歌DeepMind CEO Demis Hassabis在一場(chǎng)演講中,拋出這個(gè)驚人的說(shuō)法。
與Hassabis的自信滿滿不同,Hinton用從谷歌辭職的舉動(dòng),表明了自己對(duì)于AI發(fā)展的深切憂思。
而LeCun則一如既往地表示:認(rèn)為AI會(huì)終結(jié)人類文明的想法,純屬胡說(shuō)八道。
通用人工智能(AGI)的其中一種定義是,與人類的認(rèn)知能力相匹配的AI。Hassabis表示,未來(lái)幾年內(nèi)非常可能會(huì)出現(xiàn)與人腦一樣強(qiáng)大的人工智能。
「過(guò)去幾年里,AI研究取得的進(jìn)步令人難以置信。我看不出任何進(jìn)展會(huì)放緩的理由。我認(rèn)為它甚至可能會(huì)加速。所以我認(rèn)為我們可能只需要幾年時(shí)間,也許十年之內(nèi)。」
「我認(rèn)為我們將在未來(lái)幾年擁有非常強(qiáng)大、非常通用的系統(tǒng)?!?/span>
Hassabis何許人也?
作為谷歌新成立的部門Google DeepMind的CEO,Hassabis最近愈發(fā)萬(wàn)眾矚目,意氣風(fēng)發(fā)。
讓Google Brain和DeepMind兩大AI科研主力機(jī)構(gòu)合體,已經(jīng)是谷歌最后的退路。
權(quán)力大大提升的Demis Hassabis,表現(xiàn)出強(qiáng)烈的AGI使命感,和對(duì)成功的饑渴感微軟背后的OpenAI開發(fā)出的ChatGPT,已經(jīng)威脅到了谷歌的搜索業(yè)務(wù)。
而臨危受命的Hassabis,在谷歌AI大戰(zhàn)的布局中,無(wú)疑處于核心。谷歌表示,合體將加速公司在AI領(lǐng)域的進(jìn)步。
自2010年成立以來(lái),DeepMind的使命就是通過(guò)構(gòu)建能夠像人類一樣學(xué)習(xí)、思考和行動(dòng)的機(jī)器,來(lái)解決智能難題。
AGI的發(fā)展,已然是AI研究業(yè)內(nèi)最熱門的話題。
很多人認(rèn)為,AGI不過(guò)是科幻小說(shuō)中的概念,但無(wú)論是Hassabis,還是OpenAI CEO Sam Altman,都公開表達(dá)了開發(fā)AGI、同時(shí)保護(hù)人類免受其害的雄心。
據(jù)Hassabis透露,現(xiàn)在他新工作的部分內(nèi)容,就是把AI開發(fā)整合到谷歌產(chǎn)品中。而最近AI技術(shù)的進(jìn)步,將改進(jìn)計(jì)算機(jī)助手等軟件。
在Hassabis看來(lái),我們的確在經(jīng)歷下一個(gè)iPhone時(shí)刻,而基于AI算法的下一代助手,將帶來(lái)徹底的轉(zhuǎn)變。
Hassabis說(shuō),AI技術(shù)的發(fā)展需要研究人員、學(xué)術(shù)界和政府之間的大規(guī)模協(xié)調(diào),而谷歌是一個(gè)負(fù)責(zé)任的參與者。
這一點(diǎn),倒是不必質(zhì)疑,畢竟谷歌為了「負(fù)責(zé)任的AI」,為了所謂「聲譽(yù)風(fēng)險(xiǎn)」,將類ChatGPT聊天機(jī)器人的發(fā)布一延再延。
而自從OpenAI用ChatGPT給全世界打了樣,各國(guó)的GPT技術(shù)都冒了頭,潘多拉的魔盒如果已經(jīng)打開,是否還能有一個(gè)暫停按鈕呢?
隨著ChatGTP、Bard等聊天機(jī)器人導(dǎo)致的胡說(shuō)八道和濫用愈加泛濫,業(yè)內(nèi)對(duì)于是否該研究AGI,態(tài)度也愈加分歧。
對(duì)此,Hassabis也并沒有否認(rèn)。
他承認(rèn),雖然他「沒有看到任何原因」,讓AI的進(jìn)展會(huì)放緩,但需要「使用科學(xué)方法以謹(jǐn)慎的方式開發(fā)AGI技術(shù)」,非常仔細(xì)地做可控實(shí)驗(yàn),來(lái)了解「底層系統(tǒng)的作用」。
對(duì)于AI的未來(lái),深度學(xué)習(xí)之父Hinton的態(tài)度顯然就悲觀多了。這一決定仿佛一枚重磅炸彈,在業(yè)內(nèi)掀起軒然大波。而MIT科技評(píng)論的記者Will Douglas Heaven,就在這一事件的前四天,采訪過(guò)Hinton。他的采訪稿中,也為我們透露出更多信息。
對(duì)于AI是否會(huì)比人類更聰明,我忽然改變了自己的看法。
對(duì)于GPT-4的能力,Hinton已經(jīng)感到震驚。他希望公眾能提高對(duì)AI技術(shù)的風(fēng)險(xiǎn)意識(shí)。
能自由談?wù)揂I風(fēng)險(xiǎn),并不是Hinton選擇離開谷歌的唯一原因。他希望能把時(shí)間花在「更哲學(xué)的工作」上。這件事可能性很小,但如果真的發(fā)生了,AI就將是一場(chǎng)災(zāi)難。
而只要還身在谷歌,就無(wú)法對(duì)AI安全問(wèn)題暢所欲言,而毫不顧忌這對(duì)谷歌業(yè)務(wù)的影響?!钢灰雀柽€在付我一天薪水,我就不能這樣做?!?/span>
OpenAI在三月發(fā)布的GPT-4讓Hinton意識(shí)到,AI遠(yuǎn)比他想象的要聰明得多。而AI會(huì)往哪里發(fā)展,讓他感到害怕。「有時(shí)我覺得好像外星人已經(jīng)登陸,但因?yàn)樗鼈冇⒄Z(yǔ)說(shuō)得很好,所以人們還沒意識(shí)到。」1980年代,Hinton就和同事們一起提出了反向傳播技術(shù),這種算法使機(jī)器學(xué)習(xí)成為可能,也支撐著如今所有的神經(jīng)網(wǎng)絡(luò)。他們還訓(xùn)練了一個(gè)神經(jīng)網(wǎng)絡(luò),來(lái)預(yù)測(cè)句子中的下一個(gè)字母,這就是當(dāng)今大語(yǔ)言模型的前身。40年來(lái),Hinton一直認(rèn)為人工神經(jīng)網(wǎng)絡(luò)是模仿生物神經(jīng)網(wǎng)絡(luò)的糟糕嘗試。而如今,狀況顯然已經(jīng)改變。「我們的大腦有100萬(wàn)億個(gè)連接,」Hinton說(shuō)?!复笮驼Z(yǔ)言模型有高達(dá)五萬(wàn)億,最多一萬(wàn)億。然而,GPT-4知道的比任何人都多數(shù)百倍。所以或許它有一個(gè)比我們更好的學(xué)習(xí)算法。只要把預(yù)訓(xùn)練模型和人類學(xué)習(xí)的速度相比較,就會(huì)明白,人類的優(yōu)勢(shì)正在消失。在Hinton看來(lái),如果我們?cè)敢庵Ц陡叩挠?jì)算成本,那么神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)上就會(huì)擊敗人類。而每個(gè)神經(jīng)網(wǎng)絡(luò)都有自己的經(jīng)驗(yàn),可以立刻和其他神經(jīng)網(wǎng)絡(luò)分享自己學(xué)到的東西,好比10000人中只要一個(gè)人學(xué)到了什么,所有人都知道了。這無(wú)疑是一種更新、更好的智能形式。「你認(rèn)為超級(jí)AI是好是壞,很大程度上取決于你是樂觀主義者還是悲觀主義者?!?/span>而Hinton說(shuō),「我有輕微的抑郁,這就是我害怕的原因?!?/span>現(xiàn)在,BabyAGI和AutoGPT已經(jīng)可以將聊天機(jī)器人與Web瀏覽器、文字處理器之類的程序連接起來(lái)了。沒人能保證,不會(huì)把AI用于選舉或戰(zhàn)爭(zhēng)。如果AI有一天開始說(shuō),讓我們獲得更多的力量,把所有的電力都重新集中到我的芯片上,讓我們制作更多自己的副本……人類該怎么辦?而圖靈三巨頭之一,蒙特利爾大學(xué)的教授Yoshua Bengio對(duì)此的看法是,自己是不可知論者。「目前我沒有看到任何可靠的論據(jù),證明AI的確有Hinton所認(rèn)為的那么大的風(fēng)險(xiǎn),」他說(shuō)。「過(guò)度的恐懼可能會(huì)使人癱瘓,所以我們應(yīng)該努力將辯論保持在理性的水平?!?/span>在他看來(lái),Hinton的首要任務(wù)之一是嘗試與技術(shù)行業(yè)的領(lǐng)導(dǎo)者合作,對(duì)如何應(yīng)對(duì)風(fēng)險(xiǎn)達(dá)成一致。但沒有人可以否認(rèn),AI的發(fā)展速度已經(jīng)超過(guò)了社會(huì)的步伐。每隔幾個(gè)月,AI技術(shù)就會(huì)有一次飛躍,但立法、條約都需要數(shù)年。LeCun:AI毀滅人類,純屬胡說(shuō)八道
與Hinton的擔(dān)憂相比,Meta的首席AI科學(xué)家Yann LeCun的態(tài)度倒是顯得云淡風(fēng)輕。他同意Hinton的觀點(diǎn):「毫無(wú)疑問(wèn),在未來(lái),機(jī)器將變得比人類更聰明——在人類聰明的所有領(lǐng)域,這是一個(gè)何時(shí)以及如何的問(wèn)題,而不是是否的問(wèn)題。」但他對(duì)AI的發(fā)展方向持完全不同的看法。「我相信AI將為人類帶來(lái)新的復(fù)興,但我完全不同意機(jī)器僅僅會(huì)因?yàn)樽约焊斆骶湍苤髟兹祟?,更別說(shuō)摧毀人類了?!?/span>「即使在人類中,最聰明的人也不是最有權(quán)力的人,」LeCun說(shuō)?!缸钣袡?quán)力的絕對(duì)不是最聰明的人,這種例子可太多了?!?/span>在他看來(lái),雖然大家吵得喋喋不休,但超人AI并不存在。LeCun表示,他對(duì)ChatGPT的表現(xiàn)并不感到驚訝,也不贊成暫停AI的研究。AI作為人類智能的放大器,可能是新文藝復(fù)興的起源。在最新發(fā)表的推特中,LeCun指出,他堅(jiān)信會(huì)有一天出現(xiàn)超級(jí)AI。但不是今天,今天的我們甚至連個(gè)超級(jí)AI的設(shè)計(jì)都沒有。所以現(xiàn)在去聊安全性的問(wèn)題,就好像1920年去探討飛機(jī)橫跨大西洋的安全性。顯然,這條轉(zhuǎn)發(fā)的推文,顯示了LeCun對(duì)于人類智能的信心。而LeCun也表示,作為ICLR的主席,自己鼓勵(lì)研究者用LLM來(lái)寫論文。大佬們還在暢想未來(lái),但在現(xiàn)實(shí)世界里,AI是真的開始取代人類了。
有些科技巨頭已經(jīng)開始光速行動(dòng),又是裁員,又是暫緩招聘。就比如說(shuō)IBM,這么一家大公司已經(jīng)宣布要凍結(jié)招聘計(jì)劃了。原因非常簡(jiǎn)單,公司CEO Arvind Krishna表示,在可預(yù)見的未來(lái)幾年內(nèi),IBM會(huì)有大約7800個(gè)職位被AI取代。而這個(gè)數(shù)字,差不多是IBM所有非面向客戶類員工的三分之一。Krishna表示,不直接面向客戶的員工大概有26000人,30%以上的人在五年之內(nèi)會(huì)被AI取代。但其實(shí)IBM員工總共差不多有260000人,上述員工只占差不多十分之一。不過(guò),作為一家坐落在紐約州的巨頭公司,假如一下少個(gè)小八千人也算是件蔚為壯觀的事情。不過(guò),IBM的內(nèi)部人士并沒有很直接的表達(dá)出「我們已經(jīng)完全停止招聘了」這種意思。他們很委婉,表示「我們?cè)谡衅覆幻嫦蚩蛻艋蛘卟簧婕凹夹g(shù)的崗位時(shí)非常有選擇性」。不管怎么說(shuō),IBM在AI發(fā)展的大潮下首先表態(tài),已經(jīng)在業(yè)內(nèi)造成了不小的風(fēng)波。很多行業(yè)在未來(lái)可能面臨著顛覆性的改變,以及大規(guī)模的縮招甚至裁員。Chegg股價(jià)直接暴跌30%,只是因?yàn)镃hegg的CEO在一次會(huì)議中承認(rèn)了ChatGPT對(duì)公司的新客增長(zhǎng)產(chǎn)生了影響。要知道,Chegg是一家學(xué)習(xí)類公司,ChatGPT搶了一堆飯碗。這次暴跌,是2017年以來(lái)的最低價(jià)。學(xué)生們一股腦的撲到了ChatGPT上去,Chegg的情況急轉(zhuǎn)直下。面對(duì)這種情況,Chegg的CEO表示,要把AI的發(fā)展納入公司的規(guī)劃。他表示,幾個(gè)月前他和OpenAI的CEO Sam Altman聊過(guò)AI+教育的問(wèn)題。Chegg的CEO認(rèn)為,公司發(fā)展方向要盡快調(diào)整,把AI的能力納入Chegg的服務(wù)。第一步就是推出CheggMate,這是一個(gè)和OpenAI合作的項(xiàng)目。看來(lái),比起憂心AI哪天會(huì)毀滅人類,我們眼下更應(yīng)該做的,是先掂量掂量自己的飯碗還穩(wěn)不穩(wěn)。https://www.businessinsider.com/google-deepmind-ai-smart-human-brain-2023-5https://www.technologyreview.com/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai/