#人工智能#
杰弗里·辛頓(Geoffrey Hinton)
Hinton出生于英國的科學(xué)世家,在高中時期就對人腦的工作原理產(chǎn)生了濃厚興趣,但在劍橋大學(xué)換過多個專業(yè)后,最終拿到的卻是實驗心理學(xué)學(xué)士學(xué)位。
失去方向的Hinton在畢業(yè)后選擇成為一名木匠,一邊做木門、做書架,一邊繼續(xù)思考大腦工作原理。
一年多的體力勞動后,Hinton決定回到學(xué)術(shù)界,前往愛丁堡大學(xué)研究尚處邊緣的神經(jīng)網(wǎng)絡(luò)方向,并于1978年獲得人工智能博士學(xué)位。
雖然對神經(jīng)網(wǎng)絡(luò)的研究最早可以追溯到五十年代,但在1986年Hinton等人提出反向傳播算法前,幾乎沒人相信神經(jīng)網(wǎng)絡(luò)。反向傳播算法解決了多層神經(jīng)網(wǎng)絡(luò)的訓(xùn)練問題,讓神經(jīng)網(wǎng)絡(luò)開始變得可行,這是Hinton第一次改變?nèi)斯ぶ悄馨l(fā)展進(jìn)程。
2006年Hinton等人提出深度信念網(wǎng)絡(luò)(DBNs),帶領(lǐng)神經(jīng)網(wǎng)絡(luò)進(jìn)入深度學(xué)習(xí)時代,這是Hinton第二次改變?nèi)斯ぶ悄馨l(fā)展進(jìn)程。
神經(jīng)網(wǎng)絡(luò)的全稱是人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks, ANNs),是受人類大腦中生物神經(jīng)網(wǎng)絡(luò)啟發(fā)而構(gòu)建的計算模型,它使用一系列人工神經(jīng)元進(jìn)行信息處理,這些神經(jīng)元通過加權(quán)連接進(jìn)行組織。
在神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上,深度學(xué)習(xí)通過構(gòu)建多層神經(jīng)網(wǎng)絡(luò)模型,并且模型中通常還含有多個隱藏層,以達(dá)到學(xué)習(xí)數(shù)據(jù)中更深層次、更抽象的特征。
現(xiàn)在我們看到的人工智能繁榮,在很大程度上都要歸功于深度學(xué)習(xí)技術(shù)的突破,深度學(xué)習(xí)從根本上塑造了現(xiàn)代人工智能的面貌。
深度信念網(wǎng)絡(luò)(DBNs)不僅展示了深度學(xué)習(xí)的有效性,還啟發(fā)了許多后續(xù)的深度學(xué)習(xí)模型和訓(xùn)練策略,比如卷積神經(jīng)網(wǎng)絡(luò)(CNNs)、循環(huán)神經(jīng)網(wǎng)絡(luò)(RNNs)、生成對抗網(wǎng)絡(luò)(GANs)等,對深度學(xué)習(xí)領(lǐng)域產(chǎn)生了深遠(yuǎn)影響。
與Hinton同時獲得2018年圖靈獎的還有兩位,楊立昆(Yann LeCun) 和 約書亞·本吉奧(Yoshua Bengio),這在圖靈獎歷史上并不常見。圖靈獎又被稱為“計算機(jī)界的諾貝爾獎”,多數(shù)情況下每年僅頒發(fā)給一名科學(xué)家。
2018年圖靈獎頒獎典禮
LeCun的主要貢獻(xiàn)在卷積神經(jīng)網(wǎng)絡(luò)(CNNs)、Bengio的主要貢獻(xiàn)在生成對抗網(wǎng)絡(luò)(GANs),他們與Hinton一起被稱為“深度學(xué)習(xí)之父”。
這三位不僅在學(xué)術(shù)上有獨立的研究貢獻(xiàn),也有緊密的合作,互相之間影響很大,更是在神經(jīng)網(wǎng)絡(luò)發(fā)展的低谷期建立了很深的友誼。
從1986年到2006年的20年是神經(jīng)網(wǎng)絡(luò)研究的低谷,只有以Hinton為核心的少數(shù)科學(xué)家在堅持研究這個方向。
為了找到支持他研究神經(jīng)網(wǎng)絡(luò)的棲身之處,1987年Hinton接受加拿大高級研究所(CIFAR)邀請,在加拿大多倫多大學(xué)建立了實驗室。
Hinton對神經(jīng)網(wǎng)絡(luò)的堅定信念,吸引相信神經(jīng)網(wǎng)絡(luò)的人陸續(xù)來到多倫多加入他的實驗室。
LeCun在美國獲得博士學(xué)位后,追隨Hinton來到多倫多,在Hinton實驗室進(jìn)行博士后研究并發(fā)表了卷積神經(jīng)網(wǎng)絡(luò)(CNNs)論文,他現(xiàn)在是Meta首席科學(xué)家。
Bengio在讀研究生時被Hinton的一篇論文所激勵,明確了研究方向,并成為Hinton的摯友,現(xiàn)在是加拿大蒙特利爾大學(xué)教授,幾十年來每當(dāng)Bengio從蒙特利爾來多倫多,都是住在Hinton家里。
在神經(jīng)網(wǎng)絡(luò)低谷期,Hinton實驗室逐漸成為大家的避風(fēng)港,Hinton也成為神經(jīng)網(wǎng)絡(luò)研究的精神領(lǐng)袖。同時,Hinton在此期間培養(yǎng)了一大批優(yōu)秀的學(xué)生,其中就包括OpenAI聯(lián)合創(chuàng)始人兼董事Ilya Sutskever,他是Hinton的博士。
今年已經(jīng)77歲高齡的Hinton依然活躍在人工智能研究領(lǐng)域。因為Hinton,加拿大成為全球人工智能研究的重鎮(zhèn)之一,吸引了多家人工智能巨頭將研究機(jī)構(gòu)設(shè)立在多倫多。
聯(lián)系客服