摘要: 在機器學習領域,除了谷歌AlphaGo的“在線學習”,還有一種效率更高并且直接在硬件端完成機器學習的方式——片上學習。
今年初谷歌AlphaGo與圍棋冠軍李世石的人機大戰(zhàn),讓人們對人工智能的關注度提升到了前所未有的高度,正所謂“外行看熱鬧、內(nèi)行看門道”,AlphaGo獲勝的背后離不開谷歌開發(fā)的深度神經(jīng)網(wǎng)絡,而這正是人工智能機器學習當中重要的組成部分。
AlphaGo在對戰(zhàn)時,是采用一種“在線學習”(On-Line Learning)的模式,意思就是說AlphaGo的服務器在美國中西部,通過谷歌云服務連接到韓國首爾的對局室,谷歌總部團隊必須確保AlphaGo與谷歌的服務器連接順利。
,簡單講就是字面所傳達的意思,在芯片上進行機器學習。
在了解“片上學習”之前,我們有必要回顧一下計算機的工作結構。
幾十年前,美籍匈牙利科學家馮·諾依曼曾提出了以自己名字命名的“馮·諾依曼體系”,這種體系結構下,計算機的指令和數(shù)據(jù)采用0和1的二進制,處理任務按照固定程序順序進行,也就是所謂的“串聯(lián)”。
而人腦處理事情為“并聯(lián)”模式,人類可以同步處理看到、聽到的內(nèi)容,并且基于人類的“自我學習”能力,完成一次判斷。比如,心智正常的人,面對一本雜志與一份報紙,可以在一瞬間分辨出來,這是人類大腦內(nèi)的視覺圖像信息神經(jīng)元、邏輯思維判斷神經(jīng)元與人類“自我學習”能力,在一瞬間里“并行”作業(yè)的結果。
“馮·諾依曼體系”沿用了半個世紀,但在接下來的人工智能時代,計算機需要盡可能地模擬人類大腦神經(jīng)元和突觸處理信息的方式,如視覺、聽覺,隨后,接受到的信息、圖片和聲音又能改變神經(jīng)元之間的聯(lián)系,這整個過程就是機器學習的過程。
機器學習的過程只有通過神經(jīng)網(wǎng)絡的計算才能實現(xiàn),為了處理神經(jīng)網(wǎng)絡所帶來的指數(shù)級數(shù)據(jù)增長,人們開始研發(fā)專門的芯片,才有了后來的“片上學習”。
“片上學習”的進化歷程
從全球范圍內(nèi)來看,已有多家公司致力于“在線學習”的算法研究,在視覺、聲音、大數(shù)據(jù)等領域人工智能均有一些落地的案例,相比之下“片上學習”在嚴苛的硬件環(huán)境中依舊研究進展緩慢。
比如IBM的TrueNorth項目,這個以神經(jīng)形態(tài)工程學設計的CMOS芯片,包含了4096個硬件核心,每個核心包含256個可編程的神經(jīng)元芯片,擁有超過100萬的神經(jīng)元。
在鈦媒體創(chuàng)新產(chǎn)品平臺“我造社區(qū)”當中,有一家名為“西井科技”的神經(jīng)形態(tài)實驗室同樣致力于此。今年5月份,這家公司宣布研發(fā)出了全球首塊5000萬“神經(jīng)元”類腦芯片——Westwell Brain,可模擬出5000萬級別的“神經(jīng)元”,總計有50多億“神經(jīng)突觸”。
作為對比,人類大腦的神經(jīng)元大約800億--1000億個,有5000萬個神經(jīng)元的電腦雖然不能與人類大腦相提并論,但它已經(jīng)可以實現(xiàn)一些淺層的“片上學習”了,比如分辨畫作流派這種事情。
2014年,加州理工大學Sergey Karayev 等人收集了Wiki-paintings畫作,以此來檢驗機器學習的成果。Westwell Brain“片上學習”Wiki系統(tǒng)的測試成績?yōu)?秒自動完成1000多張圖片的分類,正確率接近100%。
打個比方,“片上學習”Wiki系統(tǒng)就好像學生身邊時刻跟隨著一位“私教”,直接在芯片上邊學習邊測試訓練成果,最大的優(yōu)勢是實現(xiàn)“無網(wǎng)絡”情況下的“自我學習、自我實時提高”。
而“在線學習”則好比學生定期去“學校”上課,回家后做作業(yè)來測試學習效果,再將優(yōu)化過的模型灌輸在硬件中,每一次新的學習都需通過網(wǎng)絡、云端等手段重新進行傳輸、遷移。
因為“片上學習”可以實現(xiàn)本地化學習,從而幫助機器大幅度提升效率,提高運算速度。在網(wǎng)絡環(huán)境相對嚴苛或有限的情況下,“片上學習”的芯片消耗的帶寬和流量更少,大幅降低云端服務器的通訊成本,且耗時更少。
從技術角度來看,“片上學習”的芯片的確有很多優(yōu)勢,它可以直接在硬件上完成學習與測試,進而讓基礎算法的研發(fā)迭代,產(chǎn)品的升級有著更短的周期和更高的效率,并且消耗更少的能源。
但另一方面,“片上學習”還沒有特定的標準,據(jù)西井科技相關負責人介紹,全球從事此領域研究的公司僅在個位數(shù),相關從業(yè)人員也極為緊缺,如何使用“片上學習”芯片的技術進行具體場景的商業(yè)化落地還存在很大挑戰(zhàn)。
真極客有鈦度,大開腦洞黑科技
更多精彩關注微信號:鈦極客(TiGeek)
(原標題:類似谷歌AlphaGo的深度神經(jīng)網(wǎng)絡,未來可能通過“片上學習”實現(xiàn))
聯(lián)系客服