人類(lèi)有時(shí)理性。
為了讓機(jī)器人學(xué)習(xí)技能，對(duì)它們進(jìn)行千錘百煉、花式虐待，都是常有的事。
有時(shí)也很感性。
盡管我們也知道銅腔鐵臂的機(jī)器人并不會(huì)因?yàn)楸粨舸蚨杏X(jué)到疼痛，但依然希望能通過(guò)更溫和的方式來(lái)讓它們成長(zhǎng)，科學(xué)家們想方設(shè)法試圖讓它們看看YouTube視頻就能學(xué)習(xí)，或是在模擬環(huán)境里展開(kāi)競(jìng)技……
除了同理心作祟，還有點(diǎn)未雨綢繆的小機(jī)智在里面。萬(wàn)一哪天某天機(jī)器人覺(jué)醒了，發(fā)現(xiàn)這些被人類(lèi)虐待的“黑歷史”，“黑化”了怎么辦？電影里的機(jī)器人革命不都是這么來(lái)的嘛……
但，如果替人類(lèi)反思的不是我們自己，而是AI呢？
當(dāng)AI開(kāi)始管理內(nèi)容，
它會(huì)違背規(guī)則、保護(hù)同類(lèi)嗎？
8月21人，YouTube用戶(hù)Jamison Go最近收到了一封來(lái)自官方的通知，平臺(tái)自動(dòng)刪除了他上傳的戰(zhàn)斗機(jī)器人比賽視頻，原因是算法檢測(cè)到該內(nèi)容對(duì)動(dòng)物施以折磨或強(qiáng)迫動(dòng)物對(duì)抗。當(dāng)時(shí)，機(jī)器人喬普正在和另一個(gè)機(jī)器人作戰(zhàn)。
Jamison Go在自己的Facebook賬號(hào)上寫(xiě)道：“今天是一個(gè)悲傷的日子。全世界的機(jī)器人愛(ài)好者都發(fā)出痛苦的哀鳴?！?/p>
他并不是一個(gè)人。上一季戰(zhàn)斗機(jī)器人比賽的參賽者莎拉·波霍雷基也在YouTube上受到了相同的打擊，這很快引發(fā)了全世界機(jī)器人相關(guān)內(nèi)容頻道的關(guān)注。許多像BattleBots和RobotWars這樣的節(jié)目站出來(lái)，指責(zé)了YouTube這個(gè)將機(jī)器人戰(zhàn)斗檢測(cè)為虐待動(dòng)物的新算法。
之所以認(rèn)為是AI在搗亂，是因?yàn)槿祟?lèi)幾乎不可能在觀看這些視頻時(shí)將機(jī)器人認(rèn)成動(dòng)物，畫(huà)面中也并沒(méi)有出現(xiàn)人類(lèi)和其他生物，被刪除的視頻并沒(méi)有在描述、標(biāo)簽甚至標(biāo)題里提到機(jī)器人名字這樣容易被誤認(rèn)為是生命體的文本。而且，YouTube自身對(duì)于機(jī)器人戰(zhàn)斗視頻并沒(méi)有明確的禁令。這不，第二天就有人工團(tuán)隊(duì)重新審查并恢復(fù)了大部分被誤刪的視頻?？磥?lái)，將其錯(cuò)誤標(biāo)注并刪除的只能是算法自己干的了。
事情雖然告一段落，但AI開(kāi)始擅自停止以機(jī)器人同胞們?yōu)槟繕?biāo)的暴力，這讓不少人陷入了“機(jī)器覺(jué)醒”的陰謀論里。甚至有人開(kāi)始猜想，YouTube是不是被AI接管了，讓算法做一切決定？所謂的“人工審核”到底是不是真實(shí)存在的？
又或者，你永遠(yuǎn)不知道人工智能何時(shí)會(huì)找到另一種方法來(lái)保護(hù)它的機(jī)器人兄弟。
AI有情？真的是只是一時(shí)眼花
那么，從技術(shù)的角度講，錯(cuò)誤刪除視頻到底是無(wú)意識(shí)地誤傷，還是AI們的自我保護(hù)呢？
目前來(lái)看，答案當(dāng)然是前者。因?yàn)?，在理解視頻這件事上，AI真的還沒(méi)有大家想象的那么強(qiáng)。
2017年，谷歌推出了一款視頻智能（Video Intelligence）的API，可以自動(dòng)識(shí)別視頻中的物體和內(nèi)容。這在當(dāng)時(shí)是里程碑式的應(yīng)用，因?yàn)閅ouTube、Facebook、新浪微博、快手等等擁有視頻產(chǎn)品的平臺(tái)，無(wú)不深受不良內(nèi)容的困擾。
一位泰國(guó)男子在Facebook上直播殺害親生女兒然后自殺的視頻，在網(wǎng)站上掛了將近24個(gè)小時(shí)，播放量超過(guò)25萬(wàn)次，但其全球?qū)⒔?000人的人工審核團(tuán)隊(duì)依然無(wú)法在第一時(shí)間在浩如煙海的視頻流里立即定位并刪除這些不良內(nèi)容。
Facebook屢屢因擴(kuò)散不良信息而受到政府審查的同時(shí)，YouTube也在為視頻審查帶來(lái)的業(yè)務(wù)危機(jī)而頭痛。因?yàn)樵缦萗ouTube的智能廣告推薦算法，就將沃爾瑪、百事可樂(lè)、電信運(yùn)營(yíng)商Verizon等廣告主的貼片廣告，分發(fā)到了一些宣揚(yáng)仇恨和恐怖主義的視頻上……金主爸爸們很快用腳投票，這讓YouTube乃至整個(gè)Google的廣告網(wǎng)絡(luò)都感受到了壓力。
雖然Google聲稱(chēng)，這些問(wèn)題只影響到了“非常非常非常少”的視頻，但顯然唯有行動(dòng)才能打消用戶(hù)與廣告商的顧慮。
所以，“視頻智能”技術(shù)發(fā)布的時(shí)候，時(shí)任谷歌云機(jī)器學(xué)習(xí)與人工智能首席科學(xué)家的李飛飛曾經(jīng)這樣形容它——通過(guò)視頻識(shí)別技術(shù)，“我們將開(kāi)始給數(shù)字星空中一個(gè)黑暗的物質(zhì)照亮光芒?！?/p>
如今，兩年時(shí)間過(guò)去了，網(wǎng)絡(luò)內(nèi)容的黑暗一角真的被AI照亮了嗎？成果當(dāng)然是值得肯定的，比如隨著新算法模型的不斷突破，谷歌的BERT訓(xùn)練方法可以將審查的人工勞動(dòng)量從12,000小時(shí)減少到80小時(shí)。
但同樣的，各大內(nèi)容平臺(tái)的人工審核團(tuán)隊(duì)也在不斷擴(kuò)張。顯然，機(jī)器方法的引入并沒(méi)有如預(yù)期中那樣幫助平臺(tái)提質(zhì)增效。視頻理解，依舊是一朵未能從應(yīng)用層面被摘下的高嶺之花，它具體難在何處呢？
首先是真實(shí)環(huán)境下的行為識(shí)別（Action Recognition）。
目前的視頻行為識(shí)別模型，都使用動(dòng)作分割好的數(shù)據(jù)集進(jìn)行訓(xùn)練，像是 UCF101、ActivityNet、DeepMind 的 Kinetics、Google的AVA數(shù)據(jù)集等等。每個(gè)視頻片段包含一段明確的動(dòng)作，并被打上了明確且唯一的分類(lèi)標(biāo)簽。但是真實(shí)環(huán)境中的視頻都沒(méi)有被預(yù)先切分，有時(shí)還會(huì)包含多人動(dòng)作等復(fù)雜場(chǎng)景，或是包含復(fù)雜的情緒、意圖，這些問(wèn)題的處理難度都比人臉識(shí)別等明確定義的難以下，所以實(shí)際應(yīng)用時(shí)準(zhǔn)確率就會(huì)下降。
比如一只狗張開(kāi)嘴巴，和一個(gè)人打開(kāi)門(mén)，都會(huì)用“打開(kāi)”(open)這個(gè)動(dòng)詞來(lái)標(biāo)注，并被放進(jìn)同一個(gè)分類(lèi)中……從這個(gè)角度看，YouTube算法將機(jī)器人戰(zhàn)斗當(dāng)做動(dòng)物虐待，好像也挺符合它目前的“智商”的。
對(duì)視頻中的行為進(jìn)行分類(lèi)就已經(jīng)很難了，如果再加上時(shí)序，就更讓AI發(fā)愁了。
因?yàn)閷?duì)于圖像中的物體，目前的技術(shù)已經(jīng)能做到很容易地進(jìn)行檢測(cè)和分割，然而生物行為的時(shí)序邊界往往是很不明確的，一個(gè)動(dòng)作何時(shí)開(kāi)始、何時(shí)結(jié)束，動(dòng)作變化幅度太大等等，都很容易讓算法“眼花”。一方面，既要在大量連續(xù)幀之間解決時(shí)序冗余的問(wèn)題，提高檢測(cè)速度；又要提高“眼力”，在運(yùn)動(dòng)模糊、部分遮擋等情況下也能精準(zhǔn)定位和識(shí)別，就在前不久Google又提出了新的基于Q-learning學(xué)習(xí)自適應(yīng)交替策略，就是在速度與準(zhǔn)確率之間尋求平衡。至少?gòu)倪@次“算法誤刪事件”看來(lái)，這條技術(shù)高山還需要工程師們持續(xù)向上攀爬。
另一個(gè)影響視頻理解技術(shù)進(jìn)程的，就是成本困境。相比圖像，訓(xùn)練視頻模型需要增加許多存儲(chǔ)、計(jì)算資源，對(duì)實(shí)時(shí)性的要求也更高，因此也比普通神經(jīng)網(wǎng)絡(luò)更難訓(xùn)練，目前賽道上的主力玩家就是Google、Facebook、百度、頭條等巨頭在角逐。想要讓更多開(kāi)發(fā)者為技術(shù)進(jìn)階貢獻(xiàn)腦力，如何減輕訓(xùn)練負(fù)擔(dān)就成了不可忽視的工作。目前Google、百度都通過(guò)自家的開(kāi)源平臺(tái)釋放了視頻理解算法模型和標(biāo)注好的數(shù)據(jù)集，一些運(yùn)算資源上的扶持政策也相繼露面，恨不得讓開(kāi)發(fā)者們“拎包入住”……
所以從技術(shù)層面來(lái)看，視頻理解注定是無(wú)數(shù)人苦心科研的點(diǎn)滴心血累計(jì)，才能積累成撬動(dòng)整個(gè)行業(yè)的能量，距離想象中的“AI機(jī)器人抱團(tuán)”還有很長(zhǎng)的路要走。
與智能機(jī)器共生，人類(lèi)做好準(zhǔn)備了嗎？
只要稍微想一想，就能明白算法只是無(wú)心之失，畢竟就算它未來(lái)真的可能向著自己機(jī)器人大兄弟，現(xiàn)在也不具備那個(gè)業(yè)務(wù)能力啊。這么簡(jiǎn)單的事兒，為什么還能被“節(jié)奏大師”們引發(fā)一陣黑客帝國(guó)式恐慌呢？
原因之一，恐怕是大多數(shù)人對(duì)于《機(jī)器人打擂臺(tái)》這種格斗節(jié)目或競(jìng)技比賽還是不甚了解，并不知道機(jī)器是在通過(guò)自由對(duì)抗提升對(duì)復(fù)雜環(huán)境和意外的靈活應(yīng)變能力，使它們?cè)谟布椭悄艹潭壬喜粩嘞驊?yīng)用進(jìn)階。
對(duì)于普通人來(lái)說(shuō)，就看到一群機(jī)器人刀劈斧砍，互相傾軋，跟斗獸場(chǎng)取樂(lè)似乎并無(wú)區(qū)別，這就很容易產(chǎn)生移情效應(yīng)，將自己的同情心理釋放到算法上——“人看了都想打人，AI看了肯定更生氣”，研究人員也沒(méi)少因?yàn)閷?duì)機(jī)器人拳打腳踢而登上頭條……所以這次因YouTube下架事件受到影響的Maker's Muse幕后制作人Angus Deveson，就在一個(gè)聲援視頻中公開(kāi)宣傳：“戰(zhàn)斗機(jī)器人節(jié)目是教育和展示工程學(xué)魅力的絕佳工具”，以期讓更多人改變對(duì)機(jī)器人節(jié)目的認(rèn)知。
而另一個(gè)比較隱藏的憂慮，則是對(duì)于“AI導(dǎo)向”的社會(huì)焦慮。
今天哪怕是偏遠(yuǎn)如非洲的人群，恐怕也無(wú)法否認(rèn)，整個(gè)社會(huì)運(yùn)轉(zhuǎn)不僅僅由人類(lèi)組成，也有越來(lái)越多的機(jī)器參與進(jìn)來(lái)，從Facebook上的一舉一動(dòng)，到亞馬遜流域猿猴的生存環(huán)境，智能機(jī)器正在成為人類(lèi)和人類(lèi)、人類(lèi)和社會(huì)之間必不可少的媒介。
如今，人類(lèi)很樂(lè)意交給AI的事情往往是那些自己不愿去做或者效率低下的事情，比如審核涉黃涉爆的網(wǎng)絡(luò)內(nèi)容。未來(lái)當(dāng)所謂的“奇點(diǎn)”，也就是人工智能的智慧超過(guò)人類(lèi)的智慧，真正來(lái)臨的時(shí)候，智能系統(tǒng)會(huì)幫助人類(lèi)來(lái)?yè)?dān)當(dāng)社會(huì)管理者的角色，那時(shí)，人類(lèi)何以重新定位自身在社會(huì)中的位置，還能夠自主選擇嗎？這種身份焦慮并沒(méi)有一個(gè)清晰的解決方案。
許多研究者都告訴大眾“車(chē)到山前必有路”，坐在車(chē)?yán)锩裳巯蚯暗娜酥缓孟馳ouTube“AI主導(dǎo)”這樣的事故下時(shí)時(shí)驚惶。這里，或許我們?cè)谧分餉I的時(shí)候，也需要早日開(kāi)始求解兩個(gè)問(wèn)題：
第一，AI上位如此迅速，大眾認(rèn)知教育與倫理建設(shè)到位了嗎？
第二，如果沒(méi)有，當(dāng)算法與用戶(hù)之間產(chǎn)生沖突（這幾乎是必然的），科技企業(yè)在變革中如何自處？
聯(lián)系客服
