日前，助推上海全球科創(chuàng)中心建設的品牌活動——2019第四季漕河涇科創(chuàng)嘉年華成功舉行?；顒又凶钜瞬毮康难葜v者來自卡耐基梅隆大學計算機學院副院長賈斯汀·卡塞爾教授，她對未來的暢想點燃了現(xiàn)場觀眾的情緒。
在演講結(jié)束后的獨家專訪中，面對人工智能安全性等一系列問題，被譽為“人工智能女王”的卡塞爾教授以對未來負責的態(tài)度，展現(xiàn)了前沿科學家的思考與擔當。
■本報首席記者 顧學文
還沒有找到教會人工智能常識的方法
解放周末：很高興專訪您。為了采訪您，我事先在翻譯軟件的幫助下準備了一份提綱，這就是人工智能技術給我們?nèi)祟悗淼谋憷?。而且，就我的使用體驗來說，翻譯軟件的翻譯質(zhì)量一直在提高。伴隨著5G的發(fā)展，包括自動翻譯等在內(nèi)的人工智能技術是否會迎來重大的突破？
賈斯汀·卡塞爾：如你所說，從翻譯軟件到城市交通管理、環(huán)境污染治理、政府工作效率提升等，人工智能正在方方面面改變著我們的生活。雖然人工智能技術發(fā)展之路并非坦途，但幸運的是，我們當前所缺失的恰是5G所能提供給我們的，那就是網(wǎng)速和帶寬的大幅提升，這將大大提高業(yè)務效率和數(shù)據(jù)收集。5G為人工智能創(chuàng)造了快速發(fā)展的新環(huán)境，人工智能技術在很多領域的應用將發(fā)生新的變化。
解放周末：會有哪些新變化？
賈斯汀·卡塞爾：比如機器學習，它是當今人工智能領域應用中最重要的工具。就像教孩子一樣，我們向機器展示一張貓的圖片，告訴它“這是一只貓”，然后再向它展示一張狗的圖片，告訴它“這不是一只貓”。上百萬遍的重復，機器就習得貓的共性并將其識別出。
學習效果好壞有賴于數(shù)據(jù)集，當數(shù)據(jù)集太小或不好的時候，算法就會發(fā)生偏差。如果我們沒有輸入足夠多的貓的圖片，機器就無法正確識別貓。圖像識別相對簡單，處理一個自然語言，需要整整5天。量子計算可能會在某一天為機器學習帶來更快的速度，但這需要5G這樣的高速通信技術作基礎。
機器學習能力提高是內(nèi)在的，對人們來說，可期待、可見的變化是，5G時代，人工智能所能帶來的各項前景，包括制造、無人駕駛、教育等，都將比以往任何時候獲得更快的發(fā)展。未來可能出現(xiàn)這樣的生活場景：你在購物網(wǎng)站上剛下單，產(chǎn)品就在離你住處一公里處被3D打印機打印出來，迅速送到你手中；殘障人士可以與工程師、藝術家一起設計自己想要的假肢；教育可以更好地滿足不同學習能力的學生；越來越多的企業(yè)在不同城市或國家擁有員工，通過人工智能中樞來實現(xiàn)遠程協(xié)作；快到幾乎沒有延遲的5G速度，有助于整座城市實現(xiàn)無人駕駛——當然，前提是城市所有的交叉路口配有傳感器和自適應的交通信號燈，智能基礎設施是發(fā)展無人駕駛技術的關鍵。
解放周末：是否可以說人工智能發(fā)展的障礙已被掃除？
賈斯汀·卡塞爾：遠遠沒到障礙被掃除的這一天，事實上正相反。人工智能雖然在一些領域比人類聰明很多，比如眾所周知的阿爾法狗，但在更多領域，人工智能的智商只相當于兩三歲的孩子，我們還沒有找到教會人工智能常識的方法。比如此刻，如果我讓機器人把那邊裝著水的玻璃杯拿給我，它不是把水灑了，就是把杯子捏碎了。它非常有力，卻不懂得如何溫柔地用力。
不存在機器人統(tǒng)治地球的可能
解放周末：有力卻不懂得如何溫柔用力，這無法不讓人聯(lián)想起人工智能的安全問題。
賈斯汀·卡塞爾：很多人都在說機器人將統(tǒng)治地球，包括一些有影響力的人。但其中有些人可能只是喜歡因此而出現(xiàn)在新聞里；而另外有些人雖然在其他學術領域做出了超凡貢獻，但他本人并不是計算機科學家。計算機科學家們不認為存在機器人統(tǒng)治地球的可能。
有個笑話說：如果有一天機器人造反，我們只需等待45分鐘，它們的電池就沒電了。
解放周末：但如果將來的機器人不裝電池，只需通過互聯(lián)網(wǎng)就能給自己充電了呢？
賈斯汀·卡塞爾：但它們不會知道自己沒電、需要充電了。哲學上有一個“缺陷意識”的概念，人無法知道自己不知道什么，機器人不知道自己需要充電，而電池是會沒電的。
在我看來，真正聰明的人工智能，不是下棋贏了人類冠軍，而是會在各種信息中建立起聯(lián)系，懂得推理，擁有常識。而目前的研究進展離這一天還非常非常遠。
解放周末：無論多遠，我們依然需要弄清楚前行的方向，畢竟我們正身處一列高速前行的列車上。
賈斯汀·卡塞爾：我非常同意你的觀點，所以我在很多場合，包括今天的演講中也提到，5G帶來發(fā)展機遇的同時，安全問題依然隱藏其中。我曾經(jīng)說過，也會一直堅持說，我不會接受任何我不信任的研發(fā)資金，不會開發(fā)不與人類合作的人工智能。
解放周末：但您不能保證其他人也不這么做。事實上，包括美國在內(nèi)，已經(jīng)有一些國家或機構(gòu)在悄悄研發(fā)戰(zhàn)爭機器人。
賈斯汀·卡塞爾：（拿起眼前的筆）這是一支筆，我可以用它來書寫真理，也可以戳傷你。人們害怕人工智能，是因為它們可以變成殺人的武器。按此邏輯，我們身邊幾乎所有的東西都應該被拿走，因為它們在壞人手里都可以變成武器。
重要的是教育。我們必須改善我們的教育體系，在孩子們還很小的時候就要教育他們成為善良的人。此外，在大學里，心理學專業(yè)教學生要尊重生命，哲學專業(yè)也教學生要尊重生命，可是，計算機專業(yè)不教。但是現(xiàn)在，我們已經(jīng)意識到了這點，計算機科學家和計算機專業(yè)的學生，都開始學習倫理學，學習尊重生命。這一點非常重要，需要我們時刻銘記在心。
解放周末：您怎么評價這種教育的效果？
賈斯汀·卡塞爾：重要的是持之以恒。我從2001年開始研究人工智能的倫理問題，當時并沒有很多人關注，但現(xiàn)在，這已成為全社會一個普遍的觀念，這就是教育的結(jié)果。我會繼續(xù)不斷地教育我的學生，我的學生也會教育他們的學生。還有我的論文，人們可以從網(wǎng)上讀到我的論文。這樣的教育工作不是我一個人在做，其他許多計算機科學家都在做。
我們不能因為未來存在往壞的方向發(fā)展的可能，就放棄往好的方向創(chuàng)造未來的努力。和那些害怕人工智能的未來、試圖阻止其發(fā)展的人不同，我會對未來負責。我可以，也要讓一個美好的未來發(fā)生，這是我作為科學研究者的責任。
對未來負責肯定要難于阻止未來，但我希望大家記?。喝斯ぶ悄艿奈磥碚莆赵谖覀兪种?。我們決定怎么使用它，我們決定未來是光明的還是黑暗的。
如果找錯問題，就不可能找對解決方法
解放周末：人工智能帶來的問題，還包括失業(yè)風險。隨著人工智能的發(fā)展，人類失去的工作崗位已經(jīng)不限于一些重復性或危險的勞動。
賈斯汀·卡塞爾：機器人真的會全面取代我們嗎？《經(jīng)濟學人》雜志的最新研究表明，一些重復的、不太需要很高技能的、無聊的工作正在消失；同時，一些新的工作崗位正在被創(chuàng)造出來。這些新崗位需要從業(yè)者具有人類特性的技巧，也就是與他人協(xié)作的能力、社交的能力。需要社交能力的崗位的增幅是最大的，聊天、喝咖啡這些人類特有的行為可以在伙伴間、團隊中建立起良好的情感連接。
不要消極看待就業(yè)領域的變化。我們并非被迫選擇如此，實際上這是主動選擇的結(jié)果。相比一天工作十多個小時和一天工作三五個、甚至兩三個小時，你會怎么選？我們需要做的是，當我們把大部分工作交給機器人后，重新思考人類的定義、生活的意義。
解放周末：您曾在一次采訪中提到，讓機器人代替人類父母為寶寶換尿布，這樣父母可以有更多時間陪伴孩子，但親手換尿布難道不正是陪伴的一部分嗎？
賈斯汀·卡塞爾：不僅是小嬰兒，即便我們成年人，也需要身體的接觸，當你擁抱著你的愛人時，你是在告訴他（她），你在這里，你愛他（她）。換尿布時父母可以撫摸孩子，孩子可以感受到父母的愛意。但現(xiàn)代社會往往需要父母在孩子還很小的時候就出去工作，當他們和孩子相處時，是把時間花在給孩子換尿布上，還是把孩子抱在懷里輕輕搖他、親他，或者陪他玩呢？我不了解中國的情況，在美國，生完孩子兩周后，母親就需要回到工作中。
解放周末：未來人類會不會像電影《她》里那樣，愛上人工智能？事實上，今天的我們每天花在智能手機上的時間往往多于陪伴家人的時間。
賈斯汀·卡塞爾：我看過這部電影，非常喜歡，但我不認為它如表面上的那樣，是在講述人類和人工智能的愛情故事。恰恰相反，它反映了現(xiàn)代人與人之間的隔閡。我待在中國的時間里，有時會騎車或坐地鐵，常?？吹杰噹?、馬路上年輕人低著頭看手機，相互之間沒有眼神的交流。這非常糟糕。
問題不在人工智能，而在我們的選擇。如果找錯問題，就不可能找對解決方法。
解放周末：您在人工智能領域最為人知曉的成就是主持研發(fā)了有社交意識的機器人助理SARA，您覺得這項研究的意義是什么？
賈斯汀·卡塞爾：SARA是第一個能與人類建立社交關系的機器人。在她之前，人工智能對人類來說是工具，但她是人類的伙伴。
我們一直在通過研究人類的智力行為來發(fā)展人工智能，卻沒有對人類的社會行為進行研究。人類的社會行為非常復雜，包括表情、身體、聲音等。我想通過建造類人的方式去理解人類，這會是研究人工智能的一個很好的方向——如果我們先去研究真人，再去發(fā)展人工智能，就能更快更好地發(fā)展人工智能。
另外，隨著人類在電子設備上花費越來越多的時間，科技需要回歸到古老但依舊重要的原則：以和人們建立關系的方式管理機器和人的長期交互關系，并讓其不斷發(fā)展。
解放周末：SARA和人類的伙伴關系是如何建立起來的？
賈斯汀·卡塞爾：SARA能自動理解人的感受，推導人際關系紐帶，且理解程度能不斷鞏固和加深。她會根據(jù)人的情緒做出相應的反應，用自己的行為對交互關系做出合理、適宜的回應。
解放周末：如果人類隱藏真實的情緒呢？
賈斯汀·卡塞爾：人類其實并不善于說謊。比如笑，我們臉上會出現(xiàn)許多種不同的笑，但只有一種笑意味著我們是快樂的，其他笑容都不是真的。我把這種微笑叫作“獨生的微笑”。SARA捕捉的是和她面對面的那個人的情緒，因為兩個人的關系是雙邊的，因而容易確認。
解放周末：這樣的社交人工智能會不會減少人們對真實社交生活的需求？
賈斯汀·卡塞爾：我認為恰恰相反，因為人類關注的是真實的人，而社交人工智能可以訓練我們的心靈和其他人建立關系，也會提醒我們和其他人的協(xié)作多么重要，和世界上其他人互相依賴多么重要。比如社交人工智能可以幫助那些自閉癥患者與周圍建立聯(lián)系。
努力改變計算機科學的“男性”形象
解放周末：您知道自己被叫作“人工智能女王”嗎？在一個通常被認為由男性主導的領域做“女王”的感覺如何？
賈斯汀·卡塞爾：（笑）我不太清楚人們怎么叫我，但我確實為女性在計算機領域所取得的成就感到自豪。目前，在全世界的計算機學院里，18歲到22歲的學生中有50%是女生。這太神奇了。
情況不是一開始就是這樣的。以前，通常父母更傾向于鼓勵男孩、而不是鼓勵女孩去學習計算機科學。那些10歲以前喜歡計算機、喜歡數(shù)學的女孩，長到十一二歲的時候，相比自己的想法，她們變得更在意別人對自己的看法，希望自己討人喜歡、受人歡迎。這時，如果其他孩子或她們的父母對她們說，計算機科學是為男孩準備的，你為什么要學？她們往往會選擇退出。
曾有女孩向我講述她的困惑。她說，朋友們都說她網(wǎng)球打得好，為什么不好好打網(wǎng)球，而去學計算機？她們不認為她能成為一名計算機科學家。她說：“我喜歡網(wǎng)球隊的隊友們，也許她們是對的，我應該退出計算機的學習?！蔽腋嬖V她，你必須把她們的說法從你的腦子里“推”出去，你被接納在這里學習計算機科學，說明你很擅長，而你在這里學習計算機科學這件事本身，就在改變計算機科學的“男性”形象，如果你退出了，計算機科學的“男性”形象就得不到改變。
解放周末：轉(zhuǎn)變是如何發(fā)生的？
賈斯汀·卡塞爾：為改善女性學習計算機科學的環(huán)境，我們做了很多工作。比如改變教授計算機科學的方法。以前幾乎每所教授計算機科學的大學，本科最初兩年都只教方程、算法、數(shù)學等，根本不涉及計算機。但我們了解到，很多女性對計算機科學感興趣是因為對應用程序好奇，通過應用程序看到計算機能讓世界變得更美好。于是我們就從應用程序教起，事實證明，這樣的教法讓計算機科學更有吸引力。
如果計算機領域只有年輕男性參與，那么，創(chuàng)新產(chǎn)品可能只考慮了年輕男性的需求。創(chuàng)新成果要有多樣性，需要參與者也是多樣的：要有青年人，也要有年紀大的人；要有男人，也要有女人；要有各種膚色、來自各種文化的人。
解放周末：回到30年前，當您還是達特茅斯學院一名學習比較文學的本科生時，女性進入計算機領域的機會更少，您是怎么改變專業(yè)的？
賈斯汀·卡塞爾：其實我的興趣沒有變過，我喜歡“講故事”。我年輕時，以為“講故事”就是文學，碰巧我又喜歡文學、喜歡閱讀，所以就選擇了比較文學專業(yè)。但是，我不僅想研究名作家，更想了解普通人的故事。但老師說：不行，你要讀名著，普通人的故事很無聊，沒有價值。我的本科論文寫的是著名作家塞繆爾·貝克特的英文文本和法文文本的對比分析。老師說，這很有趣，但這不是比較文學。于是我轉(zhuǎn)而去英國讀語言學碩士，研究蘇格蘭孩子講故事時的身體語言。英國老師說，這很有趣，但這不是語言學。我和他爭論什么是語言學，但最終我回到美國，攻讀心理學博士，研究人類行為。
30歲時我成為一名年輕的教授，我發(fā)現(xiàn)計算機是我分析語言的非常好用的工具，它可以把人們的語言“切”成一片一片。一年后，校長說，你的精力太分散了，你要選定一個領域，不然工作滿7年后就不續(xù)聘。這時正好有朋友邀請我去旁聽他們的計算機課，我就去了，那一年的學習讓我對計算機本身產(chǎn)生了興趣，因為我找到了一種我喜歡的做事情的方法——建造東西、講故事、研究聲音。后來，我收到了來自美國最好的大學之一的麻省理工學院的邀請，我欣然接受，去“考驗”計算機是否就是我的“真愛”。
這是一個很長的故事，直到35歲，我才選擇留在計算機領域。但我決定要給這個領域帶去一些不同以往的東西，把我在比較文學、語言學、人類行為學等方面學到的知識融入其中。我喜歡改變。
解放周末：走過的路雖然長，但也許正是這種跨學科背景，成就了您在機器語言、人機交互等方面的創(chuàng)新貢獻。
賈斯汀·卡塞爾：我想是的，跨學科對創(chuàng)新特別重要。
解放周末：在計算機專家的身份之外，您還是卡耐基梅隆大學計算機學院的副院長，作為一位教育者，您是如何教學生的？因為人工智能領域的知識更新非常迅速，很可能您今天在課堂上教他們的東西，明天就被淘汰了。
賈斯汀·卡塞爾：我盡力教學生一些永遠不會過時的東西，而不是教他們編程。我教他們?nèi)绾卫斫馊祟惖男袨椤绾窝芯克?、分析它，以及如何將研究、分析的成果作為人工智能系統(tǒng)的基礎而加以應用。這種思考問題的方式，使他們區(qū)別于其他一般的計算機軟件開發(fā)者，他們懂得任何人工智能系統(tǒng)都必須以人為本，為人所用，與人互動。
解放周末：最后，就上海建設全球科創(chuàng)中心，您有什么建議？
賈斯汀·卡塞爾：四條建議。首先是公平競爭，當很多企業(yè)試圖解決同一個問題的時候，他們會激烈競爭，從而推進創(chuàng)新發(fā)展的速度；其次是鼓勵合作，一個人需要多元知識結(jié)構(gòu)，一個團隊更需要不同學科背景的成員；第三是強化多樣性，很多科學研究已經(jīng)表明，創(chuàng)新者的多樣性越豐富，創(chuàng)新成果的多樣性就越豐富；最后是保持開放性，硅谷很棒，但硅谷的創(chuàng)新活力正在向其他城市轉(zhuǎn)移，因為硅谷總是認為自己是最聰明的，開始不與硅谷之外的世界交流。上海要保持和世界的連接，上海會更厲害。
本站僅提供存儲服務，所有內(nèi)容均由用戶發(fā)布，如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請
點擊舉報。
