人工智能（AI）已經(jīng)是非常熱門(mén)的話(huà)題了，以至于你和朋友聊天的時(shí)候都可能會(huì)有意無(wú)意提及它。前景令人神往，我們不斷聽(tīng)到關(guān)于效率、自動(dòng)化和智能預(yù)測(cè)的驚人故事。
但人工智能并不完美，每一個(gè)成功的故事背后，可能都會(huì)有許多失敗的“母親”。事情沒(méi)有按照計(jì)劃進(jìn)行。雖然我算是人工智能的忠實(shí)信徒，在許多業(yè)務(wù)中看到了它的力量，但辯證客觀(guān)地看待事物是一件好事。
本文1430字，需要5分鐘。
智能對(duì)話(huà)機(jī)器人學(xué)會(huì)了一些不合適的語(yǔ)言
如今人工智能對(duì)話(huà)機(jī)器人在某種程度上已經(jīng)成為社交媒體和其他網(wǎng)站的常態(tài)。但它并不完美，微軟的人工智能對(duì)話(huà)機(jī)器人就是一個(gè)例子，它被簡(jiǎn)稱(chēng)為“Tay”。
Tay于2016年3月發(fā)布，面向推特（Twitter）用戶(hù)部署，用戶(hù)只需在推文中@Tay就能獲得Tay的回復(fù)。但它只持續(xù)了24小時(shí)。發(fā)生了什么事?網(wǎng)站上一些別有用心的人發(fā)現(xiàn)了它的弱點(diǎn)，通過(guò)大量對(duì)話(huà)“教育”Tay，操縱Tay發(fā)表了具有性別歧視和種族歧視的言論。
微軟負(fù)責(zé)人工智能和研究的副總裁彼得·李(Peter Lee)不得不為沒(méi)有提前預(yù)見(jiàn)到這種可能性而公開(kāi)道歉。
運(yùn)動(dòng)員還是疑犯
亞馬遜有一個(gè)叫做Rekognition的項(xiàng)目，這是一種基于人工智能的面部識(shí)別軟件。當(dāng)銷(xiāo)售給執(zhí)法機(jī)構(gòu)時(shí)主要用于調(diào)查犯罪。它本質(zhì)上是交叉分析圖像并指導(dǎo)執(zhí)法人員找到可能的嫌疑人。
問(wèn)題是它不是很準(zhǔn)確。在一項(xiàng)研究中，數(shù)十名波士頓地區(qū)運(yùn)動(dòng)員的照片在系統(tǒng)中進(jìn)行了檢索。在這些運(yùn)動(dòng)員中，至少有27人——大約是六分之一——被錯(cuò)誤地與罪犯面部照片匹配。其中包括一位三次獲得超級(jí)碗冠軍的橄欖球明星。
用戶(hù)發(fā)現(xiàn)蘋(píng)果的面部識(shí)別漏洞
蘋(píng)果總是不斷推出尖端技術(shù)。多年來(lái)，他們一直在為智能手機(jī)和移動(dòng)設(shè)備行業(yè)設(shè)定標(biāo)準(zhǔn)。在大多數(shù)情況下，這些產(chǎn)品被大家熱烈追逐。但大概是追得太急，有時(shí)也會(huì)“翻車(chē)”。
在iPhone X的發(fā)布上。在發(fā)布之前，蘋(píng)果投入了大量的時(shí)間和資金在他們的面部識(shí)別系統(tǒng)上，該系統(tǒng)取代了指紋識(shí)別器，成為訪(fǎng)問(wèn)手機(jī)的主要方法。他們聲稱(chēng)，人工智能組件非常智能，讀者可以戴眼鏡、化妝等，而不會(huì)影響功能。這基本上是正確的。問(wèn)題是，蘋(píng)果還明確表示，F(xiàn)ace ID技術(shù)不會(huì)被口罩或其他技術(shù)欺騙。
一家越南的安全公司將此視為挑戰(zhàn)。只用200美元，他們就用石粉做了一個(gè)面具，粘上一些2D打印的“眼睛”，解鎖了一部手機(jī)。
機(jī)器狗遭遇致命結(jié)局
誰(shuí)不喜歡機(jī)器狗這個(gè)想法呢?你得到一個(gè)可愛(ài)的小機(jī)器，不會(huì)亂叫，不需要吃，不會(huì)隨地大小便，也不會(huì)產(chǎn)生昂貴的獸醫(yī)賬單。
2019年，波士頓機(jī)器人公司(Boston Robotics)的一只名為Spot的機(jī)器狗在拉斯維加斯的一次會(huì)議展示時(shí)，戲劇性地在臺(tái)上過(guò)早“死亡”。它的任務(wù)是走路，結(jié)果慢慢地開(kāi)始踉蹌，最終倒在地板上。
Watson不是醫(yī)生
IBM的Watson是面向企業(yè)的 AI 平臺(tái)，已經(jīng)取得了許多成就。
2018年， Watson試圖推出一個(gè)醫(yī)療人工智能系統(tǒng)，為治療癌癥患者提供建議。I但沒(méi)過(guò)多久，醫(yī)院和腫瘤學(xué)家就發(fā)現(xiàn)了主要缺陷。Watson一度建議讓出血過(guò)多的病人服用藥物，這可能會(huì)導(dǎo)致更多的出血——甚至?xí)?dǎo)致病人在服藥過(guò)程中死亡!
IBM調(diào)查發(fā)現(xiàn)是工程師給人工智能系統(tǒng)使用了假設(shè)和虛構(gòu)的案例，而不是依賴(lài)實(shí)際的患者數(shù)據(jù)和歷史病歷。
被語(yǔ)音欺騙的首席執(zhí)行官
深度偽裝（Deepfakes）是爭(zhēng)議性最大的AI軟件。正成為一個(gè)嚴(yán)重(且令人擔(dān)憂(yōu))的問(wèn)題。黑客們找到了偽造聲音、圖片甚至視頻的方法。在某些情況下，影響是災(zāi)難性的。
2019年3月，一家英國(guó)公司的首席執(zhí)行官接到了來(lái)自德國(guó)母公司的老板的電話(huà)。他受命將相當(dāng)于24.3萬(wàn)美元的資金轉(zhuǎn)移給一家匈牙利供應(yīng)商。該請(qǐng)求被標(biāo)記為緊急，并被告知立即執(zhí)行。結(jié)果大家一定猜得出來(lái)，電話(huà)那頭不是他的老板。利用一款基于人工智能的軟件，用來(lái)模仿老板的聲音。
當(dāng)然，某種意義上是人工智能軟件贏(yíng)了，人類(lèi)被騙走了二十多萬(wàn)美元!
人工智能不是完美的。所以，當(dāng)我們展望未來(lái)三年或五年的時(shí)候，讓我們記住，人工智能還在發(fā)展中。
為了達(dá)到我們想要的正向效果，我們必須在利用AI過(guò)程中處理許多問(wèn)題和障礙。事實(shí)上今天“翻車(chē)事故”中提到的大多數(shù)產(chǎn)品，已經(jīng)有了很大的改觀(guān)。我們?nèi)绾螒?yīng)對(duì)這些異常和缺陷，最終決定了我們今后的發(fā)展方向。
聯(lián)系客服
