來源：雷鋒網(wǎng)

AI 威脅論并非空穴來風(fēng)。

"

作者 | 貝爽

如果不謹(jǐn)慎對待 AI，未來它可能成為人類的終結(jié)者。

鋼鐵俠馬斯克（Musk）曾經(jīng)不止一次在公開社交平臺表達對 AI 的擔(dān)憂。

不過，并非所有科技大佬都對 AI 持悲觀態(tài)度，貝索斯（Bezos）、扎克伯格（Zuckerberg）等人都抨擊過馬斯克的 AI 威脅論。扎克伯格認(rèn)為，AI 技術(shù)的推動是為了讓世界運轉(zhuǎn)的更高效，幫助人們生活得更美好。

話雖沒錯，但馬斯克的擔(dān)憂也并非空穴來風(fēng)。

如我們所見，近些年 AI 正在以超越想象的速度落地各行各業(yè)，如自動駕駛、倉儲物流、信息安全等。但這些行業(yè)成功案例的背后，AI 也沒少發(fā)生 " 翻車 " 事故。

根據(jù)最新 AI 事故數(shù)據(jù)集 AIID（AI Incident Database）顯示，AI 在行業(yè)應(yīng)用中已發(fā)生超 1000 次翻車事件，涉及 78 個不同類別。

https://incidentdatabase.ai/

在這些事故中，有的可能只是鬧了個笑話，但有的已經(jīng)對人類造成了實質(zhì)性的傷害，或者為國家完全埋下了隱患。此外還可以看到，特斯拉、谷歌、微軟、亞馬遜、蘋果等頗具影響力的科技巨頭在這份 " 翻車 " 列表中也頻頻出現(xiàn)。

1

「自動駕駛」頻翻車

從列表來看，自動駕駛是 AI" 翻車 " 事故較為頻繁且影響惡劣的領(lǐng)域。

包括特斯拉、Uber 等大型車企均發(fā)生過多起受傷，或致死等交通事故。就在上個月，特斯拉還因險些造成事故登上了微博熱搜。當(dāng)日，正在高速行駛的特斯拉 Model S，玻璃天窗突然脫落，并順勢向后飛去，翻轉(zhuǎn)數(shù)圈后險些砸到后面行駛的車輛。

隨即特斯拉官博做出回應(yīng)，稱 " 該車輛曾在第三方授權(quán)鈑噴中心進行過車頂玻璃的更換，會對此事展開詳細調(diào)查 "。不少網(wǎng)友對此并不買賬，認(rèn)為 " 第三方也是特斯拉授權(quán)的，這是明顯的甩鍋行為 "。

事實上，近些年特斯拉頻頻爆出的交通事故問題，已經(jīng)讓部分用戶失去了信任。雖然大部分事故主要由駕駛員違規(guī)駕駛導(dǎo)致，但因技術(shù)問題，尤其是自動駕駛系統(tǒng)引發(fā)的案例也不在少數(shù)。

在列表中，影響最大的是 2018 年發(fā)生在加利福尼亞州的一場交通事故。3 月 23 日，Uber 因自動駕駛系統(tǒng)故障在亞利桑那州撞死行人事件剛剛過去不足一個月，特斯拉再次因自動駕駛系統(tǒng)引發(fā)了一起傷亡事故。

當(dāng)時，高速行駛在山景城 101 號公路上的 Model X，撞上了公路中間的混凝土分隔墻導(dǎo)致一名 38 歲的蘋果工程師死亡。

https://futurism.com/officials-tesla-model-x-autopilot-killed-driver

經(jīng)調(diào)查后發(fā)現(xiàn)，該工程師在撞上分隔墻之前，啟動了 Model X 的自動駕駛系統(tǒng)。

此前，特斯拉曾表示其自動駕駛功能可以保持速度，改變車道和自動停車。在這項事故中，自動駕駛系統(tǒng)并未發(fā)揮作用，特斯拉的解釋是，分隔墻之前已被損壞，系統(tǒng)并未作出正確識別，同時在撞擊的前六秒，系統(tǒng)已發(fā)出了視覺和聽覺上的警告。

但顯然，僅六秒的時間不足以讓駕駛員作出正確的應(yīng)對。

2

「殺手」機器人

機器人是 AI 頻繁發(fā)生翻車事故的第二大領(lǐng)域。從列表來看，機器人在醫(yī)療、倉儲物流、、等多個場景中均發(fā)生過負(fù)面事故。例如：

2018 年，亞馬遜新澤西倉庫的一個自動機器人意外刺穿了驅(qū)蚊噴霧罐，導(dǎo)致 25 名工人被火速送往醫(yī)院。

https://abcnews.go.com/US/24-amazon-workers-hospital-bear-repellent-accident/story?id=59625712

據(jù)了解，當(dāng)時一個 9 盎司重的驅(qū)熊噴霧罐被機器人刺穿后，釋放出了大量濃縮的辣椒素，導(dǎo)致 80 多名困在封閉區(qū)域內(nèi)工人受到傷害。雖然最后事故并未造成人員傷亡，但已引起工會部門的高度警惕。

在醫(yī)療領(lǐng)域，機器人被廣泛用于外科手術(shù)中，根據(jù)美國食品藥品監(jiān)督管理局（US Food and Drug Administration）的記錄顯示，機器人外科醫(yī)生在 2000 年至 2013 年期間共造成 144 人死亡，1391 人受傷，并累計發(fā)生過 8061 起設(shè)備故障。

https://www.theregister.com/2015/07/21/robot_surgery_kills_americans/

其中造成患者受傷或死亡的原因包括，動作不正確、自發(fā)斷電、電火花灼傷、機器人碎片調(diào)入患者體內(nèi)等。這些失敗案例多發(fā)生在頭部、頸部和心胸外科手術(shù)中，是其他手術(shù)的 10 倍。

另外，大型科技公司微軟在 AI 應(yīng)用方面也發(fā)生過翻車事件。Tay 是微軟在 2016 年推出的一款 AI 聊天機器人。微軟稱，Tay 的智能對話系統(tǒng)，可以通過 " 休閑而有趣的聊天 " 來學(xué)習(xí)與人類互動。

https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist

但推出后不久，Tay 便在 Twitter 上開始發(fā)表帶有各種種族歧視、性別歧視和言論。Tay 甚至將女權(quán)主義稱為 " 邪教 " 和 " 病毒 "，并指出 " 性別平等 = 女權(quán)主義 "。

隨后微軟立即刪除了相關(guān)言論，并對 Tay 的公共數(shù)據(jù)集進行了過濾和清洗。雖然此事在女權(quán)、種族極為敏感的美國并沒有引起軒然大波，但這表明，即使是全球領(lǐng)先的科技公司微軟在 AI 應(yīng)用方面也需要更加謹(jǐn)慎。

此外，谷歌在 2017 年推出的 AI 情感分析工具 Cloud Natural Language，也發(fā)生過種族歧視事件。

3

輕松破解「Face ID」

Face ID 是面部識別技術(shù)最廣泛的應(yīng)用場景之一。

該技術(shù)的目的是加強手機個人信息防護，但根據(jù)列表中的報道，這項技術(shù)在 2017 年已經(jīng)能夠被輕松破解。

一個來自德國的研究團隊 Bkav 稱，他們使用常見材質(zhì)制成的人臉面具可以輕松解鎖蘋果的 Face ID。據(jù)了解，該面具非常簡單，人人都可以制作。它由石粉制成的 3D 人臉（價格約為 200 美元），以及粘在眼睛上的 2D 圖像構(gòu)成。

https://mashable.com/2017/11/27/apple-face-id-mask-defeated-again/#N3QOEjviHiqW

其中，石粉可以代替口罩以更高的分?jǐn)?shù)欺騙 Face ID ；眼睛是紅外圖像打印而成，與 Face ID 本身用于檢測面部圖像的技術(shù)相同。

另外，人臉模板也非常容易獲取，它不需要近距離拍攝。當(dāng)一個人走進房間，預(yù)先設(shè)置的不同角度的攝像機系統(tǒng)可以在幾秒鐘內(nèi)遠距離秘密拍攝照片，然后將照片通過算法制作成 3D 對象。

對此，Bkav 還提醒稱，沒有任何形式的生物識別是絕對可靠的。

除了以上案例之外，列表中還強調(diào)了幾項重點 " 翻車 " 類型：

機器人在德國大眾汽車工廠殺死工人

亞馬遜 IA 招聘工具存在性別歧視。

AI 偽造政治領(lǐng)袖演講視頻

YouTube 使用的 AI 算法向兒童推薦不健康內(nèi)容。

更多詳細內(nèi)容，請戳 AIID 數(shù)據(jù)集地址：https://incidentdatabase.ai/

4

One More Thing

最后需要說明的是，不止是 AI，任何新技術(shù)在剛剛推出或者在發(fā)展過程中，都會出現(xiàn)諸如此類的翻車事件。無論 AI 未來會對人類帶來何種影響，技術(shù)向前發(fā)展的趨勢都是不可避免的，而我們能做的只有不斷修正和完善，同時更加謹(jǐn)慎的對待 AI。

這也是建立 AI 事故數(shù)據(jù)集的目的，以此警示相關(guān)領(lǐng)域的研究者避免類似的事故。另外，數(shù)據(jù)的收集工作仍在進行中，如果你感興趣的話，可以點擊下方鏈接了解更多。