2016 年 AI 十大失敗案例有哪些？微軟 Tay、特斯拉車禍上榜
OFweek機器人網訊：眼看2016年還有幾天就要落下帷幕，在過去的一年裡，人工智慧如雨後春筍般成長起來，甚至有人稱之為“人工智慧元年”。自動駕駛、語音辨識、風靡全球的遊戲 Pokémon Go …… 機器似乎已經無處不在，無所不能了。
同時，在這一年，人工智慧也闖了不少禍，我們需要對這些錯誤給予更多的關注，以免在未來重蹈覆轍。雷鋒網瞭解到，近日路易斯維爾大學網路安全實驗室（Cybersecurity Lab） 的主任 Roman Yampolskiy 發表了一篇論文，名為《Artificial Intelligence Safety and Cybersecurity : a Timeline of AI Failures》 ，其中列出了人工智慧在過去的一年裡表現不太好的例子。Yampolskiy 表示，這些失敗都可以歸因於 AI 系統在學習階段以及表現階段中犯的錯誤。
以下是依據 Yampolskiy 的論文以及諸多人工智慧專家的意見，國外媒體 TechRepublic 整理而成的名單，排名不分先後。由雷鋒網編譯：
1.Pokémon Go 讓遊戲玩家集中在白人社區
7 月份，風靡全球的 Pokémon Go 遊戲發佈之後，多個用戶注意到極少的 Pokémon 位於黑人社區。 Mint 的首席資料官 Anu Tewary 表示，原因是因為這些演算法的發明者並沒有提供多樣的訓練集，而且並沒有花費時間在黑人社區上。
2.特斯拉半自動駕駛系統的車禍
今年，特斯拉的事故在全世界範圍內層出不窮。5 月份，在佛羅里達的一條高速公路上，一輛開啟了 Autopilot 模式的特斯拉發生了車禍，駕駛員致死。這是特斯拉全球首例死亡事件。之後，特斯拉對 Autopilot 軟體進行了重大更新，其 CEO 馬斯克在接受採訪時表示這種更新可以防止事故再次發生。此外，在中國等其他國家和地區也出現了多次特斯拉事故。不過，其中一些事故並不能說是 AI 直接導致的。
3.微軟聊天機器人Tay 散佈種族主義、性別歧視和攻擊同性戀言論
今年春天，微軟在 Twitter 上發佈了一個人工智慧驅動的聊天機器人 Tay，希望它能和網路上的年輕人相處愉快。起初，Tay 是為了模仿十幾歲的美國青少年女孩而設計的，但在推出後不久卻被人帶壞了，變成了一個“熱愛希特勒、諷刺女權主義”的壞蛋。最終微軟不得不將 Tay “殺死”，並宣佈將會對相關的演算法進行調整。
4.谷歌的AI 阿爾法狗 AlphaGo 輸了與人類圍棋大師李世石的一局
今年 3 月 13 日，谷歌阿爾法圍棋與李世石的人機大戰五番棋第四局在韓國首爾四季酒店戰罷，圍棋大師李世石中盤擊敗阿爾法，扳回一局。雖然最後人工智慧還是以 1 比 3 的比分獲得了勝利，但是輸了的一局顯示目前的 AI 系統仍然不是很完善。
“或許李世石發現了蒙特卡洛樹搜索（MCTS）的弱點。” 新南威爾斯大學的人工智慧教授 Toby Walsh 說道。不過，雖然這被看做是人工智慧的失敗，但是 Yampolskiy 認為這種失敗是在可接受範圍內的。
同時，在這一年，人工智慧也闖了不少禍，我們需要對這些錯誤給予更多的關注，以免在未來重蹈覆轍。雷鋒網瞭解到，近日路易斯維爾大學網路安全實驗室（Cybersecurity Lab） 的主任 Roman Yampolskiy 發表了一篇論文，名為《Artificial Intelligence Safety and Cybersecurity : a Timeline of AI Failures》 ，其中列出了人工智慧在過去的一年裡表現不太好的例子。Yampolskiy 表示，這些失敗都可以歸因於 AI 系統在學習階段以及表現階段中犯的錯誤。
以下是依據 Yampolskiy 的論文以及諸多人工智慧專家的意見，國外媒體 TechRepublic 整理而成的名單，排名不分先後。由雷鋒網編譯：
1.Pokémon Go 讓遊戲玩家集中在白人社區
7 月份，風靡全球的 Pokémon Go 遊戲發佈之後，多個用戶注意到極少的 Pokémon 位於黑人社區。 Mint 的首席資料官 Anu Tewary 表示，原因是因為這些演算法的發明者並沒有提供多樣的訓練集，而且並沒有花費時間在黑人社區上。
2.特斯拉半自動駕駛系統的車禍
今年，特斯拉的事故在全世界範圍內層出不窮。5 月份，在佛羅里達的一條高速公路上，一輛開啟了 Autopilot 模式的特斯拉發生了車禍，駕駛員致死。這是特斯拉全球首例死亡事件。之後，特斯拉對 Autopilot 軟體進行了重大更新，其 CEO 馬斯克在接受採訪時表示這種更新可以防止事故再次發生。此外，在中國等其他國家和地區也出現了多次特斯拉事故。不過，其中一些事故並不能說是 AI 直接導致的。
3.微軟聊天機器人Tay 散佈種族主義、性別歧視和攻擊同性戀言論
今年春天，微軟在 Twitter 上發佈了一個人工智慧驅動的聊天機器人 Tay，希望它能和網路上的年輕人相處愉快。起初，Tay 是為了模仿十幾歲的美國青少年女孩而設計的，但在推出後不久卻被人帶壞了，變成了一個“熱愛希特勒、諷刺女權主義”的壞蛋。最終微軟不得不將 Tay “殺死”，並宣佈將會對相關的演算法進行調整。
4.谷歌的AI 阿爾法狗 AlphaGo 輸了與人類圍棋大師李世石的一局
今年 3 月 13 日，谷歌阿爾法圍棋與李世石的人機大戰五番棋第四局在韓國首爾四季酒店戰罷，圍棋大師李世石中盤擊敗阿爾法，扳回一局。雖然最後人工智慧還是以 1 比 3 的比分獲得了勝利，但是輸了的一局顯示目前的 AI 系統仍然不是很完善。
“或許李世石發現了蒙特卡洛樹搜索（MCTS）的弱點。” 新南威爾斯大學的人工智慧教授 Toby Walsh 說道。不過，雖然這被看做是人工智慧的失敗，但是 Yampolskiy 認為這種失敗是在可接受範圍內的。