科客點評：谷歌啊，怎么眼神不大好？

　　7月3日，谷堪稱人工智能和機器學習領域的領軍企業，但其Google Photos應用本周犯了一個十分嚴重的錯誤，誤把兩名黑人標注為“大猩猩”。這表明，即使對谷歌來說，人工智能的道路仍然是“路漫漫其修遠兮”。

　　Web開發人員杰基·阿爾西內(Jacky Alciné)發現Google Photos自動把兩位黑人的照片標記為“Gorillas”(大猩猩)，并截圖發布到Twitter上。

　　阿爾西內在Twitter上說：“Google Photos，你太混蛋了。我朋友不是大猩猩。”

　　谷歌隨后對此道歉，并表示將調整算法，以修復這一問題。

　　“我們對此感到震驚，并致以真誠的歉意，”谷歌發言人說，“圖片自動標記功能顯然還有很多改善空間，我們希望今后能避免此類錯誤再次發生。”

　　“大猩猩”標簽出現在Google Photos應用的搜索功能中。當用戶搜索照片時，谷歌會推薦幾個由機器學習自動歸納的類別，該公司已經移除了“大猩猩”這一類別，因此以后即使是遇到真的大猩猩照片，也不會有這種提示。Google Photos是谷歌在幾周前的I/O大會上發布的新產品。

　　谷歌首席社交架構師Yonatan Zunger在Twitter上回復阿爾西內說：“我們做了很多工作，但是還有很多問題有待解決。我們會更努力的。”。他還說，谷歌正在努力改善膚色識別技術，在給照片中的人添加標簽時將會更加小心。

　　此事表明人工智能和機器學習技術的不足，尤其是用于普通消費市場時。谷歌通常會發布一些仍然存在瑕疵的產品，然后逐步通過軟件更新修正問題。這種模式可以讓產品很快推向用戶，但如果出現嚴重漏洞，也會引發用戶的不滿。

　　谷歌今年早些時候推出了一款YouTube Kids應用，使用自動過濾器、用戶反饋和人工評估的方式過濾成人內容。但該系統仍然放過了一些不當視頻，引發了用戶的不滿。谷歌發言人當時稱，“幾乎不可能實現100%的精確度。”

　　谷歌推出Google Photos應用時也承認該應用并不完美，但“大猩猩”標簽卻集中凸顯了這套系統的短板。

　　人工智能創業公司Sentient Technologies首席科學家巴巴克·霍加特(Babak Hodjat)說：“我們需要徹底革新機器學習系統，以便讓其處理更多的背景信息，使之能夠理解人類所看重的敏感文化問題。”

　　他表示，機器學習并不理解不同錯誤之間的差異，把黑猩猩錯看成大猩猩沒有問題，但如果把人錯看成黑猩猩，就會非常冒犯。

　　他說，谷歌的系統可能沒有“見過”足夠多的大猩猩照片以掌握其中的差異，也無法明白這種錯誤的嚴重性。

　　“人類非常敏感，可以發現某些具有重要文化意義的差別，”霍加特說。“機器卻無法做到這一點，它們看不到細節，無法理解這種背景信息。”

　　向谷歌機器學習系統導入更多的大猩猩圖片可能有助于解決這個問題，但是這些系統還必須接受訓練，方能在特定場合中更加小心。霍加特說，大部分系統經過設置之后，會根據自己的判斷給出標簽，即使它們本身也并非百分之百確定。

　　谷歌表示，隨著更多的圖片加載到Google Photos中，在加上投入更多的人力修復錯誤標簽，這套照片歸類算法的效果將逐步提升。谷歌表示，該公司之所以發布這款應用，一定程度上是為了讓人們為其提供更多照片，以便提升整體識別率。

　　谷歌的語音搜索功能也采用了類似的模式。該服務最初有很多識別錯誤，但隨著使用量的加大，識別率已經逐步改善。

　　Google Photos并不是第一個犯這類錯誤的軟件。雅虎旗下的照片分享網站Flickr在5月推出照片自動識別功能，幫助用戶將其上傳的照片自動標記歸類。雅虎的計算機算法同樣不完美，經常會產生偏差。比如把納粹集中營標記成“運動”。《衛報》報道說，此標記功能也把一位男性黑人標記成“大猩猩”和“動物”。（騰訊科技，原標題《谷歌照片應用誤把黑人標記成“大猩猩”》)