鍵盤俠太猖狂!谷歌AI給暴力言論打分
谷歌推出了全新工具,這個新軟件能夠幫助用戶不受網絡有害言論的威脅。
關鍵是真的能捕捉到暴力言論嗎?畢竟有些污言穢語懂得如何規避搜索的關鍵詞。
http://www.ue2382.cn/Uploads/Bingdu/2016-09-20/57e0d50d647ff.jpg
0
雷鋒網
http://www.leiphone.com/news/201609/bhNZs5p0QJUE6BdA.html
科客點評:關鍵是真的能捕捉到暴力言論嗎?畢竟有些污言穢語懂得如何規避搜索的關鍵詞。
電影《搜索》描述了這樣一個畫面:高圓圓飾演的女主因為在公交車上沒有給老人讓座,有人將這 段視頻傳到網絡,引發了廣大網友對她進行人肉搜索。一時間,鋪天蓋地的辱罵、嘲諷、詛咒充斥著她的生活,最后女主選擇用跳樓來結束自己的生命。如今,這已經不再只是電影中才出現的畫面。隨著互聯網滲入我們生活的方方面面,網絡暴力、道德綁架,越來越多的鍵盤俠們用不負責任的言語在網上肆意攻擊他人。
據國外媒體報道,美國網民在最早接觸網絡的同時,也最先受到網絡造謠誹謗之害。根據美國獨立民調機構皮尤研究中心 2014 年的一份調查,每 10 個網民中就有4人遭遇過某種形式的網絡騷擾,近五分之一互聯網用戶遭遇過嚴重的網絡暴力,包括人身威脅、持續性的跟蹤騷擾。
網絡安全已經成為我們不得不重視的一個問題。面對互聯網海量的言論和信息,人工檢測網絡暴力信息的確費時費力,這時候,人工智能就派上用場了。
Facebook和Google等公司都開始嘗試結合人工智能等技術來過濾網絡不良言論。就連一向以言論自由著稱的Twitter也開始允許用戶設置一些關鍵詞來屏蔽騷擾信息:
Facebook機器學習小組使用機器學習技術監測所有上載到 Facebook 的圖片的內容,包括廣告的內容,用來過濾其中色情、暴力等內容。
Google的SafeSearch(安全檢索)功能使用了機器學習來識別色情圖片,可給未成年人提供健康正常的網絡瀏覽與檢索。
Twitter收購了兩家視覺媒體內容監測創業公司Madbits和Whetlab,運用它們的人工神經網絡技術實現色情內容監控。
近日,谷歌又推出了一款人工智能技術支撐的全新工具,名為“Conversation AI”。這個新軟件能夠幫助用戶不受網絡有害言論的威脅。
Conversation AI通過機器學習技術,自動捕捉網絡上的污言穢語,并給它的攻擊力評分——100分是最有害的,0 分是無害的。這個工具將會首先在《紐約時報》的注釋版塊進行測試,維基百科也計劃將會使用這款應用。不過據《有線》雜志稱,該公司并沒有透露測試的具體細節。
由于該技術最終將成為開源的,所以在不久的將來,全球的網站和各類社交媒體平臺,都可以用它幫助用戶逃過暴力言論的傷害。《有線》表示,Conversation AI 可以“自動識別出侮辱、騷擾的言論,甚至還能幫你刪除它。”
雖然 Conversation AI 在測試中被發現存在一些缺陷,但是谷歌透露,它的準確度已達92% ,并且隨著時間的推移,功能將會不斷完善。關注科客網官方微信kekebat,獲取更多精彩資訊。(雷鋒網,原標題《鍵盤俠太猖狂,谷歌用 AI 給網絡“攻擊力”打分》)
注:轉載文章,不代表本站贊同其觀點和對其真實性負責,本站不承擔此類稿件侵權行為的連帶責任。如版權持有者對所轉載文章有異議,請與我們聯系。
蒂雅瑪特
████████████看 黃 魸 手 機 瀏 覽 噐 咑 幵:275236.c○m 郗蒛資羱!無需下載、直接欣賞,妳嬞鍀!████████████族拙