鍵盤俠太猖狂!谷歌AI給暴力言論打分

  科客點評:關鍵是真的能捕捉到暴力言論嗎?畢竟有些污言穢語懂得如何規避搜索的關鍵詞。

鍵盤俠太猖狂!谷歌AI給暴力言論打分

  電影《搜索》描述了這樣一個畫面:高圓圓飾演的女主因為在公交車上沒有給老人讓座,有人將這 段視頻傳到網絡,引發了廣大網友對她進行人肉搜索。一時間,鋪天蓋地的辱罵、嘲諷、詛咒充斥著她的生活,最后女主選擇用跳樓來結束自己的生命。如今,這已經不再只是電影中才出現的畫面。隨著互聯網滲入我們生活的方方面面,網絡暴力、道德綁架,越來越多的鍵盤俠們用不負責任的言語在網上肆意攻擊他人。

  據國外媒體報道,美國網民在最早接觸網絡的同時,也最先受到網絡造謠誹謗之害。根據美國獨立民調機構皮尤研究中心 2014 年的一份調查,每 10 個網民中就有4人遭遇過某種形式的網絡騷擾,近五分之一互聯網用戶遭遇過嚴重的網絡暴力,包括人身威脅、持續性的跟蹤騷擾。

  網絡安全已經成為我們不得不重視的一個問題。面對互聯網海量的言論和信息,人工檢測網絡暴力信息的確費時費力,這時候,人工智能就派上用場了。

  Facebook和Google等公司都開始嘗試結合人工智能等技術來過濾網絡不良言論。就連一向以言論自由著稱的Twitter也開始允許用戶設置一些關鍵詞來屏蔽騷擾信息:

  Facebook機器學習小組使用機器學習技術監測所有上載到 Facebook 的圖片的內容,包括廣告的內容,用來過濾其中色情、暴力等內容。

  Google的SafeSearch(安全檢索)功能使用了機器學習來識別色情圖片,可給未成年人提供健康正常的網絡瀏覽與檢索。

  Twitter收購了兩家視覺媒體內容監測創業公司Madbits和Whetlab,運用它們的人工神經網絡技術實現色情內容監控。

  近日,谷歌又推出了一款人工智能技術支撐的全新工具,名為“Conversation AI”。這個新軟件能夠幫助用戶不受網絡有害言論的威脅。

  Conversation AI通過機器學習技術,自動捕捉網絡上的污言穢語,并給它的攻擊力評分——100分是最有害的,0 分是無害的。這個工具將會首先在《紐約時報》的注釋版塊進行測試,維基百科也計劃將會使用這款應用。不過據《有線》雜志稱,該公司并沒有透露測試的具體細節。

  由于該技術最終將成為開源的,所以在不久的將來,全球的網站和各類社交媒體平臺,都可以用它幫助用戶逃過暴力言論的傷害。《有線》表示,Conversation AI 可以“自動識別出侮辱、騷擾的言論,甚至還能幫你刪除它。”

  雖然 Conversation AI 在測試中被發現存在一些缺陷,但是谷歌透露,它的準確度已達92% ,并且隨著時間的推移,功能將會不斷完善。關注科客網官方微信kekebat,獲取更多精彩資訊。(雷鋒網,原標題《鍵盤俠太猖狂,谷歌用 AI 給網絡“攻擊力”打分》)

鍵盤俠太猖狂!谷歌AI給暴力言論打分

注:轉載文章,不代表本站贊同其觀點和對其真實性負責,本站不承擔此類稿件侵權行為的連帶責任。如版權持有者對所轉載文章有異議,請與我們聯系。

收藏
分享到:
我要點評 1 條評論

最多可輸入140個字

  • 蒂雅瑪特

    蒂雅瑪特

    ████████████看 黃 魸 手 機 瀏 覽 噐 咑 幵:275236.c○m 郗蒛資羱!無需下載、直接欣賞,妳嬞鍀!████████████族拙

    回復

快訊

  1. 從中國冠軍到全球領跑!TCL發布第四代液晶電視Q10L系列
  2. 榮耀憑AI創新技術及產品斬獲MWC 2025超50項媒體大獎
  3. 三星Galaxy S25系列品鑒會落地羊城 開啟智能AI「星」體驗
  4. MWC2025:榮耀堅守開放合作承諾,賦能產業新發展
  5. 榮耀阿爾法戰略發布,以開放向全球領先的AI終端生態公司轉型
  6. 全球首款DeepSeek空調首秀,美的推進空調行業智能化浪潮
  7. 中興通訊2024年報:凈利潤84.2億元,手機營收漲幅超40%
  8. 榮耀MagicBook Pro 14發布:用手機思維破局,AI與續航突出
  9. 全能平板筆記本,11999元起ROG幻X 2025開售
  10. 能效電氣WE DAY能效日落幕,天璇II WE X7 Pro充電樁亮相

Talk客

  1. Talk客:共享單車風波四起,誰又將是最后贏家呢?
  2. Talk客:各取所需而已?谷歌這11億刀是否物超所值?
  3. Talk客:安卓旗艦四面圍剿,新iPhone能否成功逆襲?
  4. Talk客:6GB大運存手機遍地走,是剛需還是噱頭?
  5. Talk客:靠臉吃飯成現實!支付寶“刷臉支付”商用,你怎么看?
  6. Talk客:年度最強安卓旗艦三星Note8來了,你準備剁手?
  7. Talk客:聯想痛失全球PC第一王座 靠VR能扳回一城?
  8. Talk客:昔日大牌,歸來已是小眾!他們的出路在哪?
  9. Talk客:魅族PRO 7會是它的春天?聯發科高端夢何時圓
  10. Talk客:國產品牌豪奪國內市場份額 蘋果三星銷量能否逆襲?

作者推薦

?