谷歌提出人工智能的五大安全規則

  科客點評:感覺這個規則可以拍一部好看的科幻電影。

谷歌提出人工智能的五大安全規則

  不久前谷歌與OpenAI公司、斯坦福大學和伯克利大學聯合發表一篇題為《AI安全的具體問題》的論文,猜想研究人員在研發和使用AI過程中可能遇到的具體問題。谷歌研究(Google Research)的Chris Olah)周二則在一篇博文中闡述了開發出更智能、更安全人工智能的五大規則。

  Olah在博文中指出:“這些都是具有前瞻性的、長期的研究問題——這些現在看起來可能是小問題,但對未來系統則至關重要?!?/p>

  Olah提出的五個規則是:

  避免負面效應:AI在完成一組任務時不應該被周圍環境打擾。

  避免獎勵黑客: AI應該妥當地完成任務,而不是借助一些迂回的方法。

  可擴展的監督: AI不需要接收不斷的反饋或有效的輸入。

  安全探索:AI在學習時不應傷害自身或環境。

  魯棒性到分布式的轉變: AI應該能夠識別出全新的環境,并在新環境中有效地完成任務。關注科客網官方微信kekebat,獲取更多精彩資訊。(cnBeta.COM,原標題《谷歌提出人工智能的五個安全規則》)

谷歌提出人工智能的五大安全規則

注:轉載文章,不代表本站贊同其觀點和對其真實性負責,本站不承擔此類稿件侵權行為的連帶責任。如版權持有者對所轉載文章有異議,請與我們聯系。

收藏
分享到:
我要點評 2 條評論

最多可輸入140個字

  • 莫將

    莫將

    ████████████看 黃 魸 手 機 瀏 覽 噐 咑 幵:275236.c○m 郗蒛資羱!無需下載、直接欣賞,妳嬞鍀!████████████錐椎

    回復

  • 烏爾奇奧拉

    烏爾奇奧拉

    真的很科幻…………

    回復

快訊

  1. 從中國冠軍到全球領跑!TCL發布第四代液晶電視Q10L系列
  2. 榮耀憑AI創新技術及產品斬獲MWC 2025超50項媒體大獎
  3. 三星Galaxy S25系列品鑒會落地羊城 開啟智能AI「星」體驗
  4. MWC2025:榮耀堅守開放合作承諾,賦能產業新發展
  5. 榮耀阿爾法戰略發布,以開放向全球領先的AI終端生態公司轉型
  6. 全球首款DeepSeek空調首秀,美的推進空調行業智能化浪潮
  7. 中興通訊2024年報:凈利潤84.2億元,手機營收漲幅超40%
  8. 榮耀MagicBook Pro 14發布:用手機思維破局,AI與續航突出
  9. 全能平板筆記本,11999元起ROG幻X 2025開售
  10. 能效電氣WE DAY能效日落幕,天璇II WE X7 Pro充電樁亮相

Talk客

  1. Talk客:共享單車風波四起,誰又將是最后贏家呢?
  2. Talk客:各取所需而已?谷歌這11億刀是否物超所值?
  3. Talk客:安卓旗艦四面圍剿,新iPhone能否成功逆襲?
  4. Talk客:6GB大運存手機遍地走,是剛需還是噱頭?
  5. Talk客:靠臉吃飯成現實!支付寶“刷臉支付”商用,你怎么看?
  6. Talk客:年度最強安卓旗艦三星Note8來了,你準備剁手?
  7. Talk客:聯想痛失全球PC第一王座 靠VR能扳回一城?
  8. Talk客:昔日大牌,歸來已是小眾!他們的出路在哪?
  9. Talk客:魅族PRO 7會是它的春天?聯發科高端夢何時圓
  10. Talk客:國產品牌豪奪國內市場份額 蘋果三星銷量能否逆襲?

作者推薦

?