閱讀Google針對人性化AI的五條規則

谷歌已經提出了五條規則來創造人性化的人工智能 - 取代艾薩克·阿西莫夫的三部機器人法則。這個技術巨頭，其DeepMind部門最近設計了一個能夠擊敗世界上最好的圍棋玩家的人工智能 - 相信AI創作者應該問自己這五個基本問題， 以避免機器人統治人類的奇點風險。

谷歌研究院的克里斯·奧拉在題為“ 人工智能安全中的具體問題 ”的研究論文中概述了這些問題：“雖然可能的人工智能安全風險已引起公眾的廣泛關注，但大多數先前的討論都是非常假設和推測的。

“我們認為，必須在實際機器學習研究中解決問題，并開始開發安全可靠運行的工程AI系統的實用方法。”與OpenAI，斯坦福和伯克利合作出版，本文以清潔機器人為例，概述了以下五條規則。

避免負面影響：確保AI系統在完成任務時不會以負面方式干擾其環境。

避免獎勵黑客攻擊：有效的人工智能需要在不偷工減料的情況下正確完成任務。

可擴展的監督： AI需要從反饋中學習，不需要人類程序員的持續反饋。

安全探索： AI在執行任務時需要避免破壞環境中的對象。

分布式轉變的穩健性：人工智能應該能夠適應它最初沒有條件的環境，并且仍然可以運行。

在恐懼機器人的背景下，谷歌投入了大量資源用于開發深度學習和人工智能，其中包括SpaceX創始人埃隆馬斯克和科學家斯蒂芬霍金等名人。

DeepMind正在開發一種故障安全措施 ，可以在企圖違反用戶的情況下有效關閉AI。

包括微軟在內的其他公司正在探索人工智能，讓AI講述有關假日照片的故事，并推出其聊天機器人Tay，在Twitter上發表了粗魯的回復。