Gartner敦促CIO考慮人工智能道德

Gartner的一份報告 發現，首席信息官必須專注于商業中的“智能機器” - 或人工智能 - 的道德規范，以建立和維護科幻虛擬技術的信任。

雖然世界還遠未開發人工智能機器人，但分析公司已經發布了一份報告，研究道德在智能機器方面的重要性 - 無論是連接物聯網(IoT)設備還是自動機器人。Gartner研究副總裁兼分析師Frank Buytendijk表示：“顯然，人們必須信任智能機器才能接受并使用它們。

“獲得信任的能力必須是實施人工智能(AI)或智能機器的任何計劃的一部分，并且在推廣這項技術時將成為一個重要的賣點。“首席信息官必須能夠監控智能機器技術，以應對公眾使用的意外后果，并立即做出反應，接受無法預料的積極結果并應對不良后果。”

為實現這一目標，Gartner確定了五個編程級別，包括“非道德規劃”(制造商有限的道德責任)，“道德監督”(責任在于用戶)，“道德規劃”(責任由用戶共享，服務提供商和設計師)，“進化道德規劃”(任務開始自主執行)和“機器開發的道德規范”(機器是自我意識的)。

通過三級“進化倫理規劃”，對智能機器的信任變得更加重要，隨著技術自主性的增加，用戶控制也會減少。

報告指出，機器變得自我意識的第四級不太可能在不久的將來出現。

“我們應該問自己的問題是：我們如何確保這些機器堅持自己的責任?我們會像寵物一樣對待智能機器嗎?或者我們會像孩子一樣對待他們，直到他們能夠為自己承擔責任嗎?“，Buytendijk補充道。

今年年初，斯蒂芬霍金談到了人工智能的到來，簽署了生命未來研究所的信，警告人們可能帶來的潛在威脅。

信中寫道：“由于人工智能的巨大潛力，研究如何在避免潛在陷阱的同時獲得收益非常重要。我們建議進行擴展研究，以確保功能越來越強大的人工智能系統強大而有益：我們的人工智能系統必須做我們希望他們做的事情。“

與此形成鮮明對比的是，微軟研究院院長Eric Horvitz 聲稱圍繞人工智能的“世界末日情景”是沒有根據的，他說：“人們一直擔心我們失去對某些智能的控制權的長期前景。我從根本上認為這不會發生。

“我認為我們在人工智能系統的實施方面將非常積極主動，最終我們將能夠從生活的各個方面，從科學到教育，從經濟到日常生活，從機器智能中獲得難以置信的好處。 ”