鏗鏘有力的Google智能助理引發了道德問題

新的谷歌數字助理如此自然地交談，看起來像是一個真實的人。

本周，這家技術巨頭揭開了這位天生的機器人助理的神秘面紗，讓一些觀察者驚嘆不已，但讓其他人對如何使用看似人類的軟件的道德規范感到煩惱。

Google首席執行官Sundar Pichai播放了Google智能助理的錄音，獨立呼叫美發沙龍和餐廳進行預訂 - 與明顯沒有意識到他們正在處理人工智能軟件而非真正客戶的員工互動。

告訴Google智能助理在下午6點預訂一張四人餐桌，它往往會以一種人性化的聲音撥打電話，并伴有“語音不流暢”，如“嗯”和“嗯”。

“這是人們在收集他們的想法時經常做的事情，”Google工程師Yaniv Leviathan和Yossi Matias在一篇Duplex博客文章中說。

谷歌助理人工智能增強了“雙工”技術，讓它像手機上的真人一樣吸引人，這令人感到意外，對于一些令人不安的互聯網巨頭年度開發者大會本周在其家鄉加利福尼亞州山景城的明星。

數字助理還被編程為了解何時快速響應，例如在有人說“你好”之后，而不是在回答復雜問題之前暫停。

谷歌將增強型助手作為潛在的福音，對于忙碌的人和小型企業來說，這些企業缺乏客戶可以用來預約的網站。

“我們對助手的愿景是幫助你完成工作，”Pichai在Google I / O大會上向大約7,000名開發人員講述了這一消息，以及在線觀眾在周二觀看他的流媒體演示。

谷歌將在未來幾個月內測試數字助理的改進。

現實的robocallers

雙重演示之后很快就辯論是否應該告訴人們接聽電話的時候他們是否在講人類聽起來的軟件，以及如何以營銷人員或政治活動更有說服力的“robocalls”的形式濫用技術。

“到目前為止，Google Duplex是#IO18中最令人難以置信的，令人恐懼的事情，”產品設計師克里斯·梅西納(Chris Messina)發推文，其簡歷包括谷歌，并將標簽的概念帶到Twitter。

根據世界經濟論壇中心人工智能和機器學習項目負責人Kay Firth-Butterfield的說法，Google Duplex是一項重要的發展，它表明迫切需要找出能夠讓人們認為自己是人類的機器的正確治理。第四次工業革命。

“這些機器可以代表政黨召集，并為投票提供更有說服力的建議，”Firth-Butterfield說道。

“孩子們能否使用這些代理人并接聽他們的電話?”

數字助理為人們做出安排也提出了誰應對錯誤負責的問題，例如在錯誤的時間內預約的未入住或取消費用。