谷歌使用人工智能來模仿人類是不道德和糟糕的用戶體驗

谷歌首席執行官桑達皮采本周朝著錯誤的方向邁出了一大步。在他的公司的I / O開發者大會上，Pichai通過使用虛擬助手愚弄人們，讓毫無戒心的人成為笑聲的目標，并提出有關人工智能未來用途的嚴重道德問題，讓人群驚嘆不已。

Pichai為觀眾播放了Google智能助理和美發沙龍助手之間的對話

虛擬助手的“Mm-hmm”的話語引起了那些竊聽相當于惡作劇電話(公告視頻的1:56:36)的笑聲。聽聽美發沙龍接待員這個可憐的汁液!她完全墮落了!讓我們聆聽，看看接下來會發生什么!

電話會議的結論引起了I / O與會者和Google首席執行官們的更多歡笑和掌聲。“這是你剛才聽到的真實電話，”皮海說，笑聲繼續說道。他解釋說這個電話是由一項名為Google Duplex的新技術提供支持的。“它匯集了我們多年來的所有投資：自然語言理解，深度學習，文本到語音。”

好像不知道美發沙龍接待員是不夠的，Pichai然后在餐館工作人員上扮演同樣的伎倆，員工的英語口音和Google智能助理使用“呃”和“mm-hmm”更加挑釁竊笑。

“再一次，”皮海說，搖搖頭，對這一切都非常歡鬧，“這是一個真正的呼喚。”

用戶體驗錯誤

谷歌努力使助手的聲音模式與人類無法區分，這引發了一個問題：為什么?僅僅因為可以做到這一點并不足以做到這一點。

我可以想象用戶體驗專家對這種欺騙感到震驚。雖然與一個人性化的語音助手進行交互肯定比機械化機器人更愉快，但當我與他們互動時，我想知道它。谷歌因沒有教導機器人自我介紹而失敗了什么?打電話給美發沙龍時，可能會說：“嗨，我是Google助理代表客戶打電話。”

它應該這樣做。

雖然這可能會讓接待員 - 以及餐廳員工，也許對你我來說，假設我們最終接到這些電話 - 我們對這種互動的接受會隨著時間的推移而增長。沒有理由認為AI呼叫有一天不會像語音菜單那樣普遍。

但我們接受看似自主的語音助理將取決于信任。信任要求能夠區分我們何時與人交談以及何時與人工智能交談。

危險的游戲

一個人工智能驅動的文本，語音和視頻從人類生成的類比中難以辨認的世界是一個可怕的世界，創建它的技術已經存在。這并不是艾倫·圖靈在提出同名考試時所設想的。

防止這樣一個反烏托邦社會的最佳方式 - 即所謂的天真的 - 就是應用相同的道德規范人類互動與人工智能的互動。即，誠實和誠實。

Pichai在I / O上犯了兩個道德錯誤。第一個是將發廊和餐廳員工變成騙子。這真的不比為他的開發者客人娛樂而做的虛假電話噱頭。

Pichai的第二次進攻是鼓勵開發一種冒充人類的AI。可以從中得到一點好處; 它有可能創造一個危險的先例。谷歌不應該使用Duplex來代替這種新技術欺騙。

太平洋時間下午1點15分更新：為了回應 批評 雙面驅動助理并未將自己標識為機器人的問題，谷歌發表了以下聲明：“我們正在設計此功能并內置披露，我們將確保系統得到適當的識別。我們在I / O上展示的是早期的技術演示，我們期待在將其開發成產品時整合反饋。“