Spirit AI如何使用人工智能來提升游戲社區的水平

精神AI正在使用人工智能來對抗游戲社區中的毒性行為。這家倫敦公司創建了Ally社交智能工具，用于解讀在線對話并監控網絡欺凌是否正在發生。

根據Spirit AI的創意合伙人導演和紐約大學游戲中心的助理藝術教授Mitu Khandaker的說法，這是紐約大學研究人員的心血結晶。該公司使用人工智能，自然語言理解和機器學習來幫助數據科學和客戶服務團隊了解在線社區的總體趨勢。它還有助于在問題升級之前預測問題。

Ally考慮上下文，細微差別以及用戶與尋找和阻止關鍵字之間的關系。該軟件使用自然語言理解和AI來識別消息的意圖，然后分析行為和反應以確定其影響。它可以做識別網絡欺凌的事情。

Spirit AI最近推出了許多新功能，其中一些功能在今年的游戲開發者大會上公布，并作為新的公平競爭聯盟峰會的一部分。產品改進包括新的智能過濾器，基于Web的更新和可定制的前端以及基于節點的直觀界面，以及GDPR(新的歐洲隱私法)合規性。另一種產品，角色引擎，是一種自然語言AI框架，用于構建具有代理，歷史和知識的自主角色。

“我們正處在這些事情發生的時刻，人工智能可以提供幫助，”Khandaker說。

Khandaker最近在倫敦的Casual Connect Europe活動上談到了Ally。之后我跟她說過話。這是我們采訪的編輯記錄。

Mitu Khandaker： Ally真的是一個分析社區社會景觀的工具，真正了解它們的語言和背景。當你看到玩家和非玩家角色(NPC)之間的對話時，我提到的關于談話的所有內容也都適用，對吧?但這次看著球員之間的那些事情。會話非常細微，非常具體。

作為一家公司，兩種產品的想法同時出現。最初我們談到的是，“當你真正理解語言時，當你真正理解上下文中的行為時，有什么可能?”顯然，有一種能夠自然地與角色交談的夢想。我們正在幫助實現這一目標。但是，就我個人而言 - 我們差不多三年前創立了Spirit。這是Gamergate的一年，當時我和很多同事都是目標。我認為，如果我們真的理解細微的談話，網上騷擾是一個嘗試解決的關鍵領域。

您無法確定關鍵字的騷擾。語言變化。朋友之間的語言可能不錯，但是那些完全無害的東西 - 聽起來陌生人突然開始 - 有人可能會發明一個新的詛咒詞，對吧?如果你的系統不知道它，或者它故意拼寫錯誤，所有這些東西。如果他們試圖惡意，人們會盡可能地繞過這些系統。

該系統善于理解語境。這有幾個方面。其中一個可能只是在語義上試圖理解這個詞的含義，從它的使用方式來看。另一個可能是 - 這是一個關鍵的，它試圖了解該語言是否是雙方同意的。回到這個例子，讓我們說我最好的朋友決定叫我一個名字。我很好。她可以隨心所欲地打電話給我。那是一種雙方同意的關系。我知道她并不是不客氣地說。我不會說，“不要這樣做。”

但是，如果陌生人使用同一個詞 - 一些隨機的網友開始投擲同樣的侮辱 - 我可能會沉默，不回應，這表明我可能沒有與這個人進行雙向對話，或者我可能會說，“走開，讓我一個人呆著，”口頭表達某種缺乏同意。或者我可能只是注銷。

這是為了讓社區更安全。明白它是什么特別傷害了他們。他們不同意的是什么?基本上，通過使用這些工具，您可以減少這些類型的交互，讓人們感覺安全并回來。這就是它如何讓玩家的生活更輕松。

在社區管理方面，社區主持人方面，我們的一個重要愿望是，我們如何使用AI這樣的東西來減少情緒勞動?這是圍繞人工智能的一些更大的哲學。有很多關于人工智能的討論，以及自動化是否會取代工作等等。那是現在談話的重要話題。無論你在哪個方面著陸，我們可以使用AI做的一件事就是減少人們必須做的情感工作。

當你看到真正艱難的工作時，比如社區審核主持人，如你所知，必須看看這么多可怕的評論。隨著時間的推移，東西會得到你。有報道稱，在這些情況下，人們因為他們日復一日地不斷暴露的內容而接受創傷后應激障礙治療。人工智能可以幫助我們的一件事是減少情緒勞動，自動消除他們必須看到的一些糟糕的東西。

GamesBeat：人們總是認為AI做無聊的工作，比如卡車駕駛，但是 -

Khandaker：是的，但人工智能在做情感工作呢?我認為這非常有趣，因為我們帶來的是一支更健康的員工隊伍。

GamesBeat：你談話中關于“蛋糕是謊言”的部分讓我很好奇。這是來自真實的伊麗莎談話嗎?

Khandaker：哦，那是伊麗莎的真實對話，是的。Eliza所做的事情之一就是在它上面的特定計算機上恢復用戶之前說過的東西并重復它。就像我說的那樣，治療師說的是治療模式，“這很有趣，告訴我更多關于蛋糕的信息。”這就是它的工作原理。

GamesBeat：當我還是英語專業時，我們處理的是結構主義等不同的理論。你有一個故事弧。這是人工智能可以復制的一個例子嗎?它可以創造自己的敘事，故事的情感弧線嗎?

Khandaker：當然。您可以通過多種方式查看它。如果你看一下你和你正在談論的角色之間的故事如何展開，你可以建立一個弧形。你可能會說，經過一段時間，或者這么多的會話動作，你想要加劇這個戲劇。你想讓角色突然生氣。他們生氣了什么?他們想要提出一件特別的事情，他們一直想和你談談。

這是實現它的一種方式，實際上 - 當你通過對話展開故事時，這是你可以控制這種弧線的一種方式。你可以說，“這是我寫的特別故事。以下是它可以展開的方式。“在適當的時候，角色會說某些事情，因為你最終建立了他們的信任或其他什么。這是我們可以通過我們的系統做的另一件事。