生物識別鏡凸顯了人工智能的缺陷

墨爾本大學的研究人員設計了一種人工智能(AI)系統，該系統僅根據他們的臉部照片來檢測和顯??示人們的人格特質和身體吸引力，這是世界首創的。

該系統稱為“生物識別鏡像”，用于調查一個人對AI的理解以及他們對有關其獨特特征的信息的反應。

當有人站在生物識別鏡前時，系統會在幾秒鐘內檢測到一系列面部特征。然后，它將用戶的數據與成千上萬張面部照片的數據進行比較，這些照片由一組來自人群的響應者對其心理測量進行了評估。

生物識別鏡顯示14個特征，從性別，年齡和種族到吸引力，怪異和情緒穩定。一個人站在那里的時間越長，特質就越個性化。

由社交自然用戶界面中心(SocialNUI)和墨爾本科學館的尼爾斯·沃特斯(Niels Wouters)博士領導的研究項目，探討了該技術引起的關于同意，數據存儲和算法偏差的擔憂。

Wouters博士說：“隨著AI和大數據的興起，政府和企業將越來越多地使用CCTV攝像機和交互式廣告來檢測路過的人們的情緒，年齡，性別和人口統計信息。”

“我們的研究旨在引發有關AI邊界的具有挑戰性的問題。它向用戶表明，實施以不道德或有問題的方式進行歧視的AI可能會產生社會后果，這是多么容易。通過鼓勵就隱私和大規模監視進行辯論，我們希望有助于更好地理解AI背后的道德規范。”

Biometric Mirror強調了算法偏差和假設在現實世界中可能產生的后果。

Wouters博士說：“盡管收集有關您的購物偏好的個人信息以量身定制一項服務似乎無害，但未經同意捕獲這些信息將使我們無法知道預測是否基于正確的數據，” Wouters博士說。

“ AI的應用范圍很廣，超出了購物和廣告領域。想象一下，無法控制一種算法，該算法錯誤地認為您不適合擔任管理職位，不具備大學學位，或者未經您的同意公開分享您的照片。

Wouters博士說：“選擇了您的一個特征(例如，您的責任級別)，而Biometric Mirror要求您想象現在正在與您的保險公司或未來的雇主共享此信息。” “該項目是對個人潛在后果的透明展示。”

沃特斯博士說，重要的是要注意，生物特征鏡不是進行心理分析的工具。