科技動態:研究表明Google AI在識別女性口罩方面存在問題

互聯網在提高人們社會活動質量的同時可能對部分互聯網使用者造成傷害。我們要正確認識網絡的兩面性，用其所長、避其所短，發揮網絡對生活的積極促進作用。把網絡作為生活的補充就可以享受網絡的諸多益處，接下來這篇文章給大家說說互聯網科技的正能量。

營銷公司Wunderman Thompson的數據小組進行的一項最新研究表明，當對戴著口罩的人進行測試時，成熟的AI系統(如Google AI)存在性別偏見。

這項研究中使用的AI系統來自知名的技術名稱，例如Google Cloud Vision，Microsoft Azure的Cognitive Services Computer Vision和IBM的Watson Visual Recognition。

我們都知道AI仍在開發中。此外，隨著時間的推移頻繁使用它只會變得更好。但是，研究結果表明，男人比女人更傾向于男人。該研究還使很多事情受到質疑。

Wunderman Thompson的數據小組進行的研究檢查了視覺AI系統是否以與女性相同的方式對待穿著PPE套件的男性。在不同的條件和質量下總共拍攝了256張性別的圖像。

研究中使用的所有AI系統均表現不佳

根據ZDNet的報告，研究中使用的AI系統都無法執行我們可以稱做恒星或至少良好的人工智能系統。而且，所有人都發現很難在男人或女人的臉上發現口罩。

但是，戴著口罩的男性面部要比戴著口罩的女性面部更容易識別。Google AI的遮罩研究給出了一些令人震驚的結果。它可以識別出28%的女性圖像，因為她們的嘴被膠帶覆蓋了。而且信心高達95%。其他8%的情況下，人工智能檢測到戴口罩的女性，因為他們是面部毛發的女性。

IBM的數字也不是很好。結果顯示，有23%的女性戴口罩。同時，在其他23%的案件中，可以肯定的是，婦女戴著鏈條或約束裝置，而不是戴口罩。同時，只有5%的案例顯示出預期的結果。

微軟的計算機視覺似乎已經被很好地編碼。結果表明，有40%的情況是因為女性穿著一些時尚配飾，還不錯。在其他14%的時間中，它將女性臉上的面具識別為口紅。它只有5%的時間檢測到女性臉上的面具。

這項研究對像Google，IBM這樣的成熟AI系統的教育提出了質疑

研究人員沒有仔細檢查這些AI系統的制造者，而是很好地揭示了這些AI系統所面臨的偏見。

此外，盡管AI會隨著時間的流逝而從學習模式中進行自我教育，但最終最終結果還是由人類來承擔。此外，制造商應確保他們反映的是一個中立的社會，而不是普遍存在性別偏見的歷史社會。

這將使自動化進入預期的路徑。因為如果本地結果令人震驚，那么訓練數據肯定存在問題。