算法提高了搜索結果的公平性

當您在Internet上搜索內容時，您是一頁一頁地瀏覽建議還是從前幾個選擇中進行選擇?由于大多數人都是從這些列表的頂部進行選擇的，因此他們很少看到絕大多數選項，從而在從招聘到媒體曝光到電子商務等各個方面都產生了偏見。

在一份新論文中，康奈爾大學的研究人員介紹了他們開發的一種工具，可以在不犧牲其實用性或相關性的情況下提高在線排名的公正性。

計算機科學博士生Ashudeep Singh說：“如果您可以平等地檢查所有選擇，然后決定選擇什么，那將是理想選擇。但是，由于我們無法做到這一點，因此排名成為導航這些選擇的關鍵界面。” “在動態學習到排名中控制公平和偏差”一書的第一作者，該書在7月25日至30日舉行的計算機科學協會SIGIR信息檢索研究與開發會議上獲得了最佳論文獎。

辛格說：“例如，許多YouTube員工會發布相同食譜的視頻，但是其中一些視頻的觀看者比其他人更多，即使他們可能非常相似。” “這是由于搜索結果呈現給我們的方式而發生的。我們通常以線性方式降低排名，而注意力迅速下降。”

研究人員的方法稱為FairCo，可以使他們大致平等地接受同樣相關的選擇，并避免對已經排在首位的物品給予優惠待遇。這可以糾正現有算法中固有的不公平現象，從而加劇不平等和政治分化，并減少個人選擇。

“他們如何分配曝光率排名系統。那么，我們如何確保每個人都能獲得應有的曝光率呢?” 計算機科學和信息科學教授，論文的高級作者Thorsten Joachims說。“例如，在電子商務系統和對職位空缺進行排名的系統中，構成公平性的方法可能大不相同。我們提出了可讓您指定公平性標準的計算工具，以及可證明強制執行的算法他們。”

在線排名系統最初基于1960年代和70年代的圖書館學，旨在使用戶更輕松地找到他們想要的書。但是，這種方法在兩面市場中可能是不公平的，在兩面市場中，一個實體想要找到東西，而另一個實體想要找到。

Joachims說：“在優化排名中，許多機器學習工作仍然非常專注于最大化用戶的效用。” “過去幾年中我們所做的是提出有關如何最大程度地提高實用性，同時仍然對所搜索項目公平的概念。”

優先處理較受歡迎商品的算法可能不公平，因為列表中出現的選項越高，用戶點擊并做出反應的可能性就越大。這會造成“富人致富”現象，其中一種選擇變得越來越流行，而其他選擇則消失了。

算法還尋找與搜索者最相關的項目，但是由于絕大多數人都選擇了列表中的前幾個項目之一，因此相關性的微小差異可能會導致曝光差異巨大。例如，如果該新聞出版物的讀者中有51%偏愛偏向保守的觀點，而49%偏愛比較自由的文章，則可以認為主頁上突出顯示的所有頭條新聞都傾向于保守。

喬阿希姆斯說：“當相關性的微小差異導致一方擴大時，通常會導致兩極分化，一些人傾向于主導對話，而其他意見則被忽視，而沒有引起他們的公平關注。” “您可能希望在電子商務系統中使用它，以確保如果您要生產30%的人喜歡的產品，則可以以此為基礎獲得一定的曝光。或者，如果您有簡歷，數據庫，您可以制定保障措施以確保它不會因種族或性別而受到歧視。”