公司經理可能會受益于機器學習算法的透明度

在當今的商業世界中，機器學習算法越來越多地應用于影響就業、教育和獲得信貸的決策過程。但公司通常對算法保密，理由是用戶擔心游戲會損害算法的預測能力。隨著要求公司使其算法透明的呼聲越來越高，一項新的研究開發了一種分析模型來比較有和沒有這種透明度的公司的利潤。該研究得出結論，算法透明度既有好處，也有風險。

該研究由卡內基梅隆大學 (CMU) 和密歇根大學的研究人員進行，發表在《管理科學》雜志上。

“當管理者面臨提高透明度的呼聲時，我們的研究結果可以幫助他們做出有利于公司的決策，”該研究的合著者、CMU 泰珀商學院商業技術和營銷學教授 Param Vir Singh 說。

研究人員通過開發和分析一個博弈論模型來研究算法透明度如何影響公司和求職者(也稱為代理人)，該模型捕捉了雙方在不透明和透明場景下的行為方式。在這樣做的過程中，作者試圖回答四個問題：1)從公司(決策者)的角度來看，即使算法可以被代理操縱，使算法透明是否有優勢?2) 如果公司讓他們的算法透明化，代理會受到怎樣的影響?3) 那些更容易受到代理博弈影響的特征的預測能力如何影響結果?4) 市場構成(就合意和不合意的代理人而言)如何影響這些結果?

該研究得出結論，算法透明度可能對經理和公司產生積極影響，對代理人產生負面影響。在廣泛的條件下，透明度有利于公司，使他們能夠激勵代理人投資改進對公司有價值的特征，并在某些情況下提高算法的預測能力。這挑戰了讓算法透明總是會在經濟上損害公司的傳統觀念。

但該研究還得出結論，在算法透明的情況下，代理可能并不總是更好。公司使用算法將高類型(更理想)的代理與低類型(不太理想)的代理分開。這些算法使用理想的特征(即直接影響公司績效的因果特征，例如在招聘的情況下接受的相關教育或培訓)和通常可玩的相關特征(即與代理人類型相關但不影響公司的業績，比如認為高類型的代理商可能更可能戴眼鏡)。

當公司不透明算法使用的相關特征為他們提供分類優勢時，高級代理可以避免對公司所需的昂貴特征投資不足。當一家公司將其算法透明化時，所有代理都會在相關特征上進行博弈，相關特征的預測能力就會消失。結果，高級代理必須投資于成本高昂的理想功能，以將自己與低級代理區分開來。

“我們的分析表明，企業在面對戰略性個人時，不應總是擔心在透明度下可能喪失預測能力，”博士 Qiaochu Wang 說。CMU泰珀商學院商業技術專業的學生，??他是該研究的合著者。“相反，他們可以使用算法透明度作為杠桿來激勵代理投資于更理想的功能。”

作者指出，這項研究的局限性之一是，雖然它顯示了透明算法可以給公司帶來的經濟利益，但公司可能有一些原因不想讓他們的算法透明。這些原因——包括隱私和競爭——在研究中沒有得到解決。

CMU 商業技術副教授 Yan Huang 指出：“我們的模型側重于招聘場景，其結果可推廣到公司試圖進一步了解或了解個人私人信息的其他場景。”泰珀商學院是這項研究的合著者。