中新經(jīng)緯3月24日電 (王玉玲)近日，由中國人民大學(xué)高瓴人工智能學(xué)院、智能社會治理跨學(xué)科交叉平臺和基于大數(shù)據(jù)文科綜合訓(xùn)練國家級虛擬仿真實(shí)驗(yàn)教學(xué)中心聯(lián)合主辦的算法公平性與內(nèi)容生態(tài)建設(shè)研討會在線上舉行。中國科學(xué)技術(shù)大學(xué)教授馮福利提出因果推理具備精準(zhǔn)推斷的能力，在推薦公平或算法公平領(lǐng)域非常有前景。

馮福利指出，有偏差不等于不公平，更重要的是如何定義偏差。目前的主要問題在于公平的定義非常寬泛，是一個“大水漫灌”型的概念。但是我們覺得在偏差和公平之間，更應(yīng)該改進(jìn)的是如何去定義偏差。在統(tǒng)計(jì)學(xué)上來說，偏差等于預(yù)期目標(biāo)和實(shí)際結(jié)果之間的差值，如果我們提前定義好公平和偏差，最后推薦的結(jié)果和定義好的公平之間有偏差，那它就反映公平性。

從因果角度能對公平給出更精確的定義，現(xiàn)在算法推薦領(lǐng)域急需去研究的，用因果語言來表達(dá)的話，是路徑特定公平性。

比如職業(yè)推薦場景的性別公平，“如果我給兩個背景相似的男性和女性，推薦CEO職位，男女比例不一樣，可能這是一個不公平的現(xiàn)象。但是如果推薦搬磚工崗位，我給男生推多一點(diǎn)，因?yàn)樗辛α績?yōu)勢，那就是一個合理推薦?！睆囊蚬嵌葋碚f，如果性別直接影響推薦結(jié)果，那是不公平的；如果性別影響勞動能力，進(jìn)而影響推薦結(jié)果。那并不一定意味著不公平?！瘪T福利認(rèn)為，公平更適宜定義成消除直接路徑上的影響，從公平顆粒度或者公平定義的角度，所以，需要梳理敏感信息的直接影響和間接影響，然后弄明白要消除的到底是哪方面影響。

其次，馮福利認(rèn)為個性化與公平性并不是嚴(yán)格的取舍/權(quán)衡的關(guān)系。他指出，并不需要對所有用戶都解決興趣放大的問題，有些用戶就喜歡待在熟悉的興趣里，對于此類用戶，強(qiáng)行對抗他的個性，對他來說并不是有效或者精準(zhǔn)的推薦。

我們需要通過更精準(zhǔn)的因果推斷，做個性化的調(diào)整。對于有些用戶，我們要消除興趣放大問題，對于有些用戶，我們應(yīng)該允許放大效應(yīng)存在?？偨Y(jié)來看，如果我們能夠做到更精準(zhǔn)的因果推斷，那我們是能夠做到更好的權(quán)衡和取舍。

最后，馮福利認(rèn)為，因果推理的技術(shù)也能夠解決公平性隱蔽性的問題。“我們?nèi)绻軌蛄炕鍪欠褡非蠊綆淼囊蚬?yīng)，我們就能很容易做出決策說是否需要公平?！瘪T福利說道。(中新經(jīng)緯APP)

關(guān)鍵詞： 馮福利以因果推理解決算法公平性問題