中新經(jīng)緯3月24日電 (王玉玲)近日，由中國(guó)人民大學(xué)高瓴人工智能學(xué)院、智能社會(huì)治理跨學(xué)科交叉平臺(tái)和基于大數(shù)據(jù)文科綜合訓(xùn)練國(guó)家級(jí)虛擬仿真實(shí)驗(yàn)教學(xué)中心聯(lián)合主辦的算法公平性與內(nèi)容生態(tài)建設(shè)研討會(huì)在線上舉行。北京郵電大學(xué)計(jì)算機(jī)學(xué)院助理教授白婷表示，以往不管是工業(yè)界還是學(xué)界，都更側(cè)重于個(gè)性化推薦算法的精度，但是，這幾年大家慢慢開始關(guān)注社會(huì)倫理、價(jià)值觀的需求，兼顧公平性。

白婷表示，公平性很難界定，“雖然我們并不知道什么樣的東西是公平的，但是我們能夠很明確感覺到什么東西是不公平的，比如說大數(shù)據(jù)殺熟，或者是性別歧視等，我們對(duì)于公平性的思考是源于對(duì)不公平性現(xiàn)象的體會(huì)?！卑祖谜f道。

由此，白婷認(rèn)為，或許可以換個(gè)角度，不去界定公平性，而是去量化不公平性的后果，來界定可接受公平性的閾值，其中包括：第一，量化不公平性的后果。我們可以明確不公平會(huì)導(dǎo)致哪些后果，這些后果是否是可接受的，用一個(gè)量化標(biāo)準(zhǔn)去評(píng)價(jià)，如果發(fā)生不公平現(xiàn)象的話，它會(huì)有什么樣的后果。第二，明確評(píng)價(jià)不公平的指標(biāo)。比如說不公平體現(xiàn)在哪些方面，制定一些明確的指標(biāo)去衡量它的不公平性。第三，考慮模型層面的通用性。我們需要對(duì)推薦系統(tǒng)的推薦結(jié)果進(jìn)行分析，在模型層面上，我們現(xiàn)階段可以用白盒去模擬，但很多平臺(tái)是用黑盒的方式，如果我們不能接觸到該平臺(tái)的推薦算法，就需要有一個(gè)通用的模型。第四，針對(duì)推薦算法公平性的預(yù)警。當(dāng)發(fā)生過度不公平推薦結(jié)果的時(shí)候，我們會(huì)采取算法評(píng)估層面的警示以及干預(yù)措施，從而出臺(tái)相應(yīng)的監(jiān)管機(jī)制，達(dá)成對(duì)算法的監(jiān)管。(中新經(jīng)緯APP)

關(guān)鍵詞： 白婷用量化不公平的方式來界定可接受算法公平的閾值