南方財(cái)經(jīng)全媒體記者 李潤(rùn)澤子 實(shí)習(xí)生 高藝 廣州報(bào)道
美國(guó)當(dāng)?shù)貢r(shí)間6月21日，美國(guó)司法部宣布與Meta就“廣告算法歧視”案達(dá)成和解。此前，Meta被指控涉嫌算法歧視，利用基于用戶種族、膚色、宗教、性別、身體狀況、家庭狀況和國(guó)籍等信息的算法推送房地產(chǎn)廣告。
根據(jù)和解協(xié)議，Meta將在2022年12月31日前停用具有“歧視算法”的住房廣告推薦工具，并開(kāi)發(fā)新的廣告推薦系統(tǒng)。此外，Meta還需支付11.5054萬(wàn)美元罰金。
Meta被訴廣告算法推薦涉歧視
據(jù)了解，此次Meta被指控是基于美國(guó)住房與城市發(fā)展部（HUD）的一項(xiàng)調(diào)查。該調(diào)查發(fā)現(xiàn)，Meta（原Facebook）的廣告投放系統(tǒng)存在利用算法歧視性篩選用戶的行為，違反了《公平住房法》。
美國(guó)司法部介紹，《公平住房法》禁止基于種族、膚色、宗教、性別、家庭狀況、國(guó)籍和殘疾的住房歧視。
HUD認(rèn)為，Meta支持并鼓勵(lì)廣告商通過(guò)《公平住房法》禁止的個(gè)人信息來(lái)篩選目標(biāo)用戶。同時(shí)，Meta專門開(kāi)發(fā)了一款名為“特殊廣告受眾”的廣告定位工具供廣告商使用。
6月21日，司法部宣布與Meta達(dá)成和解。根據(jù)和解協(xié)議， 2022 年 12 月 31 日前，Meta必須停止使用名為“特殊廣告受眾”的住房廣告工具，并開(kāi)發(fā)新的住房廣告系統(tǒng)，以解決目前個(gè)性化算法造成的歧視問(wèn)題。新系統(tǒng)實(shí)施后，各方將選擇獨(dú)立的第三方審查員持續(xù)調(diào)查和驗(yàn)證其是否符合合規(guī)標(biāo)準(zhǔn)。根據(jù)協(xié)議，Meta必須向?qū)彶閱T提供任何必要的驗(yàn)證信息。此外，Meta不應(yīng)向住房廣告商提供直接描述的或與受《公平住房法》保護(hù)特征相關(guān)的篩選選項(xiàng)。如果Meta打算添加任何篩選信息，必須通知司法部。而根據(jù)《公平住房法》規(guī)定，Meta必須支付 11.5054萬(wàn) 美元的民事罰款。
但如果問(wèn)題未得到解決，此次和解協(xié)議將終止，美國(guó)司法部將在聯(lián)邦法院對(duì)Meta提起訴訟。
據(jù)介紹，這是美國(guó)司法部根據(jù)《公平住房法》處理算法歧視的第一起案件，也是Meta 將首次因其廣告定位和投放系統(tǒng)而受到法院監(jiān)督。
算法歧視治理已成全球話題
金融借貸平臺(tái)借貸歧視、平臺(tái)型企業(yè)大數(shù)據(jù)“殺熟”、人工智能相貌歧視、AI機(jī)器人發(fā)表歧視性言……近年來(lái)，算法歧視的例子數(shù)不勝數(shù)。而針對(duì)層出不窮的算法歧視問(wèn)題，監(jiān)管也愈發(fā)嚴(yán)格。
2019年，美國(guó)發(fā)布了《算法問(wèn)責(zé)法2019（草案）》，其要求大型互聯(lián)網(wǎng)平臺(tái)企業(yè)評(píng)估并消除其自動(dòng)決策算法給消費(fèi)者信息隱私和安全帶來(lái)的風(fēng)險(xiǎn)，以及因種族、膚色、宗教、政治信仰、性別或其它方面差異帶來(lái)的算法歧視與偏見(jiàn)。2020年6月，美國(guó)參議院發(fā)布的《數(shù)據(jù)問(wèn)責(zé)和透明度法2020》則將算法自動(dòng)化決策納入監(jiān)管，提出消費(fèi)者應(yīng)當(dāng)有權(quán)質(zhì)疑收集數(shù)據(jù)的理由并要求人工對(duì)算法自動(dòng)化決策進(jìn)行審查和解釋。
歐盟《通用數(shù)據(jù)保護(hù)條例》第13條則規(guī)定，當(dāng)數(shù)據(jù)控制者收集個(gè)人數(shù)據(jù)時(shí)，如采用自動(dòng)化決策對(duì)用戶進(jìn)行畫(huà)像或存在類似情況的，應(yīng)當(dāng)向數(shù)據(jù)主體提供關(guān)于此類問(wèn)題處理的邏輯及預(yù)期后果的有效信息。
在我國(guó)，目前針對(duì)算法歧視的法律規(guī)制文件多涉及“大數(shù)據(jù)殺熟”。2019年1月1日實(shí)施的《電子商務(wù)法》規(guī)定，電子商務(wù)經(jīng)營(yíng)者根據(jù)消費(fèi)者的興趣愛(ài)好、消費(fèi)習(xí)慣等特征向其提供商品或者服務(wù)的搜索結(jié)果的，應(yīng)當(dāng)同時(shí)向該消費(fèi)者提供不針對(duì)其個(gè)人特征的選項(xiàng)，尊重和平等保護(hù)消費(fèi)者合法權(quán)益。2021年2月7日，國(guó)務(wù)院反壟斷委員會(huì)發(fā)布《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》，明確差別待遇情形下濫用市場(chǎng)支配地位的情形，規(guī)定“大數(shù)據(jù)殺熟”屬于差別待遇。2021年11月，我國(guó)《個(gè)人信息保護(hù)法》正式實(shí)施，規(guī)定保證自動(dòng)化決策的透明度和公平，不得在交易條件上實(shí)行差別待遇。
技術(shù)是一把雙刃劍，如何促進(jìn)科技向善是科技平臺(tái)的責(zé)任，也已監(jiān)管部門的關(guān)注重點(diǎn)。
更多內(nèi)容請(qǐng)下載21財(cái)經(jīng)APP
