近期，持續(xù)不斷的針對美國明尼蘇達(dá)州非裔男子喬治·佛洛依德在被當(dāng)?shù)鼐綀?zhí)法逮捕期間死亡事件的抗議活動引發(fā)了人們對種族歧視現(xiàn)象更廣泛的關(guān)注，并引發(fā)了公眾對于警察是否應(yīng)該使用技術(shù)手段去追蹤定位示威者和監(jiān)視居民區(qū)的爭議。

IBM在6月10日表示，他們因擔(dān)心人臉識別技術(shù)會被用于大規(guī)模監(jiān)視和種族特征分析等侵犯隱私的行為，將會退出人臉識別市場。

IBM首席執(zhí)行官阿文德·克里希納（Arvind Krishna）在周一致美國國會的信中表示，該公司希望與立法者合作，并通過警察制度改革、普及教育和對科技手段使用的責(zé)任心來促進(jìn)正義和種族平等， “我們認(rèn)為現(xiàn)在是時候就國內(nèi)執(zhí)法機(jī)構(gòu)是否應(yīng)該使用以及如何使用面部識別技術(shù)而在全國范圍內(nèi)進(jìn)行商討。IBM堅(jiān)決反對也絕不容忍將任何技術(shù)（包括其他供應(yīng)商提供的面部識別技術(shù)）用于大規(guī)模監(jiān)視、種族歧視、侵犯基本人權(quán)和自由，或用于任何與我們的價值觀不符的目的。” 同時，克里希納還在信里指出，IBM將不再提供通用的面部識別或分析軟件。

哈佛大學(xué)和斯坦福大學(xué)的研究員以及非營利組織AI For the People的指導(dǎo)者穆塔萊·恩孔德（Mutale Nkonde）表示“這一事件非常具有象征意義。”

恩孔德說，IBM“以推進(jìn)反種族主義活動為理由”而關(guān)閉一家企業(yè)的行為，表明這種做法是可行的，并且讓“在推特上發(fā)布支持“Black Lives Matter”的言論的同時和警察進(jìn)行簽約合作的公司行為變得不被社會所接受?！?/p>

同樣的，Amazon也在周三宣布禁止警察使用其提供的面部識別技術(shù)一年。具體停止的原因amazon暫時沒有給出明確答復(fù)，但其在周三的博客中表示希望國會制定更嚴(yán)格的面部識別法規(guī)。

亞馬遜于2016年推出Rekognition人臉識別系統(tǒng)，并將其推向執(zhí)法部門后，便開始引起美國公民自由聯(lián)盟和隱私權(quán)倡導(dǎo)者的關(guān)注。去年，在美國政府的一項(xiàng)研究中，聯(lián)邦研究人員在近200種面部識別算法中發(fā)現(xiàn)了關(guān)于種族偏見的大量證據(jù)，表明了該技術(shù)被濫用的可能性。去年，以舊金山為首的美國許多城市已禁止警察和其他政府機(jī)構(gòu)使用它。

“人工智能是可以幫助執(zhí)法機(jī)構(gòu)保護(hù)公民安全的強(qiáng)大工具。但是，Al系統(tǒng)的供應(yīng)商和用戶應(yīng)該負(fù)有共同的責(zé)任，以確保對Al進(jìn)行偏見測試，尤其是在執(zhí)法中使用時，此類偏見測試更應(yīng)該進(jìn)行公開審核與報告，”克里希納說。

科技行業(yè)一直在反對完全禁止面部識別的禁令，但是一些科技公司呼吁制定聯(lián)邦法律，以制定負(fù)責(zé)任地使用該技術(shù)的準(zhǔn)則。

IBM此前表示不要全面禁止面部識別技術(shù)，而是提倡“精確法規(guī)”以確保其保護(hù)人權(quán)。Amazon也表示并沒有完全停止銷售面部識別系統(tǒng)，使用Rekognition來幫助尋找失蹤或遭受性剝削的兒童的組織仍將可以使用該技術(shù)。

在亞馬遜和IBM在本周宣布這一消息之前，民主黨議員就敦促在國會通過一項(xiàng)全面的警察改革方案，其中可能包括限制使用面部識別功能，尤其是在警用攝像機(jī)中。

紐約大學(xué)布倫南司法中心律師安格·迪亞斯（ángel Díaz）說，他對亞馬遜的暫停令表示贊賞，但他說：“鑒于眾多研究表明這項(xiàng)技術(shù)在種族上存在偏見，這一決定應(yīng)該早一點(diǎn)實(shí)施。國會需要采取行動，但地方社區(qū)也應(yīng)有權(quán)表達(dá)自己的擔(dān)憂，并決定是否以及完全希望使用這種技術(shù)手段?！?/p>

研究發(fā)現(xiàn)面部識別軟件中存在種族和性別差異的麻省理工學(xué)院研究員喬伊·布拉姆維尼（Joy Buolamwini）在一封電子郵件聲明中寫道：“微軟（Microsoft）也需要表明自己的立場。更重要的是，我們的立法者需要加緊努力以阻止技術(shù)手段的濫用?！?/p>

（東方衛(wèi)視、Knews 記者：任美星  編輯：王鵬）