倫理與技術(shù)之爭(zhēng)，IBM首個(gè)站出來(lái)直言“放棄”人臉識(shí)別

2020-06-11 09:08

在美國(guó)“磕絆前行”的人臉識(shí)別技術(shù)

在信件中，Krishna也提到，“我們相信現(xiàn)在是時(shí)候展開(kāi)全國(guó)性對(duì)話(huà)，討論國(guó)內(nèi)執(zhí)法部門(mén)是否應(yīng)該、如何部署人臉識(shí)別技術(shù)。”

可以看到，相比于其他前沿AI技術(shù)的研發(fā)與落地，人臉識(shí)別技術(shù)受到了更多的爭(zhēng)議，更是數(shù)次與“種族歧視”等敏感問(wèn)題有所牽扯，而這正是美國(guó)近期游行的核心問(wèn)題。

人臉識(shí)別首次因?yàn)椤胺N族歧視”問(wèn)題被關(guān)注是在2018年，彼時(shí)人們利用亞馬遜人臉識(shí)別系統(tǒng)對(duì)535為美國(guó)國(guó)會(huì)議員的照片進(jìn)行識(shí)別。結(jié)果令人驚訝，有28位國(guó)會(huì)議員的識(shí)別結(jié)果為“罪犯”，這28人中包括11名有色人種。另外也有多項(xiàng)研究顯示，美國(guó)各大公司的人臉識(shí)別算法在面對(duì)黑人時(shí)均存在準(zhǔn)確率低的問(wèn)題。

種族歧視之外，“隱私安全”是造成人臉識(shí)別技術(shù)在美國(guó)“磕絆前行”的主要原因之一。在過(guò)去的兩年多時(shí)間內(nèi)，包括亞馬遜、微軟、谷歌等在內(nèi)，均被曝出與政府之間存在“人臉識(shí)別”技術(shù)相關(guān)的項(xiàng)目合作，由此引發(fā)了人們對(duì)“軍事與工業(yè)結(jié)合體”的擔(dān)憂(yōu)。

在一些組織和民眾看來(lái)，軍事和工業(yè)結(jié)合體會(huì)被作為不正當(dāng)殺人利器，以及這次合作背后可能引發(fā)的機(jī)器學(xué)習(xí)發(fā)展與道德問(wèn)題，譬如打破隱私及實(shí)用性之間的平衡。

不想用技術(shù)“作惡”，IBM宣布放棄人臉識(shí)別，美國(guó)科技巨頭首次站在對(duì)立面

值得注意的是，“人臉識(shí)別”技術(shù)引發(fā)的輿論早已從個(gè)體的科技公司上升到城市層面。就在去年，美國(guó)舊金山城市監(jiān)管委員會(huì)投票通過(guò)“禁止使用人臉識(shí)別”的決定，成為美國(guó)第一個(gè)對(duì)該技術(shù)說(shuō)“不”的城市。這之后，馬薩諸塞州的賽默維爾市、加州奧克蘭市等也相繼宣布禁止人臉識(shí)別技術(shù)和系統(tǒng)。

由此可見(jiàn)，人臉識(shí)別技術(shù)在美國(guó)“不被待見(jiàn)”的程度之深。但不可否認(rèn)的是，即使引起了多次爭(zhēng)議，且遭到了來(lái)自不同組織與民眾的抵制，但是人臉識(shí)別技術(shù)的“利好”也是顯而易見(jiàn)的，市場(chǎng)也是的確存在的。

以IBM為例，雖然它宣布放棄人臉識(shí)別，但也只是不再提供通用的人臉識(shí)別或分析軟件，也不再宣傳、推銷(xiāo)和更新這些產(chǎn)品，而有知情人士透露，IBM依舊會(huì)在出現(xiàn)需求時(shí)，為現(xiàn)有的客戶(hù)提供支持。

人臉識(shí)別技術(shù)在美國(guó)被“一刀切”是不可能的，但是IBM此次宣布“放棄”的態(tài)度之鮮明，也讓美國(guó)科技界和社會(huì)再次思考技術(shù)研發(fā)與社會(huì)道德、責(zé)任之間的平衡。

<上一頁(yè) 1 2