據(jù)楚天都市報(bào)報(bào)道，一所知名大學(xué)2019級(jí)新生“刷臉”就能瞬間完成報(bào)到程序，系統(tǒng)是這所學(xué)校的學(xué)生研發(fā)的，學(xué)生對(duì)著攝像頭，人臉識(shí)別系統(tǒng)就開始進(jìn)行比對(duì)，眨眼間就能完成掃描，整個(gè)報(bào)到注冊手續(xù)幾乎不到一秒鐘。此外，通過人臉識(shí)別還可以對(duì)學(xué)生進(jìn)行考勤，以及實(shí)時(shí)觀察學(xué)生的上課狀況等。
AI的強(qiáng)勢讓人臉識(shí)別技術(shù)逐步滲透進(jìn)人們生活、工作和學(xué)習(xí)的所有領(lǐng)域。學(xué)生上課被人臉識(shí)別監(jiān)控并非新鮮事，很多學(xué)校，包括小學(xué)、初高中和大學(xué)都在試水。
人們關(guān)注得更多的是這種技術(shù)對(duì)人格和人性的塑造，有人認(rèn)為，AI能監(jiān)控學(xué)生的一舉一動(dòng)和表情，在某種程度上侵犯了學(xué)生的尊嚴(yán)，也是對(duì)學(xué)生自主學(xué)習(xí)能力和教師授課能力的不信任。學(xué)生長期在監(jiān)控環(huán)境下學(xué)習(xí)、成長，養(yǎng)成“表演性人格”。然而，人臉識(shí)別的問題并非只是對(duì)師生人格的影響，而是可能在各個(gè)方面介入人們的生活，引發(fā)更多的問題和爭議：人臉識(shí)別監(jiān)控是否有效?監(jiān)控是以人為本，還是讓人做技術(shù)的奴隸?是讓人控制技術(shù)，還是讓技術(shù)反過來控制人和威脅人?
雇主和學(xué)校在作為公共空間的工作、學(xué)習(xí)場所安裝視頻和音頻監(jiān)控設(shè)備，一般是認(rèn)為可以接受的。不過，即便員工和學(xué)生可以被監(jiān)控，也存在監(jiān)控的程度和范圍問題，同時(shí)監(jiān)控是否有效，以及真是為了被監(jiān)控者好，也很難認(rèn)定。不過，如果人臉識(shí)別監(jiān)控真的有效，人們是否就要讓渡自己的隱私和自由來接受無處不在的AI監(jiān)控?
美國新罕布什爾州達(dá)特茅斯學(xué)院的安德魯•坎貝爾(Andrew Campbell)教授研發(fā)的配合智能手機(jī)自帶的傳感器的應(yīng)用程序(軟件)可以持續(xù)監(jiān)控員工的身體活動(dòng)、地理位置、手機(jī)使用情況、環(huán)境光線等。通過一年內(nèi)對(duì)全美的750名工人進(jìn)行測試，發(fā)現(xiàn)該系統(tǒng)能夠區(qū)分各行各業(yè)人們的績效水平，準(zhǔn)確率為80%。
美國另一項(xiàng)研究的結(jié)果則提示，監(jiān)控員工未必就能取得好的工作成果和績效。華盛頓大學(xué)圣路易斯分校的研究人員在3年時(shí)間內(nèi)追蹤了42家醫(yī)院的5200名護(hù)理人員，發(fā)現(xiàn)他們在受到監(jiān)控的情況下，其前兩年的洗手率會(huì)有所增加，但監(jiān)控放松后又會(huì)回落。而且，在取消監(jiān)控措施后，洗手率甚至低于監(jiān)控前的水平。這也意味著人臉識(shí)別并非如人們所期盼的那樣，都是正反饋。
意識(shí)到人臉識(shí)別的弊病，有一些國家認(rèn)定用人臉識(shí)別監(jiān)控學(xué)生是違法。瑞典數(shù)據(jù)保護(hù)監(jiān)管局(DPA)對(duì)瑞典北部的一個(gè)城市謝萊夫特奧(Skellefteå)開出了該國的第一張依據(jù)歐盟《通用數(shù)據(jù)保護(hù)條例》(GDPR)的罰單，金額相當(dāng)于19000歐元(約15萬人民幣)，原因是該市的一所高中使用人臉識(shí)別技術(shù)來監(jiān)控在校學(xué)生的出勤情況，之前既沒有向DPA報(bào)備，而且也非法處理了學(xué)生敏感的生物特征識(shí)別數(shù)據(jù)。盡管學(xué)校辯稱事前爭得了學(xué)生的同意，但是律師認(rèn)為，學(xué)生是在學(xué)校董事會(huì)管理之下，無法判斷學(xué)生的“同意”是否為學(xué)生的獨(dú)立意志。
歐盟正在探索控制和監(jiān)管人臉識(shí)別技術(shù)的立法，希望制定一套“AI監(jiān)管的世界性標(biāo)準(zhǔn)”，建立起“足以保護(hù)個(gè)人的明確，可預(yù)測和統(tǒng)一的規(guī)則”。這樣的立法將在GDPR的現(xiàn)有基礎(chǔ)上更進(jìn)一步，主要針對(duì)可能“帶來特定風(fēng)險(xiǎn)”的人臉識(shí)別等技術(shù)。
科技進(jìn)步使得人類進(jìn)入了以人工智能為代表的信息時(shí)代，這固然讓人們的生活更為方便、快捷和舒適，但是悖論也出現(xiàn)了，AI越發(fā)達(dá)，人們被監(jiān)控的程度越厲害，以科技來改善生活和提高自由度的理想反而漸行漸遠(yuǎn)，這樣的科技和AI真的是人類想要的嗎?工具掌握在人們手里，就看如何使用。尤其是像人臉識(shí)別這種涉及人們隱私的技術(shù)更需要嚴(yán)格限制，讓人們能保護(hù)自己的隱私。
