美國(guó)又跟人臉識(shí)別杠上了，AI技術(shù)為何永遠(yuǎn)走不進(jìn)校園？

洛克波特市學(xué)區(qū)負(fù)責(zé)人米歇爾·布拉德利（Michelle Bradley）在接受外媒采訪時(shí)說(shuō)，“這是讓學(xué)生、員工和訪客更加安全的又一措施”。

洛克波特市官方信息顯示，人臉識(shí)別系統(tǒng)將識(shí)別學(xué)校不允許出現(xiàn)的人員，并在識(shí)別到異常情況時(shí)發(fā)出警報(bào)提醒。

系統(tǒng)重點(diǎn)識(shí)別的人員包括二級(jí)或三級(jí)性犯罪者、被停職的學(xué)校員工、法院判決未經(jīng)批準(zhǔn)禁止進(jìn)入學(xué)校的人員、執(zhí)法部門信息顯示會(huì)構(gòu)成威脅的人員等等。

由于隱私等問(wèn)題的存在，人臉識(shí)別應(yīng)用在美國(guó)向來(lái)爭(zhēng)議頗多。

由此，洛克波特市也在紐約州教育廳等部門的監(jiān)督下反復(fù)修改了系統(tǒng)設(shè)置，最終決定只讓系統(tǒng)記錄人員比對(duì)的情況，不收集或存儲(chǔ)任何個(gè)人信息，學(xué)生的照片等個(gè)人信息也不會(huì)被添加到系統(tǒng)中。

另外，根據(jù)當(dāng)?shù)胤梢?，監(jiān)控視頻保存 60 天后將從服務(wù)器上刪除。

2020 年 1 月，這一系統(tǒng)在洛克波特市正式投入運(yùn)營(yíng)。然而，一些美國(guó)民間團(tuán)體還是認(rèn)為人臉識(shí)別系統(tǒng)太具侵略性，不應(yīng)在學(xué)校這樣的場(chǎng)所中部署。

他們認(rèn)為，萬(wàn)一系統(tǒng)出現(xiàn)了誤報(bào)，會(huì)給學(xué)生帶來(lái)種種傷害，比如影響學(xué)生上課、給學(xué)生扣上莫須有的犯罪記錄。

今年 6 月，紐約公民自由聯(lián)盟提起訴訟，要求洛克波特市停用該系統(tǒng)。

這一起訴得到了當(dāng)?shù)夭糠止賳T的支持。

當(dāng)?shù)貢r(shí)間 6 月 23 日，紐約州議會(huì)眾議員莫妮卡·華萊士（Monica Wallace）和參議員布萊恩·卡瓦納（Brian Kavanagh）發(fā)表聯(lián)合聲明，重申了對(duì)隱私問(wèn)題的擔(dān)憂：

“我們擔(dān)心該技術(shù)的使用可能侵犯學(xué)生、教職員工和訪客的隱私權(quán)及其他公民權(quán)利。這是一種無(wú)效的維護(hù)校園安全的形式，并且可能無(wú)法安全地存儲(chǔ)學(xué)生數(shù)據(jù)。”

據(jù)悉，目前紐約州參眾兩院已經(jīng)投票通過(guò)的新禁令。

接下來(lái)，禁令將被提交給紐約州州長(zhǎng)安德魯 · 庫(kù)莫（Andrew Cuomo）。如果他簽字通過(guò)，禁令就將成為正式的法律。

美國(guó)紐約之外，相關(guān)應(yīng)用此前也在中國(guó)教室中被另類應(yīng)用，并引發(fā)了一些社會(huì)輿論。

它可以洞察課堂上的一切行為。

此前，浙江省杭州市某中學(xué)課堂上多了一位神奇的新朋友：智慧課堂行為管理系統(tǒng)。

通過(guò)這套系統(tǒng)，校園管理者可以清楚地看清、分辨哪些同學(xué)在專注聽(tīng)課，哪些同學(xué)在開(kāi)小差。

該系統(tǒng)內(nèi)置三個(gè)攝像頭，用以捕捉同學(xué)們的面部表情和動(dòng)作，然后進(jìn)行一系列大數(shù)據(jù)分析，最終計(jì)算出課堂實(shí)時(shí)考勤數(shù)據(jù)、課堂專注度偏離分析、課堂行為記錄數(shù)據(jù)以及課堂表情數(shù)據(jù)，并將結(jié)果反饋給校園管理方。

該校負(fù)責(zé)人表示，系統(tǒng)每隔 30 秒就會(huì)進(jìn)行一次掃描，針對(duì)學(xué)生們閱讀、舉手、書(shū)寫(xiě)、起立、聽(tīng)講、趴桌子等 6 種行為，再結(jié)合面部表情是高興、傷心，還是憤怒、反感，分析出學(xué)生們?cè)谡n堂上的狀態(tài)。（其中，僅趴桌子一項(xiàng)為負(fù)分行為。）

若此類不專注行為達(dá)到一定分值，系統(tǒng)就會(huì)向顯示屏推送提醒，任課教師可根據(jù)提醒進(jìn)行教學(xué)管理及調(diào)整。

據(jù)悉，該系統(tǒng)還可與學(xué)校醫(yī)務(wù)室等其他后臺(tái)的數(shù)據(jù)打通，倘若學(xué)生有身體抱恙等突發(fā)情況，還可被暫列入“白名單庫(kù)”。

換句話說(shuō)，在這套系統(tǒng)的“加持”下，同學(xué)們每天 8 節(jié)課的 320 分鐘，任何行為都可一目了然地得以展示。

對(duì)于該系統(tǒng)的落地、應(yīng)用，某教育工作者黃老師表示：華而不實(shí)。

在他看來(lái)，如何能將“學(xué)”作為主動(dòng)權(quán)緊緊握在學(xué)生手中已成教育管理者需要思考的問(wèn)題。

學(xué)習(xí)從來(lái)都是一種自主性過(guò)程，教育的核心突破不是靠教具形式的升級(jí)，學(xué)生在課堂的認(rèn)真程度取決于授課老師的魅力，強(qiáng)行監(jiān)督只會(huì)讓很多學(xué)生成為“面具人”。

同時(shí)，該系統(tǒng)的應(yīng)用也遭到了不少網(wǎng)友的痛擊：

暫且避開(kāi)隱私、倫理等層面不談，單從技術(shù)角度出發(fā)，這項(xiàng)技術(shù)的落地應(yīng)用是否真的可行？

校方稱該系統(tǒng)在課堂應(yīng)用中可以起到兩大作用：

一、課堂實(shí)時(shí)考勤數(shù)據(jù)。由于教室學(xué)生基數(shù)不大；另外教室范圍也不大。目前很多人臉識(shí)別技術(shù)廠商都能夠很好滿足此項(xiàng)需求，不作詳敘。

二、課堂專注度偏離分析（微表情數(shù)據(jù)）。

從系統(tǒng)運(yùn)行流程來(lái)說(shuō)，它在安裝使用后將會(huì)進(jìn)行兩步操作：

另外，微表情是一種自發(fā)式的表情，在人試圖掩蓋內(nèi)在情緒時(shí)產(chǎn)生, 既無(wú)法偽造也無(wú)法抑制。

與其他生物識(shí)別技術(shù)的研發(fā)相比，微表情識(shí)別因?yàn)樘^(guò)細(xì)微，一直是計(jì)算機(jī)視覺(jué)領(lǐng)域一個(gè)具有挑戰(zhàn)性的技術(shù)難題，該技術(shù)的研發(fā)門檻較高，技術(shù)難點(diǎn)主要體現(xiàn)在三個(gè)方面：

數(shù)據(jù)收集，這里的數(shù)據(jù)必須是動(dòng)態(tài)的視頻數(shù)據(jù)；

以信貸行業(yè)為例，如今騙貸行為頻發(fā)，當(dāng)涉及大額的貸款申請(qǐng)時(shí)，金融機(jī)構(gòu)在批放貸款之前都會(huì)讓面審員與用戶進(jìn)行一個(gè)十到十五分鐘的問(wèn)答。

起初會(huì)核對(duì)用戶的基本信息，在用戶回答的過(guò)程中，會(huì)為用戶進(jìn)行一個(gè)微表情的側(cè)寫(xiě)，記錄一個(gè)用戶回答問(wèn)題的習(xí)慣。

隨著面審員問(wèn)題的深入，用戶在回答之后地問(wèn)題時(shí)，如果出現(xiàn)了違反他之前的回答習(xí)慣（例如眼睛從直視屏幕轉(zhuǎn)為眼睛往上瞟或往腳下看），系統(tǒng)則會(huì)為其標(biāo)記一個(gè)異常。

當(dāng)整個(gè)面審環(huán)節(jié)結(jié)束后，系統(tǒng)會(huì)根據(jù)之前記錄的異常次數(shù)、等級(jí)進(jìn)行一個(gè)綜合評(píng)估反饋給面審員。

如果前后差距過(guò)大，就意味著從基礎(chǔ)問(wèn)題到追問(wèn)環(huán)節(jié)，此人的情緒、心理變化較大，如此就可提醒面審員此人有一定風(fēng)險(xiǎn)，要做更多地調(diào)查，以更好地降低風(fēng)險(xiǎn)。

也就是說(shuō)，這項(xiàng)技術(shù)應(yīng)用的前提還需配合面審員問(wèn)題的逐步深入而出現(xiàn)的細(xì)微面部表情變化。

回到主題，學(xué)生們?cè)谏险n過(guò)程中，沒(méi)有任何言語(yǔ)上的思考及負(fù)擔(dān)，也就意味著所有的面部表情都是自然狀態(tài)下而產(chǎn)生的，斷不可從單一的面部表情的變化去判斷他的心理活動(dòng)或者是否分心（缺乏標(biāo)準(zhǔn)）。

宇視智能算法開(kāi)發(fā)部專家楊治昆直言，“對(duì)于這套系統(tǒng)的可操作性，我持懷疑態(tài)度”。

在他看來(lái)，這套系統(tǒng)在實(shí)際應(yīng)用過(guò)程中，會(huì)存在以下幾個(gè)問(wèn)題：

楊治昆表示，這些年 AI 技術(shù)發(fā)展迅速，教育市場(chǎng)也的確成為未來(lái) AI 安防落地的重點(diǎn)拓展方向之一，如今各大安防廠商都在緊盯這塊市場(chǎng)。

但從產(chǎn)業(yè)界角度來(lái)看，相關(guān)技術(shù)不能盲目落地。人工智能應(yīng)用要保證識(shí)別率、誤識(shí)率、魯棒性，唯有滿足這三點(diǎn)，技術(shù)的落地才會(huì)具有意義。

目前來(lái)看，比較容易落地的場(chǎng)景包括門禁、人臉考勤等等，而該系統(tǒng)提出的微表情分析，就目前 AI 發(fā)展水平來(lái)看，還存在很長(zhǎng)一段距離。

在他看來(lái)，“一個(gè)產(chǎn)品的落地，除了要考慮客戶的需求也要考慮到受眾人群的體驗(yàn)”。