現(xiàn)在各行各業(yè)都在向AI靠攏，但若論在哪個(gè)行業(yè)AI發(fā)展的會更快、更具有潛力，非安防莫屬。以智能監(jiān)控系統(tǒng)為代表的AI安防產(chǎn)品已經(jīng)覆蓋到眾多應(yīng)用領(lǐng)域，AI技術(shù)的應(yīng)用讓安防行業(yè)嘗到了甜頭。如今，無論是公共安全領(lǐng)域、智能交通、智慧城市、智能樓宇、工廠園區(qū)，乃至物流運(yùn)輸、電力巡檢等都少不了AI安防產(chǎn)品的身影。

不過，AI技術(shù)被安防行業(yè)采納不僅是為了更有效地完成當(dāng)前業(yè)務(wù)，這是一個(gè)多方面的過程，更重要的是，AI還需要不斷重新評估這些實(shí)踐結(jié)果，以適應(yīng)客戶不斷變化的需求。另外，AI技術(shù)固然能在擴(kuò)大監(jiān)控規(guī)模的前提下能夠有效收集情報(bào)并充分分析，及時(shí)阻止安全事件發(fā)生，也有可能產(chǎn)生一些倫理道德問題。

目前，從很多案例可以看出，有些AI做判斷時(shí)存在歧視。例如，美國AI會更偏向中年白人，而預(yù)測違法時(shí)往往會把黑人和黑人集中區(qū)域當(dāng)做重點(diǎn)預(yù)測對象。我國也有根據(jù)一個(gè)人臉部特征與行為舉止來判斷此人是否具有社會威脅性并提醒警方先發(fā)制人的AI系統(tǒng)。人類的偏見被機(jī)器學(xué)習(xí)并吸收，這是AI發(fā)展所面臨的一種道德危機(jī)。這些表現(xiàn)無疑會使AI受到大量道德譴責(zé)。

此外，個(gè)人隱私與數(shù)據(jù)保護(hù)、AI系統(tǒng)對外部攻擊的防御能力、以及算法透明度等問題也越來越成為AI安防亟需突破的重點(diǎn)問題。

毫無疑問，AI的確需要監(jiān)管，但現(xiàn)在我們還不清楚如何對其進(jìn)行監(jiān)管。歐盟(EU)近日發(fā)布了一套指南，指導(dǎo)企業(yè)和政府在開發(fā)人工智能時(shí)遵循道德準(zhǔn)則，旨在解決AI帶來的棘手問題。該指南認(rèn)為，未來AI系統(tǒng)應(yīng)該滿足下列7項(xiàng)要求：人道機(jī)構(gòu)的監(jiān)督、技術(shù)穩(wěn)健性和安全性、隱私和數(shù)據(jù)治理、算法透明度、多元化非歧視和公平性、環(huán)境和社會福利以及完善的問責(zé)制。這份清單為減輕AI的潛在危害提供了一個(gè)實(shí)用且具前瞻性的視角。

數(shù)字權(quán)利組織AccessNow的政策經(jīng)理范妮·希德維吉認(rèn)為：歐盟不應(yīng)止步于道德準(zhǔn)則，因?yàn)榈赖聹?zhǔn)則只有在法律基礎(chǔ)上才能發(fā)揮更大作用。但是由道德走向法律，必須非常審慎。在此之前，還需要AI技術(shù)進(jìn)一步發(fā)展并更廣泛且深入地應(yīng)用。

結(jié)語：對影響日益擴(kuò)大乃至滲透人們生活各個(gè)方面的AI安防而言，為了使系統(tǒng)發(fā)揮應(yīng)有的作用，加強(qiáng)監(jiān)視和構(gòu)建倫理之間必須有一個(gè)可以被社會廣泛接受的平衡。如果在采用人工智能技術(shù)的過程中包含了日后數(shù)據(jù)收集訓(xùn)練的方向，那么可能會減少假警報(bào)的風(fēng)險(xiǎn)，也可以在AI驅(qū)動的決策中充分體現(xiàn)其公平性，盡量減少其可能對社會產(chǎn)生的負(fù)面影響。