來自墨爾本大學(xué)的研究人員設(shè)計了一種AI生物識別鏡，可以僅僅根據(jù)人的臉部照片檢測和顯示其個性特征和外貌上的魅力，最多可以分析14項性格特征，這一系統(tǒng)屬于世界首創(chuàng)。

該系統(tǒng)名為生物識別鏡（Biometric Mirror），可以檢測一個人對AI的理解以及對其獨有特征的相關(guān)信息的反應(yīng)。

當(dāng)有人站在生物識別鏡前時，系統(tǒng)會在幾秒鐘內(nèi)檢測出一系列面部特征。然后將用戶的數(shù)據(jù)與數(shù)千張面部照片的數(shù)據(jù)進(jìn)行比較，這些面部照片是對眾包志愿者進(jìn)行心理評估測試時使用的。

生物識別鏡會顯示14種特征，包括性別、年齡、種族，以及魅力、性格古怪之處和情緒穩(wěn)定度等。一個人站在識別鏡前的時間越長，評估特征越趨于個性化。

生物識別鏡使用小型公開數(shù)據(jù)集中的數(shù)千張面部圖片及眾包分析的評估結(jié)果。

該項目由社會自然用戶界面中心（Social NUI）和墨爾本科學(xué)館的Niels Wouters博士領(lǐng)導(dǎo)，探討了該技術(shù)由內(nèi)容、數(shù)據(jù)存儲和算法偏差所引起的擔(dān)憂。

“隨著人工智能和大數(shù)據(jù)的興起，政府和企業(yè)將越來越多地使用閉路電視攝像機(jī)（CCTV）和互動廣告來檢測過路人的情緒、年齡、性別和人口統(tǒng)計學(xué)特征。”Wouters說。

探索人工智能應(yīng)用的道德邊界

“我們的研究關(guān)注關(guān)于人工智能應(yīng)用界限的挑戰(zhàn)性問題。該研究向用戶表明，以不道德的、有問題的方法來利用人工智能是很容易的，也可能會產(chǎn)生某些負(fù)面的社會后果。我們鼓勵人們對隱私和大規(guī)模監(jiān)視的問題進(jìn)行討論，希望這些討論有助于更好地理解人工智能背后的道德規(guī)范問題。”

生物識別鏡凸顯出了算法偏差可能造成的現(xiàn)實后果。

“雖然收集關(guān)于用戶購物偏好的個人信息，用來提供定制化的個人服務(wù)似乎是有益無害的，但未經(jīng)用戶同意就獲取這些信息，讓人無法確定這些預(yù)測是不是基于正確的數(shù)據(jù)而做出的。”Wouters說。

“人工智能的應(yīng)用范圍很容易超出了購物和廣告等領(lǐng)域。想象一下，無法控制的算法可能會錯誤地認(rèn)為你不適合某個管理職位，沒有資格獲得大學(xué)學(xué)位，或未經(jīng)你的同意公開分享你的照片。

“你要選擇一個指標(biāo)，比如責(zé)任感水平，生物識別鏡會要求你想象，這些信息現(xiàn)在正在、與你的保險公司或未來的雇主分享，”Wouters博士說。 “這個項目透明化地呈現(xiàn)了這些信息對個人產(chǎn)生的潛在后果。”

Wouters博士說，重要的是，它是個生物識別鏡，而不是心理分析工具。

“生物識別鏡只計算公眾由用戶的外貌而做出的估計，”他說。“它的局限性在于準(zhǔn)確性有限，因為在設(shè)計上只參考了相對較小且眾包的數(shù)據(jù)集。想要從生物識別鏡中得出關(guān)于心理狀態(tài)的有意義的結(jié)論是不合適的。”