情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

新智元報道

編輯:桃子 如願

【新智元導讀】

自人臉識別問世以來,飽受爭議,現今,微軟宣佈淘汰這項可以識別情緒的面部識別工具。

今天,微軟暫停提供能識別情緒的AI。

這不是好事嗎?

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

AI識別情緒還真的不太穩定,沒準兒就會人工智障。。。

就比如近日網上流傳的這張圖,董宇輝和韋神的眼神對比。

AI可以識別出「希望」和「力量」嗎?

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

還真不好說。。。

微軟:我關了

就在今天,微軟宣佈,逐步停止向公眾提供基於AI進行面部分析的工具。

其中就包括可以從影片和圖片中識別物件情緒的AI。

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

與此同時,微軟將限制訪問其面部識別服務Azure Face的一些功能,而且還會完全刪除其他功能。

這意味著公眾以後想用微軟情緒識別工具的話,還得去申請才能使用。

不僅是情緒識別,還有能識別性別、年齡、面部毛髮、化妝等能力也將被停止使用。

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

其實,微軟做的這一決定是其在人工智慧道德政策上面改革的一部分。

此前,微軟在更新的責任人工智慧標準中提出了問責制,來監督誰使用了自家的服務,並對人臉識別工具的應用場合進行了更多的人為監督。

一直以來,情緒面部識別工具受到了各界的批評。

人們在「情緒」的定義上缺乏科學共識,另外帶來的隱私問題也令人擔憂。

就拿笑來說,不同的人笑有千千萬萬,因人而異,而拿笑等同於內心感受是快樂的並不科學。

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

微軟表示,從6月21日起將停止向新客戶提供這些功能,而現有客戶的訪問許可權將在2023年6月30日被終止。

說是這麼說的,但是真的完全關了嗎?並沒有。。。

目前,微軟旗下另一款產品叫Seeing AI仍能繼續使用。這是一款為有視力缺陷的殘障人士提供使用的APP。

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

正如Azure AI的首席產品經理 Sarah Bird在部落格中提到,情感識別等工具在一系列可控的可訪問性場景中非常有價值。

另外,微軟對根據真人錄音建立人工智慧語音功能也受到了限制,深度偽造音訊難了。。。

Azure面部識別:拿捏了

那麼,微軟的Azure Face能提供什麼功能?

Azure人臉服務主要是提供用於檢測、識別和分析影象中人臉的 AI 演算法。

比如身份驗證、無接觸訪問控制和實現隱私的人臉模糊等等。

人臉檢測

在所有其他情況下,需要將人臉檢測作為第一步。

檢測API可以根據人臉特徵點(例如瞳孔或鼻尖。預設情況下,有 27 個預定義的特徵點。)檢測影象中的人臉,並返回其位置的矩形座標。

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

這是一組畫素座標,用於檢測臉部的左邊緣、頂部、寬度和高度。使用這些座標可以獲取人臉的位置及大小。

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

當然,除了能夠給人臉標出矩形框外,檢測API還可以返回與這些人臉相關的一系列屬性,例如:

年齡:年齡猜測

性別:男或女

情感:顯示哪些情感

人種:白、黃、黑等

頭髮:頭髮型別和頭髮顏色

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

接下來,它還返回一個表示儲存的人臉資料的唯一ID。該ID將在後續的操作中用於識別或驗證人臉。

身份驗證

檢測出了人臉之後,我們就開始進行身份驗證了~~

回想一下我們乘坐飛機過安檢驗證身份的時候。你的臉對映到一個小小的攝像頭中,根據你的身份證資訊進行匹配,那這背後又是怎麼工作的呢?

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

驗證是將影象中的人臉與安全儲存庫或照片中的一張人臉進行「一對一」匹配,以驗證他們是否是同一個人。

該功能支援兩種工作模式:matchPerson和matchFace。使用驗證API針對同一人進行篩選後,matchPerson模式會返回相似人臉。

matchFace模式會忽略同一人篩選器。它返回相似候選人臉的列表,這些人臉不一定屬於同一人。

這是目標人臉:

這是候選人臉:

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

從左至右依次來個編號:ABCDE

matchPerson模式會返回A和B,它們與目標人臉顯示的是同一個人。

matchFace模式返回 A、B、C、D,恰好四個候選項,即使某些選項與目標不是同一人或者相似度低,也是同樣會被返回作為參考。

對人臉分組

人臉分組操作會基於相似性,將未知人臉的集合分為幾個較小的組。

它還會返回單個「messyGroup」陣列,其中包含未找到的相似性的人臉ID。

值得注意的是,返回的一個組中的所有人臉可能屬於同一人,但一個人可能有多個不同的組。這些組按其他因素(例如表情)再進行區分。

人臉識別,如此不堪?

自人臉識別面世以來,飽受爭議。

還記得2020年,黑人演算法事件引爆人工智慧社群一事嗎?

該演算法PULSE由杜克大學推出,可以將模糊的照片秒變清晰,效果出奇的好。

然而有人發現,將一張奧巴馬的模糊照片,用PULSE洗出來以後,變成了一個白人!

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

當時美國網民直接不幹了,紛紛將鬥爭的矛頭指向了人工智慧。

而一向敢說的Yann LeCun,就這張照片發推表示:

ML結果的偏差,原因在於資料的偏差。

一時間,LeCun又成為AI研究人員針對的物件。

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

外加上弗洛伊德之死在網上引起軒然大波。

甚至有人公佈了一份長達23頁的檔案,聲稱弗洛伊德死亡影片是合成的Deepfake假影片!

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

在這樣的環境下,IBM首先宣佈正式退出人臉識別業務。

隨後亞馬遜緊接著發聲,暫停向警方提供其人臉識別技術Rekognition一年時間。

另外,微軟也加入陣列,並表示在有監管面部識別技術的聯邦法律出臺之前,不會向警察部門出售這種技術。

正是基於隱私安全和種族歧視兩大原因,才導致了越來越多科技公司「棄用」了人臉識別技術。

情緒識別AI竟“心懷鬼胎”,微軟決定封殺它!

人臉識別真的有那麼不堪嗎?

參考資料:

https://www。theverge。com/2022/6/21/23177016/microsoft-retires-emotion-recognition-azure-ai-tool-api

https://www。reuters。com/technology/microsoft-stops-selling-emotion-reading-tech-limits-face-recognition-2022-06-21/

https://gizmodo。com/microsoft-shutting-down-azure-facial-emotion-recognitio-1849090511

TAG: 人臉識別微軟AI人臉識別