6月22日消息，美國當地時間周二，微軟宣布將停止銷售基于面部圖像分析個人情緒狀態的自動化技術，并限制其面部識別工具的使用。

多年來，許多活動人士和學者始終擔心，聲稱能夠識別個人年齡、性別和情緒狀態的面部分析軟件可能存在偏見、侵入性，或者根本不可靠，因此不應該被允許出售。

微軟承認的確存在上述問題，并在美國當地時間周二表示，計劃從其人工智能(AI)服務中移除這些用于檢測、分析和識別人臉的功能。微軟將于本周停止向新用戶出售該技術，現有用戶也將在今年內逐步停用。

這些改變是微軟加強對其AI產品控制努力的一部分。經過兩年的審查，微軟的一個團隊制定了一份“負責任AI標準”。在長達27頁的文件中，該公司列出了對負責任AI系統的具體要求，以確保它們不會對社會產生有害影響。

這些要求包括確保AI系統“為它們致力于解決的問題提供有效的解決方案”，以及“為已確定的人口群體(包括邊緣化群體)提供類似質量的服務”。

這些技術將被用于幫助個人獲得就業、教育、醫療保健、金融服務或人生機遇等做出重要決定，在發布之前，它們需要接受由微軟首席負責任AI官娜塔莎·克蘭普頓(Natasha Crampton)領導的團隊的評估。

顯然，微軟對這種情緒識別工具的擔憂加劇了，它可以將個人的面部表情歸為憤怒、輕蔑、厭惡、恐懼、快樂、中立、悲傷或驚訝等。克蘭普頓說：“我們表達自我的方式存在著巨大的文化、地理和個人差異，這引發了人們對AI識別工具可靠性的擔憂，同時也會讓人產生更大的疑問，即面部表情是否是反映個人內心情緒狀態的可靠指標。”

克蘭普頓還說，年齡和性別分析工具以及其他檢測微笑等面部特征的工具，可能有助于盲人或視力不佳者解讀視覺圖像。但微軟認為，向公眾普遍提供這些分析工具不合適。克蘭普頓強調，該系統的所謂性別分類器是二元的，“這與我們的價值觀并不完全一致”。

微軟還將對其人臉識別功能施加新的控制，該功能可用于身份核查或搜索特定的人。例如，網約車公司Uber在其應用中使用該軟件來驗證司機的臉是否與該司機賬戶上的ID匹配。想要使用微軟面部識別工具的軟件開發商需要申請訪問權限，并解釋他們計劃如何部署該工具。

用戶還將被要求申請并解釋他們將如何使用其他可能被濫用的AI系統，如定制神經語音(Custom Neural Voice)。該服務可以根據某人的演講樣本生成人的聲紋，這樣作者就可以創建他們的合成聲音，以用他們不會說的語言閱讀有聲讀物。

由于該工具可能被濫用，比如生成某個人沒有說過的話，用戶必須經過一系列步驟來確認他們使用的聲音得到了授權，并且錄音中包括微軟可以檢測到的水印。克蘭普頓說：“我們正在采取具體行動，以踐行我們的AI原則，但這將是一段漫長的旅程。”

與其他科技公司一樣，微軟的AI產品在開發過程中也遭遇了許多挫折。2016年，微軟在推特上發布了名為Tay的聊天機器人，旨在從與其互動的用戶那里學習如何“理解對話”。然而，該機器人很快就開始發布具有種族歧視和攻擊性的推文，微軟最終不得不將其刪除。

2020年，研究人員發現，微軟、蘋果、谷歌、IBM和亞馬遜開發的“語音轉文本”工具在黑人用戶中的表現不太好。盡管微軟的系統是其中最好的，但對白人的誤認率為15%，而對黑人的誤認率為27%。

雖然微軟收集了各種各樣的語音數據來訓練其AI系統，但其始終沒有徹底理解語言的多樣化。因此，該公司聘請了來自華盛頓大學的社會語言學專家來幫助解釋其需要了解的語言變體。這種方法超越了人口統計和地區差異，囊括了人們在正式和非正式場合的說話方式。

克蘭普頓說：“認為種族是某個人說話方式的決定因素，實際上有很大誤導性。我們咨詢專家后了解到，實際上有很多因素會影響語言的多樣性。解決語音與文本之間差距的過程，為公司在新標準制定指導方針提供了巨大幫助。”

克蘭普頓還稱：“現在是為AI制定規范的關鍵時期。”她指的是歐洲擬議中的法規，該法規對AI的使用設定了規則和限制。克蘭普頓說：“我們希望能夠利用我們的標準，為科技公司普遍應該遵守的標準的討論和制定做出貢獻。”

關于AI的潛在危害，科技界已經進行了多年的激烈辯論。爭論的起因是，有些AI錯誤和失誤對人們的生活產生了實際影響，比如決定人們是否能獲得福利的算法。荷蘭稅務機構錯誤地剝奪了貧困家庭的兒童看護福利，因為一個有缺陷的算法排除了具有雙重國籍的人。

用于識別和分析人臉的自動化軟件一直備受爭議。去年，Facebook關閉了其已有十年歷史的照片識別系統。該公司負責AI業務的副總裁提到，“很多人對面部識別技術在社會中的地位感到擔憂”。

幾名黑人男子因面部識別匹配有誤而被錯誤逮捕。2020年，在明尼阿波利斯市警察槍殺喬治·弗洛伊德(George Floyd)后，引發了“黑人的命也是命”(Black Lives Matter)的抗議活動。與此同時，亞馬遜和微軟宣布暫停美國警方使用其面部識別產品，稱需要對其使用制定更明確的法律。

自那以后，美國華盛頓和馬薩諸塞州通過了法規，其中要求對警察使用面部識別工具進行司法監督。克蘭普頓說，微軟曾考慮是否開始在有法律依據的州向警方提供其軟件，但目前決定不這樣做。她說，隨著法律環境的變化，這種情況可能會改變。

普林斯頓大學計算機科學教授、著名AI專家阿溫德·納拉亞南(Arvind Narayanan)表示，公司可能正在放棄分析面部的技術，因為他們可能意識到，至少目前，這些系統沒有太大的商業價值。微軟沒有透露其面部分析功能有多少用戶。納拉亞南預測，公司不太可能放棄其他侵入性技術，比如定向廣告，它會讓人們選擇最好的廣告來展示給特定用戶，因為它們依然是“搖錢樹”。 (小小)

關鍵詞： 可能存在偏見 微軟宣布停售情緒狀態分析技術 限制面部識別工具使用 AI產品控制