微軟正在逐步禁止公眾使用一些人工智能面部分析工具，包括一款聲稱可以從視頻和圖片中識別對象情緒的工具。
這種「情感識別」工具受到了專家的批評。他們說，人們普遍認為面部表情在不同人群中是不同的，而且把外在的情緒表現與內在的情感等同起來是不科學的。因為機器可以察覺到怒容，但這與察覺到憤怒不是一回事。
這一決定是微軟人工智能倫理政策大改革的一部分。該公司更新的負責任人工智能標準(於2019年首次提出)強調問責制，以找出誰使用了其服務，並加強對這些工具的應用領域的人力監督。
實際上，這意味着微軟將限制對其面部識別服務(被稱為Azure Face)的某些功能的訪問，並完全刪除其他功能。用戶必須申請使用Azure Face進行面部識別，例如，告訴微軟他們將如何使用以及在哪裡部署其系統。一些危害性較小的用例(如圖像和視頻中自動模糊人臉)將保持開放訪問。
除了移除公眾對其情感識別工具的訪問權限，微軟還取消了Azure Face識別「性別、年齡、微笑、面部毛髮、頭髮和妝容等屬性」的功能。
微軟首席人工智能負責人娜塔莎·克蘭普頓(Natasha Crampton)在一篇宣布這一消息的博客文章中寫道:「公司內外的專家都強調，對『情感』的定義缺乏科學共識，如何在用例、地區和人口統計數據之間進行推斷存在挑戰，以及圍繞這類功能的隱私擔憂加劇。」
從6月21日起，微軟將停止向新用戶提供這些功能，而現有用戶的訪問權限將在2023年6月30日被取消。
微軟的某些人工智能應用仍將提供情感識別。
儘管微軟不再向公眾開放這些功能，但它將至少在自己的一款產品中繼續使用這些功能:一款名為Seeing AI的應用程序，它使用機器視覺為視力受損的人提供「看」世界的新能力。
微軟Azure AI主要團隊的產品經理薩拉·伯德(Sarah Bird)表示，情感識別等工具「在可訪問性可控場景中使用時很有價值」。目前還不清楚這些工具是否會在微軟的其他產品中使用。
微軟也在其自定義神經語音(Custom Neural Voice)功能上引入了類似的限制，該功能允許客戶根據真人的錄音創建人工智能語音(有時被稱為深度偽裝音頻)。
這個工具「在教育、無障礙和娛樂方面具有令人興奮的潛力」，但伯德也指出，「它也很容易被用來不恰當地模仿演講者和欺騙聽眾」。微軟表示，未來將把該功能的訪問權限限制在「管理客戶和合作夥伴」，並「確保在創建合成語音時原始發言者的積极參与」。
