不管你在哪裡工作，人工智慧技術系統都有可能會分析你在slack、微軟團隊、zoom和其他流行應用程序上的消息和信息。
一家專門分析員工信息的人工智慧公司aware稱，沃爾瑪、達美航空、t-mobile、雪佛龍和星巴克等知名美國大僱主以及雀巢和阿斯利康等歐洲品牌，已經求助於這家成立七年的初創公司來監控他們普通員工的聊天信息。
aware--這家總部位於美國俄亥俄州哥倫布市的初創公司的聯合創始人兼首席執行官傑夫·舒曼（jeff schumann）表示，人工智慧幫助公司「了解溝通中的風險」，實時了解員工的情緒，而不是依賴於每年一次或一年兩次的調查。
舒曼表示，使用aware分析信息中的匿名數據，客戶可以了解特定年齡段或特定地理位置的員工對新的公司政策或營銷活動的反應。aware的數十個人工智慧模型旨在閱讀文本和處理圖像，還可以識別欺凌、騷擾、歧視、不合規、色情、裸體和其他行為。
舒曼表示，aware的分析工具--監測員工情緒和內容的工具--無法標記單個員工的姓名。但他補充說，在客戶預先確定的極端威脅或其他風險行為發生時，其單獨的ediscovery工具可以確定到人。
aware表示，沃爾瑪、t-mobile、雪佛龍和星巴克將其技術用於治理風險和合規，這類工作約佔公司業務的80%。
aware還表示，其數據存儲庫包含代表300多萬名員工約200億次個人互動的消息。
humane intelligence聯合創始人朱塔·威廉姆斯(jutta williams)在談到人工智慧員工監控技術時表示：「其中很多都變成了思想監控。」她認為，「這是在以一種我從未見過的方式對待人們。」
在美國cnbc的報道中，阿斯利康的一位代表說，該公司使用ediscovery產品，但不使用分析來監測情緒或危害性。達美航空告訴cnbc，它使用aware的分析和ediscovery來監控趨勢和情緒，作為收集員工和其他利益相關者反饋的一種方式，並將法律記錄保留在其社交媒體平台上。
但這已經涉及侵犯員工隱私的嚴重問題。
關於人工智慧風險的非營利組織humane intelligence的聯合創始人朱塔·威廉姆斯(jutta williams)表示，人工智慧為所謂的企業內部風險項目增加了一個新的、可能存在問題的發展，這些項目多年來一直存在於評估商業間諜活動等方面，尤其是在電子郵件通信中。
將人工智慧應用於廣泛的員工監控，在過去一年裡獲得爆炸式增長，自2022年底推出openai的chatgpt聊天機器人以來。生成式人工智慧迅速成為企業財報電話會議的流行語，從金融服務和生物醫學研究到物流、在線旅行和公用事業，某種形式的人工智慧正在幾乎每個行業實現任務自動化。
舒曼表示，aware的收入在過去五年里平均每年增長150%，其典型客戶約有30000名員工。排名靠前的競爭對手包括qualtrics、relative、proofpoint、smarsh和netskope。
按照行業標準，aware保持著相當精簡的狀態。該公司上一次融資是在2021年，當時它在高盛(goldman sachs)牽頭的一輪融資中籌集了6000萬美元。
相比之下，大型語言模型公司，如openai和anthropic，已各自籌集了數十億美元資金，主要來自戰略合作夥伴。
舒曼在保險公司nationwide從事企業協作工作近八年後，於2017年創立了這家公司。在此之前，他是一名企業家。aware並不是他創辦的第一家引起人們對奧威爾式公司治理的擔憂。
該公司每年都會發布一份報告，匯總大公司發送的數十億條信息--2023年的數字是65億條--的洞察力，並將感知到的風險因素和工作場所情緒得分製成表格。舒曼將每年通過工作場所交流平台發送的數萬億條消息稱為「世界上增長最快的非結構化數據集」。
當包括其他類型的共享內容時，如圖像和視頻，aware的分析人工智慧每天分析超過1億條內容。在這樣做的過程中，這項技術創建了一個公司社交圖譜，查看哪些團隊內部相互交談的次數比其他團隊更多。
舒曼在談到這款分析工具時說，它使用來自企業客戶的數據來訓練其機器學習模型。該公司表示，該公司的資料庫包含約65億條消息，代表著300多萬名獨立員工的約200億條個人互動。
「為了保護隱私，它不會有人名，」舒曼說。
但aware的ediscovery工具的操作方式不同。一家公司可以根據公司選擇的「極端風險」類別設置對員工姓名的基於角色的訪問許可權，該類別指示aware的技術在某些情況下為人力資源或其他公司代表提取個人的姓名。
紐約大學ai now研究所的執行主任amba kak擔心使用人工智慧來幫助確定什麼被認為是危險的行為。「這對人們在工作場所所說的話產生了寒蟬效應。」
她表示，美國聯邦貿易委員會、司法部和平等就業機會委員會都對此事表示了擔憂。她強調「這些既是隱私問題，也是工人權利問題。」
