被曝使用人工智慧監控員工,沃爾瑪 雪佛龍和星巴克在名單上

2024年02月26日23:51:50 科技 6319

被曝使用人工智慧監控員工,沃爾瑪 雪佛龍和星巴克在名單上 - 天天要聞

不管你在哪裡工作,人工智慧技術系統都有可能會分析你在slack、微軟團隊、zoom和其他流行應用程序上的消息和信息。

一家專門分析員工信息的人工智慧公司aware稱,沃爾瑪、達美航空、t-mobile、雪佛龍和星巴克等知名美國大僱主以及雀巢和阿斯利康等歐洲品牌,已經求助於這家成立七年的初創公司來監控他們普通員工的聊天信息。

aware--這家總部位於美國俄亥俄州哥倫布市的初創公司的聯合創始人兼首席執行官傑夫·舒曼(jeff schumann)表示,人工智慧幫助公司「了解溝通中的風險」,實時了解員工的情緒,而不是依賴於每年一次或一年兩次的調查。

舒曼表示,使用aware分析信息中的匿名數據,客戶可以了解特定年齡段或特定地理位置的員工對新的公司政策或營銷活動的反應。aware的數十個人工智慧模型旨在閱讀文本和處理圖像,還可以識別欺凌、騷擾、歧視、不合規、色情、裸體和其他行為。

舒曼表示,aware的分析工具--監測員工情緒和內容的工具--無法標記單個員工的姓名。但他補充說,在客戶預先確定的極端威脅或其他風險行為發生時,其單獨的ediscovery工具可以確定到人。

aware表示,沃爾瑪、t-mobile、雪佛龍和星巴克將其技術用於治理風險和合規,這類工作約佔公司業務的80%。

aware還表示,其數據存儲庫包含代表300多萬名員工約200億次個人互動的消息。

被曝使用人工智慧監控員工,沃爾瑪 雪佛龍和星巴克在名單上 - 天天要聞

humane intelligence聯合創始人朱塔·威廉姆斯(jutta williams)在談到人工智慧員工監控技術時表示:「其中很多都變成了思想監控。」她認為,「這是在以一種我從未見過的方式對待人們。」

在美國cnbc的報道中,阿斯利康的一位代表說,該公司使用ediscovery產品,但不使用分析來監測情緒或危害性。達美航空告訴cnbc,它使用aware的分析和ediscovery來監控趨勢和情緒,作為收集員工和其他利益相關者反饋的一種方式,並將法律記錄保留在其社交媒體平台上。

但這已經涉及侵犯員工隱私的嚴重問題。

關於人工智慧風險的非營利組織humane intelligence的聯合創始人朱塔·威廉姆斯(jutta williams)表示,人工智慧為所謂的企業內部風險項目增加了一個新的、可能存在問題的發展,這些項目多年來一直存在於評估商業間諜活動等方面,尤其是在電子郵件通信中。

將人工智慧應用於廣泛的員工監控,在過去一年裡獲得爆炸式增長,自2022年底推出openai的chatgpt聊天機器人以來。生成式人工智慧迅速成為企業財報電話會議的流行語,從金融服務和生物醫學研究到物流、在線旅行和公用事業,某種形式的人工智慧正在幾乎每個行業實現任務自動化。

舒曼表示,aware的收入在過去五年里平均每年增長150%,其典型客戶約有30000名員工。排名靠前的競爭對手包括qualtrics、relative、proofpoint、smarsh和netskope。

按照行業標準,aware保持著相當精簡的狀態。該公司上一次融資是在2021年,當時它在高盛(goldman sachs)牽頭的一輪融資中籌集了6000萬美元。

相比之下,大型語言模型公司,如openai和anthropic,已各自籌集了數十億美元資金,主要來自戰略合作夥伴。

舒曼在保險公司nationwide從事企業協作工作近八年後,於2017年創立了這家公司。在此之前,他是一名企業家。aware並不是他創辦的第一家引起人們對奧威爾式公司治理的擔憂。

該公司每年都會發布一份報告,匯總大公司發送的數十億條信息--2023年的數字是65億條--的洞察力,並將感知到的風險因素和工作場所情緒得分製成表格。舒曼將每年通過工作場所交流平台發送的數萬億條消息稱為「世界上增長最快的非結構化數據集」。

當包括其他類型的共享內容時,如圖像和視頻,aware的分析人工智慧每天分析超過1億條內容。在這樣做的過程中,這項技術創建了一個公司社交圖譜,查看哪些團隊內部相互交談的次數比其他團隊更多。

舒曼在談到這款分析工具時說,它使用來自企業客戶的數據來訓練其機器學習模型。該公司表示,該公司的資料庫包含約65億條消息,代表著300多萬名獨立員工的約200億條個人互動。

被曝使用人工智慧監控員工,沃爾瑪 雪佛龍和星巴克在名單上 - 天天要聞

「為了保護隱私,它不會有人名,」舒曼說。

但aware的ediscovery工具的操作方式不同。一家公司可以根據公司選擇的「極端風險」類別設置對員工姓名的基於角色的訪問許可權,該類別指示aware的技術在某些情況下為人力資源或其他公司代表提取個人的姓名。

紐約大學ai now研究所的執行主任amba kak擔心使用人工智慧來幫助確定什麼被認為是危險的行為。「這對人們在工作場所所說的話產生了寒蟬效應。」

她表示,美國聯邦貿易委員會、司法部和平等就業機會委員會都對此事表示了擔憂。她強調「這些既是隱私問題,也是工人權利問題。」

科技分類資訊推薦

今年618,我踩進了美團做的局 - 天天要聞

今年618,我踩進了美團做的局

壞了,最近可能是錢包被資本做局了。本來秉承著 618 一毛不拔的信念,但看到同事閃購到手一台華為 Pura 70 Ultra,不但國補後直接便宜了大幾百,相比各平台的 618 大促活動價,又直降小一百塊,干到了 ¥5496。
中鼎智能毛利率持續下滑:遭索賠數千萬,銀行存款被凍結1150萬 - 天天要聞

中鼎智能毛利率持續下滑:遭索賠數千萬,銀行存款被凍結1150萬

《港灣商業觀察》廖紫雯日前,中鼎智能(無錫)科技股份有限公司遞表港交所,保薦機構為國泰君安國際。作為智能場內物流和倉儲自動化解決方案提供商,中鼎智能在2024年市場份額達到1.7%。業績面上,公司近年來毛利率持續下滑,從2022年的14.1%降至2024年的13.1%,且核心產品智能場內物流解決方案的毛利率也從2022年的13.4%...
寶駿享境預售!13.28萬元起搶四大越級體驗 - 天天要聞

寶駿享境預售!13.28萬元起搶四大越級體驗

4 月 7 日,「2025 年上汽通用五菱技術進化日暨寶駿享境預售發布會」 上,寶駿首款 「智能超舒適旗艦家轎」 享境驚艷亮相!4 款車型(140km 插混雙版、600km 純電雙版)預售 13.28 萬 - 15.58 萬,靈眸智駕、靈語座艙等先鋒技術拉滿
榮耀平板10今日開售 國補到手價1274.15元起 - 天天要聞

榮耀平板10今日開售 國補到手價1274.15元起

5月31號消息,榮耀平板10今日開售,搭載12.1英寸榮耀類紙柔光屏,內置純凈學習空間,採用全金屬一體機身。讓學生黨可以放心看、放心學。榮耀平板10國補價1274.15元起,可以選擇日出印象、天青色....
余承東:今年Q4華為乾崑智駕ADS 4實現高速L3商用 - 天天要聞

余承東:今年Q4華為乾崑智駕ADS 4實現高速L3商用

2025年5月31日消息,2025(第三屆)未來汽車先行者大會在深圳國際會展中心(寶安),與2025(第二十九屆)粵港澳大灣區車展同步隆重舉行。華為常務董事、終端BG董事長余承東作為嘉賓出席大會並發....
華為數字底盤引擎XMC首搭尊界S800亮相 - 天天要聞

華為數字底盤引擎XMC首搭尊界S800亮相

【中關村在線原創新聞】華為智能汽車解決方案正式發布革命性技術——華為數字底盤引擎XMC(HUAWEI XMotion Control),並宣布首款搭載該系統的車型尊界S800全球首發。這一突破性技術被業界視為"補齊智能化最後一塊拼圖"的關鍵解決方案,標誌著華為在智能汽車領域從智能座艙、自動駕駛向更底層的車輛運動控制域實現全棧技術...
微信又有新功能 - 天天要聞

微信又有新功能

今天(5月31日)#微信朋友圈能摺疊了#登上熱搜好友發布的多條朋友圈信息可能會被摺疊在朋友圈信息下方顯示「餘下x條」點擊後可顯示好友發布的其他朋友圈消息騰訊客服回應對於朋友圈的摺疊功能,騰訊客服表示,如朋友圈頻繁發送廣告營銷等內容,為了優化