被曝使用人工智能监控员工，沃尔玛 雪佛龙和星巴克在名单上

不管你在哪里工作，人工智能技术系统都有可能会分析你在slack、微软团队、zoom和其他流行应用程序上的消息和信息。

一家专门分析员工信息的人工智能公司aware称，沃尔玛、达美航空、t-mobile、雪佛龙和星巴克等知名美国大雇主以及雀巢和阿斯利康等欧洲品牌，已经求助于这家成立七年的初创公司来监控他们普通员工的聊天信息。

aware--这家总部位于美国俄亥俄州哥伦布市的初创公司的联合创始人兼首席执行官杰夫·舒曼（jeff schumann）表示，人工智能帮助公司“了解沟通中的风险”，实时了解员工的情绪，而不是依赖于每年一次或一年两次的调查。

舒曼表示，使用aware分析信息中的匿名数据，客户可以了解特定年龄段或特定地理位置的员工对新的公司政策或营销活动的反应。aware的数十个人工智能模型旨在阅读文本和处理图像，还可以识别欺凌、骚扰、歧视、不合规、色情、裸体和其他行为。

舒曼表示，aware的分析工具--监测员工情绪和内容的工具--无法标记单个员工的姓名。但他补充说，在客户预先确定的极端威胁或其他风险行为发生时，其单独的ediscovery工具可以确定到人。

aware表示，沃尔玛、t-mobile、雪佛龙和星巴克将其技术用于治理风险和合规，这类工作约占公司业务的80%。

aware还表示，其数据存储库包含代表300多万名员工约200亿次个人互动的消息。

humane intelligence联合创始人朱塔·威廉姆斯(jutta williams)在谈到人工智能员工监控技术时表示：“其中很多都变成了思想监控。”她认为，“这是在以一种我从未见过的方式对待人们。”

在美国cnbc的报道中，阿斯利康的一位代表说，该公司使用ediscovery产品，但不使用分析来监测情绪或危害性。达美航空告诉cnbc，它使用aware的分析和ediscovery来监控趋势和情绪，作为收集员工和其他利益相关者反馈的一种方式，并将法律记录保留在其社交媒体平台上。

但这已经涉及侵犯员工隐私的严重问题。

关于人工智能风险的非营利组织humane intelligence的联合创始人朱塔·威廉姆斯(jutta williams)表示，人工智能为所谓的企业内部风险项目增加了一个新的、可能存在问题的发展，这些项目多年来一直存在于评估商业间谍活动等方面，尤其是在电子邮件通信中。

将人工智能应用于广泛的员工监控，在过去一年里获得爆炸式增长，自2022年底推出openai的chatgpt聊天机器人以来。生成式人工智能迅速成为企业财报电话会议的流行语，从金融服务和生物医学研究到物流、在线旅行和公用事业，某种形式的人工智能正在几乎每个行业实现任务自动化。

舒曼表示，aware的收入在过去五年里平均每年增长150%，其典型客户约有30000名员工。排名靠前的竞争对手包括qualtrics、relative、proofpoint、smarsh和netskope。

按照行业标准，aware保持着相当精简的状态。该公司上一次融资是在2021年，当时它在高盛(goldman sachs)牵头的一轮融资中筹集了6000万美元。

相比之下，大型语言模型公司，如openai和anthropic，已各自筹集了数十亿美元资金，主要来自战略合作伙伴。

舒曼在保险公司nationwide从事企业协作工作近八年后，于2017年创立了这家公司。在此之前，他是一名企业家。aware并不是他创办的第一家引起人们对奥威尔式公司治理的担忧。

该公司每年都会发布一份报告，汇总大公司发送的数十亿条信息--2023年的数字是65亿条--的洞察力，并将感知到的风险因素和工作场所情绪得分制成表格。舒曼将每年通过工作场所交流平台发送的数万亿条消息称为“世界上增长最快的非结构化数据集”。

当包括其他类型的共享内容时，如图像和视频，aware的分析人工智能每天分析超过1亿条内容。在这样做的过程中，这项技术创建了一个公司社交图谱，查看哪些团队内部相互交谈的次数比其他团队更多。

舒曼在谈到这款分析工具时说，它使用来自企业客户的数据来训练其机器学习模型。该公司表示，该公司的数据库包含约65亿条消息，代表着300多万名独立员工的约200亿条个人互动。

“为了保护隐私，它不会有人名，”舒曼说。

但aware的ediscovery工具的操作方式不同。一家公司可以根据公司选择的“极端风险”类别设置对员工姓名的基于角色的访问权限，该类别指示aware的技术在某些情况下为人力资源或其他公司代表提取个人的姓名。

纽约大学ai now研究所的执行主任amba kak担心使用人工智能来帮助确定什么被认为是危险的行为。“这对人们在工作场所所说的话产生了寒蝉效应。”

她表示，美国联邦贸易委员会、司法部和平等就业机会委员会都对此事表示了担忧。她强调“这些既是隐私问题，也是工人权利问题。”