被曝使用人工智能监控员工,沃尔玛 雪佛龙和星巴克在名单上

2024年02月26日23:51:50 科技 6319

被曝使用人工智能监控员工,沃尔玛 雪佛龙和星巴克在名单上 - 天天要闻

不管你在哪里工作,人工智能技术系统都有可能会分析你在slack、微软团队、zoom和其他流行应用程序上的消息和信息。

一家专门分析员工信息的人工智能公司aware称,沃尔玛、达美航空、t-mobile、雪佛龙和星巴克等知名美国大雇主以及雀巢和阿斯利康等欧洲品牌,已经求助于这家成立七年的初创公司来监控他们普通员工的聊天信息。

aware--这家总部位于美国俄亥俄州哥伦布市的初创公司的联合创始人兼首席执行官杰夫·舒曼(jeff schumann)表示,人工智能帮助公司“了解沟通中的风险”,实时了解员工的情绪,而不是依赖于每年一次或一年两次的调查。

舒曼表示,使用aware分析信息中的匿名数据,客户可以了解特定年龄段或特定地理位置的员工对新的公司政策或营销活动的反应。aware的数十个人工智能模型旨在阅读文本和处理图像,还可以识别欺凌、骚扰、歧视、不合规、色情、裸体和其他行为。

舒曼表示,aware的分析工具--监测员工情绪和内容的工具--无法标记单个员工的姓名。但他补充说,在客户预先确定的极端威胁或其他风险行为发生时,其单独的ediscovery工具可以确定到人。

aware表示,沃尔玛、t-mobile、雪佛龙和星巴克将其技术用于治理风险和合规,这类工作约占公司业务的80%。

aware还表示,其数据存储库包含代表300多万名员工约200亿次个人互动的消息。

被曝使用人工智能监控员工,沃尔玛 雪佛龙和星巴克在名单上 - 天天要闻

humane intelligence联合创始人朱塔·威廉姆斯(jutta williams)在谈到人工智能员工监控技术时表示:“其中很多都变成了思想监控。”她认为,“这是在以一种我从未见过的方式对待人们。”

在美国cnbc的报道中,阿斯利康的一位代表说,该公司使用ediscovery产品,但不使用分析来监测情绪或危害性。达美航空告诉cnbc,它使用aware的分析和ediscovery来监控趋势和情绪,作为收集员工和其他利益相关者反馈的一种方式,并将法律记录保留在其社交媒体平台上。

但这已经涉及侵犯员工隐私的严重问题。

关于人工智能风险的非营利组织humane intelligence的联合创始人朱塔·威廉姆斯(jutta williams)表示,人工智能为所谓的企业内部风险项目增加了一个新的、可能存在问题的发展,这些项目多年来一直存在于评估商业间谍活动等方面,尤其是在电子邮件通信中。

将人工智能应用于广泛的员工监控,在过去一年里获得爆炸式增长,自2022年底推出openai的chatgpt聊天机器人以来。生成式人工智能迅速成为企业财报电话会议的流行语,从金融服务和生物医学研究到物流、在线旅行和公用事业,某种形式的人工智能正在几乎每个行业实现任务自动化。

舒曼表示,aware的收入在过去五年里平均每年增长150%,其典型客户约有30000名员工。排名靠前的竞争对手包括qualtrics、relative、proofpoint、smarsh和netskope。

按照行业标准,aware保持着相当精简的状态。该公司上一次融资是在2021年,当时它在高盛(goldman sachs)牵头的一轮融资中筹集了6000万美元。

相比之下,大型语言模型公司,如openai和anthropic,已各自筹集了数十亿美元资金,主要来自战略合作伙伴。

舒曼在保险公司nationwide从事企业协作工作近八年后,于2017年创立了这家公司。在此之前,他是一名企业家。aware并不是他创办的第一家引起人们对奥威尔式公司治理的担忧。

该公司每年都会发布一份报告,汇总大公司发送的数十亿条信息--2023年的数字是65亿条--的洞察力,并将感知到的风险因素和工作场所情绪得分制成表格。舒曼将每年通过工作场所交流平台发送的数万亿条消息称为“世界上增长最快的非结构化数据集”。

当包括其他类型的共享内容时,如图像和视频,aware的分析人工智能每天分析超过1亿条内容。在这样做的过程中,这项技术创建了一个公司社交图谱,查看哪些团队内部相互交谈的次数比其他团队更多。

舒曼在谈到这款分析工具时说,它使用来自企业客户的数据来训练其机器学习模型。该公司表示,该公司的数据库包含约65亿条消息,代表着300多万名独立员工的约200亿条个人互动。

被曝使用人工智能监控员工,沃尔玛 雪佛龙和星巴克在名单上 - 天天要闻

“为了保护隐私,它不会有人名,”舒曼说。

但aware的ediscovery工具的操作方式不同。一家公司可以根据公司选择的“极端风险”类别设置对员工姓名的基于角色的访问权限,该类别指示aware的技术在某些情况下为人力资源或其他公司代表提取个人的姓名。

纽约大学ai now研究所的执行主任amba kak担心使用人工智能来帮助确定什么被认为是危险的行为。“这对人们在工作场所所说的话产生了寒蝉效应。”

她表示,美国联邦贸易委员会、司法部和平等就业机会委员会都对此事表示了担忧。她强调“这些既是隐私问题,也是工人权利问题。”

科技分类资讯推荐

知情人爆料OpenAI进军浏览器市场,挑战Google Chrome“主导地位” - 天天要闻

知情人爆料OpenAI进军浏览器市场,挑战Google Chrome“主导地位”

国际在线消息:据路透社报道,有三位知情人士透露,OpenAI即将推出一款由人工智能(AI)驱动的网络浏览器,意在挑战由谷歌开发的占据市场主导地位的Google Chrome浏览器。OpenAI 资料图(来源:IC photo) 报道称,这款浏览器预计将在未来数周内正式发布,旨在利用AI从根本上改变用户浏览网页的方式,同时为OpenAI获取谷歌...
iPhone折叠手机屏幕即将进入生产阶段,三星独家代工 - 天天要闻

iPhone折叠手机屏幕即将进入生产阶段,三星独家代工

7月10日消息,据韩媒 ETNews 今日报道,三星正在准备为苹果折叠 iPhone 手机生产屏幕面板,目前该屏幕面板的厂房、流水线已接近完工。该报首先援引了业内人士的消息,称三星显示正在忠清南道牙山的 A3 工厂内建设苹果折叠 iPhone 的专用生产线,该生产线已于去年开始更换设备,目前已接近完工。据悉,该生产线每月可处理 3...
OpenAI将发布AI浏览器,挑战谷歌 - 天天要闻

OpenAI将发布AI浏览器,挑战谷歌

谷歌Chrome目前拥有全球浏览器市场超过三分之二的份额。据路透社援引三位知情人士透露,OpenAI即将发布一款由人工智能驱动的网络浏览器,该浏览器将挑战Alphabet旗下占市场主导地位的谷歌Chrome浏览器 。
IP69K到底是什么?荣耀X70以工业级防护重塑手机防水高度 - 天天要闻

IP69K到底是什么?荣耀X70以工业级防护重塑手机防水高度

在智能手机市场竞争日益同质化的今天,消费者对产品品质的关注回归本质,耐用性成为衡量一款手机价值的重要标尺。2025年7月10日,荣耀正式公布了即将发布的新机——荣耀X70的防水性能参数,其将支持IP66、IP68、IP69及IP69K四重防
全球最快、跑出全新试验速度 中国高铁再次冲上热搜 - 天天要闻

全球最快、跑出全新试验速度 中国高铁再次冲上热搜

为期三天的第十七届中国国际现代化铁路技术装备展今天落幕,本届展览全球500余家企业带来了行业领先的技术和展品,记者在采访中发现,中国高铁技术全球领跑的优势在持续扩大。3天的展期,4万平方米的展览面积,14个国家和地区的铁路企业汇聚,展示了世界铁路技术的最新成果,也让中国高铁再次冲上了热搜。总台央视记者郑连...
获国家级认可!深圳这家医院自主研发智慧养老评估系统入选国家推广目录 - 天天要闻

获国家级认可!深圳这家医院自主研发智慧养老评估系统入选国家推广目录

近日,工业和信息化部、民政部、国家卫生健康委员会联合发布了《智慧健康养老产品及服务推广目录(2024年版)》,深圳市第二人民医院大鹏新区南澳医院(南澳人民医院)自主研发的“智慧老年人需求与综合能力评估系统”脱颖而出,成功入选老年人能力评估类目录,全国仅3例。这一系统的入选,标志着南澳人民医院在智慧养老领...
Manus跑路了吗? - 天天要闻

Manus跑路了吗?

衡宇 发自 凹非寺量子位 | 公众号 QbitAIManus,真的从国内撤了?!4个月前一夜蹿红起飞的AI Agent产品Manus,刚被曝出背后公司一举裁掉国内七成团队。事实上,Manus总部已在5月搬到了新加坡,国内员工何去何从?现在答