2024年，大模型浪潮逐漸邁入了應用深化與廣泛落地的關鍵階段，集成了生成式ai技術的新產品以多種形式進入人們的日常生活，成為工作、創作和娛樂的重要助手。不過，新ai技術與各行業深入融合的同時，也引發了數據安全、版權歸屬、倫理挑戰等一系列擔憂。
12月18日下午，由南都數字經濟治理研究中心聯合清華大學智能法治研究院主辦的第八屆啄木鳥數據治理論壇在北京舉行，來自政府、學術界、法律界、技術機構和企業等領域的專家學者圍繞「ai應用落地提速，如何向善治理」主題展開探討。會上，南都數字經濟治理研究中心發佈了《生成式ai用戶風險感知和信息透明度測評報告（2024）》。
報告披露，經問卷調研發現，近九成受訪者對生成式ai的潛在風險有一定認識，但深入了解的比例相對較低。虛假信息與欺詐最令受訪者擔憂，隱私與數據安全、科研誠信風險、版權作品被盜用也引起普遍擔憂。對於ai深度合成技術被濫用的問題，支持通過立法以及對生成內容添加明確標識遏制此類現象的人數最多。
超六成受訪者高頻使用生成式ai
本次問卷投放歷時20天，共收回1648份有效問卷。問卷包含21個問題，涉及生成式ai產品的總體使用情況、風險總體感知度、具體風險感知度和基本信息四個部分。通過對問卷的數據分析，試圖呈現當前用戶對生成式ai的使用情況、對生成內容質量的評價，以及對相關風險的認知與態度。
此次受訪人群中，男女比例約為4:6；近四成受訪者在25-34歲，近三成在18-24歲。同時，超六成受訪者擁有本科學歷，研究生及以上的高學歷人群佔比達四分之一；從事公司職員（除法務外）的受訪者佔比最高，其次在校學生、公職人員/事業單位人員也是兩大受訪群體。從居住地看，受訪者來自全國30個省市，以北京、安徽、廣東等地居多。
問卷樣本職業特徵
從整體使用情況看，近45%受訪者經常使用生成式ai產品，15.35%稱「頻繁」使用，「偶爾」使用的受訪者佔到32.16%，這意味着大多數用戶都對生成式ai產品有一定的使用頻率。在稱「偶爾」或「從來不用」的受訪者中，女性的佔比男性高，不過一旦「上手」後，女性經常使用的頻率高於男性。
受訪者使用生成式ai頻率
在產品偏好方面，受訪者使用最多的幾款生成式ai是百度文心一言（61.81%）、chatgpt（47.17%）、位元組豆包（39.85%）、科大訊飛星火（19.43%）、kimi（18.9%）、通義千問（12.77%）。可以看出，市面上提供的生成式ai產品很多，但用戶選擇集中度較高，尤其在國內使用有一定限制的chatgpt也備受青睞。
受訪者最常使用的生成式ai產品
這些人群使用生成式ai產品用於哪些目的？調查結果顯示，近八成受訪者稱主要用於辦公場景，超六成稱用於學習科研場景，這反映了ai工具有助於提升工作和學習效率。
此外，用於內容創作的佔比為40.59%，用戶在創意領域已開始採納生成式ai；用於生活娛樂目的的佔33.4%，而情感陪伴的使用比例僅有10.58%，說明在心理支持和情感陪伴方面，用戶對生成式ai接受度較低。
生成式ai的主要使用場景
在內容質量評價方面，受訪者認為生成式ai最值得信任的是「文本內容的真實性和邏輯性」，其次是「對話的自然性和互動性」，而繪畫、音頻和視頻生成的質量相對較低，尤其是視頻生成。這說明用戶對ai大模型的文本、對話能力的認可度更高，但在音視頻、繪畫創作上，其實際能力與用戶期待仍有差距。
超七成受訪者對生成式ai潛在風險「略有了解」
2024年是大模型「應用落地之年」，隨着大模型應用的日益普及，更多用戶開始使用和掌控它。對新技術抱有期待的同時，也引發了公眾對於虛假信息、算法歧視、侵犯知識產權、數據安全、個人隱私泄露、就業衝擊等擔憂。
問卷結果顯示，大多數受訪者（76.76%）對生成式ai的潛在風險「略有了解」，「非常了解」的人佔比僅為12.01%，另有11.23%的人表示完全不了解。這說明雖然大部分人對生成式ai有一定的認識，但深入了解的比例相對較低。結合使用頻率看，使用生成式ai越頻繁的人，對其潛在風險的了解程度越高。
受訪者對生成式ai各項風險的擔憂程度
受訪者對於不同潛在風險的擔憂程度也存在顯著差異。其中虛假信息與欺詐最令受訪者擔憂，其次是隱私與數據安全，另外科研誠信風險、版權作品被盜用風險的擔憂程度也較高。
結合性別特徵繼續分析發現，受訪女性對生成式ai帶來的隱私風險的擔憂程度整體都高於男性。反觀職業替代風險方面，男性選擇完全不擔心或不太擔心被ai替代的比例明顯高於女性，說明面對ai「搶飯碗」的競爭，男性比女性認為自身不可替代性更強。
不同性別群體對ai隱私風險的認知
生成式ai潛在風險類型多樣，但大體上涉及用戶隱私數據安全、版權作品保護、深度偽造和ai情感陪伴上癮等，報告就該四個方面作出進一步分析。
在隱私數據安全風險方面，約三成受訪者了解網絡平台利用個人數據訓練大模型，另有57.83%的受訪者對此有所耳聞，這顯示出當前公眾對數據「餵養」大模型議題的高關注度。交叉分析發現，使用大模型服務頻率越高以及學歷越高的受訪者，對平台利用個人數據訓練大模型的情況更為了解。
生成式ai使用頻率與用戶數據投喂ai訓練知悉度分析
調查還發現，大多數用戶並不排斥將數據免費提供給網絡平台使用——贊同將用戶數據用於訓練大模型的比例超過一半，但前提是平台作出具體說明且保護好個人數據。如果加上「無所謂」的人群，合計比例接近六成。不過，不可忽視超四成受訪者不贊同平台使用個人數據訓練，且要求平台提供拒絕和退出功能。另外，超七成受訪者採取過措施來保護自己在網絡平台的數據和隱私。
從生成式ai出世以來，是否應將版權作品用於大模型訓練納入合理使用制度保護範疇的問題就持續困擾着司法實務界。調查發現，僅11.23%的人贊同將版權作品用於訓練大模型納入合理使用範疇，高達42.72%的人認為必須徵得版權人同意方能使用，還有43.33%的認為需要分情況討論，例如區分商業和非商業使用、區分作品的深加工和淺加工。
受訪者對版權作品用於訓練大模型的看法
版權歸屬問題上，14.87%的受訪者認為，生成內容版權完全歸用戶自己；另有高達72.82%的受訪者則考量在生成內容可版權性的基礎上，再進一步把受版權法保護的作品屬於用戶。兩個數據指向的最終版權歸屬均為用戶，合計比例達87.69%。
ai生成影像、換聲及換臉技術被濫用可能帶來虛假信息製造和傳播問題，對個人權益、社會安全等構成嚴重威脅。問卷結果顯示，近九成受訪者對ai擬聲、ai換臉等深度合成技術被濫用的情況「有所耳聞」，7.65%的受訪者表示有過相關遭遇，二者合計佔比94.42%，說明公眾對深度合成技術濫用的認知普遍較高。
如何解決這些技術濫用問題？32.22%受訪者認為當下最迫切的是制定出台規制ai造假的政策文件，即支持通過立法扼制技術濫用現象的人最多；其次是對ai生成內容添加明確的標識（22.94%）；加大行政監管打擊懲處力度（17.29%）排在第三，平台加大對ai生成內容的監測審核（13.35%）位列第四。
受訪者對扼制ai技術濫用行為應採取措施的態度
交叉對比還可以看出，在「非常了解」生成式ai風險的受訪者中，25.76%認為最迫切的應對措施是對ai生成內容添加明確標識，「略有了解」的比例也為23.4%，而完全不了解風險的群體中，這一比例僅16.76%。這說明對生成式ai風險感知越高，越重視生成內容標識的必要性。
ai陪伴已經是當下人工智能領域成長最快速的賽道之一，但隨着「ai復活熱」引發一系列法律倫理爭議，今年10月一起與ai陪伴產品有關的美國少年自殺訴訟案出現，其潛在風險正逐漸顯露。
問卷結果顯示，超過八成（81.67%）受訪者聽說過滿足情感需求的ai陪伴產品，還有7.46%使用過產品，11%受訪者沒聽說過。從性別來看，聽說過此類產品的女性受訪者比例略高於男性，但男性的使用比例略高於女性，他們更傾向於認為ai陪伴產品能提供情感代償。
問及ai陪伴產品能否提供情感代償，37.14%受訪者選擇「不好說」，佔比最高；36.77%持否定意見，另外26.09%給肯定答案。說明公眾對ai陪伴產品能帶來的情感交互體驗，持保留態度的居多。超四成受訪者認為應對所有ai陪伴產品用戶作出提醒和限制，39.20%認為僅對未成年人、老年人等特殊群體有必要。
受訪者對是否提供提醒和限制使用ai陪伴產品的態度
學歷越高、法律素養越高的人越傾向於逐步推動立法
隨着公眾對生成式ai潛在風險的關注愈發加深，越來越多受訪者認為應通過專門的法律來應對隱私保護、數據安全以及ai帶來的倫理挑戰等問題。
調查結果顯示，近九成受訪者對ai立法持積極態度。具體而言，超過一半（53.40%）的受訪者認為應儘快制定專門的法律框架，以應對生成式ai帶來的潛在風險。同時，約34.28%受訪者雖然不認為立法必須立即出台，但也支持啟動立法程序，開展相關討論與準備。這兩項合計佔據了87.68%的比例。
受訪者對ai立法的看法
交叉分析可以發現，受訪者對ai立法的支持度與他們的教育水平、職業背景密切相關。高中及以下學歷的群體中，約42.5%的受訪者支持儘快制定法律；大專和本科學歷群體的支持度顯著提高，分別為56.32%和57.46%。值得注意的是，碩士和博士群體則表現出較為審慎的態度，雖然支持儘快立法的比例仍然較高，但有更大比例的人傾向於認為應啟動立法程序，分別為42.86%和45.07%。
從職業看，律師、法務人員和高校科研人員對人工智能立法的態度較為審慎。50.85%的律師支持啟動立法程序；高校學者及科研人員中，45.45%的人支持儘快立法，43.18%主張啟動立法程序。相比之下，企業主和公司職員對立法的支持則較為強烈，其中54.84%和54.27%的人支持儘快出台法律，這或許反映了其對人工智能在商業領域應用的期待以及對規範化管理的迫切需求。
不同學歷群體對ai立法的看法
事實上，人工智能立法已被我國立法部門提上日程。全國人大常委會2024年度立法工作計劃，將「人工智能健康發展等方面的立法項目」列入預備審議項目；國務院2024年度立法工作計劃亦明確「預備提請全國人大常委會審議人工智能法草案」。今年6月，國家網信辦副主任王崧專門回應了人工智能立法的熱點問題，稱將注重專門性立法和綜合性立法相結合，推動人工智能健康有序發展。
采寫：南都記者 樊文揚 李玲 楊柳 黃莉玲
製圖：黃莉玲
設計：李蓓
