為規範互聯網信息服務演算法推薦活動,國家互聯網信息辦公室8月27日公布《互聯網信息服務演算法推薦管理規定(徵求意見稿)》(簡稱《意見稿》),向社會公開徵求意見。
來源:網信辦
《意見稿》的內容包括:演算法推薦服務提供者不得利用演算法虛假點贊、流量造假、操縱榜單或控制熱搜等,影響網路輿論或規避監管;應當加強信息內容管理,積極呈現符合主流價值導向的信息內容;應當向用戶提供便捷的關閉演算法推薦服務的選項。同時,《意見稿》提出,將建立分類分級管理制度,相關演算法推薦服務提供者要履行備案手續。
《意見稿》所稱應用演算法推薦技術,是指應用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等演算法技術向用戶提供信息內容。
事實上,這幾乎涉及所有基於演算法進行商品推薦、內容傳播等業務的互聯網公司。
有從事演算法工作人士在社交平台轉發該《意見稿》時表示,《互聯網信息服務演算法推薦管理規定》有望改變過去演算法推薦完全依靠服務商自身道德自覺的情況。
堅持主流價值導向
加強內容管理
《意見稿》對演算法推薦服務提供者提出了價值導向要求,同時要求加強信息內容管理。
《意見稿》第六條規定,演算法推薦服務提供者應當堅持主流價值導向,優化演算法推薦服務機制,積極傳播正能量,促進演算法應用向上向善。第八條規定,演算法推薦服務提供者應當定期審核、評估、驗證演算法機制機理、模型、數據和應用結果等,不得設置誘導用戶沉迷或者高額消費等違背公序良俗的演算法模型。
《意見稿》第十一條規定,演算法推薦服務提供者應當加強演算法推薦服務版面頁面生態管理,建立完善人工干預和用戶自主選擇機制,在首頁首屏、熱搜、精選、榜單類、彈窗等重點環節積極呈現符合主流價值導向的信息內容。
《意見稿》尤其強調了對未成年人提供服務時要履行未成年人保護義務。第十六條規定,演算法推薦服務提供者應通過開發適合未成年人使用的模式、提供適合未成年人特點的服務等方式,便利未成年人獲取有益身心健康的信息內容,不得利用演算法推薦服務誘導未成年人沉迷網路。
不得「殺熟」
演算法推薦應可關閉
大數據演算法對消費者「殺熟」等現象曾引發社會廣泛討論。
《意見稿》第十八條規定,演算法推薦服務提供者向消費者銷售商品或者提供服務的,應當保護消費者合法權益,不得根據消費者的偏好、交易習慣等特徵,利用演算法在交易價格等交易條件上實行不合理的差別待遇等違法行為。
此外,《意見稿》也意圖打破演算法的「黑箱」狀態。第十四條規定,演算法推薦服務提供者應當以顯著方式告知用戶其提供演算法推薦服務的情況,並以適當方式公示演算法推薦服務的基本原理、目的意圖、運行機制等。
《意見稿》第十五條提出,演算法推薦服務提供者應當向用戶提供不針對其個人特徵的選項,或者向用戶提供便捷的關閉演算法推薦服務的選項。
上周,全國人大常委會會議表決通過《中華人民共和國個人信息保護法》。針對日益普遍的自動化決策應用,《個人信息保護法》明確要求保證決策的透明度和結果公平、公正,並賦予個人相關的知情權和拒絕權,特別是在通過自動化決策方式向個人進行信息推送、商業營銷的應用場景中,有權同時獲得不針對其個人特徵的選項或者拒絕的途徑。
擬建立分類分級管理制度
實際上,搜索排序、熱搜榜單、流量數據的背後都是演算法。《意見稿》第十三條專門規定,演算法推薦服務提供者不得利用演算法虛假註冊賬號、非法交易賬號、操縱用戶賬號,或者虛假點贊、評論、轉發、網頁導航等,實施流量造假、流量劫持;不得利用演算法屏蔽信息、過度推薦、操縱榜單或者檢索結果排序、控制熱搜或者精選等干預信息呈現,實施自我優待、不正當競爭、影響網路輿論或者規避監管。
根據《意見稿》,國家網信部門擬建立分類分級管理制度,根據演算法推薦服務的輿論屬性或者社會動員能力、內容類別、用戶規模、演算法推薦技術處理的數據敏感程度、對用戶行為的干預程度等對演算法推薦服務提供者實施分類分級管理。
具有輿論屬性或者社會動員能力的演算法推薦服務提供者應當在提供服務之日起十個工作日內通過互聯網信息服務演算法備案系統填報服務提供者的名稱、服務形式、應用領域、演算法類型、演算法自評估報告、擬公示內容等信息,履行備案手續。
本文源自中國證券報