10月24日上午,第六屆世界聲博會暨2023全球1024開發者節在安徽合肥開幕。開幕式上,科大訊飛星火認知大模型V3.0正式發布。
但當天午後,科大訊飛股價急轉直下大跌10%,原因或在於一則訊飛學習機中的不當內容引起網友熱議。
據海報新聞報道,近日,有家長在自家孩子的科大訊飛學習機中的《藺相如》一文里,發現了一些扭曲歷史等違背主流價值觀的內容,引起了網友們的激烈討論。10月22日,科大訊飛工作人員在接受記者採訪時就該問題做出回應,目前已永久性下架該文章,並進行系統性排查。
對於此事件的後續影響以及未來會如何防範,科大訊飛董事長劉慶峰在10月24日下午回應記者稱,科大訊飛始終關注教育中的信息安全,公司第一時間對該內容進行了下架處理,也對合作夥伴以及內部員工進行相應的處罰,同時會把用在大模型上的內容審核機制迅速放到學習機上,做更嚴格的審核。
科大訊飛董事長劉慶峰。受訪者供圖
“這其實是10月16日一個家長發現的問題,這篇內容是來自合作夥伴,我們跟合作夥伴有明確協議要保障內容安全”,劉慶峰向記者表示,“這一意外出現的原因在於,審核過程還沒結束,相關人員就匆匆忙忙上線試用。出現了這個問題,我們發現以後第一時間趕快下架,而且對合作夥伴做了處罰,我們自己內部也做了相應的處分,同時把我們用在大模型上的內容審核的機制,迅速放到學習機上做更嚴的審核。”
此外,劉慶峰指出,鋪天蓋地的輿情存在幕後推手,意在影響科大訊飛的股價和社會形象。“說到底是因為害怕我們大模型做得太好,我覺得越打壓越會激發我們的鬥志,但同時也讓我們看到,教育上我們確實還要更加嚴格地做好內容保障,從一定角度上來說,這樣的打壓會讓我們變得更成熟、更健康。”