上海交大推出本地化部署版DeepSeek,與直接接入有何不同?

2月17日,上海交通大學迎來了春季新學期開學的第一天。當日,上海交大官方發布消息,推出國內高校首個全國產化、「r1+v3」全系列本地部署的滿血版deepseek 671b。

上海交大介紹,這是上海交大網路信息中心聯合華為公司技術攻關,基於鯤鵬昇騰科教創新卓越中心的昇騰平台部署,提供交大人專享的千億級大模型服務,開箱即用、數據不離校,將進一步提升智慧化教學科研管理水平。

上海交大網路信息中心工作人員王老師向澎湃新聞(www.thepaper.cn)記者解釋,簡而言之,deepseek r1和v3,一個更偏數理,一個偏文學語言,而deepseek的本地化部署和直接接入也有些不同。「若直接用deepseek接入,連接的服務還是由deepseek提供的,伺服器等在校外。而在本地部署的情況下,伺服器等都在校內網裡,網路質量更穩定。更重要的一點是,師生上傳一些偏敏感的數據或做文件處理時,因為數據不離校,數據安全能得到更好的保障。」

論文速讀:用中文快速總結論文創新點、方法和實驗結果。上海交大 供圖

據悉,目前該系統還在內測階段,不日向全校開放後,上海交大師生可在平台進行問答。此外,本地化部署的deepseek已為上海交大ai應用平台提供新一代大模型底座,升級了高等數學、概率統計、線性代數、數學分析、抽象代數、信號與系統等課程的數學深度推理ai學習工具,不僅回答準確率更高,還可給出解題思路指導和引導式問題,鍛煉分析和推導能力,更多學科課程的ai教學應用將得到升級。而基於deepseek代碼理解和深度分析能力,ai應用平台編程助手、論文速讀、英文寫作指導等應用輔助科研和學習的效果也將顯著提升,為師生打造更多強有力的ai助手。

澎湃新聞記者梳理髮現,對deepseek大模型進行本地化部署的滬上機構並不在少數,高校、醫療、金融領域皆有。據悉,deepseek系開源大語言模型,任何用戶皆可免費基於該模型開展訓練工作,進而進行個性化開發或模型優化,以滿足不同用戶在多元場景下的特定需求。

比如,2月13日,上海市第六人民醫院介紹,已於日前在醫院內網搭建了deepseek本地化部署環境,專攻醫療健康方向,用於提升醫療服務及醫療管理的智能化程度。具體而言,醫院將deepseek應用於醫院的日常管理和醫療服務中,如日常辦公如回標分析、合同審核等管理流程,並嘗試將其應用在包括門診預問診、報告解讀、病歷質控及醫學科研等多個方向。

deepseek已在上海市第六人民醫院本地化部署,圖為實際問題應用效果展示。「上海市第六人民醫院」微信公眾號 圖

上海市第六人民醫院金山分院也發布消息稱,市六醫院金山分院成功實現deepseek人工智慧大模型的本地化部署。從2月12日起,在醫院所有醫生工作站都可使用deepseek,醫務人員可通過ai實時獲取相關疾病的臨床表現、治療方案、藥物推薦等信息,提高診斷效率,減少誤診風險,輔助為患者提供更個性化、更精準的治療方案,特別是在疑難雜症的診斷過程中,deepseek模型的分析與建議,為醫生提供重要輔助決策支持。

2月13日,上海證券發布消息稱,其已成功完成deepseek大模型的本地化部署,標誌著公司在金融科技自主創新領域邁出關鍵一步。此次部署將全面適配證券行業財富管理業務核心場景,實現ai技術從底層架構到應用生態的自主可控,為打造智能化、個性化的財富管理零售服務體系奠定堅實基礎,以技術創新引領數字化轉型。