用友發布大模型,企業服務市場有了新引擎

在企業服務領域深耕35年的用友,如何應對人工智慧新範式帶來的機遇和挑戰。

文|游勇 徐鑫

編|周路平

所有行業都值得基於人工智慧技術重做一遍。類似的判斷已經司空見慣,大模型帶來的技術新範式正在加速這一進程。「人工智慧已是我們這個時代最前沿和普適的科學技術之一。」用友網路董事長兼CEO王文京說。

7月27日,用友發布了業內首個企業服務大模型YonGPT。在企業服務領域深耕了35年的用友,在一些開源或者閉源的通用大語言模型之上,結合海量的行業知識和真實的行業場景,訓練出了企業服務大模型

目前YonGPT還處於1.0版本,本次發布的是基於這個大模型的首批智能化場景服務。王文京表示,後面大模型會持續迭代訓練,並不斷豐富基於這個大模型的各類企業服務。

過去幾十年,用友的核心產品完成了從財務軟體到企業管理軟體,再到現在商業創新平台用友BIP的升級。而隨著YonGPT的發布,大模型在自然語言上的交互表現和內容生成上的強大能力,將給用友BIP打開巨大的想像空間。

「企業服務已進入AI創新時代,商業創新也進入到全面數智商業創新的新時代。」用友網路執行副總裁兼CTO樊冠軍說,YonGPT是用友BIP產品智能化的一部分,實際上也是用友為客戶提供的一個商業基礎設施

01

企業服務正在被大模型重構

先來看幾個企業服務的具體場景:

張總是一家消費品企業的財務高管,面對瞬息萬變的商業環境,他希望能了解公司實時的財務數據。他通過基於用友YonGPT打造的AI經營助手「智友」發出查詢指令:分析今年截止7月份的盈利情況。YonGPT很快生成了利潤總額、同比增長率,做出了低於年初3.65%增長目標的洞察分析,並繪製了直觀豐富的圖表,可以看到每個月累計利潤雖有所增長,但是同比增長率卻在逐月下降。

光有這些數據是不夠的,「看一下詳細數據」,YonGPT又給出了更詳細的經營數據,包括盈利總額、產量、銷量和預算執行情況、各類產品利潤情況等實時信息。

而後大模型又分析了華北分公司的情況,分析利潤不及預期的原因,然後基於產銷計劃數據預測下個月的利潤情況,並自動總結推理出測算後的總體利潤以及與年初目標的對比情況。讓管理層隨時隨地進行盈利分析、經營預測、歸因洞察、行業對標等一體化決策

業務員小林正在與客戶進行RFQ(報價請求)的溝通。以前都是在微信、QQ等社交軟體上完成,白天與客戶交流,晚上再打開公司系統,手動一行一行錄入,不僅辛苦,也很割裂。

現在在大模型的加持之後,一邊聊天溝通,系統會摘錄和提取聊天記錄的關鍵信息,自動生成訂單摘要,如有信息缺失,經過預訓練的YonGPT也會給出相應的提示,如送貨日期未提供。業務員可再次發起與客戶的溝通,進行信息補全。「聊天式地完成了原來軟體的系統化的工作。

這是用友企業服務大模型正在給企業服務場景帶來的真實改變。在7月27日的發布現場,樊冠軍介紹到,基於大模型的人工智慧在企業服務領域的應用主要集中在4個方向上:智能化的業務運營、自然化的人機交互、智慧化的知識生成、語義化的應用生成。用友企業服務大模型YonGPT圍繞這四個方向推進模型訓練和產品效果優化。

不難發現,這四大方向都有幾個共同特點:一是全程都是通過自然語言的交互完成,「實際上已經沒有菜單的概念了」。

以前,企業的痛點在於,數據藏得很深。功能都很全,但大部分企業只能用到裡面很小的一部分,數據潛力挖掘得遠遠不夠。比如公司管理層想要看到具體數據,還需要中間有人幫忙整理,中間來回調整,不僅麻煩,而且影響效率。現在管理層可以直接跟系統對話,自己就能調整,實時掌握最新經營情況。

二是實現基於上下文的多輪對話,通過一步步輸入提示詞,不斷獲得更加深入的分析結果。從最簡單的信息展示,到最終的商業決策,都在大模型的輔助之下,變得高效且有依據。

三是強大的內容生成能力。一方面是知識的生成,比如歸納總結文檔的內容,提煉對話要點等。另一方面是應用生成,低代碼在企業應用的搭建上非常流行,但低代碼並非完全沒有門檻,依然需要業務人員有一定的代碼能力和邏輯能力。而大模型讓低代碼的搭建可以基於自然語言進行。

大模型的推出給企業服務帶來了極大的變革。一方面是極大降低了數據使用門檻,管理層用數的需求不需要經過重重轉包,可以用自然語言直接從系統中獲得信息。從戰略層面,企業內數據應用變得更以人為本。

另外,大模型也極大推動了企業內結構化和非結構化數據的融合。此前用友BIP系統里大量的結構化數據可以直接被系統識別和分析。但許多非結構化數據,比如視頻、圖片、圖譜等,使用時需要人去檢索和識別,不易被充分利用。

大模型技術應用後,系統能夠輕鬆跨越結構化數據和非結構數據,實現即搜即問即答。這種融合還能極大簡化產品的界面,比如原來分散在不同界面的人力知識系統、財務知識系統和業務知識管理系統能實現合併,形成一個7*24小時的助手為企業用戶服務。

樊冠軍認為,通用大語言模型與用友企業服務大模型、用友BIP系統及企業內私域數據的結合,正在推動企業服務領域裡智能應用服務時代的到來

02

YonGPT背後的三層架構

用友很明確的一點是,不做通用大語言模型,而是選擇在閉源或開源的通用大模型之上,來構建自己的企業服務大模型YonGPT,實現跨模型適配。

YonGPT的整體架構分了三層,L0層是通用大模型底座,L1層是YonGPT企業服務大模型,L2層是領域或行業模型精調的智能化場景服務

樊冠軍認為,在雲原生時代人們常說跨雲適配,在大語言模型時代,企業服務也需要跨模型進行適配。目前,YonGPT在最底層的通用大模型底座上,可以適配業界主流的大語言模型,既包括包括百度的文心一言等閉源模型,也支持智源悟道、質譜ChatGLM以及LLaMA等開源大模型。在國外,YonGPT還可基於ChatGPT來提供服務。

無論哪一種方式,行業大模型都離不開大量的精調和提示工程,用友在這個環節做了細緻的工作。YonGPT通過上下文記憶、知識/庫表索引、Prompt工程、Agent執行、通用工具集等擴充大模型的存儲記憶、適配應用和調度執行能力。除此之外,用友也考慮到了插件建設。涉及到與外部系統的互動以及調用,可以用插件服務來完成。

YonGPT內置了一個Agent執行層,作為整體的指揮調度中心,對企業用戶的需求進行區分。一些需要返回確定性結果,並且對可靠性要求高的任務,系統會自動交回用友BIP或小模型,由企業服務領域原有的功能來完成。對一些需要推理判定,有不確定性或模糊性的任務,交給大模型去開發。

最上面的L2層是場景化的智能應用。目前發布的YonGPT1.0版,用友推出了包括企業經營洞察、智能訂單生成、供應商風控、動態庫存優化、智能人才發現、智能招聘、智能預算分析、智能商旅費控、代碼生成等在內的數十種基於企業服務大模型賦能的智能應用。樊冠軍介紹,未來用友會進一步豐富場景,將更多的功能場景開放出來,比如智能保修檢修等服務已經在開發中。

眾所周知,通用大語言模型有時會一本正經的胡說八道,而在企業生產和經營場景,互動的結果需要可信、可靠。樊冠軍介紹,YonGPT能夠真正在企業服務領域應用,本質上依靠三大技術來實現:

首先是互動式數據查詢與指令執行。此前的智能人機交互經常被吐槽不夠聰明的原因在於,稍有語義改動和問法變化,系統就不能正確識別 ,同時這些軟體也不能很好理解上下文內容。經過專門訓練後,YonGPT能夠準確識別用戶的提問,判斷用戶提問的意圖及與之相關聯的意圖,保證交互準確。

其次是業務知識查詢問答。大模型技術可以解決多模態數據的問題。多模態的視頻、圖片和表格數據,通過切片,倒排索引和向量索引等技術處理,各類數據口徑對齊,形成企業內的多路索引庫。這些索引庫都在私域內,L0層和L1層的模型學習、訓練和調用都在私域內,保證了數據的安全性,同時得到了企業內知識的「可搜可問答」 。

第三是複雜任務執行系統。通過大模型的任務鏈技術將複雜任務分解一系列微服務執行,把確定性交給已有系統或者小模型,不確定性和系統調度交給大模型。

另外,YonGPT還優化了企業服務大模型的訓練效率和成本,集成了豐富的開發工具和優化演算法,通過自有的數據管理、大模型精調、大模型評估優化、大模型推理和插件服務等功能,為大模型的構建和服務提供穩定且有效的支撐。後續YonGPT將會對用友整體產品體系進行全面的能力覆蓋。

03

用友的優勢在哪裡?

今年4月,用友BIP技術大會上,用友透露已經開始啟動企業服務大模型的訓練。在外界看來,從啟動訓練到現在發布,YonGPT籌備的時間也不到半年時間。但事實上,用友在智能化應用和服務方面已布局多年,相關技術也有很深的積累

「用友BIP從研發伊始就堅持把數字化和智能化作為兩個最核心和基本的特性,在數字化基礎上,結合IPA(智能流程自動化)、計算機視覺、自然語言處理、知識圖譜等智能技術,研發提供了一批智能化的應用與服務,已在一批企業中得到應用。」王文京說。

比如用友開發的智多星RPA(機器人流程自動化),匯聚了上千個場景用例,在銀行回單下載、對賬、開票、稽核等業務場景中,代替人完成高重複、標準化、規則明確、大批量的日常事務性操作。

在工業領域,用友的人工智慧技術被用於廢鋼定級、礦山巡檢、供水監測等場景。用友BIP的廢鋼智能判級系統的準確率達95%以上,已服務包括鞍鋼集團、濟源鋼鐵在內的20餘家鋼鐵行業領軍企業。

一位大模型領域的業內人士告訴數智前線,大模型作為人工智慧領域一種新的技術範式,背後的技術和演算法並不是新的發明,但如何調優、如何工程化落地,還是一個很有門檻的事情,需要有足夠的人才和技術儲備。

用友此前在人工智慧領域的積累,給大模型的訓練和應用打下了很好的基礎。比如用友花了7年時間組織數千人研發的用友商業創新平台-用友BIP,其數智化底座就包含了智能中台。它提供了圖片、文本、視頻處理的AI介面、智能搜索、知識圖譜等AI基礎能力,以及數智員工、VPA、RPA、AI工作坊等AI開發工具。如今相當於在基礎設施層增加了大模型,讓數智化底座變得更為紮實。

而且,用友BIP本身也是基於雲原生的技術理念開發,做到了微服務化和API化。隨著智原生(AI Native)時代的到來,大模型的能力通過API與各類軟體打通,實現了AI的普及和應用。

高質量的領域數據語料的投喂是大模型變得更專業的重要保障。通用大語言模型有很強的泛化能力和內容生成能力,但準確性不夠,所以在解決行業具體問題時,往往需要行業數據進行精調。

這是用友深耕企業服務多年積累的優勢,用友的人工智慧團隊結合企業應用場景和領域經驗,標記了大量的企業服務語料數據,形成豐富的企業服務大模型訓練素材,並將業務知識與領域經驗融入企業服務大模型,比如財務、人力、供應鏈、採購和營銷等領域的知識,確保了大模型的專業性和實用性。

據數智前線獲悉,用友也會收集一些行業的公共數據,包括政策法規等。同時,用友也將自身在研發領域的知識用於模型訓練。在基礎大模型之上,訓練成了企業服務領域通用的大模型,然後提供給整個智能化的場景服務。

今年年初,用友進行組織升級,組建了多個行業客戶與解決方案事業部,對大型企業客戶的數智化解決方案與服務由此前的「以地區為主,地區+行業」組織模式升級為「以行業為主,行業+地區」的運行模式。深耕行業多年,並且持續加強對行業的理解,使得用友積累了豐富的行業know-how,這些經驗和知識成為了用友企業服務大模型的優勢

再者,用友3.0階段的戰略級產品用友BIP涵蓋財務、人力、供應鏈、採購、製造、營銷、研發、項目、資產、協同十大領域,提供了覆蓋企業業務和管理主要領域融合一體的應用,是目前全球領域覆蓋最多的企業應用服務群。而這些被廣泛應用的企業應用服務,將成為YonGPT的最佳練兵場。

領先和具有豐富應用場景的企業軟體與服務產品體系、覆蓋數十個行業的數百萬客戶基礎、35年服務企業客戶積累的行業知識經驗、專業的智能化團隊和能力是用友研發訓練企業服務大模型的獨特優勢。