腦子一熱花幾百萬買個大模型,卻看不到有什么業(yè)務(wù)價值,這可能是過早投入大模型的代價。
大模型廠商希望快速實現(xiàn)大模型商業(yè)化,必然要打造一批標桿場景和用例,讓企業(yè)客戶看到真正價值并為之買單。作為一家大數(shù)據(jù)BI(商業(yè)智能)和分析平臺提供商,帆軟很快就進入到了大模型廠商和企業(yè)客戶的視線。
“大家第一個想到的是知識庫,第二個可能就是BI,企業(yè)客戶提了很多需求,類似復(fù)雜報表、BI等業(yè)務(wù)場景,大模型廠商自己搞不定,這也是為什么很多國內(nèi)國外的頭部大模型,都會主動來找帆軟合作去打造場景?!狈汧ineChatBI負責人翁林君表示。
實際上,這并不是AI第一次“入侵”BI,但卻可能是影響最大、最深遠的一次,在帆軟看來,生成式 AI 的快速發(fā)展為 BI 產(chǎn)品帶來了巨大的技術(shù)紅利,帆軟堅持AI for BI 而不是 AI + BI。
“BI領(lǐng)域肯定不止于大模型,還涉及到數(shù)據(jù)連接、圖表渲染、計算引擎、權(quán)限管理等各種基礎(chǔ)能力,沒有大模型之前,BI也在用機器學(xué)習(xí)去解決一些問題,只是大模型是一個增強版的AI技術(shù)。另外,如果底層數(shù)據(jù)臟亂差,AI也很難用起來,數(shù)據(jù)治理很重要,表面是大模型,冰山之下是數(shù)據(jù)治理。”翁林君說。
大模型不是BI的“萬能藥”,BI也不是大模型的“低垂果實”?;孟氪竽P湍芤幌伦痈淖傿I產(chǎn)品的核心邏輯,以及BI很容易就可以被大模型塑造成標桿場景,都是不切實際的想法。
迄今為止,BI產(chǎn)品的演進大致經(jīng)歷了傳統(tǒng)BI、敏捷BI、增強BI的過程?!皞鹘y(tǒng)BI”產(chǎn)品起源于上世紀八九十年代,代表性技術(shù)包括 SQL、OLAP 數(shù)據(jù)可視化等,用戶的使用門檻非常高,能把 BI 用好的都是 DBA 和 MBA 的結(jié)合體,在一個企業(yè)內(nèi)的占比不到1%。
隨后,數(shù)據(jù)可視化技術(shù)VizQL 的出現(xiàn),讓一部分懂 OLAP 數(shù)據(jù)模型,同時具備一定的數(shù)據(jù)思維和業(yè)務(wù)理解的分析師和業(yè)務(wù)部門的數(shù)據(jù) BP 能夠用“敏捷 BI”產(chǎn)品做自助分析,用戶的滲透率大幅提升到10%左右。
緊接著機器學(xué)習(xí)、深度學(xué)習(xí)等AI技術(shù),從學(xué)術(shù)界蔓延至工業(yè)界,咨詢機構(gòu)Gartner 把該階段的 BI 產(chǎn)品叫做“增強 BI”,核心理念是用 AI 技術(shù)去增強 BI 產(chǎn)品的能力,業(yè)界開始嘗試用這些技術(shù)去進一步降低 BI 產(chǎn)品的使用門檻,催生了早期的檢索式/對話式 BI 產(chǎn)品。
帆軟對于AI的態(tài)度始終不溫不火,此前也較少談及AI,但據(jù)鈦媒體App了解,帆軟內(nèi)部團隊對AI做了一輪又一輪的驗證,尤其在2019年前后,國內(nèi)外廠商紛紛推出“問答式 BI”功能,帆軟也開始探索“問答式 BI“產(chǎn)品化落地的可行性,成立了專項團隊做產(chǎn)品化嘗試,并推出 FineAI 進行小范圍驗證。
當時的“問答式 BI”在技術(shù)上大都采用規(guī)則解析或規(guī)則解析+端到端(?。┠P偷姆椒▉韺崿F(xiàn)文本到 SQL 的轉(zhuǎn)化,技術(shù)上的限制導(dǎo)致問答的召回和精度不夠理想。并且由于端到端(?。┠P偷目鐖鼍胺夯芰Σ蛔?,就需要針對特定場景不斷的增加語料,并重新訓(xùn)練模型來提高精度和召回,從而導(dǎo)致實施成本變得難以接受。
如此,這就導(dǎo)致“問答式 BI”會面臨意圖識別、查詢結(jié)果的精度和基于場景定制化開發(fā)、部署的成本之間不可調(diào)和的矛盾,并最終淪為一個擺設(shè),實際用起來的少之又少,用戶的滲透率并沒有得到大幅提升,因此帆軟終止了“問答式 BI”產(chǎn)品的市場推廣。
直到大模型的到來,其跨任務(wù)、跨場景的泛化能力,讓業(yè)界看到了實現(xiàn)一個成熟、能落地的“問答式 BI”產(chǎn)品的可行性。
“大模型的泛化能力很強,不需要針對每個數(shù)據(jù)集做單獨訓(xùn)練,同時內(nèi)嵌了海量知識,包括各行各業(yè)的數(shù)據(jù)分析領(lǐng)域知識,能夠幫用戶把業(yè)務(wù)問題拆解為分析思路,很大程度上解決了過去小模型所不能解決用戶側(cè)和技術(shù)側(cè)兩個核心問題。”翁林君說。
回溯 BI 產(chǎn)品的發(fā)展歷史,會發(fā)現(xiàn)有一條清晰的主線,就是不斷的利用新技術(shù)降低數(shù)據(jù)分析門檻,使之有更大的受眾群體,和更廣泛的應(yīng)用場景。
具體到“AI For BI”的落地場景,大體可以分成兩大類。一類是嵌入到原有產(chǎn)品流程中,去提升搭建制作的效率。另一類是直接以對話為核心入口,去系統(tǒng)性地降低用戶的使用門檻。
前者,帆軟研發(fā)了“AI 小助手”,具體包括公式生成、組件制作、數(shù)據(jù)編輯、看板美化和分析報告五個功能,后者,帆軟孵化了“對話式 BI”產(chǎn)品 FineChatBI。
“AI 小助手確實能夠在某些場景下提升分析師的制作效率,但整體價值沒有通過降低數(shù)據(jù)消費門檻,讓更廣泛的業(yè)務(wù)用戶能夠用起來的價值大。所以,今年我們會重點投入 FineChatBI,目標是讓更多的能夠直接發(fā)揮數(shù)據(jù)生產(chǎn)力價值的業(yè)務(wù)用戶用起來?!蔽塘志f。
從市場客戶來看,BI需求可以按照兩個維度劃分,一是用戶數(shù)據(jù)分析能力,二是數(shù)據(jù)分析的復(fù)雜性,此前的BI產(chǎn)品主要瞄準了具備數(shù)據(jù)分析能力的復(fù)雜場景,如FineBI,而一些一線人員所需要的BI場景,往往業(yè)務(wù)不復(fù)雜,但是用不起來專業(yè)的BI產(chǎn)品,此時FineChatBI就正好提供給這類用戶。
“兩類產(chǎn)品滿足客戶不同場景的分析需求,有些業(yè)務(wù)人員不是分析師,也想做數(shù)據(jù)分析,使用FineChatBI入手快、效果好,另外一些分析師主要解決復(fù)雜的BI需求。”翁林君表示
大模型本身并不是BI的優(yōu)勢,在一個場景里面用好大模型才是,這需要清晰的場景設(shè)計、豐富的數(shù)據(jù)準備、可靠的基座模型。
在大模型到來之前,前一代的“對話式 BI”本質(zhì)上是一個對話式/檢索式取數(shù)工具,它的價值僅僅是讓業(yè)務(wù)人員更容易的取到數(shù)據(jù)。新一代“對話式 BI”一方面利用 Text2DSL采用完全可控的方式取到可信的數(shù)據(jù),另一方面,利用大模型 hypothesis testing 知識和分析思路生成能力補齊業(yè)務(wù)人員認知和能力上的差距。
“這就是為什么我們把產(chǎn)品定位成對話式業(yè)務(wù)分析工具,實現(xiàn)對話式的業(yè)務(wù)分析,讓業(yè)務(wù)人員能夠真正用起來。以可信查數(shù)為基礎(chǔ)能力,構(gòu)建思路拆解、數(shù)據(jù)查詢、異常檢測、歸因分析、趨勢預(yù)測、報告生成等整個分析閉環(huán)。核心是要了解每種技術(shù)的邊界,把最合適的技術(shù)去解決正確的問題,而不是拿著錘子找釘子,啥都用大語言模型去解決?!蔽塘志f。
大模型賽道越卷,對于帆軟這類做應(yīng)用場景的公司越是利好。不同的大模型數(shù)據(jù)樣本不同,最后收斂的方向不一樣,不同的任務(wù)帆軟會使用不同的模型,開源模型也是一個很好的選擇,帆軟這類企業(yè)能夠很明確地定義出場景里面的問題,然后能夠針對性地挑選模型,對應(yīng)準備數(shù)據(jù),從而優(yōu)化整個任務(wù)。
“雖然現(xiàn)在國內(nèi)很多大模型都號稱已經(jīng)追平了GPT-4,但我們測試下來最好的模型還是GPT-4,大部分場景我們會先用好的模型試驗這個場景能做到什么程度,驗證成功以后,我們就會用開源模型結(jié)合數(shù)據(jù)訓(xùn)練”,翁林君如是表示。
在數(shù)據(jù)治理方面,不同于前幾年大而全的中臺熱,帆軟采用以用帶建的方式做數(shù)據(jù)治理,大部分企業(yè)的中臺建設(shè)跟不上需求變化,帆軟用BI的需求反向推動數(shù)據(jù)治理,并且提供了一系列數(shù)據(jù)治理工具,貫穿數(shù)據(jù)從治理到呈現(xiàn)的業(yè)務(wù)場景,端到端的驅(qū)動業(yè)務(wù)決策。
“大模型對BI行業(yè)影響將持續(xù)在兩方面,其一,大模型作為一種技術(shù)紅利,可幫助解決傳統(tǒng) BI 中難以解決的問題,同時降低數(shù)據(jù)分析門檻,使更多用戶能夠參與其中。其二,大模型會滲透到數(shù)據(jù)全鏈路各個環(huán)節(jié)中,從數(shù)據(jù)采集、管理和使用等方面提升整體效率,從而實現(xiàn)BI行業(yè)全面升級。”翁林君總結(jié)道。(本文首發(fā)于鈦媒體APP,作者 | 張帥,編輯 | 蓋虹達)