突破可信困局，讓 AIGC 可信
人可以睜眼說瞎話指鹿為馬，而 AIGC 也可以一本正經(jīng)地提供不準(zhǔn)確的答案。然而，很多用戶都沒有能力來判斷 AIGC 給出的答案是否正確。
余利華表示，網(wǎng)易數(shù)帆大數(shù)據(jù)團(tuán)隊(duì)的目標(biāo)是希望降低數(shù)據(jù)的使用門檻，特別是不懂技術(shù)的人也能夠輕松地完成數(shù)據(jù)的使用。但是實(shí)現(xiàn)這一目標(biāo)的挑戰(zhàn)主要在于 AI 幻覺。
AI 幻覺的產(chǎn)生是由于訓(xùn)練數(shù)據(jù)不足、文本與表示之間的編解碼錯(cuò)誤等因素。當(dāng) AI 一本正經(jīng)的胡說八道時(shí)，它給出的答案，你是否還會(huì)相信呢？余利華表示，如果結(jié)果是不可信的，那做任何更多的功能都是沒有價(jià)值的。
為此，網(wǎng)易數(shù)帆突破可信的困局，讓用戶擁有判斷 AI 正確與否的能力，即使 AI 提供錯(cuò)誤的答案，用戶也知道錯(cuò)在哪里。有數(shù) ChatBI 從四個(gè)方面來去確保用戶獲得正確、可信的結(jié)果。
首先，需求可理解，是指網(wǎng)易數(shù)帆為彌補(bǔ)用戶認(rèn)知和復(fù)雜工具之間的門檻，提升準(zhǔn)確率，借助大模型的語言理解能力，先進(jìn)行需求分析，這樣即使是完全不懂BI的使用者也能通過需求分析內(nèi)容判斷系統(tǒng)的取數(shù)步驟是否正確。
其次，過程可驗(yàn)證，即借助基于大模型的NL2SQL能力實(shí)現(xiàn)復(fù)核。為了提升NL2SQL能力，網(wǎng)易數(shù)帆有針對(duì)性地定制生成和優(yōu)化了超過30萬不同類型的問法和SQL。余利華介紹，網(wǎng)易數(shù)帆調(diào)優(yōu)出的NL2SQL領(lǐng)域模型，效果已達(dá)到GPT-3.5的水平，但是速度更快，消耗更少的硬件資源，甚至支持消費(fèi)級(jí)顯卡部署。這也是垂直大模型針對(duì)性優(yōu)化策略帶來的效果。
第三，用戶可干預(yù)，即將數(shù)據(jù)模型和查詢條件結(jié)構(gòu)化，用戶可干預(yù)可調(diào)整，切換數(shù)據(jù)模型或者查詢條件。
第四，產(chǎn)品可運(yùn)營(yíng)，即網(wǎng)易數(shù)帆為有數(shù)ChatBI產(chǎn)品構(gòu)建了獨(dú)特的運(yùn)營(yíng)反饋機(jī)制，用戶可以反饋數(shù)據(jù)的準(zhǔn)確性，管理員可運(yùn)營(yíng)知識(shí)庫、標(biāo)記及優(yōu)化badcase，從而提升數(shù)據(jù)可靠性。
余利華表示，ChatBI 只是網(wǎng)易數(shù)帆很小的一個(gè)起步。整個(gè) BI 分為數(shù)據(jù)準(zhǔn)備、數(shù)據(jù)分析和數(shù)據(jù)應(yīng)用三個(gè)階段，每個(gè)階段都有 AI 落地的場(chǎng)景。未來，網(wǎng)易數(shù)帆大數(shù)據(jù)團(tuán)隊(duì)還會(huì)持續(xù)在 DataOps 和 AIGC技術(shù)等方面進(jìn)行探索，支持企業(yè)快速沉淀數(shù)據(jù)資產(chǎn)，降低數(shù)據(jù)的消費(fèi)門檻，推動(dòng)數(shù)據(jù)價(jià)值能夠真正地普惠到各個(gè)行業(yè)。
我是一位愛學(xué)習(xí)的老人！本站主要是些學(xué)習(xí)體驗(yàn)與分享(其中會(huì)引用一些作品的原話并結(jié)合我的一生體會(huì)與經(jīng)驗(yàn)加工整理而成！在此一并感謝！如有不妥之處敬請(qǐng)與我聯(lián)系,我會(huì)妥善處理，謝謝！)我寫的主要是中老年人各方面應(yīng)注意的事兒！退休后我希望通過這個(gè)平臺(tái)廣交朋友，互助交流，共筑美好生活?。。。。?！ 更多文章請(qǐng)參看http://www.zzz818.com趙站長(zhǎng)的博客。期待大家的光臨與指教哦^0^！歡迎大家轉(zhuǎn)發(fā)！
聯(lián)系客服
