北京2024年9月13日 /美通社/ -- 近日,2024金融科技應(yīng)用創(chuàng)新發(fā)展大會(huì)暨農(nóng)村金融機(jī)構(gòu)信息化發(fā)展創(chuàng)新座談會(huì)在上海舉辦。浪潮信息推出元腦企智EPAI企業(yè)大模型開發(fā)平臺(tái),面向金融業(yè)務(wù)場(chǎng)景,實(shí)現(xiàn)7天完成POC驗(yàn)證、2個(gè)月上線AI應(yīng)用,通過將浪潮信息在AI算力底座建設(shè)、大模型開發(fā)領(lǐng)域積累的成熟、成功經(jīng)驗(yàn)工具化,助力金融機(jī)構(gòu)又快、又穩(wěn)地部署生成式AI應(yīng)用,助力金融數(shù)智化跨越式發(fā)展。
浪潮信息售前技術(shù)支持部總經(jīng)理王鵬飛在會(huì)上表示,公司致力于推動(dòng)金融行業(yè)的數(shù)智化轉(zhuǎn)型。元腦企智EPAI可為金融機(jī)構(gòu)量身定制,提供一站式大模型應(yīng)用開發(fā)部署解決方案。這一創(chuàng)新方案有助于金融機(jī)構(gòu)以低成本、少人力實(shí)現(xiàn)高效率的智能應(yīng)用開發(fā),提升運(yùn)營(yíng)效率,降低風(fēng)險(xiǎn),滿足客戶的智能化、場(chǎng)景化需求。
"玩轉(zhuǎn)"大模型 中小金融機(jī)構(gòu)面臨"少技術(shù)、少資金、少數(shù)據(jù)"三大挑戰(zhàn)
在金融行業(yè),可以說整個(gè)行業(yè)都在往數(shù)字化轉(zhuǎn)型的深水區(qū)積極探索,亟需以AI催生的數(shù)字金融、科技金融為抓手,塑造數(shù)字金融新業(yè)態(tài)新模式。
從政策上,根據(jù)三中全會(huì)精神,金融行業(yè)要進(jìn)一步深化金融供給側(cè)結(jié)構(gòu)性改革,扎實(shí)做好"五篇大文章"。因此各家金融機(jī)構(gòu)實(shí)施了從積極布局大模型,到關(guān)注金融行業(yè)大模型,再到聚焦金融應(yīng)用場(chǎng)景的模型建設(shè)的系列舉措。六大國(guó)有銀行已在多個(gè)領(lǐng)域應(yīng)用大模型,例如工行為20萬網(wǎng)點(diǎn)員工打造智能助手,通過大模型吸納全行50類業(yè)務(wù),輔助柜員辦理復(fù)雜業(yè)務(wù)、提升網(wǎng)點(diǎn)效能,智能處理業(yè)務(wù)量顯著增長(zhǎng),23年智能處理業(yè)務(wù)量3.2億筆,同比增長(zhǎng)14%。同時(shí),12家股份制銀行中已有超過6家正在推進(jìn)大模型及相關(guān)應(yīng)用,中信銀行開發(fā)大模型平臺(tái),興業(yè)銀行實(shí)現(xiàn)研報(bào)摘要智能生成,浦發(fā)和平安銀行加強(qiáng)大模型平臺(tái)和底座建設(shè)。金融機(jī)構(gòu)對(duì)大模型的需求不僅是發(fā)展得"如火如荼",而且對(duì)"增效"要求越來越迫切,金融機(jī)構(gòu)在積極推動(dòng)大模型在金融領(lǐng)域的落地實(shí)踐。
然而金融機(jī)構(gòu)想要部署大模型,仍有許多痛點(diǎn)。對(duì)于城商行、農(nóng)商行、農(nóng)信等中小金融企業(yè)或機(jī)構(gòu),想要"玩轉(zhuǎn)"大模型,需要克服自身在數(shù)字資源、科技能力、業(yè)務(wù)場(chǎng)景等方面的限制,突破算法、算力、數(shù)據(jù)方面的屏障。
首先,從基礎(chǔ)模型到實(shí)際應(yīng)用,不僅需要軟硬件的更新,還需要在制度、流程和管理等方面進(jìn)行調(diào)整。比如,在金融大模型開發(fā),從模型的選型、定制部署到應(yīng)用開發(fā)的全流程,打造一套成熟的方案顯得尤為重要。這不僅涉及到技術(shù)層面的考量,還包括了業(yè)務(wù)需求的深入理解、資源的合理配置以及未來擴(kuò)展性的預(yù)見。一個(gè)久經(jīng)打磨、成熟穩(wěn)健的方案能夠確保金融大模型項(xiàng)目的順利進(jìn)行,同時(shí)也能為后續(xù)的維護(hù)和升級(jí)提供堅(jiān)實(shí)的基礎(chǔ)。
其次,作為金融企業(yè),歸根到底在經(jīng)營(yíng)客戶、業(yè)務(wù)、產(chǎn)品,以及貨幣、風(fēng)險(xiǎn),模型服務(wù)要以盈利為目標(biāo),因此資金預(yù)算也是現(xiàn)實(shí)的考量。
第三,金融機(jī)構(gòu)的數(shù)據(jù)資源,尤其是面向模型微調(diào)所需的高質(zhì)量數(shù)據(jù)的缺乏,也是擺在面前的現(xiàn)實(shí)問題。
元腦企智助力金融機(jī)構(gòu)快速部署大模型
元腦企智EPAI(Enterprise Platform of AI),正是浪潮信息的大模型應(yīng)用落地解決之道,能夠?yàn)槠髽I(yè)AI大模型落地應(yīng)用提供高效、易用、安全的端到端開發(fā)平臺(tái),提供數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練、知識(shí)檢索、應(yīng)用框架等系列工具,支持調(diào)度多元算力和多模算法,幫助企業(yè)高效開發(fā)部署生成式AI應(yīng)用、打造智能生產(chǎn)力。
首先,從創(chuàng)新大腦到多元算力底座,元腦企智EPAI具有架構(gòu)上的優(yōu)勢(shì)。
元腦企智擁有一個(gè)包含多種模型的大模型庫(kù),這是其核心部分。它分為三個(gè)主要部分:首先,提供場(chǎng)景數(shù)據(jù),元腦企智利用上億條基礎(chǔ)知識(shí)數(shù)據(jù)和自動(dòng)化工具幫助企業(yè)構(gòu)建知識(shí)庫(kù)。其次,模型定制,通過微調(diào)增強(qiáng)模型的學(xué)習(xí)能力,并利用知識(shí)庫(kù)檢索技術(shù)提升模型的查找能力。最后,應(yīng)用構(gòu)建和開發(fā),元腦企智支持設(shè)定模型角色和偏好,配置功能化工具,并提供多種使用方式,同時(shí)確保全鏈路安全。此外,元腦企智的底座是適配多元、多模的多元算力Infra基礎(chǔ)設(shè)施,包括元腦企智EPAI一體機(jī),以及高效的多元算力管理調(diào)度工具。
其次,浪潮信息利用元腦企智提供一站式金融大模型應(yīng)用孵化,涵蓋三個(gè)主要步驟。其一,確定應(yīng)用類型和預(yù)期效果;其二,根據(jù)需求和成本選擇合適的基礎(chǔ)大模型,并參考公開數(shù)據(jù)集;最后,通過提示詞工程、RAG和模型微調(diào)增強(qiáng)模型場(chǎng)景能力。最后,完成這些步驟后,可以部署模型并開發(fā)應(yīng)用,如集成API服務(wù)到業(yè)務(wù)系統(tǒng)或提供對(duì)話式機(jī)器人。對(duì)于復(fù)雜任務(wù),智能體Agent可進(jìn)行任務(wù)編排和工具調(diào)用。
王鵬飛認(rèn)為,元腦企智之所以能一站式開發(fā)部署AI應(yīng)用,"內(nèi)功"非常重要。主要依托了幾大優(yōu)勢(shì)。從數(shù)據(jù)工程上,元腦企智支持10種以上的企業(yè)常見數(shù)據(jù)格式,并可以超過95%的抽取準(zhǔn)確率將其轉(zhuǎn)化為知識(shí)庫(kù)以及模型可用的微調(diào)數(shù)據(jù)。從模型開發(fā)上,元腦企智支持10種以上的開源大模型和接口協(xié)議,并逐步支持20種以上的計(jì)算芯片上的模型完全私有化部署。從算法功能上,元腦企智能夠達(dá)到90%以上的RAG檢索召回準(zhǔn)確率,最快構(gòu)建模型服務(wù)API的時(shí)間不足0.5天,且支持多種插件、IDE和編程語(yǔ)言。此外,元腦企智提供了低代碼乃至無代碼的環(huán)境,應(yīng)用開發(fā)速度大大提高、培訓(xùn)周期顯著縮短,有利于企業(yè)的降本增效。正是通過類似的開發(fā)范式,元腦企智可以便捷的助力各類金融場(chǎng)景應(yīng)用的開發(fā),讓金融企業(yè)真正玩轉(zhuǎn)大模型。
7天快速測(cè)試驗(yàn)證 助力金融大模型輕松上手
浪潮信息自推出元腦企智EPAI以來,成功實(shí)施了智能編程、智能客服大腦和智能投標(biāo)助手等應(yīng)用案例。智能客服大腦利用金融業(yè)務(wù)數(shù)據(jù)構(gòu)建,能解決80%常見問題,并能與現(xiàn)有服務(wù)集成,提供自動(dòng)化流程和智能化業(yè)務(wù)支持。智能編程助手借助元腦企智自動(dòng)解析大型代碼庫(kù),提升開發(fā)效率。智能投標(biāo)助手能快速識(shí)別招標(biāo)文件關(guān)鍵信息,節(jié)省業(yè)務(wù)時(shí)間,提高工作效率。
據(jù)王鵬飛介紹,元腦企智助力金融客戶實(shí)現(xiàn)項(xiàng)目快速實(shí)施,時(shí)間上最短7天,最長(zhǎng)2個(gè)月。以最復(fù)雜的聯(lián)合共創(chuàng)為例,以項(xiàng)目的形式劃分為前期試用、方案確認(rèn)、本地定制開發(fā)、驗(yàn)收落地四個(gè)階段。雖然流程比較長(zhǎng),但核心的應(yīng)用開發(fā)部分一般2~3周內(nèi)完成;對(duì)于通常的大模型應(yīng)用簡(jiǎn)單驗(yàn)證,不超過7天即可完成。
元腦企智EPAI,是浪潮信息2024年具有戰(zhàn)略意義的產(chǎn)品,體現(xiàn)了浪潮信息一直在AI領(lǐng)域的前沿不停探索開拓的能力和決心。浪潮信息期望能將自身的AI成果賦能金融行業(yè)等千行百業(yè),與客戶、合作伙伴共同攜手,加速AI創(chuàng)新落地。