·螞蟻金融大模型基于螞蟻?zhàn)匝谢A(chǔ)大模型，針對(duì)金融產(chǎn)業(yè)定制，底層算力集群達(dá)到萬(wàn)卡規(guī)模。目前，螞蟻金融大模型已在螞蟻集團(tuán)的財(cái)富、保險(xiǎn)平臺(tái)上全面測(cè)試。

螞蟻集團(tuán)在2023 Inclusion·外灘大會(huì)上發(fā)布金融大模型。

9月8日，螞蟻集團(tuán)在上海舉辦的2023 Inclusion·外灘大會(huì)上發(fā)布金融大模型。澎湃科技（www.kxwhcb.com）了解到，這款大模型基于螞蟻?zhàn)匝谢A(chǔ)大模型，針對(duì)金融產(chǎn)業(yè)定制，底層算力集群達(dá)到萬(wàn)卡規(guī)模。目前，螞蟻金融大模型已在螞蟻集團(tuán)的財(cái)富、保險(xiǎn)平臺(tái)上全面測(cè)試。

螞蟻集團(tuán)介紹稱，螞蟻基礎(chǔ)大模型平臺(tái)具備萬(wàn)卡異構(gòu)集群，其中千卡規(guī)模訓(xùn)練利用率（MFU）為40%，集群有效訓(xùn)練時(shí)長(zhǎng)（在分布式計(jì)算環(huán)境中進(jìn)行機(jī)器學(xué)習(xí)模型訓(xùn)練的時(shí)間）占比90%以上，RLHF（基于人類(lèi)反饋的強(qiáng)化學(xué)習(xí)）在同等模型效果下訓(xùn)練吞吐性能相較于業(yè)界方案提升3.59倍，推理性能相較于業(yè)界方案提升約2倍。根據(jù)SemiAnalysis此前揭秘GPT-4的文章，OpenAI在GPT-4的訓(xùn)練中使用了約25000個(gè)英偉達(dá)A100 GPU（圖形處理器），訓(xùn)練了90到100天，利用率（MFU）約為32%至36%。

“通用大模型無(wú)法在專(zhuān)業(yè)嚴(yán)謹(jǐn)?shù)念I(lǐng)域直接商用，特別是金融服務(wù)對(duì)錯(cuò)誤的容忍度很低，金融大模型要確保領(lǐng)域知識(shí)和專(zhuān)業(yè)邏輯的嚴(yán)謹(jǐn)性，才能真正落地帶來(lái)產(chǎn)業(yè)價(jià)值。知識(shí)力、專(zhuān)業(yè)力、語(yǔ)言力以及安全力，保障四大能力是前提條件，也是金融大模型要解的產(chǎn)業(yè)真命題。”螞蟻集團(tuán)副總裁、金融大模型負(fù)責(zé)人王曉航介紹，基于金融場(chǎng)景中的大量實(shí)踐，螞蟻金融大模型形成了“大模型+知識(shí)+服務(wù)”驅(qū)動(dòng)的架構(gòu)，這套架構(gòu)已經(jīng)在螞蟻內(nèi)部金融智能化場(chǎng)景上內(nèi)測(cè)。

王曉航表示，螞蟻金融大模型在萬(wàn)億量級(jí)Token的通用語(yǔ)料基礎(chǔ)上，注入千億量級(jí)Token（文本中的最小單位，一個(gè)單詞或一個(gè)標(biāo)點(diǎn)符號(hào)）金融知識(shí)，并從300+真實(shí)產(chǎn)業(yè)場(chǎng)景中提取了共60萬(wàn)+高質(zhì)量指令數(shù)據(jù)，形成了金融專(zhuān)屬任務(wù)性能優(yōu)化的數(shù)據(jù)資產(chǎn)。

據(jù)介紹，8月底，螞蟻金融大模型已通過(guò)證券從業(yè)資格、保險(xiǎn)從業(yè)資格、執(zhí)業(yè)醫(yī)師資格、執(zhí)業(yè)藥師資格等專(zhuān)業(yè)試題測(cè)試。

當(dāng)天，螞蟻集團(tuán)發(fā)布了基于金融大模型能力的兩款產(chǎn)品：智能金融助理“支小寶2.0”，服務(wù)金融產(chǎn)業(yè)專(zhuān)家的智能業(yè)務(wù)助手“支小助”。據(jù)透露，支小寶2.0版本已在內(nèi)測(cè)，將在完成相關(guān)備案工作后上線。