以大模型為代表的新一代人工智能技術(shù)變革仍在加速迭代，為“新質(zhì)生產(chǎn)力”的發(fā)展注入強(qiáng)勁動(dòng)力， 助力產(chǎn)業(yè)智能化升級(jí)和經(jīng)濟(jì)發(fā)展。大模型在產(chǎn)業(yè)端已經(jīng)開(kāi)始在任務(wù)簡(jiǎn)單、容錯(cuò)率高的場(chǎng)景得到廣泛地使 用，例如智能客服、文案生成等場(chǎng)景，但是在醫(yī)療疾病診斷、金融投資理財(cái)?shù)热蝿?wù)復(fù)雜度高、容錯(cuò)率低的 場(chǎng)景，大模型的規(guī)模化落地仍然遇到不少阻礙。為進(jìn)一步釋放以大模型為核心的人工智能新技術(shù)范式生產(chǎn) 力，需要解決大模型的“可信應(yīng)用”問(wèn)題，支撐大模型在金融、醫(yī)療、政務(wù)等專(zhuān)業(yè)領(lǐng)域的深化應(yīng)用。為此 本報(bào)告提出了面向?qū)�業(yè)領(lǐng)域的大模型可信應(yīng)用框架，即大模型為核心的智能系統(tǒng)在面向金融、醫(yī)療、政務(wù) 等專(zhuān)業(yè)領(lǐng)域的應(yīng)用中，為確保應(yīng)用的專(zhuān)業(yè)性、可控性、真實(shí)性和安全性，應(yīng)當(dāng)如何構(gòu)建系統(tǒng)的技術(shù)架構(gòu)和 體系。

從技術(shù)實(shí)現(xiàn)來(lái)看，企業(yè)建設(shè)一體化的大模型可信應(yīng)用框架目標(biāo)是在大模型開(kāi)發(fā)和應(yīng)用的不同環(huán)節(jié)，施 加相應(yīng)的技術(shù)保障手段，以提升落地應(yīng)用的可信程度。目前主要手段包括提升數(shù)據(jù)供給質(zhì)量、增強(qiáng)模型在 應(yīng)用領(lǐng)域的專(zhuān)業(yè)能力、提高模型生成內(nèi)容的可控可信、提升智能體推理的可信、使用圍欄工具和安全保障 措施、建立全面充分的評(píng)測(cè)體系、構(gòu)建“反饋-迭代”的良性循環(huán)體系等手段，綜合實(shí)現(xiàn)大模型在專(zhuān)業(yè)領(lǐng)域 中的穩(wěn)妥應(yīng)用和持續(xù)深化拓展。從產(chǎn)業(yè)應(yīng)用實(shí)踐來(lái)看，目前在金融、醫(yī)療、政務(wù)等行業(yè)中已有大模型應(yīng)用 框架的落地實(shí)踐，提升了推理結(jié)果的準(zhǔn)確專(zhuān)業(yè)真實(shí)性，并增強(qiáng)了推理過(guò)程的透明安全可控，提高了客戶(hù)對(duì) 于大模型應(yīng)用的信賴(lài)程度。

展望未來(lái)，本報(bào)告中提出的大模型應(yīng)用框架是推動(dòng)大模型在產(chǎn)業(yè)中規(guī)模化落地應(yīng)用釋放價(jià)值的初步探索，未來(lái)的產(chǎn)業(yè)化突破還需要從前沿技術(shù)創(chuàng)新探索、可信應(yīng)用框架落地實(shí)施、行業(yè)治理體系搭建、產(chǎn)業(yè)生 態(tài)合作完善等多個(gè)維度統(tǒng)籌推進(jìn)。我們期待產(chǎn)業(yè)上下游各方通力協(xié)作，共同推動(dòng)大模型在產(chǎn)業(yè)中的規(guī)模化 可信應(yīng)用落地，助力產(chǎn)業(yè)智能化升級(jí)。

附件：2024大模型行業(yè)可信應(yīng)用框架研究報(bào)告-前沿技術(shù)創(chuàng)新探索、可信應(yīng)用框架落地實(shí)施