以大模型為代表的新一代人工智能技術(shù)變革仍在加速迭代，為“新質(zhì)生產(chǎn)力”的發(fā)展注入強勁動力， 助力產(chǎn)業(yè)智能化升級和經(jīng)濟發(fā)展。大模型在產(chǎn)業(yè)端已經(jīng)開始在任務(wù)簡單、容錯率高的場景得到廣泛地使 用，例如智能客服、文案生成等場景，但是在醫(yī)療疾病診斷、金融投資理財?shù)热蝿?wù)復(fù)雜度高、容錯率低的 場景，大模型的規(guī)�；�落地仍然遇到不少阻礙。為進一步釋放以大模型為核心的人工智能新技術(shù)范式生產(chǎn) 力，需要解決大模型的“可信應(yīng)用”問題，支撐大模型在金融、醫(yī)療、政務(wù)等專業(yè)領(lǐng)域的深化應(yīng)用。為此 本報告提出了面向?qū)�業(yè)領(lǐng)域的大模型可信應(yīng)用框架，即大模型為核心的智能系統(tǒng)在面向金融、醫(yī)療、政務(wù) 等專業(yè)領(lǐng)域的應(yīng)用中，為確保應(yīng)用的專業(yè)性、可控性、真實性和安全性，應(yīng)當(dāng)如何構(gòu)建系統(tǒng)的技術(shù)架構(gòu)和 體系。

從技術(shù)實現(xiàn)來看，企業(yè)建設(shè)一體化的大模型可信應(yīng)用框架目標(biāo)是在大模型開發(fā)和應(yīng)用的不同環(huán)節(jié)，施 加相應(yīng)的技術(shù)保障手段，以提升落地應(yīng)用的可信程度。目前主要手段包括提升數(shù)據(jù)供給質(zhì)量、增強模型在 應(yīng)用領(lǐng)域的專業(yè)能力、提高模型生成內(nèi)容的可控可信、提升智能體推理的可信、使用圍欄工具和安全保障 措施、建立全面充分的評測體系、構(gòu)建“反饋-迭代”的良性循環(huán)體系等手段，綜合實現(xiàn)大模型在專業(yè)領(lǐng)域 中的穩(wěn)妥應(yīng)用和持續(xù)深化拓展。從產(chǎn)業(yè)應(yīng)用實踐來看，目前在金融、醫(yī)療、政務(wù)等行業(yè)中已有大模型應(yīng)用 框架的落地實踐，提升了推理結(jié)果的準(zhǔn)確專業(yè)真實性，并增強了推理過程的透明安全可控，提高了客戶對 于大模型應(yīng)用的信賴程度。

展望未來，本報告中提出的大模型應(yīng)用框架是推動大模型在產(chǎn)業(yè)中規(guī)�；�落地應(yīng)用釋放價值的初步探索，未來的產(chǎn)業(yè)化突破還需要從前沿技術(shù)創(chuàng)新探索、可信應(yīng)用框架落地實施、行業(yè)治理體系搭建、產(chǎn)業(yè)生 態(tài)合作完善等多個維度統(tǒng)籌推進。我們期待產(chǎn)業(yè)上下游各方通力協(xié)作，共同推動大模型在產(chǎn)業(yè)中的規(guī)�；� 可信應(yīng)用落地，助力產(chǎn)業(yè)智能化升級。

附件：2024大模型行業(yè)可信應(yīng)用框架研究報告-前沿技術(shù)創(chuàng)新探索、可信應(yīng)用框架落地實施