招商銀行首席信息官周天虹：銀行使用人工智能技術(shù)一定要落實人的責(zé)任

　　4月10日，以“人工智能與金融未來”為主題的國民財富發(fā)展研究合作平臺2025春季峰會正式召開。

　　會上，招商銀行首席信息官周天虹表示，大語言模型確實很強(qiáng)大，但是也有一些局限性，比如，幻覺、精準(zhǔn)度、對齊能力、價值觀偏差、倫理偏見、性能成本等問題。周天虹指出，大模型在主要的銀行已經(jīng)深入地應(yīng)用，但也要注意對于這些問題要有一些應(yīng)對措施。

　　一是模型準(zhǔn)入評估。使用大語言模型主要是用開源模型，開源模型的引入過程一定要有管理，什么樣的模型可以進(jìn)入到銀行生產(chǎn)環(huán)境服務(wù)業(yè)務(wù)、員工，這個必須要有個嚴(yán)謹(jǐn)?shù)墓芾磉^程。

　　二是模型訓(xùn)練規(guī)范。大語言模型引入以后要在具體的領(lǐng)域發(fā)揮作用，通常是要進(jìn)行后訓(xùn)練，對于大語言模型后訓(xùn)練必須要建立規(guī)范的流程，要有相應(yīng)的系統(tǒng)、平臺來進(jìn)行管理。訓(xùn)練完了以后，真的進(jìn)生產(chǎn)之前，對訓(xùn)練后的大語言模型仍然要進(jìn)行評測，對大模型的后訓(xùn)練很有可能增強(qiáng)了一些能力，也損害了一些能力，一定要讓損害的能力要在可接受范圍內(nèi)。

　　三是生成內(nèi)容監(jiān)督。大語言模型，特別厲害的叫作生成式人工智能，特別厲害的是可以生成很多高價值的內(nèi)容，但是對于大模型生成的內(nèi)容都要進(jìn)行監(jiān)督，用算法、人工監(jiān)督，首先要把算法監(jiān)督這個工作要做深做實，另外就是在關(guān)鍵的業(yè)務(wù)環(huán)節(jié)人不能缺位。

　　四是落實人的責(zé)任。金融是一個講究責(zé)任的行業(yè)，從今年總局的態(tài)度來說特別強(qiáng)調(diào)關(guān)鍵的領(lǐng)域、關(guān)鍵的環(huán)節(jié)要落實人的責(zé)任，對銀行業(yè)來說，使用人工智能技術(shù)一定要落實人的責(zé)任。

【免責(zé)聲明】本文僅代表作者本人觀點，與和訊網(wǎng)無關(guān)。和訊網(wǎng)站對文中陳述、觀點判斷保持中立，不對所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考，并請自行承擔(dān)全部責(zé)任。郵箱：news_center@staff.hexun.com