“我們推行全流程消保管理，目前，智能體已能完成約90%的消保審查任務(wù)，替代了部分過去需要三到五年經(jīng)驗(yàn)員工才能完成的復(fù)雜勞動(dòng)�！�
——平安銀行行長助理兼首席信息執(zhí)行官 孫芳滔
“智能體的持續(xù)進(jìn)化可歸納為數(shù)據(jù)飛輪、模型飛輪與場(chǎng)景飛輪的三輪協(xié)同。數(shù)據(jù)飛輪依賴增量學(xué)習(xí)、聯(lián)邦學(xué)習(xí)、多方安全計(jì)算等技術(shù)實(shí)現(xiàn)持續(xù)增強(qiáng)；模型飛輪需通過監(jiān)控評(píng)估與防漂移機(jī)制保障穩(wěn)定性；場(chǎng)景飛輪則需與業(yè)務(wù)價(jià)值緊密掛鉤。三者協(xié)同，方能支撐智能體的系統(tǒng)性迭代。”
——工商銀行原首席技術(shù)官 呂仲濤
“就像工業(yè)時(shí)代通過法律、儀表盤、方向盤和剎車來管理汽車風(fēng)險(xiǎn)一樣，面對(duì)智能體這一新生事物，我們也應(yīng)構(gòu)建相應(yīng)的體系來管控風(fēng)險(xiǎn)�！�
1月10日，在“數(shù)智銀行家2025年會(huì)暨新金融聯(lián)盟九周年慶典”上，多位嘉賓在主題為“金融智能體生態(tài)建設(shè)與場(chǎng)景應(yīng)用”的圓桌對(duì)話上表達(dá)了上述觀點(diǎn)。
工商銀行原首席技術(shù)官呂仲濤主持本場(chǎng)圓桌對(duì)話，郵儲(chǔ)銀行總工程師徐朝輝、興業(yè)銀行(601166)首席信息官唐家才、平安銀行(000001)行長助理兼首席信息執(zhí)行官孫芳滔、杭州銀行副行長兼首席信息官李炯參與交流。年會(huì)由四十人高級(jí)金融學(xué)院和新金融聯(lián)盟主辦。
以下為圓桌對(duì)話實(shí)錄——
呂仲濤：當(dāng)前，金融智能體應(yīng)用正從單點(diǎn)工具向系統(tǒng)化平臺(tái)演進(jìn)，未來將構(gòu)建起數(shù)據(jù)、算法、算力、場(chǎng)景的完整生態(tài)，推動(dòng)金融行業(yè)向智能化、個(gè)性化和普惠化深度轉(zhuǎn)型。在這一漸進(jìn)過程中，智能體如何穩(wěn)步推進(jìn)，實(shí)現(xiàn)從輔助工具到業(yè)務(wù)核心的跨越？
由簡(jiǎn)單到復(fù)雜、由點(diǎn)到面漸進(jìn)推進(jìn)智能體應(yīng)用落地
徐朝輝：關(guān)于智能體的推進(jìn)路徑，我從三方面闡述：
人工智能落地需通過智能體這一形式，將抽象技術(shù)轉(zhuǎn)化為具體工程。這一過程通常遵循從簡(jiǎn)單到復(fù)雜、從點(diǎn)到面的漸進(jìn)路徑。以郵儲(chǔ)銀行為例，多數(shù)應(yīng)用場(chǎng)景都呈現(xiàn)自然演進(jìn)的特征，如同習(xí)慣的養(yǎng)成，需因勢(shì)利導(dǎo)。
智能體推進(jìn)可能涉及部門職責(zé)、崗位設(shè)置的調(diào)整，從而由技術(shù)工程問題上升為管理問題。核心是以人為本，通過制度優(yōu)化、流程優(yōu)化、組織架構(gòu)調(diào)整及人員能力提升，協(xié)助整個(gè)組織平穩(wěn)過渡到新的狀態(tài)。
對(duì)于部分因年齡或適應(yīng)能力暫時(shí)無法跟上變革的員工，可通過傳幫帶等方式逐步推進(jìn)，確保不影響整體改革進(jìn)程。
唐家才：智能體解決了什么問題？業(yè)界有一個(gè)通俗的比喻，大模型解決了大腦的思考問題，智能體解決了執(zhí)行手腳的問題。
從行業(yè)成熟度來看，金融智能體正處于從L2（輔助駕駛）向L3（自主規(guī)劃）的過渡階段。智能體在業(yè)務(wù)中可扮演規(guī)劃、數(shù)據(jù)獲取、知識(shí)管理等不同角色�；氐姐y行金融業(yè)務(wù)場(chǎng)景里，一個(gè)完整業(yè)務(wù)流程走完需要很多角色的參與，所以需要很多崗位執(zhí)行各種動(dòng)作，從另外一個(gè)維度看就會(huì)衍生出很多崗位智能體。
當(dāng)前，人工智能在金融領(lǐng)域主要處理報(bào)告生成、營銷文案等簡(jiǎn)單任務(wù)。如果要深度重塑業(yè)務(wù)流程，則需要將多種智能體組合應(yīng)用，這對(duì)模型穩(wěn)定性和輸出準(zhǔn)確性提出了更高要求，因此必然是一個(gè)逐步深化的應(yīng)用過程。
孫芳滔：我結(jié)合平安銀行的實(shí)踐，分享一下智能體從簡(jiǎn)單到復(fù)雜，從點(diǎn)到面，從初級(jí)到高級(jí)演進(jìn)需要把握的幾個(gè)關(guān)鍵點(diǎn)。
作為應(yīng)用機(jī)構(gòu)，我們重點(diǎn)聚焦數(shù)據(jù)、算法與算力的有效結(jié)合。在算力上，關(guān)鍵在于提升使用效率；算法則主要依托開源資源。數(shù)據(jù)是核心，我們通過積累內(nèi)外部數(shù)據(jù)與知識(shí)，結(jié)合通用算法進(jìn)行訓(xùn)練，推動(dòng)智能體逐步替代部分復(fù)雜人力勞動(dòng)。
以消保領(lǐng)域?yàn)槔�，我們智能體的發(fā)展路徑清晰地體現(xiàn)了這一漸進(jìn)過程。最初，智能體作為投訴處理人員的助手，自動(dòng)生成話術(shù)，幫助員工快速緩解客戶情緒、解決問題。隨后，開始協(xié)助管理人員撰寫投訴報(bào)告，這涉及對(duì)制度和監(jiān)管要求的理解，復(fù)雜度有所提升。進(jìn)一步，智能體開始承擔(dān)消保審查工作。我們推行全流程消保管理，強(qiáng)調(diào)從源頭把控，比如審查營銷話術(shù)、宣傳材料是否合規(guī)，是否可能侵害消費(fèi)者權(quán)益。這項(xiàng)工作既需要業(yè)務(wù)經(jīng)驗(yàn)，也需熟悉消保專業(yè)知識(shí)。目前，智能體已能完成約90%的消保審查任務(wù)，替代了部分過去需要三到五年經(jīng)驗(yàn)員工才能完成的復(fù)雜勞動(dòng)。
去年下半年，為落實(shí)監(jiān)管要求的溯源治理，我們利用大模型技術(shù)構(gòu)建了一套分析系統(tǒng)，用于定位投訴源頭并確定關(guān)鍵管控點(diǎn)，從根源上減少投訴或降低處理難度，分析效果甚至超越了傳統(tǒng)的人工頭腦風(fēng)暴模式。
目前，平安銀行已部署30多個(gè)消保智能體，這一實(shí)踐也得到了監(jiān)管方面的認(rèn)可。此外，針對(duì)投訴量相對(duì)較多的現(xiàn)狀，我們正在推進(jìn)“易訴客戶識(shí)別”智能體的開發(fā)。該應(yīng)用完全依靠算法與數(shù)據(jù)進(jìn)行分析預(yù)判，旨在實(shí)現(xiàn)提前干預(yù)與接觸。這已完全超越了傳統(tǒng)人工工作的范疇。
盡管智能體的準(zhǔn)確率和成熟度仍在持續(xù)提升，但根據(jù)我們的實(shí)踐，其進(jìn)化速度遠(yuǎn)超過人的經(jīng)驗(yàn)積累。核心在于持續(xù)積累數(shù)據(jù)與知識(shí)，并將其與通用算法有效結(jié)合、不斷訓(xùn)練。這或許正是金融機(jī)構(gòu)推動(dòng)智能體實(shí)現(xiàn)從簡(jiǎn)單到復(fù)雜、從初級(jí)到高級(jí)、從點(diǎn)到面發(fā)展的關(guān)鍵所在。
李炯：人工智能帶來了根本性變革，傳統(tǒng)經(jīng)驗(yàn)難以完全覆蓋其發(fā)展需求。例如，在研發(fā)階段，人工智能所需的資源投入已超過生產(chǎn)階段，這顛覆了傳統(tǒng)開發(fā)模式。此外，高并發(fā)場(chǎng)景下的異常處理、業(yè)務(wù)連續(xù)性保障等挑戰(zhàn)，也要求我們從簡(jiǎn)單、可控的場(chǎng)景入手，逐步積累經(jīng)驗(yàn)。只有通過小范圍試點(diǎn)，才能為大規(guī)模應(yīng)用奠定基礎(chǔ)。
呂仲濤：感謝四位嘉賓從不同的視角談了引入智能體的觀察。綜合來看，智能體發(fā)展可分為三個(gè)階段：一是標(biāo)準(zhǔn)化簡(jiǎn)單智能體的快速推廣，如智能客服與員工助手；二是形成智能體矩陣，在風(fēng)險(xiǎn)管控、客戶投訴、信貸審批等關(guān)鍵節(jié)點(diǎn)實(shí)現(xiàn)協(xié)同應(yīng)用；三是多智能體協(xié)同，實(shí)現(xiàn)復(fù)雜業(yè)務(wù)的前瞻預(yù)判與決策。在此過程中，需要注意與組織、人才及資源配置的匹配，以保障商業(yè)可持續(xù)性。
接下來探討第二個(gè)話題：智能體如何通過持續(xù)學(xué)習(xí)實(shí)現(xiàn)迭代進(jìn)化？
不斷優(yōu)化數(shù)據(jù)、算法、場(chǎng)景、流程，持續(xù)迭代智能體
徐朝輝：智能體的演化是一個(gè)系統(tǒng)工程，每家機(jī)構(gòu)都需要重點(diǎn)把握數(shù)據(jù)、算法、場(chǎng)景與流程四大要素。
數(shù)據(jù)需要持續(xù)增強(qiáng)和更新。新的信息包括外部信息，需要不斷引入。例如，我行在農(nóng)村業(yè)務(wù)中，區(qū)分了“硬數(shù)據(jù)”和“軟數(shù)據(jù)”。硬數(shù)據(jù)是傳統(tǒng)信貸決策所依賴的企業(yè)資產(chǎn)、經(jīng)營情況、財(cái)務(wù)報(bào)表等；軟數(shù)據(jù)則超出了傳統(tǒng)范圍，雖然以往銀行較少使用，但其重要性不容忽視。當(dāng)然，互聯(lián)網(wǎng)上的信息更為龐雜，其中還可能存在虛假或“摻水”信息，這就涉及到安全問題。因此，數(shù)據(jù)的收集與治理是一項(xiàng)繁重且需要持續(xù)投入的任務(wù)。
算法和模型必須不斷優(yōu)化。從實(shí)踐來看，行內(nèi)使用的模型總量龐大，達(dá)到上萬個(gè)。在大模型方面，我們基于開源或商用模型進(jìn)行自訓(xùn)練和私有化部署。大模型的版本曾多達(dá)60多個(gè)，經(jīng)過優(yōu)化篩選，目前壓縮至30多個(gè)版本，部署的實(shí)例有400到500個(gè)，具體數(shù)字是動(dòng)態(tài)變化的，但總體而言，大模型加上傳統(tǒng)小模型，總數(shù)大約在1.1萬到1.2萬個(gè)之間。這些算法和模型需要持續(xù)升級(jí)，并實(shí)施全生命周期管理。
我行將原來的數(shù)據(jù)治理委員會(huì)升級(jí)為“數(shù)據(jù)與模型治理委員會(huì)”，旨在對(duì)這兩方面進(jìn)行統(tǒng)籌管理。治理的一個(gè)關(guān)鍵工作是確保模型和數(shù)據(jù)既能形成閉環(huán)，又能保持開放，不斷吸納新元素，實(shí)現(xiàn)良性循環(huán)，并持續(xù)評(píng)估其業(yè)務(wù)價(jià)值。
模型要嵌入業(yè)務(wù)場(chǎng)景，場(chǎng)景本身也在不斷迭代升級(jí)，流程更是如此�？傊�，智能體的持續(xù)迭代，是一個(gè)需要不斷維護(hù)、增強(qiáng)和更新能力的過程，這需要投入大量精力，關(guān)注方方面面。目前，我們?cè)诩夹g(shù)層面已經(jīng)對(duì)數(shù)據(jù)和模型實(shí)施了全生命周期的治理。
通過“后訓(xùn)練”，持續(xù)增強(qiáng)智能體與現(xiàn)實(shí)的匹配度
唐家才：從數(shù)據(jù)、模型、算法到流程場(chǎng)景，確實(shí)是一個(gè)持續(xù)迭代和升級(jí)的過程。換個(gè)視角，智能體的持續(xù)演進(jìn)可以分為幾個(gè)層面來看。
首先，單智能體的能力深化。要讓單個(gè)智能體變得更“聰明”，或更貼合每家銀行自身的實(shí)際情況，需要基于行內(nèi)數(shù)據(jù)對(duì)模型進(jìn)行適應(yīng)性訓(xùn)練。有專家提到“預(yù)訓(xùn)練”，我可能有不同的看法。對(duì)銀行機(jī)構(gòu)而言，從頭進(jìn)行預(yù)訓(xùn)練的成本通常過高。我們更側(cè)重于“后訓(xùn)練”，即通過微調(diào)或增強(qiáng)學(xué)習(xí)等方式，基于自身的數(shù)據(jù)讓通用模型越來越了解銀行的業(yè)務(wù)和特定需求，使智能體與實(shí)際情況越來越匹配。
其次，智能體的組合應(yīng)用。當(dāng)我們要解決更復(fù)雜、更高階的問題時(shí)，單個(gè)智能體的能力往往不足，必然需要多個(gè)智能體協(xié)同工作，使整體能力得到增強(qiáng)。
最后，人與智能體的協(xié)作關(guān)系演進(jìn)，即碳基員工與硅基智能體如何協(xié)同。我有個(gè)切身感受，手機(jī)上的智能助手已經(jīng)能獨(dú)立地完成任務(wù)。比如出差只需告訴它“查一下航班，選個(gè)合適時(shí)間訂票”，它就能近乎完整地執(zhí)行，只在關(guān)鍵決策點(diǎn)（比如是選8點(diǎn)還是9點(diǎn)的航班）需要我確認(rèn)。這時(shí)，工作模式變成了“智能主導(dǎo)，人輔助決策”。我認(rèn)為，類似的轉(zhuǎn)變?cè)?a target='_blank'>銀行業(yè)也不會(huì)太遙遠(yuǎn)。
須將智能體研發(fā)工藝流程化、體系化
孫芳滔：我想結(jié)合自己的理解，用個(gè)比喻來談?wù)勥@件事。
我們可以把智能體想象成一個(gè)需要持續(xù)學(xué)習(xí)的人。就像孩子在學(xué)校接受教育，首先要有課程內(nèi)容。對(duì)智能體而言，核心是“喂”給它什么樣的數(shù)據(jù)和知識(shí)。僅讓AI學(xué)習(xí)銀行內(nèi)部的交易流水等數(shù)據(jù)，遠(yuǎn)遠(yuǎn)不夠。要讓智能體能夠輔助，甚至超越和替代人的復(fù)雜勞動(dòng)，必須結(jié)合更廣泛的外部數(shù)據(jù)和知識(shí)工程。
第二，學(xué)習(xí)的效率，這就需要一個(gè)好的算力底座。我們橫向?qū)Ρ冗^，金融機(jī)構(gòu)的每個(gè)token成本通常遠(yuǎn)高于云廠商，這不僅僅是擁有多少張算力卡的問題，更在于每張卡的實(shí)際產(chǎn)出效率。就像學(xué)校里，學(xué)霸和普通學(xué)生的區(qū)別往往在于學(xué)習(xí)效率，單位時(shí)間內(nèi)掌握的知識(shí)更多、更快。
第三，學(xué)習(xí)方法，對(duì)應(yīng)到技術(shù)上就是算法的運(yùn)用能力。一個(gè)學(xué)生可能智商不特別出眾，但方法好成績(jī)依然可以很好。這要求科技部門將智能體的研發(fā)工藝體系化、流程化，思考如何將智能體的研發(fā)嵌入到整體的應(yīng)用研發(fā)鏈條中，形成一套有效的方法論，更好地將通用大模型算法與自身的具體需求深度融合。
第四，學(xué)習(xí)效果需要驗(yàn)證，這就必須參加考試、解題，也就是找到真實(shí)的應(yīng)用場(chǎng)景。在平安內(nèi)部，我們?nèi)绾巍敖忸}”？核心是衡量智能體究竟為業(yè)務(wù)、管理、客戶或員工帶來了什么實(shí)質(zhì)價(jià)值，是提升了效率、降低了成本、控制了風(fēng)險(xiǎn)，還是直接創(chuàng)造了收入？如果缺乏這些價(jià)值驗(yàn)證，就像學(xué)生只會(huì)學(xué)不會(huì)考，最終無法學(xué)以致用，也難以實(shí)現(xiàn)真正的應(yīng)用突破。
數(shù)據(jù)質(zhì)量將成為不同機(jī)構(gòu)AI應(yīng)用水平的分水嶺
李炯：我簡(jiǎn)單補(bǔ)充三點(diǎn)看法。
第一，適配的組織架構(gòu)。人工智能是一種革命性的力量。按照生產(chǎn)力與生產(chǎn)關(guān)系的邏輯，新的生產(chǎn)力需要匹配相應(yīng)的生產(chǎn)關(guān)系。目前銀行傳統(tǒng)條塊分割、層級(jí)沉積的組織模式，與人工智能這一新生產(chǎn)力的特點(diǎn)并不完全適配。我們嘗試建立跨部門、多條線的綜合敏捷組織架構(gòu)，以期更好地發(fā)揮人工智能的特性，支持其快速迭代。
第二，高質(zhì)量數(shù)據(jù)集。在算力、算法、數(shù)據(jù)這三個(gè)要素中，算力和算法可以通過采購或?qū)W習(xí)獲得，而高質(zhì)量的數(shù)據(jù)，最終將成為不同機(jī)構(gòu)應(yīng)用人工智能水平的分水嶺與護(hù)城河。
第三，構(gòu)建具有“飛輪效應(yīng)”的業(yè)務(wù)場(chǎng)景。舉個(gè)簡(jiǎn)單的例子：導(dǎo)航軟件就是一個(gè)典型的飛輪場(chǎng)景，它的使用過程本身就在持續(xù)積累和反饋數(shù)據(jù)。如果我們能在金融業(yè)務(wù)中構(gòu)建起這類場(chǎng)景，讓數(shù)據(jù)的生產(chǎn)與回流形成閉環(huán)，將極大助力人工智能的持續(xù)迭代。
呂仲濤：根據(jù)我的觀察，智能體的持續(xù)進(jìn)化可歸納為數(shù)據(jù)飛輪、模型飛輪與場(chǎng)景飛輪的三輪協(xié)同。數(shù)據(jù)飛輪依賴增量學(xué)習(xí)、聯(lián)邦學(xué)習(xí)、多方安全計(jì)算等技術(shù)實(shí)現(xiàn)持續(xù)增強(qiáng)；模型飛輪需通過監(jiān)控評(píng)估與防漂移機(jī)制保障穩(wěn)定性；場(chǎng)景飛輪則需與業(yè)務(wù)價(jià)值緊密掛鉤。三者協(xié)同，方能支撐智能體的系統(tǒng)性迭代。
第三個(gè)議題是風(fēng)險(xiǎn)管控，如何確保智能體在算法、數(shù)據(jù)與基礎(chǔ)設(shè)施全鏈條中的安全可控，真正從可用走向可信？
限定場(chǎng)景邊界，管控大模型不可解釋風(fēng)險(xiǎn)
徐朝輝：安全風(fēng)險(xiǎn)是一個(gè)全流程、端到端的系統(tǒng)性課題。當(dāng)前我們面臨的是“泛安全”概念。如果將模型能力衰減問題也納入考量，這實(shí)際上屬于更高層次的安全范疇。因此，在每一個(gè)環(huán)節(jié)上，我們都要同時(shí)應(yīng)對(duì)傳統(tǒng)安全和新型安全兩類挑戰(zhàn)。
比如，智能體作為軟件而言，運(yùn)行環(huán)境是否會(huì)受到攻擊、是否存在漏洞，屬于傳統(tǒng)安全范疇。但新型安全風(fēng)險(xiǎn)則體現(xiàn)在各個(gè)環(huán)節(jié)，例如在數(shù)據(jù)層面，傳統(tǒng)風(fēng)險(xiǎn)主要是泄露、非授權(quán)訪問等，如今則出現(xiàn)了數(shù)據(jù)造假、注水甚至惡意偽造等問題。這些數(shù)據(jù)風(fēng)險(xiǎn)可能來自外部，也可能源于內(nèi)部。
我的感受是，既不能完全相信人工智能，也不能完全信任人。銀行的核心是經(jīng)營風(fēng)險(xiǎn)，數(shù)據(jù)安全是首要防線，智能體的能力很大程度上構(gòu)建于數(shù)據(jù)之上。例如，我行每日面臨數(shù)萬次人臉識(shí)別攻擊，各銀行普遍存在此類情況。我們的模型參數(shù)和策略需要頻繁調(diào)整，有時(shí)甚至每十幾分鐘就要更新一次。模型本身或許不復(fù)雜，但關(guān)鍵取決于所掌握的數(shù)據(jù)質(zhì)量與應(yīng)對(duì)能力。一旦發(fā)現(xiàn)場(chǎng)景異常，必須立即調(diào)整，這說明其能力不僅依賴算法，更依賴于數(shù)據(jù)。而數(shù)據(jù)本身還存在其他多種風(fēng)險(xiǎn)。
模型層面的風(fēng)險(xiǎn)同樣嚴(yán)峻。目前最突出的挑戰(zhàn)來自大模型的“幻覺”問題，一本正經(jīng)胡說八道，怎么處理？我們通過構(gòu)建提示詞庫、問答對(duì)等方法來約束輸出。更復(fù)雜的是涉及敏感內(nèi)容（如涉政、涉恐、暴力、黃賭毒及意識(shí)形態(tài)等）的管控，需要建立不斷擴(kuò)大的敏感詞庫。例如，工行報(bào)備的提示詞數(shù)量從去年的3萬條增至當(dāng)前的30萬條，這項(xiàng)工作成本不低。對(duì)大模型的安全增強(qiáng)是首要任務(wù)，其次還需增強(qiáng)其業(yè)務(wù)能力。由于大模型知識(shí)更新快，僅靠微調(diào)難以滿足需求，我們往往通過外部知識(shí)庫、規(guī)則庫等方式進(jìn)行增強(qiáng)，而非直接改動(dòng)模型參數(shù)。
小模型同樣面臨挑戰(zhàn)，數(shù)據(jù)采集的變化，甚至發(fā)現(xiàn)新的關(guān)鍵特征，都可能需要訓(xùn)練新模型。大模型不可解釋的問題值得關(guān)注。我們的做法是，不要試圖打開大模型，而是自己想辦法，比如業(yè)務(wù)功能增強(qiáng)、提示詞優(yōu)化等。即便做了這些，大模型的可解釋性仍然很差，最近有進(jìn)展，但還在探索。
怎么解決這個(gè)問題？我們做法是將大模型限定在特定場(chǎng)景和流程環(huán)節(jié)中使用，將其視為能力有邊界、范圍受控的資源。例如，限制單次會(huì)話的交互輪數(shù)，如果超過一定次數(shù)問題仍未解決，則判定業(yè)務(wù)過于復(fù)雜，需引入人工干預(yù)。這樣既控制風(fēng)險(xiǎn)，也便于向監(jiān)管解釋。
場(chǎng)景本身的風(fēng)險(xiǎn)亦不容忽視。新場(chǎng)景上線后，可能一不小心出很多問題，比如營銷活動(dòng)被“薅羊毛”，導(dǎo)致巨額費(fèi)用損失。關(guān)鍵在于及時(shí)記錄場(chǎng)景數(shù)據(jù)，建立相應(yīng)防控機(jī)制。對(duì)于自動(dòng)化場(chǎng)景，必須保持持續(xù)監(jiān)控，警惕新的風(fēng)險(xiǎn)動(dòng)向。
總之，新舊風(fēng)險(xiǎn)交織并存，我們?cè)诮鉀Q新問題的同時(shí)，仍需關(guān)注傳統(tǒng)風(fēng)險(xiǎn)。最終衡量標(biāo)準(zhǔn)是：如果一個(gè)場(chǎng)景創(chuàng)造的收益高于其帶來的風(fēng)險(xiǎn)，那么這個(gè)場(chǎng)景及對(duì)應(yīng)的智能體就是有價(jià)值的，相應(yīng)的治理與能力提升工作就應(yīng)持續(xù)下去。
風(fēng)險(xiǎn)管控需緊抓“入口”與“出口”
唐家才：面對(duì)AI技術(shù)，我們真的是“又愛又恨”�！皭邸钡氖撬_實(shí)能大幅提升生產(chǎn)效率、帶來變革性影響；“恨”的則是其衍生風(fēng)險(xiǎn)遠(yuǎn)高于傳統(tǒng)軟件應(yīng)用。傳統(tǒng)軟件經(jīng)過幾十年發(fā)展，已形成相對(duì)成熟的管理體系，而AI目前仍存在諸多尚未完全明晰的領(lǐng)域。
我補(bǔ)充一個(gè)很典型的場(chǎng)景，比如私有化部署開源模型，如果模型不聯(lián)網(wǎng)，其知識(shí)便停留在部署時(shí)點(diǎn)，成為靜態(tài)資源；而一旦聯(lián)網(wǎng)，又需面對(duì)安全挑戰(zhàn)。如果模型進(jìn)一步通過增強(qiáng)學(xué)習(xí)或微調(diào)訓(xùn)練注入行內(nèi)知識(shí)，如何確保這些知識(shí)不泄露，都是非�，F(xiàn)實(shí)的問題。
我再補(bǔ)充兩個(gè)視角：
第一，風(fēng)險(xiǎn)管控需緊抓“入口”與“出口”。入口端必須確保數(shù)據(jù)質(zhì)量，避免“垃圾進(jìn)、垃圾出”；出口端則要依托攔截詞庫、護(hù)欄技術(shù)等手段，不斷強(qiáng)化輸出內(nèi)容的合規(guī)性、嚴(yán)謹(jǐn)性與安全性。
第二，智能體的職責(zé)應(yīng)清晰細(xì)化。大模型存在“幻覺”問題，多次交互后可靠性可能急劇下降。如果將智能體拆分為更精準(zhǔn)的角色，就能有效提升整體系統(tǒng)的可行性與穩(wěn)定性。
此外，怎么保證單智能體輸出的結(jié)果，我們還可構(gòu)建“AI校驗(yàn)AI”的機(jī)制。例如，針對(duì)生成消保報(bào)告的智能體，可另設(shè)一個(gè)專責(zé)智能體，基于消保相關(guān)法律法規(guī)對(duì)其輸出結(jié)果進(jìn)行復(fù)核與校正。通過這種“機(jī)器管機(jī)器”的方式，形成第二道防線，進(jìn)一步提升智能體輸出的可靠性。
保證智能體輸出結(jié)果質(zhì)量，要發(fā)揮“人”的作用
孫芳滔：我簡(jiǎn)單談兩點(diǎn)。
首先，平安銀行在智能體的研發(fā)與應(yīng)用上，目前仍處于“可用性優(yōu)先、可信性建設(shè)初步起步”的階段。要實(shí)現(xiàn)從可用到可信的跨越，我們認(rèn)為最關(guān)鍵的實(shí)際問題在于數(shù)據(jù)來源的統(tǒng)一與標(biāo)準(zhǔn)化。舉個(gè)例子，我們?cè)谔幚泶呤諛I(yè)務(wù)分析時(shí)發(fā)現(xiàn)，同一指標(biāo)在不同系統(tǒng)中命名不一、格式各異。比如某系統(tǒng)表頭標(biāo)注為百分比，但數(shù)值卻以整數(shù)形式呈現(xiàn)（如顯示“4”而非“4%”）。這類數(shù)據(jù)對(duì)人而言易于理解，但機(jī)器無法自動(dòng)識(shí)別其真實(shí)含義，從而導(dǎo)致輸出結(jié)果出現(xiàn)嚴(yán)重偏差，這不是“幻覺”，而是實(shí)質(zhì)性錯(cuò)誤。因此，我們正推動(dòng)全行層面的數(shù)據(jù)再治理工程，讓所有數(shù)據(jù)都能被機(jī)器準(zhǔn)確、無歧義地識(shí)別與使用。這項(xiàng)工作規(guī)模龐大，但至關(guān)重要。
其次，關(guān)于智能體輸出結(jié)果的驗(yàn)證問題，還是要發(fā)揮“人”的作用。以消保領(lǐng)域的“易訴客戶識(shí)別”為例，即便其算法過程如同黑箱、難以解釋，但它的輸出結(jié)果是否合理，經(jīng)驗(yàn)豐富的業(yè)務(wù)人員是可以判斷的。如果出現(xiàn)無法解釋的情況，我們?cè)俳槿敕治龊驼{(diào)整。至于內(nèi)容安全方面，如涉黃涉恐等問題，大模型本身已設(shè)有多道圍欄機(jī)制，這也為我們應(yīng)用方減輕了不少負(fù)擔(dān)。
強(qiáng)化實(shí)時(shí)監(jiān)控，建立兜底機(jī)制
李炯：大模型背后的人工智能是革命力量，如同工業(yè)革命。我們可以將汽車看成是工業(yè)革命時(shí)代的“智能體”。汽車出現(xiàn)帶來很多便利，也帶來了巨大的風(fēng)險(xiǎn)。汽車的風(fēng)險(xiǎn)是如何管控的？可以總結(jié)為四個(gè)方面。
第一，建立有法律法規(guī)。汽車出現(xiàn)后，馬車的法律法規(guī)就不適配了，必須出臺(tái)汽車的法律法規(guī)，以明確責(zé)任與權(quán)利。
第二，強(qiáng)化實(shí)時(shí)監(jiān)控。馬車沒有儀表盤，汽車得有，要管控風(fēng)險(xiǎn)，就得知道它跑了多少。智能體跟傳統(tǒng)應(yīng)用不一樣，智能體受并發(fā)等問題影響而波動(dòng)。因此，監(jiān)控尤其重要，我們必須知道它在做什么。
第三，明確最終控制權(quán)。馬車有韁繩，汽車有方向盤。在相關(guān)法規(guī)尚未健全之前，方向盤的掌控權(quán)必須保留在人的手中。
第四個(gè)，設(shè)置可靠的剎車機(jī)制。剎車的設(shè)計(jì)必須與汽車的動(dòng)力匹配，否則極易失控。我們?cè)跇?gòu)建智能體的同時(shí)，也必須考慮出現(xiàn)問題時(shí)的兜底方案。
總之，就像工業(yè)時(shí)代通過法律、儀表盤、方向盤和剎車來管理汽車風(fēng)險(xiǎn)一樣，面對(duì)智能體這一新生事物，我們也應(yīng)構(gòu)建相應(yīng)的體系來管控風(fēng)險(xiǎn)。
呂仲濤：剛才四位嘉賓從不同維度深入探討了智能體全生命周期的安全問題。正如大家所言，當(dāng)前智能體與人工智能發(fā)展迅猛，與之相伴的安全隱患也始終存在，但是行業(yè)并未因此停滯。
我補(bǔ)充兩點(diǎn)。首先，風(fēng)險(xiǎn)是消滅不了的，我們都是在控制風(fēng)險(xiǎn)而不是消滅風(fēng)險(xiǎn)。要增強(qiáng)消費(fèi)者和監(jiān)管機(jī)構(gòu)的信心，需要重點(diǎn)做好兩件事。第一，建立可信治理體系，通過覆蓋全生命周期的組織、技術(shù)和流程保障，形成一套治理體系，讓讓各級(jí)管理人員了解它是怎么在運(yùn)作的，存在哪些客觀風(fēng)險(xiǎn)。第二，推動(dòng)信息披露規(guī)范化，通過比較合適的信披方式，讓消費(fèi)者建立信任，表明流程和管理方法不“黑箱”，即便模型可能存在部分“黑箱”，也能通過規(guī)范披露建立信任基礎(chǔ)，實(shí)現(xiàn)風(fēng)險(xiǎn)可知可控。
其次，從監(jiān)管視角看，沙箱創(chuàng)新機(jī)制一直有，但并沒有真正發(fā)揮可信的作用。不通過沙箱讓大家知道運(yùn)作情況，沙箱就沒有作為前提可信機(jī)制發(fā)揮作用。
最后提一個(gè)簡(jiǎn)單問題也是最難的問題，人機(jī)如何協(xié)同？正如嘉賓所言，智能體雖具一定替代性，但無法完全取代人。未來人機(jī)協(xié)同共生是必然趨勢(shì)。那么，我們的組織與人才體系應(yīng)如何變革以適應(yīng)這一趨勢(shì)？
人機(jī)共生是大趨勢(shì)
李炯：人工智能中，“人工”仍是基礎(chǔ)。正如前面所說，具備自我學(xué)習(xí)能力的自動(dòng)化過程才是人工智能的核心。怎么協(xié)調(diào)？就跟剛才說的，雖然會(huì)有車禍，造成的損失比馬車大得多，我們還得開。
第二個(gè)，關(guān)于人工智能是否取代人力的問題，我想一句話說這個(gè)事，人工智能不可能簡(jiǎn)簡(jiǎn)單單替代人的工作，它會(huì)替代那些簡(jiǎn)簡(jiǎn)單單的工作。
孫芳滔：人工智能將根本性改變未來金融機(jī)構(gòu)的組織形態(tài)和價(jià)值實(shí)現(xiàn)方式，這是必然趨勢(shì)。關(guān)鍵問題在于我們?nèi)绾芜~向這一未來，以及需要為此做好哪些準(zhǔn)備。
從現(xiàn)階段來看，作為科技負(fù)責(zé)人，我們首先推動(dòng)科技部門進(jìn)行人力與能力結(jié)構(gòu)的調(diào)整和優(yōu)化。比如，我們要推進(jìn)“騰籠換鳥”，不是簡(jiǎn)單把人趕走，而是通過賦能轉(zhuǎn)型，提升員工能力，使具備AI與大數(shù)據(jù)技能的專業(yè)人才比例不斷提高。怎么騰？要系統(tǒng)規(guī)劃傳統(tǒng)研發(fā)人員的能力提升路徑，并借助智能體應(yīng)用（如代碼自動(dòng)生成，目前占比已從個(gè)位數(shù)提升至30%以上）為人才結(jié)構(gòu)升級(jí)創(chuàng)造基礎(chǔ)。
更進(jìn)一步，整個(gè)銀行的運(yùn)營模式也將面臨深刻變革。正如“分身有術(shù)”這一傳統(tǒng)智慧所喻示，人工智能將重塑人機(jī)協(xié)作關(guān)系。為此，金融機(jī)構(gòu)必須將AI上升為“一把手工程”，將其作為全行戰(zhàn)略升級(jí)的核心驅(qū)動(dòng)力，從而推動(dòng)運(yùn)營模式、管理模式和資源配置模式的全面轉(zhuǎn)型。這一進(jìn)程可能會(huì)比預(yù)期更快。我們要思考為這一天到來我能做什么，以及這一天到來時(shí)，我還能做什么。
唐家才：雖然金融業(yè)務(wù)領(lǐng)域有合規(guī)的要求，可能變革沒那么快，但我相信這一天很快就會(huì)到來。時(shí)間雖無法精確預(yù)測(cè)，但未來一到兩年內(nèi)，這場(chǎng)變革必將到來。
徐朝輝：據(jù)我觀察，人工智能真正用起來后，替代是不可避免的。舉個(gè)例子，財(cái)務(wù)報(bào)賬、簡(jiǎn)單營銷與催收等場(chǎng)景，引入機(jī)器人后已大幅減少人工操作。在我們行，相關(guān)崗位已基本整合或分流。
第二種情況是人工智能為員工賦能，在智能體與模型的輔助下，員工效率普遍提升，這是一種積極的人機(jī)協(xié)同模式。
第三種則是在更高層面上駕馭人工智能，包括提煉業(yè)務(wù)知識(shí)、優(yōu)化數(shù)據(jù)與模型，以及進(jìn)行智能體集成等工作，這對(duì)人才提出了更高要求。
隨著這些變化，組織架構(gòu)、部門職能與崗位設(shè)置也需相應(yīng)調(diào)整，并催生出新的職業(yè)方向。例如，數(shù)據(jù)標(biāo)注已被教育部列為本科專業(yè)，成為新興崗位；在銀行業(yè)，也出現(xiàn)了熟悉業(yè)務(wù)并理解智能體能力的場(chǎng)景落地崗位，尤其在服務(wù)縣域、鄉(xiāng)村的網(wǎng)點(diǎn)中，這類角色對(duì)郵儲(chǔ)這樣定位于“三農(nóng)”普惠的銀行尤為重要
在這個(gè)過程中，領(lǐng)導(dǎo)重視是第一位的。其次，必須堅(jiān)持以人為本，關(guān)愛員工，為他們創(chuàng)造學(xué)習(xí)與轉(zhuǎn)型的機(jī)會(huì)，幫助他們駕馭技術(shù)而非被技術(shù)淘汰。
呂仲濤：從企業(yè)業(yè)務(wù)提升看，人機(jī)協(xié)同價(jià)值創(chuàng)造是一個(gè)方面。另一方面，我們也必須認(rèn)識(shí)到，不僅是金融行業(yè)，全球各行業(yè)都面臨同樣的問題：隨著技術(shù)進(jìn)步，許多職業(yè)與崗位的人員轉(zhuǎn)型已成為不可回避的命題。轉(zhuǎn)型并非易事，對(duì)需要轉(zhuǎn)型的員工而言，這一過程可能伴隨困難甚至陣痛。如何做好相應(yīng)的引導(dǎo)和支持，是企業(yè)組織者必須認(rèn)真思考的問題。我們不能僅從效率和價(jià)值的角度出發(fā)，而應(yīng)始終秉持以人為本的理念，畢竟技術(shù)最終是為人服務(wù)的。
本文首發(fā)于微信公眾號(hào)：新金融聯(lián)盟NFA。文章內(nèi)容屬作者個(gè)人觀點(diǎn)，不代表和訊網(wǎng)立場(chǎng)。投資者據(jù)此操作，風(fēng)險(xiǎn)請(qǐng)自擔(dān)。
【免責(zé)聲明】本文僅代表作者本人觀點(diǎn)，與和訊網(wǎng)無關(guān)。和訊網(wǎng)站對(duì)文中陳述、觀點(diǎn)判斷保持中立，不對(duì)所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請(qǐng)讀者僅作參考，并請(qǐng)自行承擔(dān)全部責(zé)任。郵箱：news_center@staff.hexun.com
最新評(píng)論