祝世虎：ChatGPT的發(fā)展與治理

作者 | 祝世虎 光大信托科技部副總經(jīng)理、數(shù)據(jù)中心總經(jīng)理；CIC金融科技和數(shù)字經(jīng)濟(jì)發(fā)展專家委員會(huì)委員

來源 | 《中國(guó)銀行業(yè)》雜志2023年第5期

導(dǎo)語：回顧人類歷史，技術(shù)和倫理緊密交織，面對(duì)科林格里奇困境，筆者認(rèn)為，社會(huì)倫理優(yōu)先于技術(shù)創(chuàng)新。

在新興技術(shù)的設(shè)計(jì)和開發(fā)過程中，應(yīng)優(yōu)先考慮和滿足為人類服務(wù)的倫理要求，最大限度利用技術(shù)創(chuàng)新造福人類。結(jié)合我國(guó)國(guó)情，對(duì)于AIGC的治理分為監(jiān)管治理、行業(yè)自律、企業(yè)自治、全民共治四個(gè)方面。

ChatGPT發(fā)展與治理面臨科林格里奇困境

ChatGPT是OpenAI推出的聊天機(jī)器人，通過自然對(duì)話方式與用戶交互，可以處理復(fù)雜語義任務(wù)，包括文本生成、自動(dòng)問答、翻譯、代碼生成等，在人們的工作生活中存在著廣泛的應(yīng)用，這種應(yīng)用涉及多元主體，涵蓋多個(gè)領(lǐng)域。

本質(zhì)上而言，ChatGPT是AIGC（Artificial Inteligence Generated Content）人工智能生成內(nèi)容的一種。從技術(shù)角度看，AIGC的發(fā)展與應(yīng)用，是一個(gè)新技術(shù)形成新生產(chǎn)力的問題；從治理角度看，是一個(gè)牽一發(fā)而動(dòng)全身的社會(huì)問題；從哲學(xué)角度看，其中蘊(yùn)藏著人類與AI邊界的哲學(xué)問題。

綜合來看，ChatGPT的發(fā)展與治理是一個(gè)典型的科林格里奇困境（Collingridge's Dilemma），指的是一項(xiàng)技術(shù)如果因?yàn)閾?dān)心不良后果而過早實(shí)施控制，那么技術(shù)很可能難以爆發(fā)，反之如果控制過晚，技術(shù)已經(jīng)成為經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)的一部分，就可能走向失控，再來解決問題就會(huì)變得更加昂貴、更加困難。

ChatGPT的技術(shù)分析

從技術(shù)角度對(duì)ChatGPT的算法分析并不容易理解，筆者嘗試從邏輯思維角度解釋ChatGPT技術(shù)。OpenAI的工程師們接到的任務(wù)是：要做一個(gè)擁有人類智能的機(jī)器；工程師們的思路如下：首先，要?jiǎng)?chuàng)建一個(gè)“大腦”；其次，要整理學(xué)習(xí)資料；再次，掌握學(xué)習(xí)方法；最后，學(xué)成歸來。這就是ChatGPT技術(shù)路線的邏輯框架。

第一步，構(gòu)建“大腦”。工程師認(rèn)為這應(yīng)該是一個(gè)“通用大腦”，這就是通用人工智能AGI的構(gòu)想：AGI應(yīng)該是一個(gè)大系統(tǒng)，系統(tǒng)的核心是一個(gè)與任務(wù)無關(guān)的“通用”大模型，大模型依靠大算力從海量大數(shù)據(jù)中學(xué)習(xí)人類的知識(shí)，從而形成AI智能，這一步體現(xiàn)了工程師的系統(tǒng)思維，與通用復(fù)用的工程思維。

第二步，整理學(xué)習(xí)資料。人類知識(shí)的載體是文字、語言、圖畫等，所以，工程師選擇了大型語言模型LLM（Large Language Model）。在工程師眼中，大算力、大存儲(chǔ)、大數(shù)據(jù)使得大模型的工程實(shí)踐成為可能，隨著數(shù)據(jù)越來越豐富，算力越來越強(qiáng)，模型越來越大，效果也會(huì)越來越好，這體現(xiàn)了工程師們“力大磚飛”的實(shí)用思維，但并沒有從算法上對(duì)“力大磚飛”進(jìn)行嚴(yán)格論證。

第三步，掌握學(xué)習(xí)方法。在當(dāng)時(shí)的NLP（Natural Language Processing）領(lǐng)域，深度學(xué)習(xí)模型已經(jīng)遭遇瓶頸，通過增加模型層深來提升模型效果微乎其微，深度學(xué)習(xí)模型已經(jīng)逐步被預(yù)訓(xùn)練模型所取代，預(yù)訓(xùn)練模型的公式為：模型性能=預(yù)訓(xùn)練性能（數(shù)據(jù)+任務(wù)）+微調(diào)性能（數(shù)據(jù)+任務(wù)）。

在預(yù)訓(xùn)練模型范式下，存在BERT（Bidirectional Encoder Representations from Transformers）和GPT（Generative Pre-Training）兩種技術(shù)實(shí)現(xiàn)方式，兩者看似相似，實(shí)際上其底層邏輯卻截然不同。從十年前發(fā)表的論文來看，研究者大部分選擇了BERT技術(shù)，而工程師們大部分選擇了GPT技術(shù)?；仡^看分析其原因，筆者認(rèn)為研究者的思路一般是按部就班的：先是完成自然語言理解任務(wù)，而后是完成自然語言生成任務(wù)，這就是BERT技術(shù)。工程師則希望一步到位，越過自然語言理解任務(wù)，直接完成自然語言生成任務(wù)。

其具體的技術(shù)路線如下：GPT1使用預(yù)訓(xùn)練方法來進(jìn)行語言理解；GPT2采用了遷移學(xué)習(xí)技術(shù)高效利用預(yù)訓(xùn)練信息進(jìn)一步提高語言理解能力；GPT3解決了小樣本的泛化能力；GPT3.5通過指令遵循和tuning（微調(diào)）的技術(shù)進(jìn)步，突破了人機(jī)交互的關(guān)鍵技術(shù)；GPT4則將上述技術(shù)實(shí)現(xiàn)工程化。

第四步，學(xué)成歸來。隨著大算力、大數(shù)據(jù)的“厚積薄發(fā)”，大模型“量變突破質(zhì)變”，大語言模型的智力涌現(xiàn)（Emergent Abilities of Large Language Models）出現(xiàn)了。

縱觀人類技術(shù)發(fā)展史，一項(xiàng)新興技術(shù)的成功分為三個(gè)步驟：一是實(shí)驗(yàn)室中技術(shù)的成功；二是工程師們對(duì)技術(shù)成本的降低；三是產(chǎn)業(yè)應(yīng)用的試錯(cuò)。目前，我們已經(jīng)進(jìn)入了產(chǎn)業(yè)應(yīng)用的試錯(cuò)階段。

ChatGPT的技術(shù)缺陷

盡管我們似乎看到，技術(shù)的進(jìn)步在推動(dòng)著ChatGPT的發(fā)展，但是由于技術(shù)的局限性，也導(dǎo)致ChatGPT存在一定技術(shù)缺陷。

應(yīng)用平民化，但建模貴族化。應(yīng)用平民化指的是ChatGPT提供了便捷的API接口，每個(gè)人都可以很方便地接入；建模貴族化指的是建模的成本太高了。ChatGPT的訓(xùn)練需要大量的訓(xùn)練樣本、大量的算力，這些背后更是數(shù)百名工程師以及大量?jī)?nèi)容提供者。總體而言，在應(yīng)用平民化的同時(shí)，ChatGPT研究卻越來越貴族化。

AI“大而不便改”，使得人去適應(yīng)AI。在ChatGPT的1750億個(gè)參數(shù)中，以“某種方式”存儲(chǔ)著人類的知識(shí)，但這些參數(shù)的邏輯關(guān)系、學(xué)習(xí)過程等從技術(shù)上卻尚未完全明確。這些參數(shù)的修改主要是靠訓(xùn)練，而訓(xùn)練依賴的是昂貴的數(shù)據(jù)集，會(huì)產(chǎn)生“大而不便改”的缺陷。所以，這可能會(huì)產(chǎn)生一個(gè)“反直覺”的問題：究竟是人去適應(yīng)AI大模型，還是AI大模型去適應(yīng)人。以人和手機(jī)為例，從客戶體驗(yàn)角度看，好像是手機(jī)在適應(yīng)人的操作，但本質(zhì)卻是人去適應(yīng)手機(jī)給我們帶來的生活方式！

智能缺陷：感知智能而非決策智能。從技術(shù)角度智能類型可以分為三類：基于貝葉斯公式的感知智能、基于先驗(yàn)概率的決策智能、基于計(jì)算公式的計(jì)算智能。從前述ChatGPT的技術(shù)分析不難看出，ChatGPT是通過文本語言等訓(xùn)練的模型，其智能類型是受限的，是局限在文字語言領(lǐng)域的感知智能，而非決策智能，更不是計(jì)算智能。

智能缺陷就是ChatGPT的使用邊界。例如，在金融機(jī)構(gòu)中，ChatGPT不是決策智能，若用于風(fēng)險(xiǎn)決策將受到限制；ChatGPT不是計(jì)算智能，若用于資本計(jì)量也將受到限制；ChatGPT是語言領(lǐng)域的感知智能，是可以以文字助手的身份嵌入大部分與文本相關(guān)的工作。

AI算法固有缺陷。提起ChatGPT有人可能會(huì)有疑問，為什么ChatGPT只提供了API接口而很少開源，這就揭示了ChatGPT作為一種人工智能算法的固有缺陷：算法黑箱、算法魯棒性、算法歧視等。算法黑箱，是指由于算法模型的黑箱運(yùn)作機(jī)制，其運(yùn)行規(guī)律和因果邏輯并不會(huì)顯而易見地?cái)[在研發(fā)者面前。算法魯棒性，指的是算法運(yùn)行容易受到數(shù)據(jù)、模型、訓(xùn)練方法等因素的干擾。算法歧視，指的是算法以數(shù)據(jù)為原料，如果初始使用的是有偏見的數(shù)據(jù)，無形中會(huì)導(dǎo)致生成的內(nèi)容存在偏見或歧視，引發(fā)用戶對(duì)于算法的公平性爭(zhēng)議，這種歧視可能主要來自于資本對(duì)于訓(xùn)練數(shù)據(jù)的控制。

ChatGPT靠數(shù)據(jù)訓(xùn)練，其輸出的結(jié)果也是數(shù)據(jù)。從技術(shù)角度分析，在數(shù)據(jù)的處理過程中，開發(fā)公司對(duì)于數(shù)據(jù)安全的關(guān)注并不夠，所以，可能導(dǎo)致其存在數(shù)據(jù)安全缺陷，在與用戶數(shù)據(jù)交互的全過程中也可能存在風(fēng)險(xiǎn)與合規(guī)問題。

一是訓(xùn)練數(shù)據(jù)的獲取，ChatGPT通過抓取互聯(lián)網(wǎng)上的信息獲得訓(xùn)練數(shù)據(jù)，可能存在合規(guī)問題。

二是在個(gè)人信息收集階段，當(dāng)用戶使用ChatGPT時(shí)，可能會(huì)輸入個(gè)人數(shù)據(jù)，根據(jù)《個(gè)人信息保護(hù)法》要求需要單獨(dú)授權(quán)。

三是在個(gè)人數(shù)據(jù)的加工使用階段，ChatGPT使用了RLHF（Reinforcement Learning from Human Feedback）的訓(xùn)練方法，即以強(qiáng)化學(xué)習(xí)方式依據(jù)人類反饋優(yōu)化語言模型，用戶使用過程中的輸入和交互信息可能會(huì)用于持續(xù)迭代訓(xùn)練，進(jìn)一步被用于為其他用戶提供服務(wù)，從而可能構(gòu)成數(shù)據(jù)共享，這時(shí)已與用戶最初數(shù)據(jù)使用目的和范圍相悖，根據(jù)《個(gè)人信息保護(hù)法》要求需要重新授權(quán)。

四是數(shù)據(jù)泄露，用戶在使用過程中輸入的信息，以及企業(yè)用戶輸入的各類工作信息，可能導(dǎo)致公司敏感信息泄露。

五是算法缺陷導(dǎo)致數(shù)據(jù)主體行權(quán)困難，ChatGPT的算法黑箱與算法復(fù)雜性導(dǎo)致數(shù)據(jù)主體的基本權(quán)利，如更改權(quán)、刪除權(quán)、訪問權(quán)等行權(quán)困難。

ChatGPT的潛在風(fēng)險(xiǎn)

ChatGPT所引發(fā)的潛在社會(huì)問題主要來自工作崗位、“機(jī)器宣傳”、人與AI的邊界等方面，以及由此可能造成的一系列社會(huì)風(fēng)險(xiǎn)。

工作崗位被取代的潛在風(fēng)險(xiǎn)。ChatGPT推出以來，不少新聞報(bào)道或文章分析其會(huì)取代一些人的工作。ChatGPT本質(zhì)上是通過科技創(chuàng)新提高生產(chǎn)效率，是生產(chǎn)力的躍升，這與歷史上的生產(chǎn)力提升一樣，比如，蒸汽機(jī)替代馬車、電力的廣泛使用替代蒸汽機(jī)等，都是以更少的人力去生產(chǎn)商品，讓節(jié)約的人力進(jìn)入新興行業(yè)，增加新的商品和服務(wù)供給。雖然會(huì)在短時(shí)間內(nèi)對(duì)人類的就業(yè)結(jié)構(gòu)產(chǎn)生沖擊，但由于人力資源的稀缺性，中長(zhǎng)期不會(huì)導(dǎo)致大規(guī)模失業(yè)的問題，只是就業(yè)結(jié)構(gòu)發(fā)生了變化。

這種結(jié)構(gòu)變化可以用一句話來概括：一群人的工作是發(fā)展AI，一群人的工作是被AI所取代，取代你的不是AI，而是先掌握AI能力的人。

“機(jī)器宣傳”的潛在風(fēng)險(xiǎn)。ChatGPT為代表的AIGC的內(nèi)容生成，可以在短時(shí)間內(nèi)制造大量包括文字與圖片在內(nèi)的“新內(nèi)容”，其受制于訓(xùn)練數(shù)據(jù)的分布。也就是說，雖然ChatGPT的技術(shù)是理性、中立、客觀的，但是由于訓(xùn)練數(shù)據(jù)存在歧視，可能導(dǎo)致輸出結(jié)果存在歧視，導(dǎo)致“機(jī)器宣傳”可能存在風(fēng)險(xiǎn)，這種風(fēng)險(xiǎn)在技術(shù)中立的掩蓋下具有一定的隱蔽性。所以，需要大力推動(dòng)人工智能工具理性與價(jià)值理性的雙向平衡，構(gòu)建內(nèi)容與監(jiān)管的融合統(tǒng)一。

“資本逐利”的潛在風(fēng)險(xiǎn)。在ChatGPT之前的一個(gè)熱點(diǎn)是元宇宙，ChatGPT火爆以后，元宇宙迅速降溫，給人的感覺是二者此消彼長(zhǎng)。但從技術(shù)角度來看，AIGC客觀上為元宇宙中UGC（User Generated Content）創(chuàng)作提供了助力。元宇宙設(shè)想通過用戶創(chuàng)作內(nèi)容的方式來打造元宇宙，而AIGC本身就是內(nèi)容創(chuàng)作的輔助工具，通過AI和文本、繪圖、視頻的結(jié)合，形成了元宇宙內(nèi)容創(chuàng)作的新生態(tài)。之所以給人此消彼長(zhǎng)的感覺，其原因有三，表面原因是元宇宙的應(yīng)用生態(tài)沒有形成，如VR游戲等依然看不到突破；次要原因是流量遷移，即元宇宙的流量向ChatGPT的遷移；根本原因是資本的短期逐利性，資本來了又走，是一個(gè)階段的結(jié)束也是另一個(gè)階段的開始。

潛在的法律風(fēng)險(xiǎn)。一是著作權(quán)。ChatGPT生成的文學(xué)作品、代碼等存在著著作權(quán)歸屬不清的問題。主要包括：我國(guó)現(xiàn)行知識(shí)產(chǎn)權(quán)法律體系均規(guī)定法律主體為享有權(quán)利、負(fù)有義務(wù)和承擔(dān)責(zé)任的人。

二是可能助長(zhǎng)信息網(wǎng)絡(luò)犯罪活動(dòng)罪。所謂幫信罪，即幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪，我國(guó)《刑法》第二百八十七條明確規(guī)定，明知他人利用信息網(wǎng)絡(luò)實(shí)施犯罪，為其犯罪提供互聯(lián)網(wǎng)接入、服務(wù)器托管、網(wǎng)絡(luò)存儲(chǔ)、通信傳輸?shù)燃夹g(shù)支持，或者提供廣告推廣、支付結(jié)算等幫助。比如，犯罪分子使用ChatGPT的文字生成功能，形成極具說服力的釣魚電子郵件或消息，冒充人類或者組織騙取他人信息。

三是拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪。ChatGPT的運(yùn)營(yíng)商，作為信息發(fā)布的網(wǎng)絡(luò)內(nèi)容服務(wù)提供者，需要履行信息網(wǎng)絡(luò)安全管理義務(wù)。若被監(jiān)管部門要求責(zé)令整改，而ChatGPT的運(yùn)營(yíng)商無法提供有效的管理措施，致使違法信息大量傳播，可能涉嫌拒不履行網(wǎng)絡(luò)安全管理義務(wù)的違法行為。而前文提及的ChatGPT“大而不便改”的缺陷，則加大了“運(yùn)營(yíng)商無法提供有效的管理措施”的可能性。

潛在的未知風(fēng)險(xiǎn)。人與AI能否“和諧”相處，關(guān)鍵是能否達(dá)成“共識(shí)”，這是一個(gè)潛在的未知風(fēng)險(xiǎn)。例如，人類認(rèn)為：人具有創(chuàng)造性，AI無法開展創(chuàng)造性工作，但AI“認(rèn)為”：AI使人類的創(chuàng)造力大幅提升。人類認(rèn)為：畢加索的畫是抽象的創(chuàng)造性，但AI“認(rèn)為”：畢加索的畫風(fēng)不過是一個(gè)模型，通過參數(shù)調(diào)整會(huì)生成多幅畢加索的畫。人類認(rèn)為：人類在利用AI擴(kuò)展人的智能，但AI“認(rèn)為”：AI在利用人展示它的智能。所以，當(dāng)“機(jī)器宣傳”的能力超過了原有的信息渠道；當(dāng)AIGC產(chǎn)生的文字超過了人類歷史積累的文字；當(dāng)非人類情感的思想被機(jī)器開發(fā)出來；當(dāng)AI“過度智能”變得比人類更聰明；當(dāng)硅基生產(chǎn)力超越碳基生產(chǎn)力，人類如何掌握對(duì)人類文明的控制，這也是一個(gè)值得深思的哲學(xué)問題。

ChatGPT的治理

回顧人類歷史，技術(shù)和倫理緊密交織，面對(duì)科林格里奇困境，筆者認(rèn)為，社會(huì)倫理優(yōu)先于技術(shù)創(chuàng)新。在新興技術(shù)的設(shè)計(jì)和開發(fā)過程中，應(yīng)優(yōu)先考慮和滿足為人類服務(wù)的倫理要求，最大限度利用技術(shù)創(chuàng)新造福人類。結(jié)合我國(guó)國(guó)情，對(duì)于AIGC的治理分為監(jiān)管治理、行業(yè)自律、企業(yè)自治、全民共治四個(gè)方面。

監(jiān)管治理：技術(shù)與內(nèi)容并重。我國(guó)正在形成相對(duì)完善的法律體系，由《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例（征求意見稿）》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》等政策法規(guī)強(qiáng)調(diào)對(duì)內(nèi)容的治理；《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等強(qiáng)調(diào)對(duì)技術(shù)的治理，這體現(xiàn)了技術(shù)與內(nèi)容并重的治理思路。建議在上述治理成果的基礎(chǔ)上，進(jìn)一步加強(qiáng)對(duì)ChatGPT內(nèi)容產(chǎn)業(yè)與應(yīng)用模型的方向性引導(dǎo)。

行業(yè)自律：倫理先行、統(tǒng)籌發(fā)展。國(guó)家新一代人工智能治理專業(yè)委員會(huì)在2021年發(fā)布了《新一代人工智能倫理規(guī)范》，提出將倫理道德融入人工智能研發(fā)和應(yīng)用的全生命周期。《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》中明確寫到，人工智能治理應(yīng)堅(jiān)持倫理先行，通過制度建設(shè)、風(fēng)險(xiǎn)管控、協(xié)同共治等推進(jìn)人工智能倫理監(jiān)管；應(yīng)加強(qiáng)自我約束，提高人工智能在研發(fā)過程中的算法安全與數(shù)據(jù)質(zhì)量，減少偏見歧視；應(yīng)提倡負(fù)責(zé)任使用人工智能，避免誤用、濫用，加強(qiáng)公眾宣傳教育。建議成立行業(yè)聯(lián)盟，統(tǒng)籌龍頭企業(yè)、研究機(jī)構(gòu)和標(biāo)準(zhǔn)化組織等發(fā)揮協(xié)同優(yōu)勢(shì)，聯(lián)合制定公約、標(biāo)準(zhǔn)、指南、準(zhǔn)則等行業(yè)制度規(guī)范，建立可信賴的AIGC技術(shù)框架、標(biāo)準(zhǔn)體系、評(píng)測(cè)機(jī)制等。

企業(yè)治理：主體責(zé)任與社會(huì)職責(zé)。《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》明確提出強(qiáng)化企業(yè)主體責(zé)任。同時(shí)也需要企業(yè)踐行科技向善理念、積極履行社會(huì)職責(zé)，例如，社會(huì)倫理、安全底線、內(nèi)容治理等職責(zé)。建議加強(qiáng)企業(yè)與政府部門和行業(yè)組織的治理合作，為其提供可靠的技術(shù)能力，例如，內(nèi)容審核技術(shù)能力、緊急辟謠技術(shù)能力等。

全民共治：提升防范意識(shí)，營(yíng)造良性發(fā)展環(huán)境。一是深化公眾對(duì)于AIGC技術(shù)濫用所帶來的風(fēng)險(xiǎn)和危害的認(rèn)知；二是提高廣大群眾對(duì)于虛假信息的鑒別能力；三是鼓勵(lì)廣大群眾主動(dòng)參與內(nèi)容與傳播等環(huán)節(jié)的輿論監(jiān)督。全面共治，共同營(yíng)造良性發(fā)展的生態(tài)。

（本文原載于《中國(guó)銀行業(yè)》雜志2023年第5期）