ChatGPT是結合了人類反饋強化學習與大數據預訓練語言模型的自然語言處理工具。ChatGPT的問世，引發(fā)了國內外的廣泛關注，同時也正在人工智能領域引發(fā)新一輪的科技競賽。
實現交互模式上的革新
作為預訓練語言模型、大模型“出圈”的代表，ChatGPT實現了自然語言處理領域的新突破，成功結合算法、算力和數據，將大規(guī)模的預訓練與人工反饋相結合，實現了與用戶的多輪對話、理解上下文、根據用戶特征不斷適應新的需求等多種先進特征，也使得ChatGPT能夠更好地理解對話語境，輸出文本也更符合語言邏輯與人類習慣、習俗。
與以往的預訓練語言模型相比，ChatGPT使用了45TB的文本數據，可以更好地捕捉人類語言的復雜性;使用了算力等同于數萬張高性能GPU的計算資源，以獲得更好的訓練效果;使用了更通用的預訓練方式，使其對不同場景不同任務具有更高的適應性；可以在不斷接觸新語料的過程中持續(xù)提高自己的性能，具有更強的自我學習能力。與傳統(tǒng)搜索引擎僅能通過用戶輸入的關鍵詞輸出搜索結果相比，結合了人工智能的搜索引擎將通過以ChatGPT與用戶對話為主、傳統(tǒng)引擎提供資料來源與驗證準確性為輔的方式，實現搜索引擎交互模式上的革新，這也將極大地提高交互模式下的用戶搜索體驗。
ChatGPT的發(fā)布在互聯網行業(yè)掀起了巨大熱潮，國內外眾多科技公司均看好ChatGPT及其競品有望成為AI“殺手級”應用，并有可能顛覆互聯網業(yè)務現有格局。在傳媒領域，ChatGPT可以幫助新聞媒體工作者智能生成報道，將部分勞動性的采編工作自動化，更快、更準、更智能地生成內容，提升新聞的時效性；在影視領域，可以根據大眾喜好為劇本創(chuàng)作提供新思路，以激發(fā)創(chuàng)作者的靈感并提高內容創(chuàng)作效率；在電商領域，可以打造虛擬主播、虛擬客服等提高客戶的服務體驗，減少訂單退換貨率，擴大品牌知名度；此外，在教育、金融、醫(yī)療等各領域ChatGPT均有望發(fā)揮積極作用，促進行業(yè)發(fā)展。ChatGPT的應用，不僅能提高各行業(yè)生產效率與生產質量，也將有可能替代文秘、會議記錄等人類勞動力。
互聯網治理面臨復雜化趨勢
在ChatGPT被熱炒的氛圍中，我們應當理性地看到，作為一種新型互聯網服務的ChatGPT仍存在技術上的局限性。ChatGPT不具備實時查證的功能，其回答完全來自預先設置的數據庫。ChatGPT缺少行業(yè)數據的訓練，對于專業(yè)領域如法律、醫(yī)療行業(yè)的回答無法保證準確率。ChatGPT所提供的答案并不可靠，其并不擅長數學邏輯，也沒有能力分辨一些信息的真假。這種技術上的局限性可能導致互聯網治理的局面變得日益復雜。
同時，ChatGPT帶來的倫理及監(jiān)管問題也令人憂慮。如何對類似于ChatGPT的AI服務進行合理監(jiān)管，成為監(jiān)管者需要面對的新課題。
第一，最直接的風險是數據泄露問題。ChatGPT本質上是以海量數據為基礎進行訓練的大模型，這意味著其數據越多、時效性越強，它的功能就越好，能給予用戶更優(yōu)質的交互體驗。但用于ChatGPT或其他類似應用的訓練數據，有可能會涉及商業(yè)機密、國家機密及個人隱私信息。那么，獲取相關敏感信息的途徑是否合法合規(guī)？如果造成敏感信息泄露，所造成的影響及后果該由誰來承擔？目前，美國的一些公司為防止數據泄露的情況出現，已經要求公司職員在使用ChatGPT過程中嚴禁泄露商業(yè)機密，并正在著手制定相關的措施和規(guī)范。
第二，ChatGPT帶來的學術倫理問題引起教育界及學術界的擔憂。自ChatGPT發(fā)布以來，越來越多的學生利用ChatGPT完成學業(yè)和功課，甚至將其用于作弊。教育工作者擔心類似ChatGPT的互聯網服務將導致學術不端行為的泛濫，使得培養(yǎng)學生的批判思維及創(chuàng)新能力變得愈發(fā)困難，且無法正確有效評估學生的能力和知識水平，進而影響到構建公平的學術氛圍和學術環(huán)境。
第三，ChatGPT及類似的業(yè)務可能會輸出危及社會公共安全的有害信息。在誘導式提問下，ChatGPT類的應用可能為違法甚至犯罪活動提供便利。這可能使違法犯罪的門檻大大降低。監(jiān)管者需要對這類有害信息及其可能造成的嚴重危害給予足夠的重視。
第四，ChatGPT及類似的業(yè)務可能帶來意識形態(tài)問題。ChatGPT的輸出由其模型所決定，而模型又來自算法選擇以及用于模型訓練的龐大數據庫，這也就使得模型開發(fā)者能夠相對容易地將自己所偏好的價值觀植入訓練數據，或通過算法選擇呈現某種價值觀。假若模型開發(fā)者的價值觀存在著歷史曲解、文化偏見以及種族歧視，那么這種曲解、偏見與歧視將會隨著模型與用戶的交互對用戶產生潛移默化的影響，甚至是誤導。因此，在當今國際國內各種思潮交織碰撞、東西方意識形態(tài)博弈的背景下，ChatGPT這類互聯網服務可能會受到國家行為體以及非國家行為體的操控，成為意識形態(tài)傳播的工具。
ChatGPT作為由海量數據訓練得到的人工智能模型，代表著AI技術取得的突破和AI行業(yè)的最新成果，其強大的產業(yè)應用能力、廣泛的場景適用性勢必極大提升人類社會各行業(yè)、各場景的內容生產效率。與此同時，ChatGPT及與其類似的互聯網服務所帶來的相關倫理及監(jiān)管問題使得互聯網治理面臨新的挑戰(zhàn)，需要政府、產業(yè)界、學界以及每個互聯網用戶認真審視和應對。(文 | 北京大學信息管理系 郭豐 北京郵電大學計算機學院 李賢達)
來源：中國社會科學報
