查看新版>>
我的位置： 上观号 > 上海市法学会 > 文章详情

孙欣然 黄荣昌｜ChatGPT视角下我国网络安全风险与治理机制研究

转自：上海市法学会 2025-03-04 07:42:57

以ChatGPT为代表的生成式人工智能技术的问世，颠覆了传统人工智能网络安全治理的固有思维与僵化机制，其以强大的数据生成与算法分析能力促进了社会经济体制结构的变革与发展。与此同时，ChatGPT凸显了科技发展迭代进程中的“破坏性创新”特征，为我国网络安全综合治理体系带来机遇的同时，也对我国网络安全局势带来了相应的风险与挑战，域外网络安全治理的先进经验促使我国对现有网络安全治理进行理念转变与体制改革。在坚持总体国家安全观的引领下，构建针对生成式人工智能等新型技术的多元化法律规范体系，鼓励国内研发企业、机构积极破除新型技术的域外垄断与发展桎梏因素，驱动新型人工智能技术创新与后备人才培养，统一新型人工智能技术各环节监管标准，强化科技伦理观念培养与教育，为完善我国新形势下的网络安全综合治理机制提供技术与制度保障。

引言
在党的领导下，我国网络安全事业已取得重大成就。国家安全法、网络安全法、数据安全法等一系列网络安全相关法律规范的颁布，《互联网信息服务管理办法》《互联网信息服务算法推荐管理规定》等网络安全行政法规的出台，以及中央网信办、国家互联网应急中心等网络安全治理机构的成立，标志着我国已初步建立网络安全综合治理体系。网络安全综合治理成效显著，网络空间法治化程度不断提高，网络安全科技手段日益更新，网络强国建设迈入了新的阶段。
2022年11月，美国人工智能公司OpenAI推出现象级人工智能大数据模型ChatGPT（Chat　Generative　Pre-trained Transformer）。与以往“分析式AI”不同，ChatGPT以其自身“生成式AI”的深度合成技术与先进的自然语言处理能力成为具有跨时代意义的生成式人工智能语言学习模型。同时，以ChatGPT为代表的生成式人工智能技术也对国家与社会各领域产生了潜在的隐患。例如，生成式人工智能技术的快速发展是否能契合当今我国社会、经济的发展战略需求？生成式人工智能技术是否影响我国法律体系等一系列亟待反思并解决的问题。
近年来，我国学者们大多围绕以ChatGPT为代表的生成式人工智能技术的基本特征、法律规制、社会学治理等问题进行研究，例如：ChatGPT的法律主体定位、ChatGPT生成内容的著作权辨析、ChatGPT的社会风险治理路径等。不难看出，无论是理论界还是实务界未就关于ChatGPT的概念界定、基本指征、社会风险等研究得出统一的结论，有关生成式人工智能与网络安全之间的研究也仅仅停留在技术剖析和政策解读层面，对生成式人工智能背景下我国网络安全的风险与应对机制的研究鲜有涉及。故本文以ChatGPT为代表的生成式人工智能为样本，在回顾ChatGPT发展历程的同时，廓清其基本概念与相关特征，分析其对我国网络安全所产生的影响，并总结我国现有网络安全应对机制的现状与不足，提出为生成式人工智能背景下我国网络安全应对机制的建设提供具有前瞻性、可行性的完善路径，为新人工智能技术背景下我国网络安全的可持续性发展提供综合保障。
一、ChatGPT的发展历程及基本特点
根据中国国家互联网信息办公室发布的《生成式人工智能服务管理暂行办法》规定，所谓生成式人工智能是指：“基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。”由该规定不难看出，ChatGPT正是基于一定的算法或架构生成文本、图片等内容的人工智能模型。相较于已有的人工智能技术而言，ChatGPT作为新一代生成式人工智能凭借着出色的自然语言处理、深度合成分析和智能学习算法等能力走向智能化、类人化。为此，梳理并归纳ChatGPT的发展历程与基本特点，探究ChatGPT为代表的生成式人工智能运行机制，有助于了解生成式人工智能未来的发展趋势，同时也可以根据其相关特点完善并创设相应举措。

（一）
ChatGPT的发展历程

ChatGPT全称为（Chat Generative Pre-trained Transformer），即“生成型预训练变换模型”，或可直译为“聊天生成器”，它是一种具有自然语言处理能力的学习机器模型。该模型基于Transformer架构，采用数据库中的大量数据进行深度学习，并通过输入多样化的网络文本，使其具有强大的自然语言理解和生成能力，解析并生成人类语言，从而完成人机交互的任务。
美国OpenAI公司早期的ChatGPT研究仅仅是围绕以大数据模型GPT的发展为核心。2018年6月，OpenAI公司以谷歌公司开创的Transformer架构为基本框架，首次发布大型语言模型GPT-1。GPT-1设计之初采用了“无监督学习”的训练方法，并在训练时输入了1.17亿的无标签文本数据，拟用于机器翻译任务和处理序列数据。此阶段的GPT-1只是纯文本输入与输出工具，对输出内容并没有明确的对错辨别能力，而是通过对输入文本内容进行尝试性预测，从而达到自我学习的目的。2018年11月，OpenAI公司在GPT-1的基础上增加了训练参数，由原先的1.17亿扩充至15亿。在使用更大训练数据集时，GPT-2在不断训练学习过程中能够生成质量更高，更连贯的文本。2020年6月，GPT-3在GPT-2的基础上进一步扩充了训练参数值，由15亿提高至1750亿数量级。同时，OpenAI公司首次运用代码、指令和反馈强化学习这三种微调技术对GPT-3进行微调。基于此，GPT-3的自然语言处理能力大幅度提升，文本生成与处理速度展现出前所未有的水平。
2021年7月，GPT-3的变种ChatGPT正式出现。在沿袭了GPT-3数据库的同时，开发重点放在了优化人机对话系统功能，ChatGPT经过大量与人类对话的训练后，进一步适应了与人类进行自然语言的交流。2022年11月，ChatGPT3.5版本正式公布，标志着生成式人工智能的初级形态基本形成。ChatG-PT3.5版本的更新增加了对话式数据组织的方式，进而衍生出强文本生成、分类以及对话生成的功能。2023年5月，在短短半年时间内，OpenAI公司开发出ChatGPT3.5升级版：ChatGPT4.0。新一代ChatG-PT4.0采用多模态数据处理系统，训练参数更是达到前所未有的100W亿数量级，优化了用户输入方式，支持视觉输入、图像识别等功能，尤其在高级推理能力方面实现全新突破。同时，ChatGPT4更能应对复杂微妙的场景。比如在美国模拟律师考试中，ChatGPT4的分数在应试者中排名前10％，说明ChatGPT4在专业测试中的表现已经更接近于人类水平。
纵观GPT以及ChatGPT的发展历程可知，生成式人工智能的发展更多依赖于一定的数据体系与算法设计等必备要素。庞大的数据体系构成了生成式人工智能自主学习发展的基础，正如数据被比喻为滋养人工智能的粮食或石油。同时，数据的获取方式与数量一定程度上决定着算法的设计与发展。

（二）
ChatGPT的基本特点

在全面了解GPT及ChatGPT的发展历程后，有助于我们对生成式人工智能语言模型形成一个相对稳定、具象化的认知描述。但仅仅了解其发展历程是无法全面探究并分析生成式人工智能的内在核心特征，也无法更好地总结并归纳以ChatGPT为代表的生成式人工智能未来发展趋势。故下文将以图表化形式对ChatGPT的基本特点予以概括并分析。
截至2023年7月，ChatGPT的最新版本为ChatGPT4.0。故本文以其作为研究样本，从而概括出ChatGPT的基本特征。ChatGPT4.0的基本特征包括如下四点：
1.自然语言处理能力（NIP）




ChatGPT4.0能够根据给定的语言环境，分析复杂的文本结构，理解用户输入的问题或指令，捕捉其核心含义后，并在此基础上生成符合语境的回应。同时，ChatGPT4.0能够及时处理长篇对话内容，跟踪对话进展，其所生成的文本内容详细、精炼且富有创造性，能够承担写作助手、创新思维生成等综合性任务。最后，用户可以通过微调或者修改控制参数，使其能够根据用户的特定需求改进生成文本的内容。
2.预测分析与决策支持




ChatGPT4.0能够针对输入的文本数据内容进行分析，并结合上下文和具体的语境给出符合人类思维方式的预测性回应。也即根据用户输入的问题或指令，对语料库进行综合分析后给出预测。同时，ChatGPT4.0可以根据数据训练内容对某些问题给出相关决策、建议或者分析。例如，基于大量已处理过的文本内容，模拟出一个故事的可能性或未来性发展；或者根据输入文本的开头内容，进行过程及结尾的预测性展写；以及针对特定化文本性问题提出带有相对合理性的决策建议等。
3.人机双向交互能力




ChatGPT与GPT核心区别在于是否具有新一代人机双向交互系统，ChatGPT4.0的更新迭代已将这项人机交互系统的作用发挥到了极致。ChatGPT4.0优化了用户界面设计，增加了图表、命令行和文件界面；进一步完善了可用性研究，该模型构建者可以根据用户的行为和反馈进行模型算法与系统的改进；促进了信息可视化，利用图表等可视化形式帮助用户理解和处理复杂的信息。同时，ChatGPT4.0利用人机双向交互系统可以模拟各类用户的语言风格和对话方式，大规模的数据文本训练丰富了其跨领域的知识存储，信息的双向交互能力得到大幅度提升。
4.文本组合学习能力




如前所述，ChatGPT4.0卓越的自然语言处理能力、大规模专业化的数据训练库、精密的数据生成算法设计等各组成要素促使其文本组合学习能力得到显著提升。大量的文本数据训练使得其理解了各类不同的语言模式，加快了长序列文本内容处理速度，并能够生成相对合理且连贯的内容；强大的文本感知能力能够将输入内容进行上下文贯通，从而深度理解输入内容的整体含义；精密的数据生成算法创设了风格模仿能力，能够按照用户提供的语言风格与对话方式进行特定风格的内容输出。
总体而言，ChatGPT4.0具有自然语言处理能力、预测性分析与决策支持、人机双向交互能力和文本组合学习能力等特点，这些基本特点正是其与传统人工智能的区别所在。ChatGPT4.0作为生成式人工智能的典型代表，在改变社会生产与生活方式的同时，也存在着一定的局限性。例如：准确性与决策能力有待提升，缺乏对数据的实质理解与实时统计，以及模型数据库未能及时更新迭代等。但就目前人工智能技术的整体发展来看，ChatGPT4.0已然颠覆了以往传统人工智能所带来的认知观念。
二、ChatGPT对我国网络安全的赋能与风险
“智能时代是由大数据与人工智能等技术驱动发展的时代。”随着以ChatGPT为代表的生成式人工智能技术蓬勃发展，其依托于算法生成与网络架构的数字智能技术促使着社会经济体制不断变革与深化，并深刻改变着人类社会生产与生活方式。从社会经济发展视角来看，生成式人工智能可以帮助国家建立更加可持续的、免于经济危机侵扰的增长模型。同时，伴随着ChatGPT在社会经济领域全方位的渗透与应用，以生成式人工智能技术为载体的新一轮科学技术革命正在加速重塑网络安全格局，网络空间安全治理也迎来了新的时代机遇与挑战。由于ChatGPT在网络安全领域的应用现处于测试与迭代的缓慢发展阶段，研究ChatGPT为代表的生成式人工智能对我国网络安全的影响与风险，从而对辨识新型人工智能技术下网络安全治理的特点、完善网络安全治理的应对机制具有重要意义。
为更好地探究ChatGPT对我国网络安全的影响，本文将ChatGPT对我国网络安全的赋能作用与风险生成进行概括性统计，并以图示化的形式展现（见图1）。

图1  ChatGPT对网络安全的赋能与风险


（一）
ChatGPT对我国网络安全的赋能作用

ChatGPT基于强大的通用性能力对我国网络安全进行赋能，其中包括自动化威胁检测、漏洞的挖掘与修复和自动化安全响应等内容。ChatGPT的自动化威胁检测包括恶意软件、钓鱼邮件检测等。具体而言，ChatGPT能够基于自然语言处理和代码生成能力对实施特定攻击的恶意软件与钓鱼邮件代码进行分析与定位，并自主学习与理解自带数据库中的网络安全理论知识，扩展延伸代码构成逻辑之间的发展结构，逆向分析并总结恶意软件与钓鱼邮件特定的攻击代码种类，借助强大的数据检索能力对网络安全体系进行全方位自动化检测，从而及时准确地发现并破解恶意攻击所产生的网络威胁。ChatGPT对网络安全漏洞挖掘与修复的赋能体现为：ChatGPT能够通过分析代码与注释，快速定位目标系统中可能存在的多种安全漏洞与针对性攻击代码，在IT安全团队的指导下能够以迅捷的方式识别并修复系统所暴露出的相关安全漏洞，进而优化并提升系统安全防护机制与防御能力。同时，ChatGPT针对新系统的开发与推广进程中可开展反渗透系统检测。通过对新系统代码的综合分析与安全性研判，改变API调用与程序架构重组，进而检测新系统运行流程中可能存在的安全风险，促进预防性安全机制有效运行。

（二）
ChatGPT对我国网络安全的风险生成

无论是传统人工智能技术还是新型人工智能技术，对于我国网络安全治理环节而言，都存在着一定的裨益与挑战。同样，以ChatGPT为代表的生成式人工智能在革新传统网络安全治理手段与方式、完善网络安全应急响应机制的同时，也对我国新形势下的网络安全产生了相应的风险。由图3可知，ChatGPT对我国网络安全的风险生成主要存在以下四个方面：
1.政治风险：影响传统政治意识形态互动结构




现代化人工智能技术通过与资本的合流推动经济、政治的全球化，并在此过程中形成了新的霸权主义。以ChatGPT为代表的生成式人工智能对国家政治安全的核心影响在于两个方面：一是国家的政府机构整体决策质效成败取决于政府机构在决策系统中的数据分析与算法设计水平；二是掌握核心技术的强国利用算法与大数据针对他国进行政治和舆论事务的干扰与意识形态的传输。
具体而言，由于ChatGPT自身系统的技术框架来源于境外，且主要是基于西方意识形态与价值观导向建立并发展的客观现实，以及ChatGPT部分数据收集与处理上带有先天性的价值偏向，容易对国家相关信息进行深度分析与挖掘，故现阶段下以ChatGPT为代表的生成式人工智能技术对我国而言存在着政治风险导向。其次，由于ChatGPT掌握数据与算法的主体多元化，加之ChatGPT的高级自然语言处理与代码生成能力，其生成内容往往极其容易受到系统设计者虚假信息的宣传与引导，进而影响传统政治意识形态互动结构。最后，传统媒介时代的发展受到严峻挑战。生成式人工智能介入传媒领域将极大地改变信息传播的方式，信息将会通过算法设计与数据分析进行精准传播，信息内容的载体形式变得多样化，ChatGPT生成内容中的虚假信息将会借助新型信息传播通道与多样化载体进行意识形态的传输与偏执思想的引导与干预。
2.管控风险：冲击政府网络安全治理机制




人工智能将推动国家形成更加包容和多层次的治理需求，增加世界的复合化，包括权力的去中心化和行为主体的多元化。而在当今生成式人工智能技术背景下，数据安全与算法安全作为网络安全的核心要素，掌握数据生成与算法设计的主体逐渐向多元化趋势发展。2023年2月，中共中央、国务院发布《数字中国建设整体布局规划》，指出要加强数字政府、数字社会、数字中国一体化建设。其中，有效推动数字政府治理本身就是新时代实现我国国家治理体系与治理能力现代化的重要内容。
如前所述，由于以ChatGPT为代表的生成式人工智能核心算法与数据技术主体呈现多元化趋势，故现阶段下人工智能与网络安全治理的控制权并非政府所唯一拥有。人工智能技术、标准与规则的制定权主要被核心互联网企业、社会团体和私营集团所垄断，这就意味着针对生成式等新型人工智能技术的网络安全治理应当由多元化主体协同参与。但是，由于综合治理机制与相关法律法规并不健全，数据生成和算法设计的主体多元化现象一定程度上冲击并弱化了政府的网络安全治理主体地位与能力，侵蚀了国家对网络安全治理的传统管理优势。在推进数字政府建设的进程中，政务工作的整体趋势是逐渐向数字化平台迁移，而以ChatGPT为代表的生成式人工智能技术在数字政府建设具体流程中往往会产生数据获取不规范、行政监管乏力等问题。更有甚者，利用ChatGPT的通用性能力获取并分析政务、国家数据，并搜寻网络安全治理系统的相关漏洞，从而改变传统网络攻防方法与策略，利用恶意攻击型代码、瘫痪网络结构等方式对我国网络安全治理机制与国家数据安全体系造成无法估量的损失。
3.安全风险：革新战场态势，加剧科技竞赛与国际局势




从国家安全治理来看，人工智能在认知域和物理域的应用的确能提升国家在安全领域的治理水平。在秉持总体国家安全观的同时，网络安全始终被视作国家安全体系中的重要环节。以ChatGPT为代表的生成式人工智能技术在颠覆传统社会经济生产、生活方式的同时，也革新了国际战场态势，加剧了科技竞赛与国际安全局势。随着以ChatGPT为代表的生成式人工智能技术的深度发展，科技大国之间的竞争态势将会愈发明显与激化，新型人工智能领域所衍生出的各类技术将会进一步加剧国家之间的科技竞赛。同时，人工智能技术的变革会进一步巩固知识领域中技术先发国的权力，大国对权力的控制变得更加隐形且自然。与此同时，科技竞赛的加剧将进一步导致国际局势严峻，科技发展不均衡与意识形态对立之间的矛盾将恶化国家之间发展的“马太效应”，进而影响发展中国家在全球话语体系的地位，政治权力呈现出“多极中心化”趋势。
4.隐私风险：威胁国家涉密数据安全




在信息时代，数据的控制与应用已形成重要的社会影响力，并塑造出独特主导性力量。而这种新型主导力量深刻影响着国家治理的成效及基础架构，从政策决策到公共服务，都显示出数据的巨大潜力和影响力。因此，对于数据安全的重视，被上升到“数据主权”这一层面，数据主权成为相关立法的基本立场。
个人信息泄露引发的政治安全问题很大程度上也已经超越了传统安全领域。用户在与ChatGPT进行双向交互对话的过程同时也是ChatGPT自我强化学习的过程，在前文关于ChatGPT人机双向交互能力的探讨中提到ChatGPT具有依据信息交流系统收集并分析用户语言特征、行为特点和习惯等功能，且用户对该功能并不能予以直观地察觉，这就导致在与ChatGPT双向信息交流过程中存在着个人信息隐私暴露与被窃取的风险。其次，人工智能系统已能实现对作为博弈对手的他国政治精英个人形象的精准刻画。故以ChatGPT为代表的人工智能可以根据目标人物公开发言的相关文本数据进行分析，从而概括并预测目标人物的性格特质、语言特点等人物细节，这使得针对目标人物的认知域攻击难以采取有效的防御手段。最后，ChatGPT也被用于国家治理与政府决策的运作机制。在快速提升信息收集与决策效率时，ChatGPT对国家、政府相关涉密数据难免存在着“黑箱”操作，也即对国家相关运输、军事、经济、资源等核心涉密数据在分析运作过程中进行存储与境外传递。严重影响国家安全的同时，弱化政府行为的机密性与安全性，破坏国家间的权力动态平衡结构，恶化国际安全局势。
三、我国网络安全治理的现状与不足
在秉持总体国家安全观的核心框架下，我国网络安全与信息安全理念的重要性达到前所未有的程度，网络安全与国家安全相互影响、相辅相成。人工智能技术与互联网的发展变迁在不断重塑网络空间的同时，也深化并扩展了网络安全的内涵。网络安全不再只被视为网络领域或信息系统的安全，网络安全更应该是网络时代的国家安全。但同时，以ChatGPT为代表的生成式人工智能对我国网络安全治理提供了较为裨益的赋能作用，同样也产生了诸多风险因素。由此，我国网络空间安全保障体系与网络安全治理机制面临着更加严峻的挑战。同时，ChatGPT对其本源国家及周边国家的网络安全也产生了一定的风险。例如，美国采取了立法方式对其进行相应的规制；欧盟及其成员国通过设立规则与内部约定等形式对新型人工智能技术予以防范。总结并分析我国网络安全治理现状，概述域外国家网络安全治理特点，亟期为完善我国网络安全治理机制提供有益经验。

（一）
我国网络安全治理机构体系

由图2可知，我国网络安全治理机构体系呈现出“五级三类”架构。“五级”是从纵向看，也即以中央网络安全和信息化委员会、国务院国家互联网信息办公室为主导核心，对应我国行政管理体系，向下分为五个层级：国家级、省级、市级、县级、乡镇级。根据不同层级规划网络安全治理侧重点也有所不同，其中国家级（中央网络安全和信息化委员会、国务院国家互联网信息办公室）侧重于制定国家网络安全治理的战略性举措，省级（各省、自治区、直辖市网络安全和信息化委员会及相对应的互联网信息办公室）侧重于国家网络安全治理战略实施的协调性，市县级和乡镇级则侧重于国家网络安全治理战略的具体实施。需要指出的是，由于部分地方区域行政管理体系存在特殊性，市县级与乡镇级合并层级编制，并不是我国任何一个地域区划都严格按照“五级”架构进行设置。

图2  我国网络安全治理机构体系
“三类”是指网络安全治理规划类型，分为总体规划、专项规划与综合规划。总体规划强调的是网络安全治理规划的实施性，是对全国行政区域范围涉及的网络安全、信息保护、网络空间保护等做出的全局性安排。专项规划强调的是网络安全治理规划的专门性，一般由特定部门针对特定的区域为发挥特定功能对网络安全治理作出的专门性安排。综合规划强调的是网络安全治理规划的协调性与综合性，一般由牵头部门协调与网络安全治理有关的其他部门及机构，针对各部门网络安全治理中所存在的问题及经验进行综合性协调规划。

（二）
我国网络安全政策法规体系

在人工智能技术不断发展的历程中，我国将网络安全上升为国家战略层面，提出数字政府、数字社会与数字国家一体化建设，实施了网络强国战略。初步构建起以“五级三类”为架构核心的网络安全治理机构体系和以法律法规与行政规章为核心的网络安全政策法规体系，形成总体引领与分级实施的全方位、全天候网络空间安全治理机制。

图3  国家网络安全政策法规体系
由图3可知，我国网络安全政策法规体系呈现出“一指引、双战略、多核心”格局。其中，“一指引”是指我国网络安全政策法规体系的建立必须坚持“总体国家安全观”的指引，网络安全相关法律法规与政策的制订与完善必须符合国家安全法的基本立法精神。“双战略”是指我国网络安全政策法规体系必须围绕国家网络安全空间战略与网络空间国际合作战略而展开，相关法律法规与政策指引必须在符合我国网络安全现状下向网络安全空间与国际合作层面进行延伸。“多核心”是指网络安全治理总体架构所衍生出的多个关键环节，例如网络安全、个人信息保护、数据安全、密码安全等，通过针对多个关键环节制定相应的法律法规与政策指引，进而实现网络安全治理的总体应对与发展。
整体来看，我国网络安全政策法规体系基本形成。通过颁布网络安全法、数据安全法、个人信息保护法等一系列法律法规，出台并实施《网络安全审查办法》《云计算服务安全评估办法》《网络数据安全管理条例》等政策性文件，建立关键信息基础设施安全保护、网络安全审查、数据安全管理等一系列专项制度，发布300余项国家标准，基本构建起网络安全治理机制的“四梁八柱”。同时，国家网络安全应急工作体系不断健全，印发了《国家网络安全事件应急预案》，建立网络安全应急协调与通报工作机制，构建起“全国一盘棋”的工作体系。其次，关键信息基础设施安全保护体系和能力显著增强，明确了我国关键信息基础设施安全保护制度的法治基础，确立了本领域安全保护与监管职责，推进了网络安全工作向更高水平、更深层次迈进。网络安全风险防范能力持续加强，建立国家网络安全审查工作机制，维护网络与数据安全，防范并化解国家网络安全风险。最后，推进网络安全教育、技术、产业层面融合发展，设立国家网络空间安全学科，建成国家网络安全人才与创新基地，积极推动网络安全产业发展，形成产业发展的良好基础。

（三）
ChatGPT背景下现有网络安全治理机制的缺陷

在我国网络安全治理机构体系与网络安全政策法规体系的引领与保障作用下，我国已经形成了较为成熟且完善的网络安全应对机制。构建了“五级三类”的网络安全治理机构体系，也出台了一系列具有指导性和规范性的网络安全政策和法规，二者的综合效应革新了传统网络安全治理架构，强化了网络安全治理水平，确保了网络安全战略举措能够有序、稳步地推进。与此同时，以ChatGPT为代表的生成式人工智能技术的迅猛发展冲击着我国现有的网络安全治理机制，传统网络安全治理手段与互联网信息安全监管体制难以应对有效地化解ChatGPT所引发的新型风险。故ChatGPT背景下我国现有的网络安全治理机制存在明显的缺陷。
1.相关规范不完备、效力有限




具体而言，以ChatGPT为代表的生成式人工智能技术在生成内容方面存在着一定的风险。由于其深度学习和自我迭代的特性，ChatGPT可以在短时间内产生大量的内容。如果没有适当的规范与监管，极易导致虚假信息的数量呈现几何级的增长。而这种爆发式的虚假信息对我国正在逐步构建并完善的网络安全政策法规体系产生了巨大的压力，超出了现有体系的运作负荷和完善空间。与此同时，我国现有的互联网信息监管机制与规范对新型人工智能的审查和规制力度不足，无法有效地阻止虚假信息的产生与传播，从而影响互联网信息安全环境，损害用户合法权益。更值得注意的是，不法分子很可能会利用这些生成式人工智能技术进行各种新型网络犯罪。例如，他们可以通过ChatGPT生成虚假信息进行电信诈骗犯罪，或者进行危及国家安全的恐怖主义犯罪。而这些新型网络化犯罪不仅对我国的社会治安和公共安全构成威胁，也对我国现有的司法体制构成严峻挑战。
2.监管主体冗杂，难以形成有效合力




我国“五级三类”网络安全治理机构体系在实际操作中存在着多头监管的现状，网络安全多领域的专项治理机构在以专业化方式提升监管水平的同时，监管主体的过分冗杂导致难以形成有效的监管合力，多部门综合性治理成效难以有效发挥。同时，不同监管机构因潜在利益制定出不同的监管规则与政策之间存在着矛盾，监管规则冲突抵牾，进而影响网络安全综合治理的战略举措，破坏互联网行业平稳有序的竞争格局与公共利益。此外，国家设立了相关非实体性的专业机构来对监管冗杂等问题进行协调与治理，但是由于该组织的级别与职权限制，对于当前阶段的网络安全治理工作还无法实现实质层面的统一指导，不利于实现网络安全的治理目的。
3.缺乏技术研发规制，数据监管缺失




由于以ChatGPT为代表的生成式人工智能技术来源于西方国家，我国政府对ChatGPT等相关技术的引进与应用始终持有谨慎态度，故我国人工智能技术相关头部研发企业势必将创制并发展符合我国具体国情的生成式人工智能。但鉴于生成式人工智能专业性强的特征，我国截至目前仍旧缺乏针对研发企业的技术管控与监督机制。有关研发企业的研发方案、研发人员、包括但不限于附带企业的销售与推广方案等研发各环节的政府监管机制缺位，针对研发进程及可预测性结果的跟踪研究较少，人工智能研发企业之间缺少统一的行业标准，行业内部制约能力不足，从而限制新型人工智能技术的研发进程。同时，2023年1月起施行的《互联网信息服务深度合成管理规定》（以下简称《规定》）标志着我国首次对深度合成这种核心算法服务率先立法进行规制。其中，《规定》第2条明确了深度合成服务提供者及上游技术支持者没有尽到保护信息安全义务的法律责任。然而，《规定》的相关治理重点侧重于对深度合成输出内容的法律规制，对于用户数据安全与算法设计缺乏有效的治理举措。最后，现有的政策法规体系未能对生成式人工智能技术进行前瞻性、可操作性和指引性的专项立法，对于生成式人工智能等新型技术的总体规制架构仍需不断完善。
四、ChatGPT背景下我国网络安全治理机制的完善路径
在新形势下我国网络安全治理研究与实践是互动共生的关系，在法治背景下的网络安全治理实践必然以法治的方式进行，这也对国家网络安全法治研究不断提出理论供给要求。在坚持总体国家安全观的引领下，我国应当构建一套完整、系统涵盖网络规制模式、规则范围、组织体系、操作程序、审查原则等的法律制度，限制网络安全风险的行为应当接受严格的法律原则与标准的制约。对此，以实现人工智能技术突破性研发与创新为切入点，在我国网络安全治理机制的法律规范体系、技术监管标准、后备人才培养等各环节逐步探索其完善路径，并以此为契机健全我国网络安全治理机制。

（一）
构建高效协同的多元化法律规范体系

随着ChatGPT等生成式人工智能技术的破坏性创新影响，我国网络安全治理机制下的法律规范体系面临着相关规范不完备、效力有限等现实桎梏。新形势下的网络安全治理机制建设与完善作为一种全新的法律挑战，不同路径的探索尚未确定，有必要在现有路径的基础上构建和发展多维度的法律规范体系，以一种开放性、协同性和高效性的框架进行网络安全治理的法律规制。
首先，加强现有立法在将来ChatGPT应用场景中的适用成效，糅合相关指导意见与标准文件中的规范内容，积极推进生成式人工智能领域的专项立法与数据安全、算法设计的基础性综合立法，强化高效协同的全局性规制效力，促进生成式人工智能背景下网络安全的治理目标、治理机制与治理尺度的统一，提升网络安全治理效率。同时，注重人工智能专项立法与数据安全等综合性立法与现有的网络安全法、数据安全法等法律的有效衔接。在实践运行过程中继续完善《生成式人工智能服务管理暂行办法》的相关规定，进一步改善我国生成式人工智能无序发展局面，以应对并解决生成式人工智能所带来的复杂且多样化的风险和挑战，实现对生成式人工智能背景下网络安全风险的源头治理。
其次，针对由ChatGPT等生成式人工智能所引发的新型网络犯罪问题，应当着力构建并完善网络安全刑事法治保障体系建设。深化网络安全犯罪刑事法律规范的基本理念，提升网络安全刑事立法与司法的规制动能，实现新形势下数据犯罪与人工智能犯罪的有效治理，确保刑事法治保障体系适应未来数字化、人工智能化时代的新挑战，保障民众网络自由权利并防范化解网络安全重大威胁。同时，推进社会治理架构下数据管理体系建设，保证数据安全、稳定、规范使用。主动谋求国际刑事合作，亟期融入全球范围内的网络安全犯罪治理体系。
最后，针对ChatGPT等生成式人工智能生成内容所涉及的著作权、虚假信息等相关问题建立法律规章体系，为生成式人工智能创造内容提供基本法律支持，避免因违反知识产权保护等条例使得生成式人工智能训练与发展受到阻碍，防范并化解生成式人工智能各环节可能产生的技术威胁与风险，以此促进与规范研发企业的规模化生产与多领域应用，实现生成式人工智能技术的平稳安全发展。

（二）
破除技术发展桎梏因素，驱动技术创新与人才培养

新兴技术的发展步伐并非一帆风顺，其往往会受到诸多因素的制约。其中不乏政策扶持、资金支持、人才培养等多方面因素。对此，在生成式人工智能技术不断发展的现实境况下，我国必须全力破除这些影响技术发展的制约因素，以充分发挥新型人工智能技术的驱动力，从而避免新型人工智能技术的垄断与网络安全威胁的产生。
首先，应当积极推动基础理论发展与重大技术应用的突破，全面改革当前企业和高校的技术研发与应用路径。其中，要以基于生成式人工智能的通用大模型研发的多元互联特征为核心。这就需要我们在研发与应用链的各参与主体、各层次间，实现全面的互动协同，从而大幅度提升通用大模型研发体系中的原始创新能力。着重关注并解决制约通用大模型发展的相关因素，加快追赶以达到国际先进水平。与此同时，政府应当强化对基础性研究尤其是新型人工智能模型数据训练方面的支持力度，通过诸如税收补贴与资金支持等优惠性减免性政策，激励企业围绕基础理论研究进行孵化性投入，充分发挥科技企业、高等学府以及政府等主体的综合性互补效应。创新生成式人工智能的实践运行路径，实现生成式人工智能技术与社会现实发展需求的深度结合，将有助于加速推动生成式人工智能在多个领域中的创新应用。
其次，在全球范围内，生成式人工智能的发展已经到达一个新的历史节点。在坚持多元化主体参与人工智能技术创新协调机制的同时，也应积极谋求与域外国家、国际组织开展深入对话，以商讨生成式人工智能技术发展的国际准则与行业标准。努力争取在新技术领域中的规则制定权与技术主导权，使得中国新型人工智能模式发展理念得到国际社会的广泛认可。为实现这一目标，我们可以考虑牵头建立专业化生成式人工智能研发合作组织，或者其他区域性组织。在与各国建立深度战略互信的基础上，围绕数据建立与算法设计展开深入的技术交流与合作。
最后，在当前生成式人工智能迅猛发展的背景下，必须对科技人才培养模式与输送体系进行逐步的改革，建设包含高等院校、研究机构、企业三位一体的高新技术人才培育联盟。从而为生成式人工智能的研发提供强大的智力支撑与人才储备，促进创新理念和技术的广泛传播与深度应用。此外，高等院校应逐步扩大人工智能研发专业的规模，细分专业研究方向，以满足不同领域对于人工智能专业知识的需求。同时，推动传统网络安全教育的变革，开设专门的人工智能专业化技术与素养培训课程，加大网络安全风险的宣传与教育力度，全面提升科技人才的网络安全意识与人工智能技术专业化知识。在政策支持方面，政府和企业都应加大对网络安全与人工智能科技人才的扶持力度，形成对相关领域顶尖人才的虹吸效应，这将有助于我们实现国家网络安全与人工智能创新复合型人才培养机制的总体目标。

（三）
统一技术监管标准、强化科技伦理观念

通过审视我国互联网产业的发展轨迹与监管经验不难发现，我国在应对互联网等新兴技术、新兴现象、新兴业态兴起时，明确提出了“降低事前门槛，加强事后监管”的监管策略。然而，这并不意味着对以ChatGPT为代表的生成式人工智能在国内发展采取完全放任的态度。当前，鉴于ChatGPT的关键技术源自西方国家，并且可能包含一定程度的西方思想导向和算法设计倾向等客观因素，故现阶段并未完全满足我国的市场准入条件，为我国推出针对性监管标准与举措创造出充足的时间条件。
首先，应当继续推进现有的人工智能监管体系运行机制，优化国内相关监管机构的设置，建立具有统筹协调能力的决策组织机构，实现有效的监管合力，发挥多部门综合治理成效，避免我国网络安全治理与新型人工智能监管出现“九龙治水”的治理格局。同时，分析并破解不同监管部门制定的监管规则与政策之间的矛盾，提升非实体专业性监管机构的职级与权限，建立具有全方位可操作性的统一监管标准，实现网络安全治理与新型人工智能技术监管实质层面上的协调与统一，促进新型人工智能研发企业与国家、政府间的良好合作。
其次，为实现对新型人工智能技术的有效监管，应当构建研发企业的技术规制与内部审查机制。其中包括设立专门数据保护与算法设计监管机构，对新型人工智能的研发流程及预测性结果进行持续性跟踪研究。不仅要对相关研发企业的研发计划、研发人员进行严格审查和监督，还需对其包括但不限于附带企业的销售与推广策略等各个环节进行全面的评估与审查。以确保所有相关研发活动都在法律规范的框架内进行，保障新型人工智能的安全与规范性。同时，制定新型人工智能技术行业的发展与技术安全标准，形成一个全行业内部制约架构。这将有利于规范行业的发展，防止可能出现的技术或安全风险，保护企业与用户的利益。另外，还应当建立研发企业训练与使用新型人工智能的标准化生产体系，对新型人工智能的训练数据与算法设计进行备案审查。这一举措能够确保训练数据和算法设计的规范性，防止可能的数据滥用或者算法设计的不公，以促进技术创新并确保研发系统的透明度与可解释性，从而确保人工智能的发展在规范、安全的环境中进行。
最后，在探索新型人工智能技术研发过程中，必须时刻坚守“科技以人为本”与“科技为人服务”的理念，并时刻认识到新型人工智能技术发展的最低道德底线。新一代人工智能技术的落地与应用，核心目的应当是推动人类社会的发展进步与全面繁荣。以“最大化社会效益”为基本准则来驱动新型人工智能的发展，就是将新型人工智能技术视为一种能够对社会整体产生利益的中性工具，并在此基础上塑造更大的社会价值。具体而言，我们需要提升生成式人工智能技术的行业准入门槛，加强对新型人工智能研发的道德审查与监管机制。同时，在技术研发过程中，对研发人员和企业管理层进行理论教育培训，使其深入理解并接受公序良俗、道德法律等基本原则。建立正确的科技伦理观，将人的价值作为科研活动的道德底线，妥当处理人工智能与人的伦理关系，不能仅仅为追求利润最大化而忽视伦理研究的重要性。唯有这样，我们才能在推动新型人工智能技术发展的同时，确保相关研发活动始终符合社会的道德规范和人类的核心价值。
结语
ChatGPT等生成式人工智能技术的问世颠覆了传统人工智能网络安全治理的固有思维与僵化机制，其以强大的数据生成与算法分析能力促进社会经济体制结构的变革与发展。破坏性创新特征对我国网络安全治理机制带来机遇的同时，我国网络安全局势也面临着相应的风险与挑战。虽然我国形成了较为系统与完善的“四梁八柱”网络安全治理机制，但仍囿于在法律规范体系、数据监管机制与技术创新人才培养等环节存在的缺陷亟待进一步完善。立足于我国网络安全治理现状，必须坚持在法治轨道上解决以ChatGPT等生成式人工智能技术所带来的网络安全发展桎梏，革新传统国家安全防范与救济机制，发挥新型人工智能的技术效能，促进我国网络安全治理迈向深层次发展。

往期精彩回顾

王延延｜论捕诉证明标准的同质化风险及其规制

刘婷｜论上海合作组织生物安全合作法律机制的构建

方彪 阙天舒｜全球网络空间中的国家安全治理

牛英豪｜新时代粮食生产安全法律保障研究——以土地托管为基础

刘择｜总体国家安全观视野下涉废物犯罪的刑法治理

盛夏 王烁辰｜总体国家安全观视野下我国网络信息安全治理的实践特性与路径探析

上海市法学会官网

http://www.sls.org.cn