《中共中央关于制定国民经济和社会发展第十五个五年规划的建议》提出，要加强网络、数据、人工智能、生物、生态、核、太空、深海、极地、低空等新兴领域国家安全能力建设。当前，新一轮科技革命和产业变革深入发展，数字化、网络化、智能化加速转型，经济社会发展对信息网络高度依赖，网络空间与现实空间深度融合，网络安全威胁和风险愈发突出，并日益向政治、经济、文化、社会、生态、军事等各领域传导渗透，已经成为事关国家安全、社会稳定、人民福祉的重大问题。网络攻击、供应链中断，乃至关键信息基础设施、大型互联网平台等重要信息系统出现问题，都很可能导致金融紊乱、电网崩溃、交通瘫痪、通信中断，危害经济社会稳定运行。与此同时，数据安全、个人信息保护、供应链安全等问题日益突出，以人工智能为代表的新技术应用带来新的网络安全风险，网络安全形势日趋严峻复杂。浙江作为网络强省，应牢牢守住安全底线。
一、我省在算力、数据、模型、应用等方面的发展基础
在算力基础方面，浙江作为数字经济大省，积极融入国家长三角算力枢纽节点建设，以打造长三角新型算力中心为目标，目前已成为全国算力产业发展的重要省份之一。拥有多座已建、在建核电站，一批可再生能源和山区抽蓄电站，具备建设“绿色计算”路径的资源禀赋优势。
在数据基础方面，我省具有丰富的数据平台、数据集等数据资源建设优势。阿里、网易等互联网平台拥有海量行业数据，海康、大华等龙头企业拥有海量视频数据。公共数据领域，累计开放数据集3.3 万个、数据 180多亿条，在“2025 中国开放数林指数”中保持全国第二。公共数据授权和数据流通试点全省推广，以金华市“一带一路中欧班列”数据授权运营场景为例，通过构建舱位数据流通、物流数据运营、外贸数据融资、数字人民币结算场景，授信千万级运费贷数据产品，赋能中欧班列业务运营和金融服务模式创新，打造高质量对外开放新增长极。
在算法模型方面，我省深入实施数字经济创新提质“一号发展工程”，算法模型开发活动活跃。浙江大学、海康、大华、宇视、新华三、网易、安恒、联汇、恒生、华为杭研所、科大讯飞浙江公司等30余家企事业单位正在开展40多个模型研发，类型覆盖计算机视觉、自然语言处理、多模态、科学计算等基础大模型和工业仿真、智慧金融、影视文化等行业大模型。
在应用场景方面，我省积极推动“人工智能+应用”建设，全省各地上半年上报200多个典型应用场景。杭州市以建设国际级软件名城为契机，在上城区打造工业设计软件国产化基地，重点培育CAD、CAE、CAM和PLM等关键领域国产设计软件的发动机——几何建模内核引擎，应用于航天航空、车辆制造以及城市建设等领域。在新型工业化应用领域，以省级特色产业集群核心区的绍兴市为例，在集成电路、高端生物医药、先进高分子材料等省产业大脑能力中心累计上架能力组件400余个，新智造集群试点和智能化改造已扩展到30余个细分产业领域，在役机器人累计达2万余台。
二、生成式人工智能面临的安全挑战
训练数据安全风险。在训练数据部分可能存在训练数据泄露等一般风险，其重点风险包括：一是训练数据违规获取，通过不正当手段或未经授权的方式获取训练数据，可能违反法律法规、数据质量受损和发生安全事故。二是训练数据含有违法不良信息，训练数据中可能包含违法不良、涉及商业机密或个人隐私等信息。三是训练数据投毒，攻击者可能在训练数据中植入恶意样本或对数据进行恶意修改，影响模型的准确性和安全性。四是训练数据质量低下，训练数据集中可能存在错误或噪声数据，影响模型训练的效果。
算法模型安全风险。在算法模型部分可能存在测试验证不充分等一般风险，其重点风险包括：一是模型鲁棒性不足。分布外鲁棒性不足主要指模型在遭遇实际运行环境中的小概率异常场景时，未能展现出预期的泛化能力，从而生成非预期的结果。而对抗鲁棒性不足则主要指模型面对攻击者利用精心设计的提示词或通过添加细微干扰来构造对抗样本输入时，模型可能无法准确识别，影响输出的准确性。二是模型“幻觉”现象，模型在回答用户问题时，可能产生看似合理但包含不准确、虚构或违背事实的信息，这种现象被称为模型“幻觉”。三是模型偏见和歧视，模型在处理数据时可能表现出某种偏好或倾向，这可能导致不公平的判断或生成带有歧视性的信息。四是模型可解释性差，模型的决策过程和结果难以被详细准确地解释，使得用户难以理解模型输入如何影响输出，以及模型产生特定结果的原因。
系统平台安全风险。在系统平台部分可能遭受非授权访问和非授权使用等一般风险，其重点风险包括：一是机器学习框架安全隐患，流行的机器学习框架可能存在漏洞，攻击者可能利用这些漏洞发起攻击，造成系统受损、数据泄露或服务中断。二是开发工具链安全风险，大模型系统开发过程中使用的工具链可能存在安全漏洞，攻击者利用这些漏洞可能导致数据损坏、信息泄露或服务中断。三是系统逻辑缺陷风险，大模型系统可能存在数据权限和隔离、访问控制、业务逻辑等方面的缺陷，这些缺陷可能使得系统容易受到未授权访问、API 滥用、数据窃取或滥用、越权访问等攻击，进而可能导致法律纠纷和监管处罚。四是插件相关安全风险，大模型的插件可能存在缺陷，在与大模型服务交互时可能引发敏感信息泄露、提示词注入、跨插件请求伪造等安全问题，这可能导致系统遭受攻击、数据泄露或服务中断。
业务应用安全风险。在业务应用部分可能存在测试验证数据更新不及时等一般风险。其重点风险包括：一是生成违法不良信息，大模型可能产生包含对国家安全、公共安全、伦理道德和行业规范构成威胁的内容。二是数据泄露问题，存在攻击者通过逆向工程、成员推理攻击或提示词注入等手段窃取训练数据的风险，这些数据可能包含敏感的个人信息或商业机密，可能导致隐私泄露、知识产权侵权和经济损失。此外，用户在与大模型互动时，也可能由于疏忽或不熟悉相关风险，无意中泄露自己的隐私或保密信息。三是用户恶意使用风险，在大模型应用中，存在一些用户或实体不遵守道德规范和法律法规，使用模型进行恶意活动的风险。
总体来说，大模型在人工智能的发展中引入了模型“幻觉”、提示注入攻击、大模型插件缺陷等新风险，并加剧了数据泄露、模型偏见、系统缺陷等传统人工智能技术已有风险。
三、加强人工智能安全建设，促进产业健康持续发展
重视数据标注能力建设，实现数据高质量供给。数据标注越准确、标注的数据量越大，算法的性能就越好。要构建高质量数据资源供给体系，就需要重视数据标注基础能力建设。一是建设高质量语料库和行业特定数据集。面向重点行业开展试点示范，基于行业需求，明确数据集应涵盖的关键特征，确保语料库和数据集能够充分反映行业特性和模型训练的要求。二是推动发展专业自动化标注平台。提供完整的数据标注解决方案，通过AI辅助标注、人机协同标注模式，提高效率和精度，建立反馈修正机制，确保标注质量。三是培育壮大数据标注产业。数据标注涉及的内容从通用的图像和文本信息，到医疗、法律、金融、跨境电商、外语等专业细分领域，对技能人才的吸纳性很强，可为各学历层次人员提供岗位，通过生态构建、能力提升和场景应用，推动数据标注产业由劳动密集型向技能密集型转型升级。
加强算力创新技术协同，推进算力自主与可控。在全省统筹优化算力资源布局的体系下，以“普惠易用、绿色安全”智能算力生态系统为主线，激发算力底座的引擎赋能效应，强化新型基础设施对打造智造产业集群的支撑作用。一是按需适度建设新型数据中心。根据本地实际需求进行基础算力、智能算力梯度布局，打造具有地方特色、服务本地、规模适度的算力服务。二是完善高性能算力基础设施顶层设计。制定高性能算力基础设施建设计划，统筹推进算力高效生产、算力低碳运营、算力智能管理、算力集约应用。三是深化新型数据中心政策引导。积极推动新型数据中心布局纳入地方发展规划，为新建数据中心土地、能耗、电力等资源配套预留政策空间。四是推动算力网关键核心技术基本实现自主可控。遵循适度超前、集约发展、市场驱动等原则，支持国产算力重点企业联合重点高校组建产学研联合体，立足掌握关键核心技术，加强科技攻关和自主研发，力争新建算力中心国产化率70%以上。
把控大模型安全风险，打造国际先进大模型。AI大模型正在重塑产业竞争力，包括重新定义产品智能化水平及定义产品核心竞争力，加速全球芯片、药物、病毒、材料、自动驾驶等一系列科研范式的创新突破，重构软件系统，驱动软件、影视等行业工具创新，催生AI原生的新兴产业。所以全力支持基础大模型集中攻关，构筑国产自主大模型开放生态是符合我省发展战略的重要任务。同时，AI大模型潜藏意识形态风险，如基础语料、核心算法不当，形成“错误权威”，可误导大众。AI大模型可能包含个人、企业、政府的敏感数据，数据遭到泄露并被恶意利用，将威胁公共安全。所以，亟需把控AI大模型安全风险。构建安全护栏技术，注重人工智能大模型数据、训练、研发、应用等全链条安全。建立人工智能大模型测评机制和语料风险控制机制，把控模型和数据语料存在的意识形态渗透和隐私泄露风险，鼓励企业优先使用通过测评的模型和数据语料集。鼓励人工智能龙头企业向行业企业提供算法模型工具、技术公共服务、场景验证适配等产品及服务。
新蓝图开启新征程，新使命呼唤新作为。浙江要深入学习贯彻习近平总书记关于网络强国的重要思想，认真学习贯彻党的二十届四中全会精神和省委十五届八次全会精神，以总体国家安全观为遵循，树立正确的网络安全观，强化责任担当，狠抓工作落实，加快构建大网络安全工作格局，加快推进国家网络安全体系和能力现代化，不断开创网络安全工作新局面，为加快建设网络强国，以中国式现代化全面推进强国建设、民族复兴伟业提供坚强网络安全保障。
声明：本站所使用的图片文字等素材均来源于互联网共享平台，并不代表本站观点及立场，如有侵权或异议请及时联系我们删除。