帮我搜借鉴资料学习平台

浦东新区启动“网络安全五大行动”

作为上海互联网产业的最大集聚区，坐拥全市近四分之一网络资源，浦东如何在“防风险保安全”“增动能促发展”方面率先发力？面对以生成式人工智能为代表的新技术新应用，作为全国首个人工智能创新应用先导区，浦东如何回应好市场主体对监管政策法规的关注，通过“讲明讲清讲透”为创新探索“解绑”？

8月22日下午，浦东新区举行“网络安全五大行动”启动仪式暨首场政策法规宣讲活动，宣布将在全区开展隐患排查、护网净网、攻防演练、片区宣讲、高峰论坛等网络安全“五大行动”。市委网信办总工程师杨海军，浦东新区区委常委、区委宣传部部长黄玮共同启动本次行动。

五大行动“防风险保安全”“增动能促发展”

今年是上海自贸试验区设立10周年，也是浦东推进实施自由贸易试验区提升战略、聚焦开放实施更大程度压力测试的关键之年。为更好地“防风险保安全”“增动能促发展”，在近50家浦东新区人工智能、云计算、网络安全、网络资讯、电子商务、智能网联汽车企业代表的现场参与下，浦东新区“网络安全五大行动”正式启动：

一是网络安全隐患排查。浦东将结合年度网络安全、数据安全专项检查，覆盖全区109家党政机关、区属国企单位，以及掌握超过100万以上个人信息的65家重点网站平台，集中查找问题隐患，补齐短板弱项，提升重要设施设备的安全可靠水平，增强重点领域的数据安全保障能力。

二是护网净网行动。浦东将对辖区党政机关、企事业单位的网络安全防护能力进行专项检测，以查促改，以改促进。严厉打击侵犯公民个人信息等违法犯罪活动，依法整治网络谣言和自媒体乱象，净化网络生态。

三是应急协同攻防演练。浦东将以智能交通调度系统、劳动维权网上通办系统、互联网医院等与民生相关的重要网站和信息系统作为演练对象，开展区级示范性网络安全应急协同攻防演练，在广电、教育、环保、建设、金融、城运等涉及城市运行和民生保障的重要条线同步举行84场行业性、区域性网络安全应急演练。

四是政策法规进片区宣讲。浦东将在上海自贸试验区各片区推出“一区一品”网络安全主题宣讲活动，围绕生成式大模型安全合规发展、数据跨境安全有序流动、消费领域个人信息权益保护、智能网联汽车数据安全管理等主题，把最新最前沿的政策法规解读、案例分析、业务指导送到企业“家门口”。

五是“金融日”主题活动。浦东将承办国家网络安全宣传周上海地区“金融日”主题日活动，邀请行业主管部门、银行证券期货保险等金融机构、网络安全研究机构和企业等，围绕金融数字化转型、金融数据跨境流动、密码安全等主题开展交流研讨。

在即将到来的国家网络安全宣传周期间，浦东还将举办数字化安全风险智慧管控技能比武、网络安全大赛、中小学生网络安全知识竞赛等一系列网络安全进社区、进农村、进企业、进机关、进校园、进家庭宣传活动，预计线上线下覆盖人群超过90万人。

加强市区协同配合提升治网管网水平

为助力浦东高水平改革开放，打造社会主义现代化建设引领区，进一步加强市区协同配合，提升治网管网水平，本次活动中，上海市信息安全测评认证中心与浦东新区区委网信办签署深化网络数据安全领域合作协议。双方将结成战略合作伙伴，在网络安全保障、网络生态内容管理、数据出境安全评估、新技术新应用安全评估等领域开展长期合作。

“浦东新区网络数据安全企业联盟”也在本次活动中正式亮相。据悉，联盟以搭建交流平台、促进政企对接、引领行业自律、健全完善网络安全共建共治共享治理体系、构建具有国际竞争力的网络数据安全产业生态圈为目标，由网络数据安全产业园区，从事网络数据安全技术研发和服务的企业和研究机构，大数据、人工智能、智能网联汽车等新兴技术企业，网络资讯、电子商务、网络音视频等掌握大量用户数据的网站平台运营企业等组成。区府办（大数据中心）、区科经委、区公安分局为有孚网络、达观数据、盒马、咪咕视讯、安恒信息、金桥智联等6家联盟发起单位授牌。

咪咕视讯科技有限公司(咪咕视讯)总编辑李喆认为：“没有网络安全，就没有国家安全。守住安全底线，整个产业才能迅速、健康、可持续地发展。”上海金桥智能网联汽车发展有限公司（金桥智联）产业服务部高级经理范皖良表示，在智能网联汽车的创新发展过程中，不仅道路、汽车行驶会产生数据，运营过程中也会产生众多与用户相关的个人数据，这些都与网络安全息息相关：“通过建立全流程、健全的管理制度，我们也要把这些数据管起来，让数据更安全地服务更多用户与企业。”

为企业规范健康持续发展“设路标”

浦东新区是全国首个人工智能创新应用先导区，截至2022年底，全区人工智能重点企业超600家，规上人工智能企业规模超1200亿，一批人工智能“浦东方案”从雏形走向成熟，算力数据“新供给”国内领先，在生成式人工智能领域具有自己的独特优势。同时，浦东的汽车产业链完备，汽车研发氛围浓厚，已成为孵化未来车的重要力量，也是汽车产业开放创新的试验场，《浦东新区智能网联汽车产业高质量发展三年行动方案（2023-2025年）》提出了将浦东新区打造成智能网联汽车产业创新发展生态高地的目标。

针对这两大产业热点，启动仪式之后的首场宣讲活动上，上海市信息安全测评认证中心创新研究院项目主管范劭林、国家互联网应急中心上海分中心安全工程师胡金坤分别围绕《生成式大模型安全合规基本要求》和《数据安全法规解读与风险评估》进行了专题讲解和指导，通过事先划清“底线”、亮明“红线”，为企业规范健康持续发展“设路标”。

范劭林介绍，8月15日，国家网信办等七部门公布的《生成式人工智能服务管理暂行办法》正式施行，这也是我国首个针对生成式人工智能产业的规范性政策。通过第一时间的政策宣讲，将解答一些普遍问题，能够帮助相关企业少走弯路，消除疑惑，帮助企业更好地发展。

澎湃新闻2023-08-23

人工智能时代呼唤网络安全治理升级

8月28日至29日举办的首届网络空间安全（天津）高峰论坛上，近800位来自网络安全领域的官员、专家学者和科研机构、院校、企业代表齐聚一堂，共话网络空间安全形势、共享网络安全理念、共商网络安全对策。

随着人工智能的出现，网络信息技术迭代升级加速，网络安全领域新情况、新问题、新挑战层出不穷，影响全球经济格局、发展格局、安全格局，也给网络安全保障提出了更高要求。部分业内人士认为，应强化风险意识，建立有效的风险预警和应对机制。同时，各方应加强交流与合作，不断提升网络安全水平。

人工智能产业在规范中发展、发展中规范

今年，生成式人工智能热潮席卷全球。目前，国内的百度、科大讯飞等企业机构已推出自己的大模型产品。

部分专家判断，生成式人工智能将引发新一轮人工智能革命，人类与机器、技术与产业、虚拟与现实之间的关系正在发生广泛而深刻的变化，技术创新也给人类社会文明秩序带来了挑战。

对此，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、国家广播电视总局公布的《生成式人工智能服务管理暂行办法》（以下简称《办法》）于8月15日起正式实施。这是我国首个针对生成式人工智能产业的规范性政策。《办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。

360集团创始人周鸿祎认为，《办法》内容表明了有关部门鼓励创新，支持大模型发展的态度，为科技企业创新提供了信心和保障。《办法》还明确了适用边界，既能够规范大模型的公众服务，同时也有利于组织机构的研发和应用。

“产业数字化战略背景下，大模型作为工业革命级的生产力工具，应当帮助传统产业特别是制造业实现数字化转型、智能化升级。《办法》对推动大模型在企业级场景的落地有积极意义。”周鸿祎说。

出席论坛的国家网信办有关负责人表示，生成式人工智能首先要统筹发展和安全。“我们深知人工智能是今天技术发展方向，生成式人工智能是人工智能的重要内容，它必将对我们的经济社会发展、人民群众的生活发挥重要作用；同时，我们也要看到生成式人工智能可能带来的安全风险，需要法律、标准规范引领。”他说。

出席论坛的工业和信息化部有关负责人表示，工信部系统推进网络安全的保障体系和能力建设，取得积极成效，关键信息基础设施的保护、工信领域的数据安全、新型基础设施安全等一批标准陆续出台，网络空间环境大幅改善，人民群众利益得到了切实保护。

“我国针对大模型的安全管理政策是科学且务实的。”百度安全副总经理包沉浮说。

多位专家表示，加强生成式人工智能的发展、应用、管理，目的是把技术转变为生产力，让人工智能技术在经济社会发展中发挥更大的作用。

人工智能为网络安全治理带来新挑战

“人工智能在网络安全领域给攻防双方都带来了变革。”杀毒软件企业安博士中国区首席执行官沈珉奎说。公安部网络安全保卫局杨骎博士也表示，人工智能正在降低网络犯罪的门槛。

在个人层面，人工智能降低个人网络犯罪门槛。美国专业安全技术公司迈克菲市场总监泰勒·麦基说，“我发现暗网上有很多暗黑版的GPT，价格低廉，容易获取，有的每个月只需花90美元就能订阅使用。这些暗黑版GPT不但能写钓鱼邮件，还能编写恶意程序代码。”

技术“小白”也能通过简单的问答方式实施黑客攻击，这相当于给了普通人一本“武林秘籍”，让不懂代码、不懂技术的普通人成为黑客。此外，近期，通过AI换脸和拟声技术获取信任进行诈骗的案例屡见不鲜。“只需要几秒钟的语音样本或者一些视频，就可以假乱真，利用人工智能诈骗，人们很难辨别。”泰勒·麦基说。

在社会层面，人工智能伪造虚假信息会误导社会公众。人工智能深度伪造软件简单易用，能轻松将面部表情、技术动作和声音三者融为一体，这种平民化和社会娱乐化的工具，使得大规模、低成本的针对个人的恶搞乃至污蔑成为可能。从娱乐到工作，从新闻到科普，无处不见人工智能的身影，它们以惊人的速度和数量回答问题、发布文章、制作图片，但往往缺乏真实性、准确性。杨骎举例说，利用人工智能技术制作虚假新闻事件，对公众人物制作虚假视频，容易造成不良引导，影响社会认知，甚至破坏社会信任、扰乱社会秩序。

今年6月，浙江绍兴警方在网上巡查时发现“绍兴上虞化工厂发生重大火灾”的视频，短时间内浏览量迅速攀升。警方核实后确认视频为人工智能技术深度合成，并很快锁定某科技网络公司有较大作案嫌疑。经调查，5月以来，该公司为牟取利益，从网上非法收购一批视频账号，通过人工智能软件，自动生成或拼接制作虚假视频发布，以博取流量，并通过流量算法返款盈利，造成了不良社会影响。

联合国安理会7月18日就人工智能与安全问题举行高级别公开会。中国常驻联合国代表张军在会上指出，国际社会要强化风险意识，建立有效的风险预警和应对机制，确保不发生超出人类掌控的风险，确保在关键时刻人类有能力按下停止键。

呼唤网络安全治理新格局

面对人工智能时代，网络安全领域的新情况、新问题、新挑战，业内专家建议，首先，建立纵深化立体化防御体系。深信服科技股份有限公司首席安全官周欣认为，针对多阶段和定制化的攻击，可以建立纵深防御体系解决勒索病毒攻击的行为。他建议以人工智能技术为核心，持续对抗未知的样本攻击。“我们希望用‘魔法’对抗‘魔法’，用人工智能打败人工智能，我们企业也在进行有益尝试。”他说。

其次，建设一体化网络安全运营中心。奇安信科技集团董事长齐向东表示，做好安全合规不能只从简单的产品堆砌入手，要配合安全体系从管理、技术、运营三个角度开展安全运营治理和防护工作，要建立“人+数据+智能”的运营体系，让安全能力真正活起来。

“只有这样才能实现多元数据的汇聚，对安全风险进行整体的态势感知，在遭到威胁和网络攻击的时候能够及时预警和响应，完成对安全事件的闭环处置。”齐向东说。

此外，还应深化国际交流，推进网络安全技术新发展。俄罗斯卡巴斯基实验室创始人尤金·卡巴斯基表示，要打击散布全球的网络罪犯，执法部门之间的国际合作至关重要。国家计算机病毒应急处理中心主任陈玉东说，网络安全是开放的而不是封闭的，只有立足开放环境，加强交流合作，吸收借鉴先进技术，网络安全水平才会不断提高。

“推动网络空间国际治理进程，需要发挥信息化对经济社会发展的引领作用，积极利用法律法规和标准规范引导新技术应用，自主创新推进网络安全技术提升，以技术创新夯实网络安全基础。”陈玉东说。

“各方应继续努力，进一步搭建合作交流的平台，共同建立更加科学完善的网络安全威胁应对处置机制，携手构建网络空间命运共同体。” 天津市副市长、市公安局长衡晓帆表示。

光明网2023-08-31