360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******
2023年1月10日,360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告,报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题,提出人工智能发展面临十大安全挑战,旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道,是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索,对人工智能安全治理具有积极指导意义。
在人工智能加速智能化变革的同时,针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称,人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术,其在发展过程中所产生的安全挑战也更为复杂多元,世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前,各国普遍关注的人工智能安全问题共十类,包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程,又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示,作为一种数字技术,人工智能“双刃剑”特征明显,不仅自身存在数字安全威胁和隐患,随着人工智能工程化、场景化、平台化落地不断加快,人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战,人工智能安全治理难以一蹴而就,只有在实践中不断摸索,才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析,针对上述问题,报告主要发现:美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管,建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制,其规制更倾向于人权方向;相较美国与欧盟,中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系,涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”,也就是落入所谓的“科林格里奇困境”,产学研各界以监管和设置可操作性原则为主导,通过治理实践凝聚共识,探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路,首先是基于未来风险预防的影响评估模式,其次是基于自主性原则的元监管模式,然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国,360等多家人工智能龙头企业以自身实践构建行业安全案例,走出了技术赋能、行业规制、平台监测的多种道路。其中,360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设,集中解决各类人工智能发展问题,引领人工智能安全生态建设。
作为报告联合发起方,天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景,紧紧把握新型城市发展规律和机遇,致力于促进人工智能与经济社会发展深度融合,助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量,人工智能产业将得到更大发展。同时,人工智能安全治理也将得到全世界的关注和推动,《全球人工智能安全治理》报告作为相关领域的权威论著,也将为人工智能产业的健康发展贡献一份重要的力量。
以新安全格局保障新发展格局******
作者:徐明(北京市习近平新时代中国特色社会主义思想研究中心特约研究员、中国社会科学院大学国家治理现代化与社会组织研究中心主任)
党的二十大报告提出,“统筹发展和安全,全力战胜前进道路上各种困难和挑战”“以新安全格局保障新发展格局”。立足新发展阶段,构建新发展格局,推动高质量发展,必须抓好发展和安全两件大事,有效防范和应对各类风险挑战。
处理好发展和安全的关系
发展是党执政兴国的第一要务,是解决我国一切问题的基础和关键。国家安全是民族复兴的根基,是安邦定国的重要基石。谈及发展和安全的关系,习近平总书记指出,“我们越来越深刻地认识到,安全是发展的前提,发展是安全的保障”。
新时代以来,我们坚持加强党的全面领导和党中央集中统一领导,着力推动高质量发展,坚决维护国家安全,防范化解重大风险,保持社会大局稳定,牢牢掌握了我国发展和安全主动权,取得了伟大成就。我国国内生产总值增长到114万亿元,经济总量稳居世界第二位。谷物总产量稳居世界首位,14亿多人的粮食安全、能源安全得到有效保障。持续加强科技创新和制度创新,增强产业链供应链自主可控水平,经济实力、科技实力、综合国力跃上新的大台阶。
同时也要清醒看到,世界百年未有之大变局加速演进,逆全球化思潮抬头,单边主义、保护主义明显上升,来自外部的风险挑战始终存在并日益凸显。我国推进高质量发展还有许多卡点瓶颈,确保粮食、能源、产业链供应链可靠安全和防范金融风险还须解决许多重大问题。我国发展进入战略机遇和风险挑战并存、不确定难预料因素增多的时期,各种“黑天鹅”“灰犀牛”事件随时可能发生,需要应对的风险挑战、防范化解的矛盾问题比以往更加严峻复杂。
迈上全面建设社会主义现代化国家新征程,必须处理好发展和安全的关系,努力实现高质量发展和高水平安全的良性互动。一方面,要善于运用发展成果夯实国家安全的实力基础。完整、准确、全面贯彻新发展理念,坚持高水平对外开放,加快构建以国内大循环为主体、国内国际双循环相互促进的新发展格局,为全面建成社会主义现代化强国奠定坚实的物质技术基础。另一方面,要善于塑造有利于经济社会发展的安全环境。坚定不移贯彻总体国家安全观,把维护国家安全贯穿党和国家工作各方面全过程,确保国家安全和社会稳定。
加强重点领域安全能力建设
党的二十大报告对“加快构建新发展格局,着力推动高质量发展”以及“推进国家安全体系和能力现代化,坚决维护国家安全和社会稳定”进行了重要部署。新时代新征程,更好统筹发展和安全,必须坚持党的全面领导特别是党中央集中统一领导,坚持发展和安全并重,加强重点领域安全能力建设。
着力提升产业链供应链韧性和安全水平。产业链供应链稳定安全是构建新发展格局的基础。要加快建设现代化产业体系,围绕制造业重点产业链,找准关键核心技术和零部件薄弱环节,集中优质资源合力攻关,保证产业体系自主可控和安全可靠。为此,既要通过拉长长板巩固提升优势产业的国际领先地位,也要通过补齐短板尽快解决一批“卡脖子”问题。此外,还要做强做大龙头企业,做专做精中小企业,以龙头企业引领产业链供应链上下游创新生态系统建设,深化在创新研发、市场开拓等方面的合作,推进产业链、价值链、创新链、人才链和资金链的融合。要保持并巩固我国制造业传统优势以“稳链”,推动战略性新兴产业融合集群发展以“强链”,形成必要的产业备份系统以“补链”,推进产业链供应链布局优化调整以“优链”。
增强国内大循环内生动力和可靠性。要把实施扩大内需战略同深化供给侧结构性改革有机结合起来,既扩大有效需求,又提升供给体系对国内需求的适配性,从需求侧和供给侧两端发力,畅通国民经济循环,提高发展质量和内生动力。要依托国内超大规模市场优势,更好发挥消费的基础性作用,充分发挥投资的关键作用。要建立适应消费升级和多元化消费需求的供给体系,积极推动产业结构优化升级,着力振兴实体经济。要通过预期管理和系统化设计,在关系国家安全的领域和节点构建自主可控、安全可靠的国内生产供应体系,在关键时刻可以做到自我循环,确保在极端情况下经济正常运转。
提升国际循环质量和水平。当前,全球产业结构和布局调整既带来新挑战也孕育着新机遇。提升国际循环质量和水平,需要坚持推进高水平对外开放,深度参与全球产业分工和合作,增强国内国际两个市场两种资源联动效应。一是要继续扩大商品和要素流动型开放,提升贸易投资合作质量和水平,推动我国产业转型升级,向全球产业链价值链中高端迈进。二是要稳步扩大规则、规制、管理、标准等制度型开放,营造市场化、法治化、国际化一流营商环境。三是要完善安全审查制度,健全与开放相适应的风险防范和安全保障体系,增强在对外开放环境中动态维护国家安全的本领。
加快构建新发展格局是关系我国发展全局的重大战略任务。牢牢守住安全发展这条底线,是构建新发展格局的重要前提和保障。要推进国家安全体系和能力现代化,加快构建与新发展格局相适应的新安全格局,在确保国民经济循环畅通的同时,增强我国在全球产业链供应链创新链中的影响力。
(文图:赵筱尘 巫邓炎)