构建互联网信息服务算法安全监管体系

目前，人类社会的信息化进程正在快速从数字化、网络化进入智能化阶段。随着人工智能、大数据等新型信息技术的发展，算法广泛应用于互联网信息服务，为用户提供个性化、精准化、智能化的信息服务。与此同时，算法的不合理应用也影响了正常的传播秩序、市场秩序和社会秩序，给维护意识形态安全、社会公平公正和网民合法权益带来了严峻挑战。

为规范互联网信息服务算法应用，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》），为互联网信息服务算法综合治理提供了重要法治保障。《规定》的出台，是进一步提升网络综合治理能力的应时应势之举，具有很强的探索性和前瞻性，也标志着我国网络空间治理迈入新的发展阶段。同时，我们需要清晰地认识到算法综合治理的复杂性和长期性，明确算法治理的边界，完善算法安全监管体系，推进算法自主创新，促进算法健康、有序、繁荣发展。

“算法”本身是一个技术概念，顾名思义是指“计算的方法”，体现为一系列解决问题的步骤或计算机指令。随着电子计算机的普及，“算法”一词逐渐为人们所熟知，算法在人们的最初印象中只是在“不折不扣”地执行人的指令，对算法的探讨也主要停留在其时间复杂度和空间复杂度等技术层面，算法安全风险尚未引起广泛关注。后来，随着人工智能、大数据等新型信息技术快速发展，算法的内涵逐渐演变为“用数据训练的模型”，算法不再一成不变，而是在不断被投喂数据的过程中持续进化。算法在变得越来越“智能”的同时，也给人们带来了日益强烈的“不适应感”，算法安全风险逐步进入公众视野，引起越来越多的关注。本质上讲，智能和风险是算法的一体两面，这也是技术从诞生到应用的必经阶段。总体来看，算法安全风险既包括算法自身存在的算法漏洞、算法脆弱性、算法黑箱等“技术风险”，也包括算法不合理应用带来的算法偏见、算法霸凌、算法共谋等“社会风险”。

互联网信息服务算法综合治理着眼于管理好使用好发展好算法应用，引导算法应用公平公正、透明可释，充分保障网民合法权益。为此，《规定》首先从算法分级分类管理的角度出发，有效识别出互联网信息服务中的高风险类算法，重点关注生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等五大类互联网信息服务中广泛使用的算法。进而，《规定》从信息服务规范和用户权益保护两个方面明确了算法推荐服务提供者的主体责任，在鼓励充分发挥算法服务正能量传播作用的同时，重点明确了算法应用应当遵循的准则和不得存在的行为，最大限度地保护网民在使用算法推荐服务时的知情权、选择权以及未成年人、老年人、劳动者、消费者等群体的合法权益。总之，互联网信息服务算法综合治理的着眼点不仅是算法自身的技术风险，还在于防范算法不合理应用影响正常的传播秩序、市场秩序和社会秩序。

互联网信息服务算法综合治理着眼于标本兼治，关键是构建完善算法安全监管体系。国家互联网信息办公室等九部委印发的《关于加强互联网信息服务算法综合治理的指导意见》，明确了算法安全监管体系，规定了算法备案、算法监督检查、算法风险监测、算法安全评估等四项举措。其中，算法备案是算法安全监管的抓手和基石；算法监督检查和算法风险监测相辅相成、互为补充，检查是现场监测，监测是线上检查；算法安全评估是出口，是算法安全监管的落脚点。算法自身的复杂性和算法安全风险的隐蔽性，给算法安全监管体系各项举措的实施提出了挑战。从实施角度，这四项举措的落实关键在于：

一是算法备案工作。《规定》要求具有舆论属性或者社会动员能力的算法推荐服务提供者通过互联网信息服务算法备案系统履行算法备案手续，并在其对外提供服务的网站、应用程序等的显著位置标明其备案编号。算法备案是算法安全监管体系的重要一环，推荐算法备案工作首先需要明确算法备案的范围，即哪些算法需要进行备案、算法的哪些信息需要备案。从备案“登记备查”的目的来看，备案信息应当涵盖算法推荐服务的基本原理、目的意图和主要运行机制，包括算法所使用的数据描述、基础模型、应用场景、服务形式、人工干预等。从备案实施层面来看，算法备案工作应当以用户可以感知到的互联网信息服务或功能为入口，对支撑服务或功能的算法进行备案；算法推荐服务提供者作为备案算法的责任主体，负责完成算法备案，并保证备案信息的真实性。算法种类繁多、形式多样，给算法备案工作带来了诸多困难，推进备案工作的关键是将算法和服务作为有机整体来看，“以服务为入口、以算法为载体”，综合考虑备案工作的有效性和实施难度，稳步推进算法备案工作。

二是算法监督检查。《规定》中明确了网信、电信、公安、市场监管等有关部门对算法推荐服务依法开展算法监督检查工作的职责，并对发现的问题及时提出整改意见并限期整改。一方面，算法监督检查工作着眼于督促企业落实算法安全主体责任、完善相关管理制度和技术措施、配备与算法推荐服务规模相适应的专业人员和技术支撑；另一方面，算法监督检查工作从网民反映强烈的互联网信息服务算法乱象入手，剖析算法乱象的成因，现场检查互联网信息服务提供者是否存在涉算法违法违规行为，通过检查督促企业提高算法安全风险意识，防范和排除潜在的算法安全风险。

三是算法风险监测。算法风险监测是一个常态化的工作，包括企业开展的算法风险监测、公众监督举报、监管部门巡查等多个方面。从算法安全监管体系的角度来看，算法风险监测致力于对算法的数据使用、应用场景、影响效果等开展日常监测，感知算法应用带来的网络传播趋势、市场规则变化、网民行为等信息，预警算法应用可能产生的不规范、不公平、不公正等隐患，发现算法应用安全问题。从实施层面看，算法风险监测包括人工巡查和技术巡查两种方式，发展趋势是加强算法风险监测的系统建设，持续提高互联网信息服务算法运行时风险监测能力，增强技术治网水平。

四是算法安全评估。算法安全评估工作包括分析算法机制机理，评估算法设计、部署和使用等环节的缺陷和漏洞，研判算法应用过程中产生的安全风险，提出针对性应对措施。《规定》中明确的算法安全评估包括算法推荐服务提供者定期开展的自评估和监管部门对算法推荐服务依法开展的安全评估两个方面。对于互联网企业而言，算法安全评估是防范和应对算法安全风险的重要举措，企业的自评估报告也是算法备案的重要组成部分。对于监管部门而言，算法安全评估是算法备案、算法风险监测和算法监督检查等工作的落脚点。

构建互联网信息服务算法安全监管体系需要在技术支撑和能力建设方面进一步加强。国家科研机构应加大算法安全方面的科技攻关，建设算法安全评估和风险监测的科研创新平台，探索共建新型研发机构，形成引领算法安全基础研究的战略力量。组织建立专业技术评估队伍，研究算法安全内生机理、算法安全风险评估、算法全生命周期安全监测等关键技术。加强基础科研设施建设，完善算法安全治理人才队伍培养体系，提升算法自主创新和安全可控能力。推进算法安全的科学普及工作，提升企业和社会公众的算法安全风险意识，引导社会各界积极参与社会监督，共同推进算法综合治理。(作者：沈华伟，中国科学院计算技术研究所)