新闻中心

NEWS CENTER

首页

视点｜具有社会动员能力平台算法监管法律问题分析——从英国骚乱与社交平台算法影响力谈起

Published:

2024-08-20

近日，英国多地发生了围绕政府移民政策展开的抗议活动。抗议活动已蔓延至伦敦、曼彻斯特、利物浦等多座主要城市，在部分地区更是演变成暴力骚乱事件，这也是13年来英国规模最大的暴力骚乱。而在此期间，社交媒体X平台的拥有者马斯克称：“英国内战不可避免”。英国政府指责社交媒体平台加剧了紧张局势，尤其是马斯克的X，且当局正在考虑提前实施《在线安全法案》。斯塔默表示，反对社交网络“采取不负责任的行为”，煽动暴力和传播虚假信息。英国政府将加强网上言论监管作为下一步抑制暴力骚乱源头的重点。

一、英国骚乱看社交平台社会动员能

当然骚乱发生根源在于移民矛盾、经济衰退、社会安全等深层次原因，但不可忽视的是，具有社会动员能力的社交平台的确具有相当的影响力。南加州大学（USC）的研究人员发现，错误信息传播的罪魁祸首是平台本身的激励结构，而不是个人用户行为，Facebook的算法旨在优先分享和奖励煽动性内容。同时，必须看到除了人工制造的虚假信息之外，生成式人工智能和深度合成技术更具有威胁。深度学习、神经网络算法的人工智能模型，因其本身是人工模拟，根本不具备人的善恶伦理认识，其本身既不理解输入内容，更无法解释其生成机制和生成结果，一旦被训练数据和素材污染，生成违法不良内容概率奇高，其病毒性传播所导致的迅速扩散，是现代社会公共治理无可回避的问题。

二、何谓平台社会动员能力

在早期的PC时代，社会动员能力表现为各种论坛、聊天室、博客、通讯组等信息服务，提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的互联网信息服务。而在手持智能终端时代，则表现为各类平台本身算法导致的信息“茧房”，这些因兴趣爱好关注而形成的信息“茧房”，让大量具有一致认识的公众相互聚合，不断强化其对某一事物的认知和理解，并相互动员协调行动而产生一定的社会行为，这种社会行为可能是正向的（比如捐助或救援），也可能是负向的（比如谣言和骚乱），这就是平台的社会动员能力。

现代社会正在不断强调和提升社会治理能力，我们对于平台社会动员能力正向促进作用欣然接受，但也要防备不当信息漩涡推波助澜造成的破坏。因此，对于具有社会动员能力的平台算法需要进行法律监管。

三、具有社会动员能力平台算法如何进行法律监管

2024年5月21日，欧盟理事会批准了《人工智能法案》（AI Act），这是全球首部人工智能的专门立法，《法案》基于人工智能系统对用户和社会的潜在影响程度将其分为四类：不可接受风险类、高风险类、有限风险类、最小风险类，每个类别适用不同程度的监管要求。任何试图操纵人类行为、利用人性弱点或支持政府社会评分的人工智能系统将被视为具有不可接受风险而被严格禁止。对健康、安全、基本权利和法治构成重大威胁的人工智能系统被归为高风险类。该《法案》要求此类平台进入市场应用前要完成前置性评估——合格评定（Conformity Assessments），以确认其满足有关透明度、数据质量、记录保存等监管要求。

同样，我国在该领域也颁布实施了相应的法律规定，比如《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《人工智能暂行办法》等规定，如何实现监管呢？

（一）算法、模型备案

算法和模型设定之后，其本身就可以“自主”运转，因此就平台而言，算法和模型本身就是监管的直接对象，首要的规制手段就是备案。从备案角度来看并非行政许可，但撤销备案会附带责令暂停信息更新的处罚，足以影响平台运转。

具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。

具有舆论属性或者社会动员能力的算法推荐服务提供者通过隐瞒有关情况、提供虚假材料等不正当手段取得备案的，由国家和省、自治区、直辖市网信部门予以撤销备案，给予警告、通报批评；情节严重的，责令暂停信息更新，并处一万元以上十万元以下罚款。具有舆论属性或者社会动员能力的算法推荐服务提供者终止服务未按规定办理注销备案手续，或者发生严重违法情形受到责令关闭网站、吊销相关业务许可证或者吊销营业执照等行政处罚的，由国家和省、自治区、直辖市网信部门予以注销备案。

（二）算法安全评估

比如《互联网信息服务深度合成管理规定》第十五条第二款深度合成服务提供者和技术支持者提供具有以下功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估：(一)生成或者编辑人脸、人声等生物识别信息的；(二)生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。（三）深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估。算法服务提供者，不论是提供推荐服务、深度合成服务还是生成式人工智能服务，如果其“具有舆论属性或者社会动员能力”，就应当按照“国家有关规定”开展安全评估，这个安全评估外在表现为算法技术及其实现方式，但判断标准却是法律后果，其实质就是平台算法合规。

算法安全评估应当围绕信息服务和新技术新应用的合法性，落实法律、行政法规、部门规章和标准规定的安全措施的有效性，防控安全风险的有效性等情况进行全面评估，重点表现为以下九个方面：

1.确定与所提供服务相适应的安全管理负责人、信息审核人员或者建立安全管理机构的情况，要判断机构人员适配情况，看贯彻网络安全法、数据安全法和个人信息保护法等法律法规的程度；

2.用户真实身份核验以及注册信息留存措施，不论是通过第三方平台认证还是直接注册，平台用户之间互相匿名，但对平台而言就是实名验证；

3.对用户的账号、操作时间、操作类型、网络源地址和目标地址、网络源端口、客户端硬件特征等日志信息，以及用户发布信息记录的留存措施，保证可溯源；

4.对平台用户账号名称、昵称、简介、备注、标识，信息发布、转发、评论等服务功能中违法有害信息的防范处置和有关记录保存措施，目的在于防扩散和可溯源；

5. 算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型，落实算法安全主体责任；

6.个人信息保护以及防范违法有害信息传播扩散、社会动员功能失控风险的技术措施，一旦发生风险是否立即消除或降低风险；

7.建立投诉、举报制度，公布联系方式，及时受理并处理有关投诉和举报的情况，关注投诉举报制度能否有效运转；

8.建立为网信部门、数据安全部门依法履行互联网信息服务监督管理职责提供技术、数据支持和协助的工作机制情况；

9.建立为公安机关、国家安全机关依法维护国家安全和查处违法犯罪提供技术、数据支持和协助的工作机制情况。

经过安全评估，符合法律、行政法规、部门规章和标准的，应当形成安全评估报告，得出安全评估结论，并交有关部门备案。

（三）算法模型直接产生内容标识义务

为区分“虚拟现实”与“自然现实”，应当对其生成内容与客观事实作出区分。根据国家网信办、工信部、公安部三部门联合发布的《互联网信息服务深度合成管理规定》“深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识。” 并且前述标识任何组织和个人不得采用技术手段删除、篡改、隐匿规定的深度合成标识。也就是说此类信息传播必须附带区别标识，免于混淆以正视听。

全国信息安全标准化技术委员会发布的《生成式人工智能服务内容标识方法》（TC260-PG-20233A）对于标识方式给出了建议，提示文字内容应至少包含“人工智能生成”或“AI 生成”等信息，并以添加隐式水印标识的方式提示服务提供者名称等。

前述监管也只是初步的法律监管措施，数据合规是动态不断发展变化的，技术不断迭代，监管措施也在不断变化，万变不离其宗，安全才是根本。这些监管的目的均在于落实《网络安全法》、《数据安全法》、《个人信息保护法》的相关内容，尤其对于具有社会动员能力的平台更应关注数据安全、社会安全、国家安全和经济安全的法定义务。

关键词：

国际法律视野｜欧盟反垄断损害赔偿量化对我国的启示

矿产法律视角｜探矿权延续的条件与依据

国际法律视野｜欧盟反垄断损害赔偿量化对我国的启示

矿产法律视角｜探矿权延续的条件与依据