向AI技术滥用亮剑

科技向善 开展“清朗·整治AI技术滥用”专项行动 简仁山 作

陆 夷

近日，中央网信办在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动，向人民群众反映强烈的AI乱象“亮剑”，彰显出规范AI服务和应用、促进行业健康有序发展的坚定决心。

各类AI应用爆发式增长，在为人们工作、生活带来极大便利的同时，也有一些不法分子借AI技术兴风作浪，制造虚假信息、设局诈骗、散布谣言，手段层出不穷，让人防不胜防。有的声称通过“大数据分析”或“AI模型”可预测彩票中奖号、提高中奖率，有的编造“首例智能驾驶致死案宣判”等涉企谣言，把“按键伤企”当做获得流量的“密码”，还有的利用AI技术炮制涉校园火灾特效等虚假内容……凡此种种，严重混淆视听、误导公众，社会影响恶劣。

遏制AI技术滥用，已经成为各方共识，而治理难度源于技术、执行和成本等多方面。例如，如何精准划定合理使用与滥用之间的边界，怎样让治理措施有效覆盖众多平台和企业，都亟须进一步明确。以某互联网平台为例，去年该平台拦截低质AI内容超93万条，处罚同质化发文超781万篇。面对如此海量的信息，显然依靠单一主体或单一治理手段难以奏效。在今年全国两会上，深受AI换脸拟声之害的雷军，就提出了加快单行法立法进程、强化行业自律共治、加大普法宣传的广度力度等建议，引发了社会各界的强烈共鸣。

当AI技术驱动认知博弈进入辨别真伪更难、操作门槛更低、传播效率更高的新阶段，治理的“打法”也亟待迭代升级。近年来，从发布《互联网信息服务深度合成管理规定》，到出台《人工智能生成合成内容标识办法》，再到开展“清朗”系列专项行动，我国逐步从政策法规、原则规范、技术标准、行业自律等多个维度构建起AI治理体系。此次专项行动，有两大看点：第一阶段重点整治违规AI产品，传授、售卖违规AI产品教程和商品，训练语料管理不严，未落实内容标识要求等突出问题，旨在强化源头治理；第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台，针对每个重点问题细化打法举措，以点带面推动治理创新。

当然，完善AI技术管理和信息内容管理，不可能“一劳永逸”。有专家将人工智能治理比作河道治理，强调要以疏导为主，而非简单封堵，且生态治理需持之以恒、久久为功。此次专项行动集中时间、集中力量打击乱象，形成有力震慑的同时，也是一次探索建立长效治理机制的有益尝试。只有每项措施都切实执行到位，才能为有效规范AI类应用网络生态积累经验、提供参考。

长期来看，向AI技术滥用亮剑，是实现人机价值对齐、引导智能向善的关键一步。在加快发展大模型的同时，给予价值对齐和安全研究足够重视，让规范和监管的脚步紧跟技术发展的步伐，方能“用AI打败AI”，让AI技术真正造福人类社会。