世界热文：立法规范引导创新发展 ——简评《生成式人工智能服务管理办法（征求意见稿）》

(资料图片仅供参考)

2023年4月11日，国家互联网信息办公室印发《生成式人工智能服务管理办法（征求意见稿）》（下称《办法》），面向全社会公开征求意见。《办法》指出：生成式人工智能产品或服务应当遵守法律法规的要求，并对个人信息保护，预训练、优化训练数据要求以及处罚标准作出规定。《办法》的提出为未来AI研发设置规范，旨在促进生成式人工智能技术健康应用发展。

契合时代背景，引领发展先机

在计算机网络广泛应用的今天，集合“高算力、广数据、深潜能”的深度人工智能可谓当下时代的“潮头”。ChatGPT、文心一言等大语言模型风头无两，各类研究工作如雨后春笋般接连出现，研发深度也逐步递进。一个无可争议的潜在事实表明：人工智能必将在现在和未来发挥深远影响，其算力的不断提高将助力个人、家庭、企业做出各类决策，将会对经济社会的发展和国家地区的顶层管理产生巨大作用。然而，我们无法判断人工智能最终会变成天使还是魔鬼，“机器是否会真正觉醒”仍然是尚无答案的未知命题。3 月 20 日，ChatGPT 平台出现了一次用户对话数据和付款服务信息丢失的事故，平台无法拿出任何法律依据来证明其收集和储存个人数据，从而训练聊天机器人行为的正当性。此类大语言模型陷入了有关安全问题的争议，意大利政府率先发出禁令，在其国家境内下架ChatGPT。此外，欧盟发布的《人工智能法案》也基于风险预防的理念为人工智能制定了一套覆盖全过程的风险规制体系。从全球范围来看，为人工智能设置相关规制法案，绝对是必要且极其重要的。新技术的产生必然带来未知和迷茫，不论是此前大热的虚拟货币、互联网金融，还是如今迅速覆盖各个领域的生成式人工智能，都将伴随着不容小觑的问题和挑战。但机遇和挑战总是相伴而行。《办法》的提出有效契合了当前人工智能发展的正确方向，也为其理性发展指明了正确道路。未雨绸缪，因势利导，制定新的法规来管理人工智能，才能守护其高效平稳发展。

《办法》先行谋定向，有的放矢显亮点

《办法》明确界定了其管制范围，确定了其约束对象“生成式人工智能”的概念定义：即基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。细读征求意见稿全文，不难发现立法亮点。

厘清红线，有序发展。《办法》明确提出：提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，服务提供者必须贯穿从算法设计、训练数据集，到模型生成迭代、提供服务的全过程。《办法》还强调要尊重知识产权，利用训练数据集“炼制”、优化模型过程中不得侵犯他人知识产权，技术领先者不得借助优势实施不正当竞争。这些规定无疑为生成式人工智能的发展划清红线，在一定程度上改善了其无序乱状。此外，办法对可能的违法行为提前做出相关规定，为人工智能的未来研发测试提出了准则性要求。政府监管、企业履责、社会监督、网民自律，最终才能维系其健康良好生态。

信息安全，真实为先。海量数据是人工智能的立身之本，因而，如果处理不好信息安全，泄密与侵权将人人自危。《办法》将个人信息保护摆在重要位置，提供者在“炼制”AI模型涉及个人信息数据时，应当征得用户同意，取得授权，对个人信息的收集、存储、使用、加工严格遵照相关规定。此外，生成式人工智能大大降低了制造假消息的技术难度和成本，人类凭肉眼已经难以分辨信息的真伪，深度伪造一旦被别有居心者滥用，必然成为谣言制造、诈骗勒索和舆论操控的新式武器。《办法》表明：不仅用于训练的数据要保证真实，进而生成的内容也要真实。提供者履行主体责任，如果发现生成违法违规情况，除采取内容过滤外，还应在3个月内通过优化训练等方式纠正错误，防止模型“学坏”，再次生成禁止内容。对于信息安全和信息真实性的坚持是《办法》的核心要义和必然之举。

有的放矢，平衡发展。《办法》不仅是对生成式人工智能的规制管理，更凸显了国家对其未来发展的明确支持。只有协调好创新发展和风险防控之间的关系，确保生成式人工智能的行为服务全部处于监管之下，才能使其慢慢步入正轨，行稳致远。《办法》的提出有助于提前防范化解相关风险，在防患于未然中为相关行业的进步确定大体基调。此外，《办法》已向全社会公开征求意见，在现实不断改变、技术不断进步的情况下，势必会因势利导进行迭代完善，在不断完善更新的过程中为人工智能的发展保驾护航。总而言之，《办法》仍沿袭由网信部门制定规章的做法，对人工智能生成内容（AIGC）进行立法。人工智能是新兴产业方向，其发展不能固守原有权利模式，更应顺应产业发展，协调不同权利之间的利益与矛盾，以法律回应社会生活。

（文章来源：第一财经）