网信办《生成式人工智能服务管理办法（征求意见稿）》公开征求意见，哪些内容值得注意？

4月11日，国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见。

这个征求意见稿，我认为有三个看点，值得大家关注观察。

第一，这个管理办法对国外大模型（如OpenAI等）的态度相当宽容。可以说是出乎意料的包容。

根据规定，国外生成式人工智能服务提供商只要完成备案，就可以在中国提供服务。这意味着，只要符合相关规定，OpenAI等国外公司有可能在中国市场提供服务。

规定还特别强调，“支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作”，这也为国内资本玩家和国外先进技术进行合作，预留了通道。

前两天有消息说，德国也在仿效意大利，考虑禁止ChatGPT。相比起来，中国的规定显得宽容和务实多了。

欧洲部分国家在处理生成式人工智能的问题上，过于关注禁止和限制，这可能会适得其反。封闭和禁止未必能有效地解决问题，而且可能会扼杀技术创新，使这些国家在人工智能领域的竞争力下降。

相较之下，中国的做法更注重在保护用户隐私与允许技术发展之间取得平衡。规定鼓励国内外服务提供商遵循相应的法律法规，以便在保障数据安全的基础上发挥创新力量。这种方法更有助于推动人工智能在各个领域的积极应用，同时确保用户隐私和数据安全得到充分保护。

第二， 这个管理办法，一个关注点是第十六条，“提供者应当按照《互联网信息服 务深度合成管理规定》对生成的图片、视频等内容进行标识。“

2023年1月10日生效的《互联网信息服务深度合成管理规定》，要求服务提供者，对提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成内容，进行显著标识，避免公众混淆或者误认。并且禁止删除、篡改或隐匿标识。

这条规定的目的是让用户能够明确区分人工生成的内容和真实内容，以防止虚假信息的传播和误导。

当前，生成式人工智能给我们带来的最大挑战是虚假内容对传播伦理的冲击。尤其是由Midjourney生成的图片，已经难以通过肉眼辨别真伪。过去这段时间，相信很多人被特朗普被捕、时尚教皇、马克龙抗议等等虚假照片刷新了三观。想象下，十年后的我们，如果回望这些照片，你能确定哪些是真实发生过的历史吗？这对于传播和公信力来说都是一个严重的问题。

《互联网信息服务深度合成管理规定》要求服务提供方对生成的图片、视频等内容进行标识。这是对这个挑战，在目前技术条件下的一个无奈解法。

在没有成熟的技术检测机器生成内容的前提下，如果让用户主动标识生成内容，显然不可执行。只能把责任交给服务提供方，但是如果服务提供方强制在生成的图像和视频上标识水印，估计短时间内就会导致用户流失，大概率没有服务提供者会主动采取标识提示。到时候就看网信办对这个规定的执行力度了。

图像还是好的，毕竟还有水印这个选项。文本类生成内容，目前还没有哪个项目能在技术上做到有效标识，这条规定怎么执行？值得观察。

第三，这个管理办法，在应对可能出现的内容违规方面，可以说也非常包容。

除了要求服务提供者加强内容过滤，还规定对于举报和发现的问题，服务提供者有3个月的时间在模型层面进行优化。

这就像为生成式AI服务商提供了一个”安全气囊“，即使出现意外，也有时间进行补救和改正，让他们可以放心开发模型，不必担心一旦触线就会被终结，同时为他们提供了足够的后续改进机会。

至于其他的要求，如报备、实名、隐私保护、数据安全等等，应该说都是常规的要求，规范的做法，是每一个在中国境内开展服务的机构，都需要遵照执行的。不多讨论。

链接：国家互联网信息办公室关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知-新华网 (news.cn)