以ChatGPT为代表的生成式人工智能（AI Generated Content，“AIGC”） 产品仿佛在一瞬间席卷全球，而随着技术的不断完善及拓展，AIGC作为一种堪称颠覆式的生产力工具，必然将渗透到经济社会生活的每个角落。在为社会带来技术便利的同时，AIGC产品蕴含的潜在风险很可能或已经引发负面影响。

面对AIGC产品可能引发的各种应用风险，2023年4月11日，我国网信办发布《生成式人工智能服务管理办法（征求意见稿）》，就生成式AI的应用制定了监管要求。

AI生成内容可能会产生侵犯知识产权的风险

首先，投喂海量互联网语料库进行预训练是生成式AI算法运作的首要步骤。然而即便爬虫技术已被广泛运用在数据抓取领域，但其仍无法完全排除抓取到的数据不存在涉及第三方知识产权的情况出现。考虑到AI在基于算法生成内容的过程中必然存在拼接、复制在先数据的可能，因此，如果生成内容与在先作品、专利或者商标具有较高相似度或者实质相似，且未经权利人授权，则涉嫌构成对第三方著作权、专利权或者商标权的侵犯。此时，生成式AI提供者以及使用者都有可能因此承担法律责任。

此外，生成内容也可能侵犯商业秘密、数据权益。商业秘密一直以来属于我国《反不正当竞争法》保护的对象。根据该法规定，“商业秘密，是指不为公众所知悉、具有商业价值并经权利人采取相应保密措施的技术信息、经营信息等商业信息。”在2022年11月22日发布的《反不正当竞争法（修订草案征求意见稿）》引入了“商业数据”的概念。根据该草案第十八条，“商业数据，是指经营者依法收集、具有商业价值并采取相应技术管理措施的数据”，“经营者不得不正当获取或者使用其他经营者的商业数据，损害其他经营者和消费者的合法权益”。草案新增商业数据保护条款，拓宽了对虚拟、无形财产权益的保护范围。因此，生成式AI在预训练阶段使用的数据来源不仅可能侵犯第三方商业秘密，也有可能侵犯商业数据，构成不正当竞争。

法律规制及合规方向分析

《生成式人工智能服务管理办法（征求意见稿）》第四条规定“提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：（一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。（三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。本条是对AIGC产品生成内容与提供服务过程中提出的基础合规要求。相较于现行法规，该办法针对AIGC提出了更为细化的要求。且其中部分要求对于AIGC服务提供者来说，较难判断其义务边界。如该办法要求AIGC生成内容应真实准确，事实上，已经有用户在使用类似产品的过程中，经常性地发现AIGC产品提供了不真实的生成内容。

对于服务提供者的合规义务边界，将更多落在技术及规则层面，即相应服务提供者的产品是否具备有效、适当的筛选、审核、过滤等技术、规则，以此实现对敏感词、违规内容、数据来源等关键事项的管理。实践中数据来源复杂、追溯难，数据的真实性、准确性、客观性可能难以完全保证，因此如果一刀切地对生成式AI提供者要求无过错责任也可能过于严格。

尽管如此，考虑到数据的收集是最终内容生成的基础要素，归根溯源，提供者有义务采取一切必要手段确保数据来源的合规。为此，我们也期待立法或司法将会对何种情形构成内容不真实、虚假作出进一步明确。