AI乱象治理 要“打假”也要能“辨真”

新闻1+1丨AI乱象治理 要“打假”也要能“辨真”

AI仿冒孙颖莎、王楚钦、全红婵带货，打的是什么算盘？一条评论引发全国首例AI误判案，创作者如何自证“我不是AI”？当技术应用的门槛越来越低，当内容检测的难度越来越大，AI乱象治理，如何加速加力？《新闻1+1》连线中国社会科学院大学互联网法治研究中心主任刘晓春、北京互联网法院综合审判一庭法官张倩，共同分析解读。

01

AI仿冒奥运冠军声音带货

法律上怎么看？

短视频平台上，奥运冠军全红婵、孙颖莎、王楚钦的声音都遭遇了仿冒，被用来带货土鸡蛋。这种行为在法律上怎么去界定？面临哪些法律责任？

中国社会科学院大学互联网法治研究中心主任 刘晓春：借用知名运动员的声音，或者叫盗用这个声音去带货，法律上至少有两个层面的问题。第一是对运动员人格权益的侵犯，比如声音权的侵犯。第二对公众来说，比如粉丝、购买鸡蛋的消费者，实际上是有一个误导、虚假宣传，甚至是欺诈存在的。

盗用名人的声音构成虚假宣传，可能市场监管部门需要去追究他行政上的责任。

盗用名人的声音去散播谣言，有可能达到刑事责任，会触犯刑法。

我国《民法典》当中明确规定了声音权，盗用别人的声音会导致对其人格权益的侵犯，从而要去承担相应的民事责任。

02

盗用声音进行正能量宣传

可以吗？

另一个视频用了白岩松的声音，既也没有带货，也没有谋利，只是进行一种正能量的宣传，这样做可不可以？

刘晓春：这样做看起来没有什么伤害，只是伤害到了当事人的人格权益，但也会误导公众。如果一个“新闻”用白老师的声音来播，大家会觉得它很可靠，肯定就是真的新闻。包括用名人的声音去做科普，大家会误以为这个科普的权威性比它应该有的更高。所以整体上对用户、公众有一个误导，对他们的认知会产生一个不同方向的引导，还是有危害性的。

03

9月要施行的办法

能解决什么问题？

《人工智能生成合成内容标识办法》将于今年9月1日起施行，这个办法能够解决什么样的问题？

刘晓春：这个办法有一个非常明显的特点，把治理的方式往前端移了。考虑到大家事后再去起诉的成本太高，这个办法是说，AI软件在生成内容的时候，要强制给这个文件打上标。打上以文字、声音、图形等方式呈现的显式标识，提示它是AI生成的；或者采取技术措施在数据中添加隐式标识，大家可能看不见，但是平台包括公众可以有比较方便的方式，识别出它是AI生成的。

04

原创作品被判定为AI生成

法院判了

网友李先生发布的评论被平台判定因“包含AI生成内容但未标识”而违规，李先生人工复核无果后将平台告上了法庭。这也是全国首例平台运用算法工具进行AI生成合成内容检测识别引发的案件。

最终北京互联网法院判定原告李先生胜诉，但没有认定内容是原创还是AI，而是认定被告平台没有对算法决策依据和结果进行适度的解释和说明，在没有事实依据的情况下对用户进行了处理，应承担违约责任。

北京互联网法院综合审判一庭法官张倩介绍，这个案件法院首先肯定了平台审核的正当性。对AI生成合成内容进行标记，既有利于公众准确区分AI生成合成内容和人类创作内容，满足公众的知情权，也便利平台通过标识追溯内容来源，明确责任主体，降低侵权、违法犯罪等社会风险。

但本案也同时强调，平台应当就其判定结果进行充分的举证和说明，尤其是有义务对平台算法决策的过程和结果进行相应的解释。这涉及举证责任分配的问题。对于像涉案这种简短的网络即时创作内容，创作主体基本上都是在线编辑之后立即发布，很少会保留创作底稿、原件这些证据。所以很难要求本案的原告举证证明内容是由人类创作的。

但是平台是算法工具的掌控方，以及这个结果的判断方，有能力也有义务对算法工具的运算过程和审查结果进行充分解释说明。当然，这也并不是要求平台把和算法相关的全部内容，甚至是技术秘密都披露出来。而是要求平台就涉案内容AI判定相关的算法运行机制，进行必要的、可以为一般公众理解的解释说明。本案被告败诉，就是因为法院认定被告没有尽到这样的解释说明义务。

05

涉AI纠纷有哪些特点？

近年来AI乱象导致的一些纠纷，有哪些趋势或者特点？主要集中在什么方面？

张倩：近两年北京互联网法院受理的涉AI纠纷，绝对数量仍然不多，但是也确实呈现出明显的增多趋势，并且涉及各种各样的案件类型。占比较大的几类案件是：

涉AI的人格权纠纷，比如AI声音权案、AI换脸案、AI陪伴案、AI恶搞案等，都涉及使用AI软件侵害他人的肖像权、名誉权、声音权、个人信息权益等人格权利或者权益的问题。

涉AI的著作权纠纷，涉及使用AI软件生成的图片视频等是不是构成作品，以及未经许可使用他人利用AI软件生成的前述内容，是否侵害著作权的问题。或者涉及AI大模型使用他人作品进行训练是否构成侵权的问题。

像本案这类合同纠纷，存在合同关系的双方之间，比如平台和用户，由于一方使用了AI技术所引发的纠纷。

北京互联网法院受理案件的情况充分反映出来，近两年我国AI技术确实处在一个高速发展，而且应用场景不断丰富的阶段。对于法院来说，树立既有利于AI技术发展，又有助于当事人权益保护的裁判规则，是一个非常大的挑战。

来源：央视新闻客户端