【导语】近日，网络上兴起一股AI克隆声音“带货”风潮，奥运冠军全红婵、孙颖莎、王楚钦等人成为不法分子利用AI技术仿冒的对象。法律专家指出，此类行为已侵犯被仿冒者的肖像权与声音权，并损害消费者知情权，构成违法行为。随着《人工智能生成合成内容标识办法》的实施，公众应保持警惕，勿轻信AI音视频，被仿冒者可依法维权，网站平台也应加大监管力度。
你刷到过全红婵、孙颖莎、王楚钦卖土鸡蛋的视频吗？别信，那都是假的。近日，网络上掀起一波“打假”风浪，目标直指AI（人工智能）克隆声音乱象。法律专家称，利用AI仿冒他人身份“带(dài)货(huò)”是(shì)违(wéi)法行为，已侵犯被仿冒者和消费者权益。
“我是你们的婵宝，有事请大家帮忙，今天让妈妈先拿出300单老家的土鸡蛋，给大家放福利”“大家好，我是莎莎，我为婵宝家农家土鸡蛋代言”“大家好，我是王楚钦，昨天收到婵妹私信，说她家土鸡蛋大丰收，这么好的土鸡蛋不发出去就可惜了”……听到熟悉的“声音”，粉丝误以为是奥运冠军本人，纷纷下单购买。殊不知，这些都是通过AI伪造，克隆出的名人声音。
中国人权研究会理事、云南大学人权法研究中心执行主任刘红春说，利用AI仿冒奥运冠军“带货”的行为，已侵犯了他们的肖像权与声音权。他强调，该类仿冒行为并非仅针对名人，仿冒任何自然人均属违法。不法分子选择名人下手，正是看中其社会影响力和公众信任，从而更易达成误导消费者、推销商品甚至实施诈骗的目的。
“这些行为违反了民法典中‘任何组织或者个人不得以丑化、污损，或者利用信息(xi)技(jì)术(shù)手(shǒu)段(duàn)伪(wěi)造(zào)等(děng)方(fāng)式(shì)侵(qīn)害(hài)他(tā)人(rén)的(de)肖(xiào)像(xiàng)权(quán)’‘对(duì)自(zì)然(rán)人(rén)声(shēng)音(yīn)的(de)保(bǎo)护(hù)，参(cān)照(zhào)适(shì)用(yòng)肖(xiào)像(xiàng)权(quán)保(bǎo)护(hù)的(de)有(yǒu)关规(guī)定(dìng)’等(děng)条(tiáo)文。”刘(liú)红(hóng)春说，以上述为例，商家利用AI伪造声音，编造故事，推销商品，已构成对全红婵等奥运冠军声音权的侵害，被侵权人可以要求商家停止侵权行为、赔偿损失与赔礼道歉。
“此举还侵犯了消费者知情权。”刘红春说，如果商家诱导消费者购买高价、低质或不存在的商品，且骗取财物数额较大，就触犯了刑法，涉嫌诈骗罪。
中国政法大学人权研究院教授刘小楠认为，当前互联网平台出现不少AI移花接木的视频，AI换脸、AI盗声的不当滥用，易引发侵犯肖像权、声音权，侵犯公民个人信息及诈骗等犯罪行为，是人工智能技术带来的新挑战之一。她表示，我国目前对AI合成技术已经作出一些规定，如《生成式人工智能服务管理暂行办法》就明确规定：提供和使用生成式人工智能服务，不得侵害他人肖像权、名誉权、荣誉权、隐私(sī)权(quán)和(hé)个(gè)人(rén)信(xìn)息(xi)权(quán)益(yì)。
“还(hái)有(yǒu)一(yī)个(gè)好(hǎo)消(xiāo)息(xi)是(shì)《人(rén)工(gōng)智(zhì)能(néng)生(shēng)成(chéng)合(hé)成(chéng)内(nèi)容(róng)标(biāo)识(shi)办(bàn)法(fǎ)》将(jiāng)从(cóng)今(jīn)年(nián)9月(yuè)1日(rì)起(qǐ)施(shī)行(xíng)，所(suǒ)有(yǒu)AI合(hé)成(chéng)的(de)内(nèi)容(róng)，必(bì)须(xū)依(yī)法打电子水印，没有标识的，大家可以举报。如果刷到疑似假货，也可录屏举报，或者@官方客服。”刘红春说。
法律专家提醒公众要保持警惕，勿轻信AI生成的音视频或直播，避免财产损失；被仿冒者可拿起法律武器，维护自身权益；网站平台要提升检测鉴伪能力，对此类乱象加大监管，对发布者内容严格审核，做好处置。
“对于AI，我们既要有开放包容的心态，用好发展好，对于它所带来的新问题，也要坚持在发展中治理，明确使用AI技术的底线与红线，真正让科技向上、向善，为人类造福。”刘小楠说。（记者岳冉冉）
