Продавала конфеты и продвигала Россию: украинка обнаружила в сети тысячи клонов со своим лицом

Стремительно развивающиеся технологии и возможности искусственного интеллекта, которые, похоже, становятся безграничными, имеют и темную сторону. Незаконное присвоение личных данных и производство дипфейков, подмена лиц и создание ИИ-клонов - все это тоже активно развивается и ставит под сомнение возможность эффективной защиты прав потребителей в этой сфере. 

История, случившаяся с украинкой Ольгой Лоек - убедительное тому подтверждение. Студентка обнаружила в китайских соцсетях десятки аккаунтов и почти пять тысяч видеороликов со своим лицом, созданных с помощью простых и доступных в Интернете инструментов генеративного искусственного интеллекта, сообщает ВВС.

Наташи, Ани и Софии с одним лицом и одним посылом

21-летняя Ольга Лоек учится в Пенсильванском университете, не имеет никакого отношения к Китаю и не знает языка этой страны.  После того как в начале 2024 года она начала вести свой YouTube канал, посвященный ментальному здоровью, подписчики стали сообщать о “встрече” с ней в китайских социальных сетях Douyin, Bilibili и Xiaohongshu. Douyin является китайской версией TikTok, Bilibili - аналог YouTube и одна из самых крупных видеоплатформ Китая, Xiaohongshu — платформа, схожая на Instagram.

Разнообразно называвшиеся девушки - Наташи, Ани, Софии, Стейси, Грейс и прочие имели лицо и голос Ольги, только говорили на китайском. Изумленная украинка стала переводить, что говорят ее клоны, и обнаружила, что они - россиянки, продают российские товары, восхваляют Россию, но отдают должное и Китаю, восхищаясь его силой и мощью китайско-российской дружбы. В некоторых роликах цифровые клоны хвалят китайскую историю и культуру, в каких-то рассказывают, как россиянки мечтают выйти замуж за китайцев, обещая стирать белье, готовить, мыть посуду каждый день и дать “столько иностранных детей, сколько вы захотите».

Среди большого количества аккаунтов было и много продавщиц российских товаров, например, конфет. Как правило, еда собирает много подписчиков, и китайцы - не исключение. Некая “Наташа” с лицом Ольги создала аккаунт “Наташа-импортная еда”, собрав 300 тысяч подписчиков. Продажу конфет в нем предваряет речь: “Россия — лучшая страна. Печально, что другие страны отворачиваются от России, а русские женщины хотят приехать в Китай».

Если это выгодно партии, то можно и то, чего нельзя

Сказать, что Ольга, семья которой находится в Украине, была возмущена - не сказать ничего.

“Все это было очень жутко, потому что я видела, как говорю то, чего никогда не говорила. Я не хочу, чтобы кто-то думал, что я когда-либо говорила эти ужасные вещи. Использование украинской девушки для лица, продвигающего Россию - это безумие”, - сообщила Ольга в интервью ВВС.

Девушка и ее подписчики отправили жалобы китайским компаниям социальных сетей, после чего с десяток аккаунтов были удалены. На сообщение ее жениха, оставленном в Твиттере, где была описана эта история, отреагировала компания HeyGen, разработавшая инструмент, используемый для создания ИИ-подобий. По ее данным, они нашли почти 5 тысяч видеороликов, где использовалось лицо Ольги, и заблокировали возможность его дальнейшего использования. 

При этом политика компании основывается на том, что пользователи не могут создавать аватары, «изображающие реальных людей, включая знаменитостей или общественных деятелей, без явного согласия». И нужно предоставлять доказательное видео, где человек, чье лицо используется, дает это согласие.

После истории с Ольгой Лоек компания утверждала, что ее система была взломана, но теперь все проверено, протоколы безопасности обновлены и больше такое повториться не может - правда, китайские эксперты считают иначе. 

По словам Анжелы Чжан из Университета Гонконга, то, что случилось с Ольгой, очень распространенное явление в Китае, вследствие развитой и обширной теневой экономики, которая специализируется на подделках, незаконном присвоении личных данных и производстве дипфейков.

С одной стороны, Китай пытается регулировать ИИ, защищать права потребителей, привлекать к ответственности за деятельность по подмене лиц с помощью ИИ, открывая криминальные дела и даже арестовывая кибер-преступников.

С другой, то, что такое количество видео с Ольгой попало в сеть, объясняется контентом - идеей дружбы между Китаем и Россией. Учитывая, что официальные китайские СМИ повторяют российскую риторику и оправдывают войну в Украине, а в соцсетях обсуждать ее запрещено, велика вероятность, что все эти многочисленные “Наташи” были выгодны, согласованы и активно продвигались. Просто потому что в этом заинтересовано правительство - по принципу, “вообще-то это запрещено, но если нужно Коммунистической партии, то можно”. Поэтому истории, подобные Ольгиной, увы, могут повториться.

Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. Подписаться на канал в Viber можно здесь.

ЧИТАЙТЕ ТАКЖЕ:

• OpenAI представила впечатляющую модель GPT-4o, с которой можно общаться: на что еще способен искусственный интеллект
• Авторы ChatGPT хотят запустить на рынок ИИ-порнографию
• OpenAI готовит к запуску поисковую систему, чтобы конкурировать с Google
• Новый инструмент OpenAI будет распознавать дипфейки: как это будет работать
• Тупо торгуют подделками: искусственный интеллект разоблачил самый известный интернет-аукцион планеты