Продавала цукерки та просувала Росію: українка виявила в мережі тисячі клонів зі своїм обличчям

Технології та можливості штучного інтелекту, що стрімко розвиваються и, схоже,  стають безмежними, мають і темний бік. Незаконне присвоєння особистих даних та виробництво дипфейків, підміна осіб та створення ШІ-клонів - все це також активно поширюється і ставить під сумнів можливість ефективного захисту прав споживачів у цій сфері.

Історія, що трапилася з українкою Ольгою Лойок - переконливе підтвердження цього. Студентка виявила у китайських соцмережах десятки акаунтів та майже п'ять тисяч відеороликів зі своїм обличчям, створених за допомогою простих і доступних в Інтернеті інструментів генеративного штучного інтелекту, повідомляє ВВС.

Наташі, Ані та Софії з однією особою та одним посилом

21-річна Ольга Лоєк навчається у Пенсільванському університеті, не має жодного відношення до Китаю і не знає мови цієї країни. Після того, як на початку 2024 року вона почала вести свій YouTube канал, присвячений ментальному здоров'ю, передплатники почали повідомляти про “зустрічі” з нею у китайських соціальних мережах Douyin, Bilibili та Xiaohongshu. Douyin є китайською версією TikTok, Bilibili – аналог YouTube та одна з найбільших відеоплатформ Китаю, Xiaohongshu - платформа, схожа на Instagram.

Різноманітні дівчата - Наташі, Ані, Софії, Стейсі, Грейс та інші мали обличчя і голос Ольги, тільки говорили китайською. Здивована українка почала перекладати, що кажуть її клони, і виявила, що вони - росіянки, продають російські товари, вихваляють Росію, але віддають належне і Китаю, захоплюючись його силою та могутністю китайсько-російської дружби. У деяких роликах цифрові клони хвалять китайську історію та культуру, в якихось розповідають, як росіянки мріють вийти заміж за китайців, обіцяючи прати білизну, готувати, мити посуд щодня і дати "стільки іноземних дітей, скільки ви захочете".

Серед великої кількості облікових записів було і багато продавщиць російських товарів, наприклад, цукерок. Як правило, їжа збирає багато передплатників, і китайці – не виняток. Якась “Наташа” з обличчям Ольги створила обліковий запис “Наташа-імпортна їжа”, зібравши 300 тисяч передплатників. Продажу цукерок у ньому передує мова: “Росія — найкраща країна. Сумно, що інші країни відвертаються від Росії, а російські жінки хочуть приїхати до Китаю».

Якщо це вигідно партії, то можна й те, чого не можна

Сказати, що Ольга, сім'я якої перебуває в Україні, була обурена – не сказати нічого.

“Все це було дуже страшно, тому що я бачила, як говорю те, чого ніколи не говорила. Я не хочу, щоб хтось думав, що я коли-небудь говорила ці жахливі речі. Використання української дівчини для особи, яка просуває Росію, - це божевілля”, - повідомила Ольга в інтерв'ю ВВС.

Дівчина та її передплатники відправили скарги китайським компаніям соціальних мереж, після чого з десяток облікових записів були видалені. На повідомлення її нареченого, залишеному в Твіттері, де було описано цю історію, відреагувала компанія HeyGen, яка розробила інструмент, який використовується для створення ШІ-подоб. За її даними,  було знайдено майже 5 тисяч відеороликів, де використовувалося обличчя Ольги, після чого компанія заблокувала можливість його подальшого використання.

При цьому політика компанії полягає в тому, що користувачі не можуть створювати аватари, що «зображують реальних людей, включаючи знаменитостей чи громадських діячів, без явної згоди». І потрібно надавати доказове відео, де людина, чия особа використовується, дає цю згоду.

Після історії з Ольгою Лойок компанія стверджувала, що її система була зламана, але тепер усе перевірено, протоколи безпеки оновлені і більше таке повторитися не може – щоправда, китайські експерти вважають інакше.

За словами Анжели Чжан з Університету Гонконгу, те, що сталося з Ольгою, дуже поширене явище у Китаї, внаслідок розвиненої та великої тіньової економіки, яка спеціалізується на підробках, незаконному присвоєнні особистих даних та виробництві дипфейків.

З одного боку, Китай намагається регулювати ШІ, захищати права споживачів, притягати до відповідальності за діяльність із підміни осіб за допомогою ШІ, відкриваючи кримінальні справи і навіть заарештовуючи кібер-злочинців.

З іншого, те, що така кількість відео з Ольгою потрапила до мережі, пояснюється контентом – ідеєю дружби між Китаєм та Росією. Враховуючи, що офіційні китайські ЗМІ повторюють російську риторику та виправдовують війну в Україні, а в соцмережах обговорювати її взагалі заборонено, велика ймовірність, що всі ці численні “Наташі” були вигідні, узгоджені та активно просувалися. Просто тому, що в цьому зацікавлений уряд - за принципом, "загалом це заборонено, але якщо потрібно Комуністичній партії, то можна". Тому історії, подібні до Ольгиної, на жаль, можуть повторитися.

Підписуйтесь на наш Telegram-канал, щоб не пропустити важливі новини. Підписатися на канал у Viber можна Тут.

ЧИТАЙТЕ ТАКОЖ:

• OpenAI презентувала вражаючу модель GPT-4o, з якою можна спілкуватися: на що ще здатний штучний інтелект
• Автори ChatGPT хочуть запустити на ринок ШІ-порнографію
• OpenAI готує до запуску пошукову систему, щоб конкурувати з Google
• Новий інструмент OpenAI розпізнаватиме діпфейки: як це працюватиме
• Тупо торгують підробками: штучний інтелект викрив найвідоміший інтернет-аукціон планети