Продавала цукерки та просувала Росію: українка виявила в мережі тисячі клонів зі своїм обличчям
Фальшиві аватари, створені штучним інтелектом, рекламують російські товари та вихваляють китайсько-російську дружбу
Технології та можливості штучного інтелекту, що стрімко розвиваються и, схоже, стають безмежними, мають і темний бік. Незаконне присвоєння особистих даних та виробництво дипфейків, підміна осіб та створення ШІ-клонів - все це також активно поширюється і ставить під сумнів можливість ефективного захисту прав споживачів у цій сфері.
Історія, що трапилася з українкою Ольгою Лойок - переконливе підтвердження цього. Студентка виявила у китайських соцмережах десятки акаунтів та майже п'ять тисяч відеороликів зі своїм обличчям, створених за допомогою простих і доступних в Інтернеті інструментів генеративного штучного інтелекту, повідомляє ВВС.
Наташі, Ані та Софії з однією особою та одним посилом
21-річна Ольга Лоєк навчається у Пенсільванському університеті, не має жодного відношення до Китаю і не знає мови цієї країни. Після того, як на початку 2024 року вона почала вести свій YouTube канал, присвячений ментальному здоров'ю, передплатники почали повідомляти про “зустрічі” з нею у китайських соціальних мережах Douyin, Bilibili та Xiaohongshu. Douyin є китайською версією TikTok, Bilibili – аналог YouTube та одна з найбільших відеоплатформ Китаю, Xiaohongshu - платформа, схожа на Instagram.
Різноманітні дівчата - Наташі, Ані, Софії, Стейсі, Грейс та інші мали обличчя і голос Ольги, тільки говорили китайською. Здивована українка почала перекладати, що кажуть її клони, і виявила, що вони - росіянки, продають російські товари, вихваляють Росію, але віддають належне і Китаю, захоплюючись його силою та могутністю китайсько-російської дружби. У деяких роликах цифрові клони хвалять китайську історію та культуру, в якихось розповідають, як росіянки мріють вийти заміж за китайців, обіцяючи прати білизну, готувати, мити посуд щодня і дати "стільки іноземних дітей, скільки ви захочете".
Серед великої кількості облікових записів було і багато продавщиць російських товарів, наприклад, цукерок. Як правило, їжа збирає багато передплатників, і китайці – не виняток. Якась “Наташа” з обличчям Ольги створила обліковий запис “Наташа-імпортна їжа”, зібравши 300 тисяч передплатників. Продажу цукерок у ньому передує мова: “Росія — найкраща країна. Сумно, що інші країни відвертаються від Росії, а російські жінки хочуть приїхати до Китаю».
Якщо це вигідно партії, то можна й те, чого не можна
Сказати, що Ольга, сім'я якої перебуває в Україні, була обурена – не сказати нічого.
“Все це було дуже страшно, тому що я бачила, як говорю те, чого ніколи не говорила. Я не хочу, щоб хтось думав, що я коли-небудь говорила ці жахливі речі. Використання української дівчини для особи, яка просуває Росію, - це божевілля”, - повідомила Ольга в інтерв'ю ВВС.
Дівчина та її передплатники відправили скарги китайським компаніям соціальних мереж, після чого з десяток облікових записів були видалені. На повідомлення її нареченого, залишеному в Твіттері, де було описано цю історію, відреагувала компанія HeyGen, яка розробила інструмент, який використовується для створення ШІ-подоб. За її даними, було знайдено майже 5 тисяч відеороликів, де використовувалося обличчя Ольги, після чого компанія заблокувала можливість його подальшого використання.
При цьому політика компанії полягає в тому, що користувачі не можуть створювати аватари, що «зображують реальних людей, включаючи знаменитостей чи громадських діячів, без явної згоди». І потрібно надавати доказове відео, де людина, чия особа використовується, дає цю згоду.
Після історії з Ольгою Лойок компанія стверджувала, що її система була зламана, але тепер усе перевірено, протоколи безпеки оновлені і більше таке повторитися не може – щоправда, китайські експерти вважають інакше.
За словами Анжели Чжан з Університету Гонконгу, те, що сталося з Ольгою, дуже поширене явище у Китаї, внаслідок розвиненої та великої тіньової економіки, яка спеціалізується на підробках, незаконному присвоєнні особистих даних та виробництві дипфейків.
З одного боку, Китай намагається регулювати ШІ, захищати права споживачів, притягати до відповідальності за діяльність із підміни осіб за допомогою ШІ, відкриваючи кримінальні справи і навіть заарештовуючи кібер-злочинців.
З іншого, те, що така кількість відео з Ольгою потрапила до мережі, пояснюється контентом – ідеєю дружби між Китаєм та Росією. Враховуючи, що офіційні китайські ЗМІ повторюють російську риторику та виправдовують війну в Україні, а в соцмережах обговорювати її взагалі заборонено, велика ймовірність, що всі ці численні “Наташі” були вигідні, узгоджені та активно просувалися. Просто тому, що в цьому зацікавлений уряд - за принципом, "загалом це заборонено, але якщо потрібно Комуністичній партії, то можна". Тому історії, подібні до Ольгиної, на жаль, можуть повторитися.
Підписуйтесь на наш Telegram-канал, щоб не пропустити важливі новини. Підписатися на канал у Viber можна Тут.