“Я не хочу, щоб хтось думав, що я коли-небудь у своєму житті говорила такі жахливі речі. Використання української дівчини для реклами росії. Це божевілля”, – каже українка, яка стала “жертвою” штучного інтелекту.
Ольга Лоїк знайшла своє обличчя в різних відео в китайських соціальних мережах – це результат простих у використанні генеративних інструментів ШІ, доступних в Інтернеті, йдеться в матеріалі ВВС.
“Я бачила своє обличчя і чула свій голос. Але все це було дуже моторошно, тому що я бачила, як говорю те, чого ніколи не говорила”, — розповіла 21-річна дівчина, яка навчається в Університеті Пенсільванії.
Акаунти, в яких вона була зображена, мали десятки різних імен, наприклад Софія, Наташа, Ейпріл і Стейсі. Ці “дівчата” розмовляли мандаринською мовою, яку Ольга ніколи не вивчала. Вони, мабуть, були з росії, говорили про дружбу між Китаєм і росією або рекламували російську продукцію:
“Я бачила, що 90% відео розповідають про дружбу між Китаєм і росією, про те, що ми повинні бути сильними союзниками, а також про рекламу їжі”.
Один з найбільших акаунтів “Імпортна їжа від Наташі” має понад три млн підписників. А його господарка запевняє, що росія — найкраща в світі країна, тож шкода, що інші держави відвертаються від неї. Вона, стверджує, що російські жінки мріють приїхати до Китаю, після чого рекламує російські цукерки.
Це дуже обурило Ольгу, сім’я якої мешкає в охопленій російською війною Україні.
Але у ширшому сенсі її справа привертає увагу до ризиків технології, яка швидко розвивається і є справжньою проблемою.
Від YouTube до Xiaohongshu
Ольга знайшла свої ШІ-клони на Xiaohongshu – китайській версії Instagram та на Bilibili – найбільшому китайському відеосайті, схожому на YouTube.
“Їх (акаунтів, – ред.) було дуже багато. Деякі з позначками російських прапорів”, — згадує дівчина.
Наразі вона виявила близько 35 облікових записів зі своїм обличчям.
Клонів Ольги створили за допомогою сервісу HeyGen, що спеціалізується на реалістичних цифрових аватарах, генерації голосу та перекладах відео на різні мови.
Компанія відгукнулася на допис нареченого Ольги, який розповів її історію у соцмережі Х. Вони з’ясували, що з обличчям українки створили понад 4900 відео і запевнили, що заблокували зловмисників.
Представник HeyGen розповів BBC, що їхню систему зламали для створення “несанкціонованого контенту”, але компанія негайно оновила безпекові протоколи, щоб запобігти подальшому зловживанню.
Анжела Чжан з Університету Гонконгу стверджує, що ситуація Ольги – дуже поширена в Китаї. Там, за її словами, “існує велика тіньова економіка, що спеціалізується на підробках, незаконному присвоєнні особистих даних та виробництві дипфейків”.
І це попри те, що Китай є однією з перших країн, де запровадили правила, щодо використання штучного інтелекту. За офіційними даними, тільки у 2023 році місцева влада заарештувала 515 людей за фактом “підміни особи” на базі штучного інтелекту.
Кайла Блумквіст, дослідниця технологій і геополітики в Оксфордському університеті, каже, що “штучно створений політично чутливий контент може скомпрометувати людину, яку ризикують покарати без належної правової процедури”.
Вона додає, що увага Пекіна щодо штучного інтелекту й політики конфіденційності в інтернеті спрямована на захист громадян, але “їхні права щодо уряду залишаються вкрай слабкими”. Тож звичайні люди, як Ольга, залишаються вразливими й ризикують порушити китайське законодавство, попереджають експерти.
Ольга Лоїк впевнена, що вона – не остання жертва ШІ, але не збирається йти з YouTube чи припиняти розміщувати матеріали.
Українка виклала свою історію і каже, що деякі китайські користувачі допомагали їй виявляти підроблені зображення.
За словами Ольги, після того, як вона та її підписники надіслали скарги до китайських соцмереж, близько десяти облікових записів, які імітували її, були видалені.
“Я хотіла поділитися своєю історією, щоб люди зрозуміли, що не все, що ви бачите онлайн, є реальним, – каже блогерка. – Я люблю ділитися своїми ідеями зі світом, і жоден з шахраїв не стане мені на заваді”.
Читайте також: 4 головні фішки нової безплатної моделі ШІ GPT-4o
Джерело: ВВС
