Відверто сексуальні фейкові зображення відомої співачки Тейлор Свіфт, створені штучним інтелектом, заполонили X (колишній Twitter) протягом останнього дня. Це є яскравим прикладом поширення фейкової порнографії, створеної штучним інтелектом. Про це повідомляє The Verge.
Термін «Тейлор Свіфт ШІ» став популярним у різних регіонах, одна публікація на X набрала понад 45 мільйонів переглядів, 24 тисячі репостів і сотні тисяч уподобайок і збережень, перш ніж її зрештою видалили. А обліковий запис перевіреного користувача, який поділився зображеннями, було призупинено за порушення політики платформи. Публікація була доступна на платформі близько 17 годин.
Але коли користувачі почали обговорювати вірусний допис, зображення почали поширюватися та були повторно опубліковані в інших акаунтах. Багато з них все ще залишаються доступними, і з того часу з’явився потік нових графічних підробок.
Як повідомило 404 Media, зображення походять із групи в Telegram, де користувачі діляться відвертими зображеннями жінок, створеними штучним інтелектом, часто за допомогою Microsoft Designer.
Повідомляється, що користувачі у групі жартували про те, як зображення Свіфт стали вірусними на X.
Шанувальники Тейлор Свіфт заповнюють платформу спамом, щоб прибрати відверті фейки, і критикують X за те, що соцмережа дозволила багатьом публікаціям залишатися доступними. Хоча політика X щодо публікації синтетичних і маніпуляційних медіа й оголених тіл без згоди прямо забороняє розміщення такого контенту на платформі.
Тож фанати співачки заповнили хештеги, які використовуються для розповсюдження фейкових ШІ-зображень, рекламою справжніх кліпів виступу Свіфт, щоб приховати відверті підробки.
taylor swift ai (clog the search) / we NEED to protect women from stuff like this
— may ⸆⸉ IS ON STRIKE! 🇵🇸 (@midnightsabs) January 25, 2024
pic.twitter.com/chc0SPLiM5
Представники Тейлор Свіфт ситуацію поки не коментують.
Деякі генератори зображень штучного інтелекту мають обмеження, які запобігають створенню оголених, порнографічних і фотореалістичних зображень знаменитостей, але багато інших інструментів прямо не пропонують таку послугу.
Відповідальність за запобігання розповсюдженню підроблених зображень часто лягає на соціальні платформи. Однак це може бути важко зробити, особливо для такої компанії, як X, яка вичерпала свої можливості модерування.
Наразі ЄС проводить розслідування щодо звинувачень на адресу X стосовно того, що соцмережа використовується для «поширення незаконного контенту та дезінформації», зокрема про війну Ізраїлю та ХАМАС.
Раніше ProIT повідомляв, що підліткам обмежать доступ до контенту у Facebook та Instagram.
Також ми розповідали про велике оновлення Telegram з 11 новими функціями.