Розвиток генеративних інструментів штучного інтелекту створив нову проблему для Інтернету — поширення фейкових оголених зображень, що нагадують реальних людей.
Microsoft зробила важливий крок, щоб надати жертвам deepfake-порнографії інструмент, який завадить пошуковій системі Bing видавати ці зображення у результатах пошуку, повідомляє TechCrunch.
Корпорація оголосила про партнерство зі StopNCII — організацією, яка дозволяє жертвам порнографії створювати цифровий відбиток цих відвертих зображень (справжніх чи ні) на своєму пристрої. Потім партнери StopNCII використовують цей цифровий відбиток, або «хеш», як його технічно називають, щоб видалити зображення зі своїх платформ.
Bing від Microsoft приєднується до Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, Pornhub та OnlyFans у партнерстві зі StopNCII і використовує свої цифрові відбитки пальців, щоб зупинити поширення deepfake-порно.
У дописі в блозі Microsoft повідомляє, що вже вжила заходів щодо 268 000 відвертих зображень у пошуці Bing у пілотному проєкті до кінця серпня з базою даних StopNCII.
Раніше вона пропонувала інструмент прямого звітування, однак повідомила, що цього недостатньо.
«Ми чули занепокоєння від потерпілих, експертів та інших зацікавлених сторін щодо того, що звіти користувачів самі по собі можуть бути недостатньо ефективними для усунення ризику того, що зображення можуть бути доступні через пошук», — йдеться у повідомленні Microsoft.
Пошук Google пропонує власні інструменти для звітування та видалення відвертих зображень із результатів пошуку, але його критикують колишні співробітники та жертви за те, що вони не співпрацюють із StopNCII.
З 2020 року користувачі Google у Південній Кореї повідомили про 170 000 пошукових запитів і посилань на YouTube для небажаного сексуального контенту.
Проблема AI deepfake nude вже широко поширена.
Інструменти StopNCII працюють лише для людей старше 18 років, але сайти «роздягання» вже створюють проблеми для старшокласників по всій країні.
У США немає закону про AI deepfake порно, щоб притягнути когось до відповідальності, тому країна покладається на комбінований підхід штатних і місцевих законів для вирішення проблеми.
Читайте також на ProIT: У США пропонують оштрафувати політтехнолога на $6 мільйонів за дзвінки зі штучно створеним голосом Байдена.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
