Wikipedia опинилася під загрозою: шахраї постійно публікують нісенітниці, згенеровані штучним інтелектом, повідомляє TechSpot.
Нещодавно було запущено нову ініціативу під назвою WikiProject AI Cleanup. Це робоча група волонтерів, які зараз переглядають статті Wikipedia, редагуючи або видаляючи хибну інформацію. Вона, вочевидь, була опублікована людьми, які використовують генеративні ШІ.
Ільяс Леблеу, один із засновників цієї групи, розповів 404 Media, що криза почалася, коли редактори та користувачі Wikipedia почали помічати уривки, які були явно написані чат-ботами. Команда підтвердила цю теорію, відтворивши деякі з них за допомогою ChatGPT.
«Ми помітили поширення неприродного стилю письма, що явно вказувало на те, що текст був згенерований ШІ, і змогли відтворити подібний стиль за допомогою ChatGPT. Виявлення деяких загальних фраз ШІ дало нам змогу швидко визначити найбільш яскраві приклади згенерованих статей. Отримані висновки ми вирішили формалізувати в організований проєкт, щоб зібрати наші знахідки та методики», — сказав Леблеу.
Наприклад, в одній зі статей йдеться про османську фортецю Амберлісіхар, побудовану в 1400-х роках.
У статті на 2000 слів докладно описано місце розташування та будівництво цієї споруди. Проблема лише в тому, що насправді Амберлісіхар не існує, а вся інформація про неї — це повністю вигадана нісенітниця з додаванням деяких реальних фактів для надання їй правдоподібності. Команда визначила це як фальсифікацію та видалила статтю.
Проблема не обмежується лише новими статтями. Недобросовісні користувачі вносять неправдиву інформацію й у вже наявні статті. Наприклад, у матеріал про жука було додано розділ щодо вигаданого виду крабів, доповнений правильними посиланнями на джерела.
«Основні причини, які спонукають редакторів додавати контент, згенерований ШІ: самопросування, навмисне шахрайство та помилкове переконання, що згенерований контент є точним і корисним», — зазначив Леблеу.
Але є й інші причини появи фейкових матеріалів на Wikipedia. Одна з них полягає у тому, що будь-хто може бути редактором на платформі. Багато університетів не приймають студентські роботи, які містять посилання на Wikipedia саме з цієї причини.
Сучасні ШІ-застосунки також вразливі до зловживань. Це простежується на прикладі дипфейків, книг, згенерованих ШІ на Kindle, та інших витівок.
Читайте також на ProIT: 38% вебсторінок, які існували у 2013 році, більше не доступні.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
