Компанія OpenAI повідомила про блокування акаунтів, пов’язаних із китайськими правоохоронними структурами, шахраями та операціями впливу, включно з кампанією дискредитації першої жінки-прем’єр-міністра Японії Sanae Takaichi. Про це йдеться у новому звіті щодо зловживань технологією ChatGPT.
За даними компанії, низка акаунтів використовувала чат-бот разом із іншими інструментами, зокрема соціальними мережами, для здійснення кіберзлочинів, маскуючись під шлюбні агентства, юридичні фірми та представників влади США.
Серед деталей, оприлюднених OpenAI:
— Невелика група акаунтів, імовірно з Китаю, запитувала через моделі OpenAI інформацію про громадян США, онлайн-форуми та розташування федеральних будівель, а також шукала поради щодо програм для підміни облич.
— Ті ж акаунти генерували англомовні листи для посадовців на рівні штатів США та аналітиків у сфері бізнесу й фінансів із запрошеннями до платних консультацій.
— OpenAI заблокувала акаунт ChatGPT, пов’язаний з особою, асоційованою з китайськими правоохоронними органами, діяльність якої включала координацію прихованої операції впливу проти прем’єр-міністра Японії.
— Кластер акаунтів використовував ChatGPT для організації дейтинг-шахрайства, націленого на чоловіків в Індонезії. За оцінкою компанії, схема могла ошукувати сотні жертв щомісяця.
— У цій схемі ChatGPT застосовували для створення рекламних текстів і оголошень для фейкового сервісу знайомств, заманюючи користувачів на платформу та змушуючи виконувати завдання з великими платежами.
— Окремі акаунти використовували моделі OpenAI, щоб видавати себе за юридичні фірми, реальних адвокатів і представників правоохоронних органів США, націлюючись на жертв шахрайства.
Звіт демонструє, що генеративні AI-системи дедалі активніше використовуються для масштабування шахрайських схем та інформаційних операцій. Мова йде не лише про створення фішингових листів, а про комплексні кампанії з використанням соціальних мереж, підроблених сервісів і персоналізованих повідомлень.
Читайте на ProIT: OpenAI остаточно відмовилась від GPT-4o на тлі переходу до GPT-5.2.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
