Компанія Anthropic повідомила, що її модель штучного інтелекту Claude Opus 4.6 виявила 22 вразливості у браузері Firefox під час двотижневого дослідження, проведеного у співпраці з Mozilla. З них 14 були класифіковані як високого рівня критичності.
Більшість знайдених помилок уже виправлені у Firefox 148, реліз якого відбувся в лютому. Кілька виправлень ще не включені до поточної версії та з’являться в одному з наступних оновлень.
Під час дослідження команда Anthropic використовувала модель Claude Opus 4.6. Аналіз почали з JavaScript-рушія браузера, після чого перевірили й інші частини кодової бази. У компанії пояснили вибір Firefox тим, що це складна кодова база й один із найбільш протестованих і безпечних open-source проєктів у світі.
За словами дослідників, модель значно краще справлялася з пошуком вразливостей, ніж зі створенням програмного коду для їх експлуатації. Команда витратила приблизно $4000 у вигляді API-кредитів, намагаючись створити proof-of-concept експлойти, але успішно реалізувати їх вдалося лише у двох випадках.
В Anthropic зазначили, що цей експеримент демонструє потенціал використання ШІ для підвищення безпеки open-source проєктів. Водночас зростання доступності таких інструментів може призвести до збільшення кількості неякісних або помилкових pull-request у репозиторіях.
Інструменти на основі ШІ дедалі активніше використовуються для аудиту безпеки програмного забезпечення. Експеримент Anthropic показує, що великі мовні моделі можуть ефективно знаходити вразливості у складних open-source проєктах. Для індустрії це означає можливе пришвидшення пошуку багів, але створює нові виклики для команд, які підтримують великі репозиторії.
Раніше ми повідомляли, що Anthropic додає голосові команди для програмування у Claude Code.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
