OpenAI домовилася про придбання стартапу Promptfoo, який розробляє інструменти для пошуку та усунення вразливостей у системах штучного інтелекту під час їх розробки. Компанія прагне допомогти корпоративним клієнтам зменшити ризики під час використання AI-рішень.
Очікується, що OpenAI офіційно оголосить про угоду в понеділок. Технології Promptfoo інтегрують у платформу OpenAI Frontier — нещодавно запущене рішення для створення та управління AI-агентами. Умови угоди не розкриваються.
Frontier призначена для того, щоб організації могли створювати та керувати AI-агентами, яких у OpenAI називають «AI-колегами». Платформа також має контролювати доступ агентів до даних і забезпечувати наявність необхідних обмежень і політик безпеки.
OpenAI та її конкуренти активно змагаються у створенні більш автономних AI-агентів, здатних виконувати складні завдання від імені користувачів із мінімальним втручанням людини. Паралельно компанії намагаються переконати ширше коло бізнес-клієнтів оплачувати ці технології, демонструючи їхню ефективність і безпечність.
«Придбання Promptfoo демонструє чітку прихильність OpenAI до того, щоб корпоративний штучний інтелект був не лише потужним, але й безпечним та надійним у масштабі», — заявив керуючий директор Insight Partners Ганеш Белл. Саме ця інвестиційна компанія очолила раунд фінансування стартапу на $18,4 млн торік.
Promptfoo, заснований лише два роки тому, розробляє open-source інструменти для тестування безпеки AI-систем. Також компанія допомагає організаціям проводити так зване red-teaming — імітацію атак на власні продукти для пошуку потенційних вразливостей.
Стартап із Сан-Франциско вже співпрацює приблизно з чвертю компаній зі списку Fortune 500.
Promptfoo є частиною ширшої хвилі стартапів, які створюють рішення для кібербезпеки на основі штучного інтелекту. Такі продукти допомагають захищати інфраструктуру від хакерів, які також дедалі частіше використовують AI для пошуку слабких місць у мережах.
OpenAI також активно додає функції безпеки до своїх AI-продуктів. Минулого тижня компанія представила AI-агента для команд кібербезпеки, який допомагає знаходити й виправляти вразливості у великих базах даних. Подібний інструмент раніше представила компанія Anthropic.
Після інтеграції Promptfoo платформа OpenAI Frontier отримає функції автоматизованого тестування безпеки та red-teaming. Також з’являться інструменти для моніторингу змін у системах та відстеження тестування, що допоможе компаніям відповідати вимогам ризик-менеджменту та комплаєнсу.
OpenAI повідомила, що продовжить розвивати open-source інструменти Promptfoo, паралельно інтегруючи технології стартапу у платформу Frontier.
AI-агенти стають ключовим напрямком розвитку штучного інтелекту, але їх використання створює нові ризики для безпеки даних і корпоративних систем. Придбання Promptfoo показує, що великі AI-компанії починають активно інвестувати у кібербезпеку та контроль за поведінкою AI-агентів. Це може стати важливим фактором для масштабного впровадження AI у бізнесі.
Читайте на ProIT: OpenAI розширила Codex: після macOS застосунок з’явився і для Windows.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
