OpenAI домовилася про придбання стартапу Promptfoo, який розробляє інструменти для пошуку й усунення вразливостей у системах штучного інтелекту під час їх розроблення. Компанія прагне допомогти корпоративним клієнтам зменшити ризики під час використання AI-рішень.
Очікується, що OpenAI офіційно оголосить про угоду в понеділок. Технології Promptfoo інтегрують у платформу OpenAI Frontier — нещодавно запущене рішення для створення та управління AI-агентами. Умов угоди не розкривають.
Frontier призначена для того, щоб організації могли створювати та керувати AI-агентами, яких в OpenAI називають AI-колегами. Платформа також має контролювати доступ агентів до даних і забезпечувати наявність необхідних обмежень і політик безпеки.
OpenAI та її конкуренти активно змагаються у створенні більш автономних AI-агентів, здатних виконувати складні завдання від імені користувачів із мінімальним втручанням людини. Паралельно компанії намагаються переконати ширше коло бізнес-клієнтів оплачувати ці технології, демонструючи їхню ефективність і безпечність.
«Придбання Promptfoo демонструє чітку прихильність OpenAI до того, щоб корпоративний штучний інтелект був не лише потужним, а й безпечним і надійним у масштабі», — заявив керуючий директор Insight Partners Ганеш Белл. Саме ця інвестиційна компанія очолила раунд фінансування стартапу на $18,4 мільйона торік.
Promptfoo, заснований лише два роки тому, розробляє open-source інструменти для тестування безпеки AI-систем. Також компанія допомагає організаціям проводити так зване red-teaming — імітацію атак на власні продукти для пошуку потенційних вразливостей.
Стартап із Сан-Франциско вже співпрацює приблизно з чвертю компаній зі списку Fortune 500.
Promptfoo є частиною ширшої хвилі стартапів, які створюють рішення для кібербезпеки на основі штучного інтелекту. Такі продукти допомагають захищати інфраструктуру від хакерів, які також дедалі частіше використовують AI для пошуку слабких місць у мережах.
OpenAI активно додає функції безпеки до своїх AI-продуктів. Минулого тижня компанія презентувала AI-агента для команд кібербезпеки, який допомагає знаходити й виправляти вразливості у великих базах даних. Подібний інструмент раніше презентувала компанія Anthropic.
Після інтеграції Promptfoo платформа OpenAI Frontier отримає функції автоматизованого тестування безпеки та red-teaming. Також з’являться інструменти для моніторингу змін у системах і відстеження тестування, що допоможе компаніям відповідати вимогам ризик-менеджменту та комплаєнсу.
OpenAI повідомила, що продовжить розвивати open-source інструменти Promptfoo, паралельно інтегруючи технології стартапу у платформу Frontier.
AI-агенти стають основним напрямом розвитку штучного інтелекту, але їх використання створює нові ризики для безпеки даних і корпоративних систем.
Придбання Promptfoo показує, що великі AI-компанії починають активно інвестувати в кібербезпеку та контроль за поведінкою AI-агентів. Це може стати важливим фактором для масштабного впровадження AI у бізнесі.
Читайте також на ProIT, що OpenAI розширила Codex.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
