Стартап Ілона Маска xAI, що відокремився від соціальної мережі X і використовує її дані для навчання нових моделей великих мов (LLM), таких як родина Grok, оголосив, що його інтерфейс прикладного програмування (API) тепер відкритий. Разом з ним до кінця року надаються безкоштовні API-кредити на $25 щомісяця. Про це повідомляє Venture Beat.
З огляду на те, що зараз вже листопад, це лише 2 місяці безкоштовних кредитів, або $50 загалом.
Раніше Маск оголосив про відкриття xAI API в бета-версії, але, ймовірно, цього було недостатньо, тому було додано стимул у вигляді безкоштовних кредитів для розробників.
Чи є $25 на місяць великим стимулом?
Можливо, це не здається значною сумою від найбагатшої людини світу, і вона не дуже велика ні на одного користувача, ні в загальному, але її може бути достатньо, щоб спонукати деяких розробників хоча б ознайомитися з інструментами та платформою xAI для створення застосунків на основі моделей Grok.
Ціна API xAI становить $5 за мільйон вхідних токенів і $15 за мільйон вихідних токенів порівняно із $2,50/$10 для моделі OpenAI GPT-4o і $3/$15 для моделі Anthropic Claude 3.5 Sonnet.
Це означає, що кредит у розмірі $25 забезпечить розробникові лише орієнтовно 2 мільйони вхідних та 1 мільйон вихідних токенів на місяць. Для довідки: 1 мільйон токенів за обсягом слів відповідає 7–8 романам.
Ліміт контексту, тобто кількість токенів, які можна ввести чи отримати за одну взаємодію через API, становить приблизно 128 тисяч, що подібно до OpenAI GPT-4o, але нижче за 200 тисяч токенів Anthropic і значно нижче за Google Gemini 1.5 Flash із його лімітом в 1 мільйон токенів.
Крім того, під час короткого тесту xAPI редакції вдалося отримати доступ лише до текстової версії grok-beta без можливостей для генерації зображень, які доступні в Grok 2 (побудований на моделі Flux.1 від Black Forest Labs).
Нові моделі Grok з’являться найближчим часом
Згідно з публікацією у блозі xAI, це лише попередній перегляд нової моделі Grok, яка перебуває на завершальній стадії розробки, а нова модель для обробки зображень Grok стане доступною наступного тижня.
Крім того, xAI зазначає, що grok-beta підтримує можливість для LLM виконувати команди користувача й отримувати доступ до функцій інших підключених застосунків і сервісів, навіть виконуючи їх від імені користувача за умови дозволу від підключеного застосунку.
Сумісність із конкурентами
Крім того, акаунт xAI у соціальній мережі X повідомив, що API xAI сумісний з SDK від OpenAI та Anthropic. Тобто наборами програмних інструментів, які використовуються розробниками цих платформ, що має полегшити заміну вказаних моделей на grok-beta чи інші на платформі xAI.
Нещодавно xAI запустила свій суперкомп'ютерний кластер Colossus зі 100 тисяч графічних процесорів NVIDIA H100 у Мемфісі (штат Теннессі), який використовується для навчання нових моделей. Це один із найбільших таких кластерів у світі, тож схоже, що система вже працює на повну потужність.
Читайте також на ProIT, хто стоїть за скандальними зображеннями ШІ Grok AI Ілона Маска.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
