Red Hat Enterprise Linux AI спрямована на те, щоб зробити впровадження генеративних технологій штучного інтелекту легшим і дешевшим для підприємств, використовуючи набір інструментів і моделей із відкритим кодом.
Як повідомляє Network World, 3 місяці тому Red Hat заявила про свій вихід у сферу генеративного ШІ, оголосивши нове бачення Linux. Тепер це бачення стало реальністю завдяки загальнодоступності Red Hat Enterprise Linux AI.
RHEL AI — це рішення Red Hat для підприємств, яке вирішує проблеми з побудовою та розгортанням ШІ у гібридних хмарах і високі витрати на тренування та інференцію (застосування моделей).
«Підприємства шоковані цінами», — говорить Енді Турай, віцепрезидент і головний аналітик Constellation Research.
Тренування чи налаштування моделей є дорогими процесами, але й витрати на фактичне розгортання та використання моделей у виробництві можуть швидко зрости. Порівняно з цим витрати на навчання здаються незначними.
Тушар Катаркі, старший директор з управління продуктами Red Hat, повідомив, що компанія не оголошує цін і RHEL AI доступний за привабливою ціною.
Він додав, що RHEL AI може знизити витрати до 50% при схожій або навіть трохи кращій продуктивності.
На відміну від платформ ШІ із закритим кодом, таких як ChatGPT від OpenAI, RHEL AI підтримує кілька відкритих моделей, зокрема Granite від IBM, та може працювати на різних хмарах і серверах.
На момент запуску RHEL AI підтримує Granite — англомовну модель на 7 мільярдів параметрів. Інша модель, Granite для програмування на 8 мільярдів параметрів, буде доступна наприкінці цього року або на початку наступного.
Також RHEL AI постачається з Instruct Lab — відкритим проєктом, який допомагає підприємствам налаштовувати моделі Granite або інші відкриті моделі ШІ.
На додачу до всього, RHEL AI забезпечує підтримку обладнання NVIDIA. Підтримка AMD та Intel очікується протягом кількох тижнів.
Катаркі додав, що все упаковано як образ контейнера, щоб підприємства могли використовувати наявні інструменти керування контейнерами для адміністрування.
Окрім програмного забезпечення, також є підтримка і юридична компенсація як для програмного забезпечення з відкритим кодом, так і для моделі Granite.
RHEL AI дозволяє підприємствам відійти від підходу «Одна модель для всього», який є не лише дорогим, а й може зробити підприємства заручниками одного постачальника. Відкриті великі мовні моделі можуть конкурувати з комерційними за продуктивністю.
Крім того, RHEL AI підтримує власну підписку для користувачів публічних хмар, таких як AWS та IBM. Azure і GCP підтримуватимуться в четвертому кварталі.
RHEL AI не має готової підтримки для агентного ШІ, але еталонні архітектури будуть випущені найближчим часом.
«Майбутнє — це агентські робочі процеси. Майбутнє за агентними системами. Це нічим не відрізняється від підходу мікросервісів. У нас є інструменти, за допомогою яких люди можуть налаштувати його для різних випадків використання», — зазначив Катаркі.
Нещодавно Red Hat представила можливість політики як коду (policy-as-code) для платформи автоматизації Ansible. Вона обіцяє спростити застосування та виконання політик управління й відповідності.
Читайте також на ProIT: Ядро Linux 6.12 отримає додатковий QR-код під час kernel panic.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
