Компанія Red Hat, гігант у сфері відкритого ПЗ і власність IBM, оголосила про завершення придбання Neural Magic — новаторського стартапу в сфері оптимізації штучного інтелекту. Угоду, яку анонсували торік у листопаді, закрили 13 січня 2025 року. Це свідчить про серйозні наміри Red Hat розширити свої можливості у сфері ШІ для гібридних хмарних середовищ, повідомляє ZDNET.
Ціну угоди не розкривають, однак Neural Magic раніше залучила 50 мільйонів доларів венчурних інвестицій від Andreessen Horowitz, New Enterprise Associates, Amdocs та Comcast Ventures.
Зауважимо, що Браян Стівенс, колишній технічний директор і виконавчий віцепрезидент Red Hat, став CEO Neural Magic перед завершенням угоди, що, безумовно, могло вплинути на успішність переговорів.
Коли про злиття оголосили вперше, Стівенс зазначив:
«У Neural Magic ми віримо, що майбутнє ШІ — відкрите. Ми прагнули надати підприємствам потужні інноваційні можливості й водночас позбавити їх обмежень. В основі цього лежать відкриті моделі, алгоритми оптимізації та системи для інференсу. Це дає змогу компаніям самостійно володіти своїми ШІ-моделями, приватно налаштовувати їх під власні набори даних і розгортати на приватній інфраструктурі із різними постачальниками — у хмарі, дата-центрі чи на периферії».
Neural Magic — це відгалуження (спіноф) із Массачусетського технологічного інституту, засноване у 2018 році. Компанія розробила інноваційне програмне забезпечення й алгоритми, що прискорюють роботу генеративних ШІ-моделей на етапі інференсу.
Їхня технологія дає змогу складним моделям ШІ ефективно працювати на базових обчислювальних потужностях (стандартні CPU та GPU), що скорочує потребу в дорогих спеціалізованих прискорювачах ШІ.
Які технології Neural Magic отримає Red Hat унаслідок придбання:
- vLLM Expertise. Neural Magic є провідним контриб’ютором до vLLM — проєкту з відкритим кодом для ефективної роботи великих мовних моделей (LLM). Зокрема, vLLM вже використовують як рушій інференсу в RHEL AI та OpenShift AI.
- DeepSparse. Це середовище для запуску інференсу, яке дає GPU-подібну продуктивність на звичайних процесорах завдяки зменшенню обчислень і пам’яті для нейронних мереж. Окрім LLM, DeepSparse застосовний у завданнях Computer Vision (CV) і Natural Language Processing (NLP).
- SparseZoo. Репозиторій попередньо оптимізованих моделей (CV, NLP та LLM), придатних для DeepSparse.
- Методи стискання моделей. Neural Magic розробила просунуті методи квантизації та розрідження (sparsification), які зменшують розмір і потребу в обчисленнях без значної втрати точності.
- Кросплатформна оптимізація. Технологія Neural Magic дає змогу налаштовувати моделі ШІ для розгортання в різних середовищах (хмара, дата-центр, периферія).
Ці рішення резонують із баченням Red Hat робити ШІ-застосунки доступнішими, ефективнішими й розгортати їх у гібридних хмарних середовищах без необхідності купувати дороге спеціалізоване «залізо». По суті, Neural Magic допомагає здешевити ШІ, а в основу їхнього підходу покладено принципи відкритого коду.
Генеральний директор Red Hat, Метт Гікс зазначив:
«Ми в @RedHat віримо, що майбутнє ШІ — відкрите. Тому я дуже радий нашому придбанню @NeuralMagic. Разом ми ще більше підсилюємо нашу прихильність до клієнтів та опенсорс-спільноти, щоб уже сьогодні робити внесок у майбутнє ШІ».
Зі стратегічного погляду Red Hat сподівається, що технології Neural Magic зміцнять позиції компанії щодо розгортання ШІ-навантажень у різних середовищах (on-premises, хмарні платформи) та підвищать ефективність наявних AI-рішень на базі RHEL AI, OpenShift AI та InstructLab (відкритий проєкт Red Hat та IBM для поліпшення ліцензованих IBM Granite LLM).
Аналітик IDC Дейв МакКарті, віцепрезидент із досліджень у сфері хмарних і периферійних сервісів, вважає, що придбання Neural Magic є продуманим кроком, який посилює здатність Red Hat розгортати ШІ у гібридних хмарах, використовуючи досвід Neural Magic в оптимізації моделей і прискоренні інференсу.
Читайте також на ProIT: Red Hat пропонує оптимізовану для ШІ платформу Linux.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
