Nscale, хмарний постачальник графічних процесорів, що базується в Норвегії, запустив нову платформу AI Cloud Services, побудовану на основі прискорювачів AMD MI300X.
Це сміливий виклик домінуванню компанії на ринку чипів, повідомляє NetworkWorld. Адже він прагне запропонувати клієнтам потенційно дешевшу та екологічнішу альтернативу для виконання робочих навантажень ШI у хмарі.
Для покупців хмарних сервісів і розробників моделей штучного інтелекту вибір Nscale на користь AMD може означати зміни в конкурентному середовищі.
«AMD може запропонувати перевагу за ціною перед NVIDIA. Оператори центрів обробки даних та їхні клієнти оптимізують загальну вартість, яка включає як витрати на придбання апаратного забезпечення, так і витрати на операційну енергію. А витрати на апаратне забезпечення AMD можуть бути нижчими, ніж у NVIDIA. AMD може запропонувати конкурентоспроможну або порівнянну продуктивність для висновків та обчислень, необхідних, коли навчена модель відповідає на підказку користувача», – сказав професор інженерії Університету Пенсільванії Бенджамін Лі.
Вертикальна інтеграція Nscale від модульних центрів обробки даних до високопродуктивних обчислювальних кластерів, а також використання рішень природного охолодження та недорогих відновлюваних джерел енергії потенційно можуть зекономити кошти клієнтів.
Для розробників моделей ШІ та покупців хмарних сервісів пропозиція Nscale представляє новий варіант на ринку.
Однак експерти кажуть, що прискорювачі AMD MI300X і відкрита екосистема програмного забезпечення ROCm ще не зарекомендували себе як широко прийнята альтернатива пропозиціям NVIDIA щодо продуктивності, простоти використання та підтримки розробників.
«Розробники повинні більш точно розуміти природу обчислень ШІ. Загальна обробка даних, навчання та висновки – це різні типи обчислень, які потребують різних типів обладнання на сервері центру обробки даних. Усе частіше розробники можуть використовувати один тип сервера для навчання моделі, а інший – для висновків. На додаток до пропозицій AMD розробники штучного інтелекту дедалі частіше бачитимуть, як центри обробки даних розгортають інші спеціальні чипи для висновків від Intel, Microsoft, Google, Meta й інших», – зауважив посадовець.
Коли його запитали, чим цей крок відрізняється від інших орієнтованих на штучний інтелект обчислювальних інфраструктур, наданих Azure, AWS або GCP, Лі вказав на давні зусилля AMD у створенні та популяризації програмної екосистеми ROCm.
«Популярність чипів AMD залежить від того, чи забезпечить ROCm достатню підтримку обчислень логічного висновку порівняно з альтернативами від лідерів ринку», – зазначив він.
Олів’є Бланшар, директор із досліджень The Futurum Group, назвав кілька факторів, які могли вплинути на рішення Nscale співпрацювати з AMD.
Бланшар зазначив, що графічні процесори NVIDIA, як правило, мають високу ціну. Також є нюанси із ланцюгом поставок, адже графічні процесори NVIDIA можуть поставлятися із шестимісячним відтермінуванням.
Цілком можливо, що AMD може забезпечити кращі терміни виконання робіт і менший ризик збоїв у ланцюгу поставок, вважає посадовець.
Раніше ProIT повідомляв, що новий iPad Pro може працювати на чипі M4 для інтеграції ШІ.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!