AMD, Arista, Broadcom, Cisco, Eviden, HPE, Intel, Meta і Microsoft оголосили про створення Консорціуму Ultra Ethernet (UEC) – групи, яку організував Linux Foundation і яка працюватиме над розробкою фізичних, канальних, транспортних і програмних рішень для мереж Ethernet. Про це повідомляє Network World.
Цього року галузь відзначила 50-річчя Ethernet. Основною перевагою Ethernet є його гнучкість та адаптивність, що важливо для підтримки інфраструктур ШІ. Але є занепокоєння, що сучасні традиційні мережеві з’єднання не можуть забезпечити необхідну продуктивність, масштаб і пропускну здатність, щоб відповідати вимогам ШІ, тож Консорціум прагне розв’язати ці проблеми.
«Робота з ШІ ставить високі вимоги до мереж, оскільки вона вимагає обробки значного обсягу даних та обчислень. Робочі навантаження настільки великі, що параметри розподілені між тисячами процесорів. Великі мовні моделі (LLM), такі як GPT-3, Chinchilla й PALM, а також DLRM (deep learning recommendation) and DHEN (Deep and Hierarchical Ensemble Network) навчаються на кластерах із багатьма тисячами графічних процесорів (GPU) і діляться параметрами з іншими процесорами, які беруть участь в обчисленнях», – написав генеральний директор Arista Джейшрі Уллал у своєму блозі про новий Консорціум.
Історично єдиним варіантом підключення ядер процесорів і пам’яті були мережеві інтерконектори InfiniBand, PCI Express, Remote Direct Memory Access (RDMA) через Ethernet та інші протоколи, які з’єднують обчислювальні кластери з розвантаженнями, але мають обмеження щодо вимог роботи з ШІ.
«Компанія Arista та засновники Ultra Ethernet Consortium вважають, що настав час переглянути й замінити обмеження RDMA. Традиційний RDMA, як його визначила Міжнародна асоціація InfiniBand (IBTA) десятки років тому, показує свою застарілість в умовах високонавантаженого AI/ML мережевого трафіку», – зазначив Джейшрі Уллал.
Консорціум у своїх документах заявляє, що це збільшить масштаб, стабільність і надійність мереж Ethernet разом із покращеним захистом.
«Це не про капітальний ремонт Ethernet, – зазначено в заяві Консорціуму Ultra Ethernet. – Йдеться про налаштування Ethernet для підвищення ефективності для робочих навантажень зі специфічними вимогами до продуктивності. Ми розглядаємо кожен рівень – від фізичного до рівня програмного забезпечення, щоб знайти найкращий спосіб підвищити ефективність і продуктивність у більших масштабах».
Потреба в покращенні технології підключення до штучного інтелекту зростає. Наприклад, в останньому прогнозі групи Dell’Oro щодо дата-центрів зазначається, що до 2027 року 20% портів комутаторів дата-центрів Ethernet будуть підключені до прискорених серверів для підтримки завдань ШІ.
Збільшення застосування генеративного ШІ сприятиме зростанню ринку комутаторів дата-центрів, сукупний обсяг продажів якого за наступні 5 років, за прогнозами, перевищить $100 млрд. Таку думку висловив Самех Буджельбене, віцепрезидент Dell’Oro.
Раніше ми повідомляли, як ШІ та великі мовні моделі можуть допомогти компаніям із кібербезпеки покращити свої послуги.
