Компанія NVIDIA має низку досягнень у технології ШІ, які вона презентує на виставці Computex 2024, що проходитиме цього тижня в Тайпеї (Тайвань), – від нових ноутбуків з ШІ до потужної платформи Blackwell і мережі Spectrum-X Ethernet. Ось детальний огляд усіх новин від Silicon Angle.
ШІ на ПК та в іграх
NVIDIA є піонером у застосуванні ШІ на ПК із 2018 року, коли вона представила перший споживчий графічний процесор, створений для ШІ, GeForce RTX.
Сьогодні NVIDIA є лідером у нових генеративних сценаріях використання штучного інтелекту з понад 500 програм та ігор на основі ШІ, які прискорюються графічним процесором RTX.
На Computex NVIDIA анонсувала нові ноутбуки зі штучним інтелектом GeForce RTX від таких великих виробників, як ASUS та MSI. Ці ноутбуки будуть оснащені розширеним апаратним забезпеченням ШІ та функціями Copilot, що підтримують програми й ігри з підтримкою ШІ. Вказані ноутбуки оптимізовані для аналізу штучного інтелекту, навчання, ігор, 3D-рендерінгу й обробки відео.
NVIDIA також випускає RTX AI Toolkit, щоб допомогти розробникам налаштовувати, оптимізовувати та розгортати можливості ШІ у програмах Windows. Він містить інструменти для точного налаштування попередньо навчених моделей, їх оптимізації для різного обладнання та розгортання для локального і хмарного висновків.
В ігровому секторі ШІ широко використовується для візуалізації середовищ із DLSS і покращення неігрових персонажів або NPC.
Представлення Project G-Assist допоможе розробникам створювати ШІ-помічників для ігор. G-Assist покращує ігровий досвід, надаючи відповіді з урахуванням контексту на запити в грі, відстежуючи продуктивність системи під час гри й оптимізуючи налаштування системи.
Крім того, Microsoft і NVIDIA співпрацюють, щоб дозволити розробникам створювати нативні та вебпрограми для Windows, сумісні з ШІ. Співпраця, яка буде доступна у попередній версії для розробників пізніше цього року, дозволить API отримати доступ до GPU-прискорених малих мовних моделей, або SLM, і доповненого пошуку можливостей RAG, які працюють на пристрої як частина Windows Copilot Runtime.
SLM відкривають двері для розробників Windows, які працюють над узагальненням вмісту, його генерацією, автоматизацією завдань тощо.
Прискорені обчислення: платформа Blackwell і фабрики ШІ
NVIDIA анонсувала платформу Blackwell на початку цього року, зробивши значний крок вперед у продуктивності й ефективності ШІ. Blackwell забезпечує у 1000 разів більшу продуктивність, аніж платформа Pascal, випущена 8 років тому.
Можливості ШІ NVIDIA виходять за межі вдосконалення на рівні мікросхем. Компанія продовжує впроваджувати інновації на всіх рівнях центру обробки даних, щоб покращити фабрики ШІ.
Платформа MGX від NVIDIA забезпечує модульний еталонний дизайн для прискореного обчислення в різних варіантах використання – від віддаленої візуалізації до периферійних суперкомп’ютерів.
Платформа підтримує кілька поколінь апаратного забезпечення, підтримуючи сумісність із новими архітектурами прискорення, такими як Blackwell.
Також NVIDIA анонсувала платформу GB200 NVL2, розроблену для надання генеративних можливостей ШІ в кожному центрі обробки даних. Ця платформа пропонує 40 петафлопс продуктивності штучного інтелекту, 144 ядра процесора Arm Neoverse та 1,3 терабайта швидкої пам’яті в одному вузлі.
Це значно покращує продуктивність LLM і завдань обробки даних порівняно із традиційними системами ЦП. GB200 NVL2 прискорює обробку даних до 18 разів і до 9 разів покращує продуктивність для пошукових запитів векторної бази даних.
Мережа: Spectrum-X Ethernet для AI
Spectrum-X від NVIDIA – це мережа Ethernet, спеціально розроблена для фабрик ШІ. Традиційних мереж Ethernet, оптимізованих для гіпермасштабованих хмарних центрів обробки даних, недостатньо для штучного інтелекту, тож фабрикам ШІ потрібна надійна підтримка розподілених обчислень.
Spectrum-X – це наскрізне Ethernet-рішення NVIDIA, яке оптимізує підключення GPU до GPU за допомогою мережевих інтерфейсних карт, або мережевих адаптерів, і комутаторів.
Це значно підвищує продуктивність, забезпечуючи вищу пропускну здатність, збільшену пропускну здатність усіх до всіх, кращий баланс навантаження та у 1000 разів швидшу телеметрію для оптимізації програм problems інтелекту в реальному часі.
Spectrum-X вже перебуває у виробництві й зростаюча екосистема партнерів розгортає його на фабриках ШІ та генеративних хмарах ШІ по всьому світу.
Партнери вбудовують BlueField-3 SuperNIC у свої системи та пропонують Spectrum-X як частину еталонної архітектури NVIDIA.
На Computex NVIDIA продемонструє здатність Spectrum-X підтримувати інфраструктуру ШІ та операції в різних галузях.
Корпоративні обчислення: ефективність висновків NIM
NVIDIA NIM – це набір мікросервісів, розроблених для запуску моделей ШІ для завдань логічного висновку.
Розробники можуть отримати доступ до NIM (стандартного контейнера Docker) із порталу NVIDIA або популярних репозиторіїв моделей.
Компанія планує надати розробникам безкоштовний доступ до NIM для дослідження, розробки й тестування через свою програму розробників NVIDIA. NIM інтегрується з різними інструментами та фреймворками, що робить його доступним незалежно від середовища розробки.
NIM вирішує дві основні проблеми: оптимізацію продуктивності моделі та спрощення розгортання для розробників. Він містить бібліотеки часу виконання NVIDIA для максимальної швидкості виконання моделі, пропонуючи до трьох разів вищу пропускну здатність порівняно із готовими моделями.
Це вдосконалення дає змогу ефективніше використовувати інфраструктуру штучного інтелекту, генеруючи більший результат за менший час. NIM спрощує розгортання, скорочуючи час, необхідний для налаштування й оптимізації моделей, із тижнів до хвилин.
NVIDIA пропонує безкоштовний доступ до NIM через свою програму для розробників. Ліцензії NVIDIA AI Enterprise коштують $4500 за графічний процесор на рік для корпоративного виробництва.
Промислова цифровізація: всесвіт і робототехніка
За останнє десятиліття NVIDIA розробила платформу Omniverse, яка, як стверджує компанія, досягла переломного моменту у промисловій цифровізації.
Omniverse поєднується з такими ключовими промисловими технологіями, як Siemens і Rockwell, пропонуючи такі можливості, як моделювання, генерація синтетичних даних для навчання ШІ та високоточна візуалізація.
NVIDIA використовує рішення із трьох комп’ютерів у сфері штучного інтелекту та робототехніки: суперкомп’ютер з ШІ для створення моделей у центрі обробки даних, робочий комп’ютер для обробки сенсорів у роботах у реальному часі та комп’ютер Omniverse для цифрового моделювання.
Ця установка дозволяє широкомасштабне віртуальне тестування й оптимізацію моделей ШІ та робототехнічних систем.
На Computex NVIDIA продемонструє, як провідні виробники електроніки, такі як Foxconn, Delta, Pegatron і Wistron, застосували ШІ й Omniverse для цифровізації заводів. Ці компанії використовують цифрові двійники для оптимізації макетів фабрик, тестування роботів і безпеки працівників.
NVIDIA також продемонструє, як Siemens, Intrinsic і Vention серед інших компаній використовують свою платформу Isaac для створення роботів.
Нарешті NVIDIA оголошує про доступність своєї платформи обробки датчиків Holoscan на платформі NVIDIA IGX, яка використовується провідними споживачами медичних інструментів, такими як Medtronic і Johnson & Johnson.
Очікується, що нова корпоративна підтримка IGX із Holoscan прискорить ШІ в режимі реального часу на промисловому рівні.
Читайте також на ProIT: в Україні з’явилася перша національна хмарна платформа для штучного інтелекту та машинного навчання.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
