Google анонсувала нову лінійку власних AI-чипів TPU, спрямованих на підвищення швидкості, ефективності та зниження вартості обчислень у хмарі.
Нові процесори представлені у двох варіантах:
1) TPU 8t — для навчання моделей штучного інтелекту;
2) TPU 8i — для inference, тобто запуску AI-сервісів у продакшені.
Такий поділ відображає ключову трансформацію ринку: більшість навантаження поступово зміщується саме на inference, де обробляється основний обсяг запитів користувачів.
Головний акцент Google робить на ефективності. TPU 8t забезпечує на 124% більше продуктивності на ват порівняно з попереднім поколінням, тоді як TPU 8i демонструє приріст у 117%.
Чипи отримали збільшений обсяг пам’яті безпосередньо на кристалі, що дає можливість зменшити затримки та пришвидшити обробку складних AI-запитів без звернення до зовнішніх ресурсів. Це особливо критично для задач із багатокроковим reasoning.
У Google підкреслили, що ключовим фактором масштабування AI є зниження вартості одного запиту (cost per transaction), оскільки кількість обчислень стрімко зростає. Саме тому нові TPU оптимізовані не лише для швидкості, а й для економічності.
Чипи можна об’єднувати у великі системи — до 9600 процесорів — для тренування моделей, однак при цьому енергоспоживання стає головним обмеженням дата-центрів. Нове покоління TPU частково вирішує цю проблему завдяки кращій енергоефективності та вдосконаленій внутрішній мережі між чипами.
Анонс відбувається на фоні жорсткої конкуренції з NVIDIA, яка домінує на ринку AI-обчислень. Водночас Google займає гібридну позицію: компанія не лише розвиває власні TPU, а й продовжує пропонувати клієнтам інфраструктуру на базі GPU NVIDIA.
Читайте також на ProIT, що Китай переходить на власні AI-чипи.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
