Облачное подразделение Amazon.com (AMZN) представило новый чип для искусственного интеллекта Trainium3, пишет Bloomberg.
Чип уже установлен в нескольких центрах обработки данных и стал доступен клиентам со 2 декабря. По словам вице-президента AWS Дэйва Брауна, к началу следующего года компания планирует быстро масштабировать производство Trainium3. Ускоритель способен выполнять интенсивные вычисления для моделей ИИ эффективнее и дешевле, чем графические процессоры конкурентов.
Trainium3 выпускается примерно через год после запуска предыдущего ускорителя, что соответствует темпам развития индустрии ИИ-чипов. Акции Amazon выросли на 1,6% до $237,71, акции Nvidia (NVDA) замедлили рост, а бумаги Advanced Micro Devices (AMD) снизились до сессионного минимума.
Самым неожиданным моментом презентации стал переход Amazon от прямой конкуренции с Nvidia Corp. (NVDA) в сегменте ИИ-чипов к более гибкой тактике сотрудничества-конкуренции («coopetition»), что можно интерпретировать как посыл – наличие вычислительных мощностей важнее, чем то на какой архитектуре они построены, считает старший аналитик Freedom Finance Global Егор Толмачев. Такая идеалогия сильно отличается от подхода той же Alphabet, Inc. (GOOGL). Сравнивать технические характеристики новых чипов Amazon просто по слайдам презентации самой компании преждевременно и рынку нужно будет время провести адекватную оценку. Акции AMZN, GOOGL, NVDA, AMD, AVGO демонстрируют слабую динамику на данные анонсы. При этом акции MRVL (партнера Amazon по разработке ИИ-чипов) на премаркете в момент растут на 9%, что в большей степени связано с отчетом компании вчера после закрытия рынка.
Пожалуй, самым интересным стратегическим ходом Amazon стало решение интегрировать проприетарную технологию интерконнекта Nvidia (NVLink Fusion) в будущие чипы Trainium4. Это позволит клиентам совместно использовать в одном дата-центре (или даже кластере) решения на базе архитектур Nvidia и Trainium, упрощая миграцию между чипами двух компаний. В первую очерь это может упростить переход клиентов на собственные чипы Amazon. Раньше AWS, как и другие участники рынка, использовала собственные сетевые протоколы (EFA/NeuronLink), изолируя свои чипы от экосистемы Nvidia.
AWS объявила об объединении линеек своих ИИ-чипов: если раньше компания развивала отдельную линейку чипов Inferentia для задач обработки запросов ИИ-моделей (inference), то теперь чипы Trainium возьмут на себя все этапы жинененного цикла ИИ-моделей.
В рамках мероприятия компания представила новые технические детали по своим чипам Trainium3, который уже используют ряд партнеров компании в своих задачах. Были заявлены впечатляющие технические характеристкии – рост производительности в 4х раза и энергоэффективности на 40% по сравнению с Trainium2.
AWS представила Trn3 UltraServer — стойку, объединяющую 144 чипа Trainium3. Это прямой ответ на решения серверные решения NVL72 от Nvidia и TPU Pods от Google. Компания также заявила о возможности масштабирования ИИ-кластеров до 1 миллиона чипов с помощью собственного сетевого оборудования Amazon и её партнеров.
Реальным доказательством работоспособности новой ИИ-архитектуры Amazon стал проект с Anthropic. Кластер «Rainier», на котором обучаются модели Claude, уже использует около 500 000 чипов Trainium2 и планирует расширение до миллиона.
AWS продолжает закупать рекордные объемы чипов Nvidia, чтобы удовлетворить спрос клиентов, но одновременно с этим агрессивно наращивает объемы своих чипов Trainium для тех, кто ищет возвомжности для оптимизации затрат и готов отойти от стандартов Nvidia.