Компания Microsoft недавно анонсировала Maia 200 — новый ускоритель искусственного интеллекта, специально разработанный для задач логического вывода. По словам представителей Redmond, Maia 200 может обеспечить «значительное» улучшение работы приложений на основе ИИ и уже развёрнута в некоторых центрах обработки данных в США на платформе Azure.
Компания подчеркнула впечатляющие характеристики чипа: Maia 200 создан по 3-нм техпроцессу TSMC, оснащён собственными тензорными ядрами FP8/FP4, новой системой памяти с 216 ГБ видеопамяти HBM3e и массивным встроенным кэшем SRAM объёмом 272 МБ. Microsoft утверждает, что Maia 200 обеспечивает самую высокую производительность среди всех специализированных чипов, используемых другими гиперскейлерами.
Сообщается, что этот чип в три раза мощнее Trainium третьего поколения от Amazon при 4-битной точности (FP4) и превосходит TPU седьмого поколения от Google при 8-битной точности (FP8). Он также более эффективен и обеспечивает на 30 % более высокую производительность на доллар по сравнению с предыдущим ускорителем Microsoft, Maia 100.
В настоящее время Maia 200 развернута в американском центре обработки данных Microsoft в Айове. Ожидается, что в ближайшее время будут подключены и другие регионы. Чип легко интегрируется с облачной платформой Azure, а также используется для создания «синтетических» данных для обучения моделей ИИ следующего поколения.
Обеспокоенные потенциальными эффектами обратной связи, крупные корпорации изучают альтернативные потоки данных, поскольку ожидают, что контент, созданный людьми, в конечном счёте будет полностью поглощён большими языковыми моделями и другими инструментами машинного обучения.
Microsoft подтверждает, что Maia 200 — это мощный чип, содержащий более 140 миллиардов транзисторов и рассчитанный на тепловыделение 750 Вт. Его производительность составляет более 10 петафлопс в формате FP4 и более 5 петафлопс в формате FP8. Система на кристалле способна запускать самые мощные на сегодняшний день модели искусственного интеллекта и была разработана для поддержки ещё более крупных моделей в будущем.
Чип также оснащён новой сетевой архитектурой для передачи больших объёмов данных. Решение, основанное на стандартной технологии Ethernet, включает в себя специальный транспортный уровень и встроенную сетевую карту для повышения производительности и надёжности. На практике сетевой интерфейс в каждой однокристальной системе Maia 200 может обеспечивать двунаправленную пропускную способность до 2,8 ТБ/с.
Наконец, Microsoft приглашает разработчиков и стартапы в сфере ИИ зарегистрироваться для получения официального комплекта для разработки программного обеспечения Maia 200, как только он станет доступен. Комплект включает в себя компилятор, поддержку PyTorch, инструменты для низкоуровневого программирования, симулятор Maia и многое другое.