Внутренний облик серверных залов Colossus (GPU-кластеры). Источник: AI
Пока крупные технологические корпорации пытаются осторожно балансировать между доходностью и «нравственным» развитием искусственного интеллекта, Илон Маск (Elon Musk) действует в своем привычном стиле: масштабно, дерзко и с обязательной порцией троллинга. Его компания xAI продемонстрировала новые кадры суперкомпьютерного кластера Colossus 2 в Мемфисе, который уже успели окрестить Macrohard. Название, как нетрудно догадаться, является прямой иронической отсылкой к Microsoft, главному партнеру их конкурента OpenAI.
Железо, плавящее реальность
Первая фаза проекта, получившая название Macrohard, поражает даже опытных системных администраторов. Она включает более 330 000 графических процессоров (GPU), обеспечивающих суммарную производительность на уровне 4.4 трлн операций в секунду. Чтобы вся эта кремниевая мощность не превратилась в дорогую печку, инженеры реализовали систему жидкостного охлаждения. Это критически важно, поскольку энергопотребление объекта превышает 1 ГВт – цифра, сопоставимая с мощностью одного энергоблока атомной электростанции.
Для обеспечения стабильной работы и компенсации пиковых нагрузок, Маск интегрировал в систему 558 аккумуляторных систем Tesla Megapacks. Их общая емкость составляет 2.3 ГВтч, а стоимость только этого энергетического блока оценивается в 545 000 000$ (22 345 000 000 грн). Такая автономность позволяет системе работать бесперебойно, что критично для обучения большим языковым моделям, таким как Grok.
Macroharder: больше мощности для Grok
Но останавливаться на достигнутом Маске не собирается. Вторая фаза расширения, которую логически назвали Macroharder, подразумевает добавление еще 220 000 GPU Nvidia GB 300s. Это не просто количественное увеличение, а переход на новую архитектуру, что значительно повысит эффективность вычислений. После завершения этого этапа Colossus 2 укрепит свой статус самого мощного ИИ-суперкомпьютера в мире по объему ресурсов, выделенных для обучения нейросетям.
На фоне таких гигантских мощностей конкуренция накаляется даже там, где ее пытаются ограничить санкциями. К примеру, китайский ШИ-стартап переходит на железо Huawei, игнорируя ограничения США, чтобы не отставать в гонке вооружений нейросетей. В случае с xAI цель вполне прозрачна: сделать Grok умнее ChatGPT и Gemini, используя чистую вычислительную силу, «завернутую» в ироническое название и миллиарды долларов инвестиций.