Компания xAI, основанная Илоном Маском, делает новый шаг в гонке за лидерство в области искусственного интеллекта. Недавно xAI анонсировала запуск Colossus– системы для обучения ИИ, оснащенной 100 000 графических процессоров Nvidia H100. Сборка этой передовой супервычислительной машины заняла всего 122 дня, что стало рекордным показателем в разработке таких масштабных проектов.

Colossus позиционируется как самый мощный кластер для обучения ИИ в мире, призванный усилить возможности крупной языковой модели Grok и конкурировать с ведущими игроками на рынке ИИ, такими как OpenAI и Google.

В основе этой системы лежат передовые модули Transformer Engine, специально оптимизированные для работы с моделями на основе архитектуры нейронных сетей Transformer, которые являются ключевыми для большинства современных языковых моделей. Расположенный в Теннесси суперкомпьютер Colossus обеспечит ускоренное обучение моделей, таких как Grok, позволяя xAI развивать более мощные версии своего ИИ.

Nvidia H100 – это новейшие чипы, разработанные для высокопроизводительных ИИ-нагрузок. Они обеспечивают выдающуюся производительность, особенно при работе с крупными языковыми моделями, которые требуют огромных вычислительных ресурсов для обучения и функционирования.       

Создание Colossus является значительным стратегическим шагом для компании xAI, которая стремится стать лидером в области искусственного интеллекта. Кластер создан для обучения новой версии языковой модели Grok-3, которую Илон Маск называет «самой мощной ИИ-системой в мире». Ожидается, что Grok-3 будет готова к декабрю 2024 года. Этот амбициозный план подчеркивает намерение xAI бросить вызов уже устоявшимся компаниям в сфере ИИ, таким как OpenAI и Google.
Маск видит в развитии Grok не только ключ к успеху xAI, но и возможный инструмент для Tesla. Некоторые эксперты считают, что эта модель ИИ может стать «мозгом» для робота-гуманоида Optimus, над разработкой которого также работает Tesla. Маск верит, что проект Optimus может принести до 1 триллиона долларов прибыли ежегодно, что делает дальнейшее развитие Colossus важным этапом не только для xAI, но и всей экосистемы его компаний.

С запуском Colossus конкуренция среди технологических гигантов в области ИИ обостряется. Microsoft, Google и Amazon также стремятся завладеть чипами серии Nvidia Hopper, что создает огромный спрос на рынке. Однако xAI удалось опередить конкурентов благодаря стратегическому партнерству с Tesla, которая уже обеспечила поставки значительного объема графических процессоров Nvidia для своих нужд. Это позволило xAI быстро собрать Colossus и выйти на передовые позиции в развитии ИИ-технологий.

Сегодня в индустрии искусственного интеллекта гонка за мощные вычислительные ресурсы является ключевым фактором успеха. Компании, обладающие доступом к таким ресурсам, имеют явное преимущество в разработке более совершенных моделей машинного обучения и ИИ. Таким образом, Colossus становится не просто инновацией, а настоящим «оружием» в борьбе за превосходство в области искусственного интеллекта.

В ближайшие месяцы xAI планирует увеличить мощности Colossus в два раза, доведя общее количество процессоров до 200 000. Это расширение включает добавление 50 000 более продвинутых чипов Nvidia серии H200, которые примерно в два раза мощнее текущих H100. Ожидается, что такое обновление укрепит позицию Colossus как крупнейшего в мире суперкомпьютера на базе графических процессоров и значительно повысит возможности xAI в обучении будущих версий Grok.

Чипы Nvidia H200 были недавно анонсированы и сразу привлекли внимание ведущих технологических компаний благодаря своим возможностям ускоренного выполнения ИИ-задач. Эти процессоры способны работать с еще более сложными моделями и обеспечивать более высокую эффективность обработки данных, что открывает новые возможности для xAI.

Запуск Colossus ознаменовал новый этап в развитии искусственного интеллекта. Благодаря своей мощности эта система способна ускорить прогресс в создании более совершенных ИИ-моделей, что окажет значительное влияние на все аспекты технологий. Маск утверждает, что Grok, обучаемая на Colossus, не просто будет помогать в решении задач, но и изменит само понимание того, что возможно в мире ИИ.

Кроме того, Colossus и другие подобные кластеры могут ускорить внедрение ИИ в самые различные сферы – от медицины до робототехники, открывая новые горизонты для автоматизации, анализа данных и повышения эффективности в различных отраслях. Как подчеркивает Маск, будущее уже наступило, и это будущее powered by xAI.       

Абдуазиз Хидиров, УзА.