Тренды IT

Почему преимущество Nvidia в ИИ не ограничивается GPU

На этой неделе Nvidia представила финансовые результаты, которые показали инвесторам, что её конкурентное преимущество выходит далеко за рамки производства графических процессоров. Ранее считалось, что с появлением собственных чипов у Amazon и Google компания перестала быть единственным поставщиком, однако отчёт продемонстрировал, что её позиции остаются прочными.

Это захватывающая история, и в основном это правда. После роста рыночной капитализации в 10 раз в период с начала 2023 года по середину 2025 года акции Nvidia в прошлом году находились на более скромной траектории, что было вызвано опасениями по поводу конкуренции с графическими процессорами.

С тех пор, как прибыль компании в среду начала формироваться, инвесторы начинают понимать, что преимущество Nvidia выходит далеко за рамки графических процессоров. По мере того, как вычисления ИИ перерастают в гигаваттную шкалу, оркестровка становится все более сложной задачей. Неудивительно, что Nvidia создала большую часть современного оборудования, необходимого для его обработки, что дает компании огромное преимущество в системах, которые окружают GPU, даже несмотря на растущую конкуренцию на самих графических процессорах.

Несмотря на все разговоры о вычислениях как о товаре, по-прежнему невероятно сложно управлять мегамасштабным центром обработки данных с максимальной эффективностью, и по мере того, как развертывание становится все больше и быстрее, эта проблема только растет.

Читать так же:  Clipto: ИИ-поиск по видео привлек 15 млн долларов

Что такое Vera Rubin?

Вы можете увидеть некоторые из них, просто взглянув на детали того, что на самом деле продает Nvidia. В настоящее время компания внедряет свою архитектуру Vera Rubin, которая объединяет графический процессор Rubin с коллекцией других блоков, включая процессор Vera, LPX-ускоритель Groq 3 и аналогичные стойки для хранения и создания сетей.

На прошлой неделе я разговаривал с людьми из Nvidia о том, что на самом деле делают эти системы, и результаты были удивительными. Как и сам графический процессор Rubin, они являются чрезвычайно специализированными системами, но вместо того, чтобы использовать токены, они следят за тем, чтобы все, что находится за пределами графического процессора, работало максимально эффективно. Если GPU — это двигатель, то это все остальное.

«Вера важна, потому что есть только так много памяти, что вы можете разместить на одном сервере или любой компьютерной платформе», — сказал Джейсон Харди, вице-президент Nvidia по технологии хранения данных.

Почему память стала узким местом?

Поскольку центры обработки данных увеличили вычислительную мощность, емкость памяти также увеличилась, поэтому такие компании, как Micron, разбогатели во второй волне бума инфраструктуры. Но получить эти данные в GPU в нужное время не так просто, и, поскольку компании стремятся все ниже и ниже использовать токены на ватт, они понимают, насколько важно такое направление трафика.

«Мы увидели улучшение в 3 раза в этих операциях, где процессор Vera позволяет ускоряться, — сказал Харди. — Теперь мы можем использовать нашу вспышку в полной мере, потому что мы можем получить всю эту производительность без узких мест».

Вы можете увидеть версии той же проблемы за пределами Nvidia. Когда OpenAI разработала свой чип Jalapeño, основное внимание уделялось тому, чтобы полностью избежать этих проблем, сводя к минимуму количество данных, которые необходимо перемещать.

Читать так же:  Хакер вернул 3400 биткойнов, украденных у Liquid Network

«Мы разработали Jalapeño, чтобы минимизировать перемещение данных и задержки связи, — говорится в сообщении компании в начале этого месяца. — Его большой домен позволяет всей рабочей нагрузке оставаться в одной подключенной системе, минимизируя перемещение данных и помогая полному запросу оставаться быстрым и эффективным от начала до конца».

Это другой подход, позволяющий полностью избежать перемещения данных, выполняя рабочую нагрузку в одном интегрированном чипе. Но общая логика та же, повышая эффективность с более интеллектуальным управлением трафиком, а не просто с большим количеством циклов процессора. Это, в свою очередь, открывает совершенно новый уровень инфраструктуры для компаний.

Этот новый фокус на оркестровке данных не является автоматическим выигрышем для Nvidia. Компании придется конкурировать с конкурирующими производителями чипов и гипермасштаберами, как и с графическими процессорами. Но конкуренция перешла на новый уровень, где создание конкурирующего графического процессора имеет меньшее значение, чем возможность эффективно работать всей системе.

И, по крайней мере, на ранних стадиях Nvidia, похоже, будет командовать.

Вопросы и ответы

Что такое архитектура Vera Rubin от Nvidia?

Vera Rubin — это архитектура, объединяющая графический процессор Rubin с другими компонентами, включая процессор Vera, ускоритель LPX от Groq 3 и стойки для хранения и сетей. Она предназначена для повышения эффективности работы систем вокруг GPU, а не для обработки токенов.

Почему память стала узким местом в центрах обработки данных?

С ростом вычислительной мощности увеличилась потребность в памяти, но передача данных в GPU в нужное время стала сложной. Компании стремятся снизить использование токенов на ватт, поэтому важно эффективно управлять трафиком данных, чтобы избежать узких мест.

Какой подход выбрала OpenAI при разработке чипа Jalapeño?

OpenAI разработала чип Jalapeño, чтобы минимизировать перемещение данных и задержки связи. Большой домен чипа позволяет всей рабочей нагрузке оставаться в одной подключенной системе, что ускоряет выполнение запросов и повышает эффективность.

Читать так же:  Почему умные кольца становятся похожи на смартфоны?

Статьи по теме

Back to top button