Nvidia имеет «достаточный запас» мощностей для ИИ

Генеральный директор Nvidia Дженсен Хуанг сказал, что существует «достаточный запас» мощностей ИИ для удовлетворения потребностей клиентов до 2023 года после заявлений аналитиков об огромной нехватке поставок графических процессоров.

Генеральный директор Nvidia Дженсен Хуанг стремился заверить клиентов, что к 2023 году будет достаточно возможностей ИИ для удовлетворения их потребностей в ИИ.

«Мы будем мчаться так быстро, как только сможем, чтобы удовлетворить потребности наших клиентов в доставке, но у нас достаточно запасов на год», — сказал он журналистам во время мероприятия GTC Spring 2023 во вторник.

Комментарий был сделан в ответ на опасения, высказанные аналитиками о том, что для графических процессоров от Nvidia требуется один год с момента размещения заказа до момента его выполнения.

«Спрос на вычисления Nvidia AI значительно увеличился после ChatGPT.

К этому добавился генеративный ИИ», — сказал он журналистам в Азиатско-Тихоокеанском регионе во вторник, согласно стенограмме, предоставленной Fierce пресс-секретарем Nvidia.

Хуанг добавил: «Генеративный ИИ теперь имеет языки, изображения, видео, белки и химические вещества.

Количество отраслей, которым можно помочь с помощью ИИ, значительно выросло.

Таким образом, сочетание всех этих факторов ускорило спрос на ИИ Nvidia как для обучения, так и для логического вывода».

Во время отдельной беседы с журналистами из разных стран в среду Хуан также сообщил, что ЦП Nvidia Grace и его суперчип Grace Hopper CPU-GPU находятся в производстве.

«Кремний сейчас летает по фабрике, и системы производятся», — сказал он.

«Оба находятся в производстве и тестируются, а программное обеспечение портируется на него».

Он бросил вызов репортеру, который сказал, что оба продукта должны быть отправлены примерно сейчас, и несколько причудливо добавил: «Полегче с инженерами; были проблемы, которые привели к этой [задержке]».

Процессоры A100 и H100

Ранее на GTC Nvidia анонсировала два новых чипа для обработки логических выводов: L4 для графического процессора видео AI и H100 NVL с двумя графическими процессорами NVLink для моделей с большими языками, которые ожидаются во второй половине 2023 года.

Графический процессор H100, который составляет основу H100 NVL сейчас отправляет.

Huang также представила новейший суперкомпьютер DGX с восемью графическими процессорами H100, соединенными вместе, чтобы работать как один гигантский графический процессор.

Отдельно агентство Reuters сообщило , что Nvidia модифицировала H100 в соответствии с экспортными правилами США, чтобы производитель чипов мог продавать модифицированный H100 как H800 в Китай.

В 2022 году США обнародовали экспортные правила, запрещающие Nvidia продавать свои графические процессоры A100 и H100 китайским клиентам.

В правилах говорится, что экспорт GPU должен иметь скорость передачи данных между чипами ниже 600 Гбит/с.

На A100 Nvidia сократила пропускную способность графического процессора с 600 Гбит/с до 400 Гбит/с и переименовала его в A800 для китайского рынка. Аналогичный подход используется с H100.

Хотя вопрос о сроках получения доступа к графическим процессорам критически важен для многих клиентов, последствия могут быть разными.

В разгар пандемии некоторые автопроизводители столкнулись с тем, что сроки поставки силовых чипов превышали год, что препятствовало поставкам грузовиков и других транспортных средств.

Дилан Патель, аналитик SemiAnalysis, недавно сообщил Fierce, что в настоящее время существует «огромная нехватка графических процессоров Nvidia и сетевого оборудования от Broadcom и Nvidia из-за резкого скачка спроса.

Он сказал, что обе компании быстро набирают обороты, а время выполнения заказов по продуктам составляет один год.

Он сказал, что конкретные клиенты сообщили ему о нехватке H100 HGX, что вынуждает их ждать некоторое время, чтобы получить все, что им нужно.

По его словам, самые большие узкие места связаны с памятью с высокой пропускной способностью, сетью и CoWoS. CoWoS — это интегральная схема для высокопроизводительных вычислений, разработанная TSMC.

В начале мероприятия GTC Ян Бак, вице-президент подразделения ускоренных вычислений Nvidia, заверил Fierce, что у TSMC нет проблем с получением графических процессоров.

Как и многие компании, Nvidia не производит свои чипы, а вместо этого разрабатывает их и заключает контракты с TSMC и другими на производство чипов.

Джек Голд, аналитик J. Gold Associates, сказал, что Хуан, возможно, имел в виду, что потенциал ИИ, который нужен клиентам, может быть связан с доступом к облачным ресурсам, а не только к графическим процессорам.

Однако Nvidia не стала уточнять заявление Хуанга.