Чип Nvidia H100 MI, возможно, сделал его кратным, превзойдя чипы Amazon и Alphabet. И похоже, что Nvidia не собирается терять его с новым сверхмощным процессором Blackwell B200.
На этой неделе Nvidia анонсировала новый графический процессор B200, который обеспечивает скорость до 20 петафлопс благодаря 208 миллиардам транзисторов. Известно, что GB200, состоящий из двух графических процессоров B200 и одного процессора Grace, обеспечивает в 30 раз более высокую производительность при запуске больших языковых моделей при сохранении более низкого энергопотребления. Каждый новый процессор может стоить от 30 000 до 40 000 долларов.
Для сравнения, для обучения модели с 1,8 триллионами параметров раньше требовалось 8000 графических процессоров Hopper и 15 мегаватт мощности, но теперь 2000 графических процессоров Blackwell могут сделать это, потребляя всего четыре мегаватта. Одним из основных улучшений является преобразовательный механизм второго поколения, который удваивает вычислительную мощность, пропускную способность и размер модели за счет использования четырех вместо восьми бит на нейрон.
Конечно, Nvidia рассчитывает, что компании закупят большие партии новых графических процессоров и будут использовать их в комплексе. Например, GB200 NVL72, объединяющий 36 процессоров и 72 графических процессора в одной стойке с жидкостным охлаждением, обеспечит общую скорость обработки 720 петафлопс. Nvidia сообщает, что Amazon, Google, Microsoft и Oracle уже планируют предлагать стойки NVL72 в своих облачных предложениях, хотя точный объем неизвестен.
