Cognition уже внедрила новую платформу для рабочих нагрузок Devin, и энергоэффективность в тесте DeepSeek-R1 увеличилась в 10 раз
Облачный провайдер CoreWeave развернул в своей инфраструктуре систему Nvidia Vera Rubin NVL72, а компания Cognition стала первым клиентом, который разместил на ней производственные ИИ-нагрузки.
В задаче вывода SWE-2 платформа обеспечила до 4,8 раза большую общую пропускную способность токенов по сравнению с GB200 NVL72. В сценариях обучения с подкреплением производительность на один GPU повысилась в 3,8 раза, что позволяет Devin одновременно обрабатывать больше сессий и ускорять многошаговый вывод.
Еще более заметная разница наблюдается в энергоэффективности. В тесте DeepSeek-R1 система Vera Rubin NVL72 продемонстрировала в 10 раз большую пропускную способность токенов на мегаватт по сравнению с GB200 NVL72. Аппаратная конфигурация включает 36 процессоров Vera и 72 GPU Rubin, объединенных полностью жидкостной системой охлаждения. Модульная конструкция стоек сокращает предполагаемое время установки отдельных лотков примерно с двух часов до пяти минут.
CoreWeave также предлагает процессоры Vera отдельно от GPU. В одной стойке можно разместить до 128 таких процессоров, что в сумме дает 11 264 ядра и возможность одновременно запускать более 11 000 изолированных сред. По данным компании, запуск агентских песочниц происходит более чем в 3 раза быстрее, чем на процессорах с архитектурой x86.
Источник