Представлен графический процессор Nvidia Rubin CPX для работы с длинными контекстами ИИ
Представленный графический процессор Rubin CPX способен поддерживать до 1 млн токенов одновременно, что значительно превосходит возможности современных решений. Благодаря этому ИИ сможет эффективно справляться с такими задачами, как обработка большого объема медицинских записей, юридических документов или обширных программных проектов целиком.
Особенности и преимущества Rubin CPX:
- Особенности и преимущества Rubin CPX
- Монолитная конструкция кристалла с 128 Гб встроенной памяти GDDR7, обеспечивающая высокую пропускную способность.
- Производительность до 30 ПФлопс в операциях NVFP4, что гарантирует быстрое выполнение ресурсоемких задач.
- Интеграция четырех блоков NVENC и NVDEC для ускорения обработки видео.
- Увеличенная в три раза производительность расчётов «механизма внимания» по сравнению с предыдущими поколениями, что способствует лучшему пониманию сложного содержимого текстом.
Nvidia применяет новую технологию дезагрегационного вывода ("disaggregated inference"), согласно которой разные этапы обработки распределяются между несколькими графическими процессорами. Такая архитектура ускоряет процесс обработки и снижает задержку, делая решение оптимальным для крупных корпоративных клиентов и специализированных облачных сервисов.
Серверные системы, построенные на новых компонентах, обеспечат общую производительность около 8 Эфлопс, что откроет новые горизонты для исследований и внедрения инноваций в областях медицины, юриспруденции, науки и бизнеса. Предварительные испытания Rubin начались недавно, а первые поставки новинки ожидаются в конце 2026 года. Новая технология обещает стать важнейшим инструментом для компаний, стремящихся внедрить продвинутые технологии искусственного интеллекта в свою деятельность.
Таким образом, появление Rubin CPX знаменует начало новой эры в развитии мощных ИИ-решений, способных обеспечить беспрецедентную точность и производительность при работе с крупными объемами данных.