NVIDIA дополняет ПК с RTX AI локальными базовыми моделями
Компания NVIDIA на выставке CES 2025 объявила о запуске базовых моделей, предназначенных для локальной работы на ПК с искусственным интеллектом NVIDIA RTX. Это открывает новые возможности для цифровых пользователей, создания контента, повышения производительности и разработки. Этот шаг знаменует собой серьезный сдвиг, передающий возможности генеративного ИИ непосредственно в руки пользователей и укрепляющий приверженность NVIDIA к доступности ИИ.
GeForce: наследие инноваций в области искусственного интеллекта
Платформа GeForce уже давно является краеугольным камнем для разработчиков искусственного интеллекта. В 2012 году на GeForce GTX 580 была создана инновационная сеть глубокого обучения AlexNet, первая сеть глубокого обучения с графическим ускорением. Только в прошлом году более 30% опубликованных научных работ по ИИ упоминали об использовании GeForce RTX, подчеркивая ее непреходящее влияние на отрасль.
От энтузиастов к разработчикам: Новая эра доступности ИИ
С появлением ПК с генеративным ИИ и RTX-процессорами NVIDIA открывает двери для разработки ИИ для всех. Новые инструменты с низким содержанием кода и без него, такие как AnythingLLM, ComfyUI, Langflow и LM Studio, позволяют энтузиастам использовать сложные модели искусственного интеллекта с помощью интуитивно понятных графических интерфейсов пользователя.
Чтобы еще больше упростить процесс, NVIDIA представляет микросервисы NIM. Они будут легко подключаться к популярным графическим интерфейсам, обеспечивая легкий доступ и развертывание новейших моделей генеративного искусственного интеллекта. NVIDIA AI Blueprints, основанная на микросервисах NIM, предлагает предварительно настроенные рабочие процессы для различных приложений, включая создание цифровых людей и контента.
Расширение экосистемы искусственного интеллекта RTX
Чтобы удовлетворить растущий спрос, все крупные производители ПК и разработчики систем выпускают ПК с RTX AI с поддержкой NIM. Эти микросервисы также будут интегрированы в NVIDIA Project DIGITS, персональный суперкомпьютер с искусственным интеллектом, работающий на новом чипе NVIDIA GB10 Grace Blackwell Superchip. Project DIGITS, демонстрирующий невероятную производительность вычислений с использованием ИИ, позволит исследователям, специалистам по обработке данных и студентам создавать прототипы, точно настраивать и запускать большие модели ИИ.
Как сделать ИИ гибким: сила базовых моделей
Базовые модели, лежащие в основе генеративного ИИ, представляют собой нейронные сети, обученные на основе массивных наборов данных. NVIDIA планирует выпустить полный набор микросервисов NIM для ПК с RTX AI, в который войдут разработки ведущих разработчиков моделей, таких как Black Forest Labs, Meta, Mistral и Stability AI. В этой подборке будет представлен широкий спектр вариантов использования, в том числе:
- Большие языковые модели (LLM)
- Визуальные языковые модели
- Генерация изображений
- Речь
- Встраивание моделей для генерации с дополненным поиском (RAG)
- Извлечение PDF-файлов
- Компьютерное зрение
Компания NVIDIA также анонсировала семейство открытых моделей Llama Nemotron, известных своей высокой точностью при решении разнообразных агентурных задач. Модель Llama Nemotron Nano, доступная в виде микросервиса NIM для ПК и рабочих станций с RTX AI, отлично справляется с такими задачами, как выполнение инструкций, вызов функций, общение в чате, кодирование и математика.
Микросервисы NIM оптимизированы для развертывания на графических процессорах NVIDIA, обеспечивая бесперебойную работу независимо от того, работают ли они на ПК с технологией RTX, рабочих станциях или в облаке.
Упрощенная разработка и развертывание
Разработчики и энтузиасты могут быстро загрузить, настроить и запустить эти микросервисы NIM на ПК с Windows 11 с подсистемой Windows для Linux (WSL). Они будут совместимы с ведущими платформами для разработки ИИ и агентов, включая AI Toolkit для VSCode, AnythingLLM, ComfyUI, CrewAI, Flowise AI, LangChain, Langflow и LM Studio. Такая совместимость позволяет разработчикам подключать приложения и рабочие процессы к моделям искусственного интеллекта, использующим микросервисы NIM, через стандартные конечные точки, обеспечивая единый интерфейс для различных платформ.
Энтузиасты также смогут ознакомиться с целым рядом микросервисов NIM благодаря предстоящей демонстрации технологии NVIDIA ChatRTX.
Проект R2X
Чтобы продемонстрировать потенциал NIM для создания агентов и ассистентов с искусственным интеллектом, NVIDIA представила Project R2X, компьютерный аватар с поддержкой vision. Этот аватар может:
- Обеспечить мгновенный доступ к информации
- Помощь с настольными приложениями и видеоконференциями
Чтение и обобщение документов R2X визуализируется с использованием NVIDIA RTX Neural Faces, нового генеративного алгоритма искусственного интеллекта, и анимируется с помощью диффузионной модели NVIDIA Audio2Face™-3D, которая улучшает движение губ и языка. Он может подключаться к облачным сервисам искусственного интеллекта, таким как GPT4o от OpenAI и Grok от xAI, а также к микросервисам NIM и AI Blueprints, через такие платформы, как CrewAI, Flowise AI и Langflow. Пользователи могут подписаться на обновления Project R2X.
AI Blueprints: готовые к использованию рабочие процессы с использованием искусственного интеллекта для ПК
Микросервисы NIM также будут доступны через AI Blueprints — готовые к использованию рабочие процессы с использованием искусственного интеллекта, предназначенные для локального выполнения на ПК с поддержкой RTX. Эти схемы позволяют разработчикам создавать разнообразные приложения, такие как:
- Преобразование PDF в подкаст: Эта программа извлекает текст, изображения и таблицы из PDF-файла для создания редактируемого сценария подкаста. Программа может создать полную аудиозапись из сценария, используя различные голоса или даже образец голоса пользователя. Пользователи также могут общаться в режиме реального времени с ведущим подкаста ИИ, чтобы глубже разобраться в конкретных темах.
- 3D-управляемый генеративный ИИ: этот проект позволяет художникам лучше контролировать создание изображений. Используя простые 3D-объекты, размещенные в 3D-рендерере, таком как Blender, создатели могут управлять процессом создания изображений с помощью искусственного интеллекта, обеспечивая точный контроль над композицией.
Дата выхода
Микросервисы NVIDIA NIM и AI Blueprints будут доступны начиная с февраля. Готовые к работе с NIM ПК RTX AI будут доступны от ведущих производителей, включая Acer, ASUS, Dell, GIGABYTE, HP, Lenovo, MSI, Razer и Samsung, а также от различных разработчиков систем.
Это объявление знаменует собой значительный шаг вперед в донесении возможностей искусственного интеллекта до более широкой аудитории. Предоставляя возможность локального выполнения базовых моделей на ПК с RTX AI, NVIDIA открывает новую эру креативности, производительности и разработки на базе искусственного интеллекта, ограниченную только воображением пользователей и разработчиков.