Новости

NVIDIA дополняет ПК с RTX AI локальными базовыми моделями

Компания NVIDIA на выставке CES 2025 объявила о запуске базовых моделей, предназначенных для локальной работы на ПК с искусственным интеллектом NVIDIA RTX. Это открывает новые возможности для цифровых пользователей, создания контента, повышения производительности и разработки. Этот шаг знаменует собой серьезный сдвиг, передающий возможности генеративного ИИ непосредственно в руки пользователей и укрепляющий приверженность NVIDIA к доступности ИИ.

GeForce: наследие инноваций в области искусственного интеллекта

Платформа GeForce уже давно является краеугольным камнем для разработчиков искусственного интеллекта. В 2012 году на GeForce GTX 580 была создана инновационная сеть глубокого обучения AlexNet, первая сеть глубокого обучения с графическим ускорением. Только в прошлом году более 30% опубликованных научных работ по ИИ упоминали об использовании GeForce RTX, подчеркивая ее непреходящее влияние на отрасль.

От энтузиастов к разработчикам: Новая эра доступности ИИ

С появлением ПК с генеративным ИИ и RTX-процессорами NVIDIA открывает двери для разработки ИИ для всех. Новые инструменты с низким содержанием кода и без него, такие как AnythingLLM, ComfyUI, Langflow и LM Studio, позволяют энтузиастам использовать сложные модели искусственного интеллекта с помощью интуитивно понятных графических интерфейсов пользователя.

Чтобы еще больше упростить процесс, NVIDIA представляет микросервисы NIM. Они будут легко подключаться к популярным графическим интерфейсам, обеспечивая легкий доступ и развертывание новейших моделей генеративного искусственного интеллекта. NVIDIA AI Blueprints, основанная на микросервисах NIM, предлагает предварительно настроенные рабочие процессы для различных приложений, включая создание цифровых людей и контента.

Расширение экосистемы искусственного интеллекта RTX

Чтобы удовлетворить растущий спрос, все крупные производители ПК и разработчики систем выпускают ПК с RTX AI с поддержкой NIM. Эти микросервисы также будут интегрированы в NVIDIA Project DIGITS, персональный суперкомпьютер с искусственным интеллектом, работающий на новом чипе NVIDIA GB10 Grace Blackwell Superchip. Project DIGITS, демонстрирующий невероятную производительность вычислений с использованием ИИ, позволит исследователям, специалистам по обработке данных и студентам создавать прототипы, точно настраивать и запускать большие модели ИИ.

Как сделать ИИ гибким: сила базовых моделей

Базовые модели, лежащие в основе генеративного ИИ, представляют собой нейронные сети, обученные на основе массивных наборов данных. NVIDIA планирует выпустить полный набор микросервисов NIM для ПК с RTX AI, в который войдут разработки ведущих разработчиков моделей, таких как Black Forest Labs, Meta, Mistral и Stability AI. В этой подборке будет представлен широкий спектр вариантов использования, в том числе:

  • Большие языковые модели (LLM)
  • Визуальные языковые модели
  • Генерация изображений
  • Речь
  • Встраивание моделей для генерации с дополненным поиском (RAG)
  • Извлечение PDF-файлов
  • Компьютерное зрение

Компания NVIDIA также анонсировала семейство открытых моделей Llama Nemotron, известных своей высокой точностью при решении разнообразных агентурных задач. Модель Llama Nemotron Nano, доступная в виде микросервиса NIM для ПК и рабочих станций с RTX AI, отлично справляется с такими задачами, как выполнение инструкций, вызов функций, общение в чате, кодирование и математика.

Микросервисы NIM оптимизированы для развертывания на графических процессорах NVIDIA, обеспечивая бесперебойную работу независимо от того, работают ли они на ПК с технологией RTX, рабочих станциях или в облаке.

Упрощенная разработка и развертывание

Разработчики и энтузиасты могут быстро загрузить, настроить и запустить эти микросервисы NIM на ПК с Windows 11 с подсистемой Windows для Linux (WSL). Они будут совместимы с ведущими платформами для разработки ИИ и агентов, включая AI Toolkit для VSCode, AnythingLLM, ComfyUI, CrewAI, Flowise AI, LangChain, Langflow и LM Studio. Такая совместимость позволяет разработчикам подключать приложения и рабочие процессы к моделям искусственного интеллекта, использующим микросервисы NIM, через стандартные конечные точки, обеспечивая единый интерфейс для различных платформ.

Энтузиасты также смогут ознакомиться с целым рядом микросервисов NIM благодаря предстоящей демонстрации технологии NVIDIA ChatRTX.

Проект R2X

Чтобы продемонстрировать потенциал NIM для создания агентов и ассистентов с искусственным интеллектом, NVIDIA представила Project R2X, компьютерный аватар с поддержкой vision. Этот аватар может:

  • Обеспечить мгновенный доступ к информации
  • Помощь с настольными приложениями и видеоконференциями

Чтение и обобщение документов R2X визуализируется с использованием NVIDIA RTX Neural Faces, нового генеративного алгоритма искусственного интеллекта, и анимируется с помощью диффузионной модели NVIDIA Audio2Face™-3D, которая улучшает движение губ и языка. Он может подключаться к облачным сервисам искусственного интеллекта, таким как GPT4o от OpenAI и Grok от xAI, а также к микросервисам NIM и AI Blueprints, через такие платформы, как CrewAI, Flowise AI и Langflow. Пользователи могут подписаться на обновления Project R2X.

AI Blueprints: готовые к использованию рабочие процессы с использованием искусственного интеллекта для ПК

Микросервисы NIM также будут доступны через AI Blueprints — готовые к использованию рабочие процессы с использованием искусственного интеллекта, предназначенные для локального выполнения на ПК с поддержкой RTX. Эти схемы позволяют разработчикам создавать разнообразные приложения, такие как:

  • Преобразование PDF в подкаст: Эта программа извлекает текст, изображения и таблицы из PDF-файла для создания редактируемого сценария подкаста. Программа может создать полную аудиозапись из сценария, используя различные голоса или даже образец голоса пользователя. Пользователи также могут общаться в режиме реального времени с ведущим подкаста ИИ, чтобы глубже разобраться в конкретных темах.
  • 3D-управляемый генеративный ИИ: этот проект позволяет художникам лучше контролировать создание изображений. Используя простые 3D-объекты, размещенные в 3D-рендерере, таком как Blender, создатели могут управлять процессом создания изображений с помощью искусственного интеллекта, обеспечивая точный контроль над композицией.
Дата выхода

Микросервисы NVIDIA NIM и AI Blueprints будут доступны начиная с февраля. Готовые к работе с NIM ПК RTX AI будут доступны от ведущих производителей, включая Acer, ASUS, Dell, GIGABYTE, HP, Lenovo, MSI, Razer и Samsung, а также от различных разработчиков систем.

Это объявление знаменует собой значительный шаг вперед в донесении возможностей искусственного интеллекта до более широкой аудитории. Предоставляя возможность локального выполнения базовых моделей на ПК с RTX AI, NVIDIA открывает новую эру креативности, производительности и разработки на базе искусственного интеллекта, ограниченную только воображением пользователей и разработчиков.

ПУБЛИКАЦИИ ПО ТЕМЕ

Back to top button