Nvidia выпустила ИИ-чатбота, который работает на компьютере пользователя

1.jpg

Демо-версия Chat with RTX от NVIDIA - это набор программного обеспечения, который позволяет запускать на локальном компьютере пользователя личного чат-бота. Набор оптимизирован для ускорителей NVIDIA и требует видеокарту GeForce RTX из 30 или 40 серии, как минимум, с 8 ГБ видеопамяти. К другим системным требованиям относится наличие не менее 16 ГБ оперативной памяти, Windows 11 и драйвер не старше версии 535.11.

Размер архива демо-версии Chat with RTX составляет порядка 35 ГБ, но не уточняется, что именно входит в комплект. Однако, по первым отчетам в СМИ, комплект включает Python с большинством необходимых пакетов, несколько языковых моделей, оптимизированных с помощью TensorRT-LLM, и другие компоненты для локального развертывания. Chat with RTX поддерживает различные форматы файлов, включая txt, pdf, doc/docx и xml. Помимо текста, чатбот способен работать с видеороликами и документами. Например, нейросеть может сделать выжимку из ролика на YouTube, ссылку на который предоставил пользователь.

Загрузить Chat With RTX можно на сайте NVIDIA.

587 0 850 2
9
2024-02-14
Классная статья
2024-02-14
чем вторая серия не угодила. на 2070 не будет работать?
2024-02-14
Делали тензорные ядра для работы с графикой, в итоге получился чатбот.

Нужно это использовать в играх: обучаем чатбот на основе лора игры и в диалогах персонажей, чатботу можно будет задавать любые вопросы и в рамках дозволенного персонаж будет выдавать нелинейную беседу. Первый кто додумается сделать такое в играх произведёт революцию в геймдеве. Хотя что-то подобное уже делали вроде.
2024-02-14
Andrew Feoktistov (fruit_cake)Делали тензорные ядра для работы с графикой, в итоге получился чатбот.

Нужно это использовать в играх: обучаем чатбот на основе лора игры и в диалогах персонажей, чатботу можно будет задавать любые вопросы и в рамках дозволенного персонаж будет выдавать нелинейную беседу. Первый кто додумается сделать такое в играх произведёт революцию в геймдеве. Хотя что-то подобное уже делали вроде.

Не будет никакой революции. От того, что какой-то персонаж будет нести бесконечную ерунду, пусть и связную, интереснее играть не станет.
2024-02-14
Владимир СпасокукоцкийНе будет никакой революции. От того, что какой-то персонаж будет нести бесконечную ерунду, пусть и связную, интереснее играть не станет.
Насколько же узкое мышление...
2024-02-14
Andrew Feoktistov (fruit_cake) Насколько же узкое мышление...

Достаточно широкое для того, кто уже пережил с десяток таких "революций", начиная с нано-революции и заканчивая с крипто-революцией. Очередная "петрушка" в виде ИИ-революции уже не кажется такой впечатляющей.

И потом, я сижу сейчас в Западной Африке. Занесло по работе. Тут у большинства водопровода, электричества и прочих базовых штук нет, или очень ограничено. Куриные окорочка по праздникам. А ты мне тут про "узость" и "широкость" мышлений рассказываешь.
2024-02-19
Andrew Feoktistov (fruit_cake)Делали тензорные ядра для работы с графикой, в итоге получился чатбот.

Нужно это использовать в играх: обучаем чатбот на основе лора игры и в диалогах персонажей, чатботу можно будет задавать любые вопросы и в рамках дозволенного персонаж будет выдавать нелинейную беседу. Первый кто додумается сделать такое в играх произведёт революцию в геймдеве. Хотя что-то подобное уже делали вроде.

Как раз делаю такую игру: https://www.youtube.com/playlist?list=PLpw7S8AoFlm...
2024-02-19
Михаил Максимов (grifgont_01)
Как раз делаю такую игру: https://www.youtube.com/playlist?list=PLpw7S8AoFlm...
Забавно, но нужно чтобы нпс отвечали по происходящему в игре, например чтобы можно было спросить где кто живёт, где что продаёт, узнать сплетни, узнать информацию о другом нпс и т.д.
2024-02-19
Andrew Feoktistov (fruit_cake) Забавно, но нужно чтобы нпс отвечали по происходящему в игре, например чтобы можно было спросить где кто живёт, где что продаёт, узнать сплетни, узнать информацию о другом нпс и т.д.

Да, я понимаю, просто в моей игре - место действия - планета земля и можно не ограничиваться сплетнями одного Тамриэля )
RENDER.RU