NVIDIA выпустила чат-бот Chat with RTX для запуска с ПК и обработки большого объема документов
14.02.24
NVIDIA выпустила раннюю версию Chat with RTX — демонстрационного приложения, предназначенного для запуска личного чат-бота с искусственным интеллектом на локальном компьютере.
Технические требования
Для запуска Chat with RTX на локальном ПК потребуется видеокарта серий RTX 30-й или 40-й с как минимум 8 ГБ видеопамяти. Установка чат-бота на компьютер с процессором Intel Core i9-14900K и видеокартой RTX 4090 занимает около 30 минут.
Размер приложения составляет около 40 ГБ, а экземпляр Python занимает около 3 ГБ оперативной памяти.
Пользователи получают доступ к Chat with RTX через браузер, в то время как командная строка работает в фоновом режиме, отображая информацию о текущей обработке и коды ошибок.
Что умеет ИИ от NVIDIA?
Этот чат-бот может обрабатывать видеоролики с YouTube и документы пользователя для создания краткого содержания и релевантных ответов на основе предоставленных данных. Эта функциональность может быть полезна для журналистов, студентов и всех, кто работает с большим объемом документов.
Например, при отправке ссылки на видео YouTube в Chat with RTX, пользователь может искать конкретные упоминания в видео или получать краткое содержание. Это также полезно для поиска нужных фрагментов в подкастах. Важно отметить, что чат-бот не сохраняет контекст, поэтому последующие вопросы не могут быть основаны на контексте предыдущих.
Chat with RTX также может сканировать PDF-файлы и извлекать необходимую информацию для пользователей. Ответы предоставляются практически мгновенно благодаря использованию ядер NVIDIA Tensor в GPU для ускорения обработки запросов.
Не пропустите интересное!
Підписывайтесь на наши каналы и читайте анонсы хай-тек новостей, тестов и обзоров в удобном формате!
Обзор смартфона Oppo A6 Pro: амбициозный
0 
Новый смартфон Oppo A6 Pro — телефон среднего уровня с функциональностью смартфонов премиум-класса. Производитель наделил его множеством характеристик, присущих более дорогим телефонам. Но не обошлось и без компромиссов. Как именно сбалансирован Oppo A6 Pro – расскажем в обзоре.
Обзор смартфона Oppo Reno16 Pro 5G: обстоятельно
0 
Oppo Reno16 Pro 5G выглядит сбалансированным смартфоном, в котором производитель постарался не делать единственную характеристику определяющей. Преимуществ у него много. Расскажем какие
Дешевле дизеля: первый электрический кемпер Volkswagen California Cruise с розеткой 2КВт и складным матрацем
Volkswagen представила ID. California Cruise — первый полностью электрический дом на колесах компании. Новинка предлагает внушительную автономность, продвинутую систему питания внешних устройств и относительно демократичную цену, обещая изменить рынок мобильных путешествий в 2027 году.
Twitter возвращается: стартап Operation Bluebird возродил легендарную соцсеть вопреки Илону Маску
Twitter возвращается под новым доменным именем Twitter.now. Стартап Operation Bluebird, возглавляемый бывшим топ-менеджером компании, перезапустил сеть, внедрив ИИ-фактчекинг на базе Gemini, что вызвало недовольство Илона Маска и юридический конфликт.