Nvidia ha lanzado una demostración técnica gratuita llamada «Chat with RTX» que se ejecuta en GPU GeForce RTX. Los usuarios pueden personalizar el chat con RTX con su propio contenido y los requisitos del sistema son una máquina Windows con la serie RTX 30 o una nueva GPU con al menos 8 GB de VRAM.
Chat gratis con RTX ahora para descargar | Blog de Nvidia
https://blogs.nvidia.com/blog/chat-with-rtx-available-now/
NVIDIA lleva la IA generativa a millones de personas con GPU Tensor Core, LLM, PC RTX y herramientas para estaciones de trabajo | Sala de redacción de Nvidia
https://nvidianews.nvidia.com/news/generative-ai-rtx-pcs-and-workstations
Chat with RTX ejecuta IA desarrollada de forma nativa en su PC con Windows utilizando las tecnologías de aceleración de Retrieval-Augmented Generation (RAG), TensorRT-LLM y NVIDIA RTX. Los usuarios pueden combinar rápida y fácilmente archivos locales en sus computadoras en conjuntos de datos para modelos de lenguaje de código abierto a gran escala como Mistral y Llama 2.
Puedes ver cómo funciona Chat with RTX en la película a continuación.
RTX: cree un chatbot de IA personalizado chateando con YouTube
RTX tiene dos tipos de modelos de IA que se pueden usar con Chat: Mistral y Llama 2.
Los archivos en carpetas locales se pueden especificar como conjuntos de datos. Además de archivos de texto, también admite formatos PDF y DOC.
¿Cuál es el nombre del restaurante que Sarah recomendó?'', le pregunté a Chat with RTX, refiriéndose a archivos de texto como registros de reuniones en el conjunto de datos y el nombre del restaurante.
También puede especificar las URL de YouTube en su conjunto de datos. En la película, se ingresa la URL del video del anuncio de NVIDIA en CES 2024.
«¿Qué tipo de GPU anunció Nvidia en CES 2024?» Charlando con RTX, Nvidia anunció RTX 4080 Super, RTX 4070 Ti Super y RTX 4070 Super basados en contenido de video. .
Al utilizar Chat con RTX, puede utilizar Chat con RTX para resumir los largos minutos que tiene o extraer solo los elementos que desea buscar del contenido escrito en un archivo PDF.
Chatear con RTX requiere una GPU GeForce RTX serie 30 o posterior con al menos 8 GB de VRAM, un sistema operativo Windows 10/11 y el controlador de GPU NVIDIA versión 551.52 o posterior. Al momento de escribir este artículo, aún no se ha lanzado para Japón y se puede configurar una notificación para el inicio del lanzamiento desde abajo.
RTX | Cree un LLM personalizado usando Chat con NVIDIA
https://www.nvidia.com/ja-jp/ai-on-rtx/chat-with-rtx-generative-ai/