“Chat with RTX”, el chatbot de Nvidia que es gratis y no necesita Internet

El sector de los chatbots se ha ampliado con la propuesta de Nvidia, una herramienta para personalizar un asistente conversacional impulsado por inteligencia artificial (IA) generativa que se ejecuta localmente en un ordenador Windows con gráficas GeForce RTX de la Serie 30.

MIRA: Varios usuarios devuelven su Apple Vision Pro por problemas oculares y factores relacionados con el diseño

“Chat with RTX” es una herramienta que lleva las capacidades de la IA generativa a un entorno local para personalizar el contenido de un chatbot.

Utiliza la técnica de generación de recuperación aumentada (RAG) para mejorar la precisión y la fiabilidad de los modelos de IA, pero también el software TensorRT-LLM de Nvidia y aceleración NVIDIA RTX.

Con él se puede crear un chatbot personalizado para consultas en un formato conversacional, a ejemplo de Copilot, Gemini o ChatGPT. Admite distintos formatos de texto e incluso se pueden incorporar urls de vídeos de YouTube para consultas contextuales.

MIRA: Pese a críticas, Congreso peruano busca aprobar ley que favorece a minería ilegal

El chatbot está diseñado para su uso en ordenadores Windows 10 u 11 que cumplan unas características mínimas, como tener una GPU GeForce RTX de la Serie 30 y 8GB de memoria de acceso aleatorio de vídeo (VRAM).

La ejecución en local favorece la privacidad ya que, al no depender de servicios en la nube, los usuarios pueden “procesar datos confidenciales en un PC local sin la necesidad de compartirlos con un tercero o tener una conexión a Internet”, explican desde Nvidia en su blog de noticias.