Nvidia se ha sacado otro invento de la manga que para sorpresa de nadie usa la inteligencia artificial (IA) y una de las siglas de su catálogo. Se trata de Chat con RTX, un chatbot de IA personalizado para PC cuya primera versión ya se puede descargar. Los requisitos para hacer uso de esta nueva herramienta son un ordenador con Windows 11, 16 GB de RAM y una GeForce RTX de la serie 30 o 40 con como mínimo 8 GB de VRAM.
“Chat con RTX es una aplicación de demostración que te permite personalizar un modelo de lenguaje de gran tamaño (LLM) GPT conectado a tu propio contenido: documentos, notas, vídeos u otros datos”, explica Nvidia. “Al aprovechar la generación aumentada por recuperación (RAG), TensorRT-LLM y la aceleración RTX, puedes consultar un chatbot personalizado para obtener respuestas contextualmente relevantes con rapidez. Como todo se ejecuta localmente en tu PC o estación de trabajo Windows RTX, obtendrás resultados rápidos y seguros”.
Si la literatura oficial no os ha aclarado bien qué es Chat con RTX, nada mejor que un vídeo. En el que tenéis a continuación el usuario selecciona uno de los dos modelos de IA disponibles (Mistral y Llama), añade la ruta de los datos y después escribe al chatbot una pregunta cuya respuesta se encuentra en la documentación indicada. La IA responde y además lista los archivos exactos donde se encuentra la información. Al chatbot también se le pueden indicar direcciones de YouTube para que se descargue el vídeo y preguntarle sobre su contenido.
Chat con RTX trabaja de forma local haciendo uso de los núcleos Tensor de las tarjetas gráficas RTX para acelerar su trabajo, así que los datos nunca abandonan el ordenador y los resultados se muestran muy rápido. Esta herramienta es especialmente útil a la hora de buscar información o resumir el contenido de una gran cantidad de documentos (incluyendo PDF). Sin embargo, hay que tener en cuenta que se trata de una demostración que puede dar problemas o resultados erróneos y cuya interfaz es muy básica. Por ahora Chat con RTX parece más una herramienta destinada a los entusiastas y no tanto al público general.
En cualquier caso, Chat con RTX de Nvidia es una opción que los usuarios de GeForce deben tener en cuenta si quieren tener un chatbot de IA en su PC sin tener que pagar una suscripción.
“Chat con RTX es una aplicación de demostración que te permite personalizar un modelo de lenguaje de gran tamaño (LLM) GPT conectado a tu propio contenido: documentos, notas, vídeos u otros datos”, explica Nvidia. “Al aprovechar la generación aumentada por recuperación (RAG), TensorRT-LLM y la aceleración RTX, puedes consultar un chatbot personalizado para obtener respuestas contextualmente relevantes con rapidez. Como todo se ejecuta localmente en tu PC o estación de trabajo Windows RTX, obtendrás resultados rápidos y seguros”.
Si la literatura oficial no os ha aclarado bien qué es Chat con RTX, nada mejor que un vídeo. En el que tenéis a continuación el usuario selecciona uno de los dos modelos de IA disponibles (Mistral y Llama), añade la ruta de los datos y después escribe al chatbot una pregunta cuya respuesta se encuentra en la documentación indicada. La IA responde y además lista los archivos exactos donde se encuentra la información. Al chatbot también se le pueden indicar direcciones de YouTube para que se descargue el vídeo y preguntarle sobre su contenido.
Chat con RTX trabaja de forma local haciendo uso de los núcleos Tensor de las tarjetas gráficas RTX para acelerar su trabajo, así que los datos nunca abandonan el ordenador y los resultados se muestran muy rápido. Esta herramienta es especialmente útil a la hora de buscar información o resumir el contenido de una gran cantidad de documentos (incluyendo PDF). Sin embargo, hay que tener en cuenta que se trata de una demostración que puede dar problemas o resultados erróneos y cuya interfaz es muy básica. Por ahora Chat con RTX parece más una herramienta destinada a los entusiastas y no tanto al público general.
En cualquier caso, Chat con RTX de Nvidia es una opción que los usuarios de GeForce deben tener en cuenta si quieren tener un chatbot de IA en su PC sin tener que pagar una suscripción.
La duda es: la velocidad va a venir de indexación a parte del tipo de soporte del disco duro? Va a "entrenarse" según se utilice? Dónde va a quedar almacenado ese entrenamiento exactamente?
Lo del caballo de troya y trabajar gratis es de otros tiempos ;)
Muerte al algoritmo [boma] [boma] [poraki]
Si no había suficiente tontería con hacer caso a navegadores de coche que te dicen por donde conducir.....a pesar de ostiarte por malas indicaciones.
-Ahora una IA que te dirá cuando comer,cuando cagar,y con quien relacionarte.
-Solo falta que la IA te medique,y así diezman la población mundial.
-La próxima pandemia ya esta aquí.
Un mundo cada vez más "idiotizado"....pensamiento único. [buaaj]
No sé el caso de esta, pero la mayoría funcionan en todas las lenguas. Acostumbro a usar los Chat IA solo en catalán y siempre han funcionado fantásticamente.
Las mierdas estas, son el clippy 2.0, alguien se acuerda del tostón este???
(imagen)
ojala vuelva clip como IA de Windows 12
es como la historia del "Aleatorio" en los juegos ahora se llama "procedural" para que parezca mas interesante.
igualmente no deja de sorprender el nivel que ha llegado el desarrollo de estas herramientas.
(imagen)
Sin embargo poniendo fragmentos de código hasta completarlo entero, he podio hacer que me de algo funcional en base a una idea, quizás un poco rudimentaria, por así decirlo, pero funcional, darle toda la documentación "completa" de como funciona la programación de algo es complicado con las IAs actuales que tenemos disponibles los mortales de forma gratuita, como empieces a ponerla mucha documentación, empieza a centrarse en lo más reciente y a tomar por culo, por eso, si pudiera hacer que lea toda la documentación completa en X carpeta de mi ordenador, entende3ría como funciona todo y podría pedirle cualquier cosa.
De momento esto no lo veo, supongo que llegará y, por si alguien se lo pregunta, todo esto es en miras de "mods para juegos", no hay nada más profundo en mi idea [qmparto]