Nvidia lanza Chat con RTX, un chatbot de IA personalizado que se ejecuta en el PC

Nvidia se ha sacado otro invento de la manga que para sorpresa de nadie usa la inteligencia artificial (IA) y una de las siglas de su catálogo. Se trata de Chat con RTX, un chatbot de IA personalizado para PC cuya primera versión ya se puede descargar. Los requisitos para hacer uso de esta nueva herramienta son un ordenador con Windows 11, 16 GB de RAM y una GeForce RTX de la serie 30 o 40 con como mínimo 8 GB de VRAM.

“Chat con RTX es una aplicación de demostración que te permite personalizar un modelo de lenguaje de gran tamaño (LLM) GPT conectado a tu propio contenido: documentos, notas, vídeos u otros datos”, explica Nvidia. “Al aprovechar la generación aumentada por recuperación (RAG), TensorRT-LLM y la aceleración RTX, puedes consultar un chatbot personalizado para obtener respuestas contextualmente relevantes con rapidez. Como todo se ejecuta localmente en tu PC o estación de trabajo Windows RTX, obtendrás resultados rápidos y seguros”.

Si la literatura oficial no os ha aclarado bien qué es Chat con RTX, nada mejor que un vídeo. En el que tenéis a continuación el usuario selecciona uno de los dos modelos de IA disponibles (Mistral y Llama), añade la ruta de los datos y después escribe al chatbot una pregunta cuya respuesta se encuentra en la documentación indicada. La IA responde y además lista los archivos exactos donde se encuentra la información. Al chatbot también se le pueden indicar direcciones de YouTube para que se descargue el vídeo y preguntarle sobre su contenido.


Chat con RTX trabaja de forma local haciendo uso de los núcleos Tensor de las tarjetas gráficas RTX para acelerar su trabajo, así que los datos nunca abandonan el ordenador y los resultados se muestran muy rápido. Esta herramienta es especialmente útil a la hora de buscar información o resumir el contenido de una gran cantidad de documentos (incluyendo PDF). Sin embargo, hay que tener en cuenta que se trata de una demostración que puede dar problemas o resultados erróneos y cuya interfaz es muy básica. Por ahora Chat con RTX parece más una herramienta destinada a los entusiastas y no tanto al público general.

En cualquier caso, Chat con RTX de Nvidia es una opción que los usuarios de GeForce deben tener en cuenta si quieren tener un chatbot de IA en su PC sin tener que pagar una suscripción.

Fuente: Nvidia
Pues me parece más interesante que otras tantas cosas presuntamente más avanzadas.

La duda es: la velocidad va a venir de indexación a parte del tipo de soporte del disco duro? Va a "entrenarse" según se utilice? Dónde va a quedar almacenado ese entrenamiento exactamente?
No gracias, aparte que estoy en win10 sin ningun atisbo de moverme a corto o medio plazo ... [bye]
Lo del caballo de troya y trabajar gratis es de otros tiempos ;)

Muerte al algoritmo [boma] [boma] [poraki]
-Otra "enciclopedia" robotizada.
Si no había suficiente tontería con hacer caso a navegadores de coche que te dicen por donde conducir.....a pesar de ostiarte por malas indicaciones.

-Ahora una IA que te dirá cuando comer,cuando cagar,y con quien relacionarte.

-Solo falta que la IA te medique,y así diezman la población mundial.

-La próxima pandemia ya esta aquí.

Un mundo cada vez más "idiotizado"....pensamiento único. [buaaj]
en ingles solo me imagino
Yuluga escribió:en ingles solo me imagino


No sé el caso de esta, pero la mayoría funcionan en todas las lenguas. Acostumbro a usar los Chat IA solo en catalán y siempre han funcionado fantásticamente.
Vamos el autogpt que se lleva pudiendo instalar en pc más de un año, pero de Nvidia...

Las mierdas estas, son el clippy 2.0, alguien se acuerda del tostón este???

Imagen
LepucK escribió:Vamos el autogpt que se lleva pudiendo instalar en pc más de un año, pero de Nvidia...

Las mierdas estas, son el clippy 2.0, alguien se acuerda del tostón este???

Imagen

ojala vuelva clip como IA de Windows 12
mi pregunta es cuando pasarán de moda esto de las IA. antes lo llamabamos programas, luego se llamaban apps... y ahora IA..

es como la historia del "Aleatorio" en los juegos ahora se llama "procedural" para que parezca mas interesante.

igualmente no deja de sorprender el nivel que ha llegado el desarrollo de estas herramientas.

Imagen
Casi casi, yo quiero que el chat IA sea capaz de leer archivos con documentación sobre la programación que hace que funcione X programa o juego, y una vez entienda como funciona, poder pedirla que haga modificaciones en base a mis peticiones, esto todavía no se puede porque ningún chat IA actual tiene acceso a los archivos de tu ordenador, lo que limita al máximo toda esta idea XD

Sin embargo poniendo fragmentos de código hasta completarlo entero, he podio hacer que me de algo funcional en base a una idea, quizás un poco rudimentaria, por así decirlo, pero funcional, darle toda la documentación "completa" de como funciona la programación de algo es complicado con las IAs actuales que tenemos disponibles los mortales de forma gratuita, como empieces a ponerla mucha documentación, empieza a centrarse en lo más reciente y a tomar por culo, por eso, si pudiera hacer que lea toda la documentación completa en X carpeta de mi ordenador, entende3ría como funciona todo y podría pedirle cualquier cosa.

De momento esto no lo veo, supongo que llegará y, por si alguien se lo pregunta, todo esto es en miras de "mods para juegos", no hay nada más profundo en mi idea [qmparto]
Otra inteligencia artificial estúpida.
Aún recuerdo trabajar en empresas de desarrollo y los dev copiando el código generado por chatgpt sin siquiera leerlo ni entenderlo. Menos mal que he vuelto al mundo industrial sin tanta gilipollez de IAs
Nos quieren meter IAs hasta en la sopa.
SUGUSAPPLE escribió:-Otra "enciclopedia" robotizada.
Si no había suficiente tontería con hacer caso a navegadores de coche que te dicen por donde conducir.....a pesar de ostiarte por malas indicaciones.

-Ahora una IA que te dirá cuando comer,cuando cagar,y con quien relacionarte.

-Solo falta que la IA te medique,y así diezman la población mundial.

-La próxima pandemia ya esta aquí.

Un mundo cada vez más "idiotizado"....pensamiento único. [buaaj]

Yo creo que el argumento que tienes es más idiotizado de lo que piensas, todo lo contrario a lo que es realmente.

Tener un asistente médico en casa puede servirte, por poner un ejemplo, para hacer un mapa de las manchas que tienes en la piel y decirte si alguna tiene alguna pinta peligrosa, si ha habido algún cambio de un año a otro, entre otras muchas historias, lo cual no quiere decir que sustituya al médico, simplemente es un añadido más a la vida, es como tener un médico en casa, con sus limitaciones.

@nxname ¿Por qué van a pasar de moda si van a cambiar el mundo y ya lo están haciendo? ¿Existía antes la clonación de voz? ¿Existía antes la separación de pistas de una canción a partir de la pista maestra sin tener un proyecto completo?

Creo que algunos pecáis de viejos, con todo el respeto, asqueados con los cambios del futuro, suele pasar con la gente cuando se hace mayor.


@LepucK lo de clippy lo he comentado varias veces, que windows debería introducir un asistente de IA, que puedas abrir las cosas con la voz "ábreme tal juego", "ábreme paint", que también puedas pedirle que revise los voltajes de la placa, las temperaturas y las frecuencias para que haga diagnósticos, etc...
katatsumuri escribió:@nxname ¿Por qué van a pasar de moda si van a cambiar el mundo y ya lo están haciendo? ¿Existía antes la clonación de voz? ¿Existía antes la separación de pistas de una canción a partir de la pista maestra sin tener un proyecto completo?

Creo que algunos pecáis de viejos, con todo el respeto, asqueados con los cambios del futuro, suele pasar con la gente cuando se hace mayor.
.


lo que digo es que ahora a todo le dicen IA, y cuando pase de moda lo llamaran de otra manera..

ahora mismo cualquiera que desarrolle un programa que calcule estadisticas, separe musica o haga cualquier cosa lo definen como una IA.

de que hay avances los hay, pero el poder marketing es increible. aun estamos muy lejos de lo que es una inteligencia artificial real.
nxname escribió:
katatsumuri escribió:@nxname ¿Por qué van a pasar de moda si van a cambiar el mundo y ya lo están haciendo? ¿Existía antes la clonación de voz? ¿Existía antes la separación de pistas de una canción a partir de la pista maestra sin tener un proyecto completo?

Creo que algunos pecáis de viejos, con todo el respeto, asqueados con los cambios del futuro, suele pasar con la gente cuando se hace mayor.
.


lo que digo es que ahora a todo le dicen IA, y cuando pase de moda lo llamaran de otra manera..

ahora mismo cualquiera que desarrolle un programa que calcule estadisticas, separe musica o haga cualquier cosa lo definen como una IA.

de que hay avances los hay, pero el poder marketing es increible. aun estamos muy lejos de lo que es una inteligencia artificial real.

Creo que confundes matices, piensas que una inteligencia artificial tiene que tener conciencia, que tiene que ser una inteligencia artificial fuerte, y no es así https://es.wikipedia.org/wiki/Inteligen ... ial_fuerte

Existe la inteligencia artificial débil https://es.wikipedia.org/wiki/Inteligen ... d%C3%A9bil que es de la que se habla actualmente de forma común.

Y si, la gente no va diciendo "inteligencia artificial débil o fuerte" y otros conceptos de las IAs porque la gente normal tiende a simplificar las cosas del mundo mundano porque están a otras cosas.
¿Hay algo que ofrezca que no ofrezca otros sistemas como oobabooga? Los dos modelos soportados ya los llevaba tiempo usando
Usando llama o Mistral no deja de ser un gestor de LLMs como LM Studio.

Que Nvidia esté haciendo esto estoy convencido que no es para competir con ese tipo de backends ni para intentar agrupar miradas, sino en preparación para los agentes que empiezan a venir este año (con mas prisas aun desde el boom de Rabbit R1).

Viendo los comentarios me sorprende que en 2024 todavia la gente se piense que la IA es tonteria o marketing.
Sin ir mas lejos en realidad la IA es uno de los mayores inventos de la humanidad y se pronostica que sea el último.
Y no por sensacionalismo de skynet ni nada por el estilo, sino porque los inventos y la investigación dejarán de hacerlo los humanos (progresivamente).

@katatsumuri Buen ejemplo el de las manchas de piel, cuando ahora mismo los expertos en dermatologia no pueden competir con la capacidad de las IA de detectar melanomas.
Lo mismo está pasando ya con la radiologia ademas de forma inesperada por simplemente darle visión a chatgpt (lo que automáticamente lo volvió en top mundial de radiologia por lo mismo, son capaces de diferenciar sutilezas que directamente una persona no puede).

Llevamos décadas buscando materiales útiles para la ciencia, una IA de Google asi de "jajás" descubre mas de 2 millones de materiales nuevos (para sintetizar) que quimicamente se están corroborando como reales.

La robótica en 1-2 años está evolucionando mas que en toda la historia tecnologica.

En genética, sintetizacion de proteinas, y en general campos de datos masivos complejos están arrollando como si fuesemos moscas en comparacion.
Los que hablais criticando la IA no os haceis ni la menor idea del cambio histórico que está por suceder.

Pero en realidad podeis reflexionarlo sin necesidad de creerme ni de documentaros de manera muy sencilla.
Imiaginar una cabeza robotica que solo habla. Pero es capaz de dar respuesta correcta a cualquier cosa que le preguntes.
Todo el conocimiento de toda la historia de la humanidad concentrado en una sola entidad la convierte de forma indebatible en una entidad superior que puede sacar conclusiones que ni podemos comprender.

Como funciona el avance humano? Con especializacion, equipos de especialistas en materias. Las personas dan para lo que dan y dedican su vida a una materia (y yo soy programador que se como funcionan internamente las IA, que no lo digo desde otro campo), pero cada dia los problemas/retos son mas complejos y se requieren equipos de expertos de varios temas.
Eso, que es la unica solución de avanzar, tiene probelmas inesquivables como la coordinacion, necesidad de enseñar bases de un campo a un experto de otro para poder cooperar en un mismo proyecto, diferencias de opinion por diferencias de conocimiento y sesgos etc.

Ahora de nuevo hablemos de una entidad que puede afrontar un problema con absolutamente todo el conocimiento de toda la historia en el mismo ente.
No hace falta que sea listo, ni que tenga conciencia ni se considere con derechos ni nada de eso. Simplemente razonar (cosa que ya puede hacer chatgpt) para coger esa información concentrada y dar respuesta a un problema es algo que se escapa de nuestra liga por y para siempre, y por eso se dice que la IA sea probablemente el ultimo gran invento humano.
Primero porque todos los demas llegaran por apoyo de IA, y despues proque serán autoria exclusiva de las IA.

Este año con los agentes de IA y la IA de autoprendizaje se va a poner todo más aun patas arriba y de verdad que ni os imaginais lo que va a suponer esto en todos los campos incluyendo la sociedad
Riwer escribió:Viendo los comentarios me sorprende que en 2024 todavia la gente se piense que la IA es tonteria o marketing.
Sin ir mas lejos en realidad la IA es uno de los mayores inventos de la humanidad y se pronostica que sea el último.
Y no por sensacionalismo de skynet ni nada por el estilo, sino porque los inventos y la investigación dejarán de hacerlo los humanos (progresivamente).

Estoy de acuerdo en todo lo que dices, incluso se han encontrado nuevos posibles antibióticos con nuevos cambios moleculares, cuando es un problema de salud a nivel mundial.

Por otra parte no creo que la investigación la dejen de hacer los humanos, a no ser que las IAs robotizadas decidan aniquilarnos algún día, que lo veo muy lejano, quiero decir, la mano del humano siempre estará detrás de las creaciones, pues las IAs han sido creadas para cubrir las necesidades de los humanos, para facilitarnos la vida, harán cosas en función de nuestras necesidades.
davoker escribió:Casi casi, yo quiero que el chat IA sea capaz de leer archivos con documentación sobre la programación que hace que funcione X programa o juego, y una vez entienda como funciona, poder pedirla que haga modificaciones en base a mis peticiones, esto todavía no se puede porque ningún chat IA actual tiene acceso a los archivos de tu ordenador, lo que limita al máximo toda esta idea XD


Copilot o ChatGPT4 programan perfectamente. Puedes hacer programas en cualquier lenguaje, o pasarle codigo y que te explique que es lo que hace ese codigo, y despues que te haga las modificaciones que quieras y te devuelva el codigo.
Si hay una API concreta que quieras usar, y por lo que sea no te esta dando las respuestas correctas, puedes crear un asistente GPT personalizado y subirle los archivos de la documentacion y listo.

Se puede hacer "magia" con los asistentes GPT
katatsumuri escribió:
Riwer escribió:Viendo los comentarios me sorprende que en 2024 todavia la gente se piense que la IA es tonteria o marketing.
Sin ir mas lejos en realidad la IA es uno de los mayores inventos de la humanidad y se pronostica que sea el último.
Y no por sensacionalismo de skynet ni nada por el estilo, sino porque los inventos y la investigación dejarán de hacerlo los humanos (progresivamente).

Estoy de acuerdo en todo lo que dices, incluso se han encontrado nuevos posibles antibióticos con nuevos cambios moleculares, cuando es un problema de salud a nivel mundial.

Por otra parte no creo que la investigación la dejen de hacer los humanos, a no ser que las IAs robotizadas decidan aniquilarnos algún día, que lo veo muy lejano, quiero decir, la mano del humano siempre estará detrás de las creaciones, pues las IAs han sido creadas para cubrir las necesidades de los humanos, para facilitarnos la vida, harán cosas en función de nuestras necesidades.


Yo no creo en ese futuro distópico que se dice por alarmismo.
Pero el problema de la investigación es el mismo que está ocurriendo con los puestos de trabajo ya sustituibles.
Que nos hace prescindibles.

Para qué tener personas investigando cuando una IA lo hace más rapido y mejor?

Es como los sistemas de autoaprendizaje desantendido como Nvidia Eureka.
Ni siquiera hay intervención humana. Es un bucle donde en una simulación se le enseña "algo a algo" (lo que quieres a lo que quieras) de una forma determinada.
Forma que produce un exito o un fracaso. Si produce un fracaso (100% asegurado en las primeras iteraciones), el output pasa a un LLM como el propio GPT4 que corrige el codigo y las recompensas y envia otra alternativa a la simulación. Eso funcionando de forma desatendida hace que exista una simulación de autoaprendizaje que, al igual que la investigación en el mundo real, es un camino lineal del fracaso al exito.

Luego suma que se puede (y se hace) el acelerar el tiempo en las simulaciones.
Nvidia con el mismo sistema puso a los modelos 3D suyos a aprender a andar, correr, atacar, esquivar, etc con moviento real y gravedad con 10 años de entrenamiento en 10 días humanos.
Poco mas de una semana donde una persona tiene que tener su fin de semana y su ocio ya sea por propia salud mental.

Y que Nvidia entrene a una mano robotica a solucionar cubos de rubik o a hacer "pen spinning" con altisima destreza como esto:
Imagen

No cambia que aplica a absolutamente cualquier cosa y campo.
La IA de autoaprendizaje no va a necesitar investigadores humanos, sino revisores humanos.
La investigación en si misma vamos a tener que relegarla a la fuerza a la IA precisamente para que el sector empresarial siga siendo competitivo. (tambien por eso se dice que le espera un futuro bien negro a las empresas que se queden descolgadas de la IA)

@davoker En realidad si puede tener acceso a tus scripts locales, llevo haciendolo tiempo con Codeium xD
Riwer escribió:@davoker En realidad si puede tener acceso a tus scripts locales, llevo haciendolo tiempo con Codeium xD

Y en realidad puedes hacer lo que quieras si te pones a programar. Porque desde que a los asistentes GPT de OpenAI les han puesto la opcion de ejecutar funciones, entre otros en formato JSON, puedes programar una interfaz y con python acceder e interactuar con cualquier tipo de contenido externo... bases de datos, archivos, otras APIs... el limite esta en la imaginacion.
Pues os vais a reír, pero una LLM local es algo muy demandado en según qué sectores. Al final con las de la nube va la cosa muy rápida y fantástica, pero estás enviando datos que en según qué caso son sensibles a una entidad que desconoces qué hace con ellos (y que probablemente entrene con ellos, de hecho).

Así que yo veo esto cojonudo [beer]
Pues me alegro, pero no lo quiero ni lo necesito para nada.
Riwer escribió:Usando llama o Mistral no deja de ser un gestor de LLMs como LM Studio.

Que Nvidia esté haciendo esto estoy convencido que no es para competir con ese tipo de backends ni para intentar agrupar miradas, sino en preparación para los agentes que empiezan a venir este año (con mas prisas aun desde el boom de Rabbit R1).

Viendo los comentarios me sorprende que en 2024 todavia la gente se piense que la IA es tonteria o marketing.
Sin ir mas lejos en realidad la IA es uno de los mayores inventos de la humanidad y se pronostica que sea el último.
Y no por sensacionalismo de skynet ni nada por el estilo, sino porque los inventos y la investigación dejarán de hacerlo los humanos (progresivamente).

@katatsumuri Buen ejemplo el de las manchas de piel, cuando ahora mismo los expertos en dermatologia no pueden competir con la capacidad de las IA de detectar melanomas.
Lo mismo está pasando ya con la radiologia ademas de forma inesperada por simplemente darle visión a chatgpt (lo que automáticamente lo volvió en top mundial de radiologia por lo mismo, son capaces de diferenciar sutilezas que directamente una persona no puede).

Llevamos décadas buscando materiales útiles para la ciencia, una IA de Google asi de "jajás" descubre mas de 2 millones de materiales nuevos (para sintetizar) que quimicamente se están corroborando como reales.

La robótica en 1-2 años está evolucionando mas que en toda la historia tecnologica.

En genética, sintetizacion de proteinas, y en general campos de datos masivos complejos están arrollando como si fuesemos moscas en comparacion.
Los que hablais criticando la IA no os haceis ni la menor idea del cambio histórico que está por suceder.

Pero en realidad podeis reflexionarlo sin necesidad de creerme ni de documentaros de manera muy sencilla.
Imiaginar una cabeza robotica que solo habla. Pero es capaz de dar respuesta correcta a cualquier cosa que le preguntes.
Todo el conocimiento de toda la historia de la humanidad concentrado en una sola entidad la convierte de forma indebatible en una entidad superior que puede sacar conclusiones que ni podemos comprender.

Como funciona el avance humano? Con especializacion, equipos de especialistas en materias. Las personas dan para lo que dan y dedican su vida a una materia (y yo soy programador que se como funcionan internamente las IA, que no lo digo desde otro campo), pero cada dia los problemas/retos son mas complejos y se requieren equipos de expertos de varios temas.
Eso, que es la unica solución de avanzar, tiene probelmas inesquivables como la coordinacion, necesidad de enseñar bases de un campo a un experto de otro para poder cooperar en un mismo proyecto, diferencias de opinion por diferencias de conocimiento y sesgos etc.

Ahora de nuevo hablemos de una entidad que puede afrontar un problema con absolutamente todo el conocimiento de toda la historia en el mismo ente.
No hace falta que sea listo, ni que tenga conciencia ni se considere con derechos ni nada de eso. Simplemente razonar (cosa que ya puede hacer chatgpt) para coger esa información concentrada y dar respuesta a un problema es algo que se escapa de nuestra liga por y para siempre, y por eso se dice que la IA sea probablemente el ultimo gran invento humano.
Primero porque todos los demas llegaran por apoyo de IA, y despues proque serán autoria exclusiva de las IA.

Este año con los agentes de IA y la IA de autoprendizaje se va a poner todo más aun patas arriba y de verdad que ni os imaginais lo que va a suponer esto en todos los campos incluyendo la sociedad


Excelente comentario compañero, muy acertado y razonado.
@LoomBrane @Riwer Con alguna de esas opciones puedes darle un directorio en tu ordenador con documentación sobre la programación de un juego abierto a modding? (documentación que explica como funciona para poder hacer modificaciones, si entiendes eso y sabes el lenguaje, para este caso, simple LUA y JSON, puedes hacer lo que sea), es decir, "aprende" como hacerlo si lee la documentación? para luego pedirle algo concreto y que lo haga por ejemplo.
@davoker el modelo ya esta entrenado en si. Lo que haces es darle mas base de conocimiento. Con Llama no lo se porque no lo he usado.
Con GPT4, en la parte de la API tienen un apartado para crear asistentes personalizados. Que viene a ser ChatGPT4 (o la version que quieras) , pero con funciones avanzadas, entre las que tienes la opcion de subir ficheros en casi todos los formatos de texto que existen. Y la de darle paremetros de sistema, para como quieres que te responda, o donde quieres que busque cosas especificamente. Para interaccionar con ese GPT a modo de prueba, OpenAI tiene una interfaz web, parecida a la de ChatGPT mediante el navegador web.

Puedes probarlo porque OpenAI al registrarte regalan no recuerdo si 8 dolares o 12 dolares en tokens para usar con cualquier parte de la API. Incluidos los asistentes personalizados.
https://platform.openai.com/assistants

Adicionalmente, puedes crear una aplicacion externa que haga llamadas mediante la API de OpenAI a ese asistente. Eso sumado a una nueva opcion que añadieron hace pocos meses, que permite ejecutar funciones en formato JSON dispara las posibilidades. Desde la propia aplicacion o programa puedes subir manejar los archivos que tiene el asistente. Subir nuevos archivos, eleminar los que ya tenga, o en definitiva lo que quieras.

Y adicionalmente, a un asistente personalizado puedes darle un "fine tuning" o entrenamiento "fino". Que viene a ser darle unas "indicaciones" de como quieres que trabaje y responda, afinado a tus necesidades concretas para ese asistente.

En el caso que preguntas. Desconozco el tema modding y de programar mods, y mucho mas desconozco el tema de programacion de juegos. Pero deberia ser igual que con el resto de cosas. Sabiendo la API o motor que se ha utilizado, teniendo el codigo de los archivos, y teniendo la documentacion de esa API, se deberia poder, como minimo crear un asistente que si no te haga todo el trabajo, te ayude muchisimo.

EDIT.: aviso si alguien va a probar un asistente personalizado de OpenAI para subirle archivos. Con los X dolares que regalan (8 o 12 no recuerdo) da para muchas muchas muchas consultas. Pero tambien consume tokens subir archivos. Y depende del tipo de archivo consume mas o menos tokens. Por ejemplo, puede extraer informacion de un PDF en formato de imagenes, pero para ello tiene que hacer muchos calculos, porque primero analiza las imagenes con un modelo, y luego extrae los datos. No es lo mismo que, por ejemplo, darle un .csv o un .txt.
Y archivos de texto plano muy pesados tambien consume bastantes tokens. Para hacer pruebas y no fundir todo el saldo gratuito que os dan tened eso en cuenta.
los de que la IA es marketing entiendo que no sabéis absolutamente nada de como funciona, los de que la IA es un if else entiendo que tampoco
Esto para explicarte como jugar al Catan cuando empiezas será la leche xD
exitfor escribió:...Dónde va a quedar almacenado ese entrenamiento exactamente?


Pues dónde va a ser? ...en sus servidores, tu tarea será entrenar su IA con la ke más tarde
negociarán y, tú mismo (y más gente) ha entrenado en sus casitas.

Ke mientras tanto te lo has pasado teta, pues bien por ti.
davoker escribió:@LoomBrane @Riwer Con alguna de esas opciones puedes darle un directorio en tu ordenador con documentación sobre la programación de un juego abierto a modding? (documentación que explica como funciona para poder hacer modificaciones, si entiendes eso y sabes el lenguaje, para este caso, simple LUA y JSON, puedes hacer lo que sea), es decir, "aprende" como hacerlo si lee la documentación? para luego pedirle algo concreto y que lo haga por ejemplo.


Como te ha explicado el compañero via API puedes montarte setups de autenticas virguerías, pero no te recomiendo "meter la nariz" ahí todavia porque estamos en plena etapa de transicion.

Primero porque el lanzamiento este año de GPT5 volverá a bajar los costes de la API de los modelos anteriores.
Pero por otro lado porque para ese tipo de proyecto "la ventana de contexto" es crucial.
GPT4 maneja ahora 32k de tokens de contexto y ahora es cuando está desplegando su GPT4 turbo con 128k (en respuesta a Claude 100K).
Necesitas contextos muy grandes para tenerlo todo "en memoria" pero en general es un sistema ahora mismo ineficiente.

Este año con los agentes la cosa cambiará un poco de dirección. Porque un agente de IA puede usar tu PC por tí y consultar lo que necesite cuando lo necesite sin necesidad de tenerlo todo embutido en memoria.
A eso sumale un aceleron en hardware y software para mejorar velocidad y eficiencia.

Montarte algo grande con la API de OpenAI solo lo veria a estas alturas para empresas con un equipo que le vaya a sacar partido a corto plazo.
Pero con la velocidad que está evolucionando el asunto yo esperaria. (Y de hecho personalmente espero, sigo pagando chatGPT plus y de Codeium solo uso el plan gratuito y en conjunto me va mas que bien).


Xputo escribió:
exitfor escribió:...Dónde va a quedar almacenado ese entrenamiento exactamente?


Pues dónde va a ser? ...en sus servidores, tu tarea será entrenar su IA con la ke más tarde
negociarán y, tú mismo (y más gente) ha entrenado en sus casitas.

Ke mientras tanto te lo has pasado teta, pues bien por ti.


Usando un LLM estás ejecutando inferencia, no entrenamiento. Y con modelos locales no envias ni un solo dato a internet.
Además de que no se puede entrenar modelos indiscriminadamente sin curar los datos, porque por ejemplo podrían destruirle la grámatica y ortografía si lo entrenasen con ... comentarios así xD
LoomBrane escribió:
davoker escribió:Casi casi, yo quiero que el chat IA sea capaz de leer archivos con documentación sobre la programación que hace que funcione X programa o juego, y una vez entienda como funciona, poder pedirla que haga modificaciones en base a mis peticiones, esto todavía no se puede porque ningún chat IA actual tiene acceso a los archivos de tu ordenador, lo que limita al máximo toda esta idea XD


Copilot o ChatGPT4 programan perfectamente. Puedes hacer programas en cualquier lenguaje, o pasarle codigo y que te explique que es lo que hace ese codigo, y despues que te haga las modificaciones que quieras y te devuelva el codigo.
Si hay una API concreta que quieras usar, y por lo que sea no te esta dando las respuestas correctas, puedes crear un asistente GPT personalizado y subirle los archivos de la documentacion y listo.

Se puede hacer "magia" con los asistentes GPT


¿Sabes donde puedo ver más info de esto? Me ayudaría mucho en el curro
Que pereza esto de las IA de baratillo, todo el día dando la turra como con el cambio climático, emplear el componente de tu ordenador mas potente para hacer el paria me molesta, el que alguien piense que van a solucionar sus problemas con estas iniciativas esta bastante confundido. Es una opinión personal.

Saludos eolianos.
zoido escribió:Que pereza esto de las IA de baratillo, todo el día dando la turra como con el cambio climático, emplear el componente de tu ordenador mas potente para hacer el paria me molesta, el que alguien piense que van a solucionar sus problemas con estas iniciativas esta bastante confundido. Es una opinión personal.

Saludos eolianos.


A mi me resuelve muchos problemas en el trabajo. He ganado un monton de productividad y evitado quebraderos de cabeza que me hubiesen ocupado decenas y decenas de horas de estudio y trabajo.

Entiendo y respeto que haya gente que siga lavando la ropa o en el rio o cocinando sobre una hoguera porque no le vean el potencial a la electricidad.

@Goncatin ¿que te interesa hacer concretamente?
Si nos juntamos unos cuantos podemos hacer un hilo en alguno de los foros para comptartir informacion sobre el tema.
No se si se ha dicho ya, y entre tanto hate igual nadie ni lo lee, pero esto huele de lejos a poder tener IA en los videojuegos para los NPC en generaciones futuras, lo cual me parece de PM
LoomBrane escribió:
zoido escribió:Que pereza esto de las IA de baratillo, todo el día dando la turra como con el cambio climático, emplear el componente de tu ordenador mas potente para hacer el paria me molesta, el que alguien piense que van a solucionar sus problemas con estas iniciativas esta bastante confundido. Es una opinión personal.

Saludos eolianos.


A mi me resuelve muchos problemas en el trabajo. He ganado un monton de productividad y evitado quebraderos de cabeza que me hubiesen ocupado decenas y decenas de horas de estudio y trabajo.

Entiendo y respeto que haya gente que siga lavando la ropa o en el rio o cocinando sobre una hoguera porque no le vean el potencial a la electricidad.

@Goncatin ¿que te interesa hacer concretamente?
Si nos juntamos unos cuantos podemos hacer un hilo en alguno de los foros para comptartir informacion sobre el tema.


No es necesario poner un símil estúpido para justificar una herramienta que usas para conseguir una gratificación económica , yo las uso profesionalmente. A nadie le va a solucionar las necesidades básicas las IA como para dar la turra cada dos por tres. Tampoco nos va dar una ventaja respecto nuestro competidor real, ellos usan la mismas por lo que la ventaja es nula.

Saludos eoliano.
LoomBrane escribió:
zoido escribió:Que pereza esto de las IA de baratillo, todo el día dando la turra como con el cambio climático, emplear el componente de tu ordenador mas potente para hacer el paria me molesta, el que alguien piense que van a solucionar sus problemas con estas iniciativas esta bastante confundido. Es una opinión personal.

Saludos eolianos.


A mi me resuelve muchos problemas en el trabajo. He ganado un monton de productividad y evitado quebraderos de cabeza que me hubiesen ocupado decenas y decenas de horas de estudio y trabajo.

Entiendo y respeto que haya gente que siga lavando la ropa o en el rio o cocinando sobre una hoguera porque no le vean el potencial a la electricidad.

@Goncatin ¿que te interesa hacer concretamente?
Si nos juntamos unos cuantos podemos hacer un hilo en alguno de los foros para comptartir informacion sobre el tema.


En mi caso es algo sencillito, básicamente usando bootstrap para hacer diseños de páginas, en plan "hazme una cabecera de tantas columnas con tantas en versión movil, tantas en versión tablet,..."
Vaya hilo...
A mi me parece cojonudo, pero habría que ver qué tal funciona.
Pues no es mala herramienta. Le enchufas un directorio y le metes documentos. Le puedes pedir resumenes, que te hable de ellos y lo que te salga del pijo. Que te aporte ideas si estás buscando algo referido a esos documentos, las acabes usando o no. Y el intérprete de videos de yt para alguna ocasión, puede estar bien si solo buscas un dato muy concreto del típico video inflado.

¿Os salvará la vida u os volverá idiotas? ni lo uno ni lo otro.

Es una herramienta más, que a mucha gente le ahorrará tiempo en sus gestiones. Por ahora parece que en inglés, que yo sepa no hay LLMs suficientemente buenos en español todavía a nivel offline (de 70B y menores). Aún así, te entiende los documentos que tengas en español y te responde en inglés.
SUGUSAPPLE escribió:-Otra "enciclopedia" robotizada.
Si no había suficiente tontería con hacer caso a navegadores de coche que te dicen por donde conducir.....a pesar de ostiarte por malas indicaciones.

-Ahora una IA que te dirá cuando comer,cuando cagar,y con quien relacionarte.

-Solo falta que la IA te medique,y así diezman la población mundial.

-La próxima pandemia ya esta aquí.

Un mundo cada vez más "idiotizado"....pensamiento único. [buaaj]


La involución está servida. En breves no habrá hombres ni mujeres ni demás fauna, solo gilipollas ... ;)


@zoido
El cambio climático es mas que obvio, urgente y preocupante, las ia no lo van a arreglar ... [jaja]
@Goncatin
Para eso solo preguntandole a ChatGPT o Copilot te lo puede hacer. No creo que necesites darle nada de informacion adicional.
Tienes Copilot integrado en Visual Code Studio , te dan una version de prueba durante 1 mes. Luego tocaria pagar.
Abres el codigo en VSC, abres el modulo de Copilot le vas diciendo lo que quieres hacer seleccionando la parte del codigo.
La version de Copilot de VSC actualmente es GPT3.5 pero con un modulo especializado en programacion. Pero, aun asi, hay cosas con las que se termina liando. Asi que hasta que no actualicen hasta la version 4.0, funciona bastante bien, pero hay cosas con las que se termina liando. Si tienes acceso a ChatGPT4.0, por lo general te podra resolver cualquier problema relacionado con programacion y darte practicamente cualquier codigo.

No se que tal resultado te dara ChatGPT3.5 turbo. Pero puedes probar si no tienes acceso al 4.0. Pegale el codigo sin mas, dile lo que quieres hacer de la forma lo mas detalla y concisa posible, intenta que lo que le pidas que haga y con las indicaciones que le des no tenga opciones de interpretacion, y dile que te devuelva el codigo modificado.
Es probable que ChatGPT3.5 no de buenos resultados. Pero por probar no pierdes nada. Ademas, la version 3.5 tiene muy poca "memoria" en cada sesion, asi que si el codigo es extenso, al hacer varias preguntas pegando codigo, en seguida pierde el contexto inicial y mezcla las cosas. Con la 4.0 eso pasa, pero tarda mucho mas, y con la 4.0 turbo se soluciona casi por completo.
41 respuestas