Hablemos sobre los fakes de IA perfectos

Metafóricamente hablando, ¿es el fin del mundo conocido?

Después de escuchar estos audios que han creado en Forocoches (algunos son muy verdes, ojo sensibles):

Pablo Iglesias
https://voca.ro/1mrpmug5p8WS
Pedro Sánchez
https://voca.ro/12eWuJxO5Ndw
https://voca.ro/1nJZUe6w8V0f
Chicote
https://voca.ro/185dM5c0047A
Arturo Fernández
https://voca.ro/1gzfM5xlMjix
Carlos Arguiñano
https://voca.ro/16fVqH8l5QjY
Constantino Romero
https://vocaroo.com/1eRtOe38Xkxx

Acaba de salir, y ya es casi perfecto.

Creados con esta IA:

https://elevenlabs.io/

IA que genera música por sí sola

https://voca.ro/1myfDjEbLHKS
https://voca.ro/1jjHJPO9H7vX
https://vocaroo.com/139Hlkc1y4EF
https://voca.ro/17n2xcgPV5tR
https://voca.ro/1dI783yDp1tq
https://voca.ro/1nA8NTbFPm7E
https://voca.ro/1kVrRlnbjQC1



¿Dónde está el límite? Creación de vídeos porno con famosos, películas que no existen, canciones a la carta

En unos años una voz no servirá como prueba en un juicio, y tal vez un vídeo tampoco. ¿Qué pensáis?
El fin del mundo conocido ya lo escuché cuando el covid junto a las cartillas de racionamiento.
Para nada. La edición de audio e imágenes es mas vieja que el cagar. La diferencia es la accesibilidad, antes solo unos pocos escogidos tenian la habilidad y hoy en dia cualquier nini en un parque con su iphone le pide a Siri que le cambie la voz.
ya tienes otro hilo para hablar de IAs
MavericK_OscurO escribió:Para nada. La edición de audio e imágenes es mas vieja que el cagar. La diferencia es la accesibilidad, antes solo unos pocos escogidos tenian la habilidad y hoy en dia cualquier nini en un parque con su iphone le pide a Siri que le cambie la voz.


No creo que sea un argumento válido, la democratización de la tecnología es un factor enorme.

Internet no hace tantos años que era algo reservado a científicos, y ahora es un derecho universal. Y creo que nadie negará que desde ya no los 90, sino desde 2010* que el Internet móvil fue accesible a todo el mundo, el mundo es otro.

Los aviones eran cosa de ricos, y hace 50 años era raro pasar de Francia/Portugal. Almenos, habitualmente. A día de hoy, la gente vuela a Tailandia porque tienen europa muy vista

Si a día de hoy ya hay problemas con el tema "fake news", si le sumamos falsear todo tipo de elemento multimedia de forma sencilla e indistinguible, el problema crece exponencialmente
supongo que dirá que el tema le causa interes y que ese interes lo expresa asi, abriendo hilos. :o

otra cosa es que con la metralleta de abrir hilos no para, parece que le pagaran productividad XD

yo no soy fan de los hilos contenedor pero en casos como este me parece correcto una excepcion.

en otras palabras, lo que dije en mi primer post en el hilo:

GXY escribió:ya tienes otro hilo para hablar de IAs
GXY escribió:ya tienes otro hilo para hablar de IAs


Es que las IA,s están pegando demasiado fuerte estimado GXY. Más hilos debería de haber, no veas como avanza todo.

Y espérate que en poco tiempo tendremos eolianos controlados por IA.s. Internet estará plagado de ias haciéndose pasar por humanos. Nos vamos a cagar.




¿Todo eso es mío? La madre que me parió. Creía que serían menos.

Ya tienen material de sobra para abrir el subforo de IA,s. @[erick] ve tomando nota. [rtfm]

@ElSrStinson A mí desde luego me pasan un audio de Sánchez hablando mal del Rey o de cualquier otra cosa, y me lo trago, vaya que si me lo trago. A ver qué validez va a tener una conversación grabada ante un juez, cuando cualquiera puede hacer un audio indistinguible de la realidad.

Y si hay patrones para distinguirlo, se graba a través de unos altavoces con otro micrófono, se graba a través de una línea telefónica, se graba en una sala vacía con eco, o con ruido de la calle. La de formas que hay para disfrazar un audio y hacerlo ultra realista...

Y verás de aquí a unos años como será internet. Tendremos cientos de reseñas falsas (criticando y alabando productos, tiendas, etc.) comunidades supuestamente llenas de gente, estafadores que son en realidad IA,s buscando perras, web falsas casi indistinguibles de la realidad, ias saltándose captchas, etc.

@MavericK_OscurO Está claro, pero la facilidad de hacerlo hoy en día deja en pañales a todas las herramientas anteriores.

Antes tenías que ir uniendo palabras de la persona en base a ciertas grabaciones para hacer el fake, algo muy laborioso y muy lejos de ser perfecto si no disponías de material en condiciones. Ahora con un minuto de voz de cualquiera, puedes leer hasta la biblia con la voz y la entonación característica del susodicho.
Pues son pegadizas algunas de las canciones. [looco] [qmparto] ¿Las canciones con qué están hechas? Me gustaría probar. Más info, porfa.
paco_man escribió:Es que las IA,s están pegando demasiado fuerte estimado GXY. Más hilos debería de haber, no veas como avanza todo.


Y el reggaeton, y no vamos a estar abriendo un hilo por cada canción que saquen.
9 respuestas