La app Ever usó millones de fotos para entrenar una IA de reconocimiento facial de forma ofuscada

Archivado
Hace algunos meses se puso de moda en las redes sociales el traído y llevado "10 years challenge", la comparación de fotografías tomadas con una década de diferencia con el propósito de mostrar los cambios de una persona durante dicho tiempo. Ya entonces saltaron las alarmas: hay que tener mucho cuidado con las imágenes que se suben, porque este tipo de modas pueden ser fácilmente explotadas por empresas con el propósito de entrenar sus inteligencias artificiales de forma nada transparente.

Pero en algunos casos, ni siquiera hay que urdir complejas estrategias en Twitter.

La cadena estadounidense NBC señala que la aplicación de almacenamiento fotográfico Ever ha estado utilizando las imágenes de sus usuarios para entrenar un sistema de reconocimiento facial cuya tecnología es ofrecida a terceras empresas, así como cuerpos policiales y el ejército. Esta conducta se realizaba sin claridad, hasta el punto de que Ever solo actualizó su política de privacidad después de que los periodistas contactaran con la empresa.

ImagenCaptura de pantalla del sitio oficial de Ever.

La yuxtaposición de Ever, el servicio de almacenamiento fotográfico, con Ever AI, la tecnología de reconocimiento facial, no podía ser más chocante. Ever es promocionado como un servicio de corte familiar para realizar álbumes fotográficos con los mejores recuerdos de los usuarios, ofreciendo espacio gratuito e ilimitado para álbumes con nombres como "vacaciones con el abuelo". Ever AI, por contra, es mucho más serio, y se precia de poder identificar detalles como sexo, edad, raza y emociones.

En su sitio oficial, Ever AI se precia de ser mucho más rápido que las tecnologías de rivales como Microsoft, Amazon e IBM, así como sensiblemente más preciso. Los datos de reconocimiento de Ever AI han sido obtenidos según su sitio oficial a partir "una de las mayores bases propietarias y etiquetadas de mayor tamaño y más diversas del mundo", con miles de millones de fotografías. Al menos parte de estas imágenes procedían de Ever.

Según Ever, la antigua política de privacidad "nos cubría bien a nosotros y a nuestros consumidores", pero ha sido actualizada debido a "historias recientes" y no porque hubieran sido contactados por la cadena estadounidense. Asimismo, Ever asegura que no comparte sus fotografías ni información personal.

El caso de Ever no es el primero en suscitar polémica. Hace poco IBM fue noticia por utilizar fotos de Flickr, pero en su caso eran imágenes con licencias Creative Commons que permitían su reutilización de forma muy explícita. Asimismo, lo normal es que las empresas dedicadas a este tipo de tecnologías utilicen bases fotográficas y de datos procedentes de fuentes adecuadas, aunque como siempre, lo normal no es lo mismo que la norma.

Fuente: NBC
Eso pasa por usar Apps adicionales a las que ya nos espían de serie. [qmparto] [qmparto] [qmparto] [qmparto]
pues usaran protesis y ya no detectaran nada o peor aún detectaran a otra persona que no estaba allí.
Y los chinos culpables por vender moviles baratos...
Nada es gratis. Tu pulsas si a todo por un servicio gratuito, el producto eres tu.
(mensaje borrado)
Para que no pase esto, lo mejor es no subir fotos, a ninguna red social, incluida instagram
Y la gente le seguira dando información gratis. Estamos en la era de la inteligencia artificial y la estupidez humana...
sev39lora escribió:Para que no pase esto, lo mejor es no subir fotos, a ninguna red social, incluida instagram


Yo añadiría que mejor aún es hacer como yo, que tengo todas mis fotos en el NAS de mi casa... puedo acceder a ellas en cualquier momento y lugar con la ventaja de tener total privacidad.

Salu2 :cool:
Pobre IA, se habrá suicidado seguramente de tanto ofusque [360º]
txeriff escribió:Nada es gratis. Tu pulsas si a todo por un servicio gratuito, el producto eres tu.


Esto es una justificación absurda. Una aplicación puede resultar gratuita para el usuario porque la empresa gana dinero con la publicidad, o de 1000 maneras diferentes. Que el producto no tenga coste para el usuario no significa ya per se que el proveedor tenga derecho a hacer cualquier cosa con los datos de sus usuarios.

Eso sin contar que, en los casos de productos de pago, nada te está asegurando que no recurran a las mismas tácticas y utilicen tus datos sin tu consentimiento.

Lo que no entiendo en absoluto es por qué no son totalmente claros con el uso que van a hacer de tus datos. Total, a la mayoría de las personas le importa una mierda para qué los usen, mientras puedan subir sus chorradas a Facebook, crear vídeos monos y demás chorradas. ¿Qué sentido tiene mentir, visto lo poco que valora la gente la privacidad hoy en día?
La gente se queja que tienen poca privacidad en internet y son las primeras personas, que publican toda su vida en internet
pacopolo escribió:
txeriff escribió:Nada es gratis. Tu pulsas si a todo por un servicio gratuito, el producto eres tu.


Esto es una justificación absurda. Una aplicación puede resultar gratuita para el usuario porque la empresa gana dinero con la publicidad, o de 1000 maneras diferentes. Que el producto no tenga coste para el usuario no significa ya per se que el proveedor tenga derecho a hacer cualquier cosa con los datos de sus usuarios.

Eso sin contar que, en los casos de productos de pago, nada te está asegurando que no recurran a las mismas tácticas y utilicen tus datos sin tu consentimiento.

Lo que no entiendo en absoluto es por qué no son totalmente claros con el uso que van a hacer de tus datos. Total, a la mayoría de las personas le importa una mierda para qué los usen, mientras puedan subir sus chorradas a Facebook, crear vídeos monos y demás chorradas. ¿Qué sentido tiene mentir, visto lo poco que valora la gente la privacidad hoy en día?


Díselo a gmail que es el motor de google [sati]
Esa IA seguro que acabó explotando con tanto "careto"...
Y aún así fallará...
Entiendo que ésto ha pasado porque a la gente no se la forma en materia de seguridad y privacidad en la red, y como siempre se tiende a pensar bien, pues se sube cualquier cosa sin mayor importancia.

Pero de una cosa hay que estar seguro: cuando el servicio te sale gratis, el producto eres tú. O sea, hay que entender que todo el trabajo que hay detrás de la app o del servicio está hecho por peña que espera sacar algún beneficio. Estamos en la era del pago por servicio y la minería de información para alimentar y mejorar las IAs, y cuando no toca rascarse el bolsillo por algo, es que de otra parte salen esos ingresos.

Vamos, que aún flipo cuando leo que la gente se escandaliza por estas cosas... ¿pero de verdad pensaban que ésto se lo daban sin mas?.
millenium escribió:
sev39lora escribió:Para que no pase esto, lo mejor es no subir fotos, a ninguna red social, incluida instagram


Yo añadiría que mejor aún es hacer como yo, que tengo todas mis fotos en el NAS de mi casa... puedo acceder a ellas en cualquier momento y lugar con la ventaja de tener total privacidad.

Salu2 :cool:

También las puedes subir encriptadas a google drive con rclone o air explorer y luego desencriptarlas cuando montas el disco para verlas.
pacopolo escribió:
txeriff escribió:Nada es gratis. Tu pulsas si a todo por un servicio gratuito, el producto eres tu.


Esto es una justificación absurda. Una aplicación puede resultar gratuita para el usuario porque la empresa gana dinero con la publicidad, o de 1000 maneras diferentes. Que el producto no tenga coste para el usuario no significa ya per se que el proveedor tenga derecho a hacer cualquier cosa con los datos de sus usuarios.

Eso sin contar que, en los casos de productos de pago, nada te está asegurando que no recurran a las mismas tácticas y utilicen tus datos sin tu consentimiento.

Lo que no entiendo en absoluto es por qué no son totalmente claros con el uso que van a hacer de tus datos. Total, a la mayoría de las personas le importa una mierda para qué los usen, mientras puedan subir sus chorradas a Facebook, crear vídeos monos y demás chorradas. ¿Qué sentido tiene mentir, visto lo poco que valora la gente la privacidad hoy en día?


Gana dinero con la publicidad, vendiendo tus datos supuestamente anonimizados, usandote para hacer patrones de dios sabe que...

Whatsapp tiene publicidad? No?
Ahi tienes la respuesta.
Lo que costara mantener eso.
Como si fuese la única app que usa tus datos biométricos para fines oscuros. Nada nuevo bajo el sol. A saber donde van a parar todos esos datos de desbloqueo faciales de los listófonos, o tus huellas, etc... sigo prefiriendo el patrón o pin, que seguro que también lo saben.
18 respuestas
Archivado
Volver a Tecnología