Trabajadores de Amazon escuchan las conversaciones grabadas por Alexa

Archivado
1, 2
Oficialmente, Alexa, como otros asistentes de voz, no guarda continuamente toda la información acústica registrada por sus micrófonos, sino cortes de duración no especificada que según Amazon son analizados por sistemas de inteligencia artificial para mejorar el funcionamiento del producto. Decimos oficialmente porque en la práctica este proceso involucra a miles de personas en todo el mundo, que escuchan horas y horas de conversaciones personales según un artículo de Bloomberg.

Según siete fuentes consultadas por la agencia de noticias, Amazon mantiene oficinas con una mezcla de personal externo y propio en países como Estados Unidos, Costa Rica, India y Rumanía, donde miles de trabajadores cubiertos por cláusulas de confidencialidad realizan turnos de nueve horas diarias escuchando hasta 1.000 segmentos de audio al día para facilitar el entrenamiento de Alexa.

El trabajo en sí mismo es tedioso e incluso "mundano". Por ejemplo, si alguien escucha "Taylor Swift", señala el artículo, se realiza una anotación en el sistema para señalar a Alexa que está hablando de la cantante y no de una orden mal interpretada. No es necesario decir que las implicaciones a nivel de privacidad son extraordinarias, puesto que el asistente de voz puede grabar cualquier cosa que suceda en un domicilio, en cualquier momento.

Grabaciones de situaciones delicadas

De acuerdo con dos trabajadores, en una ocasión Alexa grabó lo que parecía ser una agresión sexual. En otra, un niño pidiendo ayuda a gritos. Son situaciones extraordinariamente delicadas y que pueden afectar a los trabajadores, que según el relato pueden compartir sus experiencias y liberar tensión en un canal de chat interno. Estos canales son también utilizados para pedir ayuda cuando un audio resulta incomprensible o, de forma mucho más preocupante, compartir archivos que encuentran "graciosos".

Por lo que respecta a Amazon, la compañía asegura que hay una serie de procedimientos a seguir cuando un trabajador escucha un suceso perturbador, pero dos empleados de las oficinas de Rumanía aseguran que en varias ocasiones se les dijo que el trabajo de Amazon no es intervenir.

En cuanto a las implicaciones a nivel de privacidad, Amazon reitera que se toma muy en serio la privacidad de sus usuarios, añadiendo que "solo anotamos una muestra extremadamente pequeña de las grabaciones de voz de Alexa para mejorar la experiencia del cliente". "Tenemos salvaguardas técnicas y de operaciones estrictas, así como una política de tolerancia cero en casos de abuso de nuestro sistema. Los empleados no tienen acceso directo a la información [...] que es tratada con un alto nivel de confidencialidad".

No está claro a qué se refiere Amazon con esto último, puesto que las grabaciones no están totalmente anonimizadas. Bloomberg afirma haber visto una captura de pantalla con las grabaciones con las que trabajan estos empleados, y aunque en ellas no aparece un nombre completo o una dirección, sí se muestra el nombre de pila, un número de cuenta y el número de serie del dispositivo.

No solo Alexa: Google Assistant y Siri también utilizan ayudantes humanos

Esta noticia llega varios meses después de que The Intercept revelara que Ring, filial de Amazon especializada en cámaras de seguridad para el hogar, estaba utilizando personas para identificar manualmente vehículos y gente, mejorando así la capacidad de reconocimiento de su plataforma de IA.

Como señala Bloomberg, el caso de Amazon no es único. Resulta notable porque estas prácticas se realizan en secreto y no es normal encontrar empleados dispuestos a hablar, pero según la agencia de noticias Siri y el Asistente de Google también emplean "ayudantes humanos" para medir la capacidad de interpretación de los asistentes de voz. En el caso de Apple, las grabaciones se almacenan con un identificador aleatorio que es eliminado a los seis meses, mientras que Google guarda audios distorsionados y sin información personal identificable.

Dada la inmensa cantidad de información capturada por los asistentes de voz, no hay forma de utilizarlos manteniendo una semblanza de privacidad más o menos completa. Ante esta circunstancia, lo único que se puede hacer es desactivarlos o modificar la configuración de privacidad para evitar que puedan grabar segmentos de audio cuando no están siendo utilizados.

Fuente: Bloomberg
Y la gracia de todo esto reside en... ¿?
kai_dranzer20 está baneado por "Game Over"
me parece bien que le den trabajo a humanos y no a máquinas para alimentar a la colmena de la mente artificial :)
Q chupi! [plas]

kai_dranzer20 escribió:me parece bien que le den trabajo a humanos y no a máquinas para alimentar a la colmena de la mente artificial :)


Hablas de Skynet, todos lo sabemos [uzi]
Se van a hartar de escucharme hablar mientras juego pues...Yo en mi caso uso Alexa como asistente domótico (Y va muy bien para que engañarnos), pero vamos, la practica que tienen las compañías para sacar datos de consumo son demasiado intrusivas, si quieres utilizar lo que busco para darme recomendaciones vale, pero escucharme cuando no debería eso ya es otro cantar.
Poned a Alexa en el baño,y cuando esteis cagando,poned entusiamo en el esfuerzo. [poraki]
Grabar todo lo que se dice después de "Alexa" podría tener sentido. Pero abrir el micrófono de manera completamente aleatoria no es más que un abuso. Es como si la TV se encendiera "por decisión propia" sin que el usuario tenga que apretar el botón.

Es totalmente oscuro y, a mi parecer, injustificado.

Saludos.
Viene a confirmar lo que sabemos
RedGear escribió:Poned a Alexa en el baño,y cuando esteis cagando,poned entusiamo en el esfuerzo. [poraki]

-Alexa, prrrt.
-Disculpe. No le he entendido.
-Alexa, prrrrrt.
-Disculpe. No le he entendido.
-He dicho que prrrrrt.

Me imagino al tipo escuchando con los lagrimones, no sé si de risa o de "qué he hecho con mi puta vida", pero lagrimones al fin y al cabo.
Dartanyan escribió:Grabar todo lo que se dice después de "Alexa" podría tener sentido. Pero abrir el micrófono de manera completamente aleatoria no es más que un abuso. Es como si la TV se encendiera "por decisión propia" sin que el usuario tenga que apretar el botón.

Es totalmente oscuro y, a mi parecer, injustificado.

Saludos.

Donde dice que abre el micrófono de forma aleatoria y graba lo que dice la gente?
Para que Alexa se inicie con la palabra "Alexa" en cualquier momento, Alexa necesita grabar las 24 horas.

1 + 1 = 2
Anda, pues como el móvil.
Zeoroth escribió:Para que Alexa se inicie con la palabra "Alexa" en cualquier momento, Alexa necesita grabar las 24 horas.

1 + 1 = 2


Eso no tiene porqué, el dispositivo reconoce palabras incluso sin conexión a internet, pruébalo en el móvil, verás que el "OK Google" lo reconoce igualmente.
El movil
Dartanyan escribió:Grabar todo lo que se dice después de "Alexa" podría tener sentido. Pero abrir el micrófono de manera completamente aleatoria no es más que un abuso. Es como si la TV se encendiera "por decisión propia" sin que el usuario tenga que apretar el botón.

Es totalmente oscuro y, a mi parecer, injustificado.

Saludos.


El microfono tiene que estar siempre abierto para que el software capture la palabra alexa+tu pregunta.
De ahi pensar que no graban nada mas que alexa+tu pregunta, es de necios.

El mismo movil aunque suene a gorro de papel albal, la NSA americana lo tiene pinchado al gusto. Que llevemos smartphones es lo mejor que les ha podido pasar. Puede activar microfono, camara incluso si lo tienes apagado.
A google, que nos regala el sistema operativo a cambio le damos informacion de todo tipo que ni nos imaginamos:, con quien estamos, cuanto tiempo que nos gusta (comer, sexualmente, vestir...) todo lo que hagas, ellos, lo saben.
@JMorell El micrófono tiene que estar encendido 24 horas para que Ok Google funcione cuando le dices "Ok Google".

2 + 2 = 4
Alexa. cuéntanos un chiste.

"lo siento, no tengo información sobre ese tema".
A ver, para que funcione el asistente en el móvil, lo primero es activar la aplicación; los asistentes domésticos, no obstante, sí que están activos desde que se encienden.

Lo gracioso es que encima tienes que pagar por ellos... en fin.
Zeoroth escribió:@JMorell El micrófono tiene que estar encendido 24 horas para que Ok Google funcione cuando le dices "Ok Google".

2 + 2 = 4

Yo no he dicho eso, he dicho que la detección de la palabra clave la reconoce también incluso sin internet, por tanto, sólo se mandan los mensajes que se graban después de decir la palabra clave ya que los anteriores no se graban, sino la batería del dispositivo duraría muy poco y el consumo de datos sería bestial.
Nunca he entendido que alguien compre un cacharro así de motu propio. Es un espía en casa
surprised_pikachu.jpg
Diría que quien les manda tener un cacharro que hace tal invasión de la privacidad pero es que tengo smartphone, consola, PC..... Vamos que me pillan igual.


_saludos
Zeoroth escribió:Para que Alexa se inicie con la palabra "Alexa" en cualquier momento, Alexa necesita grabar las 24 horas.

1 + 1 = 2


Eso no es así, cuando desconectas alexa de la red, sigue reconociendo la palabra de activación, la diferencia es que, en cuanto la detecta, te dice que no puede procesar lo que le digas puesto que no está conectada.

Así que no, no necesita grabar las 24 horas, si lo hace está totalmente injustificado como indica un usuario más arriba.

Edito con un detalle:

He visto que un usuario te ha respondido algo similar, y tu le has respondido con la misma respuesta pero en vez de decir "grabar" dices "micrófono abierto", no es en absoluto lo mismo, no confundamos los términos.

mamideck escribió:Nunca he entendido que alguien compre un cacharro así de motu propio. Es un espía en casa


Es una alternativa "barata" a la domótica tradicional, la cual es bastante más cara, de resto es un asistente más como el que tienes en tu smartphone o PC, no tiene más misterio.
Puf... vaya gracia que te escuchen para mejorar luego el sistema X-D
@JMorell @Xais Yo (no ustedes) re-afirmo que el micrófono debe estar abierto para grabar vuestra voz las 24 horas, con o sin internet, para almacenarlo o no, para enviarlo a servidores o no, si queréis que Alexa, Google, Siri o Cortana funcionen cuando decís Alexa, Google, Siri o Cortana.

Es de cajón.
Ya van dos noticias de estos altavoces. Primero las transcripciones de conversaciones normales de salón a otra gente (también salió en portada, podéis buscarlo), y ahora ésto.

Pagar para ser espiado. Otros pagan por datos para el bigdata, éstos te hacen pagar encima [+risas]
Zeoroth escribió:@JMorell @Xais Yo (no ustedes) re-afirmo que el micrófono debe estar abierto para grabar vuestra voz las 24 horas, con o sin internet, para almacenarlo o no, para enviarlo a servidores o no, si queréis que Alexa, Google, Siri o Cortana funcionen cuando decís Alexa, Google, Siri o Cortana.

Es de cajón.

Abierto si, grabando no, de nuevo, creo que estamos confundiendo términos, grabar es almacenar toda conversación que se tenga, y eso no es así y está demostrado con Google sin ir más lejos, que graba fragmentos aleatorios con tú móvil, pero no las 24 horas.

Si no me crees es tan fácil como ir a tu historial de audio de tu cuenta de Google para que veas a lo que me refiero (Y de paso desactivarlo si no quieres que te graben. )
A mi esto de que te graben me parece fatal. Leyendo estas noticias echo de menos mi nokia 3210 ...

Saludos
Pues menos mal que no caló el Kinect, porque imagínate esto con cámara además del audio XD
DavET está baneado por "Saltarse el ban con un clon"
Alexa autodestrucción !!! [poraki]
Seguro que Alexa reconoce su llamada offline, por eso no se entiende que lo tengan todo grabado.

La noticia no lo dice directamente, pero si Alexa ha grabado maltratos de un matrimonio, imagino que fue sin activar Alexa, no? Por eso digo que está grabando todo el tiempo o de manera aleatoria a ratos.
Esto es una práctica ilegal. No se puede grabar para analizar nada. Supongo que habrán metido en sus actualizaciones cualquier cosa para que el usuario autorice esto, pero, más pronto o más tarde, esto no estará permitido.
Lo suyo es contratar a personas para mejorar la I.A., crear situaciones comunicativas en sus recursos de I+D y desde ahí trabajar, pero no grabar conversaciones privadas.
pues yo me acabo de pillar un amazon dot. Como grabe todo lo que le pregunte a Alexa...
Lo que no entiendo es la gracia de pagar por tener un espía en casa y perder toda tu privacidad.
Alguien conoce un sistema DIY de assistente vocal offline o con el propio cloud solo para domotica? He visto uno para Rpi pero la mayor parte de pago y solo en ingles y frances...
¿Alguien dudaba que la pijotada de Alexa espia a la gente? Lo mejor es que es un aparato totalmente inútil, que ponemos en nuestro salón de casa por voluntad propia.
Por cosas así cada día le tengo más inquina a empresas como Amazon... no tiene suficiente con venderte su servicio, necesitan además usarte para seguir haciendo dinero.


Ho!
Zeoroth escribió:Para que Alexa se inicie con la palabra "Alexa" en cualquier momento, Alexa necesita grabar las 24 horas.

1 + 1 = 2

Una cosa es escuchar y otra grabar. Escucha 24h, graba a partir de "alexa"

Es inviable estar grabando 24 y el servidor analizando las grabaciones 24h de miles de personas...explotan los servidores, a la voz de alexa, graba envia la orden la analiza y responde.
No es algo que me sorprenda, lo ultimo que haria es meter un trasto de estos en mi casa.
Xais escribió:
Zeoroth escribió:@JMorell @Xais Yo (no ustedes) re-afirmo que el micrófono debe estar abierto para grabar vuestra voz las 24 horas, con o sin internet, para almacenarlo o no, para enviarlo a servidores o no, si queréis que Alexa, Google, Siri o Cortana funcionen cuando decís Alexa, Google, Siri o Cortana.

Es de cajón.

Abierto si, grabando no, de nuevo, creo que estamos confundiendo términos, grabar es almacenar toda conversación que se tenga, y eso no es así y está demostrado con Google sin ir más lejos, que graba fragmentos aleatorios con tú móvil, pero no las 24 horas.

Si no me crees es tan fácil como ir a tu historial de audio de tu cuenta de Google para que veas a lo que me refiero (Y de paso desactivarlo si no quieres que te graben. )


que un microfono este abierto seria que esta encendido pero para que uno de estos asistentes sepa que dijiste la palabra clave para activarlo este tiene que estar grabando cada vez que escucha ruido aunque sea solo para la comparacion con la palabra "alexa", "siri" "ok google" etc, es decir siempre va a grabar todo lo que escuche si o si, lo que no sabemos es si descarta lo que grabo cuando no encontro la palabra clave o si toma alguna especie de log como podria ser que todo lo que escuche lo guarda como texto (lo cual no ocuparia mucho espacio) o si existen otras palabras claves que esta buscando para tomar nota incluso cuando no esta en linea por ejemplo puede ser que cuente la veces que se menciona una marca de algun producto o alguna otra cosa de interes para quien programo el aparato aun si este no tiene acceso a internet, cuando tenga acceso envia el log a amazon y lo borra para volver tomar nota o incluso puede actualizar una lista de palabras clave, vamos que esta claro que estas cosas no son confiables, si no muestran su codigo no tenemos ni idea de lo que realmente hace y por el historial de estos aparatos es mas facil asumir que nos espian y graba todo si luego algun "traidor" da aviso a la comunidad estas empresas se escudan en que por ley tenian que espiar y aqui no paso nada :-|
Madre de dios, eso debería ser totalmente imposible, vamos no se debería de guardar en ninguna parte o se debería destruir cuando la IA aprenda como contestar mejor, porque si 4 tontos pueden acceder, eso quiere decir que puede acceder Amazon cuando quiera.
Pensé que esto era sección "noticias".
Alexa....me estas grabando???NO...YO NO... [looco] [looco] [looco]
y porque no ofrecen un programa Beta o algo así, en el que te lo venden a precio reducido o te lo regalan a cambio de formar parte del desarrollo dando un consentimiento previo y así se quitan de problemas?
Aceptas que te vayan a grabar y a cambio te lo dejan barato o te lo dan.
alagar7101 escribió:Lo que no entiendo es la gracia de pagar por tener un espía en casa y perder toda tu privacidad.


Yo tampoco, como no hay suficiente ya...pero la gente es así, la cosa es comprar la novedad.
Privacidad por mis cojones, ¿no?...porque si la Alexa del vecino graba constantemente y es analizado, y si el micrófono de Alexa capta mi voz (Alexa, Siri o la p*** madre que los expulsó de forma impía)
¿Qué privacidad tengo yo?

Seguid siendo tan ..... de comprar estas mierdas que os tienen vigilados, controlados, monetizados y bombardeados para que gastéis y que tengáis vuestra tarjeta de dinerito "caliente, caliente"...seguid dándoles más información. cawento cawento
Tambien pasa lo mismo con los tlf móviles y no dicen nada o bien poca gente dice lo mismo, yo por ejemplo se que por la ip y sitios que navego pueden llegarme anuncios flotantes de ciertas cosas, pero sin navegar y hablando de ello con mi familia también me pasó, ¿raro verdad? no, es que también pasa como en estos dispositivos, estamos en escucha todos.
Xais escribió:grabar es almacenar toda conversación que se tenga, y eso no es así y está demostrado con Google sin ir más lejos, que graba fragmentos aleatorios con tú móvil, pero no las 24 horas.

Cuando publiquen el código fuente en github o similar, y múltiples empresas y expertos en seguridad de reconocido prestigio certifiquen de manera regular su implantación en los servidores de Gugel, empezaré a creer, no sin reticencias, esa tajante afirmación que has dicho.

Lion_omega escribió:Es inviable estar grabando 24 y el servidor analizando las grabaciones 24h de miles de personas...explotan los servidores, a la voz de alexa, graba envia la orden la analiza y responde.

No es inviable, es una trivialidad técnica. Piensa en Youtube, que son vídeos y no audios, que además están accesibles al público y no sólo internamente, que también se analizan, y en la cantidad que se sube respecto a Alexa con Amazon.

Por cierto, no estoy diciendo que nos espíen, no puedo demostrar eso. Estoy diciendo que para que funcione nos tienen que grabar (o nos tienen que abrir, escuchar, como dice otro) durante las 24 horas, sí o sí.
Esto me ha recordado a Sarah Scribbles:
Imagen
Zeoroth escribió:
Xais escribió:grabar es almacenar toda conversación que se tenga, y eso no es así y está demostrado con Google sin ir más lejos, que graba fragmentos aleatorios con tú móvil, pero no las 24 horas.

Cuando publiquen el código fuente en github o similar, y múltiples empresas y expertos en seguridad de reconocido prestigio certifiquen de manera regular su implantación en los servidores de Gugel, empezaré a creer, no sin reticencias, esa tajante afirmación que has dicho.

Lion_omega escribió:Es inviable estar grabando 24 y el servidor analizando las grabaciones 24h de miles de personas...explotan los servidores, a la voz de alexa, graba envia la orden la analiza y responde.

No es inviable, es una trivialidad técnica. Piensa en Youtube, que son vídeos y no audios, que además están accesibles al público y no sólo internamente, que también se analizan, y en la cantidad que se sube respecto a Alexa con Amazon.

Por cierto, no estoy diciendo que nos espíen, no puedo demostrar eso. Estoy diciendo que para que funcione nos tienen que grabar (o nos tienen que abrir, escuchar, como dice otro) durante las 24 horas, sí o sí.

Bueno compañero, no es necesario que publiquen el código fuente, puedes comprobarlo tu mismo en tu historial de tu cuenta de google, salen todos los audios y de paso puedes borrarlo también.

Respecto al texto en negrita, creo que no te había entendido correctamente, yo por grabar me refiero a que esta grabando esa info en el servidor 24/7, y, al menos lo que te dejan ver, eso no es así. CUIDADO, lo que te dejan ver, que luego cojan y guarden más conversaciones que tu no veas no podemos demostrarlo como tu bien comentas, de hecho si miras mi primer mensaje verás que iba por esos tiros jajaja.

Un saludo!
Grabar en memoria ram es grabar.
55 respuestas
Archivado
1, 2
Volver a Tecnología