Oficialmente, Alexa, como otros asistentes de voz, no guarda continuamente toda la información acústica registrada por sus micrófonos, sino cortes de duración no especificada que según Amazon son analizados por sistemas de inteligencia artificial para mejorar el funcionamiento del producto. Decimos oficialmente porque en la práctica este proceso involucra a miles de personas en todo el mundo, que escuchan horas y horas de conversaciones personales según un artículo de Bloomberg.
Según siete fuentes consultadas por la agencia de noticias, Amazon mantiene oficinas con una mezcla de personal externo y propio en países como Estados Unidos, Costa Rica, India y Rumanía, donde miles de trabajadores cubiertos por cláusulas de confidencialidad realizan turnos de nueve horas diarias escuchando hasta 1.000 segmentos de audio al día para facilitar el entrenamiento de Alexa.
El trabajo en sí mismo es tedioso e incluso "mundano". Por ejemplo, si alguien escucha "Taylor Swift", señala el artículo, se realiza una anotación en el sistema para señalar a Alexa que está hablando de la cantante y no de una orden mal interpretada. No es necesario decir que las implicaciones a nivel de privacidad son extraordinarias, puesto que el asistente de voz puede grabar cualquier cosa que suceda en un domicilio, en cualquier momento.
Grabaciones de situaciones delicadas
De acuerdo con dos trabajadores, en una ocasión Alexa grabó lo que parecía ser una agresión sexual. En otra, un niño pidiendo ayuda a gritos. Son situaciones extraordinariamente delicadas y que pueden afectar a los trabajadores, que según el relato pueden compartir sus experiencias y liberar tensión en un canal de chat interno. Estos canales son también utilizados para pedir ayuda cuando un audio resulta incomprensible o, de forma mucho más preocupante, compartir archivos que encuentran "graciosos".
Por lo que respecta a Amazon, la compañía asegura que hay una serie de procedimientos a seguir cuando un trabajador escucha un suceso perturbador, pero dos empleados de las oficinas de Rumanía aseguran que en varias ocasiones se les dijo que el trabajo de Amazon no es intervenir.
En cuanto a las implicaciones a nivel de privacidad, Amazon reitera que se toma muy en serio la privacidad de sus usuarios, añadiendo que "solo anotamos una muestra extremadamente pequeña de las grabaciones de voz de Alexa para mejorar la experiencia del cliente". "Tenemos salvaguardas técnicas y de operaciones estrictas, así como una política de tolerancia cero en casos de abuso de nuestro sistema. Los empleados no tienen acceso directo a la información [...] que es tratada con un alto nivel de confidencialidad".
No está claro a qué se refiere Amazon con esto último, puesto que las grabaciones no están totalmente anonimizadas. Bloomberg afirma haber visto una captura de pantalla con las grabaciones con las que trabajan estos empleados, y aunque en ellas no aparece un nombre completo o una dirección, sí se muestra el nombre de pila, un número de cuenta y el número de serie del dispositivo.
No solo Alexa: Google Assistant y Siri también utilizan ayudantes humanos
Esta noticia llega varios meses después de que The Intercept revelara que Ring, filial de Amazon especializada en cámaras de seguridad para el hogar, estaba utilizando personas para identificar manualmente vehículos y gente, mejorando así la capacidad de reconocimiento de su plataforma de IA.
Como señala Bloomberg, el caso de Amazon no es único. Resulta notable porque estas prácticas se realizan en secreto y no es normal encontrar empleados dispuestos a hablar, pero según la agencia de noticias Siri y el Asistente de Google también emplean "ayudantes humanos" para medir la capacidad de interpretación de los asistentes de voz. En el caso de Apple, las grabaciones se almacenan con un identificador aleatorio que es eliminado a los seis meses, mientras que Google guarda audios distorsionados y sin información personal identificable.
Dada la inmensa cantidad de información capturada por los asistentes de voz, no hay forma de utilizarlos manteniendo una semblanza de privacidad más o menos completa. Ante esta circunstancia, lo único que se puede hacer es desactivarlos o modificar la configuración de privacidad para evitar que puedan grabar segmentos de audio cuando no están siendo utilizados.
Según siete fuentes consultadas por la agencia de noticias, Amazon mantiene oficinas con una mezcla de personal externo y propio en países como Estados Unidos, Costa Rica, India y Rumanía, donde miles de trabajadores cubiertos por cláusulas de confidencialidad realizan turnos de nueve horas diarias escuchando hasta 1.000 segmentos de audio al día para facilitar el entrenamiento de Alexa.
El trabajo en sí mismo es tedioso e incluso "mundano". Por ejemplo, si alguien escucha "Taylor Swift", señala el artículo, se realiza una anotación en el sistema para señalar a Alexa que está hablando de la cantante y no de una orden mal interpretada. No es necesario decir que las implicaciones a nivel de privacidad son extraordinarias, puesto que el asistente de voz puede grabar cualquier cosa que suceda en un domicilio, en cualquier momento.
Grabaciones de situaciones delicadas
De acuerdo con dos trabajadores, en una ocasión Alexa grabó lo que parecía ser una agresión sexual. En otra, un niño pidiendo ayuda a gritos. Son situaciones extraordinariamente delicadas y que pueden afectar a los trabajadores, que según el relato pueden compartir sus experiencias y liberar tensión en un canal de chat interno. Estos canales son también utilizados para pedir ayuda cuando un audio resulta incomprensible o, de forma mucho más preocupante, compartir archivos que encuentran "graciosos".
Por lo que respecta a Amazon, la compañía asegura que hay una serie de procedimientos a seguir cuando un trabajador escucha un suceso perturbador, pero dos empleados de las oficinas de Rumanía aseguran que en varias ocasiones se les dijo que el trabajo de Amazon no es intervenir.
En cuanto a las implicaciones a nivel de privacidad, Amazon reitera que se toma muy en serio la privacidad de sus usuarios, añadiendo que "solo anotamos una muestra extremadamente pequeña de las grabaciones de voz de Alexa para mejorar la experiencia del cliente". "Tenemos salvaguardas técnicas y de operaciones estrictas, así como una política de tolerancia cero en casos de abuso de nuestro sistema. Los empleados no tienen acceso directo a la información [...] que es tratada con un alto nivel de confidencialidad".
No está claro a qué se refiere Amazon con esto último, puesto que las grabaciones no están totalmente anonimizadas. Bloomberg afirma haber visto una captura de pantalla con las grabaciones con las que trabajan estos empleados, y aunque en ellas no aparece un nombre completo o una dirección, sí se muestra el nombre de pila, un número de cuenta y el número de serie del dispositivo.
No solo Alexa: Google Assistant y Siri también utilizan ayudantes humanos
Esta noticia llega varios meses después de que The Intercept revelara que Ring, filial de Amazon especializada en cámaras de seguridad para el hogar, estaba utilizando personas para identificar manualmente vehículos y gente, mejorando así la capacidad de reconocimiento de su plataforma de IA.
Como señala Bloomberg, el caso de Amazon no es único. Resulta notable porque estas prácticas se realizan en secreto y no es normal encontrar empleados dispuestos a hablar, pero según la agencia de noticias Siri y el Asistente de Google también emplean "ayudantes humanos" para medir la capacidad de interpretación de los asistentes de voz. En el caso de Apple, las grabaciones se almacenan con un identificador aleatorio que es eliminado a los seis meses, mientras que Google guarda audios distorsionados y sin información personal identificable.
Dada la inmensa cantidad de información capturada por los asistentes de voz, no hay forma de utilizarlos manteniendo una semblanza de privacidad más o menos completa. Ante esta circunstancia, lo único que se puede hacer es desactivarlos o modificar la configuración de privacidad para evitar que puedan grabar segmentos de audio cuando no están siendo utilizados.
Hablas de Skynet, todos lo sabemos [uzi]
Es totalmente oscuro y, a mi parecer, injustificado.
Saludos.
-Alexa, prrrt.
-Disculpe. No le he entendido.
-Alexa, prrrrrt.
-Disculpe. No le he entendido.
-He dicho que prrrrrt.
Me imagino al tipo escuchando con los lagrimones, no sé si de risa o de "qué he hecho con mi puta vida", pero lagrimones al fin y al cabo.
Donde dice que abre el micrófono de forma aleatoria y graba lo que dice la gente?
1 + 1 = 2