Will Oremus
El gigante de Internet está cableando los hogares, vecindarios y ciudades con cámaras y micrófonos, y está impulsando a los servicios de inteligencia de la nación.
¿Estamos seguros de que podemos confiar en esto?
Ir al perfil de Will Oremus
Will Oremus
27 de junio
Cuando piensas en Amazon, podrías pensar en comparar los precios antes de hacer una compra desde el sofá, comprando exactamente lo que quieres, por menos de lo que pagarías en la tienda. Es posible que pienses en una persona entregándote un paquete en tu puerta, justo a tiempo, y cómo, si hubiera algo malo, puedes devolverlo para obtener un reembolso completo. Podrías pensar en pedirle a Alexa que reproduzca una canción o un programa de televisión o que encienda las luces, y maravillarte de cómo funciona todo ( generalmente ). Podrías pensar en un descuento para los miembros Prime en los aguacates de Whole Foods, que Amazon adquirió en 2017.
La reputación de Amazon de servir a sus clientes con precios bajos y una eficiencia despiadada podría ayudar a explicar por que, en una encuesta tras otra, la compañía con sede en Seattle se ubica como la marca más valiosa de los Estados Unidos, es decir, la más querida . Un estudio reciente descubrió que Amazon es la segunda institución con mayor confianza de todo tipo en los Estados Unidos, por delante de Google, la policía y el sistema de educación superior, y que solo está detrás del ejército de los Estados Unidos. En un momento en que una interminable cadena de escándalos sobre privacidad y las elecciones ha dejado a la reputación de Facebook en ruinas, y Google se ha visto afectada por la radicalización de YouTube y los problemas de moderación de contenidos, Amazon está más fuerte que nunca.
Pero la imagen pública de Amazon como un “almacén de todo” alegremente confiable oculta el enorme y secreto gigante en que se ha convertido, y como los productos que está construyendo hoy podrían erosionar nuestra privacidad no solo online sino también en el mundo físico. Aun cuando las compañías tecnológicas rivales vuelven a evaluar sus prácticas sobre los datos, reconsiderando sus responsabilidades y pidiendo nuevas regulaciones, Amazon está duplicando los dispositivos de vigilancia, renunciando a la responsabilidad por el uso de su tecnología y descartando las planteadas por académicos, medios de comunicación, políticos y sus propios empleados.
“Todos esperamos que no estén haciendo un panóptico”, dice Lindsey Barrett, abogada del Georgetown Law’s Institute for Public Representation [Instituto de Derecho de Georgetown Para La Representación Pública]. El mes pasado, el instituto, que asesoraba a un grupo de 19 grupos de vigilancia, pidió a la Comisión Federal de Comercio que investigue a Amazon por supuestas violaciones de la ley federal que protege a la privacidad online de los niños. Entre otras preocupaciones, encontraron que el altavoz inteligente de Amazon Echo Dot Kids Edition retenía las grabaciones de voz y los datos personales de los niños incluso después de que los padres trataron de eliminarlas. Amazon culpó, al menos por parte del problema, a un error de software, que dice que ya se ha solucionado.
Si bien el resultado de ese caso aún está por verse, la queja representa solo la punta del iceberg. El Amazon de hoy opera enormes franjas de la internet pública; utiliza inteligencia artificial para procesar datos de muchas de las compañías e instituciones más grandes del mundo, incluida la CIA; rastrea los hábitos de compra de los usuarios para crear perfiles detallados para hacer publicidad dirigida; y vende parlantes y pantallas conectados a la nube y alimentados por Inteligencia Artificial [IA] para nuestros hogares. Adquirió una compañía que fabrica enrutadores Wi-Fi de malla que tienen acceso a nuestro tráfico de Internet privado. A través de su filial Ring, está colocando cámaras de vigilancia en los timbres de millones de personas e invitándolos a compartir las imágenes con sus vecinos y la policía en una red social enfocada contra el delito. Está vendiendo sistemas de reconocimiento facial a policías y empresas privadas.
“Amazon está esencialmente vendiendo miedo”.
El Amazon del mañana, tal como se describe en las patentes, las ofertas contractuales y los materiales de marketing, podría ser aún más omnipresente. Imagina cámaras en el timbre de la puerta tan ubicuas que no puedes caminar por una calle sin dispararle alertas a tus vecinos y a la policía. Imagina que estas cámaras tienen sistemas de reconocimiento facial incorporados, y pueden trabajar juntas como una red para identificar a las personas consideradas sospechosas. Imagina a las cámaras de vigilancia Ring en automóviles y drones que hacen repartos, los monitores para los bebés Ring en jardines martenales y los dispositivos Amazon Echo en todas partes, desde escuelas hasta hoteles y hospitales. Ahora imagina que todos estos altavoces y pantallas alimentados por Alexa pueden reconocer tu voz y analizar tus patrones de habla para saber cuándo está enojado, enfermo o considerando una compra. Una solicitud de patente de 2015 informada la semana pasada por el Telegraph describió un sistema que Amazon denominó “la vigilancia como servicio”, que parece ser un término adecuado para muchos de los productos que ya venden.
Detrás de todo está una compañía cuyos líderes a menudo ven a las preocupaciones sobre la privacidad como exageradas, a la disidencia interna como insignificante, y al potencial de abuso de las tecnologías de Amazon como un problema de otras personas.
“El hecho de que la tecnología pueda ser mal utilizada no significa que debamos prohibirla y condenarla”, dijo Andy Jassy, jefe del negocios en la nube de Amazon, en la Code Conference [Conferencia sobre Programación] a principios de este mes. Sugirió que prohibir los sistemas de reconocimiento facial, que pueden ser potentes herramientas de vigilancia pero que tienden a discriminar a las personas de color, sería similar a prohibir el correo electrónico o los cuchillos: dos ejemplos de tecnologías, una nueva y otra muy antigua, que también podrían emplearse para el bien o para el mal, él declaró: “Podrías usar un cuchillo de una forma encubierta”.
Todo lo que Amazon está construyendo, hay que decirlo, tiene el potencial de ser utilizado para siempre. Sus cámaras en los timbres pueden atrapar a piratas del porche; su software de reconocimiento facial puede ayudar a las autoridades a localizar a sospechosos; Alexa puede ser útil en la casa de muchas maneras (generalmente ). Pero al juntar las piezas, los ojos y oídos conectados en la nube de la compañía pueden adquirir una dimensión orwelliana que hace que Facebook y Google, las dos compañías tecnológicas que tienden a aparecer más en los temores sobre la privacidad de los consumidores, parezcan, al compararlas, modestas.
Orejas en el living
Comencemos con los dispositivos de la compañía que funcionan con Alexa, como Amazon Echo, Echo Dot y Echo Show, que se han convertido en un elemento básico de los hogares inteligentes. Colocan micrófonos que siempre están conectados a Internet y, en algunos casos, cámaras dentro de tu cocina, living o dormitorio. Para los paranoicos, esto solo podría ser una razón para evitarlos: ¿arriesgarse a abrir un portal permanente entre Internet y los espacios más íntimos de tu familia?
Pero más de 100 millones de compradores lo han abrazado, confiando en que Amazon guarde sus registros en el proceso. Amazon dice que los dispositivos Echo solo comienzan a grabar cuando escuchan una palabra de activación predefinida, como “Alexa”. Desafortunadamente, el sistema está lejos de ser infalible: casi todos los usuarios de Alexa han sido tomados por sorpresa cuando los dispositivos detectan la palabra de alerta y de repactiva. Alexa a menudo recoge y almacena fragmentos de conversaciones por error, y en al menos una ocasión, Amazon envió accidentalmente esas grabaciones a un extraño al azar. No ayuda que Amazon haya descuidado las características sobre la privacidad de los datos que incluyen a los altavoces inteligentes rivales. Es más difícil eliminar las grabaciones de un Echo que de un Google Home o Apple HomePod, y Amazon tardó en colocar un obturador físico en la cámara de sus dispositivos como el Echo Show para evitar grabaciones accidentales. (Hasta Facebook tiene uno.)
Para una compañía que está liderando una revolución en la relación entre los humanos y las máquinas, la actitud de Amazon hacia los temores sobre la privacidad a veces ha sido despectiva. En una entrevista el año pasado en el podcast de Slate , If Then , le pedí al vicepresidente de Alexa Engine Software, Al Lindsay, que mencionara una inquietud sobre la privacidad de los datos relacionados con Amazon que creyera válida, o un desafío relacionado con la privacidad en el que su equipo estaba trabajando. Dijo que no podía pensar en uno solo .
Pero los que están vigilando a la empresa desde afuera han encontrado a algunos. En abril, Bloomberg informó que Amazon emplea a miles de personas tercerizadas en oficinas de todo el mundo para escuchar las grabaciones de los confiados usuarios de Alexa. El objetivo no es la vigilancia, sino un esfuerzo por mejorar el software del dispositivo. Esa es una práctica común entre las empresas que entrenan a la inteligencia artificial (los usuarios humanos como asistentes digitales inteligentes como Alexa y Siri son parte del proceso de capacitación, ya sea que lo sepas o no), pero Amazon no reveló explícitamente la mecánica del sistema a los usuarios. Siri de Apple y el Asistente de Google también utilizan revisores humanos, pero toman medidas para anonimizar las grabaciones de los usuarios, mientras que las grabaciones de Alexa están vinculadas a un número de cuenta, al número de serie del dispositivo y al nombre de cada usuario.
Luego está la acusación de que Amazon Echo Dot Kids Edition ha estado violando la Ley de protección de privacidad online de los niños, o COPPA [por sus siglas en inglés] . Además de retener la información personal de los niños incluso después de que los padres trataron de eliminarla, el dispositivo supuestamente almacenó esa información indefinidamente y utilizó un método defectuoso de consentimiento de los padres. Barrett, del Instituto de Representación Pública, dijo que le resultaba difícil creer que una empresa tan grande pudiera estar cometiendo violaciones de privacidad tan directas en un dispositivo explícitamente destinado y comercializado para niños.
Para esta historia, la compañía envió una declaración que indica que tiene protocolos estrictos para proteger la privacidad y seguridad de los clientes, y señaló que los clientes pueden revisar y eliminar sus grabaciones en cualquier momento en la aplicación de Alexa o visitando el Centro de privacidad de Alexa online.
Cuando consideras que Amazon está colocando dispositivos de Alexa en automóviles, habitaciones de hotel, aulas e incluso hospitales pediátricos, es curioso que la compañía no esté haciendo más esfuerzos de relaciones públicas en torno a la privacidad y la seguridad. Parecía que eso podría estar cambiando el mes pasado, cuando Amazon promocionó un conjunto de nuevas características de privacidad de Alexa , incluida la capacidad de decir “Alexa, elimina todo lo que dije hoy”. Pero la característica resultó ser bastante bizantina.: En lugar de simplemente eliminar tus grabaciones la primera vez que lo pides, Alexa te recomendaría abrir la aplicación Alexa en tu smartphone y navegar por una larga serie de opciones de menú. Después de todo eso, solo podrías eliminar tus grabaciones a través de la voz para un solo día, no en un período de tiempo más largo. Eliminar todo es un proceso de ocho pasos que requiere la aplicación Alexa. Y Amazon aún no ofrece la opción de eliminar automáticamente tus grabaciones, como lo hace Google .
Hasta ahora, Amazon se ha abstenido de poner anuncios de voz en Alexa, lo que puede ayudar a reforzar su imagen como una empresa que te vende productos, en lugar de convertirlo en su producto. Pero eso no significa que su Eco no esté recopilando y monetizando datos sobre ti. Ya hace un seguimiento de tus compras y opciones de música para usar en las recomendaciones de productos. Y aunque no ha atraído el mismo escrutinio que Google o Facebook, el negocio de la publicidad digital de Amazon está en auge: ahora es el tercero más grande detrás del duopolio. Según una estimación reciente se espera que Amazon capture casi el 10 por ciento del mercado estadounidense de u$s 130 mil millones en 2019.
Ojos en la calle
Luego está Ring, la startup del “timbre inteligente” que Amazon adquirió por u$s 1 mil millones a principios de 2018. Mientras que otros gigantes de Internet limitan su comportamiento a los usuarios online, Ring le permite a Amazon, y ti, monitorear las acciones de otras personas en el mundo real. Tus dispositivos conectados a Wi-Fi, montados fuera de las puertas de hogares y negocios, inspeccionan continuamente un radio de 30 pies, capturando videos cada vez que detectan movimientos. Los usuarios pueden ver las imágenes en tiempo real y pagar una tarifa para almacenar y ver grabaciones.
Esas capacidades de vigilancia no son novedosas: las empresas y las mansiones han tenido costosos sistemas de cámaras de seguridad. Pero de la misma manera en que existía el comercio online antes de que Amazon lo llevara a las masas, Ring ha incorporado ese servicio al poner las cámaras del timbre en un paquete simple de u$s 200 y comercializarlas agresivamente a los propietarios de viviendas comunes, así como a los departamentos de policía. Amazon es ahora el jugador dominante en el mercado de cámaras en el timbre, parte del mercado de cámaras de vigilancia domésticas que un analista predice que tendrá un valor de u$s 10 mil millones para 2023.
No contento con permitir que los usuarios vigilen sus propios patios delanteros, Ring ha convertido sus cámaras en redes semi públicas a través de una aplicación llamada Neighbors [Vecinos]. Neighbors le permite a los propietarios de los timbres cargar, compartir y comentar los videos de vigilancia de los demás, y les da la opción de ponerlos a disposición de la policía. “Las Alertas Comunitarias de Ring ayudan a mantener seguros los vecindarios al alentar a la comunidad a trabajar directamente con la policía local activamente”, dijo Amazon en un comunicado.
Esa característica tiene algunas agencias de aplicación de la ley mareada. Un informe de CNET encontró que los departamentos de policía de Houston a Hammond, Indiana, se asocian con Amazon y les ofrecen a los ciudadanos descuentos en Ring, mientras los alientan a compartir imágenes a través de Neighbors. Gracias a Ring, “nuestro municipio ahora está completamente cubierto por cámaras”, dijo a CNET un comandante de la policía en Bloomfield, Nueva Jersey .
El jefe de la policía de Mountain Brook, Alabama, dijo al sitio que el acceso a las imágenes del Ring de los residentes a través de Neighbors le dio a su departamento el equivalente a la cobertura de cámaras de seguridad de toda la ciudad, prácticamente por nada. Amazon no requiere que los usuarios compartan imágenes con la policía, pero su portal para el cumplimiento de la ley facilita que los oficiales soliciten imágenes de cualquier usuario dado, una solicitud que muchas personas probablemente encontrarán difícil de rechazar. Técnicamente, los usuarios permanecen anónimos en la aplicación, aunque su ubicación general es evidente. Ring le dijo a OneZero que está comprometido a proteger la privacidad de los usuarios, y señaló que no es compatible con los programas que requieren que los clientes compartan imágenes con la policía a cambio de descuentos en el dispositivo.
Podrías pensar que una empresa de tecnología gigante que se está moviendo hacia una vigilancia física literal en un momento de mayor preocupación por la privacidad online podría ser un obstáculo. En el caso de Amazon, estarías equivocado. El fundador de Under Ring, Jamie Siminoff, quien originalmente lanzó la idea de su startup en Shark Tank , el mensaje interno de la compañía ha sido militante. En 2016, Siminoff repartió camisetas con estampados de camuflaje a los empleados y le declaró la guerra a los “sucios delincuentes”.
Pero la seguridad de la compañía, al menos antes de su adquisición por Amazon, a veces parecía poco estricta: en incidentes separados, se encontró que Ring almacenaba las contraseñas del WiFi de sus clientes como un archivo de texto y enviaba pequeños paquetes de datos de audio de 20 milisegundos hacía servidores en China, donde el gobierno monitorea agresivamente el tráfico de Internet. Ring se movió rápidamente para abordar esos dos problemas, y no hay evidencia de que hayan causado ningún daño. A partir de 2016, Ring también dio a los empleados de investigación y desarrollo en Ucrania acceso a las grabaciones de video personales de los usuarios para su análisis, según un informe de 2018 de The Information. Amazon luego le dijo a The Intercept que la práctica se limitaba a videos compartidos públicamente en la aplicación Neighbours, pero se negó a decir cuándo esa política había entrado en vigor. “Como una empresa de seguridad con la misión de reducir el crimen en los vecindarios, la seguridad está en el núcleo de Ring y es lo que impulsa a todo lo que hacemos”, dijo Ring a OneZero en un comunicado. “Nadie puede ver las grabaciones de video de un usuario a menos que el usuario lo permita o las comparta”.
Amazon ha abrazado el espíritu de lucha contra el crimen de Ring. “No se me ocurre ninguna misión más noble,” “, dijo el vicepresidente de dispositivos de Amazon, Dave Limp, en un evento en septiembre de 2018. A principios de este año, Ring colocó anuncios dirigidos en Facebook hacía los residentes de Mountain View, California, con imágenes de vigilancia reales de un mujer que parecía estar intentando entrar en un auto.
“Amazon está esencialmente vendiendo miedo”, dice Chris Gilliard, profesor de inglés en Macomb Community College que investiga los usos discriminatorios de la tecnología. “Están vendiendo la idea de que una sociedad más vigilada es más segura”. Pero eso depende de si usted es la persona que está siendo vigilada. Gilliard cree que Ring y Neighbors podrían hacer que la sociedad sea menos segura para las personas de color, que están identificadas de manera desproporcionada como “sospechosas” en las redes sociales con un componente de vigilancia vecinal. En el pasado, un residente podría decirle a un vecino o llamar a la policía si veía a una persona que creía que estaba fuera de lugar, “pero probablemente no la iban a transmitir a todo el vecindario”, dice. “Ahora lo hacen”.
Cerebros en la nube
Aunque la mayoría de la gente todavía piensa en Amazon principalmente como un minorista online, la mayoría de sus ganancias ahora provienen de Amazon Web Services [AWS], cuyos servidores en la nube alimentan a casi la mitad de internet, según algunas estimaciones. Para sitios web más pequeños, AWS sirve principalmente como proveedor de infraestructura. Pero para algunas de las instituciones y corporaciones más grandes del mundo, AWS también extrae y analiza datos, descodifica texto e imágenes, hace predicciones y recomendaciones.
Esos clientes incluyen a las principales fuerzas policiales y agencias de inteligencia, como el Departamento de Seguridad Nacional, el Departamento de Defensa y la CIA. Amazon creó una división especial en AWS en 2017 para manejar a la inteligencia gubernamental confidencial. Los clientes de AWS también incluyen a Palantir, la empresa de big data de Silicon Valley cofundada por Peter Thiel, que proporciona software para Inmigración y Control de Aduanas de EE. UU. o ICE por su sigla en inglés ( Amazon también informa que le hizo un llamamiento a ICE.) . Ahora, AWS compite con Microsoft Azure por un contrato gigantesco de u$s 10 mil millones para llevar al Pentágono a su nube, luego de que Google lo abandonara por presión de sus propios empleados.
El servicio más controvertido de AWS es Rekognition, una plataforma que utiliza el aprendizaje automático para analizar imágenes y secuencias de videos. Entre otras características, Rekognition ofrece la posibilidad de hacer coincidir las caras encontradas en las grabaciones de video con una serie de caras en una base de datos, así como la tecnología de análisis facial que puede seleccionar características y expresiones faciales. Un informe de 2018 de la American Civil Liberties Union (ACLU) destacó cómo Amazon ha estado promocionando sus capacidades de reconocimiento facial a las fuerzas policiales, y tiene asociaciones en curso con la policía en Orlando, Florida y el condado de Washington, Oregon.
En una conferencia de desarrolladores en Seúl, según NPR, Ranju Das de Amazon explicó que la policía en Orlando tiene ““cámaras por toda la ciudad” que transmiten las imágenes hacía Amazon para analizarlas en tiempo real. Luego puede comparar las caras en los videos de vigilancia con un archivo de fotos instantáneas de una base de datos para reconstruir el paradero de una “persona de interés”. Un informe de CNET en marzo detallaba cómo la Oficina del Sheriff del Condado de Washington usó Rekognition para identificar y detener a un sospechoso de robo.
Un problema bien documentado con el software de reconocimiento facial es la inexactitud, especialmente cuando se trata de identificar a personas de color. En una prueba realizada en 2018 por la ACLU, Rekognition encontró coincidencias erróneas de 28 miembros del Congreso con fotos de sospechosos de delitos. Los congresistas de color estaban sobrerrepresentados entre las falsas coincidencias. Amazon sostiene que el estudio es engañoso por varias causas, porque usó un umbral de confianza para las coincidencias que es más bajo que el que recomienda AWS, y se usó una versión obsoleta del software Rekognition.
La idea de construir herramientas de inteligencia artificial y reconocimiento facial para personas como Palantir e ICE no encaja con algunos de los empleados y accionistas de Amazon, especialmente en un momento en que los inmigrantes están siendo separados de sus familias y los niños que cruzan la frontera están teniendo a sus Derechos Humanos básicos negados. Un empleado anónimo de Amazon escribió en Medium el otoño pasado que unos 450 trabajadores habían firmado una carta al CEO Jeff Bezos pidiéndole que la empresa que abandonara a Palantir y dejara de suministrar Rekognition a los departamentos de policía. “Empresas como la nuestra no deberían estar en el negocio de facilitar la vigilancia autoritaria”, escribió el empleado. En una entrevista de acompañamiento, el empleado dijo que la carta había sido recibida por los líderes de Amazon con un “silencio de radio.”.
No es sorprendente, dado que la vicepresidenta de AWS, Teresa Carlson, había promocionado el ““compromiso inquebrantable” de la compañía con los usos policiales y militares del reconocimiento facial en una conferencia de seguridad en julio de 2018. Gizmodo informó en Noviembre de 2018 que el CEO de AWS, Andy Jassy, reafirmó la comercialización de Rekognition para las fuerzas policiales en una reunión interna. Presentó a la tecnología como muy positiva, destacando el trabajo de una organización que utiliza el software para ayudar a encontrar y rescatar a víctimas de la trata de personas. Jassy agregó que si Amazon descubriera que sus clientes violaban sus términos de servicio o los derechos constitucionales de las personas, dejaría de trabajar con ellos. Pero cuando previamente se le preguntó a Carlson si Amazon había diseñado algún límite o directrices sobre qué tipo de objeciones serían esas, su respuesta fue clara: “No hemos diseñado nada sobre eso”.
En una publicación en su blog en Febrero de 2019, Amazon sugirió que estaría abierta a algún tipo de legislación nacional sobre reconocimiento facial para promover la transparencia y el respeto por los derechos civiles, entre otros objetivos. Esto siguió a los pedidos mucho más directos de Microsoft para la regulación de la tecnología en 2018. Pero cuando Microsoft formuló un claro argumento moral para controlarla, evocando imágenes de una distopía al estilo de 1984, Amazon ha defendido constantemente su uso. “En los más de dos años que hemos estado ofreciendo Amazon Rekognition, no hemos recibido un solo informe de uso indebido por parte de la policía”, dijo la compañía según lo que publicó en su blog.
La vigilancia como servicio.
Las solicitudes de patentes no pueden decirte lo que una empresa realmente va a construir. A menudo, los abogados de una firma solo tratan de cubrir la mayor cantidad de usos posibles, en caso de que algún aspecto de su propiedad intelectual pueda algún día llegar a ser relevante para sus negocios. Pero las patentes nos pueden revelar cómo una empresa determinada cree que su entorno competitivo podría llegar a ser en los próximos años. Y si las solicitudes de patentes de Amazon nos dicen algo, es que la compañía ve a la expansión de sus capacidades de vigilancia como una parte importante de su futuro.
Algunas de estas giran en torno a Alexa y el reconocimiento de voz. Una aplicación de 2017 describe a un algoritmo de “rastreo de voz” que podría seleccionar palabras clave de una conversación entre amigos para hacer publicidad dirigida. Otra propone inferir la salud o el estado emocional de las personas a partir de la tos, el resfriado o su tono de voz, nuevamente, como un caso de posible uso de publicidad dirigida.
Amazon también tiene algunas grandes ideas para el futuro de Ring. A principios de este mes, Quartz informó que Amazon recibió marcas registradas para dispositivos que podían cubrir cámaras montadas en automóviles o en monitores para bebés, o “sistemas de vigilancia para hogares y empresas”. Una patente separada presentada en 2015 deja en claro que Amazon ha estado pensando en estas líneas. desde mucho antes de que comprara Ring: describía un sistema mediante el cual los clientes podían contratar drones de entrega de paquetes para volar sobre un objetivo específico y disparar imágenes de espionaje. Amazon se refirió a la idea como ”la vigilancia como un servicio.”
Es dudoso que incluso Amazon alguna vez lance un producto con un nombre o función tan claramente distópico. Pero hay otro conjunto de patentes, abiertas de noviembre de 2018, que parece algo en lo que la compañía podría estar trabajando. Describen cómo una red de cámaras que comparten datos podría usarse junto con un software para identificar automáticamente a personas cuyos rostros aparecen en una base de datos de gente sospechosa. Como informó primero CNN, suena mucho como un camino para incorporar el reconocimiento facial con la aplicación Ring y Neighbors. Un abogado de ACLU la describió como una “visión perturbadora del futuro” en la que las personas ni siquiera puedan caminar por una calle sin ser rastreadas por sus vecinos.
En una declaración a OneZero, Ring reiteró que una solicitud de patente no implica necesariamente un producto en desarrollo. “Siempre estamos innovando en nombre de los vecinos para que nuestros vecindarios sean lugares mejores y más seguros para vivir, y esta patente es una de las muchas ideas para mejorar los servicios que ofrecemos”, dijo la compañía.
Los altavoces inteligentes, los asistentes de voz con Inteligencia Artificial, las cámaras en los timbres y el reconocimiento facial en los espacios públicos tienen sus ventajas. Ofrecen conveniencia, tranquilidad y la posibilidad de resolver crímenes que de otra manera podrían quedar sin resolver. Pero júntalos a todos, con una compañía muy grande que controla todos los datos y se asocia estrechamente con la policía y las agencias de inteligencia, y tienes el potencial de un aparato de vigilancia a una escala que el mundo nunca ha visto.
Suponiendo que nadie va a impedir que Amazon construya esta red, la pregunta es si podemos confiar en que la empresa sea responsable, reflexiva y cuidadosa al diseñar sus productos y proteger la gran cantidad de datos que recopilan, y si podemos confiar en que todas los Entidades que utilizan la tecnología de Amazon lo hagan responsablemente.
La nube sobre todos nosotros
A diferencia de Facebook, que se ha pasado los últimos años pidiendo disculpas por sus fallas de privacidad y prometiendo repararse por sí sola, aunque sea ineficazmente, o Apple, que ha hecho de la privacidad un punto de venta explícito, Amazon ha mostrado hasta ahora poca preocupación por las implicaciones éticas de sus capacidades para la vigilancia en expansión. Mientras Microsoft e niega a vender tecnología de reconocimiento facial a la policía, y Google no está vendiendo su tecnología de reconocimiento facial a nadie, Amazon la está vendiendo a los departamentos de policía de todo el país.
En caso de que quedara alguna duda sobre la postura de Amazon, o la falta de ella, sobre las responsabilidades sociales involucradas en el desarrollo de sus tecnologías de vigilancia, el Director de Tecnología Werner Vogels la atenuó en un evento de la compañía en mayo. En una entrevista con la BBC, Vogels explicó que no es el rol de Amazon garantizar que sus sistemas de reconocimiento facial se usen de manera responsable. “Esa no es una decisión que yo voy a tomar,” , dijo. “Esta tecnología se está utilizando para bien en muchos lugares. Está en las manos de la sociedad decidir realmente qué tecnología es aplicable y en qué condiciones “.
Ese tono se establece en los niveles superiores. En una conferencia tecnológica en San Francisco en octubre de 2018, Bezos enmarcó los contratos militares de la compañía como parte de un deber patriótico. Y comparó el desarrollo de herramientas de vigilancia de alta tecnología de su compañía con la invención de los libros, que según él se han utilizado tanto para el bien como para el mal. “Lo último que querríamos hacer es detener el progreso de las nuevas tecnologías,”, dijo Bezos, según un informe de la CNN. Uno podría esperar que lo último que Amazon quisiera hacer es desarrollar nuevas tecnologías que causen daño, pero aparentemente eso es menos preocupante para sus ejecutivos que obstaculizar la innovación.
Bezos hizo sonar una breve nota de preocupación, solo para descartarla al mismo tiempo: “Me preocupa que algunas de estas tecnologías sean muy útiles para que regímenes autocráticos se refuercen… Pero esto no es nuevo, siempre ha sido así”. Y lo resolveremos ”.
La idea de que la marcha de la innovación es inevitable, y de que no corresponde a las empresas guiar el uso de las nuevas tecnologías que crean, se ha incorporado a las estrategias de las empresas de tecnología durante décadas. Está implícito en el espíritu de “moverse rápido y romper cosas”, en la creencia de que es mejor para los innovadores pedir perdón que pedir permiso. Pero a medida que los costos sociales de estas innovaciones se han vuelto más pesados, plataformas antes transgresoras como Facebook, Google y Twitter, instigadas por sus propios empleados, han llegado a aceptar la opinión de que son realmente responsables, al menos en cierta medida, por el impacto de sus productos en la sociedad, y que tienen algún poder para moldearlos de manera proactiva.
Parece que Amazon no piensa lo mismo
Gilliard, el investigador que ha estado estudiando cómo Ring y Neighbors podría afectar a las minorías, dice que sospecha que Amazon no podrá mantener una actitud tan descarada hacia los impactos de sus productos, ya sean intencionados o no, durante mucho más tiempo.Él me dijo “Amazon todavía no ha tenido su momento de Cambridge Analytica”.
¿Cómo podría ser ese momento para Amazon? Gilliard vaciló por un momento y luego esbozó un escenario hipotético. Señaló que el servicio de entrega en el hogar de Amazon, Key les permite a los repartidores entregar los paquetes dentro de los garajes de los clientes, utilizando una cerradura inteligente. (Inicialmente había intentado dejarlas enfrente a las puertas de las casas de las personas ). Gilliard imagina a una persona de color de Amazon que ingresa al garaje de un cliente, y el cliente recibe una alerta de una persona sospechosa de uno de los productos de Amazon, como Ring o la aplicación Neighbors. La situación podría volverse fea. “Realmente espero que esto no suceda: creo que alguien saldría herido”, dijo Gilliard. “Un empleado de Amazon va a ser herido, arrestado, asaltado”.
En ausencia de un fiasco masivo y dominante, o de una repentina crisis de conciencia por parte de los empleados y ejecutivos de Amazon, la mejor defensa contra el exceso de vigilancia de la compañía podría ser la regulación. En mayo, San Francisco se convirtió en la primera ciudad importante de EE. UU. en prohíbir el reconocimiento facial. Los defensores de la tecnología encontraron la acción prematura y drástica. Pero un empleado anónimo de Amazon, cuya identidad fue verificada por Medium, advirtió que si no actuamos pronto, “el daño será difícil de deshacer.” Es igualmente difícil imaginar que los departamentos de policía renuncien al acceso a la aplicación Neighbors cuando confíen en ella, a menos que estén obligados a hacerlo. Y si bien es de esperar que Amazon deje de poner reconocimiento facial en los timbres de las puertas, en los autos o en los drones, sus líderes no nos han dado ninguna indicación de que vean un problema con eso.
Amazon ha superado las barreras de confianza social antes. Se lanzó como una librería online en 1995, solo un año después de la primera compra online en la historia de Internet. Amazon, junto con eBay, ayudó a persuadir al público de que usar su tarjeta de crédito en línea no eran tan loco como pensaban los escépticos.
Incluso cuando la compañía se ha expandido en direcciones aparentemente incongruentes, ha mantenido un enfoque riguroso en la racionalización de procesos que solían ser engorrosos, desde la entrega rápida y barata hasta el control de dispositivos inteligentes por voz. Se puede ver el mismo impulso en la forma en que Rekognition automatiza la tarea onerosa de comparar la cara de un solo sospechoso de algún delito con cientos de miles de fotografías instantáneas en una base de datos, o cómo Ring hace que sea perfecto alertar a los vecinos y a la policía cuando algo sospechoso ocurre en tu calle. Pero vale la pena preguntar, antes de hacer que la vigilancia sea tan fácil y ubicua como una compra de Amazon con un solo clic, si, después de todo, a la sociedad le convendría mantener algunas tareas un poco engorrosas.
Actualización: una versión anterior de esta historia identificó erróneamente la categoría de mercado en la que Amazon, a través de Ring, tiene una posición dominante. Tiene una posición dominante en el mercado de cámaras en los timbres. Una versión anterior identificó erróneamente una función gratuita de Ring como una función de pago. Los usuarios pueden ver las imágenes en vivo de forma gratuita, o almacenar y ver grabaciones por una tarifa. Una versión anterior no dejó en claro la naturaleza precisa del acceso de la policía al sistema Ring. Tienen acceso a imágenes de Ring compartidas a través de la aplicación Neighbors.
