Statua citofonica – Athanasius Kircher (1673)
El informe sobre el verdadero costo de la Inteligencia Artificial:
Anatomy of AI
Fast Company
Para el usuario, hacerle una pregunta a Alexa es el arquetipo de la facilidad. Para las personas que extrajeron los minerales, construyeron el altavoz y entrenaron a la IA, es todo lo contrario.
La explotación, la injusticia y el desperdicio que alimentan a nuestra IA
Por Katharine Schwab
«Alexa, ¿qué hora es?»
Es una pregunta simple que cualquier persona con un reloj puede responder con un mínimo esfuerzo. Pero cuando le preguntas a Amazon Echo la misma pregunta, se activa un vasto sistema impulsado por recursos naturales y mano de obra humana para obtener la respuesta. Como muchos de nosotros reconocemos el impacto de Silicon Valley en el mundo y consideramos cómo ha trastornado la vida, el trabajo y hasta la democracia, también debemos considerar la infraestructura, y el daño tangible que puede causar, que generalmente permanece oculto de estos usuarios como una experiencia aparentemente simple.
Es un aspecto de la IA que es casi imposible de comprender, y mucho menos visualizar, pero un nuevo mapa creado por el cofundador del AI Now Institute de la NYU y la investigadora de IA Kate Crawford y el especialista en visualización de datos Vladan Joler intentan, de todos modos, esta vertiginosa tarea.
Denominado Anatomía de un sistema de inteligencia artificial, el mapa y el ensayo correspondiente describen los componentes del Amazon Echo, desde los trabajadores humanos que extraen los materiales de tierras raras que alimentan sus chips hasta la caja negra de Amazon Web Services hasta los cables submarinos de Internet que pasan. información a través de los océanos. Cuando le preguntas a Alexa por la hora, todas estas piezas ocultas cobran vida, pero rara vez consideramos las consecuencias de preguntas aparentemente inocentes sobre el orden económico global y sobre la Tierra misma, en parte porque es muy difícil de entenderlo.
«La complejidad de rastrear el consumo de un producto de IA es asombrosa», dice Joler a Fast Company por correo electrónico. «Cada mapa, no importa cuán complejo o preciso sea, representa una simplificación o una reducción de la complejidad».
Joler y Crawford se conocieron en un retiro patrocinado por la Fundación Mozilla, y comenzaron a hablar sobre lo que se necesitaría para visualizar todo el sistema que subyace a los asistentes de voz, algo que está completamente oscurecido por el diseño industrial sencillo y redondeado de Echo y sus competidores .
«La extracción de minerales, la fundición, la logística, los cables de fibra óptica, las redes, el entrenamiento de la IA, la energía y los desechos electrónicos. . . es una tarea casi imposible, que requiere una escala alucinante «, dice Crawford. «Así que comenzamos dibujando versiones múltiples en papel madera, y nos tomó docenas de hojas».
Extrayendo los minerales para la fabricación de los productos
A partir de ahí, Joler y Crawford tardaron un año en investigar cada pieza de la cadena de suministro del Echo, descubrir el trabajo humano oculto que la mayoría de nosotros no piensa cuando consultamos a un asistente de voz, y poner la información histórica, geológica y antropológica en contexto.
No son solo los mineros: también son los humanos que operan el gigantesco aparato global de envío y fabricación que junta cada pieza del rompecabezas, son los trabajadores de clic quienes etiquetan y ordenan vastos conjuntos de datos sobre los cuales entrenar a la IA, y eres tú, el usuario, que actúa simultáneamente como «un consumidor, un recurso, un trabajador y un producto», como escriben Crawford y Joler en el ensayo. A través de esta lente, el procesamiento complejo de Echo se convierte en una historia de trabajo humano y -más perturbador- explotación humana. Un niño trabajador en las minas del Congo necesitaría trabajar durante 700,000 años sin parar para acumular el tipo de capital que el CEO de Amazon, Jeff Bezos, gana por día. «En todos los niveles, la tecnología contemporánea está profundamente arraigada en la explotación de los cuerpos humanos», escriben Crawford y Joler en el ensayo.
Visualmente, el dúo representa este tipo de explotación con la forma de un triángulo, que simboliza cómo se extrae y se produce el valor para contribuir al conjunto mayor. «Cada uno de esos triángulos es capaz de contarnos una historia diferente», dice Joler. «Desafortunadamente, en la mayoría de los casos esas historias son sobre condiciones de trabajo brutales, explotación y destrucción de recursos naturales».
Es apropiado que sea difícil leer el mapa y descubrir sus complejidades en la pantalla de una computadora. Joler recomienda que se comience con la Tierra en su esquina inferior izquierda y se rastree todo el ciclo de vida de un dispositivo de consumo de esa manera. Después de que las materias primas se formaron durante miles de millones de años, es trágico examinar cómo se extraen, se usan durante algunos años y luego se arrojan en una forma desgarrada y antinatural.
El objetivo final aquí es la transparencia, incluso si los dos escriben que «en muchos casos, la transparencia no ayudaría mucho, sin formas de elección real y responsabilidad corporativa, la mera transparencia no cambiará el peso de las actuales asimetrías de poder». Esto se debe a que, aunque las compañías tecnológicas adoran fingir ser transparentes, continúan ocultando deliberadamente los sistemas que hacen que la tecnología funcione, ya sea a través de secretos comerciales o información que simplemente se mantiene fuera del público. Por ejemplo, Amazon no ha publicado casi ninguna información sobre el impacto ambiental de Amazon Web Services, y es el proveedor de computación en la nube más grande del planeta.
Pero sin una mejor comprensión de la miríada de capas que forman un dispositivo como el Eco, no hay forma para interrogarse o mejorarlo, por el bien de nuestros compañeros humanos y nuestro planeta. Desde esa perspectiva, Anatomy of an AI es un comienzo que vale la pena.
«Queremos ofrecer a las personas una variedad de puntos de acceso para ver estos sistemas con nuevos ojos», dice Joler. «Entonces, con suerte, podremos imaginar escenarios mejores para un futuro más justo y sostenible».
Sobre la Autora
Katharine Schwab es editora asociada con sede en Nueva York y cubre tecnología, diseño y cultura. Envíelo por correo electrónico a kschwab@fastcompany.com y suscríbase a su boletín aquí: https://tinyletter.com/schwabability
Es importante para nosotros en el Sur tener claro este costo, cuando se habla de que las máquinas harán todo el trabajo, que el futuro será limpio y verde, etc. etc. no te dicen que vos estás en el Sur y desde ahí se extraerán las materias primas!. Tampoco te dicen que al Sur global le mandarán toda la basura que produce este sistema!
La explotación que hay detrás de un cacharro inteligente
No oficial 