Una primera traducción, por favor, si pueden mejorarla envien la versión a:
Eduardo#partidopirata.com.ar (reemplacen # por @)
Pioneros de la tecnología en los EE.UU. están abogando por un nuevo enfoque basado en datos de la gobernanza – la «regulación algorítmica». Pero si la tecnología proporciona las respuestas a los problemas de la sociedad, ¿qué ocurrirá con los gobiernos?
El 24 de agosto 1965 Gloria Placente, de 34 años, residente de Queens, Nueva York, se dirigía a Orchard Beach en el Bronx. Vestida con pantalones cortos y gafas de sol, el ama de casa tenía ganas de momentos de tranquilidad en la playa. Pero en el momento en que cruzó el puente de la avenida Willis en su Chevrolet Corvair, Placente fue rodeada por una docena de patrulleros. También hubo 125 periodistas, ansiosos de presenciar el lanzamiento de la Operación Corra del Departamento de Policía de Nueva York – un acrónimo de Recuperación Orientada por Computadora de Hurtos de Automóviles.
Quince meses antes, Placente había atravesado una luz roja y se descuidó en responder a las citaciones, una ofensa que Corral iba a castigar con una fuerte dosis de tecnología kafkiana. Funcionaba de la siguiente manera: un coche de policía se estacionaba en un extremo del puente enviaba por radio las matrículas de los coches que se acercaban a un operador de un teletypo a kilómetros de distancia, que alimentaba a un ordenador Univac 490, un costoso juguete de u$s 500.000 (u$s 3,5 millones en dólares actuales) prestado de la Sperry Rand Corporation. El equipo revisaba los números en una base de datos de 110.000 coches que estuvieran robados o pertenecían a delincuentes conocidos. En el caso de una coincidencia el teletipista alertaría a un segundo coche patrulla en el puente en la otra salida. Le tomaba, en promedio, tan sólo siete segundos.
En comparación con el impresionante engranaje de la policía de hoy – reconocimiento automático de matrículas, cámaras de CCTV [de vigilancia], GPS rastreadores- La Operación Corral parece pintoresca. Y las posibilidades de control sólo se expandireron. Los funcionarios europeos han considerado solicitar que todos los coches que entren en el mercado europeo cuenten con un mecanismo incorporado que le permita a la policía detener a los vehículos de forma remota. En declaraciones a principios de este año, Jim Farley, un alto ejecutivo de Ford, reconoció que «sabemos de cada uno de los que infringen la ley, sabemos cuando lo están haciendo. Tenemos un GPS en tu coche, así que sabemos lo que estás haciendo. Sin embargo, no compartimos esos datos con nadie. » Esto último no sonó muy tranquilizador y Farley se retractó de sus declaraciones.
A medida que los coches y las carreteras se hacen «inteligentes», prometen el comportamiento de forma casi perfecta, de las fuerzas del orden en tiempo real. En lugar de esperar a que los conductores rompan la ley, las autoridades pueden simplemente evitar el crimen. Así, un trecho de 50 millas de la A14 entre Felixstowe y Rugby se va a equipar con numerosos sensores que permitirían supervisar el tráfico mediante el envío de señales hacia y desde teléfonos móviles en vehículos en movimiento. El regulador de telecomunicaciones Ofcom prevé que tales carreteras inteligentes conectadas a un sistema de tráfico controlado centralmente podrían no solamente imponer automáticamente límites de velocidad variables para suavizar el flujo de tráfico, sino también dirigir los coches «a través de rutas de desvío para evitar la congestión e incluso [administrar] su velocidad».
Otros aparatos – desde teléfonos inteligentes a anteojos inteligentes – prometen aún más garantías y seguridad. En abril, Apple patentó la technología que despliega sensores en el interior del teléfono inteligente para analizar si el coche está en movimiento y si la persona que utiliza el teléfono está conduciendo; si se cumplen ambas condiciones, simplemente bloquea la característica de mensajes de texto del teléfono. Intel y Ford están trabajando en el Proyecto Mobil – un sistema de reconocimiento facial que, si no reconoce al rostro del conductor, no sólo evita que el coche arranque, sino que también envia la foto al dueño del auto (una mala noticia para los adolescentes).
El coche es un emblema de transformaciones en muchos otros ámbitos, desde los entornos inteligentes a la » vida asistida por el entorno «, donde alfombras y paredes detectan que alguien haya caído, a varios planes maestros para ciudades inteligentes, donde los servicios municipales envían recursos sólo a aquellas áreas que los necesitan . Gracias a los sensores y de la conectividad a internet, los objetos cotidianos más banales han adquirido un enorme poder para regular la conducta. Incluso los baños públicos están maduros para la optimización basada en sensores: la alarma Germ Safeguard, un dispensador de jabón inteligente desarrollado por Procter & Gamble y utilizado en algunos baños públicos en las Filipinas, cuenta con sensores de monitoreo de las puertas de cada baño. Una vez que lo dejas, la alarma comienza a sonar – y sólo puede ser detenida por la pulsación de un botón del dispensador de jabón.
En este contexto, el último plan de Google de impulsar su sistema operativo Android a los relojes inteligentes, coches inteligentes, termostatos inteligentes y, uno sospecha, todo inteligente, parece bastante ominoso. En un futuro próximo, Google será el intermediario interponiéndose entre tú y tu refrigerador, tú y tu coche, tú y tu cubo de basura, lo que satisfacerá a la Agencia de Seguridad Nacional su adicción a datos de forma masiva y a través de una sola ventana.
Esta «smartificación» de la vida cotidiana sigue un patrón familiar: hay datos primarios – una lista de lo que hay en tu refrigerador inteligente y tu receptor – y metadatos – un registro de la frecuencia con que abres a cualquiera de estas cosas o cuando se comunican unos con otros. Ambos producen ideas interesantes: señales de colchones inteligentes – un modelo reciente promete rastrear las tasas de respiración y del corazón y cuánto te mueves durante la noche – y utensillos inteligentes que ofrecen asesoramiento nutricional.
Además de hacer que nuestra vida sea más eficiente, este mundo inteligente también nos presenta una opción política emocionante. Si gran parte de nuestro comportamiento cotidiano ya es capturado, analizado y enviado, ¿por qué seguir con enfoques no empíricos de regulación? ¿Por qué confiar en las leyes cuando uno tiene sensores y mecanismos de retroalimentación? Si las intervenciones políticas deben ser – para usar las palabras de moda de la época – «basadas en la evidencia» y «orientadas a los resultados,» la tecnología está aquí para ayudar.
Este nuevo tipo de gobernabilidad tiene un nombre: regulación algorítmica. En tanto como Silicon Valley tiene un programa político, eso es todo. Tim O’Reilly, un editor de tecnología influyente, capitalista de riesgo y de las ideas del hombre (él es el culpable de popularizar el término «web 2.0») ha sido su promotor más entusiasta. En un ensayo reciente expone su razonamiento, O’Reilly hace un intrigante caso de las virtudes de la regulación algorítmica – un caso que merece un análisis exhaustivo tanto sobre lo que promete al formular políticas y los supuestos simplistas que hace sobre la política, la democracia y el poder.
Para ver a la regulación algorítmica trabajando, no busques más el filtro de spam en tu correo electrónico. En lugar de limitarse a una definición estrecha de correo no deseado, el filtro de correo electrónico tiene lo que sus usuarios le enseñan. Incluso Google no puede escribir reglas para cubrir todas las innovaciones ingeniosas de los spammers profesionales. Lo que puede hacer, sin embargo, es enseñarle al sistema lo que hace que una buena regla y acertar cuando es el momento de encontrar otra regla para hallar una buena regla – y así sucesivamente. Un algoritmo puede hacer esto, pero es la constante retroalimentación en tiempo real de sus usuarios lo que le permite al sistema contrarrestar amenazas nunca imaginadas por sus diseñadores. Y no se trata sólo de spam: el banco utiliza métodos similares para detectar el fraude de tarjetas de crédito.
En su ensayo, O’Reilly extrae enseñanzas filosóficas más amplias de este tipo de tecnologías, con el argumento de que funcionan porque se basan en «una profunda comprensión de los resultados deseados» (el spam es malo!) Y comprueban periódicamente si los algoritmos están funcionando como se esperaba ( ¿demasiados e-mails legítimos terminan marcados como spam?).
O’Reilly presenta a tales tecnologías como nuevas y únicas – estamos viviendo una revolución digital, después de todo – pero el principio detrás de la «regulación algorítmica» sería familiar a los fundadores de la cibernética – una disciplina que, incluso en su nombre (que significa » la ciencia del gobierno «) alude a sus grandes ambiciones reguladoras. Este principio, que le permite al sistema mantener su estabilidad por aprender constantemente y adaptarse a las circunstancias cambiantes, es lo que el psiquiatra británico Ross Ashby, uno de los padres fundadores de la cibernética, llamó «ultraestabilidad».
Para ilustrarlo, Ashby diseñó el homeostático. Este dispositivo inteligente consistía en cuatro unidades interconectadas de control de bombas RAF – que buscan cajas negras con un montón de botones e interruptores – que son sensibles a las fluctuaciones de voltaje. Si una unidad ha dejado de funcionar correctamente – por ejemplo, debido a una perturbación externa inesperada – los otros tres se recablean y reagrupan, compensandola por su mal funcionamiento y mantenimiendo la producción global de la estabilidad del sistema.
El homeostato de Ashby logra «ultraestabildad» monitoreando siempre a su estado interno y redistribuyendo sus recursos inteligentemente repuestos.
Al igual que el filtro de correo no deseado, no tiene que especificar todos los posibles disturbios – sólo las condiciones de cómo y cuando debe ser actualizado y rediseñado. Esta no es una salida trivial de los sistemas técnicos habituales, con su rígidas, reglas si-entonces, operativos: de repente, no hay necesidad de desarrollar procedimientos para gobernar todas las contingencias, por – o eso es de esperar – algoritmos y en tiempo real, la inmediata retroalimentación puede hacer un mejor trabajo que las reglas inflexibles de contacto con la realidad.
La regulación algorítmica sin duda podría hacer que la administración de las leyes existentes sea más eficiente. Si se puede luchar contra el fraude de tarjetas de crédito, ¿por qué no gravar el fraude? Los burócratas italianos han experimentado con la redditometro o metro de ingresos, una herramienta para comparar los patrones de gastos de las personas – registradas gracias a una ley italiana arcaíca – con tus ingresos declarados, las autoridades saben cuándo vas a gastar más de lo que ganas. España ha expresado su interés en una herramienta similar.
Estos sistemas, sin embargo, están sin dientes contra los verdaderos culpables de la evasión de impuestos – las familias super-ricas que se benefician de diversos planes de deslocalización o simplemente escriben exenciones fiscales escandalosas en la ley.
La regulación algorítmica es perfecta para hacer cumplir la agenda de austeridad, dejando a los responsables de la crisis fiscal afuera. Para entender si estos sistemas están funcionando como se esperaba, tenemos que modificar la pregunta de O’Reilly: ¿para quiénes están trabajando? Si se trata sólo de los plutócratas que evaden impuestos, las instituciones financieras internacionales interesadas en los presupuestos nacionales equilibrados y las empresas de desarrollo de software de seguimiento de los ingresos, entonces es casi un éxito democrático.
Con su creencia de que la regulación de algoritmos se basa en «una profunda comprensión de los resultados deseados», O’Reilly desconecta hábilmente los medios de hacer política de sus extremos. Pero el cómo de la política es tan importante como el que de la política – de hecho, la primera a menudo forma a la última.Todo el mundo está de acuerdo en que la educación, la salud y la seguridad son «resultados deseados», pero ¿cómo podemos alcanzarlos? En el pasado, cuando nos enfrentamos a la elección política austera de la entrega de ellos a través del mercado o del Estado, las líneas del debate ideológico eran claras. Hoy en día, cuando la presunta elección es entre lo digital y lo analógico, o entre la retroalimentación dinámica y la ley estática, la claridad ideológica se ha ido – como si la misma elección de la forma de lograr esos «resultados deseados» fuera apolítica y no nos fuerza a elegir entre diferentes y a menudo incompatibles visiones de la vida comunal.
Al asumir que el mundo utópico de los bucles de retroalimentación infinitos es tan eficiente que trasciende la política, los defensores de la reglamentación algorítmica están comprendidas en la misma trampa que los tecnócratas del pasado. Sí, estos sistemas son terriblemente eficientes – de la misma manera que Singapur es terriblemente eficiente (O’Reilly, como era de esperar, alaba a Singapur por su abrazo de la regulación algorítmica). Y mientras los líderes de Singapur puedan creer que ellos, también, han trascendido a la política, esto no significa que su régimen no pueda evaluarse fuera del pantano lingüístico de la eficiencia y la innovación – mediante el uso de puntos de referencia políticos y no económicos.
Como Silicon Valley se mantiene corrompiendo a nuestra lengua con su interminable glorificación de la disrrupción y la eficiencia – conceptos en desacuerdo con el vocabulario de la democracia – nuestra capacidad para cuestionar el «cómo» de la política se debilita. La respuesta por defecto de Silicon Valley a la forma de la política es lo que yo llamo solucionismo: los problemas deben ser tratados a través de aplicaciones, sensores y circuitos de retroalimentación – todas proporcionadas por startups. A principios de este año Eric Schmidt,de Google, incluso prometió que nuevas empresas proporcionarían la solución al problema de la desigualdad económica: esto último, al parecer, también puede ser objeto de «disrupción». Y donde los innovadores y los disruptores conducen, los siguen los burócratas.
Los servicios de inteligencia abrazaron al solucionismo ante que otras agencias gubernamentales. De este modo, redujeron el tema del terrorismo de un sujeto que tenía alguna relación con la historia y la política exterior a un problema de información de identificación, de amenazas terroristas emergentes, a través de una vigilancia constante. Instaron a los ciudadanos a aceptar que la inestabilidad es parte del juego, que sus causas no son ni trazables ni reparables, que la amenaza sólo puede ser prevista por nuevas innovaciones y la vigilancia externa del enemigo con mejores comunicaciones.
Hablando en Atenas en noviembre pasado, el filósofo italiano Giorgio Agamben discutió un cambio de época en la idea del gobierno, «por la cual se invierte la relación jerárquica tradicional entre causas y efectos, de modo que, en lugar de gobernar las causas – un compromiso difícil y caro – los gobiernos simplemente tratan de gobernar a través de los efectos »
Para Agamben, este cambio es un emblema de la modernidad. También explica por que la liberalización de la economía puede coexistir con la creciente proliferación del control – por medio de dispensadores de jabón y coches gerenciados de forma remota – en la vida cotidiana. «Si el gobierno apunta a los efectos y no a las causas, se verá obligado a extender y multiplicar el control. Causa la demanda que se conoce, mientras que los efectos sólo se pueden comprobar y controlar.» La regulación algorítmica es una representación de este programa político en forma tecnológica.
Las verdaderas políticas de regulación algorítmica se hacen visibles una vez que esta lógica se aplica a las redes sociales del estado de bienestar. No hay convocatorias para desmantelarlos, pero se anima a los ciudadanos, no obstante, a asumir la responsabilidad por su propia salud. Considere como Fred Wilson, un influyente capitalista de riesgo de EE.UU., enmarca el tema. «La salud … es el lado opuesto del sitema de salud», dijo en una conferencia en París el pasado mes de diciembre. «Es lo que te mantiene fuera del sistema de salud en primer lugar.» Por lo tanto, nos invita a empezar a utilizar las aplicaciones de auto-seguimiento y plataformas de intercambio de datos y el seguimiento de nuestros indicadores vitales, síntomas y discrepancias por nuestra cuenta.
Esto va muy bien con las propuestas políticas recientes para salvar los servicios públicos con problemas mediante el fomento de estilos de vida más saludables. Considere un informe de 2013, del consejo de Westminster y de la Unidad de Información del Gobierno Local, un centro de estudios, llamando a vincular los beneficios de la vivienda y aconsejando las visitas de los que reclaman al gimnasio – con la ayuda de tarjetas inteligentes. Ellos podrían no ser necesarios: muchos teléfonos inteligentes ya están rastreando la cantidad de pasos que tomamos todos los días (Google Now, el asistente virtual de la compañía, mantiene la puntuación de estos datos de forma automática y periódicamente se las presenta a sus usuarios, impulsándolos a caminar más).
Las numerosas posibilidades que ofrecen los dispositivos de seguimiento a las industrias de la salud y de seguros no se pierdan en O’Reilly. «¿Ustedes saben la forma en que la publicidad resultó ser el modelo de negocio nativo para Internet?» , preguntó en una reciente conferencia. «Creo que en el seguro va a ser el modelo de negocio nativo para la internet de las cosas . » Las cosas parecen estar yendo por este camino: en junio, Microsoft llegó a un acuerdo con American Family Insurance, la octava aseguradora de viviendas más grande en los EE.UU., en el que ambas compañías financiarán a nuevas empresas que quieran poner sensores en los hogares inteligentes y coches inteligentes con el propósito de «protección proactiva».
Una compañía de seguros con mucho gusto subsidiará los costos de instalar otro sensor en su casa – siempre y cuando pueda alertarle automáticamente a los bomberos o hacer que las luces de los porches frontales parpadeen en caso de que tu detector de humo se active. Por ahora, la aceptación de estos sistemas de seguimiento se enmarca como un beneficio extra que nos puede ahorrar algo de dinero. Pero ¿cuándo lleguemos a un punto donde no usarlos sea visto como una desviación – o, peor aún, un acto de ocultamiento – que debe ser castigado con primas más altas?
O pensemos en un informe de Mayo 2014 de 2020health, otro centro de estudios, proponiendo extender las rebajas de impuestos a los británicos que dejen de fumar, se mantengan delgados o beban menos. «Proponemos» pago por resultados «, una compensación económica para las personas que se conviertan en socios activos de su salud, por lo que si usted, por ejemplo, mantiene sus niveles de azúcar en sangre bajos, deje de fumar, mantenga el peso, [o] se cuide más, obtendrá una reducción de impuestos o un bono de fin de año «, declaran. Los aparatos inteligentes son los aliados naturales de tales esquemas: documentan los resultados e incluso pueden ayudar a alcanzarlos – molestándonos constantemente en hacer lo que se espera que hagamos.
La suposición no declarada de la mayoría de estos informes es que ser poco saludable no sólo es una carga para la sociedad, sino que merece ser castigada (fiscalmente por ahora) por no ser responsables. ¿Qué más podría explicar sus problemas de salud, sino sus fracasos personales? Ciertamente no es el poder de las compañías de alimentos o las diferencias de clases o varias injusticias políticas y económicas. Se puede usar una docena de sensores de gran alcance, tener un colchón inteligente e incluso hacer una lectura diaria de cerca de la caca de uno – como algunos aficionados de auto-seguimiento suelen hacer – pero esas injusticias existirán todavía, nadie las verá, porque ellas no son el tipo de cosas que se puede medir con un sensor. El diablo no usa datos. Las injusticias sociales son mucho más difíciles de rastrear que la vida cotidiana de las personas que las sufren.
Al cambiar el enfoque de la regulación de frenar el prevaricato institucional y corporativo a perpetuar la guía electrónica de los individuos, la regulación algorítmica nos ofrece una utopía tecnocrática-buena de la política sin política. El desacuerdo y el conflicto, en virtud de este modelo, se consideran subproductos desafortunados de la era analógica – que deben resolverse a través de la recopilación de datos – y no como resultados inevitables de los conflictos económicos o ideológicos.
Sin embargo, una política sin política no significa una política sin control o administración. Como O’Reilly escribe en su ensayo: «Las nuevas tecnologías hacen posible la reducción de la cantidad de regulación, aunque en realidad aumentan la cantidad de supervisión y la producción de los resultados deseados.» Por lo tanto, es un error pensar que Silicon Valley quiere librarnos de las instituciones gubernamentales. Su estado de sueño no es el pequeño gobierno de los liberales – un estado pequeño, después de todo, que no necesita ni de gadgets de lujo ni de grandes servidores para procesar datos – los obsesionados por datos y el estado obeso de datos de los economistas del comportamiento si lo necesitan.
El Estado empujador está enamorado de la tecnología de retroalimentación, su principio fundacional clave es que mientras nos comportamos de manera irracional, nuestra irracionalidad puede ser corregida – si sólo el ambiente actúa sobre nosotros, empujándonos hacia la opción correcta. Como era de esperar, una de las tres referencias solitarias al final del ensayo de O’Reilly es un discurso 2012 titulado » Regulación: Mirando Hacía Atrás, Mirando Hacía Delante«, de Cass Sunstein , destacado jurista norteamericano que es el principal teórico del estado empujador.
Y mientras los empujadores ya han capturado al Estado al hacer de la psicología del comportamiento el idioma preferido de la burocracia gubernamental – Daniel Kahneman está dentro, Maquiavello está fuera- el lobby de la regulación algorítmica avanza de manera más clandestina. Crean organizaciones sin fines de lucro inocuas como Code for America que luego cooptan al estado – con el pretexto de fomentar hackers talentosos para hacer frente a los problemas cívicos.
Estas iniciativas tienen por objeto reprogramar al Estado y hacerlo amigable a la retroalimentación, desplazando a otros medios de hacer política. Por todas aquellas aplicaciones de seguimiento, algoritmos y sensores para trabajar, las bases de datos que necesitan interoperabilidad – que es lo que este tipo de organizaciones pseudo-humanitarias, con su ardiente creencia en los datos abiertos, demandan. Y cuando el gobierno es demasiado lento para moverse a la velocidad del Silicon Valley, simplemente se mueven en el interior de él. Por lo tanto, Jennifer Pahlka, el fundador de Code for America ´[Código para EE.UU] y un protegido de O’Reilly, se convirtió en el segundo jefe de tecnología del gobierno de los EE.UU. -, mientras busca un año- de «comunión de la innovación» con la Casa Blanca.
Los gobiernos con problemas de liquidez son bienvenidos para ser colonizados por tecnólogos – sobre todo si ayuda a identificar y limpiar los conjuntos de datos que pueden ser provechosamente vendidos a empresas que necesitan estos datos para fines publicitarios. Recientes enfrentamientos por la venta de datos de estudiantes y de salud del Reino Unido son sólo un precursor de las batallas por venir: después que todos los bienes del Estado hayan sido privatizados, los datos son el próximo objetivo. Para O’Reilly, los datos abiertos son «un factor clave de la revolución de las mediciones».
Esta «revolución de las mediciones» busca cuantificar la eficiencia de los diversos programas sociales, como si la razón de ser de los servicios sociales que algunos de ellos proporcionan fuera alcanzar la perfección en esa entrega. La razón real, por supuesto, era permitir una vida plena por la supresión de ciertas ansiedades, de forma que los ciudadanos puedan realizar sus proyectos de vida en una tranquilad relativa. Esta visión desemboca en un vasto aparato burocrático y la crítica al estado de bienestar de la izquierda – la más prominente de Michel Foucault – que era el derecho a cuestionar sus inclinaciones y disciplinarlos. Sin embargo, ni la perfección ni la eficacia eran el «resultado deseado» de este sistema. Por lo tanto, comparar el estado de bienestar por el estado algorítmico por esos motivos es engañoso.
Pero podemos comparar sus respectivas visiones de la realización humana – y el papel que les asigna al mercado y al Estado. La oferta de Silicon Valley es clara: gracias a las espirales de retroalimentación ubicuas, todos podemos convertirnos en empresarios y cuidar de nuestros propios asuntos! Como dijo Brian Chesky, presidente ejecutivo de Airbnb, a Atlantic el año pasado, «¿Qué sucede cuando todo el mundo es una marca? ¿Cuando todo el mundo tiene una reputación? Toda persona puede convertirse en una empresaria.»
Bajo esta visión, seremos todos código (¡para los Estados Unidos) por la mañana, por la tarde manejaaremos un coche Uber, y alquilaremos nuestras cocinas como restaurantes – cortesía de Airbnb – a la noche. Como O’Reilly escribe sobre Uber y otras empresas similares, «estos servicios piden a todos los pasajeros que califiquen a su conductor (y los conductores que califiquen a su acompañante). Los conductores que prestan un mal servicio son eliminados. La reputación hace un mejor trabajo al asegurarle al cliente una experiencia magnífica mejor que cualquier cantidad de regulación del gobierno.»
El Estado detrás de la «economía del compartir» no se marchita; podría ser necesario para asegurar que la reputación acumulada en Uber, Airbnb y otras plataformas de la «economía colaborativa» sea totalmente líquida y transferible, la creación de un mundo donde se registra cada una de nuestras interacciones sociales y son evaluadas, borrando todas las diferencias que existen entre los dominios sociales. Alguien, en algún lugar con el tiempo será calificado como pasajero, invitado en nuestra casa, estudiante, paciente, cliente. Ya sea descentralizándose esta infraestructura de ranking, proporcionada por un gigante como Google o transfiriéndola al Estado aún no está claro, pero el objetivo general es: hacer que la reputación en una red social, de retroalimentación sea usada para que se pueda proteger verdaderamente a los ciudadanos responsables de las vicisitudes de la desregulación.
Admirando los modelos de reputación de Uber y Airbnb, O’Reilly quiere que los gobiernos vayan «adoptándolos donde no haya efectos negativos demostrables». Pero la regulación algorítmica quiere suprimir lo que cuenta como un «efecto perjudicial» y la forma de demostrar que es una pregunta clave que pertenece a la manera de hacer política. Es fácil demostrar los «efectos nocivos» si el objetivo de la regulación es la eficiencia, pero ¿y si se trata de algo más? Sin duda, ¿hay algunos beneficios – menos visitas al psicoanalista, quizás – en no tener todas sus interacciones sociales rankeadas?
El imperativo para evaluar y demostrar «resultados» y «efectos» ya presupone que el objetivo de la política es la optimización de la eficiencia. Sin embargo, mientras la democracia sea irreductible a una fórmula, sus valores compuestos siempre pierden esta batalla: son mucho más difíciles de cuantificar.
Para Silicon Valley, sin embargo, el estado algorítmico-obsesionado con la reputación de la economía colaborativa es el nuevo Estado de Bienestar. Si sos honesto y trabajador, tu reputación en línea lo reflejará, con la producción de un servicio social altamente personalizado. Se trataría de algo «ultraestable» en el sentido de Ashby: mientras que el Estado de Bienestar supone la existencia de males sociales específicos que trata de enfrentar, el Estado Algorítmico no hace tales supuestos. Las futuras amenazas pueden permanecer completamente incognoscibles y totalmente direccionables – a nivel individual.
Silicon Valley, por supuesto, no es el único que promociona este tipo de soluciones individuales ultraestables. Nassim Taleb, en su best-seller de 2012 Antifragile, hace un alegato similar, aunque más filosófico, a favor de la maximización de nuestro ingenio individual y capacidad de recuperación: no conseguiremos un trabajo, pero muchos, no tomarán deuda, contarán con sus propias capacidades . Es todo acerca de la resiliencia, toma de riesgos y, como Taleb dice, «tener la piel en juego». Como Julian Reid y Brad Evans escriben en su nuevo libro, La vida resiliente: El Arte de Vivir Peligrosamente Resilient Life: The Art of Living Dangerously, este creciente culto de máscaras de resiliencia son un reconocimiento tácito de que no hay un proyecto colectivo que podría incluso aspirar a dominar las amenazas que proliferan a la existencia humana – sólo podemos esperar estar dotados para abordarlos de forma individual. «Cuando los políticos se involucran en el discurso de la resisiliencia», escriben Reid y Evans, «lo hacen en términos que apuntan explícitamente a prevenir a los seres humanos a partir de la concepción del peligro como un fenómeno del que podrían buscar la libertad e incluso, en contraste, a los que ahora deben exponerse «.
Entonces, ¿cuál es la alternativa progresista? no funciona aquí «El enemigo de mi enemigo es mi amigo»: aunque Silicon Valley está atacando al estado del bienestar eso no significa que los progresistas lo estén defendiendo hasta la última bala (o tweet). En primer lugar, incluso los gobiernos de izquierda han limitado su espacio para maniobras fiscales, debido a que el tipo de gasto discrecional necesario para modernizar al Estado de bienestar nunca sería aprobado por los mercados financieros globales. Y son las agencias de calificación y los mercados de bonos – no los votantes – los que están al mando en la actualidad.
En segundo lugar, la crítica de la izquierda al Estado de bienestar se ha convertido más relevante sólamene ahora, cuando las fronteras exactas entre el bienestar y la seguridad son más borrosas. Cuando el poder del Android de Google sea mayor en nuestra vida cotidiana, la tentación del gobierno de gobernarnos a través de coches controlados de forma remota y de alarmas en los dispensadores de jabón será demasiado grande. Esto ampliará la recopilación del gobierno sobre aspectos de la vida hasta entonces libre de regulaciones.
Con tantos datos, argumento favorito del gobierno en su lucha contra el terrorismo – aunque sólo los ciudadanos saben tanto como nosotros, ellos también imponen todas esas excepciones legales – fácilmente extendible a otros ámbitos, desde la salud hasta el cambio climático. Considere la posibilidad de un reciente trabajo académico que utiliza los datos de búsqueda de Google para estudiar los patrones de obesidad en los EE.UU., encontrando una correlación significativa entre las palabras clave de las búsquedas y los niveles de índice de masa corporal. «Los resultados sugieren una gran promesa de la idea de la monitorear a la obesidad a través de la supervisión en tiempo real de los datos de Google Trends», señalan los autores, que sería «particularmente atractivo para las instituciones de salud del gobierno y empresas privadas, como las compañías de seguros.»
Si Google detecta una epidemia de gripe en alguna parte, es difícil cuestionar su corazonada – simplemente carecemos de la infraestructura necesaria para procesar tantos datos a esa escala. Google puede haberlo previsto mal, no verificado por los hechos, – como ha sido el caso reciente con la búsqueda de datos de evolución de la gripe , que tendieron a sobrevalorar el número de infecciones, posiblemente a causa de su incapacidad para darse cuenta de la intensa cobertura mediática de la gripe -, pero también lo es el caso de la mayoría de los alertas terroristas. Son la naturaleza inmediata en tiempo real de los sistemas informáticos los aliados perfectos de un estado en infinita expansión y obsesionado-con la previsión.
Tal vez, el caso de Gloria Placente y su fallido viaje a la playa no sea sólo una curiosidad histórica, sino un presagio temprano de cómo la computación en tiempo real, combinada con tecnologías de comunicación omnipresentes, transformarían al Estado. Una de las pocas personas que han respondido a ese presagio era el poco conocido publicista estadounidense llamado Robert MacBride, que llevó la lógica detrás de la Operación Corral hasta sus últimas consecuencias en su injustamente olvidado libro de 1967, El Estado Automatizado
En ese momento, en Estados Unidos se debatía la conveniencia de establecer un centro nacional de datos para agregar varias estadísticas nacionales y ponerlas a disposición de las agencias gubernamentales. MacBride atacó la incapacidad de sus contemporáneos para ver cómo el Estado podría explotar los metadatos derivados, ya que todo se estaba informatizando. En lugar de «a gran escala, hasta la fecha del imperio Austro-Húngaro», los sistemas informáticos modernos producirán «una burocracia de capacidad casi celestial» que puede «discernir y definir las relaciones de una manera que ninguna burocracia humana podría tener la esperanza de hacer «.
«Ya sea que uno mergulle en el Sunday o en cambio visite una biblioteca no habrá ninguna consecuencia ya que nadie comprobará esas cosas», escribió. No es así cuando los sistemas de computadoras pueden agregar datos de diferentes dominios y correlaciones. «Nuestro comportamiento individual en la compra y venta de un automóvil, una casa, o un valor, en el pago de nuestras deudas y en adquirir otras nuevas, y en ganar dinero y pagar, se observará meticulosamente y estudiará exhaustivamente», advirtió MacBride. De este modo, un ciudadano pronto descubrirá que en «la elección de suscripciones a revistas … se podrá encontrar una indicación con precisión de la probabilidad del mantenimiento de su propiedad o de su interés en la educación de sus hijos.» Esto suena inquietantemente similar al reciente caso de un padre desgraciado que descubrió que su hija estaba embarazada por un cupón enviado por, un minorista, a su casa. La corazonada de Target [la tienda de departamentos análisis de los productos – por ejemplo, una loción sin aroma – por lo general adquirida por otras mujeres embarazadas
[Vean esta entrada en el blog del Partido Pirata sobre el caso Target y el uso de los llamados Big Data para saber si una mujer está embarazada en función de sus compras en la tienda de departamentos Target]
Para MacBride la conclusión era obvia. «No se violan los derechos políticos, pero se asemejan a los de un pequeño accionista de una empresa gigante,» escribió. «La marca de sofisticación y savoir-faire en este futuro será la gracia y la flexibilidad con la que aceptaremos el papel de cada uno y se hace la mayoría de lo que se ofrece.» En otras palabras, ya que todos somos emprendedores primero – y ciudadanos después, podríamos ser la mayor parte de lo primero
Entonces, ¿qué hay que hacer? La tecnofobia no es una solución. Los progresistas necesitan tecnologías que sigan con ese espíritu, si no la forma institucional del Estado de bienestar, la preservación de su compromiso de crear condiciones ideales para el florecimiento humano. Incluso algunos ultraestables es bienvenida. La estabilidad era un objetivo loable del estado de bienestar antes de que se hubiera encontrado con una trampa: en la especificación de las protecciones exactas que el Estado iba a ofrecer contra los excesos del capitalismo, no se podía derivar fácilmente nuevas formas, previamente no especificadas, de explotación.
¿Cómo construimos un Estado de Bienestar que sea descentralizado y ultraestable? Una forma de renta básica garantizada – en los que algunos servicios de bienestar son reemplazados por las transferencias directas en efectivo a los ciudadanos – se ajusta a los dos criterios.
Crear las condiciones adecuadas para el surgimiento de comunidades políticas en torno a las causas y asuntos que se estimen pertinentes sería otro buen paso. El pleno cumplimiento del principio de ultraestabilidad requiere que estas cuestiones no se pueden anticipar o que sean dictadas desde arriba – por los partidos políticos o los sindicatos – y se debe dejar sin especificar.
Lo que se puede especificar es el tipo de infraestructura de comunicaciones necesaria para instigar a esta causa: debe ser libre para usar, difícil de rastrear, y abierto a nuevos usos subversivos. La infraestructura existente del Silicon Valley es ideal para satisfacer las necesidades del Estado, no de los ciudadanos de auto-organización. Puede, por supuesto, ser redistribuida para la causa del activista – y lo es a menudo – pero no hay razón para aceptar el status quo, ya sea como ideal o inevitable.
¿Por qué, después de todo, apropiarse de lo que debería pertenecer a la gente en primer lugar? Mientras muchos de los creadores de Internet lamentan lo bajo que ha caído su criatura, su ira está mal dirigida. La culpa no es con esa entidad amorfa, sino, en primer lugar, con la ausencia de una política sólida de tecnología desde la izquierda – una política que pueda contrarrestar el fomento de la innovación, a favor de la disrupción, una agenda pro-privatización del Silicon Valley. En su ausencia, todas estas comunidades políticas emergentes operarán con sus alas cortadas. Ya sea que quede por ver si el próximo Occupy Wall Street será capaz de ocupar cualquier cosa en una ciudad verdaderamente inteligente lo más probable es que fueran censurados y hechados.
Para darle el crédito, MacBride entiende todo esto en 1967. «Teniendo en cuenta los recursos de la tecnología y las técnicas modernos de planificación», advirtió, «no es realmente ningún gran truco transformar incluso a un país como el nuestro en una corporación que funcione sin problemas, donde cada detalle de la vida es una función mecánica para ser atendida «. El miedo de MacBride es el plan maestro de O’Reilly: el gobierno, escribe, debe ser modelado en el enfoque de «lean startup» de Silicon Valley, que está «utilizando datos para revisar constantemente y ajustar su enfoque para el mercado». Es este mismo enfoque que Facebook ha desplegado recientemente para maximizar la participación de sus usuarios en su sitio: si mostrar a sus usuarios con historias más felices es el truco, que así sea.
La regulación algorítmica, cualesquiera que sean sus beneficios inmediatos, nos darán un régimen político en el que las empresas de tecnología y los burócratas del gobierno tendrán todo. El escritor de ciencia ficción polaco Stanislaw Lem, en su Critica de la cibernética publicado, como es el caso, más o menos al mismo tiempo que El Estado Automatizado, lo dijo mejor: «La sociedad no puede renunciar a la carga de tener que decidir sobre su propio destino sacrificando la libertad en aras del regulador cibernético «.
No oficial 
Un comentario en “El alza de los datos y la muerte de la política”