Lanzallamas y Matafuegos: una revisión de “The Social Dilemma”- “El dilema social”

Librarian Shipwreck

“El mito de la inevitabilidad tecnológica, política y social es un poderoso tranquilizador de la conciencia. Su servicio consiste en quitarle la responsabilidad de los hombros a todos los que realmente creen en él. Pero, de hecho, son sus agentes!” –

Joseph Weizenbaum (1976)

¿Por qué fue la última vez que miraste a tu smartphone? ¿Necesitaste comprobar la hora? ¿Hacerlo fue una decisión consciente impulsada por la necesidad de hacer algo muy particular, o simplemente estabas aburrido? ¿Volviste a tu teléfono porque su zumbido y timbre te indicaron que le prestaras atención? Independientemente de las razones particulares, ¿a veces te encuentras pensando que estás mirando a tu teléfono (u otras pantallas computarizadas) con más frecuencia de lo que realmente deseas? ¿Y alguna vez has sentido, incluso si no te atreves a expresar esta sospecha en voz alta, que tus dispositivos te están manipulando?

La buena noticia es que no solo estás siendo paranoico, tus dispositivos fueron diseñados de tal manera que te mantendrán en constante interacción con ellos. La mala noticia es que no solo estás siendo paranoico, tus dispositivos fueron diseñados de tal manera que te mantendrán en contacto constante con ellos. Es más, en el frente de las malas noticias, estos dispositivos (y las plataformas que ejecutan) están constantemente absorbiendo información sobre ti y ahora te empujan e incitan por caminos concretos. Además, lamentablemente más malas noticias, estos dispositivos y plataformas no solo están causando estragos en tu capacidad de atención, sino que también están socavando a la estabilidad de tu sociedad. Sin embargo, a pesar de que hay muchos motivos de preocupación, la nueva película El Dilema Social en última instancia, tiene buenas noticias para ti: ¡una colección de antiguos expertos en tecnología están comenzando a hablar! Claro, muchas de estas personas son exactamente las personas responsables de construir las plataformas que actualmente están causando tantos estragos, pero tenían buenas intenciones, lo lamentan mucho y (¿escuchaste?) Tenían buenas intenciones.

Dirigida por Jeff Orlowski y lanzada en Netflix a principios de septiembre de 2020, El Dilema Social es un docudrama que pretende ofrecer un retrato implacable de lo que han logrado las plataformas de redes sociales. Si bien la película se compone de una mezcolanza de elementos, en el centro del trabajo hay una serie de entrevistas con ex alumnos de Silicon Valley que están preocupados por la dirección en la que sus antiguas empresas están empujando al mundo. El más notable de ellos, el personaje central de la película en la medida en que lo tiene, es Tristan Harris (anteriormente un especialista en ética del diseño en Google y uno de los cofundadores de The Center for Humane Technology), quien no solo es entrevistado repetidamente sino que también se lo muestra dando su testimonio ante el Senado y pronunciando un discurso estilo TED en una sala llena de luminarias tecnológicas. Este elenco de informantes arrepentidos se ve reforzado por un puñado de académicos y líderes de ONGs, que proporcionan un contexto adicional y peso teórico a los recuerdos de los iniciados. Y más allá de estas entrevistas, la película incorpora a un elemento cuasi-narrativo ficticio que representa a los miembros de una familia (en particular a sus tres hijos adolescentes) mientras navegan por su confuso mundo en Internet, con esta narrativa brindando a la película una oportunidad para dramatizar sorprendentemente como funcionan las redes sociales. . ”

El dilema social tiene algunos puntos importantes sobre la forma en que funcionan las redes sociales, y los expertos entrevistados, muchos de ellos que trabajaban dentro de las plataforma,  en la película aportan una perspectiva notable. Sin embargo, más allá de los ojos tristes, las animaciones perturbadoras y la música siniestra, El Dilema Social es una película manipuladora al igual que las plataformas de las redes sociales que critica. Si bien se presenta como una exposición clara de Silicon Valley, la película es, en última instancia, una gira de redención para un grupo de técnicos supuestamente reformados envueltos en un relato que está tan desesperada por apelar a “ambos lados” que no está dispuesta a decir verdades duras. .

La película advierte que las empresas de redes sociales no son tus amigas, y eso es completamente verdadero, pero El Dilema Social tampoco es tu amigo.

El Dilema Social

A medida que comienza la película, los expertos se presentan, nombrando a las empresas en las que habían trabajado e identificando algunos de los elementos particulares (como el botón “me gusta”) con los que estaban involucrados. Sus presentaciones están salpicadas de expresiones de preocupación entremezcladas con comentarios serios sobre cómo “Nadie, lo creo profundamente, nunca pretendió alguna vez ninguna de estas consecuencias”, y que “No hay ningún tipo malo”. A medida que la película pasa a Tristan Harris ensayando para la charla que se presentará más adelante en la película, él comenta que “hay un problema en la industria de la tecnología y no tiene nombre”. Después de relatar su despertar personal, mientras trabajaba en Google, y su intento de provocar un debate serio sobre estos temas con sus compañeros de trabajo, la película encuentra “un nombre” para el “problema” al que Harris aludía: “capitalismo de vigilancia”.

“La pensadora que acuñó ese término, Shoshana Zuboff, parece discutir este concepto que captura la forma en que Silicon Valley prospera no con el trabajo de los usuarios, sino con cada detalle que pueden absorber sobre esos usuarios y luego vendérselo a los anunciantes .

Después de ser nombrado, el “capitalismo de vigilancia” flota en el fondo explicativo, ya que la película considera cómo las empresas de redes sociales persiguen constantemente tres objetivos: involucramiento (para que sigas regresando), crecimiento (para que atraigas a más usuarios) y publicidad (para mejorar poniendo el anuncio correcto frente a tus ojos, que es la forma como las plataformas ganan dinero). Los algoritmos detrás de estas plataformas se modifican constantemente a través de pruebas A / B, y cada pequeña mejora se centra en mantener a los usuarios más involucrados. Surgen numerosos problemas: diseñadas para ser adictivas, estas plataformas y dispositivos atraen la atención de los usuarios; los adolescentes (especialmente los jóvenes) luchan porque su sentido de autoestima se vincule a los “me gusta”; la desinformación se propaga rápidamente en un ecosistema de información donde lo incendiario recibe más atención que lo verdadero; y los lentos procesos de la democracia luchan por mantenerse al día con la velocidad de la tecnología. Aunque las preocupaciones son graves y los entrevistados están claramente preocupados, la tonalidad sigue siendo de esperanza; el problema aquí no son realmente las redes sociales, sino el “capitalismo de vigilancia”, y si se puede frustrar al “capitalismo de vigilancia”, entonces se puede alcanzar el verdadero potencial de las redes sociales. ¿Y las personas que lideran esa carga contra el “capitalismo de vigilancia”? Pues, nada menos que los expertos de adentro de las redes reformados de la película. ”Y si se puede frustrar al“ capitalismo de vigilancia ”, entonces se puede alcanzar el verdadero potencial de las redes sociales. ¿Y las personas que lideran esa carga contra el “capitalismo de vigilancia”? Pues, nada menos que los [insiders iniciados reformados de la película. ”Y si se puede frustrar el“ capitalismo de vigilancia ”, entonces se puede alcanzar el verdadero potencial de las redes sociales. ¿Y las personas que lideran esa carga contra el “capitalismo de vigilancia”? Pues, nada menos que los expertos reformados de la película.

Si bien la mayor parte de la película consiste en entrevistas y clips de noticias, la película es interrumpida periódicamente por una narrativa en la que se muestra a una familia con tres hijos adolescentes. La madre (Barbara Gehring) y el padrastro (Chris Grundy) están preocupados por el uso de las redes sociales de sus hijos, incluso cuando ellos mismos están pegados a sus propios dispositivos. En cuanto a los chicos: la mayor Cassandra (Kara Hayward) se presenta como escéptica hacia las redes sociales, la más joven Isla (Sophia Hammons) está ansiosa por su popularidad online, y el hijo del medio Ben (Skyler Gisondo) eventualmente cae en la trampa del contenido conspirativo recomendado. A medida que los expertos y los académicos hablan sobre los diversos peligros de las redes sociales, la película cambia de narrativa dramatizando a estos momentos; así luego de una discusión sobre el impacto de las redes sociales en los jóvenes adolescentes, particularmente las niñas, corte a Isla angustiada después de que agregan un comentario insultante a una de las imágenes que sube. Cassandra (la elección de ese nombre no puede ser una coincidencia) se presenta como la más acorde con el mensaje general de la película y el personaje se refiere a Jaron Lanier como un “genio” y en otra secuencia se la muestra leyendo el libro de Zuboff.La era del capitalismo de la vigilancia . Sin embargo, es casi seguro que el miembro de la familia en el que más se concentra la película es Ben. Con el fin de dramatizar cómo funciona un algoritmo, la película vuelve repetidamente a una representación espeluznante de la publicidad, el involucramiento y el crecimiento las Inteligencias Artificiales IAs (todas interpretadas por Vincent Kartheiser) mientras planean como Ben permanezca pegado a su teléfono. Más allá de las pantallas, el mundo narrativo está siendo sacudido por un extraño movimiento de protesta que se hace llamar “El Centro Extremo”, cuyo argumento parece ser que no se puede confiar en ambas partes, y Ben finalmente se ve envuelto en su mensaje. La narrativa de la familia concluye con Ben y Cassandra siendo arrestados en un ruidoso mitin organizado por “El Centro Extremo”, sentados, esposados, ​​en el suelo y preguntándose cómo es que esto pudo haber sucedido.

En la medida en que El Dilema Social se construye hacia una conclusión, el discurso que pronuncia Harris (ante un público que incluye a muchos de los otros entrevistados en la película). Y en ese discurso, y en los demás comentarios que se hicieron al respecto, el punto que se enfatiza es que Silicon Valley debe alejarse del “capitalismo de vigilancia”. Debe adoptar la “tecnología humana” que busca empoderar a los usuarios y no atraparlos. Haciendo hincapié en que, a pesar de cómo han salido las cosas, que “no creo que estos tipos se propusieran ser malvados”, los diversos expertos duplicaron su creencia en el potencial liberador de la alta tecnología. Contrastando imágenes bastante poco halagadoras de Mark Zuckerberg (sin nombrarlo nunca) testificando con imágenes de Steve Jobs con su icónica polera, la película afirma “la idea de tecnología humana, ahí es donde Silicon Valley comenzó”. Y antes de que salgan los créditos Harris parece hablar en nombre de sus compañeros expertos de dentro de las redes y señala que “construimos estas cosas y tenemos la responsabilidad de cambiarlas”. Para aquellos que encontraron la película inquietante y que están confundidos por exactamente lo que deben hacer si no son parte del “nosotros” de Harris, la película ofrece algunos consejos sencillos. Basándose en sus propios hábitos digitales, los expertos recomiendan: apagar las notificaciones, no ver nunca un video recomendado, optar por un motor de búsqueda menos invasivo, tratar de escapar de su burbuja de contenidos, mantener sus dispositivos fuera de su habitación y ser un consumidor crítico de la información. ”La película ofrece algunos consejos sencillos. Basándose en sus propios hábitos digitales, los expertos recomiendan: apagar las notificaciones, no ver nunca un video recomendado, optar por un motor de búsqueda menos invasivo, tratar de escapar de su burbuja de contenido, mantener sus dispositivos fuera de su habitación y ser un consumidor crítico de información.

Es una película inquietante y está construida para inquietar al espectador, pero aún así termina con una nota esperanzadora: la reforma es posible y la gente de esta película está liderando esa lucha. El problema no son las redes sociales como tales, sino las formas en que el “capitalismo de vigilancia” ha frustrado lo que realmente podrían ser las redes sociales. Si, después de ver El Dilema Social, te sientes preocupado por lo que el “capitalismo de vigilancia” ha hecho en las redes sociales (y te sientes preparado para hacer algunos ajustes en tu uso de las redes sociales) pero, en última instancia, confía en que los expertos de Silicon Valley están en el caso, entonces la película ha cumplido su misión. Después de todo, es posible que la película te indique que desactives las notificaciones de Facebook, pero no recomienda eliminar tu cuenta.

Sin embargo, uno de los puntos que señala la película es que no debes aceptar la información que las redes sociales te presentan al pie de la letra. Y con el mismo espíritu, tampoco debes aceptar los comentarios hechos por los que están tan arrepentidos de Silicon Valley al pie de la letra. Para ser absolutamente claro: debemos preocuparnos por los impactos de las redes sociales, debemos trabajar para controlar el poder de estas empresas de tecnología, debemos estar dispuestos a tener la difícil discusión sobre en qué tipo de sociedad queremos vivir. … pero no debemos creer que las personas que nos metieron en este lío, que no tuvieron la previsión de ver las posibles desventajas de lo que estaban construyendo, nos sacarán de este lío. Si estos expertos realmente no vieron las posibles desventajas de lo que estaban construyendo, entonces son tontos en quienes no se debe confiar.

Es cierto, los pirómanos saben mucho sobre cómo provocar incendios, y un pirómano reformado podría darte algunos consejos útiles de seguridad contra incendios, pero siguen siendo pirómanos.

Hay mucho que decir sobre el dilema social . De hecho, cualquiera que se preocupe por estos temas (desafortunadamente) debe involucrarse con El Dilema Social, aunque solo sea por el hecho de que esta película será ampliamente vista y, por lo tanto, sentará gran parte del terreno sobre el que se desarrollan estas discusiones. Por tanto, es importante diseccionar ciertos elementos de la película. Para ser claros, hay mucho que explorar en El Dilema Social.—Se podría publicar fácilmente un número de libros o revistas en el que el docudrama esté dividido en segmentos de cinco minutos y a los académicos y activistas se les asigne un segmento para comentar. Si bien aquí no hay espacio para ofrecer un análisis cuadro por cuadro de toda la película, hay algunos segmentos clave en la película que merecen ser considerados. Especialmente porque estos momentos claves capturan muchos de los problemas más importantes de la película.

“Cuando aparecieron las bicicletas”

Un momento en El Dilema Social que resume perfectamente, aunque sin quererlo, a muchos de los principales defectos de la película, se produce cuando Tristan Harris opina sobre la historia de las bicicletas. Hay varios problemas en estos comentarios, pero en conjunto estas líneas te brindan casi todo lo que necesitas saber sobre la película. Como dice Harris:

“Nadie se molestó cuando aparecieron las bicicletas. ¿Correcto? Por ejemplo, si todo el mundo empieza a andar en bicicleta, nadie dice: ‘Dios mío, acabamos de arruinar a la sociedad. [risas] Al igual que las bicicletas están afectando a la gente. Están alejando a la gente de sus hijos. Están arruinando el tejido de la democracia. La gente no puede decir lo que es verdad ‘. Como si nunca hubiéramos dicho nada de eso sobre una bicicleta “.

Aquí está el problema, los comentarios de Harris sobre las bicicletas están equivocados.

Simplemente son históricamente inexactos. Algunas investigaciones básicas sobre la historia de las bicicletas que analizan las formas en que las personas reaccionaron cuando las presentaron revelaría que, de hecho, muchas personas estaban bastante “molestas cuando aparecieron las bicicletas”. Las personas estaba absolutamente preocupada de que las bicicletas estuvieran “afectando a la gente”, y ciertamente había algunos que estaban preocupados por lo que estas nuevas tecnologías significaban para “el tejido de la democracia”. Es cierto que el hecho de que haya habido reacciones adversas a la introducción de las bicicletas no debe ser visto como algo particularmente sorprendente, porque incluso una lectura bastante superficial de la historia de la tecnología revela que cuando se introducen nuevas tecnologías tienden a ser recibidas no solo con entusiasmo, sino también con pavor.

Sin embargo, lo que hace que el argumento de Harris sea tan interesante no es solo que esté equivocado, sino que lo diga con tanta confianza mientras está tan equivocado. Sonriendo ante la cámara, en lo que obviamente se supone que es un momento de humor, Harris hace un comentario sobre las bicicletas que seguramente se quedará en muchos espectadores, y lo que realmente está revelando es que necesita tomar algunas clases de historia (o al menos leer un poco). Es realmente bastante notable que esta secuencia haya llegado al corte final de la película. Esta fue claramente una producción costosa, pero ¿no podrían haber contratado a un estudiante de posgrado para ver la película y señalar “oye, realmente deberías cortar esta parte de las bicicletas, está mal”? Es difícil darle mucha importancia a Harris y sus amigos como emisarios de la verdad tecnológica cuando no pueden molestarse en hacer una investigación básica.

Que Harris hable con tanta certeza sobre algo en lo que está tan equivocado llega a uno de los problemas centrales con los expertos reformados de El Dilema Social.. Aunque se trata de personas claramente inteligentes (se pone mucho énfasis en las escuelas elegantes a las que asistieron), saben mucho menos de lo que les gustaría que los espectadores creyeran. Por supuesto, una de las formas en que pueden evitar esto es fingiendo la seguridad de que saben de lo que están hablando, lo que se manifiesta haciendo afirmaciones grandiosas sobre cosas como las bicicletas que simplemente no se sostienen. El punto no es burlarse de Harris por este error (aunque realmente es extraordinario que el segmento no se haya cortado), sino señalar el siguiente punto: si Harris y sus amigos hubieran sabido un poco más sobre la historia de la tecnología, y quizás si tuvieran un poco más de humildad acerca de lo que no saben, quizás no nos hubieran metido a todos en este lío.

Un punto que hacen notar muchos de los expertos [ex-integrantes de las grandes empresas] entrevistados para la película es que no sabían cuáles serían los impactos. Una y otra vez escuchamos alguna variación de “teníamos buenas intenciones” o “realmente pensamos que estábamos haciendo algo grandioso”. Es fácil tomar tales comentarios como expresiones de remordimiento, pero es más importante verlos como confesiones de esa peligrosa mezcla de arrogancia e ignorancia histórica/social que es tan común en Silicon Valley. O, para decirlo de manera ligeramente diferente, estos expertos realmente necesitaban tomar más cursos de humanidades. ¿Sabes cómo podrías haber sabido que las tecnologías a menudo tienen consecuencias imprevistas? Estudia la historia de la tecnología. ¿Sabes cómo podrías haber sabido que las nuevas tecnologías de los medios tienen implicaciones políticas discordantes? Lee a algunas estudios sobre medios hechos por becarios. Un punto que surge una y otra vez en tales trabajos académicos, particularmente en trabajos que se enfocan en el contexto estadounidense, es que el optimismo y el entusiasmo por las nuevas tecnologías a menudo impide que las personas (incluidos sus inventores) vean los riesgos bastante obvios, y todos estos lamentables de adentro de las empresas podrían haber sabido eso … si tan solo hubieran estado dispuestos a hacer alguna lectura. Lamentablemente, como sabe cualquiera que haya pasado algún tiempo en una aula, una forma tradicional de encubrir el hecho de que no has leído lo encomendado es simplemente hablar con mucha confianza y esperar que tu confianza distraiga con éxito el hecho de que no leíste.

Sería una exageración afirmar que “¡todos estos problemas podrían haberse evitado si estas personas solo hubieran estudiado historia!” Y, sin embargo, estos expertos (y la sociedad en general) probablemente estarían en mejores condiciones de dar sentido a estos diversos problemas tecnológicos si más personas tuvieran una comprensión de esa historia. Como mínimo, tal conocimiento histórico puede proporcionar advertencias sobre cómo las sociedades a menudo luchan por adaptarse a las nuevas tecnologías, puede enseñar cómo el progreso tecnológico y el progreso social no son sinónimos, puede demostrar cómo las tecnologías tienen la desagradable costumbre de tragárselo y puede dejar en claro las muchas formas en las que las esperanzas liberadoras iniciales asociadas a una tecnología tienden a desvanecerse a medida que se hace evidente que la nueva tecnología ha reinscrito en gran medida un status quo bastante conservador.

Como mínimo, saber un poco más sobre la historia de la tecnología puede evitar que se avergüence al afirmar con seguridad que “nunca dijimos nada de eso sobre una bicicleta”.

“Desestabilizar”

Si bien El Dilema Social expresa preocupación por como las tecnologías digitales impactan en el cuerpo de una persona, la película está aún más preocupada por la forma en que estas tecnologías impactan en el cuerpo político. Una preocupación que se refleja en el comentario de Harris de que:

“Nosotros, en la industria de la tecnología, hemos creado las herramientas para desestabilizar y erosionar al tejido de la sociedad”.

Esa es una afirmación bastante condenatoria, incluso aunque sea una de las afirmaciones de la película que probablemente no sea tan controvertida en estos días. Aunque muchos de los expertos de la película anhelan con nostalgia esos días idílicos de hace diez años cuando gran parte de los medios y el público miraban con tanta calidez a Silicon Valley, esta película se estrena en un momento en el que gran parte de ese entusiasmo se ha agriado. Una de las cosas extrañas de El Dilema Social es que la política está simultáneamente en toda la película y, sin embargo, la política en la película es muy resbaladiza. Cuando la película advierte sobre el autoritarismo que se avecina: Bolsanaro tiene algo de tiempo en la pantalla, Putin tiene un tiempo de pantalla siniestro, aunque Trump se asoma en el fondo de la película, prácticamente no se le ve ni se le nombra. Y cuando los políticos estadounidenses hacen apariciones, tenemos a Marco Rubio y Jeff Flake hablando de cómo la gente se ha polarizado demasiado y Jon Tester reacciona con malestar al testimonio de Harris. Por supuesto, en el clip que se muestra, Rubio habla de algunos tópicos agradables sobre las virtudes de unirse… pero ¿cómo es su historial de votaciones?

El tratamiento de la política en El Dilema Social aparece más claramente en el segmento narrativo, en el que se presta mucha atención a un grupo que se llama a sí mismo “El Centro Extremo”. Aunque la ideología de este grupo nunca se aclara del todo, parece ser un grupo conspirativo que toma como posición que “ambos lados son corruptos”, rechazando a la izquierda y a la derecha, por lo tanto, se coloca en “el centro extremo”. Es en este grupo, y en la trampa política de su contenido, donde Ben cae, y la ruidosa manifestación (que termina en arrestos) en el segmento de la ficción es una realizada por el “centro extremo”. Puede parecer que “el centro extremo” es solo una técnica de narración simple, pero más que cualquier otra cosa, parece que la creación de este movimiento de protesta ficticio es en realidad solo una forma en que la película tiene que lidiar con la política del mundo real. .

La película incluye fragmentos de varias protestas (aunque no se molesta en explicar quiénes son estas personas y por qué están protestando), y hay algunos momentos en los que se puede escuchar a varias personas criticando específicamente a demócratas o republicanos. Pero incluso cuando la película advierte sobre la “trampa”, en realidad no le dedica mucho tiempo a los ejemplos. Diablos, la primera vez que se pronuncian las palabras “capitalismo de vigilancia” en la película es en un clip de Tucker Carlson. Se tocan algunos puntos sobre el “pizzagate“, pero el documental evita comentar sobre la teoría de la conspiración de QAnon que se está extendiendo rápidamente. Y la única conspiración específica que recibe una atención significativa, es la conspiración de la “tierra plana”. De acuerdo, es bastante fácil burlarse de los terraplanistas, y al centrarse en ellos, la película toma una decisión muy consciente de no centrarse en el contenido de la supremacía blanca y de QAnon. Ben cae por la trampa del “centro extremo”, y bien puede ser que la razón por la que los cineastas lo hagan caer en esta trampa ficticia sea para que no tengan que hablar de la probabilidad de que (en el mundo real) probablemente caería en una trampa de la extrema derecha. Pero El Dilema Social no quiere dejar ese punto, después de todo, en la visión política que plantea el problema es que hay demasiada polarización y extremismo en ambos lados.

El dilema social claramente quiere evitar tomar partido. Y al hacerlo, demuestra las formas en que Silicon Valley ha tomado partido. Después de todo, centrarse tanto en la polarización y el extremismo de “ambos lados” solo sirve para crear una falsa equivalencia donde no existe ninguna. Pero, la opinión de que “la administración Trump ha manejado mal la pandemia” y la opinión de que “la pandemia es un engaño”, no son equivalentes. La opinión de que “el cambio climático es real” y “el cambio climático es un engaño” no son equivalentes. Las personas que se organizan por la justicia racial y las personas que se organizan porque creen que los demócratas son pedófilos caníbales satánicos, no son equivalentes. La opinión de que “hay demasiado dinero en la política” y la opinión de que “los judíos están moviendo los hilos” no son equivalentes. Por supuesto, decir que estas cosas “no son equivalentes” es hacer un juicio político, El dilema social presenta a ambos lados como equivalentes. Hay personas online que se están organizando por la causa de la justicia racial, y hay supremacistas blancos que se están organizando online y están tratando de iniciar una guerra racial. Esas causas pueden parecerle iguales a un algoritmo y a la gente que creo los algoritmos pueden parecerle iguales, pero no son lo mismo.

No puede abordar el hecho de que Facebook y YouTube se han convertido en centros de contenido conspirativo xenófobo violento a menos que esté dispuesto a reconocer que Facebook y YouTube impulsan activamente el contenido conspirativo xenófobo violento.

Si bien es absolutamente verdad que hay movimientos activistas de izquierda y de derecha que se están organizando online en este momento, pero cuando miras el avance de una película en YouTube, el siguiente video recomendado no será una charla de Angela Davis.

“Son los críticos”

Gran parte del contenido de El Dilema Social es inquietante y la película deja en claro que el cambio es necesario. Sin embargo, la película termina con una nota positiva. Alejándose de la tristeza, la película muestra a la audiencia absorta asintiendo mientras Harris habla de la necesidad de “tecnología humana”, y este elenco reunido de expertos reformados se presenta como prueba de que Silicon Valley está despertando a la necesidad de asumir la responsabilidad. Cerca del final de la película, Jaron Lanier comenta con suerte que:

“Son los críticos los que impulsan la mejora. Son los críticos quienes son los verdaderos optimistas “.

Así, la sensación que se transmite al cierre de la película es que, a pesar de las diversas preocupaciones que se habían expresado, los críticos están trabajando en ello y los críticos se sienten bien.

Pero, ¿quiénes son los críticos?

Las personas entrevistadas en la película, obviamente.

Y ese es precisamente el problema. “Crítico” es una especie de término desafiante con el que luchar, ya que no necesariamente se necesita mucho para poder llamarse crítico a sí mismo o a otra persona. Por lo tanto, los diversos expertos que son entrevistados en la película pueden ser considerados “críticos” y todos pueden afirmar ser “críticos” gracias al simple hecho de que están dispuestos a decir algunas cosas críticas sobre Silicon Valley y las redes sociales. . Pero, ¿cuál es el contenido real de las críticas que se hacen? Algunos críticos van a ser más críticos que otros, entonces, ¿qué tan críticos son estos críticos? No mucho.

El Dilema Social es una gira de redención que permite que un grupo de expertos de Silicon Valley con remordimientos se renueven a si mismos como críticos. Según la información proporcionada en la película, parece bastante obvio que muchas de estas personas son responsables de causar una gran cantidad de sufrimiento y destrucción, pero la película no sostiene que estos hombres (y son casi en su totalidad hombres) sean responsabilizados por sus hechos. Los expertos tienen cosas duras que decir sobre los algoritmos, ellos también han sido sacudidos por empujones sin fin, también están preocupados por la trampa, están indignados de cómo el “capitalismo de vigilancia” ha deformado las posibilidades tecnológicas, pero recuerda, tenían buenas intenciones, y lo sienten mucho.

Una de las cosas fascinantes de El Dilema Social es que en una escena una persona notará con orgullo que es responsable de crear una determinada cosa, y luego en la siguiente escena dirá que nadie tiene la culpa de esa cosa. Por supuesto que no ellos, ¡pensaron que estaban haciendo algo grandioso! Los expertos quieren simultáneamente disfrutar de la influencia cultural y la autoridad que proviene de ser quien creó el botón Me gusta, mientras que también quieren escapar de cualquier responsabilidad por ser la persona que creó el botón Me gusta. Están dispuestos a ser críticos con Silicon Valley, están dispuestos a ser críticos con las herramientas que crearon, pero cuando se trata de su propia culpabilidad, están desesperados por esconderse detrás de un escudo de “Tenía buenas intenciones”. Los expertos hacen un buen trabajo al decir palabras de arrepentimiento, y la cámara los capta luciendo apropiadamente pensativos,
pero no es de extrañar que estos “críticos” se sientan optimistas, han hecho fortunas arruinando por completo a la sociedad y han hecho un trabajo tan bueno saliéndose con la suya que ahora están logrando elevarse una vez más al reinventarse ellos mismos como “críticos”.

Ser un crítico de la tecnología, ser un crítico social en general, rara vez es una empresa particularmente agradable o particularmente rentable. La mayoría de las veces, si dices algo crítico sobre la tecnología, se burlaran de ti como ludita, se reirán de ti como un “profeta de la fatalidad”, dirán que eres un tecnófobo, se te acusará de querer que todos sean trogloditas y se te excluirá del discurso público. . Esa es la historia de muchos de los críticos sociales más notables del siglo XX que dieron la alarma sobre los peligros de las computadoras décadas antes de que nacieran la mayoría de los expertos de El Dilema Social . De hecho, si estás buscando una respuesta completa al dilema social, puedes hacerlo mejor leyendo Computer Power and Human Reason , de Joseph Weizenbaum, un libro que salió a la luz en 1976. El hecho de que se esté haciendo una película como El Dilema Social puede ser un testimonio de algunas actitudes cambiantes hacia ciertos tipos de tecnología, pero no hace tanto tiempo que si te atrevías a sugerir que Facebook era un problema te denunciaban como enemigo del progreso.

There are many phenomenal critics speaking out about technology these days. To name only a few: Safiya Noble has written at length about the ways that the algorithms built by companies like Google and Facebook reinforce racism and sexism; Virginia Eubanks has exposed the ways in which high-tech tools of surveillance and control are first deployed against society’s most vulnerable members; Wendy Hui Kyong Chun has explored how our usage of social media becomes habitual; Jen Schradie has shown the ways in which, despite the hype to the contrary, online activism tends to favor right-wing activists and causes; Sarah Roberts has pulled back the screen on content moderation to show how much of the work supposedly being done by AI is really being done by overworked and under-supported laborers; Ruha Benjamin has made clear the ways in which discriminatory designs get embedded in and reified by technical systems; Christina Dunbar-Hester has investigated the ways in which communities oriented around technology fail to overcome issues of inequality; Sasha Costanza-Chock has highlighted the need for an approach to design that treats challenging structural inequalities as the core objective, not an afterthought; Morgan Ames expounds upon the “charisma” that develops around certain technologies; and Meredith Broussard has brilliantly inveighed against the sort of “technochauvinist” thinking—the belief that technology is the solution to every problem—that is so clearly visible in The Social Dilemma. To be clear, this list of critics is far from all-inclusive. There are numerous other scholars who certainly could have had their names added here, and there are many past critics who deserve to be named for their disturbing prescience.

Hay muchos críticos fenomenales que se pronuncian sobre la tecnología en estos días. Para nombrar solo a algunos: Safiya Noble ha escrito extensamente sobre las formas en que los algoritmos construidos por compañías como Google y Facebook refuerzan el racismo y el sexismo; Virginia Eubanks ha expuesto las formas en que las herramientas de vigilancia y control de alta tecnología se implementan primero contra los miembros más vulnerables de la sociedad; Wendy Hui Kyong Chun ha explorado cómo nuestro uso de las redes sociales se vuelve habitual; Jen Schradie ha mostrado las formas en las que, a pesar de la publicidad en sentido contrario, el activismo online tiende a favorecer a los activistas y a las causas de la derecha; Sarah Roberts quitó la cortina sobre la moderación del contenido para mostrar cuánto del trabajo supuestamente realizado por la IA lo están haciendo realmente trabajadores explotados y con poco apoyo; Ruha Benjamin ha dejado en claro las formas en que los diseños discriminatorios se integran y cosifican en los sistemas técnicos; Christina Dunbar-Hester ha investigado las formas en que las comunidades orientadas en torno a la tecnología no logran superar los problemas de desigualdad; Sasha Costanza-Chock ha destacado la necesidad de un enfoque de diseño que trate las desigualdades estructurales desafiantes como el objetivo central, no como una ocurrencia tardía; Morgan Ames expone el “carisma” que se desarrolla en torno a ciertas tecnologías; y Meredith Broussard ha arremetido brillantemente contra el tipo de pensamiento “tecnochauvinista”, la creencia de que la tecnología es la solución a todos los problemas, que es tan claramente visible en Christina Dunbar-Hester ha investigado las formas en que las comunidades orientadas en torno a la tecnología no logran superar los problemas de desigualdad; Sasha Costanza-Chock ha destacado la necesidad de un enfoque de diseño que trate las desigualdades estructurales desafiantes como el objetivo central, no como una ocurrencia tardía; Morgan Ames expone el “carisma” que se desarrolla en torno a ciertas tecnologías; y Meredith Broussard ha arremetido brillantemente contra el tipo de pensamiento “tecnochauvinista”, la creencia de que la tecnología es la solución a todos los problemas, que es tan claramente visible en El dilema social . Para ser claros, esta lista de críticos está lejos de ser exhaustiva. Hay muchos otros eruditos a quienes ciertamente se les podría haber agregado sus nombres aquí, y hay muchos críticos del pasado que merecen ser nombrados por su inquietante presciencia.

Pero no escucharás a ninguno de esos críticos contemporáneos en El Dilema Social . En cambio, a los espectadores del documental se les proporciona un grupo constante de expertos arrepentidos, en su mayoría hombres, en su mayoría blancos, que no pudieron predecir que los juguetes de alta tecnología que construyeron podrían terminar teniendo implicaciones negativas.

No es solo que El Dilema Social ignora a la mayoría de las figuras que realmente merecen ser vistas como críticas, sino que al hacerlo lo que hace El Dilema Social es establecer los límites para quién llega a ser un crítico y cómo pueden verse esas críticas. . El mundo de la crítica que El Dilema Social establece es uno en el que una persona logra legitimidad como crítico de la tecnología como resultado de haber sido una vez un experto de la tecnología. Por lo tanto, lo que hace la película es diseñar y luego comenzar a vigilar las fronteras de lo que puede pasar por una crítica aceptable de la tecnología. Esto no solo limita el elenco de críticos a una pequeña porción de personas con información privilegiada, en su mayoría blancos, en su mayoría hombres, sino que también limita lo que se puede proponer como una solución. Puedes estar seguro de que los expertos no van a abogar por una respuesta que implique responsabilizar a las personas que crean estas herramientas por lo que han creado. Por un lado, es notable que nadie en la película persiga realmente a Mark Zuckerberg, pero muchos de estos expertos no pueden perseguir a Zuckerberg, porque cualquier virulencia que le dirijan también podría volverle fácilmente.

Importa quién llega a ser considerado un crítico legítimo. Cuando las redes de noticias buscan tener un crítico, importa si llaman a Tristan Harris o a alguno de los pensadores mencionados anteriormente, cuando Facebook hace algo horrendo, importa si un periódico busca a alguien cuya propia imagen de sí mismo esté ligada a la idea de que la empresa tiene buenas intenciones o a alguien que esté dispuesto a decir que Facebook es en sí mismo el problema. Cuando hay incendios peligrosos en todas partes, importa si las voces que se escuchan son pirómanos que se disculpan o bomberos.

Cerca del final de la película, mientras se reproducen los créditos, mientras Jaron Lanier habla de Silicon Valley, señala: “No los odio. No quiero dañar a Google ni a Facebook. Solo quiero reformarlos para que no destruyan el mundo. ¿Ya sabes?” Y estos comentarios capturan la ideología central de El Dilema Social , que Google y Facebook se pueden reformar y que las personas que pueden reformarlos son las personas que los construyeron.

Pero considerando todo el daño tangible que han hecho Google y Facebook, ya es hora de decir que no es suficiente “reformarlos”. Necesitamos detenerlos.

Conclusión: sobre “tecnología humana”

El dilema social es una película fácil de criticar. Después de todo, es una película muy manipuladora, llena de afirmaciones demasiado simplificadas, inexactitudes históricas, convicciones que carecen de política y un elenco de personas con información privilegiada que todavía creen en la mitología básica de Silicon Valley. La película está diseñada para asustarte, pero luego trabaja para dirigir ese miedo en algunos ajustes banales de estilo de vida personal, mientras te convence de que Silicon Valley realmente tiene buenas intenciones. Es importante ver El Dilema Social no como una advertencia genuina, o como un impulso para una solución genuina, sino como parte de un movimiento desesperado de Silicon Valley para rehabilitarse a sí mismo de modo que cualquier impulso para la reforma y la regulación pueda ser capturado y eliminado por “Críticos” de su propia elección.

Sin embargo, es demasiado simple (incluso si es exacto) retratar al The Social Dilemma como un intento de Silicon Valley de controlar tanto la venta de lanzallamas como la de matafuegos. Porque ese enfoque mantiene nuestra atención fija en Silicon Valley. Es fácil criticar a Silicon Valley, y Silicon Valley definitivamente necesita ser criticado, pero la fe de ojos brillantes en los dispositivos y plataformas de alta tecnología a los que estos expertos reformados todavía se aferran no es compartida solo por ellos. Las personas en esta película culpan al “capitalismo de vigilancia” por deformar el potencial liberador de las tecnologías conectadas a Internet, y muchas personas responderían a esto rechazando el neologismo de Zuboff para señalar que el “capitalismo de vigilancia” es en realidad solo “capitalismo” y que, por lo tanto, el problema es realmente que el capitalismo está deformando el potencial liberador de las tecnologías conectadas a Internet. Si, ciertamente necesitamos tener una conversación sobre qué hacer con Facebook y Google (desmantelarlos). Pero en cierto punto también debemos reconocer que el problema es más profundo que Facebook y Google, en cierto punto debemos estar dispuestos a hablar sobre computadoras.

La pregunta que ocupó a muchos críticos de la tecnología en el pasado fue la cuestión de qué tipo de tecnología realmente necesitamos. Y tenían claro que se trataba de una cuestión demasiado importante para dejarla en manos de los adoradores de las máquinas.

The Social Dilemma responde a la pregunta de “¿qué tipo de tecnología realmente necesitamos?” diciendo “tecnología humana”. Después de todo, la organización The Center for Humane Technology es el núcleo de la película, y Harris habla repetidamente de “tecnología humana”. A nivel superficial, es difícil imaginar que alguien diga que desaprueba la idea de “tecnología humana”, pero lo que la película quiere decir con esto (y lo que la organización quiere decir con esto) es bastante vacío. Cuando se lanzó el Center for Humane Technology en 2018, con una cantidad decente de elogios y fanfarrias, quedó claro desde el principio que su objetivo tenía más que ver con la rehabilitación de la imagen de Silicon Valley que con impulsar realmente un cambio significativo en las formas tecnológicas.En la medida en que “tecnología humana” significa cualquier cosa, significa plataformas y dispositivos que están diseñados para ser un poco menos intrusivos, que están diseñados para tratar de ayudarte a ser tu mejor yo (sea lo que eso signifique), que intentan informarte en lugar de desinformarte, y eso hace que puedas tener pensamientos agradables sobre las personas que diseñaron estos productos. El propósito de la “tecnología humana” no es evitar que tú seas “el producto”, es asegurarse de que seas un producto feliz. La “tecnología humana” no se trata de eliminar Facebook, se trata de renovar tu fe en Facebook para que sigas haciendo clic en el botón “Me gusta“. Y, por supuesto, la “tecnología humana” no parece estar particularmente preocupada por toda la inhumanidad que conlleva hacer posible estos dispositivos (desde la minería hasta las condiciones en las plantas de ensamblaje y los desechos electrónicos). La “tecnología humana” no se trata de sacar a Ben o Isla de sus teléfonos, se trata de hacerlos sentir felices, en lugar de ansiosos, cuando hacen click en ellos. En un mundo de pirómanos empoderados, la “tecnología humana” busca darles a todos un par de calcetines de amianto.

Muchos críticos del pasado también argumentaron que lo que se necesitaba era anteponer una nueva palabra a la tecnología: abogaban por tecnologías “democráticas”, o tecnologías “holísticas”, o tecnologías “agradables” o tecnologías “apropiadas”, y esta lista podría continuar. Sin embargo, el centro de esas críticas no era un intento de salvar el status quo, sino el reconocimiento de que lo que era necesario para obtener un tipo diferente de tecnología era tener un tipo diferente de sociedad. O, para decirlo de otra manera, el asunto que nos ocupa no es preguntar “¿qué tipo de computadoras queremos?” sino preguntar “¿qué tipo de sociedad queremos?” y luego tener la valentía de preguntar cómo (o si) las computadoras realmente se encajan en ese mundo, y si encajan, qué tan ubicuas serán y quién será responsable de la extracción/ensamblado/eliminación que son parte del ciclo de vida de esos dispositivos. Sin duda, estas no son preguntas fáciles de hacer, y no son preguntas agradables para reflexionar, por lo que es tan tentador confiar en que el Center for Humane Technology lo arreglará todo, o simplemente decir que el problema es Silicon Valley. .

Por lo tanto, cuando la película termina, nos quedamos retorciéndonos infelices cuando Netflix (que, por supuesto, ha notado el hecho de que vimos The Social Dilemma ) nos pide que le demos a la película un pulgar hacia arriba o hacia abajo, antes de que comience a reproducir automáticamente algo más.

El Dilema Social tiene razón en al menos un aspecto, nos enfrentamos a un dilema social. Pero en lo que respecta a la película, su papel en la resolución de este dilema es sentarse pacientemente en el sofá y mirar a la pantalla hasta que un arrepentido experto de la tecnología te diga qué hacer.

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s