Cuando algo se hace para vigilar, ¿puede cambiar su objetivo?

martillo

De una entrevista a Martin Hilbert, experto en redes digitales:

” La verdad, es una cosa triste. Pero no es culpa de la tecnología, es la manera en que la usamos hoy día. Toda tecnología es normativamente neutral, tú puedes usar un martillo para colgar un cuadro o para matar a tu vecino. Lo mismo con la tecnología digital: podríamos usarla para unir gente, para mezclar gente de opiniones opuestas, pero no lo estamos haciendo.”

Martin Hilbert, experto en redes digitales


Recordemos quien es Martín Hilbert:

“Martin Hilbert (39), Doctor en Ciencias Sociales y PhD en Comunicación, es alemán, pero vivió largos años en Chile como funcionario de la Cepal. Hoy trabaja en la Universidad de California, es el asesor tecnológico de la Biblioteca del Congreso de Estados Unidos y vive a cuarenta minutos de Silicon Valley, donde un futuro inevitable toma forma. “

Sobre eso del futuro inevitable comentaba en otra entrada, ahora sobre lo del martillo y la famosa historia de que la ciencia es normativamente neutral, es imprescindible analizarlo y saber cómo repensar una afirmación así, por ejemplo:

Ahora bien, una pregunta inherente al nexo entre la ciencia y la ética como la
deliberada complicidad y silencio de algunos científicos creadores de teorías para el
exterminio de los hombres, ha tratado de ser soslayada desde el campo del cientificismo, apelando a lo que se conoce como el modelo de la ciencia martillo.
Esta pregunta en efecto, ha sido contestada a veces echando mano de la distinción
entre la ciencia y su uso. Una cosa, se arguye, es la ciencia como expresión del
conocimiento y la racionalidad del hombre, y otra cosa es su uso o mal uso por instituciones, gobiernos y políticas. Los científicos no son responsables del uso que haga de sus teorías fuera de los laboratorios, el poder. Criterio que se desea abonar con este u otro ejemplo semejante: la ciencia es como un martillo que a veces se usa para clavar un clavo y otras veces para aplastar la cabeza de una persona.
Este criterio de demarcación entre la ciencia y su uso, digamos entre la buena ciencia y el mal uso, no es satisfactorio, ni apto para dilucidar el papel de la ciencia en la sociedad y la cultura del hombre según su evolución actual a fines de nuestro siglo, ni menos aún para un examen de la metodología de las teorías científicas.
La distinción entre «sanos» productos científicos y el uso «insano» de estos productos, fuera ya de las manos de los científicos, por los gobiernos, los estados, las
agencias o corporaciones, no es una descripción ni siquiera aproximada de las modalidades que asume la producción científica en esta centuria.

El criterio de demarcación indicado silencia no sólo las peculiaridades del modo de producción de la ciencia y de la tecnología por el Estado militar-industrial, sino un universo, no precisamente secundario, de teorías que son en sí mismas mortíferas, es decir que emplean recursos lógicos-metodológicos combinados para producir la destrucción del hombre y la naturaleza. Son teorías mortíferas en sí, mala in se,

que salen de la labor de científicos y técnicos amalgamados en laboratorios e instituciones.
Teorías que, desde el inicio, se proyectan, planifican, y elaboran sin otro destino, ni más finalidad, que la destrucción del hombre y su entorno ecológico.
Tenemos un ejemplo aislado pero que podría multiplicarse: la producción de la bomba neutrónica.
¿Podemos hablar a su respecto de una teoría, la teoría sobre fisión del átomo, originariamente «neutral» usada luego en forma ominosa por el poder? ¿Se  corresponde esto con la metáfora de una teoría martillo-para-clavar-un-clavo en un primer paso y, en un segundo, martillo-para-romper-el-cráneo-de-una-persona?, ¿estamos en presencia de una sola teoría con buen o mal uso alternativo y dependiente de la política o, por el contrario al producirse la bomba que destruye a los seres y deja intactas las cosas materiales como edificios, instalaciones, etc., se lo hace en base a nuevas teorías científicas que complementan y se agregan a la primitiva?
En el paso de lo neutral (por llamarlo de alguna manera) a la tecnología neutrónica,
aparecen nuevas teorías científicas respecto de la originaria, nuevas observaciones, nuevas experiencias, nuevo instrumental lógico-matemático, nuevos procedimientos y nueva articulación que permiten al producto científico producir la muerte en cualquiera de las formas de su aplicación y no, por ejemplo, la energía eléctrica.
Del mismo modo, entre las teorías de los físicos sobre la energía nuclear y la producción de los distintos modelos de bombas atómicas hay un tramo de tecnología pero también un tramo de teorías científicas complementarias, con cambios en los procedimientos de metodología interna, sin los cuales el producto científico destructivo no sale al mercado de la muerte.
Se trata de teorías en cualquiera de los sentidos que pueda darse a la palabra, teorías científicas con hipótesis, con sistema de axiomas, con aparato semántico, términos
teóricos y observacionales, que no pueden tener otro uso que el de martillo-rotura-de-cráneos.
¿Estarán los científicos, de contrato-a-buen-sueldo, autores de esas teorías (o sus
colegas cientistas naturales que afirman dogmáticamente la neutralidad de la ciencia) en condiciones de únicos epistemológicos válidos para expedirse sobre ellas, o podrán y deberán expedirse también los epistemólogos que no son físicos aunque en su perfil predomine el interés sobre la historia externa de la ciencia?
La respuesta de los partidarios del modelo de ciencia-martillo corre así: el cientista
natural se pondrá en una habitación el guardapolvos de metodólogo para expedirse sobre la bondad de los procedimientos inferenciales y empíricos puestos en juego en la elaboración de las teorías cuyas únicas condiciones de aplicación son la muerte de los hombres y la salvación de los edificios, pero pasará luego a otra habitación donde con nuevo guardapolvos se expedirá como hombre ético acerca de la función, el modo de producción, circulación y consumo del producto.
Esta concepción de las dos habitaciones del científico o del epistemólogo, correlato
de la concepción de la ciencia-martillo de doble uso, no es satisfactoria, y emana de la vieja distinción entre ciencia pura-ciencia aplicada. En esta esquemática y simplista división de la ciencia (no obstante el peso que tiene en la tradición) la ciencia pura sería neutral y desprovista de toda connotación ética, política e ideología, en tanto que a la aplicación de la ciencia le correspondería asumir la condición de buen o mal uso.
La ciencia pura no es, sin embargo, una bonne à tout faire, ciencia lista para todo
servicio.
Como lo han puesto en evidencia Gaston Bachelard, Louis Althusser siguiendo sus
pasos, C. Ulises Moulines y todos los epistemólogos que defienden la non statement view (concepción no enunciativa de las teorías) las teorías incluyen sus condiciones de aplicación en su aparato conceptual. En cuanto a las teorías empíricas, Moulines al referirse al problema de los aspectos semánticos y pragmáticos de las ciencias y a la imposibilidad de separar la tarea de reconstruir teorías particulares de la tarea de aclarar la noción de aplicación, dice: «Pero no creo que esto sea metodológicamente aceptable. Las teorías empíricas están siempre construidas en vista a algunas aplicaciones «externas» concretas, de tal modo que las aplicaciones están incluidas también conceptualmente en la teoría misma. No podemos realmente separar las dos cosas. Algunos autores, que de algún modo se han dado cuenta de que las teorías y sus aplicaciones están entrelazadas conceptualmente, han propuesto la famosa tesis de la “carga teórica” de todas las observaciones empíricas.
Pero parece que han olvidado señalar la otra cara de la moneda, a saber, lo que  podríamos llamar la “carga aplicativa” de todos los constructos teóricos.
Carnap y Hempel ya habían tratado de hacer justicia a este aspecto al introducir las
llamadas “reglas de correspondencia” y los “postulados de significación”. Sin embargo, su construcción de tales correspondencias es forzada y en parte ficticia. No puede decirse que proporcionan una solución verdaderamente satisfactoria, aunque se encontraban en la dirección correcta.


CIENCIA Y ÉTICA. EL MODELO
DE LA CIENCIA MARTILLO, Enrique E. Marí
es un pdf


Así, la neutralidad planteada como virtud por la ciencia clásica deviene intencionalmente falaz ya que desde esta posición puede realizarse cualquier tipo de
aplicación —desde bombas guiadas por láser o armas bacteriológicas hasta saté-
lites de comunicación— sin el riesgo de ser estigmatizado por la sospecha de
alianza con el poder.
De este modo, Klimovsky puede hablar cómodamente de ‘ciencia martillo’: una serie de dispositivos conceptuales que el científico produce por puro amor al saber y cuyo empleo escapa al campo de sus decisiones.
Que la ciencia pura se trata de una construcción mediática se puede ilustrar con un ejemplo que nos muestre el momento de su aparición: las primeras investigaciones en antropología social moderna fueron realizados por funcionarios ingleses que contaban con el apoyo de la administración colonial para mejor conocimiento de los habitantes nativos; lo mismo ocurrió en Estados Unidos donde los estudios de antropología han estado ligados a la política de los gobiernos en la medida en que describen problemas administrativos o asuntos de Estado: “Como ocurre con otras ciencias contemporáneas, sus progresos se realizan a la sombra de intereses cuya naturaleza no coincide siempre con el objetivo cultural de la disciplina”. (Evans-Pritchard 7).
El ejemplo expuesto es susceptible de generalización: probablemente no hay ciencia en el sentido moderno que en sus comienzos no haya sido un conjunto de prácticas o aplicaciones destinadas a obtener algún beneficio. Solo a posteriori los científicos pueden dejar caer en el olvido el origen de la ciencia y  al igual que las familias ilustres que prefieren no mencionar el origen de sus fortunas— construirse discursivamente un desinterés y una nobleza de propósitos que en sus orígenes están muy lejos de tener.
Angelina Uzín Olleros, es un pdf

Algo más:

“–Todavía está bastante difundida la idea de una “ciencia neutral” o “ciencia martillo”, que puede usarse para hacer el bien o el mal. ¿Cómo le parece que se puede discutir con esta idea?

–La mejor forma de discutir con esta idea es mirar la historia, la historia impide usar la ciencia como ciencia martillo. De hecho yo escuché decir que la ciencia hace mejores a las personas, es el viejo ideal de que el conocimiento hace mejores a las personas. Yo querría que fuese cierto, pero no es cierto. El conocimiento, en última instancia, podría hacer más responsable a la persona, en el sentido de que no puede aducir ignorancia en los actos que comete, pero no la hace mejor, toda la historia desmiente esto. Incluso teniendo las mejores intenciones. Yo pongo siempre el ejemplo de los eugenistas, aquellos que promovieron la mejora genética de la especie humana. Esto lo dice François Jacob, un biólogo francés, que asociamos la eugenesia con el nazismo, pero es falso. Provino de sectores que llamaríamos de la izquierda, progresistas, interesados por el bien público, desarrollado en países democráticos, y tenían las mejores intenciones, pero nadie creyó que debían hablar con la población, que los demás actores debían intervenir, sino que el bien se decidía internamente desde el propio saber científico. Ninguna actividad humana es neutral. Confundimos la ciencia con una descripción de fenómenos naturales. La ciencia en sus decires porta imágenes del mundo. La tecnología no es neutra. Yo defiendo la objetividad de la ciencia, pero no es la objetividad de “yo saco una foto del mundo tal cual es”, sino que se trata de enunciados teóricos y diseños instrumentales y técnicos que con el tiempo adquieren una validez que está más allá del sujeto que lo enuncia. Pero de todas formas siempre eso está inmerso en una matriz político-cultural. Yo creo que ésa es una de las peleas más significativas que hay que dar, porque la ciencia-espectáculo es una ciencia que se imagina neutra y objetiva, y la imagina mejorando al mundo, imagina a los científicos como mejores personas. Es un enunciado peligroso para la democracia decir que los científicos son mejores personas por ser científicos, porque esto me llevaría a un gobierno aristocrático: que nos gobiernen los mejores.”

“La ciencia implica una relación con los poderes políticos e industriales”


¿Algo que idealizado para vigilarnos puede ser reconvertido en otra cosa?

Hay más afirmaciones de Martín Hilbert que me llaman la atención:

” el gran cambio es que estamos conociendo a la sociedad como nunca antes y podemos hacer predicciones con un nivel científico. ¡Lo de antes era arte, no era ciencia!”

” Sacaron datos de todos lados. Incluso tuvieron acceso a las Setup-Boxes, lo que sería el DirectTV en Chile, que registra cómo tú ves televisión. Si tienen acceso a eso, ya saben lo que te interesa, y empezaron a llevar comerciales individualizados. Lo más delicado es que no sólo pueden mandarte el mensaje como más te va a gustar, también pueden mostrarte sólo aquello con lo que vas a estar de acuerdo. Si Obama tiene sesenta compromisos de campaña, puede que 58 te parezcan mal, pero al menos con dos vas estar de acuerdo. Digamos que estás a favor del desarrollo verde y a favor del aborto. Bueno, empezaron a mostrarte en Facebook sólo estos dos mensajes.

¿Con avisos publicitarios?
–No, lo hicieron más sofisticado. Como algún amigo vas a tener que hizo un like a la campaña de Obama, ese like les dio acceso a los perfiles de todos sus amigos –esto también va en la licencia que nunca leemos–, entonces podían ver tu historial y clasificarte. Y además tenían acceso a postear desde el timeline de tu amigo, porque esto también está permitido. Él no lo ve, Facebook no se lo muestra, pero tú sí vas a ver muchos artículos así como “Obama el héroe de la energía alternativa”, “Obama el héroe del aborto legal”. No son propagandas de la campaña, son artículos de prensa bien elegidos. Y si tú por medio año ves “Obama héroe” de estas dos cosas que te gustan, al final vas a decir “oye, tan mal no está este Obama”. Bueno, en 2012 le cambiaron la opinión al 78% de la gente que atacaron así. Y Trump lo hizo con 250 millones. Creo que George Orwell se metería un tiro, porque ni él se imaginó algo así. La democracia es completamente inútil con algo así.

En un artículo explicabas que también los call center de Estados Unidos te clasifican mientras hablas, y cuando vuelves a llamar te
derivan a un empleado con una personalidad afín a la tuya.

–Así es. El que habla contigo no lo sabe, ¿no? Una vez conté esto en una conferencia y uno de mis estudiantes, la próxima vez que llamó a un call center, le dijo “¡oye hueón, deja de clasificarme la personalidad!”. El otro no entendía nada, ¡ja, ja, ja! El trabajo lo hacen alrededor de diez mil algoritmos que te escuchan hablar y clasifican tu personalidad en seis diferentes cajas. La última vez que hablé con esta compañía, me dijeron que ya el 30% de las llamadas a los call center de Estados Unidos están intermediadas así. Y ya hay sistemas que les dan inteligencia en tiempo real: el tipo está ahí con un monitor que le dice “ahora es el momento de ofrecerle tal cosa”, “ahora ya no”. Pero eso es reciente, por ahora lo más común es que te dejan clasificado. Y todo esto, al final, ¿a qué nos lleva? A crear burbujas, en todos los niveles.

¿Cómo así?
–Que la gente emocional sólo hable con gente emocional, la gente de acción con la gente de acción, los reactivos con los reactivos. Hablamos mucho de que ahora los demócratas no hablan con republicanos, pero esta fragmentación de la sociedad en subgrupos va mucho más allá de la política. La verdad, es una cosa triste. Pero no es culpa de la tecnología, es la manera en que la usamos hoy día. Toda tecnología es normativamente neutral, tú puedes usar un martillo para colgar un cuadro o para matar a tu vecino. Lo mismo con la tecnología digital: podríamos usarla para unir gente, para mezclar gente de opiniones opuestas, pero no lo estamos haciendo.”

¿Es cierto que las grandes compañías ya toman decisiones sin saber por qué las toman? Sólo porque la IA ve los datos y les dicen “hagan esto”.
–Claro, y está perfecto. Además, las relaciones de causalidad, muy filosóficamente, nunca las podemos conocer. Como decía Popper, sólo podemos descartar causas: tú no puedes saber si realmente X causó Y, sólo puedes comprobar que Z no causa Y. Pero estas correlaciones nos sirven para explicar y predecir. Ahora, si tú cambias el sistema que produjo estos datos, ahí te puedes equivocar muchas veces. Pero ese ya es otro problema.”

“Al final, el juego con la tecnología siempre ha sido ver cuáles tareas se pueden automatizar y cuáles se quedan con nosotros. Los primeros imperios, por ejemplo, su gran innovación fue hacer canales de agua para sus plantaciones. Así ya no necesitaban usar un tercio de su fuerza laboral en ir cada vez al río y traer agua. Imagínate, qué brutal: un tercio de la gente quedó desempleada. ¿Pero qué hicieron con ellos? A la mitad los convirtieron en soldados y empezaron a dominar a otros pueblos. A otros los hicieron arquitectos y constructores y crearon las ciudades y templos más grandes de la humanidad. Otros se hicieron artistas, otros empezaron a escribir… ¡a escribir, hueón, no tenían nada más que hacer! Y es así como las sociedades han avanzado, ahorrando tiempo y automatizando tareas. Si un robot reconoce células de cáncer, te ahorras al médico. En San Francisco hay una farmacia donde no hay ninguna persona trabajando: yo soy un robot, tú me das una receta, yo te mezclo un poco de este polvo, un poco de este otro, lo pongo en una caja y te lo doy. Además el robot sabe exactamente qué interacción hay entre qué medicamentos, más que ningún farmacéutico. Más del 50% de los actuales empleos son digitalizables, incluso escribir noticias rápidas, como sabrás. Y ya no hablamos de reemplazar a los obreros, como en la revolución industrial, sino también los trabajos de la clase más educada: médicos, contadores, ¡abogados, hueón! ”

“No es en ningún caso el fin de la humanidad, es la evolución que sigue su camino. Y la manera en que esto ocurra va a depender de nosotros. Entonces nos conviene entender que tenemos por delante una gran responsabilidad, porque nosotros diseñamos las instituciones que van a definir el futuro de estas convergencias.”

Toda la entrevista a Martin Hilbert, experto en redes digitales:


¿Alguien puede creer que nosotros somos los que diseñamos las instituciones que van a definir el futuro de estas convergencias?

¿Es la evolución que sigue su camino o es el modelo impuesto el que lo sigue?

¿No es tiempo de repensar nuestra relación con la tecnología?

¿A quién beneficia que se piense a la tecnología como un “martillo”?

Toda la reconversión de los trabajadores que fueron expulsados por la tecnología produjo muchísimo dolor, no fue un proceso simple ni rápido, muchos murieron o sufrieron muchísimo, ¿Hilbert no lo sabe?

Él cree que Silicon Valley está enojado con Trump, sin embargo Kalanick, CEO de Uber y Tim Cook de Apple (AAPL, Tech30) fueron algunos de los cerca de doce ejecutivos de tecnología que se reunieron con Trump en Trump Tower el mes pasado

O sea, Silicon Valley está enojado…pero no tanto.

Repensemos eso de ciencia martillo y cuando nos lo diga alguien que viene del ámbito de la tecnología, pongámonos alertas.RF

Anuncios

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s