La multiplicación de sistemas automáticos en nuestras sociedades plantea un doble interrogante: si gracias a ellos decidimos mejor y si, en última instancia, decidimos nosotros mismos. El clásico dilema de las sociedades democráticas que enfrenta efectividad y participación, derecho a resultados y derecho a decidir, se plantea ahora en un nuevo paisaje decisional automatizado, reabriendo así la inquietante cuestión de si es posible entonces seguir manteniendo el principio democrático del libre autogobierno de las sociedades.
Nos encontramos en “una esfera pública automatizada” (Pasquale). Con la idea de mejorar la eficiencia o ahorrar costes, estos sistemas de decisión automatizados ayudan e incluso reemplazan a los tradicionales procedimientos de decisión. Las decisiones, que solían ser el resultado de un proceso de reflexión personal y deliberación colectiva, son ahora llevadas a cabo automáticamente. Los algoritmos determinan la concesión de un crédito, el precio de los billetes de avión, la medicación más adecuada, el tráfico urbano y la identificación de un potencial terrorista.
La tendencia general a un pilotaje automatizado de los asuntos humanos no es solo un aumento cuantitativo de los instrumentos que tenemos a nuestra disposición sino una transformación cualitativa de nuestro ser en el mundo, un mundo en cuyo centro ya no nos encontramos. Este nuevo paisaje tecno político es muy importante para el ser humano y al mismo tiempo está despoblado de humanos, lleno de lugares y procedimientos a los que le está prohibido el paso y la presencia. Sin que esto tenga una connotación necesariamente negativa, se trata de un mundo “des-humanizado”, como lo pone de manifiesto el hecho de que las arquitecturas más significativas del mundo carecen de personas: las puertas automatizadas, los campos agrícolas robotizados, las redes de comunicación autónomas, las estaciones orbitales extraterrestres son lugares llenos de autónomos y desiertos de humanos.
Este panorama desata los calificativos más variados; puede ser celebrado como el triunfo de la comodidad y la exactitud, la victoria definitiva sobre los prejuicios o el final de la arbitrariedad, pero hay quien lo lamenta como una periferización de los humanos en un mundo en el que hubieran dejado ya de decidir. Como suele ocurrir cuando estamos ante una innovación tecnológica de resultados inciertos, utopías y distopías hacen su aparición con la misma rotundidad.
La cuestión es cómo hemos de interpretar esta sistematización general y hasta qué punto impide o realiza de otro modo nuestra capacidad de decidir el destino personal y colectivo. ¿Estamos los humanos en el loop, en el bucle decisional, o nos espera una inexorable marginalización? ¿Podría llegar un día en que los sistemas inteligentes lo decidieran todo? ¿Será la inteligencia artificial nuestra última invención? Se evoca el fantasma de un mundo que funcionaría sin nosotros, en nuestra ausencia, vaciado de toda voluntad humana, un bloqueo de nuestra capacidad de decidir, y los humanos terminaríamos evacuados de aquellas tareas y centros decisionales que hasta ahora protagonizábamos. Con la automatización podríamos estar programando nuestra propia obsolescencia. Marvin Minsky afirmaba que deberíamos considerarnos unos afortunados si en el futuro las máquinas inteligentes nos tienen como animales de compañía.
Ahora bien, contra el discurso de resistencia que se opone a la automatización en nombre de la voluntad de disponer de un control integral sobre las cosas hay que señalar que el género humano ha impulsado la automatización en nombre precisamente de ese control, aunque realizado así de un modo indirecto. Automatizar es una operación que se lleva a cabo en principio para aumentar el poder humano. Otra cosa es que pueda tener consecuencias no pretendidas, especialmente si se hace mal, si se omite la reflexión colectiva acerca de sus efectos beneficiosos y perjudiciales o si no se diseña adecuadamente su gobernanza. No podemos tener un control sobre todos los procesos automáticos salvo que dejen de serlo, pero debemos diseñar el marco y los valores en los que tales procesos se van a desarrollar, de manera que podamos seguir considerando esos procesos como un cierto resultado de nuestra voluntad. En tanto que seres sociales y animales políticos, esta voluntad debe configurarse en el seno de una conversación democrática. La cuestión inquietante sería hasta qué punto los beneficios de la automatización nos permiten considerar que los sistemas inteligentes siguen guardando algún tipo de relación con la lógica de la decisión humana. ¿Cómo tomar las mejores decisiones y asegurarnos de que no son nuestras últimas decisiones?
