.png)
El impacto del cambio tecnológico que cimentó la Primera Revolución Industrial supuso la transformación de la humanidad. Desde entonces, el capitalismo se expandió encaramado a sucesivas revoluciones tecnocientíficas que, basadas en diferentes innovaciones, se instalaron de manera inevitable en la historia de las sociedades, transformándolas en ciclos sucesivos. Obviamente, estas transformaciones no solo se han producido – se siguen produciendo – en el ámbito de la economía, sino que afectan a la vida en su conjunto, incluyendo cambios dramáticos en las formas políticas, en la configuración de los estados, en las instituciones, en la estructura de las desigualdades, en los contenidos de la cultura y en los principios éticos y morales de las comunidades y sus componentes. En Magnifica humanitas, el papa León XIV desarrolla la certeza de que la inteligencia artificial (IA) nos dirige a una de esas transformaciones globales, tal vez con efectos de calado comparable al de la máquina de vapor durante la primera revolución industrial. Como no podía ser de otra forma, esta certeza se asienta en los principios de la Doctrina social de la Iglesia: el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia social. En la era de la IA, esa transformación se hace crítica en tres ámbitos centrales en la vida de las personas.
En primer lugar, en el funcionamiento de la democracia que, allí donde existe, permite participar en las decisiones políticas e institucionales que afectan a la vida de la ciudadanía. En dicho ámbito, el reto que plantea la IA se sustancia en una flexibilización creciente de la verdad que toma diversas formas, pero que se expresa con toda claridad en la desinformación, la polarización y la erosión de la necesidad de verificar y contrastar la información. Subsumida en el vértigo de los canales digitales y el efecto multiplicador de la IA, la desinformación supone una amenaza a la búsqueda de la verdad de los hechos como una empresa colectiva sostenida en vínculos de confianza y prácticas compartidas: en el diálogo.
En segundo lugar, la IA supone una nueva intensidad en el impacto crítico que las revoluciones tecnológicas han tenido en el trabajo. Quiero referirme aquí especialmente a los cambios que han tenido lugar en el siglo XX. Es evidente que la Primera Revolución Industrial supuso una transformación radical de la forma en la que se organizaba y desarrollaba el trabajo, dando lugar a un escenario de explotación y alienación de las personas que tuvo su continuación hasta la I Guerra Mundial y que mostró los peligros de la transformación antropológica que resultó de la Revolución Industrial. Es en ese contexto en el que León XIII escribe su carta encíclica Rerum novarum. Tras la II Guerra Mundial, el trabajo se convirtió en el eje del desarrollo en las sociedades industrializadas, dotándolas de sentido personal y colectivo y articulando los procesos de cohesión social en torno a la idea de derechos y obligaciones laborales. En torno al trabajo giraba la cuestión social. Estas sociedades separaron pobreza y trabajo. Se sostuvieron hasta que la innovación permitió sustituir fuerza de trabajo por tecnología y, sobre todo, cuando la transformación de la producción y la prestación de servicios se basó en esa posibilidad. Las décadas de 1980 y 1990 son el punto de partida de un proceso de precarización del trabajo, vinculada al avance de la automatización y robotización del proceso productivo y a la creciente sustitución de fuerza de trabajo por tecnología. En ese contexto, León XIV publica Magnifica humanitas, resaltando que “la combinación de la automatización, la robótica y la IA está transformando rápidamente la estructura misma del trabajo”. Esta transformación está en el origen de una creciente desigualdad y una concentración de la riqueza en pocas manos, que ponen en cuestión el papel del trabajo como mecanismo de cohesión social y plataforma para la construcción de un destino común basado en la justicia social. La precariedad laboral es una anomalía antropológica cuando se convierte en una forma normal de vida que afecta a capas crecientes de la ciudadanía, especialmente a los más jóvenes.
En tercer lugar, la IA está favoreciendo una erosión de la libertad, que puede observarse en diversos procesos: en la monetarización de la atención a través de plataformas y servicios digitales, diseñados para absorber el tiempo de sus usuarios al tiempo que explota sus fragilidades; en el aumento de la complejidad e invisibilidad del control social, producto de la recopilación masiva de datos, usados en sistemas algorítmicos que permiten perfilar y anticipar los comportamientos; en el trabajo necesario para sostener la economía digital, típicamente precario, mal pagado y a menudo realizado en condiciones peligrosas en las regiones que constituyen la periferia de la globalización. Nuevas formas de esclavitud, a las que hay que añadir el uso que las organizaciones criminales hacen de las plataformas en internet para perfilar y reclutar posibles víctimas de trata.
La tecnología en general, y la IA en particular, nunca es neutra, sino que responde al diseño de aquellas personas que disponen de recursos económicos y acceso a los datos: aquellos grupos que gobiernan la IA
Se trata de tres conjuntos de impactos que hunden sus raíces en la transformación radical de nuestras sociedades, presentes y futuras. Una transformación que implica un riesgo de regresión antropológica. Porque la tecnología en general, y la IA en particular, nunca es neutra, sino que responde al diseño de aquellas personas que disponen de recursos económicos y acceso a los datos: aquellos grupos que gobiernan la IA. Lamentablemente, la IA emerge y se despliega en un mundo globalizado donde las instituciones políticas, y especialmente los estados, han retrocedido en su capacidad de acción e influencia y han visto cómo otros agentes, especialmente firmas y grupos privados transnacionales, ganan en protagonismo y capacidad de orientar el uso y la recepción de la tecnología digital. De hecho, “pequeños grupos muy influyentes pueden orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio”. De ahí que sea necesaria una reflexión ética que desemboque en marcos normativos que permitan gobernar la IA.
Es imprescindible establecer mecanismos que permitan desarmar la IA, lo que quiere decir “sustraerla de la lógica de la competencia armamentística, que hoy ya no es solo militar sin tecnológica y cognitiva”.
Pero no basta con eso. A lo largo de Magnifica humanitas, como un hilo conductor que surge de manera recurrente, encontramos la necesidad de revitalizar el vínculo, la comunidad, el cuidado social, evitar el incremento de las desigualdades en un momento en el que ya son insostenibles. Procesos que permiten afrontar la fragilidad inevitable en las biografías que las personas construyen con la materia prima de sus relaciones sociales y comunitarias. Evitar que el algoritmo nos prive de las relaciones sociales y nos arrastre hacia la soledad hiperconectada. Para ello, es imprescindible establecer mecanismos que permitan desarmar la IA, lo que quiere decir “sustraerla de la lógica de la competencia armamentística, que hoy ya no es solo militar sino tecnológica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano”.
NB. Desarmar la IA también es una referencia a la guerra. De hecho, el capítulo quinto analiza el preocupante retorno de la guerra como instrumento de política internacional y como una acción legitimada a través de narrativas simplistas, polarizadoras, usando el miedo como acelerante. De ahí la importancia de desarmar también las palabras y restaurar el diálogo como eje de la política internacional y el multilateralismo como instrumento para la resolución de conflictos.
Esteban Sánchez Moreno,
Decano de la Facultad de Ciencias Políticas y Sociología León XIII