¿Qué idea de ser humano estamos poniendo en las máquinas?

No es necesario ser creyente para encontrar motivos de reflexión en Magnifica Humanitas, la primera encíclica del papa León XIV. Basta con estar preocupado por la dirección que está tomando nuestra sociedad y por el papel que desempeñará la inteligencia artificial en ella. Porque, aunque la IA ocupa buena parte del documento, Magnifica Humanitas no es, en sentido estricto, una encíclica sobre tecnología, sino una reflexión sobre el ser humano en un momento en que la tecnología nos obliga a revisar muchas de las ideas con las que hemos organizado hasta ahora nuestra convivencia. Entre otras, qué hace valiosa a una persona, qué entendemos por progreso, cómo distribuimos las oportunidades, qué lugar ocupa el trabajo en nuestras vidas, o quién debe decidir los límites de unos sistemas capaces de condicionar cada vez más nuestra existencia.

En el fondo, la encíclica nos plantea una gran pregunta que con demasiada frecuencia queda fuera de los debates sobre inteligencia artificial: ¿qué concepción del ser humano queremos que guíe esta transformación?

Una dignidad que no necesita justificarse

Uno de los pasajes más significativos lo encontramos al comienzo del documento en la forma de una afirmación que casi podríamos calificar de “contracultural”:

“La dignidad de cada persona no depende de las capacidades que posee, de las riquezas o el rol que desempeña, ni de las decisiones justas o equivocadas que toma, sino que es un don que le precede y le excede” (MH, n.50).

La realidad, sin embargo, es que vivimos en sociedades donde el valor de las personas tiende a confundirse con su capacidad para producir resultados. Medimos el rendimiento, clasificamos el talento, comparamos competencias y calculamos la contribución de cada individuo. En el mercado laboral, pero no solamente en él, nos hemos acostumbrado a hablar de las personas en términos de empleabilidad, productividad, potencial o adecuación a las necesidades del sistema. Ahora, la inteligencia artificial puede intensificar esta mirada. Cuanto más fácil resulte medir, predecir y comparar el comportamiento humano, mayor será la tentación de considerar que una persona vale por aquello que los sistemas son capaces de registrar sobre ella. 

Frente a esa lógica, Magnifica Humanitas nos recuerda algo elemental, pero fácil de olvidar. Que la dignidad no es una puntuación, ni aumenta con nuestra productividad ni disminuye cuando dejamos de ser útiles, como tampoco depende de nuestra inteligencia, autonomía, salud, riqueza o capacidad para adaptarnos a las exigencias del momento. Esta idea adquiere una particular relevancia ante ciertos discursos que presentan al ser humano como una versión imperfecta de la máquina. Las personas somos lentas, falibles, emocionales, vulnerables y necesitamos descanso. Desde esa perspectiva, nuestras limitaciones aparecen como defectos que la tecnología debería corregir y, eventualmente, superar. Pero esto tiene un riesgo. León XIV nos advierte que “si el ser humano es tratado como materia para ser perfeccionada o superada, entonces se vuelve más fácil aceptar que algunos sean considerados menos útiles, menos deseables, menos dignos” (MH, n. 117), al tiempo que nos recuerda que “el ser humano no florece a pesar del límite, sino a menudo a través del límite” (MH, n. 118). Es decir, que nuestra vulnerabilidad no es simplemente un fallo de diseño. La dependencia, la incertidumbre, el error, la enfermedad o la necesidad de los demás también son una parte significativa de la experiencia humana, en la medida que nos obligan a pedir ayuda, a cuidar, a confiar, a perdonar y a convivir con aquello que no podemos controlar. En cambio, una sociedad obsesionada con eliminar toda fricción puede acabar eliminando también algunas de las experiencias que nos permiten madurar, de la misma manera que una tecnología diseñada únicamente para maximizar nuestra autonomía individual puede debilitarnos si erosiona nuestra capacidad para depender responsablemente unos de otros.

El progreso no puede medirse sólo por lo que conseguimos hacer

Una segunda aportación de la encíclica es que nos obliga a cuestionarnos el significado de la palabra progreso.

En el debate tecnológico solemos dar por supuesto que una innovación representa un avance cuando permite hacer algo más rápido, con menor coste o a mayor escala. Si una máquina produce más, predice mejor o sustituye una tarea humana, tendemos a considerar que se ha producido una mejora. Ya discutiremos después cómo mitigar sus posibles efectos adversos. Frente a esta tendencia, León XIV nos propone invertir la secuencia: “El progreso técnico, valioso en sí mismo, requiere un discernimiento sobre la visión antropológica que lo guía y los fines que persigue” (MH, n.94).

La idea de fondo es que no todo lo técnicamente posible es humanamente deseable, ni toda ganancia de eficiencia constituye un progreso si, para conseguirla, deterioramos nuestra autonomía, nuestras relaciones o las condiciones que hacen posible una vida digna. Del mismo modo, tampoco puede considerarse verdadero progreso aquello que aumenta el bienestar de algunos mientras descarga costes sobre las comunidades más vulnerables, deteriora los ecosistemas o compromete la vida de las generaciones futuras.

Esta forma de entender el progreso nos obliga a ampliar nuestro campo de visión. Una tecnología no debería evaluarse únicamente por la experiencia de quien la utiliza ni por los resultados de la empresa que la comercializa. También deberíamos observar las materias primas que necesita, la energía que consume, las tareas invisibles que requiere, las personas de cuyos datos se alimenta y los efectos que produce en quienes no han participado en la decisión. Esta misma lógica la encontramos detrás de la denuncia de aquellas tecnologías que prometen emancipación mientras descansan sobre nuevas formas de subordinación global. La comodidad de unos puede apoyarse en el trabajo precario de otros. La aparente inmaterialidad de los servicios digitales puede ocultar costes ambientales, laborales y sociales muy concretos. No se trata de rechazar la innovación, sino de abandonar una concepción infantil del progreso según la cual toda ampliación de nuestro poder constituye necesariamente una mejora.

Las máquinas no son neutrales

Otra de las ideas centrales de Magnifica Humanitas es que el discernimiento no es sólo preguntarnos si una tecnología se utiliza para un fin bueno o malo. También debemos cuestionarnos “sobre el modo en el que está diseñada y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que la guían” (MH, n.104).

Este planteamiento desmonta la idea, tan cómoda y extendida, de que la tecnología es neutral y de que todo depende del uso que hagamos de ella. Los sistemas tecnológicos incorporan decisiones sobre qué variables cuentan, qué comportamientos se consideran normales, qué objetivos se optimizan y qué errores resultan tolerables. 

Así, un algoritmo diseñado para seleccionar candidatos contiene una determinada idea de talento, de la misma forma que un sistema para evaluar trabajadores expresa una concepción particular del buen desempeño, una plataforma digital define qué formas de interacción favorece y cuáles dificulta, o un modelo para conceder créditos decide, aunque sea indirectamente, qué riesgos merecen ser asumidos y qué personas tendrán oportunidades para desarrollar sus proyectos.

Estas decisiones pueden acabar adquiriendo una apariencia de objetividad por el mero hecho de haber sido traducidas a números. Sin embargo, detrás de cada clasificación siguen existiendo criterios humanos, intereses económicos y supuestos culturales. Un riesgo que se vuelve especialmente evidente cada vez que confiamos decisiones delicadas a unos sistemas automatizados que, como señala la encíclica, “no conocen la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo” (MH, n.102).

Porque una persona puede equivocarse y aprender. Puede romper con su pasado, reconstruir su reputación o sorprendernos. En cambio, un sistema predictivo tiende a proyectar sobre ella las regularidades contenidas en los datos disponibles, de manera que lo que hizo ayer se convierte en la estimación de lo que hará mañana. Es una de las paradojas más inquietantes de la automatización: cuanto más aspiramos a anticipar el comportamiento humano, más riesgo corremos de encerrar a las personas en su pasado.

No basta con repartir los beneficios después

La encíclica también cuestiona la idea de que las desigualdades provocadas por la transformación tecnológica puedan corregirse una vez que ésta se haya producido.

Cuando el conocimiento, los datos, la capacidad computacional y las tecnologías más avanzadas se concentran en unas pocas manos, surge un desequilibrio que no se resuelve confiando en que los beneficios terminarán difundiéndose al resto de la sociedad en el futuro. El diseño de la transformación determina desde el principio quién podrá participar en ella, quién tendrá capacidad para orientarla y quién deberá limitarse a adaptarse a decisiones tomadas por otros. En palabras de León XIV, “si no se gestionan las transformaciones fijando como objetivo prioritario, desde la fase de planificación, la prevención de nuevas y mayores desigualdades, el progreso tecnológico genera automáticamente desigualdades estructurales” (MH, n.161). Conviene subrayar el “automáticamente”: no es necesario que alguien decida deliberadamente producir o aumentar esas brechas. Basta con unas estructuras que distribuyen de manera desigual el poder, el conocimiento y la capacidad de decisión.

Si esto es así, la justicia tecnológica no puede reducirse a compensar a los perjudicados. Exige pensar desde el comienzo quién participa en el diseño, quién puede acceder a las herramientas, quién se apropia de sus beneficios y qué posibilidades reales tienen las personas de cuestionar las decisiones que las afectan. Toda mujer y todo hombre, sostiene León XIV, deberían poder ser protagonistas de su propia vida y participar en la construcción de la sociedad. Una responsabilidad que las instituciones deben respetar y favorecer (MH, n.68).

La palabra clave es “participación”. Porque una sociedad no es más humana simplemente porque satisfaga las necesidades materiales de sus miembros. También debe permitirles intervenir, asumir responsabilidades y sentir que contribuyen a una obra compartida. Del mismo modo que ser cuidados no sustituye la experiencia de ser reconocidos como sujetos y de saber que los demás cuentan con nosotros. 

El trabajo es algo más que una fuente de ingresos

La necesidad de participar y contribuir adquiere una importancia especial cuando pensamos en el futuro del trabajo. En relación con esta cuestión, una parte del actual debate sobre la automatización parece partir de la hipótesis de que si las máquinas pueden producir la riqueza necesaria, la desaparición de muchos empleos no debería preocuparnos demasiado, siempre que encontremos mecanismos para distribuir esa riqueza. En Magnifica Humanitas León XIV no niega la importancia de garantizar unos ingresos. Pero nos advierte del riesgo de que “una sociedad que garantizara trabajo sólo a una pequeña parte de la población expondría a muchos a una situación de inactividad forzada, de ausencia de responsabilidades, de falta de compromiso y de estímulos cotidianos, con consecuencias de empobrecimiento humano y cultural” (MH, n.154). Porque trabajar es mucho más que intercambiar tiempo y actividad por dinero. Aunque pueda ser alienante, precario o injusto, a través del trabajo participamos en proyectos colectivos, adquirimos capacidades, estructuramos nuestro tiempo y comprobamos que nuestra aportación importa a otras personas. Trabajar significa, al menos potencialmente, asumir responsabilidades y transformar una parte del mundo.

Por eso, una sociedad tecnológicamente avanzada que condenase a una parte importante de la población a una irrelevancia subvencionada difícilmente podría considerarse una sociedad próspera. Habría resuelto quizás el problema del ingreso, pero no el del reconocimiento, la pertenencia o la contribución. De ahí que la pregunta relevante no sea únicamente cuántos empleos destruirá o creará la inteligencia artificial. También debemos preguntarnos qué tipo de actividades humanas queremos preservar, qué nuevas formas de contribución necesitamos reconocer y cómo podemos utilizar la tecnología para ampliar la capacidad de las personas para participar en la vida económica y social. Esto exige, en palabras de la encíclica, una “creatividad política a favor del empleo”. No necesariamente para conservar intactas todas las ocupaciones actuales, sino para evitar que “los avances económicos se traduzcan en nuevas formas de inseguridad y exclusión” (MH, n.168).

Recuperar la capacidad de ralentizar

“Se necesita una política más presente, capaz de ralentizar donde todo acelera y de proteger los espacios donde las comunidades pueden seguir participando e interrogándose” (MH, n.107).

En una cultura tecnológica dominada por la velocidad, ralentizar suele interpretarse como una muestra de resistencia, temor o incompetencia. Empresas y países sienten que deben adoptar cuanto antes cada nueva tecnología para no quedarse atrás. La urgencia se convierte así en argumento. Debemos avanzar porque los demás avanzan. Pero acelerar no significa saber adónde vamos. Y cuando desconocemos hacia dónde nos dirigimos, aumentar la velocidad no parece una decisión muy sensata.

Por eso necesitamos recuperar la capacidad de ralentizar. No para paralizar la innovación, sino para abrir tiempo a la reflexión, a comprender las consecuencias, a escuchar a quienes se verán afectados, a experimentar de forma controlada y a establecer límites antes de que determinadas prácticas se normalicen o resulten difíciles de revertir.

La política debería cumplir precisamente esa función de introducir deliberación colectiva allí donde los incentivos del mercado favorecen la velocidad y la concentración de poder. Sin embargo, con frecuencia llega tarde. Primero se despliegan los sistemas y después intentamos regular sus efectos, cuando ya existen modelos de negocio, hábitos sociales y relaciones de dependencia difíciles de transformar.

León XIV nos recuerda la importancia de esta cuestión. “La libertad, en la era digital, no es sólo una cuestión interior; es también un asunto público, que exige normas claras, transparencia, vías de recurso y límites proporcionados al uso de tecnologías invasivas, para que la tecnología siga estando al servicio de la persona y no se convierta en una forma de dominio de las conciencias” (MH, n.171). De poco sirve proclamar que una persona es libre si desconoce cómo se toman las decisiones que la afectan, no puede impugnarlas o depende de plataformas cuyas condiciones no tiene ninguna capacidad real de negociar. Porque la libertad requiere poder decir no. Pero también poder comprender, participar y recurrir.

Aprender a prescindir de la inteligencia artificial

La encíclica también nos plantea la necesidad de “aprender a prescindir de la IA y a proteger a nuestros jóvenes de la promesa de la máquina perfecta, de esa sutil seducción que hace parecer inútil el pensamiento humano precisamente cuando más se necesita” (MH, n.140). Pero, de nuevo, no debemos interpretar esta advertencia como una llamada a rechazar la tecnología, sino como una defensa de nuestra capacidad para decidir cuándo recurrir a ella y cuándo no. Lo que en realidad necesitamos entender es que sólo somos verdaderamente usuarios de una herramienta mientras conservamos la posibilidad de dejar de utilizarla. Cuando ya no sabemos trabajar, pensar, orientarnos o relacionarnos sin su asistencia, la tecnología deja de ampliar nuestra autonomía y empieza a limitarla.

Esta cuestión resulta especialmente relevante en el campo de la educación. La IA puede ayudar a aprender, proporcionar explicaciones personalizadas y abrir posibilidades extraordinarias de exploración. Pero también puede ahorrar a los estudiantes el esfuerzo cognitivo mediante el cual se forman el criterio, la paciencia y la capacidad de sostener una pregunta difícil. Una respuesta inmediata no siempre equivale a aprendizaje. Y eliminar toda dificultad puede impedir que se desarrollen las capacidades necesarias para enfrentarnos a problemas para los que todavía no existe una respuesta.

Por eso necesitamos enseñar a utilizar la inteligencia artificial y, al mismo tiempo, reservar espacios en los que no esté presente. Espacios para escribir sin asistencia, conversar sin intermediación, recordar sin consultar, aburrirse, dudar y perseguir una idea sin recibir inmediatamente una solución plausible. No para preservar una supuesta pureza humana, sino para evitar que las capacidades que necesitamos para gobernar la tecnología se atrofien por falta de uso.

La pregunta decisiva

“Ninguna mano, por sí sola, basta para sostener el peso de los desafíos que atraviesa el mundo; y ninguna es tan débil como para no poder ofrecer su contribución”, afirma León XIV.

Esta frase resume probablemente la antropología que atraviesa toda la encíclica. Somos seres interdependientes. Nadie puede resolver en solitario los problemas que enfrentamos, pero tampoco hay nadie cuya aportación pueda considerarse irrelevante de antemano. Frente a una cultura que tiende a dividir a las personas entre ganadores y perdedores, productivos e improductivos, aumentados y obsoletos, Magnifica Humanitas propone una sociedad en la que todas las personas puedan seguir siendo protagonistas.

La encíclica no ofrece respuestas técnicas detalladas a los desafíos de la inteligencia artificial. Tampoco pretende hacerlo. Su aportación consiste en recordarnos que las decisiones tecnológicas son también decisiones antropológicas y políticas. Porque cada vez que automatizamos una tarea, diseñamos una plataforma o confiamos una decisión a un algoritmo estamos expresando una idea sobre lo que merece ser preservado, lo que puede ser delegado y aquello que consideramos valioso en una persona.

Por eso, la pregunta más importante no es si la inteligencia artificial llegará a ser más capaz que nosotros, ni cuántas tareas podrá realizar, ni siquiera cuánta riqueza nos permitirá producir.

León XIV recupera las palabras de san Pablo a los corintios: “Qué cada cual se fije bien de qué manera construye” (1 Co 3,10). La cuestión no es, por tanto, si construiremos con inteligencia artificial, sino qué sociedad estamos construyendo con ella y qué lugar reservamos en esa sociedad a cada persona.

No será suficiente responder que nos hace más rápidos, productivos, eficientes o cómodos. Tendremos que explicar, además, si nos permite ser más libres, más responsables, más capaces de cuidar y de participar, si amplía las oportunidades de todos o concentra todavía más el poder, si fortalece nuestros vínculos o nos encierra en relaciones artificialmente satisfactorias, si reconoce nuestra dignidad o nos reduce a los datos que dejamos tras nosotros.

Porque, al final, la tecnología puede ampliar extraordinariamente nuestra capacidad de transformar el mundo, pero no puede decidir por nosotros qué mundo merece ser construido. Esa responsabilidad es, y debe seguir siendo, nuestra.

+++

***

En un mundo saturado de información el criterio marca la diferencia.

Por eso hemos creado un sistema de aprendizaje continuo que ayuda a los profesionales de RRHH, organización del trabajo y gestión de personas a comprender mejor el entorno, anticipar qué cambios pueden estar por llegar y tomar decisiones más sólidas.

Descubre nuestros planes para profesionales individuales y empresas aquí.👈