Desarmar la IA

Apuntes de la Carta Encíclica Magnifica Humanitas del Santo Padre León XIV, capítulo tercero.

“Custodiar con amor el esplendor de esa ‘magnífica humanidad’ que se nos ha dado, que no puede ser sustituida por ninguna máquina”

El Papa León XVI invita a pensar en los cuidados que debemos tener para aprovechar los grandes beneficios que trae una innovación tecnológica tan disruptiva como la Inteligencia Artificial (IA) y prevenir los riesgos que se enfrentan con su avance.

Ante la gravedad de estos riesgos, llega a proponer que debemos “desarmar la IA”, del mismo modo en que se desarman los países para prevenir usos destructivos de la energía atómica, sin prescindir por ello de sus muchos usos beneficiosos. Esto porque el potencial de transformación de la IA en todos los ámbitos de la vida de una persona y de la sociedad es enorme, por lo que deben “resguardar los efectos distorsionadores de la tecnología”.

“No basta regular la IA; es necesario desarmarla y hacerla acogedora”.

Solo tres comentarios y un cierre:

1. Hay que evitar el equívoco de equiparar la IA a la inteligencia humana

Las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significa el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias.

Pueden imitar lenguajes, comportamientos, valoraciones; pueden simular empatía o comprensión, pero no conocen lo que producen, porque no residen en el horizonte afectivo, relacional y espiritual en el que el ser humano se vuelve sabio.

Cuando dichos instrumentos se presentan como capaces de “aprender”, lo hacen de modo diferente al de la persona humana. No es la experiencia de quien se deja modelar por la vida y crece en el tiempo por medio de decisiones, errores, perdón y fidelidad; es más bien una adaptación estadística a partir de datos y retroalimentaciones, que puede ser muy eficaz, pero no implica un crecimiento interior.

La imitación artificial de una comunicación humana positiva -palaras de consejo, de empatía, de amistad, de amor- puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal. Cuando la palabra es simulada, esta no construye una relación, sino una apariencia, y se correo el riesgo de que la persona pierda el interés de buscar al otro.

Considerar que todo es inteligencia “lleva a silenciar otras dimensiones esenciales en la vida del ser humano, como el afecto, la voluntad, la entrega y la relación.

2. Hay que considerar “los límites del ser humano” como de su esencia

Si el ser humano es tratado como materia para ser perfeccionada o superada, entonces se vuelve más fácil aceptar que algunas personas sean considerados menos útiles, menos deseables, menos dignas. Se estaría haciendo pagar a los más vulnerables el precio de una presunta optimización de la especie.

Es sabio reconocer nuestra finitud constitutiva, aceptar los límites y la fragilidad de la humanidad. Renunciar a esta aventura, al mismo tiempo dramática y espléndida, en nombre de una presunta superación de todo límite podría ser cualquier cosa, pero no significaría ser humanos. “Las conquistas de la ciencia y de la técnica, desvinculadas del progreso moral y social, terminan por volverse contra el hombre” (Paulo VI)

La humanidad —magnífica y herida— no debe ser sustituida ni superada; puede acoger los progresos de la técnica para aliviar los sufrimientos y abrir posibilidades nuevas, siempre que no reniegue de aquello que la hace ser ella misma, es decir, la capacidad de relación y de amor.

El “más que humano” del humanismo cristiano no está en el transhumanismo (humanidad perfeccionada por la tecnología) ni en el posthumanismo (nueva etapa evolutiva que permitiría superar los límites de la condición humana), sino en la trascendencia.

3. Hay que impedirle el dominio sobre lo humano

El uso de la IA no es un hecho puramente técnico. “Desarmar la IA” es romper la equivalencia entre poder tecnológico y derecho a gobernar.

Concentración de poder

El dominio privado de las tecnologías en manos de unas pocas empresas transnacionales hace más difícil de discernir, gobernar y orientar su quehacer hacia el bien común. Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades.

La IA no es moralmente neutra

Existe a menudo un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas, los controles y las instituciones capaces de gobernar sus efectos. Quien controla la IA podrá imponer su propia visión moral. Al ser conducido el cambio por quienes poseen datos, infraestructuras y capacidad de cálculo, se corre el riesgo de que sea gobernado sólo por lógicas tecnocráticas y presentado como necesario e imprescindible, terminándose por imponer reglas dictadas por los dueños de la tecnología.

Decisiones en manos de algoritmos

Confiar completamente decisiones que repercuten en el trabajo, el acceso a créditos, y la reputación a sistemas automatizados acarrea un riesgo que no se puede pasar por alto, pues se podría afectar gravemente la vida de las personas, al menoscabar sus derechos, oportunidades, prestigio y libertad. Los algoritmos de la IA no conocen la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo.

Cierre

Las innovaciones tecnológicas —incluida la inteligencia artificial— no son neutrales: pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión; pueden curar, conectar, educar, y cuidar la Casa Común, o dividir, descartar, y generar nuevas injusticias. La primera elección no es entre un “sí” o un “no” a la tecnología, sino entre construir Babel o reconstruir Jerusalén.

El desafío es evitar la deshumanización que sacrifica a los débiles, aplana las diferencias, y pretende traducirlo todo, incluso el misterio de la persona, en datos y rendimientos. La invitación es a no poner nuestra esperanza en un potencial ilimitado, en formas de progreso que pueden agudizar las desigualdades, en soluciones inmediatas incapaces de sanar las heridas de los pueblos. Por el contrario, el llamado es a edificar un mundo en el que todos puedan florecer.