¿El Papa León XIV está en contra de la IA?

Hace unos días escuché en un noticiero italiano que el Papa León XIV había publicado su primera encíclica y que pedía “disarmare l’IA”. O sea, desarmar la IA. Me pareció una postura reaccionaria, el tipo de respuesta que viene del miedo y no del pensamiento. Lo anoté mentalmente como otra institución que no entiende lo que está pasando y seguí con mis cosas.

Un par de días después me llamó la atención un video de @cfddose que decía que el Papa había hecho algo que ningún otro papa había hecho antes, y que mucha gente no lo había entendido. Sin mucha fe —ese tipo de títulos suele ser decepcionante— seguí escuchando, sobre todo porque hablaba en un inglés con acento, lo que me llevó a pensar “a ver cómo ven esto en otro lado del mundo”. Adelanto: me di cuenta que fui víctima de mis propios prejuicios y de la polisemia.

El Papa contra la IA. ¿El Papa contra la IA?

Lo primero que me shockeó fue enterarme que no era la iglesia yendo contra Silicon Valley. En el Aula Nuova del Sinodo estaba sentado Chris Olah, cofundador de Anthropic (la empresa creadora de Claude y el temido Mythos). Es decir, la industria estaba en el Vaticano.

Olah arrancó su presentación reconociendo que cada frontier AI lab, incluyendo su propia empresa, opera dentro de intereses que pueden entrar en conflicto con hacer lo correcto. Explicó que la industria de la inteligencia artificial está atrapada en intereses comerciales, geopolíticos y, cómo no, una carrera de egos. Y que por más que individualmente quieran hacer las cosas bien, siempre van a estar influenciados por esos intereses. Por esa razón necesitan gente de afuera.

Más claro: LA INDUSTRIA FUE AL VATICANO a pedir ayuda al Papa León XIV… para frenarse a sí misma. Si fuera una telenovela, podría llamarse “IA: tierra de orgullo y ambición”.

Esto no es la iglesia contra la tecnología. Es un gran referente de la IA pidiéndole ayuda al mayor referente espiritual de Occidente.

Desarmar la IA: cuando la palabra no significa lo mismo en todos los idiomas

Volviendo al video, @cfddose dice algo más: el Papa usó una palabra en toda la encíclica que te indica lo serio que es esto. La misma palabra que se usa para las armas nucleares. Disarm. Desarmar**.**

Ahí entendí dónde había estado mi error. Este muchacho escuchó disarm y lo leyó en clave bélica: en inglés significa quitar las armas, neutralizar la capacidad de daño, igual que con las ojivas nucleares. Yo lo escuché en italiano ―disarmare― y lo traduje al español con mi cabeza rioplatense: desmontar, desmantelar, romper la estructura. Como cuando “desarmás” un mueble.

Misma raíz, mismo origen latino, dos lecturas completamente distintas. Y las dos son válidas dentro de sus idiomas.

Lo que el Papa León XVI realmente escribió

Fui directo a buscar la encíclica, que está en varios idiomas en la página del Vaticano. El párrafo en cuestión es el número 110.

León XIV hace algo que no es habitual en un documento de este tipo: define el término tres veces seguidas, como si supiera que iba a ser malentendido. No en vano habla 5 idiomas.

Primero dice que desarmar la IA significa sacarla de la lógica de la competencia armada, ya no solo militar, sino económica y cognitiva: la carrera al algoritmo más poderoso, a la base de datos más grande, para consolidar ventaja sobre todos los demás. Después dice que desarmar significa romper la equivalencia entre poder técnico y derecho a gobernar. Y tercero ―y acá está el punto clave— dice explícitamente que desarmar no significa renunciar a la tecnología, sino impedirle que domine lo humano.

No es desmantelarla. Es quitarle las armas. Sustraerla a los monopolios, hacerla discutible, contestable, convivible (si esa palabra existe).

Desarmando el prejuicio y abrazando la polisemia

La encíclica fue escrita en italiano. En todas las lenguas en las que fue traducida — español, inglés, portugués, francés, alemán, polaco, árabe — el equivalente de disarmare carga con matices distintos. En inglés, disarm evoca casi siempre reducción de armamento: tratados, negociaciones, el tipo de acuerdo que se firma entre potencias. En español, “desarmar” tiene además una polisemia material muy viva: se puede desarmar un motor, un mueble, una organización. Desmontar pieza por pieza.

Esa diferencia no es menor. Cuando alguien en Uruguay o en Argentina busca información sobre el tema, lo que encuentra depende de cómo los medios tradujeron ese verbo. Y si lo tradujeron activando el significado de desmantelar, la encíclica suena a condena. Si lo tradujeron activando el de neutralizar, suena a regulación. Y cada idioma seguramente produce en sus hablantes una “captación” primaria del significado diferente. Seguramente a un alemán no se le activó el prejuicio de “la iglesia siempre un paso atrás” cuando escuchó entwaffnen.

¿Son encíclicas distintas, según el idioma, quién traduce y en qué registro lo hace? La respuesta da para un capítulo aparte sobre teoría de la comunicación.

Una palabra que León XIV eligió a propósito

En el discurso de presentación de la encíclica, el Papa explicó por qué eligió esa palabra. Dijo que era una palabra fuerte, elegida deliberadamente, porque este momento necesita palabras capaces de atraer atención y despertar conciencias. La analogía que usó fue el desarme nuclear: así como la Iglesia lleva décadas trabajando por el desarme de las armas atómicas —consciente de que todo gran poder tecnológico necesita control moral y público— la IA exige ahora el mismo tratamiento.

No es un gesto contra la tecnología. Estamos frente a un poder nuevo, con el que tenemos que aprender a convivir. Y el hecho de que el cofundador de Anthropic haya estado en esa sala, diciendo que necesitan frenos externos, no sé si tiene parecido en la historia.

¿Ustedes lo saben?

Este artículo es parte de una serie sobre IA, cultura y poder. Continuá leyendo: Un fundador de la IA en el Vaticano: ¿por qué? y La profecía autocumplida: dos siglos imaginando la IA