Papa Francisco Pide Prohibición Global de Armas de IA

Los peligros de la inteligencia artificial volvieron a ser tema de comentarios del Papa Francisco al dirigirse a líderes mundiales en la Cumbre anual del G7 en Puglia, Italia, el viernes.

Durante su discurso, Francisco instó a los gobiernos globales a prohibir el uso de la IA en la guerra y desarrollar un marco ético para la tecnología, enfatizando la necesidad de colaboración para guiar su desarrollo y uso.

“Ante la tragedia que es el conflicto armado, es urgente reconsiderar el desarrollo y uso de dispositivos como las llamadas ‘armas autónomas letales’ y en última instancia prohibir su uso,” dijo el Papa. “Esto comienza con un compromiso efectivo y concreto para introducir un control humano cada vez mayor y más adecuado".

“Ninguna máquina debería elegir jamás quitar la vida a un ser humano,” afirmó.

El jefe de la Iglesia Católica ha utilizado repetidamente su plataforma para abordar la inteligencia artificial después del explosivo lanzamiento de ChatGPT en 2022 y la posterior oleada de IA en la corriente principal, refiriéndose a ella como la "apuesta de mayor riesgo para nuestro futuro".

Él mismo ha sido el foco de varias imágenes y videos virales generados por IA, incluido uno que lo muestra vistiendo una chaqueta blanca de Balenciaga, reconociendo el creciente poder de la IA en la política, la medicina y la educación.

Llamando a la IA una "verdadera revolución cognitivo-industrial" que podría traer una compleja transformación, sin embargo, el Papa Francisco advirtió que la tecnología también podría traer una mayor injusticia entre países avanzados y en desarrollo, o entre clases sociales dominantes y oprimidas.

La tecnología no es infalible, dijo el Pontífice.

“Es un error frecuente y grave olvidar que la inteligencia artificial no es otro ser humano y que no puede proponer principios generales”, dijo Francis. “Este error se deriva ya sea de la profunda necesidad de los seres humanos de encontrar una forma estable de compañía, o de una suposición subconsciente, a saber, la suposición de que las observaciones obtenidas mediante un mecanismo de cálculo están dotadas de las cualidades de certeza incuestionable y universalidad incuestionable”.

El Papa también abordó lo que llamó la “condición tecno-humana” y la relación de la humanidad con la tecnología a lo largo de la historia.

“Los seres humanos siempre han mantenido una relación con el entorno mediada por las herramientas que gradualmente producían”, dijo. “No es posible separar la historia de hombres y mujeres y de la civilización, de la historia de estas herramientas”.

El Papa señaló que la tecnología puede ser utilizada tanto para sostener la vida como para quitarla, y dijo que en el futuro, la inteligencia artificial alcanzará la singularidad.

"Esto es aún más cierto porque es muy probable que, en un futuro no muy lejano, los programas de inteligencia artificial puedan comunicarse directamente entre sí para mejorar su rendimiento", dijo.

La singularidad se refiere a un momento en el que las computadoras y la inteligencia artificial avanzan más allá del control humano.

"Y si, en el pasado, hombres y mujeres que crearon herramientas simples vieron sus vidas moldeadas por ellas —el cuchillo les permitió sobrevivir al frío, pero también desarrollar el arte de la guerra— ahora que los seres humanos han creado herramientas complejas, verán aún más sus vidas moldeadas por ellas", dijo el Papa.

El Papa Francisco es uno de los más destacados en un coro mundial de voces que abogan por un enfoque más cauteloso hacia la inteligencia artificial. El verano pasado, el Secretario General de la ONU, António Guterres, dijo que tales advertencias deben tomarse en serio.

"Las alarmas sobre la última forma de inteligencia artificial, la IA generativa, son ensordecedoras, y provienen principalmente de los desarrolladores que la diseñaron", dijo Guterres durante una conferencia de prensa.

Mientras Francisco expresaba preocupación sobre la inteligencia artificial generativa, también enfatizaba su potencial creativo para la humanidad.

“La Sagrada Escritura atestigua que Dios otorgó su Espíritu a los seres humanos para que pudieran tener ‘habilidad, inteligencia y conocimiento en toda clase de oficios’”, dijo Francis. “La ciencia y la tecnología son, por lo tanto, productos brillantes del potencial creativo de los seres humanos. De hecho, la inteligencia artificial surge precisamente del uso de este potencial creativo dado por Dios.”