Una respuesta pastoral y académica adecuada
Por el P. Luis O. Jiménez Rodríguez, SJ
Desde 2022, con el lanzamiento generalizado de la inteligencia artificial (IA), este campo ha provocado conmoción, debates e incluso advertencias apocalípticas en todo el mundo. La sociedad moderna está siendo testigo de un momento de revolución tecnológica. La IA está produciendo, y seguirá produciendo, una profunda metamorfosis sociocultural, similar a la de otros inventos tecnológicos como la imprenta, la máquina de vapor, el automóvil, el ordenador, Internet y las redes sociales. Se ha convertido en una parte ineludible de la vida moderna. La pregunta es: ¿cuál es la respuesta pastoral y académica adecuada?
La IA lleva décadas evolucionando. Antes de 2022, los algoritmos, o sistemas de algoritmos, eran lo que llamamos IA «débil» o «estrecha». Este tipo de IA resuelve problemas específicos, como el GPS, la identificación y el análisis de imágenes, y juegos como el ajedrez. Más allá de estos logros o innovaciones, muchos grupos o empresas aspiran a desarrollar un sistema «general» o «fuerte» que se asemeje lo más posible a la inteligencia humana, capaz de resolver una amplia gama de problemas y, en última instancia, lograr un sistema que podríamos clasificar como consciente.
El año 2022, con el anuncio de OpenAI y su software ChatGPT, marcó un hito en ese objetivo. Aunque aún no hemos alcanzado ese momento de «conciencia», a menudo denominado «singularidad», no hay duda de que la IA generativa es un paso significativo hacia la consecución de una IA «fuerte» o «general».
¿Cómo sería un sistema tan general, fuerte y posiblemente consciente? Según Stuart Russell, uno de los principales expertos en la materia y autor de textos y artículos muy apreciados sobre IA, un sistema de IA fuerte o general:[i]
- Absorber constantemente cantidades gigantescas de información procedente de sensores repartidos por todo el planeta.
- Mejoraría constantemente los modelos matemáticos y estadísticos del mundo social y las acciones de los seres humanos.
- A partir de estos modelos mejorados, mediante cálculos enormemente complejos, desarrollaría mejores predicciones que resolverían problemas aún más complejos.
- Mejoraría las predicciones de los fenómenos naturales y las decisiones humanas, optimizando así los planes a largo plazo.
Aún no hemos llegado a ese punto, pero el desarrollo de chips cuánticos capaces de resolver en minutos lo que llevaría muchos años con la mejor tecnología actual nos daría la capacidad de acelerar el proceso para alcanzar ese punto[ii] .
La pregunta que Russell se hace a sí mismo, y a nosotros, es si esto es lo que queremos y debemos hacer. ¿Estamos técnicamente preparados para mantener un sistema y un poder así bajo control humano? ¿Tenemos el desarrollo ético, social, legal y político para afrontar los retos que esto supondría?
Inteligencia humana frente a inteligencia artificial
La inteligencia humana es mucho más compleja y rica que la noción instrumental empleada en el desarrollo de la IA. Nuestra inteligencia abarca la experiencia humana, el lenguaje, los sentimientos, la evaluación, la racionalidad, la deliberación y la acción. En esta multiplicidad de aspectos de la inteligencia humana, encontramos la dimensión de la coexistencia con los demás y la responsabilidad de construir nuestra realidad personal y social, garantizando nuestra libertad.
La inteligencia artificial simula algunos aspectos de la inteligencia humana y, cada vez más, estas simulaciones se realizan de formas extraordinarias y sorprendentes. Sin embargo, esto no implica que la inteligencia de los sistemas de IA sea idéntica a la de los seres humanos. El concepto de «inteligencia» en el término «inteligencia artificial» se utiliza para referirse a la producción de resultados inesperados y sin precedentes en forma de textos, procesos, música o imágenes que pueden sugerir una acción específica a un usuario, con un efecto único en el mundo.
Las implicaciones de la IA para el futuro de las sociedades democráticas
La IA puede contribuir a los procesos de las sociedades democráticas que aspiran a ser verdaderamente participativas. Podría permitir una gestión pública más eficiente y mejorar la comunicación entre el gobierno y los ciudadanos, optimizar la asignación de recursos e es limitados, responder a preguntas sobre procesos políticos, comunicar las preocupaciones de los ciudadanos a los gobiernos e identificar patrones de corrupción[iii] .
Sin embargo, el uso de la IA en la política conlleva varios riesgos. Nos encontramos ante una «encrucijada crítica», con dos caminos posibles: la «democracia aumentada por la IA» frente a la «tecnoautocracia impulsada por la IA».[iv] En el primer caso, tendríamos una IA que buscaría fortalecer la auténtica democracia participativa promoviendo y respetando los derechos humanos, fomentando la deliberación pública para facilitar la toma de decisiones informadas y ayudando a las comunidades en la comunicación y la deliberación a través de la información de datos y la creación de consenso. Todos ellos son elementos esenciales para abordar retos complejos, como el cambio climático.
En el segundo caso, el de la tecnoautocracia, la IA sustituye progresivamente la toma de decisiones humanas en la esfera política. En el caso extremo, los sistemas de IA podrían considerarse más adecuados para dirigir los asuntos públicos que los ciudadanos o los funcionarios electos. De este modo, la democracia participativa se ve socavada al privar a los ciudadanos de su papel en la deliberación y la toma de decisiones.
IA y educación
La IA puede beneficiar a la educación. Los algoritmos generativos de IA procesan y analizan rápidamente los datos educativos, convirtiéndolos en elementos medibles que ayudan a evaluar y mejorar los métodos de enseñanza y aprendizaje.
Desde la perspectiva del estudiante, la IA puede facilitar el aprendizaje activo al ayudar en la búsqueda de información, la generación de textos y la comprensión. Muchos educadores han fomentado el pensamiento crítico examinando rigurosamente las respuestas generadas por la IA a preguntas abiertas, teniendo en cuenta lo que han aprendido en clase.
Sin embargo, en el ámbito académico somos cada vez más conscientes de las limitaciones de la IA y de las cuestiones éticas que plantea su uso, como la honestidad académica y la difusión de información errónea. Además, la IA generativa no puede sustituir la experiencia humana en el proceso de aprendizaje y el desarrollo de habilidades. Su uso puede llevar a la creencia de que la educación es simplemente una transferencia de información, descuidando otras dimensiones de la materia, como las habilidades e es y las virtudes que conforman el carácter de una persona, y la sabiduría y las dimensiones relacionales que conforman a la persona[v] .
El uso de la IA transforma el aprendizaje, las relaciones pedagógicas y, potencialmente, el propósito de la educación. La IA es una herramienta que facilita la eficacia y el rendimiento de los procesos. La educación es un proceso relacional lento y complejo que los estudiantes deben adoptar mediante el ejercicio de su autonomía. Integrar ambos para aprovechar la eficacia de la IA y el proceso de aprendizaje del estudiante es un reto de nuestro tiempo.
Una disyunción entre el uso de la IA y los objetivos pedagógicos genuinos puede llevar a que los estudiantes se vuelvan dependientes de los algoritmos para hacer su trabajo. Puede impedir el desarrollo del pensamiento crítico, la creatividad y la autonomía. Podría dar lugar a que los estudiantes se quedaran en un nivel superficial de comprensión en un momento de la historia en el que la humanidad se enfrenta a retos muy complejos que amenazan su propia supervivencia.
El pensamiento simplista no será suficiente para buscar soluciones al problema climático, al auge mundial del autoritarismo, al problema de la pobreza, a la distribución de los recursos escasos, etc. En un momento en el que más necesitamos un humanismo auténtico, las humanidades están siendo ignoradas o atacadas por un pensamiento simplista y superficial.
IA, valores y ética
El uso de la IA plantea numerosos retos éticos. Mencionaré solo algunos: la privacidad de los usuarios, la manipulación de los ciudadanos mediante «noticias falsas», la seguridad de los usuarios que utilizan estos sistemas, la falta de transparencia y explicabilidad, los sesgos contra determinados grupos que reflejan los prejuicios de la sociedad, la sustitución del trabajo humano, el medio ambiente frente al consumo de electricidad y agua por parte de los sistemas de hardware que implementan los algoritmos, el poder que pertenece a quienes controlan estos sistemas y la seguridad de la población si los seres humanos pierden el control de la IA.
¿Qué ética aplicada a la tecnología nos ayudaría a afrontar estos retos en el diseño, el desarrollo y el uso de la IA? La respuesta requiere la incorporación de valores y ética desde el principio del desarrollo de un producto o la generación de conocimiento. Una ética prohibitiva o un requisito de cumplimiento de las normas legales no es suficiente. La velocidad del desarrollo de los sistemas hace que este tipo de ética sea insuficiente. Por esta razón, el papa Francisco pidió el desarrollo de una ética de la inteligencia artificial que ayude, guíe e inspire dicho desarrollo y uso, yendo más allá de una mera prohibición o cumplimiento.
Proponemos una ética inspiradora que vaya más allá de lo prohibitivo, al tiempo que reconoce la necesidad de algunas restricciones. Una ética inspirada en valores personales, profesionales y sociales que integraría la inteligencia humana y la IA en la búsqueda del bien común de los ciudadanos, la sociedad, el medio ambiente y las generaciones futuras. Se trata de una articulación humano-algorítmica que busca incorporar valores en el diseño, el desarrollo y el uso de la IA.
La propaganda más común sobre la IA refleja el paradigma tecnocrático, como escribió el Papa Francisco en[vi] , que promueve un conjunto muy particular de valores que guían el desarrollo tecnológico actual: hiperrendimiento, productividad, eficiencia, éxito, competencia y consumo. La característica común de todos ellos es que son valores instrumentales promovidos por el paradigma tecnocrático.
El papa Francisco promueve otro conjunto de valores que deben incorporarse al desarrollo y uso de la IA[vii] :
Por lo tanto, tenemos el deber de ampliar nuestra perspectiva y orientar nuestra investigación técnica y científica hacia el logro de la paz y el bien común, al servicio del desarrollo integral de la humanidad y la comunidad.
La inteligencia artificial debe servir al mayor potencial humano y a nuestras más altas aspiraciones, no competir con ellos.
El conocimiento y la sabiduría como valores supremos
Al generar conocimiento, las universidades deben promover otros valores como el pensamiento crítico, la creatividad y la libertad de utilizar esa compleja red de conocimientos. Una universidad católica no solo busca la producción de conocimiento, sino también la sabiduría que proviene del Logos encarnado.
El papa Francisco enmarcó esta búsqueda de la sabiduría en el desarrollo de una síntesis orientadora que hoy es tan urgente: «Hoy […] hay una falta de sabiduría, de reflexión, de pensamiento capaz de producir una síntesis orientadora».
El antiguo papa nos recordó que desde el centro vivo que es la Palabra de Dios hecha carne, «es posible superar la separación fatal entre teoría y práctica, pues en la unidad de la ciencia y la santidad encontramos el verdadero espíritu de esa doctrina que está destinada a salvar el mundo».[viii]
Por lo tanto, para una universidad católica, es posible y necesario articular el esfuerzo de la inteligencia humana con el uso de la inteligencia artificial en la generación de conocimiento, con el objetivo de buscar la sabiduría en forma de una síntesis orientadora del sentido de la vida y del sentido de las personas. El desarrollo de tal síntesis debe integrar ciencia y humanismo, fe y razón, teoría y praxis, lo indígena y lo extranjero, lo antiguo y lo nuevo.
De esta manera, la IA puede transformarse en un instrumento que ayude a los seres humanos a desarrollar proyectos que realicen el potencial humano y nos ayuden a crear un mundo más humano que cumpla con la creación y no destruya nuestra casa común.
El P. Luis O. Jiménez Rodríguez, SJ, es director de la Facultad de Teología de la Pontificia Universidad Católica de Puerto Rico y miembro del grupo de trabajo sobre inteligencia artificial del Consejo Episcopal Latinoamericano y Caribeño (CELAM).
[i] Stuart Russell, Human Compatible: Artificial Intelligence and the Problem of Control, Penguin Random House, 2020, 92.
[ii] Zoe Kleinman, «¿Será la cuántica más importante que la IA?», BBC News, 5 de noviembre de 2025, https://www.bbc.com/news/articles/c04gvx7egw5o
[iii] Grupo de Trabajo sobre Fronteras Tecnológicas del CELAM (varios autores), Artificial Intelligence. A Pastoral Perspective from Latin America and the Caribbean, mayo de 2025, 68. https://adn.celam.org/wp-content/uploads/2025/05/IA-mirada-pastoral-desde-ALC.pdf
[iv] Mark Coeckelbergh y Henrik Skaug Sætra. «El cambio climático y las vías políticas de la IA: el dilema entre tecnocracia y democracia a la luz de la inteligencia artificial y la agencia humana», 3.
Grupo de Trabajo sobre Fronteras Tecnológicas del CELAM (varios autores), Inteligencia artificial: una perspectiva pastoral desde América Latina y el Caribe, mayo de 2025, 69.
[v] Grupo de Trabajo sobre Fronteras Tecnológicas del CELAM, Inteligencia artificial. Una perspectiva pastoral, 65.
[vi]Papa Francisco, Carta encíclica Laudato Si’. Mayo de 2015, núms. 101, 106-114. https://www.vatican.va/content/francesco/en/encyclicals/documents/papa-francesco_20150524_enciclica-laudato-si.html
[vii] Papa Francisco, Mensaje para la 57.ª Jornada Mundial de la Paz, 1 de enero de 2024. https://www.vatican.va/content/francesco/es/messages/peace/documents/20231208-messaggio-57giornatamondiale-pace2024.html
[viii]Papa Francisco, Constitución apostólica Veritatis Gaudium sobre las universidades y facultades eclesiásticas. Diciembre de 2017, n.º 4c. https://www.vatican.va/content/francesco/en/apost_constitutions/documents/papa-francesco_costituzione-ap_20171208_veritatis-gaudium.html
