Por Rachel Amiri
En septiembre pasado, el P. Jeff Johnson, SJ, presidente de la Escuela Preparatoria Jesuita Strake de Houston, inauguró la Cena del Presidente anual con un saludo pregrabado en video.
«¿Sabrían ustedes si lo que ven con sus propios ojos no es real?», preguntó al público desde la pantalla.
En el video, el P. Johnson aparece sentado en un soleado atrio que podría ser uno de los edificios del campus de Strake Jesuit. Un observador astuto podría darse cuenta de que su voz no coincide con el movimiento de sus labios, o que la imagen parece un poco forzada.
«La imagen que ves y las palabras que oyes han sido generadas por inteligencia artificial (IA). Se utilizó material de audio y video sin procesar para entrenar a un ordenador para que esta imagen pareciera -y sonara- lo más real posible», continúa la voz generada por la IA.
En este caso, la IA era una herramienta de creación de videos que ponía de relieve los retos a los que se enfrentan los alumnos y profesores hoy en día. «Lo que han visto es una falsificación muy convincente», dijo el verdadero P. Johnson al público.
¿Cómo van a preparar los educadores a los jóvenes con la virtud y la sabiduría necesarias para actuar en un mundo en el que la inteligencia artificial puede utilizarse para hacer mucho bien, o mucho mal? Es una pregunta con la que están lidiando las escuelas de la Jesuitas Provincia USA Central y Meridional (UCS, por sus siglas en inglés).
¿Qué es la IA Generativa?
Esta tecnología «deepfake» [ultrafalsa] puede tanto entretener como alarmar, sobre todo cuando podemos imaginar fácilmente su uso en la guerra o durante disturbios políticos. Por supuesto, no todos los usos de esta nueva tecnología son tan dramáticos.
A estas alturas, mucha gente ha oído hablar de la IA generativa gracias a herramientas como ChatGPT, Copilot de Microsoft o Gemini de Google. Las herramientas basadas en IA ya están integradas en tecnologías que utilizamos a diario.
Esta nueva generación de inteligencia artificial utiliza la tecnología de grandes modelos lingüísticos (LLM, por sus siglas en inglés) para extraer información de un vasto conjunto de datos recogidos en la World Wide Web y, a continuación, utiliza algoritmos para producir contenidos escritos basados en esos datos. Los LLM son probabilísticos, lo que significa que proporcionan información que probablemente sea cierta, pero que puede ser inexacta en cuanto a los hechos. En el 2024, las herramientas de IA generativa también pueden producir contenidos visuales, de audio o de video que a veces son indistinguibles de los que podrían crear los humanos; y cada día son mejores.
Implicaciones éticas de la IA
Muchos han empezado a considerar las implicaciones de esta tecnología transformadora y
potencialmente disruptiva. ¿Qué queremos -y qué no queremos- que haga la IA? Cuando la IA puede completar en cuestión de segundos tareas que podrían llevar horas de trabajo humano, ¿qué hace que nuestro trabajo sea valioso?
El Papa Francisco ha abordado directamente el tema de la inteligencia artificial en múltiples ocasiones este año. «Estoy convencido de que el desarrollo de la inteligencia artificial y el aprendizaje automático tienen el potencial de contribuir de manera positiva al futuro de la humanidad», dijo. «No podemos descartarlo».
Esta apertura a la IA puede leerse junto al marco que el Papa Francisco ofrece en Laudato si’, el «paradigma de la creación» o el «tecnocrático», afirma el Dr. Brian J. A. Boyd, director del Centro de Ética y Justicia Económica de la Universidad Loyola de Nueva Orleans.
«Si lo afrontamos desde la perspectiva de una criatura hecha por un creador amoroso, apreciaremos estas herramientas por lo que pueden y no pueden hacer», afirma. «Si lo vemos como instrumentos de dominación, la IA se convierte en objeto de envidia. Tenemos el orgullo de crear algo tan poderoso y, por otro lado, la inseguridad de crear algo mejor que nosotros en algunos aspectos, como el procesamiento rápido de datos, la creación de imágenes o el resumen de textos».
La tecnología puede ayudar legítimamente a completar algunas tareas; Boyd incluso enseña a los estudiantes a utilizar una popular herramienta de IA para editar ensayos antes de su presentación en el curso de ética empresarial que imparte. Sin embargo, también existe el riesgo de «externalizar el pensamiento» y confiar habitualmente en la IA, de modo que las personas ya no sepan cómo ejercer un juicio independiente, perdiendo habilidades importantes incluso en la toma de decisiones morales.
Como dice el Papa Francisco: «Depende de nosotros decidir si nos convertiremos en pasto de algoritmos o alimentaremos nuestros corazones con esa libertad sin la cual no podemos crecer en sabiduría.»
Boyd busca la artesanía encarnada en el uso de la IA como herramienta, en lugar de difuminar los límites entre el ser humano y la máquina. «No queremos estar tan estrechamente integrados con una herramienta de IA que no sepamos dónde acaba y dónde empezamos», afirma.
En última instancia, al igual que la IA desafía nuestras capacidades humanas, puede recordarnos quiénes somos.
«El principio más importante es saber quién eres: un niño amado por Dios y llamado por Dios a convertirse en un hombre o una mujer para los demás», dice Boyd. «¿De qué manera lo que estoy haciendo se esfuerza por traer gloria a Dios?».
Una nueva era de trabajo
La posibilidad de sustituir a los trabajadores humanos e incluso las relaciones por chatbots podría empeorar la desigualdad y dañar nuestra capacidad de relacionarnos con los demás.
«Existe un riesgo real de que, a medida que vayamos construyendo robots mejores y más convincentes, dejemos de aprender a interactuar con otras personas a través de la
autorregulación y la autocontención», afirma Boyd. «Empezaremos a asociar dar órdenes con ser humano».
Más allá de lo personal, los retos éticos relacionados con la IA para las instituciones son muy amplios, desde las preocupaciones por la privacidad de los datos hasta la justicia social e incluso las medioambientales.
¿Desplazará la automatización a los trabajadores? ¿O podría mejorar su capacidad y liberar tiempo para dedicarse a un trabajo más significativo? Según Boyd, la IA es muy prometedora para permitir a los trabajadores «subir de categoría» y acceder a puestos mejor remunerados.
«Cualquier empresario tiene profundas obligaciones en materia de justicia laboral para buscar el bien de sus empleados y ofrecerles la posibilidad de desempeñar su función. El objetivo siempre va a ser ayudar a los trabajadores a hacer su trabajo de una manera significativa y gratificante».
La Conferencia Jesuita de Canadá y Estados Unidos (JCCU, por sus siglas en inglés) ha optado por ser una de las primeras en adoptar la IA generativa, al tiempo que mantiene su compromiso con su aplicación ética.
«Nos gusta ser proactivos a la hora de explorar e integrar nuevas herramientas en nuestros flujos de trabajo, asegurándonos de que nos mantenemos a la vanguardia al tiempo que nos alineamos con nuestra misión y nuestros valores», afirma Christine Stack, directora de TI de la JCCU.
Las oficinas de la Conferencia y la provincia están poniendo a prueba la IA generativa con Microsoft Copilot, experimentando en todos los departamentos. Según Stack, estas herramientas ayudan a automatizar tareas repetitivas, como redactar documentos, generar actas de reuniones y crear informes. «Esto permite a los jesuitas y a sus colegas centrarse en actividades más estratégicas y críticas para la misión», explica.
La formación de un Consejo de Ética de la Inteligencia Artificial refleja el compromiso de garantizar que el uso de la IA se ajuste a las Preferencias Apostólicas Universales y a la misión de la Compañía. La inclusión, la parcialidad y la posibilidad de que los sistemas de IA sustituyan a los trabajadores humanos son áreas que el consejo está supervisando. Los miembros del Consejo están redactando una Política de Ética de la IA en la que se pide que se revele cuándo y cómo se ha utilizado la IA en el trabajo de la Conferencia, así como la responsabilidad humana por su uso.
«El Consejo se esforzará por garantizar que nuestros sistemas de IA fomenten el bien común, salvaguarden el medio ambiente y honren la dignidad de todas las personas», afirma Stack.
El reto de la IA generativa en la educación de los jesuitas
Cuando ChatGPT irrumpió en escena a finales de 2022, los estudiantes fueron de los primeros en experimentar pidiéndole que escribiera redacciones o respondiera a las preguntas de los deberes. Los educadores se dieron cuenta y actualizaron las políticas de integridad académica prohibiendo el uso de IA para completar el trabajo de los estudiantes.
Ahora, sólo dos años después, los retos son más complejos, ya que la IA generativa se ha vuelto más omnipresente y más difícil de detectar.
«Está cambiando tan rápidamente; estamos en modo de supervisión constante. Me siento como si fuéramos un Centro para el Control y la Prevención de Enfermedades en el 2021», afirmó el Dr. Kevin Foy, vicedirector académico del instituto universitario de St. «Entendemos lo que hay, pero no sabemos cómo mutará mañana».
El software de detección de IA ha demostrado ser poco fiable, según los administradores
escolares. En lugar de ponerse al día centrándose en detectar el uso de la IA y penalizar a los alumnos, algunos educadores ignacianos han adoptado un enfoque diferente. En las escuelas y universidades de la Jesuitas Provincia USA Central y Meridional se han acercado a las nuevas tecnologías con un espíritu de discernimiento, sin dejar de estar arraigados en la pedagogía ignaciana.
La IA generativa desafía la forma en que estudiantes y profesores se han acostumbrado a aprender y a demostrar su dominio. Hoy en día, una lección puede ser planificada por la IA, un ensayo generado por la IA, el ensayo escrito para el estudiante por la IA, y ese ensayo calificado para el profesor por otra herramienta de IA.
«Hay que diseñar una lección que no pueda ser auténticamente ChatGPTed», afirma Spencer Wagner, profesor de informática y especialista en IA en el Regis Jesuit High School de Aurora (Colorado).
Wagner, autor del libro 2023, The Rise of the Teacher Coach: Adapting AI to the Classroom [El auge del docente-entrenador: la adaptación de la Inteligencia Artificial en el aula], es uno de los primeros en adoptar la IA y está entusiasmado con su potencial para profundizar en el aprendizaje de los alumnos a medida que los profesores reestructuran las lecciones y construyen «aulas pensantes». En lugar de centrarse en la producción de pruebas de aprendizaje a través de ensayos y exámenes, este enfoque requiere centrarse en el proceso de aprendizaje.
«¿Estamos diseñando un plan de estudios que suponga un reto para los estudiantes y les exija pensar de forma creativa?». pregunta Wagner. «El objetivo ya no es sólo un trabajo terminado. Es: ‘Muéstrame tu proceso de escritura. ¿Cómo se te han ocurrido estas ideas? ¿Cuándo has pedido ayuda a la IA?».
Wagner sugiere que, a medida que los educadores se adapten, es posible que volvamos a «donde solía estar la educación», incluso utilizando evaluaciones orales. Y con el ahorro de tiempo que supone utilizar la IA como asistente, los profesores pueden disponer de más tiempo en el aula para evaluar el progreso de los alumnos de forma individualizada.
Otros educadores, como Boyd, de Loyola Nueva Orleans, ven un gran potencial en el uso de «tutores» de IA para impartir una enseñanza diferenciada, un enorme reto para los profesores.
Formar a los alumnos de hoy para el mañana
En la Escuela Secundaria de la Universidad de St. Louis, que utiliza una escala de semáforo de zonas rojas, amarillas y verdes para guiar el uso de IA por parte de los estudiantes en los cursos, Foy ve una oportunidad renovada de formar estudiantes de por vida en el cambio hacia tareas que son difíciles de completar para la IA.
«Se trata del proceso por encima del producto, no sólo de la redacción», afirma. «Queremos que los estudiantes quieran hacer el trabajo».
¿Cómo pueden los educadores seguir formando a los alumnos para que pongan su educación al servicio del bien común? Aunque los retos técnicos y morales actuales eran inimaginables hace sólo unos años, los educadores jesuitas están bien preparados para afrontarlos.
Mike Lally, profesor de teología que forma parte de un comité de la Escuela Secundaria de la Universidad de St. Louis encargado de desarrollar la política de uso por parte de los estudiantes, afirma que ha suscitado debates en el claustro sobre la formación. A medida que las herramientas de IA se vuelven inevitables, también lo es el discernimiento personal sobre su uso.
«La pregunta que se planteó nuestro comité fue: «¿Cómo formar a los estudiantes para que sean personas reflexivas, que recen y disciernan?
«No creo que la IA tenga que cambiar la forma en que nuestros profesores acompañan a nuestros alumnos y buscan esos ideales de crecimiento intelectual y compromiso con la justicia y el amor. Esos valores fundamentales no cambiarán», afirma Wagner, de Regis Jesuit. «Ese elemento humano del aprendizaje encarnado es la razón por la que los alumnos siguen viniendo a nuestras escuelas».
Este enfoque equilibrado puede animar a quienes se sientan inquietos al acercarse a la nueva frontera digital.
«Ignacio nos dio un consejo bastante bueno: usa las cosas que te acercan a Dios y evita las que te alejan de él», dijo Foy.
Adaptarnos a la era de la IA puede exigirnos profundizar en las capacidades humanas que las máquinas no pueden sustituir: la reflexión atenta sobre nuestras vidas, el discernimiento y la oración, claves del modo de proceder iniciado por San Ignacio hace siglos.
Nota del autor: Este artículo se ha editado con ayuda de IA, pero se ha escrito sin ella.
[Imagen destacada: Spencer Wagner enseña Informática AP en Regis Jesuit High School].
