La inteligencia artificial (IA) tiene la capacidad de hacer frente a algunos de los mayores desafíos que afronta, hoy en día, el ámbito de la educación, de desarrollar prácticas de enseñanza y aprendizaje innovadoras y, finalmente, de acelerar el progreso en la consecución del ODS 4. No obstante, estos avances tecnológicos rápidos implican inevitablemente numerosos riesgos y retos, que los debates sobre las políticas y los marcos reglamentarios tienen aún dificultades para poder superarlos. La UNESCO está decidida a ayudar a los Estados Miembros para que saquen provecho del potencial de las tecnologías de la IA con miras a la consecución de la Agenda de Educación 2030, a la vez que garantiza que la utilización de las tecnologías de la IA en el contexto educativo esté regida por los principios fundamentales de inclusión y equidad.
La misión de la UNESCO constituye un llamamiento intrínseco a adoptar un enfoque en materia de IA centrado en el ser humano, que tenga como objetivo reorientar el debate para incluir la función de la IA en la lucha contra las desigualdades actuales en materia de acceso al saber, a la investigación y a la diversidad de las expresiones culturales, y para que la IA no acentúe las diferencias tecnológicas entre los países y dentro de estos. La promesa de “la IA para todos” debe permitir que cada persona pueda sacar provecho de la revolución tecnológica en curso y acceder a sus beneficios, fundamentalmente en materia de innovación y saber.
Por otra parte, en el marco del Consenso de Beijing, la UNESCO elaboró una publicación con miras a mejorar el estado de preparación de los encargados de formular políticas educativas en materia de inteligencia artificial. El documento, que se titula “Artificial Intelligence and Education: Guidance for Policy-makers” (Inteligencia artificial y educación: Guía para los encargados de formular políticas), podrá ser utilizado por los especialistas y profesionales de las comunidades de encargados de formular políticas y del ámbito educativo. El documento tiene como objetivo crear una visión común de las oportunidades y desafíos de la IA en el ámbito de la educación, así como de sus consecuencias en términos de competencias básicas necesarias en la era de la IA.
En el marco de sus proyectos, la UNESCO sostiene que el despliegue de las tecnologías de la IA en la educación debe tener como objetivo la mejora de las capacidades humanas y la protección de los derechos humanos con miras a una colaboración eficaz entre humanos y máquinas en la vida, el aprendizaje y el trabajo, así como en favor del desarrollo sostenible. Conjuntamente con sus asociados, las organizaciones internacionales y los valores clave que constituyen los pilares de su mandato, la UNESCO pretende reforzar su liderazgo en el ámbito de la IA en la educación, como laboratorio mundial de ideas, organismo normativo, consejero técnico y organismo de desarrollo de las capacidades.
Si desea sacar provecho de las nuevas tecnologías, como la IA para dinamizar el sector educativo, nos complace asociarnos a su iniciativa mediante contribuciones financieras, en especie o mediante asesoramiento técnico, precisóa la UNESCO.
“Debemos renovar este compromiso, ya que nos acercamos a una época en que la inteligencia artificial – la convergencia de tecnologías emergentes – transformará todos los aspectos de nuestras vidas (…)”, afirmó la Sra. Stefania Giannini, Subdirectora General de Educación de la UNESCO, durante la Conferencia Internacional sobre Inteligencia Artificial y Educación, que tuvo lugar en Beijing, en mayo de 2019. “Debemos orientar esta revolución hacia la dirección correcta para mejorar los medios de subsistencia, reducir las desigualdades y promover una mundialización justa e incusiva”, enfatizó .
En septiembre de 2023 el organismo de la ONU que vela por la educación publica una serie de directrices para hacer frente a las perturbaciones de esa herramienta tecnológica en el campo educativo y urge a los gobiernos a regular su utilización. La titular de la agencia reconoce las ventajas de la inteligencia artificial generativa pero advierte que no puede integrarse en la educación sin salvaguardas y normativas.
La educación es uno de los campos que se ha volcado a usar esa tecnología, por eso, en un momento en el que los niños empiezan el año escolar tras las vacaciones del verano boreal, la UNESCO presentó recientemente la primera Guía sobre la Inteligencia Artificial Generativa en la Educación y la Investigación.
La inteligencia artificial generativa se dio a conocer al público en noviembre de 2022 con el lanzamiento del ChatGPT, que se convirtió en la aplicación de más rápido crecimiento de la historia. Esa herramienta puede generar resultados como texto, imágenes, vídeos, música y códigos de software, lo que tiene implicaciones de gran alcance para la educación y la investigación.
Sin embargo, el sector educativo no está preparado para la integración ética y pedagógica de estas herramientas en rápida evolución. De acuerdo con una encuesta hecha por la UNESCO en más de 450 escuelas y universidades, menos del 10% cuentan con políticas institucionales o directrices formales relativas al uso de aplicaciones de inteligencia artificial generativa, en gran parte debido a la ausencia de normativas nacionales.
En junio de 2023, la UNESCO advirtió que el uso de la inteligencia artificial generativa en las escuelas se estaba extendiendo a un ritmo demasiado acelerado, con una preocupante falta de escrutinio público, controles o regulaciones. Como evidencia, la agencia presentó un documento mostrando que la publicación de un nuevo libro de texto requiere más autorizaciones que el uso de herramientas de inteligencia artificial generativa en las aulas.
El objetivo de la Guía es hacer frente a las perturbaciones causadas por la inteligencia artificial generativa y garantizar que su uso tenga un enfoque centrado en el ser humano.
Para ello, la UNESCO urgió a los gobiernos a reglamentar el uso de esas tecnologías en la esfera de la educación y a capacitar al profesorado para que refuerce en los estudiantes la importancia de la inteligencia humana para tomar decisiones frente a las opciones que brinda la inteligencia artificial generativa.
Audrey Azoulay, directora general de la UNESCO afirmó que esa tecnología representa una gran oportunidad para el desarrollo humano, pero advirtió que también puede causar “daños y perjuicios”.
“No puede integrarse en la educación sin el compromiso público y sin las salvaguardas y regulaciones necesarias por parte de los gobiernos”, dijo Audrey Azoulay, y agregó que las Orientaciones elaboradas por la UNESCO ayudarán a los responsables políticos y docentes a aprovechar mejor el potencial de la inteligencia artificial en beneficio de los estudiantes.
La Guía explica que las herramientas de la inteligencia artificial generativa disponibles al público están surgiendo rápidamente, superando la adaptación de los marcos regulatorios nacionales, y señala que la ausencia de regulaciones nacionales en la mayoría de los países deja la privacidad de los datos de los usuarios desprotegida y las instituciones educativas en gran medida no están preparadas para validar las herramientas.
También hace una evaluación de los riesgos potenciales de la inteligencia artificial generativa para los valores humanistas fundamentales que promueven la inclusión, la equidad, la igualdad de género, la diversidad lingüística y cultural, así como las opiniones y expresiones plurales.
Frente a estos riesgos, la UNESCO propone medidas para que las agencias gubernamentales regulen el uso de estas tecnologías, incluyendo que se exija la protección de la privacidad de los datos y que se considere un límite de edad para su uso.
Según el organismo, un niño debe tener al menos trece años para empezar a utilizar herramientas de inteligencia artificial en las aulas y subraya la necesidad de formar a los profesores en esta materia.
También plantea requisitos para los proveedores de inteligencia artificial generativa, de manera que sus herramientas puedan tener un uso ético y eficaz en la educación.
La Guía enfatiza la necesidad de que las instituciones educativas validen los sistemas inteligencia artificial generativa en cuanto a su idoneidad ética y pedagógica para la educación, y llama a la comunidad internacional a reflexionar sobre sus implicaciones a largo plazo para el conocimiento, la enseñanza, el aprendizaje y la evaluación.
Asimismo, advierte sobre los sesgos de estas tecnologías y refiere, por ejemplo, que los modelos actuales de ChatGPT se diseñan con datos de usuarios en línea que reflejan los valores y las normas sociales dominantes del Norte global.
El lanzamiento de la Guía tuvo lugar en la sede de la UNESCO en París, en el marco de los eventos de la Semana del Aprendizaje Digital, que reunió a más de mil participantes para debatir temas como las plataformas públicas de aprendizaje digital y la inteligencia artificial generativa en la educación, entre otros.