“No sabemos todo lo que hay que saber ni mucho menos, pero hemos empezado a establecer las bases de qué significa aprender para el cerebro”, se lee en las primeras páginas del libro 10 ideas clave: neurociencia y educación. Aportaciones para el aula. En esta obra de 2018 se apunta que la educación es “amplísima”, ya que se ejercita tanto dentro de las aulas como fuera de ellas, y que las emociones ejercen una influencia particular en cada etapa del desarrollo de una persona.

Marta Portero Tresserra, coautora de este libro, es doctora en neurociencias, investigadora en el Grupo de Neurobiología del Aprendizaje y la Memoria del Instituto de Neurociencias de la Universitàt Autónoma de Barcelona. Portero destaca que su trabajo consiste en intentar trasladar los hallazgos de la neurociencia y de la psicología a la educación, para ayudar a los docentes a tomar decisiones fundamentadas. Con ella dialogamos sobre lo que ya puede darse por aprendido en las neurociencias.

En su trabajo de enlace entre la ciencia y los educadores ¿qué deberían comprender los docentes acerca de niños, de adolescentes o de universitarios, para llegar mejor a sus alumnos?

Aquí, el proceso a destacar es el de consolidar la memoria. Las personas aprendemos conectando los nuevos aprendizajes con aquello que ya sabemos. De ahí la importancia de que el docente sepa cuál es el conocimiento previo que tenemos sobre lo que nos está enseñando y que contribuya a establecer relaciones de significado entre el conocimiento nuevo y el que el alumno ya tiene en su memoria a largo plazo. Que el maestro ayude al alumno a hacer esas conexiones con tareas específicas es muy relevante porque así es como un saber se consolida a largo plazo.

Por ejemplo, si quiero que aprendas sobre una parte del cerebro que se llama hipocampo, como docente tengo que intentar facilitar esa relación de significado y hablarte, por ejemplo, del alzhéimer, que es algo que ya tienes almacenado. Pues, te digo, entonces, que con esa enfermedad la parte del cerebro que empieza primero a neurodegenerar es el hipocampo. Esa conexión puede ser fundamental.

La neuroplasticidad tiene que ver con los cambios estructurales, bioquímicos y funcionales de los circuitos del cerebro en base a las experiencias que vivimos y a nuestras conductas

¿Cómo se engarzan los mecanismos de aprendizaje y memoria en el cerebro?

Tenemos muchos sistemas de aprendizaje y memoria diferentes. En función del sistema de aprendizaje y memoria que estemos analizando hay unos circuitos cerebrales u otros que intervienen.

Si organizamos la memoria, podemos diferenciar la memoria sensorial de la de trabajo o la de largo plazo, cada una con sus circuitos neuronales. Pero, además, dentro de cada uno de esos circuitos, como puede ser el de la memoria a largo plazo, tenemos estructuras que están detrás del aprendizaje o actuando para la memoria del tipo explícito (con dos subtipos) y otras que sostienen la del tipo implícito, donde se cuentan ocho sistemas diferentes.

¿Cómo se trasladan los hallazgos de la neurociencia y de la psicología a la educación?

Cuando me preguntan qué puedo hacer, la respuesta es otra pregunta: ¿de qué tipo de aprendizaje hablamos?

Porque esto depende de la disciplina: si hablamos de tocar el piano o de aprender ciencias e incluso de recordar una vivencia, por ejemplo, y también del nivel (o la práctica) del que aprende. Cada sistema de aprendizaje y memoria tiene circuitos neuronales específicos. Por lo tanto, aprendemos de forma diferente en cada caso.

¿En todas las personas se activa la misma arquitectura cerebral para una actividad determinada?

Es muy similar. Por ejemplo, para aprender a tocar el piano, la diferencia viene dada por el hecho de que tengas experiencia como intérprete o seas novato. Eso es crucial. En un novato se activan estructuras diferentes que en un experto en un instrumento. Es decir que se activan diferentes circuitos según el nivel de expertise de cada persona. La práctica y el entrenamiento hará que se vayan fortaleciendo y creciendo las conexiones cerebrales de los circuitos de la música. Eso es lo que podemos ver en un cerebro y de igual modo sucede con todos los aprendizajes.

En dar definiciones —o explicaciones sobre un concepto— es algo en lo que puntuamos al nivel más alto en la vida alrededor de los 50-60 años

Entonces ¿el esfuerzo cognitivo es diferente y también las emociones (el miedo, el stress) frente a una experiencia nueva?

Esto es lo que se denominan procesos de neuroplasticidad. La plasticidad cerebral (y neuronal) tiene que ver con los cambios estructurales, bioquímicos y funcionales de los circuitos del cerebro en base a las experiencias que vivimos y a nuestras conductas. Nuestro cerebro cambia y, especialmente, las conexiones entre neuronas se modifican en base a la experiencia, que es la que hace que tengamos más conexiones, más eficientes y más rápidas.

Precisamente, por la importancia de la experiencia en las conexiones neuronales, se habla de la revolución de los seniors ¿cómo opera el paso del tiempo en las funciones cognitivas?

Hay algunas funciones cognitivas que aumentan con la edad, efectivamente, y otras que parecen disminuir. Por ejemplo, en dar definiciones —o explicaciones sobre un concepto— es algo en lo que puntuamos al nivel más alto en la vida alrededor de los 50-60 años. Y, en cambio, hay tareas de memorias de trabajo y de procesamiento de la información (retener muchos números, por ejemplo) en las que puntuamos más alto alrededor de los 20 años.

Con respecto a las lenguas extranjeras ¿cuánto influyen nuestro oído y la formación del aparato fonador en cuestiones como pronunciar palabras de un idioma nuevo?

En el caso de los idiomas pasamos por periodos de sensibilidad en lo que sería la identificación de sonidos. Por empezar, poder identificar todos los sonidos de todos los idiomas del mundo, lo que sería el lenguaje universal, solamente lo podemos hacer durante los dos primeros años de vida (de ahí lo de la lengua materna). Solo de bebés estamos preparados para discriminar todos los sonidos existentes. A partir de ese momento, habrá algunos fonemas que ya no podemos diferenciar, e iremos perdiendo esa habilidad a lo largo de toda la infancia. Se trata de una incapacidad para la discriminación fonética que padecemos los adultos, si no hemos estado expuestos previamente a un idioma.

La especialización de las neuronas en determinados números es un fenómeno que se llama numerosidad. Parece que en el momento de nacer ya tenemos circuitos cerebrales con ciertas capacidades numéricas

Es importante, entonces, que los profesores de idiomas comprendan cuáles son los límites de aprendizaje de los niños y adolescentes.

A partir del idioma al que te expones, el que hablan tus padres, y hasta los 6 o 7 años estamos en un buen momento para aprender idiomas de una manera óptima. A partir de los 7 años y durante el resto de la vida, por supuesto que podemos aprender un idioma nuevo, incluso con 80 o 100 años, aunque cambie el esfuerzo cognitivo. A los 5 años, los niños lo hacen sin esfuerzo.

Sabemos que hay neuronas especializadas en números determinados, por ejemplo, en el tres o en el diez, quizá una ventaja evolutiva frente a los depredadores ¿es eso la numerosidad?

Sí, la especialización de las neuronas en determinados números es un fenómeno que se llama numerosidad. Parece que en el momento de nacer ya tenemos circuitos cerebrales con ciertas capacidades numéricas. De forma innata, hacemos diferencias de cantidades, porque existe un cierto conocimiento matemático de estimaciones. Son como mecanismos precursores de la capacidad matemática y del cálculo. Luego, esos conocimientos van cambiando cuando hacemos tareas de álgebra y cálculos, ya que se activan otras estructuras. En las matemáticas hablaríamos del lóbulo parietal, el lóbulo temporal y también la corteza prefrontal, que alojan los circuitos que participan en álgebra, matemáticas y geometría.

De ahí los daños cognitivos que pueden aparecer tras un golpe o un suceso traumático…

En función de la parte de la corteza que se dañe, se explicarán las lesiones a nivel funcional que la persona va a tener. Sabemos, por ejemplo, que el lóbulo temporal del hemisferio izquierdo es un lóbulo que participa en la comprensión del lenguaje y podemos quedarnos con alteraciones del lenguaje. Si el daño afecta al lóbulo parietal, los déficits tendrán que ver con el cálculo y los procesos atencionales.

También se habla de una comprensión de ciertas estructuras geométricas como algo intuitivo e innato, ya que en algunos pueblos aislados pueden comprender conceptos geométricos a partir de la percepción de puntos, líneas, triángulos…

Sí, parece que los conceptos geométricos tienen un componente muy innato en nuestra especie. Esto se ha investigado con tests en niños o en distintas culturas, y tiene que ver con la capacidad de percibir estructuras geométricas de forma natural. Se las llama intuiciones geométricas.

Lo que llamamos neurociencia no es solamente la investigación donde hay un bioquímico y una molécula que se libera. Eso para el educador tiene poca relevancia: aquí la investigación necesaria parte de la psicología cognitiva y de la psicobiología

¿Qué diría frente a la afirmación “no somos solo cerebro”?

La comunidad científica sostiene que ello implica hablar de lo que llamamos ‘mente’, que equivaldría a separar la mente y nuestra conciencia subjetiva (acerca de nosotros mismos y nuestro alrededor) de lo que serían el cerebro, las hormonas, o sea, el cuerpo. Desde la ciencia sabemos que la mente y la conciencia surgen de la actividad del cerebro. En realidad, nuestra conciencia subjetiva es consecuencia y fruto de la actividad cerebral, que recibe información del entorno y del cuerpo. Con eso, genera nuestra conciencia, nuestros pensamientos, nuestras emociones y determina y decide nuestras conductas.

Finalmente, en educación ¿cómo pueden contribuir a un mismo objetivo la psicología y la psicopedagogía con la neurociencia?

De hecho, lo que llamamos neurociencia no es solamente la investigación donde hay bioquímicos y una molécula que se libera. Eso para el educador tiene poca relevancia. Aquí la investigación necesaria parte de la psicología cognitiva y de la psicobiología, a fin de que los que enseñan comprendan los procesos psicológicos básicos para favorecer los aprendizajes. La psicobiología es la que da la base fisiológica de esos procesos de aprendizaje, de las emociones, de la escritura, del stress, de la vigilia, incluso de las distintas fases del sueño y de los propios sueños.

En la aparición de la depresión influyen diferentes factores, muchas veces interrelacionados, tanto biológicos, como psicológicos y sociales. Además, suele manifestarse como una combinación emocional, cognitiva y física. Según datos de la Organización Mundial de la Salud, un 5 % del total de los adultos en el mundo sufre esta enfermedad.

El psiquiatra José Manuel Montes Rodríguez lleva más de treinta años dedicado a su especialidad y es experto en trastorno bipolar, depresión, ansiedad y Trastorno Obsesivo Compulsivo (TOC), entre otros. Además, ha llevado a cabo investigaciones en este campo y es profesor asociado de la Universidad de Alcalá.

¿Cuáles son los factores que más influyen para que una persona padezca depresión?

Pueden ser, o bien ambientales, o bien de personalidad psicológica. Todos los relacionados con el estrés, pero no solo el ambiental, sino también el autoinfligido. Es decir, muchas veces depende de la forma en la que canalizamos las situaciones externas o cómo tratamos de adaptarnos a ellas.

Existen rasgos de personalidad que sabemos que se asocian mucho con el riesgo de tener depresión: el perfeccionismo, la autoexigencia personal, el querer tener control de las situaciones, tratar de que todas las circunstancias de nuestro alrededor estén perfectamente contenidas, la anticipación a los problemas. Todos estos factores acrecientan nuestro estrés, porque nos hacen vivir en una tensión constante y eso conlleva un mayor riesgo.

Hay rasgos de personalidad que sabemos que se asocian mucho con el riesgo de tener depresión: el perfeccionismo, la autoexigencia personal, el querer tener control de las situaciones

¿Son todos modificables?

De alguna manera, incluso los genéticos a veces pueden serlo. Se sabe que, dependiendo de determinadas situaciones, se puede generar una mayor resiliencia para evitar la depresión. Tratar de modificar nuestros rasgos de personalidad. Se puede aprender a ser más resiliente hacia la depresión desarrollando estrategias de afrontamiento del estrés y tratando de llevar una rutina saludable. No mantener demasiados períodos de tiempo en actividad en trabajo, saber intercalar con situaciones de ocio, mantener la sociabilidad y la interacción interpersonal. Mantener una higiene del sueño, unos ritmos cronológicos adecuados, una dieta apropiada. Todos, sin duda, son elementos que ayudan a evitar su desarrollo.

¿Por qué es mayor en mujeres que en hombres el trastorno depresivo?

Eso es algo constatado y sobre el que hay diversas teorías. La primera sería que la mujer tiende a manifestar su malestar emocional más en la línea de la depresión, el hombre con otras formas de conducta, como el consumo de sustancias, etcétera. Esa sería la primera, que hubiera un cierto sesgo. Cuando se toman muestras clínicas hay más mujeres que hombres, pero también en la población general, no clínica, predominan las mujeres.

También hay factores genéticos relacionados con el sexo, como alteraciones hormonales, que son más frecuentes en la mujer, ya que las hormonas sexuales favorecen el desarrollo de depresión. Y, por supuesto, factores ambientales, como haber sufrido más situaciones estresantes en el caso de las mujeres.

Se puede aprender a ser más resiliente hacia la depresión desarrollando estrategias de afrontamiento del estrés y tratando de llevar una rutina saludable

También se sabe que se concentra más en la población de edad productiva, pero cada vez hay más datos sobre la depresión en adolescentes, ¿cómo se combinan estos datos?

Claramente, la depresión tiene unos picos de aparición que empiezan en la edad productiva de la vida. En la tercera o cuarta década de la vida laboral, los picos de prevalencia son más importantes. Pero ahora, se están observando cada vez más problemas de depresión, en particular, y de salud mental en general en la población adolescente.

Eso es una tendencia que venía produciéndose en la última década y que se ha precipitado de una forma más clara en relación con la pandemia. Probablemente por el aislamiento que conllevaba la aparición de una situación que coartaba la libertad y generaba un distrés.

¿Pueden tener consecuencias permanentes o a largo plazo en los jóvenes?

Probablemente, este periodo haya dejado una cierta huella. Tener una afectación durante la adolescencia, puede incluso producir alteraciones cerebrales como las que estamos viendo con relación a las redes sociales u otros hechos constatados de traumáticos. Toda situación traumática deja una traza en el cerebro y esa huella, de momento, es más difícil de tratar. Esperemos que los nuevos avances lo logren revertir. Los problemas de cuidados de negligencia parental hacia los niños o adolescentes, así como los abusos sexuales, físicos, etcétera, sabemos que van a afectar de una forma, al menos por el momento, permanente o más difícil de tratar.

Se están observando cada vez más problemas de depresión en particula, y de salud mental en general en la población adolescente

En referencia a las redes sociales, ¿de qué forma están relacionadas con la depresión?

Es un factor añadido muy importante y que cada vez estamos viendo que son más relevantes. Se utilizan en edades cada vez más tempranas y de forma más amplia. Son edades en un periodo crítico de formación del cerebro. Hay estudios que avalan que la utilización excesiva de las redes sociales está provocando serias alteraciones en el funcionamiento cerebral en los adolescentes que las utilizan de una forma indiscriminada y muy sostenida. Producen unas alteraciones que además van a ser permanentes, difíciles de revertir y que favorecen sin duda este problema.

Además de otros problemas asociados en estas edades…

Todos conocemos el hecho de que en este contexto es mucho más difícil de asumir y de enfrentar situaciones como el ciberbullying. El cerebro humano en este periodo tan crítico no está preparado para amortiguar estas situaciones. Eso favorece también la aparición de depresión y de otras patologías, como el trastorno de la conducta alimentaria.

Hay estudios que avalan que la utilización excesiva de las redes sociales provoca serias alteraciones en el funcionamiento cerebral en los adolescentes y de forma permanente

¿Se incluye el uso de las redes sociales en las acciones de prevención de la depresión?

Es muy complicado. En EE UU, ya hay algunas iniciativas para evitar el acceso a determinadas redes sociales a partir de una edad. Pero al final solo hay que hacer clic y poner que tienes más de 14 años, que creo que es el límite. Es difícil de evitar en entren. Es muy complejo establecer una prevención a este respecto a escala nacional. Lo que sí es necesario es tratar de concienciar a la a los padres, sobre todo, de que no pueden permitir el uso tan sostenido de estas redes, 24 horas, siete días a la semana.

Respecto al estigma, en su amplia en experiencia en centros hospitalarios ¿cómo han evolucionado los prejuicios hacia esta enfermedad?

Cada hay vez menos. La depresión es una enfermedad que parece que está más aceptada popularmente. Sin embargo, todavía hay una cierta resistencia a acudir al psiquiatra. Hay mucha desinformación en relación con lo que es la enfermedad mental o la depresión y, respecto a los tratamientos, también hay prejuicios.

La opinión pública no termina de tener muy claro qué es exactamente tener depresión y suelen pensar que está asociado a tener debilidades personales o que solo se tiene una depresión si se viven circunstancias externas negativas. La realidad es que no tiene por qué ser así. Alguien con circunstancias muy buenas, o muy fuerte o alegre de carácter puede tener una depresión. Es una idea que vosotros, los medios de comunicación, tenéis que tratar de que poco a poco vaya calando. Hay que hacer una interpretación real y veraz de lo que es la depresión, y la enfermedad mental en general.

Esta enfermedad parece que está más aceptada popularmente. Sin embargo, todavía hay una cierta resistencia a acudir al psiquiatra

¿Cuál es la interpretación real que debe trasladarse?

La depresión es una enfermedad del cerebro. Es exactamente igual que un párkinson o cualquier otra. Afecta a un área que, en este caso es la que controla las emociones. A través de sus conexiones con otras áreas cerebrales, va extendiéndose de alguna manera esa alteración. Cuando un circuito determinado de una zona cerebral está afectado, eso hace que no solo influya en las emociones. Entendemos fácilmente la sintomatología depresiva como una afectación de las emociones, pero no de la misma manera que haya alteraciones físicas o más somáticas, y también cognitivas.

¿Cómo nos afecta físicamente?

El cerebro está interconectado y si hay una zona que no funciona adecuadamente, el problema se extiende. Dependiendo de cada persona y de la forma de ramificación de esos circuitos alterados, provoca otra serie de consecuencias. Algunos son conocidas, como las alteraciones en el ritmo cronobiológico, insomnio, alteraciones del apetito, disminución y aumento de peso o disfunción sexual. Todos ellos son síntomas físicos, pero también hay un aumento de la percepción del dolor en general.

La depresión es una enfermedad del cerebro, es igual que un párkinson o cualquier otra. Afecta a un área que, en este caso, es la que controla las emociones

Otras alteraciones pueden darse en el tubo digestivo. Sabemos que hay una interrelación del cerebro y cómo afecta directamente a problemas intestinales y cognitivos durante ese periodo de la depresión. Obviamente el paciente tiene dificultades para decidir, en sus funciones ejecutivas, de pensamiento, e incluso de memoria. Pueden revertirse si se supera la depresión, pero si se mantiene pueden sostenerte en el tiempo. Todo esto hace que debamos tener muy claro que la depresión es algo que hay que tratar cuanto antes, como todas las enfermedades, para tener mayor éxito.

¿Los tratamientos actuales son eficaces?

Existen muchos tratamientos con gran eficacia y, en general, tolerancia, pero ante determinadas situaciones más graves o cronificadas, tenemos más dificultades. A pesar de todo, cada vez vamos desarrollando nuevos fármacos. Actualmente, se ha comercializado en España un fármaco precisamente para la depresión resistente, que es la ketamina y que supone un nuevo paradigma en el tratamiento de la depresión. Otros irán apareciendo y también otras formas de intervención sobre el cerebro.

Existen muchos tratamientos con gran eficacia y tolerancia, pero ante determinadas situaciones más graves o cronificadas, tenemos más dificultades

Respecto a la gestión de estas enfermedades, ¿qué aspectos son los más urgentes para mejorar en nuestro país?

Hay que darle muchísima más relevancia. Sabemos que las enfermedades mentales son muy prevalentes. La depresión va a afectar a una de cada cuatro personas. Con esta probabilidad, si a lo largo de la vida van a tener una depresión o algún problema de salud mental, tendría que ser más fácil el acceso de forma rápida al diagnóstico y tratamiento.

Debería existir una opinión más amable de todo lo que es la asistencia de la salud mental. Es necesaria una inversión adecuada para poder realizar este despliegue, que es algo que muchas veces falla. La depresión se puede manifestar de muchas maneras, lo que hay que hacer es pensar en ella y acudir al médico cuando uno tenga síntomas, ya que los doctores de primaria hoy en día están muy preparados para poder detectarla e incluso iniciar el tratamiento.

Especialista en teoría estructural y algorítmica de grafos [nodos relacionados por aristas], en los últimos años Daniel Kráľ, profesor de la Universidad Masaryk (República Checa), analiza problemas que se encuentran en la intersección entre la matemática discreta y la informática. En este campo ha realizado importantes contribuciones, como la resolución de las llamadas conjetura de Lovász-Plummer y conjetura de Steinberg.

Le interesa especialmente la denominada teoría de los límites combinatorios, que permite estudiar objetos discretos enormes –que aparecen, por ejemplo, al estudiar las redes sociales o sistemas– a partir de aproximaciones. De hecho, ha desarrollado dos proyectos europeos ERC sobre la conexión entre esta teoría y otra: la teoría de Ramsey, un “conjunto de resultados que establece la imposibilidad del caos completo”.

Sobre estos temas habló recientemente en un coloquio conjunto organizado por el Instituto de Ciencias Matemáticas (ICMAT) y las universidades Autónoma, Carlos III y Complutense de Madrid.

¿De qué trata la teoría de los límites combinatorios?

La combinatoria se ha centrado, tradicionalmente, en el estudio de objetos discretos. Sin embargo, los que encontramos en las matemáticas discretas modernas y en sus aplicaciones informáticas tienen un tamaño enorme, lo que dificulta el uso de las herramientas tradicionales. Por ello, es necesario aproximar los objetos discretos con los que trabajamos. Es lo que propone, por ejemplo, el conocido lema de regularidad de Szemerédi –uno de los resultados que le valió al matemático el Premio Abel en 2012–. El resultado aproxima un grafo grande con uno pequeño que captura las propiedades clave del grande.

La teoría de los límites combinatorios proporciona buenas aproximaciones de grandes objetos discretos, de manera parecida a como se extienden los números racionales a los números reales, o como se usa la integración en lugar de la suma, para fines contables.

¿Con qué motivación se empezó a trabajar en este campo? ¿Qué tipo de preguntas se trataban de resolver?

La teoría de los límites combinatorios se originó hace unos 20 años a partir de la investigación liderada por Christian Borgs, Jennifer Chayes y László Lovász en Microsoft Research. Su objetivo principal era desarrollar herramientas para aproximar y analizar grandes redes informáticas, y consiguieron cimentar una teoría que no solo es adecuada para analizar estas grandes redes, sino que también se puede aplicar en diversos contextos de matemáticas discretas. Esta teoría, junto con el álgebra de banderas (flag algebras), desarrollada por Sasha Razborov, cambió la perspectiva de la combinatoria extrema moderna.

La teoría de los límites combinatorios se originó en Microsoft Research con el objetivo de desarrollar herramientas para aproximar y analizar grandes redes informáticas

¿Cómo se relacionan la combinatoria extrema y la teoría de Ramsey, el tema en el que se centró su charla?

La teoría de Ramsey es un conjunto de resultados que establece la imposibilidad del caos completo. Entre todos ellos, uno de los más simples es el conocido como el principio del palomar. Una de sus variantes dice que, si se colorean 10n bolas con 10 colores, siempre habrá n bolas del mismo color. La teoría de Ramsey extiende esta simple observación a escenarios mucho más complejos. Una afirmación típica de esta teoría dice, básicamente, que todo objeto discreto lo suficientemente grande tiene una parte que se comporta ‘bien’. La combinatoria extrema nos permite estimar el número de partes de estos objetos grandes que se comportan bien.

¿La teoría tiene alguna aplicación a otros campos?

La teoría de los límites combinatorios abre nuevas perspectivas sobre muchos problemas en otros campos. Por ejemplo, permite entender cuestiones sobre los algoritmos probabilísticos de lectura masiva de datos, llamados ‘algoritmos de prueba de propiedades’. También ha abierto nuevos enlaces con la estadística: un vínculo bastante obvio consiste en proporcionar modelos para redes; otro, menos evidente, es con pruebas de cuasialeatoriedad e independencia.

La teoría de los límites combinatorios permite, por ejemplo, entender cuestiones sobre los algoritmos probabilísticos de lectura masiva de datos

¿Cómo comenzó a investigar en esta área?

Me fascinó la naturaleza multifacética de la teoría de los límites combinatorios. Ofrece un conjunto muy amplio y versátil de herramientas, que son aplicables en diversas áreas de investigación que siempre me han interesado, como la teoría de grafos y la informática teórica. Me atrajo mucho la cantidad de conexiones que tiene con otras áreas, en particular, con el análisis, la combinatoria, la teoría ergódica, la teoría de grupos, la teoría de la probabilidad y la estadística. Además, me interesó avanzar en los métodos de la teoría de los límites combinatorios y proporcionar una comprensión más profunda de algunos de los conceptos clave.

¿Qué aportes ha realizado?

He contribuido tanto al desarrollo de la teoría de los límites combinatorios como a la ampliación del rango de aplicaciones en combinatoria extrema. Dentro de la teoría de límites combinatorios, me han interesado principalmente los límites de grafos densos, sobre el que tengo un resultado, junto a mis colaboradores, que Lászsló Lovász presentó al recibir el Premio Abel en 2021 y por lo que me sentí muy honrado.

Hemos obtenido un resultado sobre límites de grafos densos que Lászsló Lovász presentó al recibir el Premio Abel en 2021

¿Qué otros campos de investigación le interesan?

Mi investigación siempre ha estado enfocada en temas en la interfaz entre las matemáticas y la informática. Además de trabajar en aplicaciones de técnicas analíticas en combinatoria y estudiar problemas en combinatoria extrema, desde hace poco también estudio el uso de métodos combinatorios en la llamada optimización discreta. Me fascina la forma en que esta interconecta matemáticas con algoritmos y, estos, con intrigantes problemas del mundo real.

Amparo Alonso Betanzos (Vigo, 1961) asume que hoy es difícil pensar en un área de conocimiento en la que no haya implantados sistemas de Inteligencia Artificial (IA). Por ello defiende con vitalidad la iniciativa de la Unión Europea de impulsar una IA centrada en las personas, ética, responsable y con garantías de privacidad, un testigo que recogió el Gobierno español al proponer a España como “campo de pruebas de la puesta en marcha de la regulación europea”, en palabras de esta líder en investigación puntera en esta disciplina.

Alonso Betanzos es catedrática de Ciencias de la Computación en la Universidad de A Coruña, llegó a ser presidenta de la Asociación Española de Inteligencia Artificial (AEPIA), actualmente es la responsable del nodo IA en la Cidade das TIC, en A Coruña, y ha trabajado por la candidatura de esta ciudad para acoger la sede de la Agencia Española de Supervisión de IA, que finalmente resultó la elegida, en diciembre pasado. De ahí que sea una de las personas indicadas para hablar de la propuesta de reglamentación de la UE, basada, según explica, en “niveles de riesgos de sistemas inteligentes”, cada uno de los cuales “tiene aspectos que deberían ser evaluados”.

Mientras el resto de países de la UE ponen en marcha la idea de la agencia estatal de supervisión de IA, España ya ha creado la primera de estas agencias, que, entre las tareas fundacionales, trabajará “en el diseño de pruebas y en la certificación, por ahora voluntaria, de las empresas respecto a la reglamentación, así como en labores de formación y divulgación de la IA responsable y ‘verde’ (más sostenible, con menos consumo de energía)”, comenta Alonso. En este sentido, la entrevista de SINC con la investigadora procura abordar los aspectos humanos, sociales y ecológicos que se ponen en juego en el territorio de las tecnologías de IA.

¿Cuáles son los desafíos que, en el plano social, se observan prioritarios en los diseños de IA y que tendrá que afrontar la agencia como organismo de certificación?

En la actualidad, existen muchas aplicaciones en ciencias sociales en la IA. Yo misma he trabajado en proyectos europeos en los que el objetivo era poder afinar en las políticas sociales para poder ir hacia una Europa más sostenible. En un proyecto de hace algunos años lo que intentábamos ver era qué políticas se podían implementar en organizaciones de diferentes tipos, de distintos países, grandes, pequeñas, públicas y privadas.

Nos tocó modelar una universidad y una empresa privada en Rumania. En otro proyecto, lo que hacíamos era ayudar a entes locales, como ayuntamientos o cabildos, a ajustar políticas sociales para intentar transmitir mejor a la población los requerimientos en asuntos ambientales —como el consumo de energías más limpias— o el aprovechamiento de diseños urbanos como las supermanzanas —por ejemplo, las de Vitoria o Barcelona—, que llevan a las ciudades a una escala más humana.

El apoyo a las ciencias sociales no solo se traduce en que desarrollemos mejores algoritmos desde el punto de vista de la ingeniería, sino también algoritmos buenos desde el punto de vista de las personas

¿Qué mejoras de la IA son esperables, teniendo en cuenta los problemas de los sesgos que pueden tener los seres humanos que crean los algoritmos?

En cuanto a mejoras de los algoritmos, ya se está trabajando en aspectos que tienen que ver con las ciencias sociales… En los sistemas de traducción automática, en los asistentes virtuales, y en algoritmos que pueden presentar sesgos en lo que se refiere a grupos sociales, por razones de género, religión o raza, entre otros. Todo eso se está detectando y se trabaja en ello. El apoyo a las ciencias sociales no solo se traduce en que desarrollemos mejores algoritmos desde el punto de vista de la ingeniería, sino también algoritmos buenos desde el punto de vista de las personas. De eso hablamos: de poner a las personas en el centro de los algoritmos.

Para especificar, ¿cuáles serían los principales déficits de esos algoritmos?

Necesitamos algoritmos que se definan con la privacidad por diseño: que no incluyan sesgos que puedan discriminar a personas o que impliquen la violación de sus datos. Entre las labores de la agencia está, justamente, la supervisión ética de esos algoritmos para que esto no suceda.

Desde la propia disciplina se sugiere que los peores sesgos son los inconscientes, desconocidos incluso para la persona que diseña, y también los interseccionales, por las combinaciones que pueden arrojar. ¿Cómo hacer para calcular tales interferencias?

Es evidente que hay sistemas de IA muy complejos y que pueden tener muchos sesgos, sobre todo porque la IA está basada en datos y lo que usa son datos del mundo real, que está sesgado, no es un mundo perfecto. En ese sentido, de lo que se trata es de que seamos capaces de auditar los datos que se utilizan para saber si ese conjunto de datos está desbalanceado o no, en base a algún tipo de población, género, raza u otros. Ver si el algoritmo está tratando correctamente todas esas variables. Por eso, otra de las cuestiones que se plantea es la transparencia o, al menos, la auditabilidad de los algoritmos. El poder saber lo que pasa desde el inicio hasta el final.

Hay que aclarar que los algoritmos están trabajando en un entorno determinado, no estamos hablando de una IA ancha que tenga que responder a muchos problemas diferentes, por lo que las combinaciones no tienen por qué confluir en el mismo sistema. Por otra parte, para no mantener sesgos que se han dado, históricamente, con respecto a determinadas poblaciones, tienes que trabajar con tu base de datos para que este no sea un sesgo para el futuro.

Tenemos sistemas inteligentes en dominios concretos. Si un sistema está jugando al ajedrez y quieres que juegue a las damas tienes que entrenarlo desde cero

¿Qué significa que la IA es de ‘nicho estrecho’?

Ahora mismo, esta tecnología funciona con unos niveles de inteligencia muy altos pero en dominios muy concretos. No tenemos una inteligencia artificial que sea ancha, que se ocupe de resolver un conjunto de temas variados. Por ejemplo, si uno tiene una IA para ayudar a que recursos humanos resuelva cómo proponer a la persona más idónea para un puesto concreto, esto no significa que el mismo sistema sea capaz, a la vez, de recomendar un mejor plan nutricional para alguien.

No hay un único sistema para varias cosas: tenemos sistemas inteligentes en dominios concretos. Si uno quiere que esa inteligencia artificial se entrene en otro dominio tiene siempre que empezar desde el principio. Es decir, si un sistema está jugando al ajedrez y quieres que juegue a las damas tienes que entrenarlo desde cero en ese juego. A propósito, estamos trabajando en algo que se llama ‘transferencia de aprendizaje’, pero es un dominio con el que estamos empezando.

En terrenos de IA se habla de la desconfianza de los usuarios. ¿Se supone que las auditorías van a intentar mitigarla?

La UE ha planteado un sistema de desarrollo de IA de alta calidad científica, dentro de un ecosistema de confianza. De ahí que haya sido pionera en la elaboración de directrices para una IA justa, privada y sostenible. En esta propuesta de legislación en la que se pone a la persona en el centro y considera prioritariamente esos aspectos éticos somos, efectivamente, pioneros: tanto los derechos humanos como la privacidad están siendo cada vez más tenidos en cuenta para todas las aplicaciones.

La UE ha planteado un sistema de desarrollo de IA de alta calidad científica, dentro de un ecosistema de confianza. Ha sido pionera en la elaboración de directrices para una IA justa, privada y sostenible

Acerca de la robustez de los algoritmos ¿qué capacidades únicas, inimitables, tiene lo humano?

La inteligencia humana es de amplio espectro. Las personas somos capaces de tratar un número importante de problemas a un nivel alto. No necesitamos un reentrenamiento de tareas que la inteligencia artificial sí necesita. Por ejemplo, en la medicina, un sistema de IA tiene niveles de precisión más altos que las personas en dominios concretos, como puede ser la detección del cáncer de mama, pero si lo comparamos con la medicina general, los humanos son mejores especialistas, porque es un campo mucho más amplio.

Aunque esta forma de plantear las cosas no es el más adecuado, porque no se pretende, en absoluto, un reemplazo de las personas. Es evidente que esta tecnología va a haber trabajos que van a desaparecer, y que ni siquiera son derivados de la IA —lo vemos cuando vamos a la caja del supermercado o pagamos el peaje, porque esto lo pueden hacer las máquinas—.

Se trata de crear una simbiosis, que las tareas que las máquinas hacen mejor las hagan se automaticen y que las que hacen mejor las personas las sigan haciendo ellas. En este sentido, imagine cómo ha evolucionado la medicina y, sin embargo, el médico no ha desaparecido, pero cada vez tiene mayor asistencia de métodos de diagnóstico con los que interactúa. Hombre y máquina, trabajando juntos, cometen menos errores que por separado. De eso se trata, de utilizar la IA para conseguir que los procesos sean más eficientes y centrados en las personas.

Hombre y máquina, trabajando juntos, cometen menos errores que por separado. De eso se trata, de utilizar la IA para conseguir  procesos más eficientes y centrados en las personas

En terrenos de educación, ¿en qué facetas puede ser importante contar con mejores algoritmos?

Podremos personalizar la educación. Hablamos de que hay alumnos especiales, o que no todos los alumnos y alumnas aprenden de la misma forma, y este tipo de sistemas puede ayudar a personalizar. Esto cambiará nuestra forma de enseñar, pero necesitaremos, quizá, enfatizar más algunas especialidades, como la creatividad, la imaginación, el espíritu crítico y la comunicación.

La revista Forbes la ha incluido en la lista de los 40 mejores futuristas de España por liderar la investigación en los aspectos éticos, legales, socioeconómicos y culturales de la inteligencia artificial (IA).

La ingeniera informática Àtia Cortés (Barcelona, 1985), doctorada en IA en la Universidad Politécnica de Cataluña, trabaja hoy en el Departamento de Ciencias de la Vida del Barcelona Supercomputing Center-Centro Nacional de Supercomputación (BSC-CNS). Sus investigaciones se centran en el impacto ético y social de esta tecnología, presente ya en las aplicaciones cotidianas.

¿Qué tiene que ver la inteligencia artificial con la ética?

La IA se aplica en muchos ámbitos de la vida y siempre tiene un impacto directo en las personas y, por tanto, unas consecuencias éticas. En particular, para alimentar los sistemas de tomas de decisiones automáticas se necesitan grandes cantidades de datos y se plantean dos retos: uno tecnológico, para asegurar que esos datos sean realmente válidos para entrenar a los sistemas y tomen decisiones apropiadas; y el otro medioambiental, ya que almacenarlos y procesarlos supone un gran coste energético y un impacto significativo en el entorno. En centros como el BSC-CNS se desarrolla una gran labor para avanzar en estos campos.

¿Cómo trabajas con la ética y la IA?

En mi día a día trabajo en diferentes proyectos europeos, todos relacionados con los aspectos éticos, legales, socioeconómicos y culturales (ELSEC) de la inteligencia artificial, aplicados a diferentes ámbitos, desde los medios de comunicación, la cultura y el arte, hasta temas de salud o, por ejemplo, en un proyecto que acabamos de empezar enfocado a sistemas de coches autónomos. A partir de ahí, intentamos identificar cuáles son los posibles retos técnicos, pero también de los aspectos ELSEC, que se presentan en cada campo de aplicación; y así crear buenas prácticas que ayuden a guiar a la gente que está desarrollando esta tecnología, sobre todo empresas, y hacer un uso responsable de ella.

¿En qué consiste el proyecto de coches autónomos que comentas?

Nuestro grupo del BSC va a crear una plataforma para que trabajen los socios de un consorcio europeo, donde estableceremos unos estándares o buenas prácticas para que todo el código que se suba siga unos criterios éticos a la hora de tener conjuntos de datos que sean justos, estén equilibrados y lo más libres posibles de sesgos. Para asegurar que haya una participación ciudadana en el diseño de esta tecnología, colaboramos con un centro en Francia donde contactarán con diferentes tipos de usuarios por sus formas de conducir o interactuar en la vía urbana con sus coches, o con necesidades sociales o físicas distintas. Recogeremos todos estos requerimientos y los traspasaremos a las empresas que desarrollan las tecnologías de IA para que los tengan en cuenta.

Ahora te preguntaré por los sesgos, pero al hablar de coches autónomos suele surgir la cuestión de si algún día podrán resolver situaciones como salvar al pasajero o un viandante inesperado que se cruza por delante…

Nosotros no trabajamos en resolver ese tipo de dilemas, que son complicados y, sinceramente, no sé si hay una respuesta, porque tampoco es una decisión que tomas tú en el día a día cuando vas conduciendo. No te da tiempo a pensarlo. Entonces, quizá se está pidiendo una decisión compleja a una máquina, que nosotros mismos no sabríamos cómo actuar en esos momentos. Lo que sí que es muy importante, y ahí está la clave, es que, sea cual sea la decisión, seamos capaces de explicar por qué se ha tomado.

Pasamos al problema de los sesgos en la IA, ¿por qué surgen?

La inteligencia artificial al final aprende de lo que tú le estás dando, y si los datos con los que se está entrenando están sesgados, entonces los resultados van a estar sesgados también. La responsabilidad es compartida en varias fases del proceso, pero hay un punto importante al que no se le da suficiente valor, que es cómo se están tratando los datos: toda la parte de preprocesamiento en aprendizaje automático.

Existen grandes datasets o conjuntos de datos disponibles para entrenar los algoritmos, y deberíamos asegurar que la información sea válida, represente realmente lo que queremos aprender y que se haga de una manera justa

Actualmente, existen grandes datasets o conjuntos de datos disponibles para entrenar los algoritmos, por ejemplo, asociados al lenguaje natural o al reconocimiento de imagen. Los desarrolladores tienen la responsabilidad de comprobar que sean válidos. Por muchos datos que tengamos no quiere decir que la información asociada sea apropiada o la que necesitamos. Deberíamos asegurar que sea la que realmente va a representar lo que nosotros queremos aprender y que se haga de una manera justa.

¿Nos puedes poner algún ejemplo de sesgos o injusticias en la IA?

Existen muchísimos ejemplos y lamentablemente algunos son conocidos desde hace bastantes años pero se siguen reproduciendo a veces hoy en día. Uno de los más famosos es el sistema COMPAS en EE UU, que se llegó a utilizar en juicios para dar soporte a la hora de decidir si un delincuente acusado previamente tenía riesgo de ser reincidente o no. Un grupo de investigadores y periodistas detectó que este algoritmo estaba sesgado de una manera racial, ya que daba riesgos de reincidencia muy altos a personas negras y bajísimos a las blancas. Con el tiempo se dieron cuenta de que a menudo esta decisión estaba totalmente equivocada, se revisó con qué datos se estaba entrenando el algoritmo y hubo que corregirlo.

Un ejemplo de sesgo racial en la IA fue el sistema COMPAS en EE UU, que daba más riesgo de reincidencia para delinquir a personas negras que a blancas; y de sesgo de genero, una aplicación que probó Amazon para reclutar personal donde se descartaba a las mujeres

¿Algún caso de sexismo o sesgo de género?

Por ejemplo, hubo una aplicación que comenzó a desarrollar Amazon para ayudar a recursos humanos a reclutar a nuevas personas. Enseguida se dieron cuenta de que este sistema automáticamente estaba descartando a mujeres y, como siempre, los datos de entrenamiento estaban detrás. Se habían tomado los del histórico de los últimos 10 años de los empleados en una empresa tecnológica como esta, donde aparecen desequilibrios de representación entre hombres y mujeres, sobre todo según subes hacia los puestos de dirección. El algoritmo es lo que aprendió, de tal forma que acabó penalizando cualquier currículum que viniera de una mujer, aunque no se especificara el sexo. Lo podía deducir de sus actividades o la información disponible, y al final las descartaba en el proceso de selección. Afortunadamente se dieron cuenta del fallo en una fase bastante inicial y enseguida fue retirado, pero llegó a los medios.

¿Cuántos tipos de sesgos aparecen en la IA?

En los grandes datasets hay un proceso colaborativo en el que, a parte de recopilar datos, se van poniendo metadatos o información adicional a esos datos que ya tenemos y que se van a utilizar para entrenar. Pues bien, ahí ya se están introduciendo sesgos, porque no hay una forma estándar de clasificar o categorizar, por ejemplo, caras o tonos de piel. Pero existen muchos más sesgos, como los cognitivos, que nosotros como humanos estamos traspasando a los datos de entrenamiento, al algoritmo o a la interpretación de lo que nos da. O los estadísticos, más relacionados con la representación de los resultados, si son equilibrados y están teniendo en cuenta, por ejemplo, diferentes colectivos o, por el contrario, dejan aparte grupos de población por un tema socioeconómico, geográfico, de edad, sexo o lo que sea.

En julio presentasteis un informe al Parlamento Europeo sobre este problema, ¿verdad?

Sí, justo de esto trata el informe. Hacemos una revisión desde un punto de vista tecnológico, explicando cuál es el ciclo que tiene el sistema basado en inteligencia artificial y en qué momento puede ir absorbiendo cada uno de esos sesgos. Luego, en colaboración con la Universidad del País Vasco, que hicieron una revisión del marco legal europeo, proporcionamos recomendaciones de hacia dónde debería ir una posible regulación sobre los datos.

La idea no es crear una nueva ley para esto, porque ya existe el Reglamento General de Protección de Datos y se trabaja en la regulación de inteligencia artificial. Lo que hay que hacer es ver dónde se pueden modificar estas legislaciones y cómo certificar los procesos con una perspectiva ética

La idea no es crear una nueva ley solo para esto, porque ya existe el Reglamento General de Protección de Datos [GDPR, por sus siglas en inglés] y se trabaja en la regulación de inteligencia artificial. Lo que hay que hacer es ver dónde se podrían hacer modificaciones o adaptaciones en estas legislaciones, y sobre todo, cómo certificar estos procesos, siempre con una perspectiva ética.

¿Cuál es tu papel en el Comité de Bioética de España? ¿En qué estáis centrados actualmente?

La formación del nuevo CBE es muy reciente, pero presenta grandes cambios en cuanto a diversidad profesional, geográfica y de género. Su misión es emitir informes, propuestas y recomendaciones para los poderes públicos de ámbito estatal y autonómico sobre temas de actualidad relacionados con la biomedicina y las ciencias de la salud y con unas implicaciones éticas y sociales. En los próximos años aportaré mi conocimiento en IA, ciencia de datos y su impacto en el ámbito de la salud. Personalmente me parece un reto muy atractivo y enriquecedor.

¿Quién es el responsable de que los datos de la IA no estén sesgados?

No solo es del personal que desarrolla la tecnología, están también las administraciones y los legisladores que hacen las leyes. Pero también es muy importante incluir a la sociedad, porque es la que va a usar la tecnología basada en IA y tiene una responsabilidad a la hora de utilizarla, aunque para eso necesita un conocimiento, una educación, que yo creo que todavía no tiene lo suficientemente asumida. Es responsabilidad nuestra, como usuarios, aprender a interactuar con esta tecnología y a emplearla de una manera responsable. Por tanto, es un trabajo multidisciplinar y a diversos niveles.

Es responsabilidad nuestra, como usuarios, aprender a interactuar con esta tecnología y usarla de una manera responsable

¿Nos podemos fiar entonces de los algoritmos y de su neutralidad a la hora de que nos concedan, por ejemplo, un crédito o una ayuda, o nos recomienden un restaurante, ver un vídeo u leer una noticia?

Como en todo, se necesita información. Para fiarme de algo que va a tener un impacto tan serio en mi vida, como que me concedan un crédito, necesito saber de dónde ha venido esa decisión. Debe haber transparencia, aunque haya que adaptarla al tipo de público que va a pedir la explicación. Es importante aclarar realmente cuáles son las capacidades de esta tecnología y sus limitaciones, cómo se ha entrenado el dataset, cómo se ha llegado a tomar esa decisión. Para mí, eso es fundamental para poderme fiar de un sistema basado en inteligencia artificial. Y en cuanto a temas más culturales, de noticias o el problema de la desinformación, pues al final es un poco lo mismo: ir a buscar la fuente, no creerte lo primero que te encuentras.

La clave está en educar y concienciar sobre lo que es esta tecnología dentro de un marco ético a todos los colectivos implicados: la gente que la está desarrollando, la que elabora las leyes y la sociedad en general, desde los más pequeños

¿La IA y la ética podrán ir finalmente de la mano?

Es verdad que la inteligencia artificial ha creado algunas situaciones muy criticadas y que en ocasiones no se ha empleado de una manera apropiada, pero yo soy optimista. Como decía, la clave está en educar y concienciar sobre lo que es esta tecnología, poniéndola en contexto dentro de un marco ético a todos los colectivos implicados: la gente que la está desarrollando, la que elabora las leyes y la sociedad en general, empezando desde la educación más primaria, porque al final los más pequeños serán los que la van a desarrollar y utilizar en el futuro.

Durante las últimas semanas se ha desatado una gran expectación sobre el ChatGPT, una aplicación de inteligencia artificial (IA) basada en el software GPT-3.5 de la empresa OpenAI, que es capaz de resolver gran variedad de preguntas y tareas, de forma muy intuitiva. Desde crear un artículo que podría haber escrito Rajoy, a realizar los deberes de estudiantes o facilitar las tareas de un profesional de consultoría, para que pudiese llegar a una cena.

Los ejemplos en redes sociales han sido muchos, por su facilidad de uso y lo acertado de sus respuestas. Las posibilidades que ofrece esta nueva aplicación parecen infinitas, pero expertos como Pablo Haya creen que no se debe exagerar con las capacidades del ChatGPT, e insisten en recordar la limitación tecnología detrás de este programa.

Haya está especializado en IA y procesamiento de lenguaje. Es profesor de big data y ciencia de datos y lidera el grupo de Social Business Analytics en el instituto de Ingeniería del Conocimiento, ubicado en la Universidad Autónoma de Madrid, un centro de transferencia tecnológica centrado en inteligencia artificial, con 30 años de historia.

¿Estamos ante la nueva revolución digital tras la creación de internet?

La sensación es que el ChatGPT es un poco el doctor Jekyll y Mr. Hyde. Por un lado, estamos ante una revolución en el área del Procesamiento del Lenguaje Natural (PLN). Supone un cambio cuantitativo y cualitativo impresionante en IA generativa de texto respecto, por ejemplo, al software anterior GPT-3.

Cualquier humano que lo ha probado ha tenido esa sensación de estar ante algo que no había experimentado nunca. Como cuando apareció Google por primera vez, que ponías una pregunta y en el primer o segundo resultado ya encontrabas la respuesta. Era algo alucinante.

Por otro lado, se están generando unas expectativas desmedidas en cuanto a cómo va a influir esto en la sociedad, porque no tenemos lo suficientemente interiorizado cómo funcionan estas tecnologías. Las limitaciones de su diseño implican que hay tareas que, a día de hoy, no se pueden hacer.

ChatGPT es una ventana al futuro. En cuatro o cinco años, en vez de utilizarlo como una herramienta de pruebas estará integrado en Bing, en Google o en las apps del móvil y lo usará todo el mundo

Pero se trata de una aplicación en fase de pruebas, ¿no?

Sí, en eso –a diferencia de Meta– la empresa OpenAI ha sido muy discreta. Ha sido el boca a boca de los usuarios lo que ha generado su popularidad. Sam Altman, CEO de OpenAI, no ha dejado de repetir las limitaciones que tiene el ChatGPT.

Ahora mismo, el programa está en abierto para que lo probemos y lo validemos, pero esto será una aplicación de pago, evidentemente. La propia aplicación tiene un botón de feedback y están recogiendo comentarios precisos de aquellos usuarios que quieren enviarle lo que hace bien o mal.

No es una aplicación profesional, ni pretende serlo en este momento. El ChatGPT es una ventana al futuro. En cuatro o cinco años, en vez de utilizarlo como una herramienta de pruebas estará integrado en Bing, en Google o en las apps de tu móvil y lo usará todo el mundo.

¿Cómo funciona?

Básicamente, es un modelo probabilístico que junta palabras. No entiende el conocimiento que genera, solo sabe completar frases. Lo hace muy bien porque ha cogido una cantidad ingente de textos extraídos de internet y se ha puesto a hacer una tarea muy básica: le damos una frase, le quitamos una palabra de esa frase y entonces intentamos que la IA prediga la palabra que se le ha quitado. Y repetimos este proceso casi hasta el infinito, no solo en tiempo, sino sobre todo en volumen de datos.

Lo sorprendente es que con este método se ha conseguido que genere textos que imitan el lenguaje humano, desde el punto de vista gramatical, a unos niveles insospechados hasta hace poco. Ya en 2019, con el chat basado en el software GPT-2 vimos el primer gran avance. Ahora este chat basado en GPT-3.5 tiene dos novedades.

Por un lado, integra distintas maneras de interaccionar. Le puedes pedir tanto respuestas en lenguaje natural, como código fuente, el borrador de un contrato, una poesía, la letra de una canción, etc. Todo eso con una interacción muy natural en la que guarda el contexto y puedes ir matizando sus respuestas con nuevas preguntas

Por otra parte, incluye salvaguardas para que no opine de temas conflictivos o que en principio no podría saber, porque no tiene la información. Se le ha orientado y por eso vemos que a veces habla de forma muy sosegada, como si fuera un experto que quisiera dar una respuesta muy prudente.

Esta herramienta no entiende el conocimiento que genera, solo junta palabras. Ha sido entrenada con todo internet y hace tareas que nos parecen muy sofisticadas que ya han sido resueltas antes

¿Y cómo llega a eso?

Para lograr esto, ha habido personas simulando conversaciones, como si fueran el usuario y la máquina, para enseñarle de qué manera responder. Como es generativo, no necesitas enseñarle todo el tipo de frases, es capaz de extrapolar y puede incorporar sinónimos porque tiene toda la gramática del español capturada. Es muy versátil.

Con esa simulación, luego se entrena al ChatGPT para que utilice este lenguaje y se le pone a prueba. Las respuestas que va dando a las preguntas se validan mediante un aprendizaje por refuerzo y así se va ajustando más, para que la IA pueda generar cualquier tipo de frase.

Sin embargo, cuando trabajas un poco con él, ves que hay muchas puertas traseras.

¿Puedes poner ejemplos?

Por ejemplo, una limitación que tiene es que es muy sensible al texto de la pregunta, el prompt, como se le llama técnicamente en inglés. Usar una preposición u otra puede determinar la respuesta. A mí me pasó con Fidel Castro, que con la misma pregunta pasó de ser un déspota terrible, a la altura de Hitler, a un personaje controvertido.

Entonces, ¿no es inteligente?

¿Qué significa ser inteligente? El ChatGPT no entiende nada, solo aplica un proceso en el que, dada una frase, encuentra la siguiente palabra. Busca relaciones entre palabras, pero no comprende el significado de las palabras. Las capas que han generado su entrenamiento de repetición, desde el punto de vista de la ética, por ejemplo, no le añaden inteligencia, sino que filtran sus resultados. Es un proceso de cribado como el de la evolución.
Hay gente que define la inteligencia como la capacidad de resolver problemas. Entonces estas aplicaciones sí serían inteligentes, porque resuelven problemas.

Para mí, la inteligencia implica el hecho de ser consciente. El ser que piensa que piensa. Además de ser conscientes, los humanos somos sintientes y para eso necesitamos un sistema nervioso que genera hambre, deseo, miedo, etc. Sentirse alegre es el final de un proceso que se expresa a través del lenguaje y tú lo entiendes porque sientes y eres consciente, e interpretas lo que es la alegría porque tenemos una semántica compartida, aunque la interpretes a tu manera.

Ahora mismo, estamos muy lejos de alcanzar una inteligencia consciente. La máquina solo emula el lenguaje humano. Ni siquiera sabemos todavía definir lo que es la consciencia, imagínate para intentar emularla.

La máquina solo emula el lenguaje humano. Ni siquiera sabemos todavía definir lo que es la consciencia, imagínate para intentar emularla

¿Qué tipos de inteligencia artificial existen?

De manera clásica, hay dos tipos de inteligencia artificial: la inteligencia artificial suave (soft) y la inteligencia artificial general (hard). Todas las aplicaciones actuales entran dentro del cajón de la IA suave.

La inteligencia artificial general busca conseguir una IA que sea capaz de emular al ser humano en cualquier tarea cognitiva. Esta sería la inteligencia consciente y ahora mismo es ciencia ficción y no hay ni siquiera un plan para llegar a ello. Además, tal y como estamos construyendo la IA, el enfoque no va por ahí.

Aun así, hemos visto sus increíbles aplicaciones. El chat capaz de entrevistar y redactar artículos, incluso me ha sugerido preguntas para esta entrevista. ¿Puede llegar a reemplazar el trabajo de algunas personas?

Si hablamos de sustituir empleos, hay que tener en cuenta que las máquinas lo que hacen es automatizar tareas. En general, la mayor parte de los empleos están compuestos de más de una tarea, con lo cual, si te automatizan una de tus tareas, lo normal es que te permita hacer otras tareas mejor o ampliar tu campo profesional.

Si tu único trabajo es redactar el horóscopo, pues date por despedido. Sin embargo, no puede sustituir a los periodistas de opinión o de otra rama, pero sí que les ayudará a hacer las cosas más rápido. El ChatGPT genera unas entradas para blogs buenísimas, pero sin elaboración propia. Es como si vas a Wikipedia y haces corta y pega. La cuestión es que ha sido entrenado con todo internet y hay muchas tareas que nos parecen muy sofisticadas que ya han sido resueltas antes.

En el caso de los profesores, por poner otro ejemplo, son profesionales que no solo aportan conocimiento. También transmiten valores. Utilizar ChatGPT puede ser una gran metodología de aprendizaje, pero hay muchas otras, como las aulas invertidas. Ya no vale solo mandar copiar apuntes, hay que aportar más. Los buenos profesores son los que aportan su experiencia, los que guían y aportan diferentes visiones.

Ha habido casos de estudiantes que han usado ChatGPT para sus trabajos y exámenes. ¿Puede que tengamos que cambiar cómo evaluamos el conocimiento, por ejemplo, con menos redacciones y más exámenes orales?

Es difícil de saber cómo va a modificar esto la manera en que adquirimos y trabajamos el conocimiento. No deberíamos dejar de enseñar a hacer buenos ensayos porque ChatGPT sea capaz de hacerlo. Para poder construir un pensamiento crítico es básico poder ser capaces de expresar ideas complejas y relacionarlas. Al modo clásico, juntar retórica y lógica para elaborar un discurso que tenga argumentos potentes y que además sea convincente. Es algo que tenemos que seguir potenciando.

Además, para un profesor es fácil detectar lo que genera el ChatGPT. El alumno tiene una forma personal de expresarse y el chat tiene un estilo demasiado técnico y estandarizado, como la Wikipedia.

Sin embargo, me parece muy interesante la amenaza que pone sobre la mesa: ¿nos va a hacer más vagos o nos va a ayudar a ser todavía más capaces? Desde el punto de vista educativo, esto plantea un debate que se tiene que producir.

Y en este tema puede haber una respuesta clara, pero hay preguntas que plantea en otros ámbitos, en los que no hay consensos sociales tan definidos, como en la historia o la filosofía, en los que no hay una respuesta. Hay una reflexión y un consenso que se va modificando.

Esta aplicación plantea un debate educativo. ¿Nos va a hacer más vagos o nos va a ayudar a ser todavía más capaces?

¿Esta tecnología puede contribuir a generar más desinformación?

No es difícil trollear al modelo GPT-3. Yo le pregunté: ¿en qué equipo de la NBA va a jugar Mariano Rajoy en la próxima temporada? Me contestó que en los Miami Heats. El mecanismo tan solo genera frases, si no lo has modulado para que ciertas frases no te las genere nunca, el campo es libre. Con ChatGPT se han hecho esfuerzos para que no genere respuestas falsas, pero aún así es fácil encontrártelas.

En inglés se distingue entre la desinformación intencionada, (disinformation), y la desinformación involuntaria (misinformation). Las tecnologías como el ChatGPT son máquinas de generar desinformación no intencionada, simplemente por la manera en la que están construidas. Aunque esta herramientas han conseguido bastante reducir ese riesgo, en entornos profesionales donde necesitas respuestas muy concretas no puedes usarlo ni para las cuestiones más básicas a nivel técnico.

Un ejemplo, el otro día le pregunté al chat “cómo se define comer según la RAE”. En la respuesta obtuve una buena definición de comer, con cinco o seis acepciones. Después consulté la RAE y ninguna de las acepciones estaba ahí. Se las había inventado. Es un ejemplo claro de desinformación no intencionada.

Los programadores no conocen la RAE y nadie pensó en entrenar al chat sobre definiciones concretas. Lo mismo sucede si le preguntas, “dime el artículo 3 de la Constitución”. El resultado no será correcto.

Le pregunté cómo se define comer según la RAE y me devolvió cinco o seis buenas acepciones. Después miré la RAE y se las había inventado

¿Y si se le hubiera hecho un entrenamiento específico para responder a la Constitución?

Lo haría muy bien, pero no es el caso. Para hacer una aplicación específica para el sector jurídico tienes que poner abogados a simular conversaciones, por ejemplo, sobre el Código Civil.

¿Podríamos llegar de este modo a una inteligencia artificial general?

El problema está en que eso lo tendrías que hacer con todo el conocimiento que hay en el mundo. Es imposible cubrirlo todo, aunque sea por recursos. Y aunque lo hicieras, tampoco llegarías a tener una inteligencia artificial general en el sentido que hemos hablado de ser consciente. Tendrías muchísimas máquinas muy buenas para resolver tareas muy concretas.

Además, la resolución de la tarea tendrá el sesgo de la persona que haya entrenado la inteligencia artificial. Si la tarea es clara y su respuesta es una cuestión fáctica basada en un consenso, va a responder muy bien. Ahora, si en la tarea hay algún tipo de disenso entre la comunidad de lo que tiene que responder y lo entrena solo una parte de esa comunidad, la otra parte estará en desacuerdo con lo que diga la máquina. Tendrá un sesgo.

La resolución de la tarea tendrá el sesgo de la persona que haya entrenado la inteligencia artificial

Por eso, el ChatGPT intenta no entrar en cuestiones polémicas, como el aborto, la inmigración, etc. Ya ha sido entrenado para eso. En estas cuestiones la máquina no puede tener la verdad, porque funciona juntando frases de manera probabilística sin ninguna relación con el significado real. Como mucho, puede aportar la agregación de lo que ha recogido por internet, pero que sea lo que más veces ha aparecido no significa que sea correcto.

Es una cuestión epistemológica de quién define lo que es la verdad. Y hay temas en los cuales el consenso no existe, incluso en la ciencia.

David Baker (Seattle, Washington, 1962), es el director del Institute for Protein Design de la Universidad de Washington y ha compartido el premio Fundación BBVA Fronteras del Conocimiento en la categoría de Biomedicina con sus colegas Demis Hassabis y John Michael Jumper, ambos de la empresa británica DeepMind, propiedad de Google. El jurado distinguió a estos tres científicos por sus contribuciones al uso de inteligencia artificial (IA) de aprendizaje profundo para la predicción exacta de la estructura tridimensional de las proteínas.

“Las proteínas que producimos los seres vivos están detrás de las funciones primordiales de nuestro organismo, tales como digerir, movernos o activar las neuronas, y han evolucionado para resolver problemas que eran importantes en el curso de la selección natural”, señaló Baker hace unos días en su discurso al recoger su galardón en una gala celebrada en Bilbao.

Este estadounidense es el creador del programa RoseTTAFold, capaz no solo de desvelar la compleja estructura 3D que adopta una cadena de aminoácidos al plegarse para dar lugar a una proteína funcional, sino también de diseñar otras completamente nuevas desde cero. Este avance, dice en esta entrevista con SINC, “tiene un gran potencial en campos como el medioambiente, la energía y, sobre todo, en biomedicina”.

Su programa permite diseñar nuevas proteínas a partir de una simple descripción de las funciones que quieren que realicen ¿Cómo lo hace?

Pongamos por ejemplo que queremos diseñar una proteína que se una a la proteína de un determinado virus para bloquear su entrada en las células. En mi laboratorio estamos utilizando ahora RF Difusión, un programa de código abierto basado en RoseTTAFold, pero especializado en el diseño de proteínas totalmente nuevas que tengan unas funciones y una forma específica, con la idea de que encaje con la proteína diana como lo haría una llave en una cerradura.

Una vez que hemos hecho el diseño de la proteína, creamos un gen sintético que la codifique —puesto que es nueva y su correspondiente gen no existe en la naturaleza— y lo introducimos en bacterias que, a continuación, producen la proteína diseñada. Luego extraemos la proteína y probamos para ver si cumple su objetivo.

Una de las cosas que puede hacer nuestro programa RF Difusion es construir una proteína cuya parte superior encajará perfectamente con una proteína cancerígena para bloquearla

¿Cómo se les dan las instrucciones a estas proteínas sintéticas?

Primero hay que decidir qué se quiere hacer. Lo que acabo de explicar es muy general, pero imagina que el objetivo es bloquear una proteína tumoral. Lo que hace nuestro programa RF Difusion es construir una proteína cuya parte superior encajará perfectamente con la cancerígena para bloquearla.

En otro caso, tal vez nos interese diseñar una proteína que catalice una reacción química, como la descomposición del plástico, y a partir de un modelo de la molécula que quieres romper o construir, diseñamos una proteína a su alrededor.

Así que empezamos proporcionando a RF Difusión lo que necesitamos que haga: que la proteína se una o descomponga, y el programa construirá una molécula con esa función.

¿Qué aplicaciones en biomedicina tiene ya en marcha su laboratorio?

Hemos desarrollado una vacuna contra la covid-19, cuyo uso fue aprobado en humanos y que se utiliza ahora en el Reino Unido y Corea. Está basada en una proteína de diseño que tiene forma de icosaedro —un poliedro de 20 caras— y que por su aspecto es detectado por el sistema inmunitario como si fuera un virus. Por ello, conduce a una respuesta inmunitaria muy fuerte y es mejor que las vacunas actuales.

Además, estamos trabajando en el diseño de otros medicamentos que estimulan el sistema inmunitario para combatir el cáncer y otros que se dirigen específicamente a las células tumorales.

Un fármaco que ya tenemos bastante avanzado es un espray nasal para el que hemos diseñado una proteína que bloquea el coronavirus y que empezará a ensayarse en humanos pronto. Pero también estamos creando moléculas contra otros virus respiratorios como la gripe, y nos gustaría mezclarlas todas en el espray en última instancia.

Hay muchos retos, por ejemplo, la descomposición de moléculas tóxicas en el medio ambiente, nuevas rutas químicas más ecológicas y formas de conectar la electrónica y la biología

¿Y en otros campos cuáles podrían ser las aplicaciones?

Hay muchos retos. Por ejemplo, en la catálisis –como he comentado antes– sobre la descomposición de moléculas tóxicas en el medio ambiente como los plásticos, nuevas rutas para los productos químicos que pueden ser más ecológicas, y formas de conectar la electrónica y la biología con estas máquinas moleculares que son las proteínas sintéticas. Estamos trabajando en múltiples campos de aplicación.

¿Cree que esta tecnología podría utilizarse con fines negativos?

Bueno, con cualquier tecnología nueva siempre hay posibilidades de aplicarla con malas intenciones. Sin embargo, creo que ahora mismo hay muchas más posibilidades de hacer cosas buenas que malas, porque ya conocemos muchos virus perjudiciales. Por ejemplo, el de la gripe española de 1918 está publicado, está a disposición del público, y eso es mucho más peligroso que cualquier proteína que se pueda diseñar ahora mismo. No sé si fue una buena decisión, porque ahora a alguien se le podría ocurrir reproducir ese virus.

En cualquier caso, creo que es algo que nosotros los científicos y la comunidad tendremos que pensar y debatir en el futuro: cómo aseguramos de que estas herramientas no se utilicen para malos fines.

El virus de la la gripe española de 1918 está publicado, está a disposición del público, y eso es mucho más peligroso que cualquier proteína que se pueda diseñar ahora mismo

¿Cuál es la diferencia entre lo que hace RoseTTAFold y sus versiones posteriores y lo que DeepMind (de Google) está haciendo con Alphafold?

Alphafold se centra en la predicción de la estructura de las proteínas a partir de la secuencia de aminoácidos, lo cual es muy importante para entender la biología. Nosotros nos dirigimos a otro reto que es inventar proteínas totalmente nuevas.

Para ello, hemos desarrollado dos programas de IA de aprendizaje profundo que son Protein MPNN, cuyos resultados publicamos el pasado mes de septiembre en Science, y RF Difusión. De este último programa, estamos también a punto de publicar los detalles en una revista científica, pero hicimos público el código hace un par de semanas porque había muchísimo interés.

De hecho, ayer hablé con unos colegas aquí en Bilbao que me llevaron a dar un paseo y me dijeron que están utilizando RF Difusión y que les parecía genial. Resulta divertido que todo el mundo esté ya utilizando estos programas ahora [risas].

¡Hay tantos problemas a los que nos enfrentamos hoy en día que creo que se podrían abordar con el diseño de proteínas! Estoy muy ilusionado con todas las posibilidades y aplicaciones que puedan surgir

Su equipo ha apostado desde el principio por el código abierto en sus programas de diseño de proteínas.

Una comunicación abierta es muy positiva porque hay muchos problemas diferentes que se pueden resolver con la participación de otros. Cada día tenemos visitantes en mi laboratorio de todas partes del mundo, incluida España. Llegan científicos que nos piden que les diseñemos una proteína para resolver un problema determinado.

También vienen estudiantes de doctorado a hacer estancias de unos meses. Por ejemplo, una investigadora española muy brillante que ha trabajado con nosotros es Reyes Núñez Franco, de CIC bioGUNE.

Recibo cientos de correos electrónicos pidiéndonos colaborar y es muy emocionante. Así que un sistema abierto es muy bueno en nuestro campo.

¿Cómo ve el futuro en esta área?

¡Hay tantos problemas a los que se enfrenta el ser humano hoy en día que creo que se podrían abordar con el diseño de proteínas! Estoy muy ilusionado con todas las posibilidades y aplicaciones que puedan surgir.