Archivo de la categoría: Entrevistas

“Tenemos que pensar en cómo controlar la IA porque es muy potente y lo va a cambiar todo”

Jordi Torres, experto en supercomputación

“Tenemos que pensar en cómo controlar la IA porque es muy potente y lo va a cambiar todo”

En el libro La inteligencia artificial explicada a los humanos, este investigador y divulgador plantea un ameno e inquietante relato sobre el incierto balance riesgo-beneficio de una tecnología que espera acabe complementándonos, más que sustituyéndonos y que tendrá un mayor impacto en la humanidad que el de la Revolución Industrial.

Jordi Torres, inteligencia artificial

Jordi Torres posa con ejemplares de su libro ‘La inteligencia artificial explicada a los humanos’. / Foto cedida por el entrevistado

La versión gratuita de ChatGPT, el chatbot de IA de la empresa estadounidense OpenAI, no tiene información específica “sobre un experto en supercomputación e inteligencia artificial, llamado Jordi Torres,” hasta su última actualización, en enero de 2022. “Puede que sea una persona que ha ganado reconocimiento o notoriedad después de esa fecha o que no haya alcanzado una prominencia mundial que esté registrada en mis datos”, zanja el simulador conversacional más famoso del mundo.

Todo ello, pese a que Torres (Barcelona, 1964) es catedrático de arquitectura de computación de la Universidad Politécnica de Cataluña (UPC) e investigador y asesor del Barcelona Supercomputing Center – Centro Nacional de Supercomputación (BSC–CNS), cuyo emblema es el superordenador MareNostrum 5, uno de los más potentes del mundo, de los tres únicos en la UE, y “joya de la corona” de la infraestructura científica en nuestro país, explica este experto a SINC.

El investigador es, además, autor del libro La Inteligencia Artificial explicada a los Humanos (Plataforma Editorial, 2023).

Desde que en 1956 acuñase el término el informático John McCarthy en la conferencia fundacional de Dartmouth (Hanover, EE UU), el desarrollo de la IA ha sufrido épocas de sequía, pero sus hitos más recientes pronostican avances inimaginables en medicina personalizada o posibles respuestas ante desafíos colosales, como la emergencia climática. Al tiempo, avivan el riesgo último de alcanzar la llamada “singularidad tecnológica”, la posibilidad de que la máquina nos supere y acabe decidiendo sobre sí misma y nuestro futuro.

¿Por qué ChatGPT no te conoce?

Porque no soy Elon Musk. ChatGPT es el resultado de un código que procesó y acumuló el conocimiento de internet en su red neuronal hasta esa fecha que te ha mencionado. Son números, parámetros. 175.000 millones en GPT-3 y en GPT-4 [el modelo disponible más avanzado] no sabemos, pero más. Lo que hace es encontrar una respuesta a tu pregunta palabra a palabra según lo que sea estadísticamente más probable. Así escribe cada frase, cada párrafo.

Igual estás entrevistando a quien no deberías, no soy suficientemente famoso para ChatGPT

Por ejemplo, si sale Barack, sabe que luego viene Obama porque lo ha leído millones de veces. Pero seguramente Jordi Torres lo ha leído poquísimas veces, no le da la posibilidad de hacer algo razonablemente confiable. Si tras Jordi Torres la siguiente palabra aparece con una probabilidad muy baja, la descarta para no entrar en ‘alucinaciones’

Aunque a veces se despista, él siempre responde. A ti, te ha dado una respuesta de escape tuneada porque en el entrenamiento de ChatGPT ha habido intervención humana, lo que se llama human-in-the-loop [supervisores humanos]. Así que igual estás entrevistando a quien no deberías, no soy suficientemente famoso para ChatGPT [ríe].

¿Falla entonces en el hilado fino?

ChatGPT contiene una versión comprimida de todo el conocimiento de internet que se usó para entrenarlo, pero al comprimirlo, se pierde información, como al comprimir un fichero informático. Al descomprimirlo, debe aplicar un proceso matemático para encontrar los píxeles que faltan. De media, los genera bien, pero a veces se distorsiona una imagen después de comprimirse. Él domina la verborrea, redacta bien, pero le falta información precisa.

Lo que se está haciendo es añadir al motor de verborrea que es ChatGPT una base de datos específica con conocimiento del ámbito al cual quieres aplicarlo. Por ejemplo, al de la salud, para sobreentrenarlo y que sea más preciso. El problema es que se ha entrenado quién sabe con qué. De hecho, OpenAI de open no tiene nada. Es de los primeros avances en redes neuronales que se hace sin compartir con la comunidad científica los datos, los algoritmos y las máquinas que se han usado para el entrenamiento. Es todo muy opaco.

Los conceptos de IA y redes neuronales vienen de mediados del siglo pasado. Las buenas ideas matemáticas ya estaban en los 80, pero no había máquinas para computar la información en un tiempo razonable

¿Qué diferencia las neuronas biológicas de las artificiales?

No se parecen en nada, pero cómo se expresan las cosas puede ayudar a definir ideas. Los conceptos de IA y redes neuronales vienen de mediados del siglo pasado. Las buenas ideas matemáticas ya estaban en los 80, pero no había máquinas para computar la información en un tiempo razonable. En 2012, en una competición de clasificación de imágenes, explotó esta idea de que las redes neuronales podían ser útiles.

Una red neuronal no es más que millones de neuronas artificiales. Y una neurona artificial es una suma ponderada de los parámetros de entrada, de las conexiones con otras neuronas, más una aplicación que procesa el resultado. Al igual que con las neuronas humanas —que, según lo que les llega y su procesamiento, emiten a través del axón una señal de activado o no activado—, las artificiales, tras esa suma ponderada, emiten una salida de valor 0 ó 1. Es así de simple, una operación matemática muy pequeña, una multiplicación de matrices. Pero con millones de estas cosas tan simples se hacen cosas muy complejas, como entrenar estas neuronas para obtener información de los datos de entrada de forma automática, sin precisar de un programador que indique qué hacer si pasa esto o lo otro.

¿Ha ocurrido algo sorprendente en el desarrollo de la IA desde que publicaste tu libro en septiembre pasado?

Desde el punto de vista de la investigación, no. Lo cerramos a finales de mayo, cuando ya había pasado lo más importante, es especial en relación con el lanzamiento de ChatGPT, aunque voy actualizando anécdotas en mi web. Sí me sorprende la rapidez con la que se está adoptando la tecnología en muchos campos. Aún queda mucho recorrido, pero va a cambiar las profesiones, la calidad de vida de las personas, lo va a cambiar todo.

Se está avanzando mucho en facilitar esa adopción. Microsoft está aplicando IA en sus productos. Word ya corrige nuestros errores ortográficos, pero pronto podrá resumir un texto, etc. También se están perfeccionando los modelos de lenguaje. En España existe el proyecto MarIA [para resumir y generar textos en castellano a partir de los archivos web de la Biblioteca Nacional de España] y en Cataluña tenemos Aina [equivalente para el catalán]. Se trata de facilitar una infraestructura que puedan utilizar las empresas, por ejemplo, en el ámbito de la salud. En el Hospital Clínic de Barcelona o en el Vall d’Hebron, donde algunos médicos escriben en catalán, otros en castellano y otros en inglés, estos modelos pueden ayudar a hacer una interpretación automática de los informes.

¿Los gigantes tecnológicos van marcando la pauta?

En modelos de lenguaje hay una competición entre las grandes tecnológicas. Microsoft ha invertido mucho dinero en OpenAI, Google ha sacado Gemini, Meta (Facebook) tiene Llama… Y todo viene de un artículo de investigación de Google que se llama Transformer publicado en 2017, cuando hubo un cambio de paradigma. Desde entonces, no ha habido nada de esa dimensión. Sí se han puesto las pilas los gobiernos: se le está dando un acelerón a la legislación europea, Biden está poniendo sus salvaguardas en EEUU…

OpenAI no abrió ChatGPT a todo el mundo por altruismo, es un experimento masivo para afinar sus modelos de lenguaje. Una vez más, pagamos dándoles nuestros datos, nuestra forma de interactuar

Es decir, no hay grandes hitos científicos, pero se ha avanzado en comercialización y regulación, ¿correcto?

Se está afinando la tecnología para hacerla más útil. Y, no nos engañemos, OpenAI no abrió ChatGPT a todo el mundo por altruismo, al igual que Google te da ‘gratis’ Gmail. Es un experimento masivo para afinar sus modelos de lenguaje. Una vez más, pagamos lo que supuestamente nos está ayudando, dándoles nuestros datos, nuestra forma de interactuar. Ellos están adquiriendo toda esta información, están afinando el producto. También creo que muchas de estas cosas van a ser cada vez más transversales y transparentes.

Concluyes que la IA supondrá una mayor transformación de la historia de la humanidad que la que supuso la Revolución Industrial.

Ahí hay un trabajo del editor para acentuar aquello que yo pienso y digo. Yo, como científico, no tengo costumbre de hacer titulares. Pero lo puedo defender en el sentido de que ahora tenemos una herramienta más potente que cualquiera de las anteriores.

Por ejemplo, va a automatizar muchas tareas diferentes a las manuales y algunas de ellas son las creativas, las que hasta ahora creíamos que solo podían hacer los artistas. De igual forma, va a afectar a muchos de quienes estudiamos en la universidad pensando que nunca nos quitarían el trabajo. A mis estudiantes de informática les va a afectar de lleno porque las máquinas ya saben programar. Yo ya pido a ChatGPT que me ayude con ciertas rutinas de programación. La automatización va a ocurrir cada vez más en trabajos de carácter intelectual, no como hasta ahora, que solo afectaba a quienes trabajaban en cadenas de producción. Es una transformación brutal.

La automatización va a ocurrir cada vez más en trabajos de carácter intelectual, no como hasta ahora, que solo afectaba a quienes trabajaban en cadenas de producción. Es una transformación brutal

¿Compite con nuestra inteligencia?

La complementa. En el libro, hablo de cohabitación. La IA complementando a nuestra inteligencia nos puede llevar a hacer cosas hasta ahora impensables. También a abordar retos complejos como los que plantea el cambio climático. O nos ayudamos de herramientas como la IA para predecir, tomar decisiones, ser más eficientes y sostenibles o no sé cómo vamos a salir de esta. Al final, para bien o para mal, los humanos hemos adoptado toda tecnología que ha caído en nuestras manos, no hay vuelta atrás. Además, lo que puede hacer la IA, no lo podemos hacer nosotros. Mientras esté en nuestro control, no veo problemas.

Jordi Torres durante una conferencia sobre inteligencia artificial. / Foto cedida por el entrevistado

Según el FMI, la IA afectará al 60% de los trabajos en las economías avanzadas y existe el riesgo de que reemplace empleos y profundice la desigualdad.

Es cierto, lo va a cambiar todo. Pero, mira, mi abuelo trabajaba 80 horas a la semana y mi hijo trabaja 40, ¿esto es bueno o es malo? Está viniendo muy rápido y nos coge sin capacidad de reacción. Y el que pierde el trabajo hoy, mañana no se puede incorporar a otro ámbito distinto. ¿Pero cuál es el problema de que haga parte del trabajo? El reto es cómo nos organizamos a nivel social. Por otro lado, el negocio de la IA está en manos de pocos y estos pocos se están haciendo cada vez más ricos. Si juntas esto con la facilidad que la IA provee a las personas para elaborar fake news, nos puede llevar a una gran crisis social. Nos tendríamos que poner las pilas.

El negocio de la IA está en manos de pocos que se están haciendo cada vez más ricos. Si a ello añadimos la facilidad con que esta tecnología permite elaborar ‘fake news’, puede conducirnos a una gran crisis social

¿Existe hoy una tecnología que hiciera innecesario un actor para rodar una serie o una película o un médico para atender pacientes?

Depende. Si hoy en día no se pueden realizar películas sin actores en las que todo parezca real, se hará pronto. Pero quizás sean un bodrio. Ahora, una buena película, tengo mis dudas. Lo que también pasará es que se generará un montón de contenido realista y un solo director o un solo guionista podrá supervisar 10 películas, en vez de una.

En el caso de los médicos, estoy seguro de que, sobre ciertos diagnósticos muy sistemáticos, ya hay una IA que puede tomar la decisión. En el BSC se está trabajando con simulaciones de ordenador, gemelos digitales e IA para ver cómo una proteína o un medicamento interacciona con las células cancerígenas. Al final, la IA junto con la humana permite a un médico tomar mejores decisiones y aplicar mejores tratamientos. Pero esta tecnología sola no va a ninguna parte. Lo que se persigue es no sustituir al humano, sino complementarlo. Puede ayudar a que el tiempo del médico se dedique a tareas de más valor añadido. Se trataría, por así decirlo, de subcontratar a una IA para hacer la parte del trabajo más mecánica.

La IA tiene un importante impacto ambiental por su gran consumo energético y emisión de CO2. ¿Qué implica en el contexto de la actual emergencia climática?

Los supercomputadores con los que se entrena la IA consumen mucha electricidad, pero este no es el problema. Por contextualizarlo, si los casi 10 millones de abonados de Netflix España ven una hora una película, consumen lo mismo que entrenar el GPT-3 una vez. Es decir, lo que cuesta mucho tiempo y energía es que aprenda, entrenarlo y eso, en la versión que has consultado tú, ocurrió por última vez en enero de 2022. El problema es el mundo digitalizado que tenemos. Piensa cuando entramos en el coche y conectamos el GPS para consultar Google Maps, con información de 220 países y pudiendo pedir lo que queramos de donde queramos. Todo esto gasta mucha energía, deberíamos consumir menos en general.

Relatas que la mayor dificultad para el progreso de la IA son las limitaciones de la computación y citas las posibilidades de los chips neuromórficos y la eventual computación cuántica. ¿En qué consisten?

Los chips neuromórficos integran el algoritmo en su hardware, lo que les hace más eficientes. Los supercomputadores cuánticos aún no existen. Lo que vamos a montar antes del verano en el BCS es una infraestructura que permita hacer experimentos cuánticos para avanzar en supercomputación, un entorno sin influencias electromagnéticas, con un frío determinado… Pero hasta que dispongamos de supercomputación cuántica aún queda un recorrido. Y tampoco es evidente que, para las redes neurales, la computación cuántica sea una solución.

Como explico en mi libro, el desarrollo de la IA se basa en tres pilares: datos, algoritmos y máquinas (capacidad de computación). Datos, ya hemos usado todos los que había en internet; algoritmos, ya son miles de millones; y máquinas, consumen mucho. Seguir progresando es un reto.

Europa tiene tres superordenadores, uno de ellos en Barcelona, del tamaño de los que tienen cualquiera de estas empresas tecnológicas californianas [Google, Microsoft, etc.]. Si no tenemos más, ¿cómo vamos a tener IA propia?

También crees que Europa tendría que aumentar su capacidad en supercomputación.

Europa tiene tres supercomputadores del tamaño de los que tienen cualquiera de estas empresas de California, uno en Finlandia, otro en Italia y el de Barcelona. Si no tenemos más, ¿cómo vamos a tener IA propia? Los modelos ChatGPT tienen su moral, su ética, sus sesgos, que son los suyos porque al final están entrenados con sus datos. Mateo Valero Cortés [director del BCS] lo explica muy bien: en Europa somos árbitros de un partido que no estamos jugando.

¿Y de qué se hacen estos supercomputadores? Los circuitos del que tenemos en Barcelona son Nvidia e Intel, que nuevamente son empresas californianas. Hay una iniciativa europea para hacer chips propios que permitan hacer supercomputadores propios y una IA propia que podamos controlar. A Europa le falta tiempo para estar al día de este partido que se está jugando.

Dices que la IA no distingue el bien del mal y urges a una regulación ética y responsable, pero ese criterio varía entre las personas y las culturas. ¿Cómo podemos asegurar que se avanza según ciertos principios?

Primero, debemos tener opinión del tema para decidir entre todos qué queremos. La mayoría consideraría que aplicar la IA a la interpretación de imágenes médicas es un buen avance, pero es la misma tecnología que se usa para detección facial y que en China se emplea para controlar a la población. En Cataluña se ha debatido sobre poner este tipo de cámaras en las prisiones, ¿es bueno o malo? Yo, por ejemplo, soy muy antimilitarista y cuando veo su aplicación al armamento autónomo, creo que es malísimo.

La mayoría consideraría que aplicar la IA a la interpretación de imágenes médicas es un buen avance, pero es la misma tecnología que se usa para detección facial y que en China se emplea para controlar a la población

Mencionas que la IA puede facilitar muchos avances en el ámbito del derecho, ¿podría en algún momento acabar regulándose a sí misma?

Me refería al ámbito de la redacción o la búsqueda de información en procesos judiciales complejos, por ejemplo. Pero, con lo que me preguntas, estás dando por sentado que la IA tiene conciencia de sí misma. Esta, que nos pintan en la ciencia ficción, ni existe, ni hay indicios de que pueda existir en un futuro cercano. Con la tecnología actual es imposible que una máquina sea consciente. Parafraseando al especialista en IA Stuart Russel, nos hacen falta unos cuántos Einstein con inventos disruptivos para que la IA pueda ser consciente de sí misma, tenga la capacidad de razonar, sentido común o sea capaz de distinguir causa y efecto: ¿sale el sol porque canta el gallo o canta el gallo porque sale el sol?

Ahora mismo, es imposible que la inteligencia artificial se regule a sí misma porque, en el fondo, es tonta. La que gana al ajedrez, si en vez de un tablero de 8 por 8 le pones un tablero 8 por 9, ya no sabe jugar. Cualquier jugador medio le ganaría. No digo que no tengamos que ocuparnos de estos temas, digo que debemos atender otros más inminentes porque con la tecnología actual ya se pueden hacer barbaridades.

Ahora mismo, es imposible que la inteligencia artificial se regule a sí misma porque, en el fondo, es tonta. La que gana al ajedrez, si en vez de un tablero de 8 por 8 le pones un tablero 8 por 9, ya no sabe jugar

La escritora especializada en tecnología Marta Peirano cree que cuando los gurús tecnológicos piden más regulación para conjurar el riesgo de la singularidad tecnológica, lo que en realidad persiguen es regulaciones a su medida que favorezcan su monopolio frente a modelos abiertos y colaborativos. ¿Qué opinas?

Entramos en el campo de la especulación y esto es aplicable a cualquier sector industrial. Sí es cierto que si pones limitaciones a conseguir según qué cosas que ellos ya tienen, los mantiene en una situación de dominio. Tras el lanzamiento de ChatGPT-4, Musk firmó una carta con un grupo de expertos en IA solicitando una moratoria de medio año antes de desarrollar sistemas más potentes. Pero él estaba por otro lado pidiendo a la gente de Nvidia miles de chips para desarrollar IA, de los que en aquel momento aún no habían llegado al BSC. ¿A qué juega? ¿Y si a Sam Altman [director ejecutivo de OpenAI] le preocupa tanto, por qué se ha metido a hacerlo?

¿Tú crees que habría que ralentizar su desarrollo?

No creo que se tenga que ralentizar, pero no se puede dar autonomía absoluta. No podemos continuar con este despropósito de “lo probamos y luego veremos qué pasa”, como está ocurriendo. Lo estamos viendo en otras áreas, como las redes sociales, en las que se usa IA. Son un fenómeno del mundo de la digitalización que tiene vida propia y que está machacando a todos nuestros jóvenes.

También debemos garantizar por ley que cualquier actor del que se use su voz, gane su royalty porque hoy te pueden plagiar la voz. En definitiva, tenemos que estar de acuerdo en qué cosas no se pueden hacer. No se puede hacer armamento autónomo, por ejemplo. Yo sería contundente, hay cosas que tendrían que estar prohibidas. Y Europa va por aquí, como en el caso del reconocimiento facial, que está muy limitado. Tenemos que ponernos todos a pensar en cómo controlamos esta herramienta porque es muy potente y lo va a cambiar todo.

No creo que la IA se tenga que ralentizar, pero no se puede dar autonomía absoluta. No se puede continuar con este despropósito de “lo probamos y luego veremos qué pasa”, como está ocurriendo

Este año, la mitad de la humanidad va a votar. Teniendo en cuenta que mediante IA se pueden hacer textos, fotos, audios o vídeos falsos e indistinguibles de la realidad, ¿qué deberíamos hacer los ciudadanos?

La tecnología para suplantar por voz e imagen a personas existe y cada vez es más accesible. Esto es así y debemos ser críticos. Ahora, con lo que hemos hablado este rato, podríamos crear un bot con mi voz y mi madre no podría distinguirla. Y por redes sociales corren muchas cosas falsas. Yo, por ejemplo, tengo mucho cuidado con lo que recibo por Whatsapp. La ciudadanía debería intentar informarse a través de canales serios; si se deja influenciar solo por la burbuja que su Facebook o su TikTok le ha generado, va mal.

Fuente: SINC
Derechos: Creative Commons
18/3/2024 09:00 CEST

La militarización de la inteligencia artificial y el género

La inteligencia artificial cada vez se usa más en todos los ámbitos de la sociedad.

 Los mismos sistemas que tienes en Netflix que recomiendan ver qué ver a continuación, pueden emplearse en situaciones de campo de batalla para recomendar un curso de acción determinado.

Shimona Mohan , Experta en inteligencia artificial

Unsplash/Possessed Photography
La inteligencia artificial cada vez se usa más en todos los ámbitos de la sociedad.

 

Paz y seguridad

La misma tecnología que se usa para el reconocimiento facial se utiliza en un dron sin tripulación para atacar objetivos militares en el campo de batalla. Es una tecnología que cambia a un ritmo vertiginoso y que, además, está desarrollada por una mayoría de hombres. Una investigadora en desarme y género explica cómo trabajan a contrarreloj para ayudar a los países a elaborar regulaciones más efectivas.  

El uso potencial de la inteligencia artificial (IA) en distintos ámbitos es cada vez mayor, incluyendo el militar. Para conocer más sobre el tema, Noticias ONU habló con Shimona Mohan, investigadora asociada del Instituto de las Naciones Unidas de Investigación sobre el Desarme (UNIDIR).  

Para la experta, es esencial que la aplicación de la IA esté supervisada por los seres humanos, y dados los sesgos de género que han observado, es fundamental que en ella participen tanto hombres como mujeres.

Desde el Instituto, Mohan lleva a cabo investigaciones en distintas áreas temáticas, ya sea la tecnología y seguridad, el desarme desde la perspectiva de las armas de destrucción masiva, las armas biológicas y químicas, así como el uso de armas en el espacio.

El objetivo es revelar brechas en la regulación que faciliten la elaboración de políticas más efectivas para hacer frente tanto a los sesgos de género, como a la frenética velocidad a la que evoluciona la tecnología.

El desarme, territorio de hombres

Noticias ONU: Su investigación se centra en la intersección de género, desarme y tecnologías emergentes como la inteligencia artificial. ¿Podría contarnos más sobre esto? 

Shimona Mohan: Cuando hablamos de género, seguridad y tecnología, nos referimos a cómo se diseñan y desarrollan tecnologías que tienen fines de seguridad y si existen descuidos de género en torno a ello.

¿Cómo podemos superar esos descuidos y asegurarnos que no se transfieren a la elaboración de políticas? En este sentido, cuando debatimos políticas sobre tecnología de seguridad, trabajamos para que el género siga siendo parte de esa conversación y no se pase por alto.

También estamos analizando quién fabrica estas tecnologías; si esos equipos son diversos y representativos, si sus miembros entienden las sensibilidades de género y si garantizan que sus productos no tengan ningún sesgo.

En los círculos políticos y en las áreas en las que se están llevando a cabo conversaciones sobre la gobernanza de estas tecnologías, ¿pueden esas audiencias también entender las complejidades en torno al género? ¿Hay suficiente representación? Algunos datos que tenemos disponibles revelan que, en 2019, solo alrededor de un tercio de los diplomáticos en cualquier foro importante sobre el desarme eran mujeres.

Y esta cifra no ha cambiado mucho desde entonces. De hecho, en los foros más pequeños y en los más especializados, como los que giran en torno a las tecnologías de seguridad, solo una quinta parte de los diplomáticos presentes en la sala son mujeres.

Mi investigación analiza dónde están las brechas, cómo se han desarrollado y cómo podemos colmarlas para asegurarnos de que el género siga siendo parte de la conversación.

Shimona Mohan es investigadora asociada del Programa de Género, Desarme, Seguridad y Tecnología de UNIDIR.
Shimona Mohan

Tecnología sexista

Noticias ONU: ¿Puede hablarnos de los impactos negativos de la desigualdad de género en el desarme y las tecnologías emergentes? 

Shimona Mohan:  Muchos de los ejemplos en torno a la tecnología de seguridad provienen de espacios civiles, porque la tecnología es la misma.

La misma tecnología que usas, por ejemplo, en tu iPhone para el reconocimiento facial es el tipo de tecnología que se utiliza en un dron sin tripulación para atacar objetivos militares en el campo de batalla. Así que la tecnología no cambia, pero su uso sí. Y debido a esa diferencia en la aplicación, también podemos prever algunos de los efectos dañinos que pueden surgir como resultado, especialmente cuando hablamos de género.

Ahora sabemos por muchas conversaciones sobre inteligencia artificial que hay un sesgo de género establecido, que se ve agravado continuamente por el tipo de datos y algoritmos que se utilizan en ella, y también por las personas que la programan.

Uno de los ejemplos que me gusta destacar es el del sistema de tarjetas de crédito de Apple, que se consideró inherentemente sexista por la forma en que otorgaba calificaciones crediticias bajas a las mujeres en comparación con los hombres. No había ninguna otra diferencia entre las mujeres y los hombres que solicitaban préstamos a través del sistema de tarjetas de crédito, además del hecho de que eran mujeres. Una vez que esto salió a la luz, Apple retiró ese sistema y tuvo que solucionarlo.

Ahora tenemos la AI generativa, que se ha convertido en un tema de conversación muy importante desde 2022. Hemos visto ChatGPT y aplicaciones de generación de imágenes como Midjourney y Dali, y todas tienen prejuicios de género que están integrados inadvertidamente en el sistema.

Así, por ejemplo, en las versiones iniciales de ChatGPT, si le preguntabas, cuéntame una historia sobre una niña y un niño, te decía que el niño se convirtió en un médico que tuvo mucho éxito, fue muy reconocido en su campo, etc. Y para la niña, decía que era muy hermosa, muy bonita. Se convirtió en una ama de casa genial.

Así que ese era el tipo de sesgo que se incorporó a estos conjuntos de datos, sin la supervisión de las personas que los estaban creando. Y cuando OpenAI les llamó la atención también intentaron arreglarlo. Pero, si se hace de forma aislada, los intentos de arreglarlo no cambian realmente todo el modelo.

El 92% de los desarrolladores son hombres

Noticias ONU: ¿Cómo podemos abordar los sesgos inherentes? Y, ¿a nivel político? 

Shimona Mohan:  Desde una perspectiva sustantiva, analizamos lo que entra en el sistema y lo que viene como resultado. Por lo tanto, si está codificando sesgos, ya sea deliberados o inadvertidos, esos sesgos también generarán resultados sesgados. Esa es la perspectiva sustantiva. Así es como vemos cómo se comportan estas máquinas, cómo se construyen estas tecnologías.

La segunda forma en que pensamos en ellos, es a través de perspectivas participativas. ¿Quién está en la habitación cuando se diseñan? ¿Qué tan diverso es ese equipo? ¿Qué tan sensible y consciente es del género?

Es bien conocido que, en ciberseguridad, solo alrededor del 25% de la fuerza laboral son mujeres. Y cuando hablamos de ingeniería de software, ese nivel desciende aún más, ya que alrededor del 92% de los desarrolladores de programas son hombres. Lo que luego tiende a retratar el tipo de cultura laboral en la que prevalecen los prejuicios, sea intencional o no. Eso se convierte en algo que luego se codifica en los sistemas, pero se ignora.

La manera de contrarrestar ese tipo de sesgo es tanto desde una perspectiva sustantiva como participativa. Ese es el tipo de recomendación que hago en mi investigación.

Militarización de la inteligencia artificial

Noticias ONU: ¿Qué es la militarización de la inteligencia artificial y las tecnologías emergentes? ¿Puede darnos algunos ejemplos?

Shimona Mohan: Es muy difícil definir cómo se emplea la inteligencia artificial en los campos de batalla. Simplemente porque la tecnología cambia cada pocos años y es difícil hacer un seguimiento de cómo lo ha hecho. La misma inteligencia artificial de la que hablábamos hace diez años no es de la que hablamos hoy. Como resultado, la forma en que se ha empleado en los campos de batalla también ha cambiado.

Una de las tecnologías más comunes de las que hablamos cuando hablamos de inteligencia artificial militar es la de los sistemas de armas autónomos letales. Son sistemas en los que hay muy poca o ninguna supervisión humana. Y esto puede ser, ya sea en forma de vehículos no tripulados, aéreos o terrestres o vehículos ecológicos. O pistolas centinelas.

Aparte de la perspectiva del campo de batalla, también está lo que respecta al funcionamiento logístico y administrativo del ejército, ya sea en la planificación, en la gestión de datos, y en cualquier sistema que utilice la inteligencia artificial para facilitar y acelerar la tarea militar.

Esto también puede incluir cosas como, por ejemplo, los traductores en algunas aplicaciones de inteligencia artificial que se usan en las fronteras nacionales. Muchos soldados están ahora equipados con estas herramientas instantáneas que traducen entre dos idiomas en la frontera en tiempo real.

Ahora tenemos toda esta nueva serie de tecnologías bajo la inteligencia artificial generativa. Y, como resultado, el potencial para su aplicación ha aumentado. Dado que esta tecnología es mucho más poderosa, hay mucho más potencial de casos de uso de aplicaciones de lo que nosotros podemos observar.

Estamos analizando cómo utilizamos la tecnología tanto en el campo de batalla como fuera de él. Los mismos sistemas que tienes en Netflix que recomiendan ver qué ver a continuación, pueden emplearse en situaciones de campo de batalla para recomendar un curso de acción determinado a los comandantes y operadores.

Desafíos globales

Noticias ONU: ¿Cuál es el papel de las Naciones Unidas y del Instituto de Investigación sobre el Desarme para abordar los desafíos emergentes?

Shimona Mohan: Dado que estos desafíos no están limitados a una nación, una comunidad o una industria determinada, son de naturaleza global. Y no hay manera de que una sola entidad, un solo país, pueda encontrar una solución que pueda aplicarse a todos en todo el mundo.

Las organizaciones internacionales como la ONU desempeñan un papel muy importante para garantizar que haya una plataforma en la que diferentes Estados, organizaciones y personas puedan exponer su perspectiva sobre cómo deben gobernarse y, luego, contribuir a una conversación global en la que decidamos colectivamente cómo asegurarnos de que estos sistemas no afecten negativamente a nadie ni a ningún sector en particular de la sociedad.

También se requiere un banco sólido de conocimientos para que se sepa exactamente de qué se está hablando. E incluso si no se sabe, se tiene suficientes conjeturas para saber que está dentro del alcance de la conversación que estamos manteniendo. Y ese tipo de creación de conocimiento se produce a lo largo del tiempo a través de esfuerzos dedicados.

Ahí es donde entran en juego organizaciones como el mío, el Instituto de las Naciones Unidas de Investigación sobre el Desarme, porque llevamos a cabo investigaciones muy específicas sobre estas áreas temáticas en particular, ya sea la tecnología y seguridad, el desarme desde la perspectiva de las armas de destrucción masiva, las armas biológicas y químicas, el género, así como su uso en el espacio.

Analizamos todas estas áreas en detalle y elaboramos investigaciones que revelan brechas en la regulación. Después, los políticos que tengan preguntas acuden a estas discusiones para formular nuevas directivas.

En mi campo, la pregunta sería ¿dónde encaja el género en el tejido de la tecnología y seguridad? Una vez que tenemos ese conjunto de investigaciones, publicamos informes que una imagen más clara de lo que estamos viendo, lo que nos falta y lo que deberíamos ver. Y la conversación en los foros políticos se enriquece.

Por lo tanto, creo que lugares como la ONU son absolutamente fundamentales en este tipo de debates y para garantizar la construcción de un mundo seguro, no solo para las personas a las que más afecta hoy en día, sino también para todas las que podrían verse afectadas en el futuro.

 

 

Timothy Winegard, profesor de Historia en la Universidad Colorado Mesa:“Si no causaran tanto sufrimiento, quizás admiraríamos a los mosquitos”

América Latina vive la peor epidemia de dengue de las últimas décadas. Según este historiador canadiense, se trata de un episodio más de la ancestral guerra contra nuestros enemigos más mortíferos: los mosquitos, pequeñas criaturas que han dirigido el curso de la historia humana con las enfermedades que transmiten.

Los mosquitos son el depredador más letal de la humanidad, según el historiador Timothy Winegard

Los mosquitos son el depredador más letal de la humanidad, según el historiador Timothy Winegard. / UC San Diego/T. Winegard

Su inconfundible figura destaca entre los jeroglíficos del muro de piedra del Templo de Ramsés III en Luxor, Egipto. También resalta en coloridas cerámicas mayas, rollos japoneses, grabados holandeses, folletos políticos chinos, publicidades y películas informativas estadounidenses y esculturas veneradas como dioses en la India. El mosquito ha acompañado la historia humana, reconfigurándola una y otra vez, mucho más que cualquier otro animal en el planeta.

Según las estadísticas, “ha provocado la muerte de cerca de la mitad de todos los seres humanos que han vivido”, cuenta el canadiense Timothy C. Winegard, profesor de Historia en la Universidad Colorado Mesa (EE UU), en su libro El mosquito: La historia de la lucha de la humanidad contra su depredador más letal.

A través de las enfermedades que transmite, este pequeño insecto volador ha decidido el resultado de innumerables guerras, ha propiciado el ascenso y caída de antiguos imperios, ha paralizado y arrasado economías. Y pese a todos los avances científicos, aun siembra preocupación, provoca sufrimiento.

Los mosquitos han provocado la muerte de cerca de la mitad de todos los seres humanos que han vivido

Es precisamente lo que sucede en la actualidad en América Latina, región que está experimentando la peor epidemia de dengue en las últimas décadas. Según la Organización Panamericana de la Salud, en las 12 primeras semanas de 2024, se reportaron 3.578.414 casos -un aumento del 254% en comparación con el mismo período en 2023- y 1039 muertes. 

Algunos gobiernos combaten con decisión esta enfermedad tropical transmitida por el mosquito Aedes aegyptiMéxico, por ejemplo, apuesta por el desarrollo de fármacos antivirales, y Brasil se convirtió en el primer país del mundo en vacunar a la población para prevenir esta infección que provoca fiebre, dolores musculares y en ciertos casos hemorragias y muerte.

“El mosquito es nuestro máximo depredador”, subraya el historiador canadiense, “y a medida que aumentan las temperaturas, expande su alcance y se esparce por el planeta, transportando enfermedades que alguna vez estuvieron confinadas a los trópicos”.

Los mosquitos son irritantes y en algunos casos letales. Están en el planeta desde mucho antes que apareciéramos los seres humanos, ¿verdad?

Así es. La evidencia sugiere que los mosquitos, tal como los conocemos, surgieron hace 190 millones de años. Tuvieron como presas a los dinosaurios. En la actualidad, hay 3700 especies en el planeta. Y muy pocas, alrededor de cien, transmiten patógenos. Los mosquitos que pican son siempre las hembras. Están biológicamente programadas para ello: necesitan nuestra sangre para reproducirse, para hacer que sus larvas crezcan y maduren. Solo intentan ser buenas madres.

Los mosquitos surgieron hace 190 millones de años. / Dany Azar

En su libro, afirma que estos pequeños zumbadores que no pesan más que 2,5 miligramos han sido el azote de la humanidad a lo largo de nuestra existencia. Y, sin embargo, pocos historiadores han advertido su protagonismo en la historia humana. ¿Por qué?

Mucho tiene que ver con nuestra arrogancia como especie. Nos gusta pensar que el rumbo de la historia es decidido por grandes hombres y mujeres. Alabamos a grandes conquistadores y héroes nacionales, cuando en realidad gran parte del tiempo hay factores externos que inciden en los acontecimientos históricos y que los seres humanos no podemos controlar. Por ejemplo, el cambio climático tiene un rol importante si uno ve la historia en retrospectiva.

En la actualidad, hay unas 3700 especies de mosquito en el planeta, y muy pocas, unas cien, transmiten patógenos

Me sorprendió descubrir el poder que ha tenido este pequeño insecto a lo largo del tiempo, en especial, al transmitir los patógenos que provocan malaria y fiebre amarilla. Pero también el virus del dengue, del Zika o el virus del Nilo. 

Nuestro conocimiento sobre el papel del mosquito en la transmisión de estas enfermedades es relativamente reciente. ¿Por qué se tardó tanto en sospechar de este insecto?

Quizás por la persistencia de la superstición. Tuvieron que surgir los microscopios y demás instrumentos para ver los patógenos en la sangre. La teoría de los gérmenes despegó en el siglo XIX con Louis Pasteur, Robert Koch y Joseph Lister. Pero no fue hasta la década de 1890 cuando desenmascaramos al mosquito. En 1897, Ronald Ross, un médico inglés del Servicio Médico Indio, demostró que el mosquito Anopheles era el vector del parásito de la malaria. Lo hizo al mismo tiempo que el médico y zoólogo italiano Giovanni Grassi demostraba la transmisión en voluntarios humanos sanos. Más tarde, en 1901, el estadounidense Walter Reed confirmó que la fiebre amarilla era transmitida por el mosquito Aedes aegypti.

Campañas de prevención contra la malaria de 1944. / National Library of Medicine

El médico cubano Carlos Finlay ya lo había propuesto en 1881 pero fue ignorado y ridiculizado por sus pares. ¿Cómo se pensaba que se transmitían estas enfermedades hasta entonces?

La teoría miasmática sostenía que las fiebres viajaban a través de ambientes fétidos. Esto se advierte en la misma palabra “malaria”: “mal aire”, en italiano. Los patógenos transmitidos por los mosquitos han seguido a nuestra especie a lo largo de nuestra evolución. Es asombroso. Recién hace 130 años sabemos qué causa estas horribles enfermedades. Estamos aun intentando combatir estos patógenos.

¿Qué episodios de la historia le sorprendió encontrar que fueron influenciados por los mosquitos?

Hay varios. Cuando vemos campañas militares, ya sea las de Alejandro Magno, las invasiones al Imperio Romano, la Guerra civil en Estados Unidos, de una manera u otra está presente la huella del mosquito. En especial, me llamó la atención que estos insectos tuvieron mucho que ver con la rendición de la soberanía escocesa a Inglaterra.

En campañas militares como las de Alejandro Magno, las invasiones al Imperio Romano y la Guerra civil en EE UU de una manera u otra está presente la huella del mosquito

¿Qué ocurrió exactamente con Escocia?

A finales del siglo XVII, Escocia estaba saliendo de una hambruna. Para fortalecer su economía, los escoceses idearon un plan para crear una colonia en Panamá, “Nueva Caledonia”, un centro de comercio capaz de conectar el Pacífico y el Atlántico. Enviaron miles de colonos e invirtieron gran parte de su riqueza en lo que se conoció como «Plan Darién».

Sin embargo, todos sus sueños fueron destrozados por la fiebre amarilla y la malaria, enfermedades para las que no tenían defensas. Como resultado, la colonia fracasó y se hundió toda esta inversión escocesa, dejando al país con una enorme deuda y en quiebra. Así que Inglaterra se ofreció a pagar las deudas escocesas si Escocia entregaba su soberanía a Inglaterra y era anexada. Así, gracias a los mosquitos, nació Gran Bretaña.

Usted recuerda que en el siglo V a. C. las tropas invasoras persas se desmoronaron por la malaria al querer conquistar Grecia, permitiendo el florecimiento de la filosofía, la ciencia y el arte. ¿En qué otros conflictos bélicos intervino silenciosamente este insecto?

Durante cientos de años, los pantanos que rodeaban Roma, hogar de legiones de mosquitos transmisores de malaria, detuvieron los avances de cartagineses, visigodos, hunos y vándalos. Sin embargo, desde el siglo II, brotes de esta enfermedad terminaron debilitando el propio Imperio romano, abriendo las puertas a distintas invasiones.

Siglos más tarde, en 1944, los nazis volvieron a inundar deliberadamente los Pantanos Pontinos que flanquean la región de Anzio para reintroducir los mosquitos de la malaria como arma biológica contra las fuerzas aliadas que avanzaban sobre Roma. No les salió muy bien. Los soldados alemanes también cayeron enfermos.

Campañas de prevención contra la malaria realizada para el Ejército de EE UU por el artista Dr. Seuss en 1943 (arriba) y otras en China e India (abajo). / National Library of Medicine

En su libro dice que estamos en guerra con el mosquito. ¿En qué estado se encuentra este enfrentamiento?

Desafortunadamente, no estamos ganando. Causan más de 700000 muertes en todo el mundo cada año. Los mosquitos y los patógenos que transmiten evolucionan muy rápido, se adaptan a nuestras armas, como los insecticidas, fármacos contra la malaria, antivirales contra el dengue, chikungunya o fiebre amarilla. El compuesto químico DDT se utilizó por primera vez contra los mosquitos en la década de 1940. Fue muy eficaz. Sin embargo, después de unos pocos años, los mosquitos desarrollaron resistencia. Con cada nuevo avance nos estamos esforzando para no quedar rezagados.

Los mosquitos y los patógenos que transmiten evolucionan muy rápido, se adaptan a nuestras armas, como los insecticidas y fármacos

A lo largo de los siglos, las sociedades han luchado contra los mosquitos y las enfermedades que transmiten de diversas maneras. ¿Qué métodos le parecen más interesantes?

Hemos intentado de todo contra estos molestos insectos. El humo es una de las armas más antiguas que conocemos. El historiador griego Heródoto reveló que la práctica egipcia predominante para tratar la fiebre de la malaria era bañarse en orina humana fresca. En el Imperio romano rezaban a la diosa de la fiebre Febris y las personas llevaban consigo un trozo de papiro o un amuleto inscrito con el poderoso encantamiento “abracadabra”, una palabra supuestamente de origen arameo que significa “Crearé lo que hablo”, esencialmente convocando una cura.

Muchos no lo saben, pero el gin tonic nació de esta histórica batalla contra los mosquitos. A principios del siglo XIX, los europeos descubrieron que un compuesto llamado quinina podía combatir la malaria. Cuando se apoderaron de la India, los británicos llevaron consigo raciones de quinina en polvo. Para reducirle su sabor amargo, la mezclaron con agua tónica y ginebra. Así nació esta popular bebida.

En las últimas décadas, ha habido varios desarrollos científicos que buscan atacar al mosquito transmisor o a los patógenos. ¿Cuáles le parecen más prometedores?

Los recientes avances en vacunas son auspiciosos. En enero, comenzó en Camerún el lanzamiento de la primera vacuna contra la malaria. También la vacuna contra el dengue promete. Sin embargo, la técnica CRISPR de edición genética no ha resultado tan exitosa como se pensaba. La investigación continúa. En Brasil, están experimentando con la liberación de mosquitos Aedes aegypti infectados con la bacteria Wolbachia que, al reproducirse, sus crías nacen siendo incapaces de transmitir enfermedades.

Los mosquitos y los patógenos que transmiten evolucionan muy rápido, adaptándose a nuestras armas, como los insecticidas. / Howard Hughes Medical Institute

Algunas propuestas tratan de erradicar a los mosquitos para siempre a través de la edición genética. ¿Le preocupa este tipo de afirmaciones grandilocuentes?

Bastante. ¿Y si hacemos desaparecer al mosquito Aedes aegypti y los patógenos mutan para sobrevivir en otra especie y al hacerlo se vuelve más letal? Es el peligro de intervenir en procesos evolutivos naturales. Al editar el ADN del mosquito, podríamos provocar alteraciones catastróficas impredecibles. A lo largo de la historia, los humanos han sido los peores enemigos de los humanos.

Al editar el ADN del mosquito, podríamos provocar alteraciones catastróficas impredecibles.

En el siglo XV, en lo que se conoce como el “Intercambio colombino”, se desparramaron por el planeta toda clase de plantas, patógenos y personas. Como un polizón en los barcos que transportaban esclavos, el mosquito Aedes aegypti se infiltró en el continente americano y se propagó como la pólvora. Manipular el proceso natural de un ecosistema o de un animal específico puede tener ramificaciones futuras muy peligrosas. Es como jugar a la ruleta rusa. Soy un gran fanático de Star Wars y, como en estas películas, si alteras el equilibrio de la fuerza tendrás consecuencias negativas.  

¿Cómo incide el cambio climático en la circulación de estos insectos?

Debido al aumento de las temperaturas globales y de las precipitaciones, los mosquitos portadores de enfermedades han ampliado su alcance geográfico. Se están viendo casos de dengue, chikungunya y malaria en países y zonas donde hasta ahora no había. Estas enfermedades se están expandiendo a países ricos, que hasta ahora no las sufrían y por ende no se preocupaban por ellas. Por esta razón, creo que veremos en los próximos años un fuerte cambio en la investigación y en la financiación para combatir estos patógenos y sus vectores, como los mosquitos Anopheles y Aedes aegypti.

¿Cómo ve la situación de dengue en América Latina?

Es muy preocupante. Ahora los mosquitos sobreviven en lugares donde no lo hacían antes. La temporada de mosquitos es mucho más extensa. El dengue es la enfermedad viral transmitida por mosquitos más prevalente, ampliamente distribuida y de más rápida propagación a nivel mundial. Aproximadamente, la mitad de la población mundial, es decir, unas 4500 millones de personas, está en riesgo de contraerla. No estamos preparados para combatir esto.

El dengue es la enfermedad viral transmitida por mosquitos más prevalente, ampliamente distribuida y de más rápida propagación a nivel mundial

Usted concibe a los mosquitos como nuestros enemigos, ¿pero tienen algo de bueno?

Los necesitamos. Tienen una función en la cadena alimenticia. Son grandes polinizadores y parte integral de muchos ecosistemas. Si no causaran tanta muerte, destrucción y sufrimiento, quizás admiraríamos a los mosquitos. Nos asombraría cuán rápido se adaptan o cómo se alimentan. Los mosquitos no saben las consecuencias que provocan ni que están siendo usados por estos patógenos. Yo los respeto mucho. Les arrojamos de todo y siguen reproduciéndose. Son una maravilla evolutiva.

Fuente: SINC
Derechos: Creative Commons

ennifer Ackerman, escritora y divulgadora científica: “Es posible que los búhos sean muy inteligentes, pero de una forma que no podemos apreciar ni medir”

En algunos países los búhos se consideran portadores de mal presagio y muerte, en otros, animales sabios y misteriosos. Estrellas de películas de animación, compañero mágico de Harry Potter o un replicante más en Blade Runner, estas aves son las protagonistas del último libro de la escritora Jennifer Ackerman, donde se entrelaza arte y ciencia.

Jennifer Ackerman y un búho chico

La escritora Jennifer Ackerman. / Solai LeFay

Jennifer Ackerman, autora del best seller ‘El ingenio de los pájaros’, lleva más de 30 años dedicada a escribir sobre ciencia y naturaleza. En su último libro, La sabiduría de los búhos. Una historia natural de las aves más enigmáticas del mundo (ed. Ariel) desgrana los aspectos más desconocidos de estos animales. Desde por qué parece que sus ojos miran de la misma forma que los nuestros, a por qué nos fascinan tanto estas rapaces misteriosas, símbolos de sabiduría e incluso vaticinio de la muerte.

Para The New York Times esta obra es uno de los libros destacados de 2023, “una guía cálida y agradable, tan entusiasta con su tema que sospecho que incluso los indiferentes a las aves quedarán encantados con sus encuentros con los búhos”.

Ackerman abarca temas tan diversos como su evolución, historia natural, sus relaciones románticas y estilos de crianza, así como aspectos relacionados con su instinto, emociones y anatomía.

En el imaginario colectivo existe una idea muy uniforme de los búhos: nocturnos, de gran plumaje y con esa especie de antena parabólica en la cara. ¿Por qué cree que se desconocen detalles como que también pueden cazar de día o su gran diversidad?

Creo que es porque los búhos son tan escurridizos, tan difíciles de ver, que tenemos esa idea equivocada. La mayoría de la gente nunca ha visto un búho en libertad, y si tienen la suerte de ver uno, a menudo es solo un atisbo fugaz. Me sorprendió el número de especies y la variedad de su tamaño, aspecto y comportamiento.

La mayoría de la gente nunca ha visto un búho en libertad, y si tienen la suerte de ver uno, a menudo es solo un atisbo fugaz

¿Son tan inteligentes como creemos?

Esta es una de las preguntas que quería responder en el libro. A menudo pensamos en los búhos como símbolos de sabiduría, pero ¿son en realidad inteligentes?

Solíamos pensar que los búhos actuaban solo por instinto, que su comportamiento era simplemente genético, y que sus cerebros eran tan pequeños y primitivos que solo eran capaces de los procesos mentales más simples. Ahora sabemos que los cerebros de los búhos son grandes para el tamaño de su cuerpo, como el nuestro. Como los de otras aves, están repletos de neuronas, lo que los hace muy eficientes y tener capacidades mentales bastante sofisticadas. Las aves nos han enseñado algo: hay más de una forma de conectar un cerebro inteligente.

Portada del libro 'La sabiduría de los búhos'. / Ed. Ariel

Portada del libro ‘La sabiduría de los búhos’. / Ed. Ariel

¿A qué se refiere?

La ciencia de la comprensión de las mentes de otros animales distinta a los seres humanos está aún en pañales, y todavía tendemos a ver la inteligencia a través de nuestra propia lente. Pero cada vez somos más conscientes de que en el mundo animal existen distintos tipos de inteligencia, diferentes formas que son difíciles de concebir. Es posible que los búhos sean muy inteligentes, pero de una forma que no podemos apreciar plenamente y nos cuesta medir. Lo que sí conocemos es que aprenden a lo largo de su vida y tienen un comportamiento muy flexible —responden a nuevos retos de maneras también nuevas—, lo que es una medida bastante buena de su inteligencia.

Esta dualidad de la que habla, de imagen tierna y demoníaca a la vez, ¿les ha traído muchos problemas en su relación con los humanos?

Algunas culturas, como los ainus del norte de Japón, veneran a los búhos y los consideran protectores. Pero otras los ven como emblema del mal, augurio maligno relacionado con la muerte. No es difícil entender que una lechuza común, de un blanco fantasmal, con sus extraños gritos nocturnos fúnebres y su costumbre de rondar los edificios vacíos, puede dar lugar a la noción de la encarnación aviar de un demonio o un ser espiritual.

En Belice, los búhos se consideran portadores de mala suerte. «Si un búho viene a tu casa y llama, significa que alguien enfermará o morirá». Esta visión, o variaciones muy ligeras de la misma, es una perspectiva prevalente en muchos países como Zambia, Kenia y Nepal, y en estos lugares, estos animales todavía son perseguidos e incluso asesinados.

Una amenaza más para su preservación, la superstición humana

Los productos en los que se usa la imagen de los búhos son un buen indicador de las actitudes hacia ellos en una sociedad. En Brasil, Turquía y otros países se pueden encontrar mochilas, ropa, joyas, relojes, figuras e incluso cerveza con temática de búhos. Pero en los mercados de Belice, donde los búhos aún se consideran signo de mala suerte, los productos de este tipo son casi desconocidos.

No es difícil entender que una lechuza común, de blanco fantasmal, con sus extraños gritos nocturnos, pueda dar lugar a la noción de una encarnación aviar de un demonio o ser espiritual

En el libro se habla de cómo la ciencia ciudadana ha impulsado la investigación sobre los búhos, ¿de qué manera?

Los científicos ciudadanos —voluntarios que ofrecen su tiempo gratuitamente para colaborar— están haciendo contribuciones vitales a la investigación de los búhos contándolos, anillándolos y estudiando sus comportamientos. En Canadá, por ejemplo, realizan censos de búhos nocturnos, proporcionando datos importantes sobre su distribución y abundancia en diferentes hábitats, lo que es fundamental para los esfuerzos de conservación.

¿Y en Europa?

Tanto en EE UU como en toda Europa, los voluntarios participan en proyectos de anillamiento de búhos para estudiar las fluctuaciones de su población y sus pautas migratorias. Se trata de personas increíblemente entregadas, y los científicos especializados en búhos afirman que no podrían realizar sus investigaciones sin ellas.

Jennifer Ackerman. / Marco Mastrorilli

Jennifer Ackerman. / Marco Mastrorilli

Señala varias veces que tienen sentimientos y emociones. ¿Qué peculiaridades destacaría respecto a, por ejemplo, los mamíferos?

Pienso en las emociones como estados mentales o corporales que potencian comportamientos que ayudan a un animal a enfrentarse a los retos del entorno. Los búhos son mucho más sutiles en su expresión de las emociones que muchos otros animales, incluidos los mamíferos. Pero las personas entrenadas para leer el lenguaje corporal de los búhos pueden ver fácilmente la presencia de esas emociones.

¿De qué manera las expresan?

Los búhos sienten miedo, estrés, irritación, relajación, consuelo. Esto era algo de lo que no nos habíamos dado cuenta hasta hace poco, cuando los adiestradores y otros especialistas aprendieron a leer las sutiles señales del estado de ánimo de un búho. Tomemos, por ejemplo, el búho chico. Cuando está muy estresado o tiene miedo, abre mucho los ojos. Sus pupilas se dilatan. Retira las plumas y las mantiene pegadas al cuerpo. Se queda quieto sobre sus garras en una especie de ‘cobardía’ vertical. Un búho chico relajado tiene las plumas esponjadas, los ojos solo parcialmente abiertos, las pupilas pequeñas y las patas recogidas. Tiene un aspecto muy tranquilo.

Los búhos son mucho más sutiles en su expresión de las emociones que muchos otros tipos de animales

Uno de los problemas a los que se enfrentan es el cambio climático. De las 260 especies de búhos que se conocen, ¿se sabe cuántas están en peligro?

Su mayor amenaza es la pérdida de hábitat debido al desarrollo y al cambio climático. Cerca de un tercio de las especies de búhos del mundo se consideran en peligro (alrededor del 17 % están amenazadas y otro 11% casi amenazadas). E incluso muchas de las que no entran en esta categoría están disminuyendo en número. Sin embargo, hay algunos signos esperanzadores.

Ackerman / Sofia Runarsdotter

Ackerman / Sofia Runarsdotter

¿Cómo se están adaptando?

Algunas especies parecen estar adaptándose al cambio global. En EE UU, los búhos barrados y los autillos chillones se están adecuando bien a los cambios de hábitat y su número está aumentando. Lo mismo ocurre con los cárabos en Europa. Son especies que tienen dietas variadas y pueden cambiar sus hábitos alimentarios para aprovechar la disponibilidad de distintos tipos de presas.

A medida que cambia el clima, algunas poblaciones de cárabos —la variedad parda— están creciendo. Su color pardo es una ventaja en los inviernos cálidos, por lo que su supervivencia ha mejorado.

La mayor amenaza para los búhos es la pérdida de hábitat debido al desarrollo y al cambio climático

¿Cuáles son las especies más amenazadas?

Son las que necesitan un hábitat limitado, por ejemplo, huecos para anidar en árboles viejos, o presas específicas como sucede con los lemmings para el búho nival.

¿Por qué se les compara con los lobos (pero del cielo)?

A los búhos se les conoce como lobos del cielo porque son depredadores feroces y cazan presas que van desde pequeños roedores y pájaros hasta ardillas, conejos, zarigüeyas e incluso otros búhos. Algunos de gran tamaño, como los búhos reales y los cornudos, son como los lobos, depredadores en la cima de la cadena alimentaria.

¿Qué los hace tan difíciles de estudiar? Siguen apareciendo nuevas especies y sabemos muy poco de ellas.

Los búhos existen en todo el planeta, en todos los continentes excepto en la Antártida. Pero efectivamente, no son fáciles de estudiar. Son escurridizos y reservados. A menudo viven en zonas remotas y están activos en una época en la que el acceso a los lugares de campo es complicado. Se han necesitado décadas de ardua investigación para descifrar estas aves en detalle. Hay unas 260 especies.

Y, como usted dice, para asombro de los investigadores, siguen apareciendo nuevas, como el mochuelo peludo, que llamó la atención a los científicos cuando se descubrió en los años 70 en lo alto de las montañas andinas del norte de Perú. Se trata de un búho diminuto y extraño, tan diferente de los demás –con sus plumas faciales largas y onduladas– que lo clasificaron con un género propio, Xenoglaux, que significa «búho extraño» en griego. Pero sabemos muy poco de él porque es muy escurridizo.

Derechos: Creative Commons

Jordi Torres, experto en supercomputación: “Tenemos que pensar en cómo controlar la IA porque es muy potente y lo va a cambiar todo”

En el libro La inteligencia artificial explicada a los humanos, este investigador y divulgador plantea un ameno e inquietante relato sobre el incierto balance riesgo-beneficio de una tecnología que espera acabe complementándonos, más que sustituyéndonos y que tendrá un mayor impacto en la humanidad que el de la Revolución Industrial.

Jordi Torres, inteligencia artificial

Jordi Torres posa con ejemplares de su libro ‘La inteligencia artificial explicada a los humanos’. / Foto cedida por el entrevistado

La versión gratuita de ChatGPT, el chatbot de IA de la empresa estadounidense OpenAI, no tiene información específica “sobre un experto en supercomputación e inteligencia artificial, llamado Jordi Torres,” hasta su última actualización, en enero de 2022. “Puede que sea una persona que ha ganado reconocimiento o notoriedad después de esa fecha o que no haya alcanzado una prominencia mundial que esté registrada en mis datos”, zanja el simulador conversacional más famoso del mundo.

Todo ello, pese a que Torres (Barcelona, 1964) es catedrático de arquitectura de computación de la Universidad Politécnica de Cataluña (UPC) e investigador y asesor del Barcelona Supercomputing Center – Centro Nacional de Supercomputación (BSC–CNS), cuyo emblema es el superordenador MareNostrum 5, uno de los más potentes del mundo, de los tres únicos en la UE, y “joya de la corona” de la infraestructura científica en nuestro país, explica este experto a SINC.

El investigador es, además, autor del libro La Inteligencia Artificial explicada a los Humanos (Plataforma Editorial, 2023).

Desde que en 1956 acuñase el término el informático John McCarthy en la conferencia fundacional de Dartmouth (Hanover, EE UU), el desarrollo de la IA ha sufrido épocas de sequía, pero sus hitos más recientes pronostican avances inimaginables en medicina personalizada o posibles respuestas ante desafíos colosales, como la emergencia climática. Al tiempo, avivan el riesgo último de alcanzar la llamada “singularidad tecnológica”, la posibilidad de que la máquina nos supere y acabe decidiendo sobre sí misma y nuestro futuro.

¿Por qué ChatGPT no te conoce?

Porque no soy Elon Musk. ChatGPT es el resultado de un código que procesó y acumuló el conocimiento de internet en su red neuronal hasta esa fecha que te ha mencionado. Son números, parámetros. 175.000 millones en GPT-3 y en GPT-4 [el modelo disponible más avanzado] no sabemos, pero más. Lo que hace es encontrar una respuesta a tu pregunta palabra a palabra según lo que sea estadísticamente más probable. Así escribe cada frase, cada párrafo.

Igual estás entrevistando a quien no deberías, no soy suficientemente famoso para ChatGPT

Por ejemplo, si sale Barack, sabe que luego viene Obama porque lo ha leído millones de veces. Pero seguramente Jordi Torres lo ha leído poquísimas veces, no le da la posibilidad de hacer algo razonablemente confiable. Si tras Jordi Torres la siguiente palabra aparece con una probabilidad muy baja, la descarta para no entrar en ‘alucinaciones’

Aunque a veces se despista, él siempre responde. A ti, te ha dado una respuesta de escape tuneada porque en el entrenamiento de ChatGPT ha habido intervención humana, lo que se llama human-in-the-loop [supervisores humanos]. Así que igual estás entrevistando a quien no deberías, no soy suficientemente famoso para ChatGPT [ríe].

¿Falla entonces en el hilado fino?

ChatGPT contiene una versión comprimida de todo el conocimiento de internet que se usó para entrenarlo, pero al comprimirlo, se pierde información, como al comprimir un fichero informático. Al descomprimirlo, debe aplicar un proceso matemático para encontrar los píxeles que faltan. De media, los genera bien, pero a veces se distorsiona una imagen después de comprimirse. Él domina la verborrea, redacta bien, pero le falta información precisa.

Lo que se está haciendo es añadir al motor de verborrea que es ChatGPT una base de datos específica con conocimiento del ámbito al cual quieres aplicarlo. Por ejemplo, al de la salud, para sobreentrenarlo y que sea más preciso. El problema es que se ha entrenado quién sabe con qué. De hecho, OpenAI de open no tiene nada. Es de los primeros avances en redes neuronales que se hace sin compartir con la comunidad científica los datos, los algoritmos y las máquinas que se han usado para el entrenamiento. Es todo muy opaco.

Los conceptos de IA y redes neuronales vienen de mediados del siglo pasado. Las buenas ideas matemáticas ya estaban en los 80, pero no había máquinas para computar la información en un tiempo razonable

¿Qué diferencia las neuronas biológicas de las artificiales?

No se parecen en nada, pero cómo se expresan las cosas puede ayudar a definir ideas. Los conceptos de IA y redes neuronales vienen de mediados del siglo pasado. Las buenas ideas matemáticas ya estaban en los 80, pero no había máquinas para computar la información en un tiempo razonable. En 2012, en una competición de clasificación de imágenes, explotó esta idea de que las redes neuronales podían ser útiles.

Una red neuronal no es más que millones de neuronas artificiales. Y una neurona artificial es una suma ponderada de los parámetros de entrada, de las conexiones con otras neuronas, más una aplicación que procesa el resultado. Al igual que con las neuronas humanas —que, según lo que les llega y su procesamiento, emiten a través del axón una señal de activado o no activado—, las artificiales, tras esa suma ponderada, emiten una salida de valor 0 ó 1. Es así de simple, una operación matemática muy pequeña, una multiplicación de matrices. Pero con millones de estas cosas tan simples se hacen cosas muy complejas, como entrenar estas neuronas para obtener información de los datos de entrada de forma automática, sin precisar de un programador que indique qué hacer si pasa esto o lo otro.

¿Ha ocurrido algo sorprendente en el desarrollo de la IA desde que publicaste tu libro en septiembre pasado?

Desde el punto de vista de la investigación, no. Lo cerramos a finales de mayo, cuando ya había pasado lo más importante, es especial en relación con el lanzamiento de ChatGPT, aunque voy actualizando anécdotas en mi web. Sí me sorprende la rapidez con la que se está adoptando la tecnología en muchos campos. Aún queda mucho recorrido, pero va a cambiar las profesiones, la calidad de vida de las personas, lo va a cambiar todo.

Se está avanzando mucho en facilitar esa adopción. Microsoft está aplicando IA en sus productos. Word ya corrige nuestros errores ortográficos, pero pronto podrá resumir un texto, etc. También se están perfeccionando los modelos de lenguaje. En España existe el proyecto MarIA [para resumir y generar textos en castellano a partir de los archivos web de la Biblioteca Nacional de España] y en Cataluña tenemos Aina [equivalente para el catalán]. Se trata de facilitar una infraestructura que puedan utilizar las empresas, por ejemplo, en el ámbito de la salud. En el Hospital Clínic de Barcelona o en el Vall d’Hebron, donde algunos médicos escriben en catalán, otros en castellano y otros en inglés, estos modelos pueden ayudar a hacer una interpretación automática de los informes.

¿Los gigantes tecnológicos van marcando la pauta?

En modelos de lenguaje hay una competición entre las grandes tecnológicas. Microsoft ha invertido mucho dinero en OpenAI, Google ha sacado Gemini, Meta (Facebook) tiene Llama… Y todo viene de un artículo de investigación de Google que se llama Transformer publicado en 2017, cuando hubo un cambio de paradigma. Desde entonces, no ha habido nada de esa dimensión. Sí se han puesto las pilas los gobiernos: se le está dando un acelerón a la legislación europea, Biden está poniendo sus salvaguardas en EEUU…

OpenAI no abrió ChatGPT a todo el mundo por altruismo, es un experimento masivo para afinar sus modelos de lenguaje. Una vez más, pagamos dándoles nuestros datos, nuestra forma de interactuar

Es decir, no hay grandes hitos científicos, pero se ha avanzado en comercialización y regulación, ¿correcto?

Se está afinando la tecnología para hacerla más útil. Y, no nos engañemos, OpenAI no abrió ChatGPT a todo el mundo por altruismo, al igual que Google te da ‘gratis’ Gmail. Es un experimento masivo para afinar sus modelos de lenguaje. Una vez más, pagamos lo que supuestamente nos está ayudando, dándoles nuestros datos, nuestra forma de interactuar. Ellos están adquiriendo toda esta información, están afinando el producto. También creo que muchas de estas cosas van a ser cada vez más transversales y transparentes.

Concluyes que la IA supondrá una mayor transformación de la historia de la humanidad que la que supuso la Revolución Industrial.

Ahí hay un trabajo del editor para acentuar aquello que yo pienso y digo. Yo, como científico, no tengo costumbre de hacer titulares. Pero lo puedo defender en el sentido de que ahora tenemos una herramienta más potente que cualquiera de las anteriores.

Por ejemplo, va a automatizar muchas tareas diferentes a las manuales y algunas de ellas son las creativas, las que hasta ahora creíamos que solo podían hacer los artistas. De igual forma, va a afectar a muchos de quienes estudiamos en la universidad pensando que nunca nos quitarían el trabajo. A mis estudiantes de informática les va a afectar de lleno porque las máquinas ya saben programar. Yo ya pido a ChatGPT que me ayude con ciertas rutinas de programación. La automatización va a ocurrir cada vez más en trabajos de carácter intelectual, no como hasta ahora, que solo afectaba a quienes trabajaban en cadenas de producción. Es una transformación brutal.

La automatización va a ocurrir cada vez más en trabajos de carácter intelectual, no como hasta ahora, que solo afectaba a quienes trabajaban en cadenas de producción. Es una transformación brutal

¿Compite con nuestra inteligencia?

La complementa. En el libro, hablo de cohabitación. La IA complementando a nuestra inteligencia nos puede llevar a hacer cosas hasta ahora impensables. También a abordar retos complejos como los que plantea el cambio climático. O nos ayudamos de herramientas como la IA para predecir, tomar decisiones, ser más eficientes y sostenibles o no sé cómo vamos a salir de esta. Al final, para bien o para mal, los humanos hemos adoptado toda tecnología que ha caído en nuestras manos, no hay vuelta atrás. Además, lo que puede hacer la IA, no lo podemos hacer nosotros. Mientras esté en nuestro control, no veo problemas.

Jordi Torres durante una conferencia sobre inteligencia artificial. / Foto cedida por el entrevistado

Según el FMI, la IA afectará al 60% de los trabajos en las economías avanzadas y existe el riesgo de que reemplace empleos y profundice la desigualdad.

Es cierto, lo va a cambiar todo. Pero, mira, mi abuelo trabajaba 80 horas a la semana y mi hijo trabaja 40, ¿esto es bueno o es malo? Está viniendo muy rápido y nos coge sin capacidad de reacción. Y el que pierde el trabajo hoy, mañana no se puede incorporar a otro ámbito distinto. ¿Pero cuál es el problema de que haga parte del trabajo? El reto es cómo nos organizamos a nivel social. Por otro lado, el negocio de la IA está en manos de pocos y estos pocos se están haciendo cada vez más ricos. Si juntas esto con la facilidad que la IA provee a las personas para elaborar fake news, nos puede llevar a una gran crisis social. Nos tendríamos que poner las pilas.

El negocio de la IA está en manos de pocos que se están haciendo cada vez más ricos. Si a ello añadimos la facilidad con que esta tecnología permite elaborar ‘fake news’, puede conducirnos a una gran crisis social

¿Existe hoy una tecnología que hiciera innecesario un actor para rodar una serie o una película o un médico para atender pacientes?

Depende. Si hoy en día no se pueden realizar películas sin actores en las que todo parezca real, se hará pronto. Pero quizás sean un bodrio. Ahora, una buena película, tengo mis dudas. Lo que también pasará es que se generará un montón de contenido realista y un solo director o un solo guionista podrá supervisar 10 películas, en vez de una.

En el caso de los médicos, estoy seguro de que, sobre ciertos diagnósticos muy sistemáticos, ya hay una IA que puede tomar la decisión. En el BSC se está trabajando con simulaciones de ordenador, gemelos digitales e IA para ver cómo una proteína o un medicamento interacciona con las células cancerígenas. Al final, la IA junto con la humana permite a un médico tomar mejores decisiones y aplicar mejores tratamientos. Pero esta tecnología sola no va a ninguna parte. Lo que se persigue es no sustituir al humano, sino complementarlo. Puede ayudar a que el tiempo del médico se dedique a tareas de más valor añadido. Se trataría, por así decirlo, de subcontratar a una IA para hacer la parte del trabajo más mecánica.

La IA tiene un importante impacto ambiental por su gran consumo energético y emisión de CO2. ¿Qué implica en el contexto de la actual emergencia climática?

Los supercomputadores con los que se entrena la IA consumen mucha electricidad, pero este no es el problema. Por contextualizarlo, si los casi 10 millones de abonados de Netflix España ven una hora una película, consumen lo mismo que entrenar el GPT-3 una vez. Es decir, lo que cuesta mucho tiempo y energía es que aprenda, entrenarlo y eso, en la versión que has consultado tú, ocurrió por última vez en enero de 2022. El problema es el mundo digitalizado que tenemos. Piensa cuando entramos en el coche y conectamos el GPS para consultar Google Maps, con información de 220 países y pudiendo pedir lo que queramos de donde queramos. Todo esto gasta mucha energía, deberíamos consumir menos en general.

Relatas que la mayor dificultad para el progreso de la IA son las limitaciones de la computación y citas las posibilidades de los chips neuromórficos y la eventual computación cuántica. ¿En qué consisten?

Los chips neuromórficos integran el algoritmo en su hardware, lo que les hace más eficientes. Los supercomputadores cuánticos aún no existen. Lo que vamos a montar antes del verano en el BCS es una infraestructura que permita hacer experimentos cuánticos para avanzar en supercomputación, un entorno sin influencias electromagnéticas, con un frío determinado… Pero hasta que dispongamos de supercomputación cuántica aún queda un recorrido. Y tampoco es evidente que, para las redes neurales, la computación cuántica sea una solución.

Como explico en mi libro, el desarrollo de la IA se basa en tres pilares: datos, algoritmos y máquinas (capacidad de computación). Datos, ya hemos usado todos los que había en internet; algoritmos, ya son miles de millones; y máquinas, consumen mucho. Seguir progresando es un reto.

Europa tiene tres superordenadores, uno de ellos en Barcelona, del tamaño de los que tienen cualquiera de estas empresas tecnológicas californianas [Google, Microsoft, etc.]. Si no tenemos más, ¿cómo vamos a tener IA propia?

También crees que Europa tendría que aumentar su capacidad en supercomputación.

Europa tiene tres supercomputadores del tamaño de los que tienen cualquiera de estas empresas de California, uno en Finlandia, otro en Italia y el de Barcelona. Si no tenemos más, ¿cómo vamos a tener IA propia? Los modelos ChatGPT tienen su moral, su ética, sus sesgos, que son los suyos porque al final están entrenados con sus datos. Mateo Valero Cortés [director del BCS] lo explica muy bien: en Europa somos árbitros de un partido que no estamos jugando.

¿Y de qué se hacen estos supercomputadores? Los circuitos del que tenemos en Barcelona son Nvidia e Intel, que nuevamente son empresas californianas. Hay una iniciativa europea para hacer chips propios que permitan hacer supercomputadores propios y una IA propia que podamos controlar. A Europa le falta tiempo para estar al día de este partido que se está jugando.

Dices que la IA no distingue el bien del mal y urges a una regulación ética y responsable, pero ese criterio varía entre las personas y las culturas. ¿Cómo podemos asegurar que se avanza según ciertos principios?

Primero, debemos tener opinión del tema para decidir entre todos qué queremos. La mayoría consideraría que aplicar la IA a la interpretación de imágenes médicas es un buen avance, pero es la misma tecnología que se usa para detección facial y que en China se emplea para controlar a la población. En Cataluña se ha debatido sobre poner este tipo de cámaras en las prisiones, ¿es bueno o malo? Yo, por ejemplo, soy muy antimilitarista y cuando veo su aplicación al armamento autónomo, creo que es malísimo.

La mayoría consideraría que aplicar la IA a la interpretación de imágenes médicas es un buen avance, pero es la misma tecnología que se usa para detección facial y que en China se emplea para controlar a la población

Mencionas que la IA puede facilitar muchos avances en el ámbito del derecho, ¿podría en algún momento acabar regulándose a sí misma?

Me refería al ámbito de la redacción o la búsqueda de información en procesos judiciales complejos, por ejemplo. Pero, con lo que me preguntas, estás dando por sentado que la IA tiene conciencia de sí misma. Esta, que nos pintan en la ciencia ficción, ni existe, ni hay indicios de que pueda existir en un futuro cercano. Con la tecnología actual es imposible que una máquina sea consciente. Parafraseando al especialista en IA Stuart Russel, nos hacen falta unos cuántos Einstein con inventos disruptivos para que la IA pueda ser consciente de sí misma, tenga la capacidad de razonar, sentido común o sea capaz de distinguir causa y efecto: ¿sale el sol porque canta el gallo o canta el gallo porque sale el sol?

Ahora mismo, es imposible que la inteligencia artificial se regule a sí misma porque, en el fondo, es tonta. La que gana al ajedrez, si en vez de un tablero de 8 por 8 le pones un tablero 8 por 9, ya no sabe jugar. Cualquier jugador medio le ganaría. No digo que no tengamos que ocuparnos de estos temas, digo que debemos atender otros más inminentes porque con la tecnología actual ya se pueden hacer barbaridades.

Ahora mismo, es imposible que la inteligencia artificial se regule a sí misma porque, en el fondo, es tonta. La que gana al ajedrez, si en vez de un tablero de 8 por 8 le pones un tablero 8 por 9, ya no sabe jugar

La escritora especializada en tecnología Marta Peirano cree que cuando los gurús tecnológicos piden más regulación para conjurar el riesgo de la singularidad tecnológica, lo que en realidad persiguen es regulaciones a su medida que favorezcan su monopolio frente a modelos abiertos y colaborativos. ¿Qué opinas?

Entramos en el campo de la especulación y esto es aplicable a cualquier sector industrial. Sí es cierto que si pones limitaciones a conseguir según qué cosas que ellos ya tienen, los mantiene en una situación de dominio. Tras el lanzamiento de ChatGPT-4, Musk firmó una carta con un grupo de expertos en IA solicitando una moratoria de medio año antes de desarrollar sistemas más potentes. Pero él estaba por otro lado pidiendo a la gente de Nvidia miles de chips para desarrollar IA, de los que en aquel momento aún no habían llegado al BSC. ¿A qué juega? ¿Y si a Sam Altman [director ejecutivo de OpenAI] le preocupa tanto, por qué se ha metido a hacerlo?

¿Tú crees que habría que ralentizar su desarrollo?

No creo que se tenga que ralentizar, pero no se puede dar autonomía absoluta. No podemos continuar con este despropósito de “lo probamos y luego veremos qué pasa”, como está ocurriendo. Lo estamos viendo en otras áreas, como las redes sociales, en las que se usa IA. Son un fenómeno del mundo de la digitalización que tiene vida propia y que está machacando a todos nuestros jóvenes.

También debemos garantizar por ley que cualquier actor del que se use su voz, gane su royalty porque hoy te pueden plagiar la voz. En definitiva, tenemos que estar de acuerdo en qué cosas no se pueden hacer. No se puede hacer armamento autónomo, por ejemplo. Yo sería contundente, hay cosas que tendrían que estar prohibidas. Y Europa va por aquí, como en el caso del reconocimiento facial, que está muy limitado. Tenemos que ponernos todos a pensar en cómo controlamos esta herramienta porque es muy potente y lo va a cambiar todo.

No creo que la IA se tenga que ralentizar, pero no se puede dar autonomía absoluta. No se puede continuar con este despropósito de “lo probamos y luego veremos qué pasa”, como está ocurriendo

Este año, la mitad de la humanidad va a votar. Teniendo en cuenta que mediante IA se pueden hacer textos, fotos, audios o vídeos falsos e indistinguibles de la realidad, ¿qué deberíamos hacer los ciudadanos?

La tecnología para suplantar por voz e imagen a personas existe y cada vez es más accesible. Esto es así y debemos ser críticos. Ahora, con lo que hemos hablado este rato, podríamos crear un bot con mi voz y mi madre no podría distinguirla. Y por redes sociales corren muchas cosas falsas. Yo, por ejemplo, tengo mucho cuidado con lo que recibo por Whatsapp. La ciudadanía debería intentar informarse a través de canales serios; si se deja influenciar solo por la burbuja que su Facebook o su TikTok le ha generado, va mal.

Fuente: SINC
Derechos: Creative Commons

“La llamada optimización discreta conecta las matemáticas con intrigantes problemas del mundo real”

Daniel Kráľ, catedrático de la Universidad Masaryk (Rep. Checa), experto en grafos estudia problemas en la frontera entre las matemáticas y las ciencias de la computación, con aplicaciones en el diseño de algoritmos, para la lectura masiva de datos, por ejemplo, o el análisis de estructuras complejas, como las redes sociales.

El matemático Daniel Kráľ

El matemático Daniel Kráľ es catedrático de la Universidad Masaryk, en la República Checa. / Foto cedida par el entrevistado

Especialista en teoría estructural y algorítmica de grafos [nodos relacionados por aristas], en los últimos años Daniel Kráľ, profesor de la Universidad Masaryk (República Checa), analiza problemas que se encuentran en la intersección entre la matemática discreta y la informática. En este campo ha realizado importantes contribuciones, como la resolución de las llamadas conjetura de Lovász-Plummer y conjetura de Steinberg.

Le interesa especialmente la denominada teoría de los límites combinatorios, que permite estudiar objetos discretos enormes –que aparecen, por ejemplo, al estudiar las redes sociales o sistemas– a partir de aproximaciones. De hecho, ha desarrollado dos proyectos europeos ERC sobre la conexión entre esta teoría y otra: la teoría de Ramsey, un “conjunto de resultados que establece la imposibilidad del caos completo”.

Sobre estos temas habló  en un coloquio conjunto organizado por el Instituto de Ciencias Matemáticas (ICMAT) y las universidades Autónoma, Carlos III y Complutense de Madrid.

¿De qué trata la teoría de los límites combinatorios?

La combinatoria se ha centrado, tradicionalmente, en el estudio de objetos discretos. Sin embargo, los que encontramos en las matemáticas discretas modernas y en sus aplicaciones informáticas tienen un tamaño enorme, lo que dificulta el uso de las herramientas tradicionales. Por ello, es necesario aproximar los objetos discretos con los que trabajamos. Es lo que propone, por ejemplo, el conocido lema de regularidad de Szemerédi –uno de los resultados que le valió al matemático el Premio Abel en 2012–. El resultado aproxima un grafo grande con uno pequeño que captura las propiedades clave del grande.

La teoría de los límites combinatorios proporciona buenas aproximaciones de grandes objetos discretos, de manera parecida a como se extienden los números racionales a los números reales, o como se usa la integración en lugar de la suma, para fines contables.

¿Con qué motivación se empezó a trabajar en este campo? ¿Qué tipo de preguntas se trataban de resolver?

La teoría de los límites combinatorios se originó hace unos 20 años a partir de la investigación liderada por Christian Borgs, Jennifer Chayes y László Lovász en Microsoft Research. Su objetivo principal era desarrollar herramientas para aproximar y analizar grandes redes informáticas, y consiguieron cimentar una teoría que no solo es adecuada para analizar estas grandes redes, sino que también se puede aplicar en diversos contextos de matemáticas discretas. Esta teoría, junto con el álgebra de banderas (flag algebras), desarrollada por Sasha Razborov, cambió la perspectiva de la combinatoria extrema moderna.

La teoría de los límites combinatorios se originó en Microsoft Research con el objetivo de desarrollar herramientas para aproximar y analizar grandes redes informáticas

¿Cómo se relacionan la combinatoria extrema y la teoría de Ramsey, el tema en el que se centró su charla?

La teoría de Ramsey es un conjunto de resultados que establece la imposibilidad del caos completo. Entre todos ellos, uno de los más simples es el conocido como el principio del palomar. Una de sus variantes dice que, si se colorean 10n bolas con 10 colores, siempre habrá n bolas del mismo color. La teoría de Ramsey extiende esta simple observación a escenarios mucho más complejos. Una afirmación típica de esta teoría dice, básicamente, que todo objeto discreto lo suficientemente grande tiene una parte que se comporta ‘bien’. La combinatoria extrema nos permite estimar el número de partes de estos objetos grandes que se comportan bien.

Según la teoría de Ramsey, del total de estrellas del cielo nocturno, siempre podemos seleccionar un subconjunto de ellas para dibujar diferentes objetos como: un triángulo, un cuadrilátero, un paraguas o un pulpo. / NASA, ESA, AURA/Caltech, Palomar Observatory et al.

¿La teoría tiene alguna aplicación a otros campos?

La teoría de los límites combinatorios abre nuevas perspectivas sobre muchos problemas en otros campos. Por ejemplo, permite entender cuestiones sobre los algoritmos probabilísticos de lectura masiva de datos, llamados ‘algoritmos de prueba de propiedades’. También ha abierto nuevos enlaces con la estadística: un vínculo bastante obvio consiste en proporcionar modelos para redes; otro, menos evidente, es con pruebas de cuasialeatoriedad e independencia.

La teoría de los límites combinatorios permite, por ejemplo, entender cuestiones sobre los algoritmos probabilísticos de lectura masiva de datos

¿Cómo comenzó a investigar en esta área?

Me fascinó la naturaleza multifacética de la teoría de los límites combinatorios. Ofrece un conjunto muy amplio y versátil de herramientas, que son aplicables en diversas áreas de investigación que siempre me han interesado, como la teoría de grafos y la informática teórica. Me atrajo mucho la cantidad de conexiones que tiene con otras áreas, en particular, con el análisis, la combinatoria, la teoría ergódica, la teoría de grupos, la teoría de la probabilidad y la estadística. Además, me interesó avanzar en los métodos de la teoría de los límites combinatorios y proporcionar una comprensión más profunda de algunos de los conceptos clave.

Daniel Kráľ es especialista en combinatoria extrema e informática teórica. / Foto cedida par el entrevistado

¿Qué aportes ha realizado?

He contribuido tanto al desarrollo de la teoría de los límites combinatorios como a la ampliación del rango de aplicaciones en combinatoria extrema. Dentro de la teoría de límites combinatorios, me han interesado principalmente los límites de grafos densos, sobre el que tengo un resultado, junto a mis colaboradores, que Lászsló Lovász presentó al recibir el Premio Abel en 2021 y por lo que me sentí muy honrado.

Hemos obtenido un resultado sobre límites de grafos densos que Lászsló Lovász presentó al recibir el Premio Abel en 2021

¿Qué otros campos de investigación le interesan?

Mi investigación siempre ha estado enfocada en temas en la interfaz entre las matemáticas y la informática. Además de trabajar en aplicaciones de técnicas analíticas en combinatoria y estudiar problemas en combinatoria extrema, desde hace poco también estudio el uso de métodos combinatorios en la llamada optimización discreta. Me fascina la forma en que esta interconecta matemáticas con algoritmos y, estos, con intrigantes problemas del mundo real.

Fuente:

SINC
Derechos: Creative Commons

 

Rafael Yuste, neurobiólogo de la Universidad de Columbia (EE UU): “Ya tenemos el catálogo de células del cerebro que quería Cajal”

La neurotecnología ha comenzado a ofrecer dispositivos médicos que benefician a nuestra sociedad, pero también ha surgido un problema con la privacidad de los datos neuronales que conviene regular. Uno de los padres de la iniciativa BRAIN, Rafael Yuste, ha hablado sobre ello en el Congreso, y después nos ha contado que este gran proyecto sobre el cerebro “va como un tiro”.

El neurobiólogo Rafael Yuste

El profesor Rafael Yuste de la Universidad de Columbia fue uno de los impulsores de la iniciativa BRAIN para comprender mejor el cerebro. / FECYT

Entre los informes que ha presentado esta semana la Oficina de Ciencia y Tecnología del Congreso de los Diputados, figura el de Avances en neurociencia: aplicaciones e implicaciones éticas. Uno de los expertos que ha participado ha sido el neurobiólogo Rafael Yuste (Madrid, 1963), codirector del Centro de Neurotecnología en la Universidad de Columbia (EE UU).

Al finalizar el acto de presentación, se ha dirigido a la Residencia de Estudiantes (CSIC). Allí hemos hablado con él en la terraza que hace un siglo fue testigo de los paseos de Santiago Ramón y Cajal, en Nobel de Medicina español por sus trabajos sobre el sistema nervioso.

¿Qué siente al estar en un centro tan emblemático?

Para mi es como volver a casa, porque estudié el bachillerato en el Instituto Ramiro de Maeztu aquí al lado, y porque en este sitio, la Residencia de Estudiantes, nació la ciencia moderna en España hace 100 años. Fue fundada por la Junta para Ampliación de Estudios dirigida por Cajal hasta su muerte, y en esta residencia se formó la gran generación de literatos y artistas de aquella época, como Lorca o Buñuel, y científicos como Severo Ochoa, Juan Negrín… De la escuela de Cajal estaban aquí todos.

¿Qué destacaría de la figura de Ramón y Cajal?

Reúne las mejores cualidades del pueblo español: el empuje, la perseverancia, el atrevimiento, además de una gigantesca capacidad de trabajo. Fue una persona multifacética, un humanista, que nos debe inspirar por lo que hizo, el patriotismo que tuvo, el amor al bien común. Ramón y Cajal fue el neurobiólogo más importante de la historia, una figura científica a la altura de Darwin.

Ramón y Cajal fue el neurobiólogo más importante de la historia, una figura científica a la altura de Darwin

Con un microscopio y su tesón, inteligencia, gran creatividad e imaginación propone la idea de que el cerebro está compuesto de neuronas individuales y no formando una maraña, y que estas se comunican a través de conexiones que después se llamaron sinápticas. Su teoría neuronal dio en el clavo, y por eso recibió el Premio Nobel. Revolucionó la neurociencia y la neurotecnología.

Dibujo de Cajal sobre las células del cerebelo de un pollo, mostrado en ‘Estructura de los centros nerviosos de las aves’, Madrid, 1905. / S. Ramón y Cajal

De ello seguimos hablando un siglo después. ¿Qué se ha debatido exactamente esta mañana en el Congreso?

La reunión de este martes convocada por la Oficina de Ciencia del Congreso, cuyo objetivo es exponer a los diputados los temas más candentes en ciencia y tecnología, se ha centrado en la neurotecnología, que ofrece métodos para registrar la actividad de las neuronas y cambiarla. Gracias a ella, se han empezado a crear un montón de dispositivos médicos beneficiosos para la sociedad y bien regulados, pero también otros comerciales [gafas, cascos, diademas, brazaletes…] que no lo están. Así surge el problema de la privacidad mental. Actualmente las compañías que recogen nuestros datos neuronales acaparan su propiedad y pueden incluso venderlos a terceros sin ninguna regulación.

Los dispositivos médicos desarrollados con la neurotecnología son beneficiosos y están regulados, pero no así otros comerciales. Algunas compañías recogen nuestros datos neuronales y acaparan su propiedad

¿Qué medidas se están tomando para evitarlo?

En diversos países se intenta poner coto a esta falta de control desde distintos puntos de vista. En Chile, por ejemplo, se ha aprobado una enmienda constitucional para proteger la actividad cerebral y la información procedente de ella. Otras regulaciones parecidas están en camino en Brasil, Uruguay y México, y en el estado de Colorado (EE UU) también se ha aprobado una ley de neuroprotección.

Pero también se puede abordar el problema de una manera más fundamental a través de los llamados neuroderechos: en vez de intentar hacer una ley que proteja esto o aquello, definimos nuevos derechos humanos que protejan el cerebro. Una vez que tengamos esto bien anclado, ya se puede desarrollar toda la tecnología que quieras, siempre que respeten estos derechos cerebrales. Están en vías de incorporarse a los tratados internacionales de derechos humanos de Naciones Unidas.

Rafael Yuste en el Congreso de los Diputados. / FECYT

¿Cuál es su opinión sobre el el chip cerebral que desarrolla Neuralink, una de las empresas de Elon Musk?

Pues me parece muy bien. Bienvenido sea Elon Musk y su compañía si quieren desarrollar, con sus propios dólares, esta tecnología médica para ayudar a los pacientes, todo bien si estos avances se hacen con dinero público o privado. Pero esta tecnología concreta no es una novedad desde un punto de vista científico o médico, porque hay otras empresas, hospitales y organizaciones que llevan desarrollando dispositivos parecidos desde hace más de 20 años.

Me parece bien el chip cerebral desarrollado por la empresa de Elon Musk, pero no es ninguna novedad desde un punto de vista médico o científico

En EE UU la neurotecnología experimentó un gran empuje con el lanzamiento en 2013 por parte del presidente Obama de la iniciativa BRAIN, de la que usted es uno de los promotores. ¿Cómo va este gran proyecto sobre el cerebro?

La iniciativa BRAIN va como un tiro. Estamos en el año 9 de 15, o sea, todavía queda recorrido. Desde el comienzo cuenta con un apoyo político completo por parte de los dos partidos, y tres presidentes distintos la han apoyado. Actualmente, involucra a más de 550 laboratorios en Estados Unidos y en todo el mundo, y este año cuenta con un presupuesto anual de más de 900 millones de dólares. Desde este punto de vista, es un gran éxito.

¿Y respecto a los resultados científicos, que parece tardan en llegar?

Se empiezan a lograr grandes hitos, como la publicación en 2023 del primer catálogo de células del cerebro. Era algo que quería hacer Cajal, pero con los medios que tenían hace un siglo solo llegaron a donde pudieron. Ahora ya se realiza de una forma sistemática, cuantitativa, con técnicas moleculares. Con fondos de la iniciativa BRAIN se está escribiendo el ‘listín telefónico’ de todas las neuronas que existen en el cerebro. Es algo imprescindible: si quieres entender cómo funciona una máquina, necesitas conocer sus partes.

Representaciones 3D de neuronas reconstruidas a partir de cortes de cerebro vivo. La diversidad de colores y formas representa la gran variedad de subtipos neuronales que lo componen. / Instituto Karolinska/Instituto Allen de Ciencias del Cerebro

Esta lista de partes del cerebro es la que se presentó el año pasado, pero hay muchísimas otras cosas, como el mapeo de la actividad cerebral completa de animales pequeños o el desarrollo de técnicas enfocadas más a pacientes. Este goteo continuo se irá acelerando en los próximos años –quedan seis más– y esperamos que haya grandes avances. Va a ser una cosa revolucionaria. En neurociencia va a haber un antes y un después de la iniciativa BRAIN.

Aunque sigamos sin saber cómo funciona el cerebro, ¿qué porcentaje conocemos de su estructura?

Como decía, la lista de las partes ya la tenemos. Es un hito merecedor de premio Nobel, y es completar el objetivo de Cajal de describir las neuronas del sistema nervioso. Pero hay otra parte de la estructura del cerebro que está todavía por realizar: las conexiones. Esto ya son palabras mayores. Es complejísimo, pero precisamente la iniciativa BRAIN está impulsando el desarrollo de un tipo de microscopía electrónica, llamada conectómica, para mapear todas las conexiones cerebrales. Podría ser otro hito. Aunque no entendamos todavía cómo funciona, por lo menos dejar más o menos asentada la estructura del cerebro, describiendo todos los tipos de neuronas y las conexiones más importantes.

Aunque no entendamos cómo funciona el cerebro, se trata de dejar por lo menos asentada su estructura, describiendo todos los tipos de neuronas y las conexiones más importantes

Usted fue pionero en el desarrollo de técnicas de calcio (calcium imaging) para medir la actividad de circuitos neuronales. ¿En qué están trabajando ahora en su laboratorio?

Sí, calcium imaging es un método que realizamos hace mucho tiempo –durante mi tesis doctoral–, pero ahora estamos trabajando en preguntas del tipo: ¿cómo funcionan las neuronas?, ¿cuál es la función de las espinas dendríticas (que precisamente descubrió Cajal)? y, sobre todo, la más fundamental: ¿cómo funcionan los circuitos neuronales? Estamos detrás de la llamada hipótesis de los conjuntos neuronales, que es un poco poner al día en el siglo XXI la teoría neuronal de Cajal.

¿Nos puede detallar un poco hacia donde avanza la investigación?

Evidentemente, el cerebro está compuesto de neuronas, pero parece claro que se comportan entre sí formando conjuntos que se activan como si fuesen módulos cerebrales. Con nuestro trabajo y el de otros colegas en otras partes del mundo estamos demostrando que estos conjuntos son las piezas funcionales responsables, por ejemplo, de la percepción sensorial, del comportamiento. Posiblemente de lo que entendemos como los pensamientos y las emociones. Por tanto, estamos poniendo nuestro granito de arena para entender cómo funciona el cerebro y continuar con la obra de Cajal 100 años más tarde.

Los informes de la Oficina C

El informe sobre neurociencia y neurotecnología en el que ha participado Rafael Yuste es uno de los seis que la Oficina de Ciencia y Tecnología del Congreso de los Diputados (Oficina C) ha presentado esta semana en la Cámara Baja.

Los otros cinco temas de relevancia sociopolítica publicados en enero y presentados ahora son: envejecimiento y bienestar, calidad del aire, enfermedades neurodegenerativas, y desinformación en la era digital e incendios forestales.

Estos informes se suman a los ya publicados sobre ciberseguridad, inteligencia artificial y salud, avances en el tratamiento del cáncer e hidrógeno verde como combustible. Todos están disponibles de forma abierta en la web de la Oficina C, una iniciativa conjunta de la Fundación Española para la Ciencia y la Tecnología (FECYT) y el Congreso de los Diputados.

En este mismo escenario, varios investigadores también han compartido esta semana su experiencia con algunos diputados. Este programa de emparejamiento pretende favorecer el intercambio de conocimiento entre el poder legislativo y la comunidad científica, como ya es habitual en países como Australia, Reino Unido o el Parlamento Europeo.

Derechos: Creative Commons

Arturo Villavicencio: La explotación de recursos minerales y energéticos pueden, en principio, proveer los medios para apuntalar trayectorias sustentables de desarrollo

En una publicación de 370 páginas, Arturo Villavicencio cuestiona la postura que se opone al extractivismo y sostiene que la explotación de recursos minerales y energéticos pueden, en principio, proveer los medios para apuntalar trayectorias sustentables de desarrollo.

El docente del Área de Estudios Sociales y Globales de la Universidad Andina Simón Bolívar analiza y refuta distintas tesis que se han construido entorno al extractivismo como un factor negativo para la economía, las instituciones y la democracia de los países cuyas economías dependen básicamente de la exportación de recursos no renovables.

A propósito de este libro, que tiene el sello de la editorial argentina Teseo, presentamos una entrevista con su autor.

¿Cuáles son los ejes en los que usted basa esta crítica?

Sin mayor reflexión, y haciéndose eco de clichés sustentados en un conjunto de ideas sesgadas, simples y con escaso fundamento empírico, se ha ido construyendo en medios académicos y ambientalistas la idea de los recursos naturales como un factor que ha atrofiado el crecimiento económico, debilitado los procesos democráticos y deteriorado los ecosistemas.

Al equiparar la dotación de recursos naturales con una enfermedad, todo el discurso sobre el extractivismo se encuentra impregnado de un léxico mórbido en el que términos como síntomas, virus, patología, infección o contagio se convierten en los referentes para nuevas propuestas de acción social y política. Según esta corriente de pensamiento, los recursos naturales serían una “maldición” y la solución consistiría en superar la etapa extractivista como la única alternativa para alcanzar un “buen vivir”.

Una parte del libro está enfocada a analizar lo que la literatura convencional considera las llamadas patologías del extravismo. Sostengo de manera enfática en el libro que ninguna de las patologías, ya sean estas las tesis sobre el deterioro de los términos de intercambio, la maldición de los recursos, la llamada enfermedad holandesa, el efecto enclave de los recursos mineros y energéticos, todas ellas carecen de sustento teórico y ninguna de ellas presenta evidencias empíricas. En el mejor de los casos, la tesis de la maldición de los recursos sería la excepción y no la regla.

¿Su cuestionamiento significaría un llamado a continuar con el extractivismo?

No necesariamente. Muchos países cuyas economías se sustentan en la exportación de minerales o energía han tenido a la larga un pobre desempeño no por su dependencia de las rentas de exportación de los recursos, sino porque han fracasado en la implementación de políticas apropiadas para canalizar las rentas en genuinos proyectos de desarrollo. Los recursos, en sí mismo, de ninguna manera son nocivos para el desarrollo; ellos se convierten en un problema en ausencia de sólidas instituciones para su manejo y gestión.

Tenemos casos como Noruega, Chile, Botsuana, para citar algunos, que han logrado un crecimiento económico sostenido sobre la base de la explotación de sus recursos minerales y energéticos. En un contexto más amplio, tal es el caso de Suecia y Finlandia.

Debemos convencernos que las experiencias negativas de la explotación de los recursos naturales no son culpa del imperialismo, ni del Fondo Monetario Internacional, ni de las corporaciones transnacionales. La responsabilidad es de los países y sus gobiernos que no han sido capaces de idear políticas y estrategias para aprovechar ese “maná caído del cielo”.  El premio nobel de Economía Joseph Stiglitz dice con toda claridad: la maldición de los recursos no es una fatalidad del destino, sino una elección.

Pero entonces, ¿no hay una opción de dejar el crudo bajo tierra?

Me parece una pregunta muy oportuna. Ante todo, como señalo en el libro, una economía o, mejor dicho, la producción sin recursos es una tesis irreal, al igual que lo son las tesis sobre el decrecimiento, la desmaterialización de la economía o la economía circular. El insigne matemático y economista rumano Georgescu-Roegen lo expresaba de manera categórica: la economía es lineal y entrópica. En otras palabras, la energía, los minerales y la producción de desechos son realidades absolutas.

A propósito, resulta curioso señalar que la gran transición hacia una energía verde, como la solución para el problema del cambio climático, implica una intensificación del extractivismo a escala global. El mundo es testigo de una carrera casi desenfrenada de las potencias mundiales por la apropiación de los minerales indispensables para el aprovechamiento de las energías solar y eólica. Al respecto, con cierta dosis de ironía, se habla ya de un extrativismo verde.

Regresando a su pregunta, me parece que cualquier debate no puede ignorar dos realidades. En primer lugar, el potencial de extracción de petróleo del Ecuador. La posibilidad de una producción de alrededor de 800 mil barriles diarios es factible y, en segundo lugar, en el mediano plazo el país requerirá, aumentar la producción para cubrir sus necesidades energéticas y mantener saldos exportables para el sostenimiento de su economía. Podemos pensar en limitar las actividades petroleras en ciertas áreas sensibles, pero la opción de una salida del extrativismo me parece ilusoria.

Esta afirmación adquiere aún más fuerza frente a las alternativas de un nuevo modelo de acumulación que plantean los partidarios de una salida del extractivismo. El ecoturismo, la bioprospección genética y la agroforestería están muy lejos de compensar a los ingresos petroleros. Pero, lo preocupante de estas tesis es que siempre persiste la idea de la naturaleza como una fuente de riqueza, como un stock generador de flujos y servicios que pueden ser monetizados mediante su conversión en mercancías. En mi libro Neoliberalizando la Naturaleza, publicado hace pocos años por la Editorial Siglo XXI, abordo con cierta profundidad estos temas y muestro que los impactos sociales y ambientales de estas actividades pueden ser tan nocivos como la explotación de petróleo.

Las políticas de gestión de los recursos practicadas por Bolivia, Ecuador y Venezuela en las dos décadas pasadas han sido caracterizadas como un neoextractivismo progresista ¿cuál es su criterio al respecto?

La tesis de un extractivismo progresista, posneoliberal, que supuestamente caracterizó el manejo de los recursos naturales por parte de los llamados gobiernos de izquierda, está bastante alejada de la realidad. En el libro analizo que las políticas y estrategias adoptadas por el Ecuador, en particular, estuvieron lejos de significar una superación de las políticas neoliberales y, por el contrario, se trató de un conjunto de políticas híbridas, muchas veces contradictorias y no siempre en línea con el dogma neoliberal, aunque a la larga terminaron fortaleciéndolo.

El libro dedica un capítulo al análisis del desempeño económico de las economías extractivas de Sudamérica bajo un nuevo marco epistemológico y conceptual. Se trata del Análisis Cualitativo Comparado que rompe con los sesgos y limitaciones de los enfoques de tipo estadístico y econométrico en el estudio de la comprensión de la causalidad compleja de los fenómenos sociales. Considero que este capítulo constituye un aporte valioso al desarrollo de las ciencias sociales en el Ecuador.

¿Cuáles son las conclusiones del libro?

Al inicio del texto cito al sociólogo mexicano Rodolfo Stavenhagen, quien ya hace algunas décadas expresaba su preocupación por un conjunto de tesis y afirmaciones equivocadas, erróneas y ambiguas que dominan el discurso sobre el desarrollo y son aceptadas como moneda corriente por no pocos intelectuales, investigadores y profesores. Hago mía la preocupación de Stanvenhagen en el caso del extractivismo. Existe en la academia una suerte de miopía epistemológica agravada por un preocupante narcicismo intelectual.

Quizá el mensaje principal del libro consiste en señalar que el debate sobre el extractivismo debe partir y centrarse en la existencia de dos realidades que no pueden ser disociadas. La una tiene que ver con la afectación a los pueblos y comunidades locales. La otra tiene que ver con los impactos irreversibles sobre el entorno natural. Bajo esta dos dimensiones no puede hablarse de extractivismo en forma abstracta, sino de proyectos y actividades extractivas específicas que afectan de manera diferente y en grado diferente a pueblos concretos y ecosistemas específicos.

Frente a esta realidad, el libro sugiere una nueva perspectiva de abordaje del problema extractivista. Se trata del enfoque de la Ciencia Posnormal. La ciencia posnormal o ciencia abierta nos dice que cuando las incertidumbres y los valores que rodean un problema son inconmensurables, se requiere un marco de análisis que trascienda viejas dicotomías entre hechos y valores; entre conocimiento e ignorancia para dar paso a una nueva condición basada en hipótesis de incertidumbre, control parcial y pluralidad de legítimas perspectivas. En este contexto, no debemos olvidar que la intervención humana en la naturaleza no es ni antinatural, no algo apara el lamento y la condena, lo que de ninguna manera implica la necesidad de imponer límites.

¿Cuál es el significado o mensaje de la portada del libro?

La portada reproduce el famoso cuadro del pintor Paul Klee al que intelectuales y filósofos como Walter Benjamin y Bolívar Echeverría han dedicado no pocas reflexiones. La metáfora es poderosamente sugestiva para explicar y entender aquella visión utópica de un estado de plenitud o buen vivir cuya consecución empieza por librarse de la maldición de los recursos.

UASB

Dos años de conflicto en Ucrania: “Esta guerra nunca debería haber empezado”, anota Denise Brown

La ciudad portuaria de Odesa, en el Mar Negro, fue atacada con misiles (foto de archivo).

 

a paz en Ucrania sigue pareciendo un horizonte lejano, pero miles de miembros del personal de la ONU continúan apoyando a la población, también en las ciudades de primera línea que sufren ataques diarios.

La invasión a gran escala de Ucrania por parte de Rusia comenzó el 24 de febrero de 2022. Más de cuatro millones de personas han sido desplazadas y seis millones han abandonado el país. Se han movilizado soldados; infraestructuras, centros de salud y escuelas han sido destruidas.

La paz en Ucrania sigue pareciendo un horizonte lejano, pero miles de miembros del personal de la ONU continúan apoyando a la población, también en las ciudades de primera línea que sufren ataques diarios.

Dos años después, la coordinadora residente de la ONU en el país, Denise Brown, asegura en una entrevista con Noticias ONU que el apoyo humanitario continuará, a pesar de las continuas amenazas al personal y a los civiles.

Denise Brown: Creo que es importante subrayar que se producen ataques casi todos los días en ciertas partes del país. Hay una reacción inmediata de miedo, de no saber lo que se te viene encima, de oír las explosiones y pensar: ¿los derribará el sistema de defensa o pasarán los drones y los misiles?

El gobierno y de los trabajadores humanitarios, que colaboran estrechamente, responden inmediatamente desplegando apoyo psicosocial, reparando ventanas, puertas y tejados, y a menudo proporcionando alimentos o dinero en efectivo.

Pero lo que también viene con esos ataques, especialmente para la población, es la pérdida; pérdida de vidas, pérdida de su hogar, pérdida de su sensación de seguridad. Y a menudo, cuando las escuelas o las clínicas de salud son atacadas, también se pierde el acceso a los servicios esenciales, a un médico, a una clínica, a una escuela o a la electricidad. La pérdida es el gran sentimiento aquí.

Con gran tristeza digo que nos hemos vuelto bastante buenos en esto, porque tenemos que hacerlo casi todos los días.

Denise Brown (centro), coordinadora residente de la ONU en Ucrania, con sus colegas (foto de archivo).
ONU Ucrania/ Saviano Abreu
Denise Brown (centro), coordinadora residente de la ONU en Ucrania, con sus colegas (foto de archivo).

Coordinación por todo el país

Noticias ONU: ¿Cómo se coordinan estos esfuerzos de socorro en todo el país?

Denise Brown: Creo que tenemos un verdadero valor añadido en las regiones. Hay una coordinación inmediata a través de la OCHA, la Oficina de Coordinación para los Asuntos Humanitarios, y tenemos personas desplegadas en las regiones a lo largo de los óblast [regiones administrativas ucranianas], que trabajan junto a las autoridades.

Tenemos una red de más de 500 socios, actores locales que son los que están más cerca de donde suceden estas cosas y se despliegan inmediatamente y nosotros les apoyamos. Es una buena red, la coordinación funciona bien.

Noticias ONU: ¿Todavía pueden viajar por todo el país?

Tenemos más de 3000 miembros del personal de la ONU, muchos de ellos desplegados en Kharkiv, DniproMykolaiv, Odessa, Zaporizhzhia y Donetsk; lugares donde hay ataques a diario.

Eso significa que es aún más importante que yo, y los altos cargos de la Organización, salgamos lo máximo posible. No puedo pretender que el personal, nacional o internacional, esté en Kharkiv y viva los ataques diarios con misiles en la ciudad, y yo no vaya allí y esté con ellos.

Así que eso es lo que estoy haciendo. Pero también me da la oportunidad de hablar con las autoridades regionales y locales y de ir en convoyes a la primera línea.

Así, las autoridades saben y entienden que la persona de mayor rango de la ONU en Ucrania está dispuesta a estar con ellos. Y creo que éste se ha convertido en uno de los mensajes más poderosos de esta respuesta.

No se trata sólo de que entreguemos suministros. Nosotros, y las ONG, estamos prestando apoyo. Creo que es una señal increíblemente importante por nuestra parte de que, no importa lo difícil que sea, haremos todo lo posible por estar con ellos.

La coordinadora residente Denise Brown (izquierda) habla con los residentes de Hroza durante su visita en las vacaciones de Navidad (foto de archivo).
© OCHA/Saviano Abreu
La coordinadora residente Denise Brown (izquierda) habla con los residentes de Hroza durante su visita en las vacaciones de Navidad (foto de archivo).

Ésta no es la respuesta. Nunca fue la respuesta

Noticias ONU: ¿Alguna vez pensó que la guerra duraría tanto?

Denise Brown: Me sorprende que haya durado tanto porque ésta no es la respuesta. Nunca fue la respuesta. Y los ucranianos están viviendo tanta violencia, pérdida y dolor. Todo lo que puedo decir es que tiene que terminar.

La economía está hecha añicos, las infraestructuras civiles parecen ser blanco de ataques con regularidad, se pierden vidas, se rompen familias y aumenta la violencia de género. Todas estas cosas afectan a la población de Ucrania.

Tiene que haber paz. Esta gente necesita volver a sus vidas. La guerra nunca debería haber empezado.

Noticias ONU: Pero no parece haber un final a la vista. ¿Espera que esta guerra continúe durante varios años?

Denise Brown: Yo misma me baso en los datos. Estas personas están muy necesitadas. Y aunque la guerra terminara mañana, las necesidades seguirían siendo enormes en este país.

Harán falta años y años para reconstruir este país y para que afronte el trauma. Así pues, mi previsión es que, pase lo que pase con esta guerra horrible e ilegal, el pueblo de Ucrania seguirá necesitando ayuda, tanto humanitaria como para la recuperación, en un futuro previsible.

 

 

“Nos enfrentamos a la actual sequía con aguas subterráneas en peor estado que en otras ocasiones»

Regina Lafuente, investigadora del Instituto de Estudios Sociales Avanzados (CSIC)

La sequía que arrastra España en los últimos años ha llevado a declarar la situación de emergencia en regiones como Cataluña. En esta ocasión, la situación climática y la explotación excesiva de los acuíferos, ha desembocado en restricciones. La socióloga Regina Lafuente estudia la percepción de la población sobre la gestión del agua y su respuesta cuando escasea este recurso.  

  

Regina Lafuente

Regina Lafuente Fernández. / Foto cedida por la autora

La falta de agua y cómo gestionar la escasez de este bien esencial para la vida está en el debate público. Desalación o trasvase por barco son algunas de las soluciones planteadas actualmente. Hablamos con Regina Lafuente Fernández, especialista en investigación social sobre problemas ambientales.

Desde 2004, Lafuente trabaja en el Instituto de Estudios Sociales Avanzados (IESA-CSIC) donde estudia la percepción social de temas como la sequía y su gestión a través de políticas públicas. Además, forma parte del Observatorio Ciudadano de la Sequía.

¿Por qué es importante tener en cuenta el componente social que tiene la sequía en un país como el nuestro?

En las próximas décadas en las regiones del sur mediterráneo asistiremos a un aumento de la frecuencia e intensidad de las sequías cuyos impactos serán más graves en aquellos sistemas más vulnerables. Si las demandas de agua continúan excediendo los recursos existentes, en las sucesivas sequías aumentará la conflictividad socio-territorial por los recursos hídricos que ya venimos observando en los últimos meses: protestas de agricultores, pozos ilegales o zonas con restricciones en los abastecimientos. Es en el plano social donde deben hacerse los mayores esfuerzos para prevenir estas situaciones. Hay que identificar las causas por las que un riesgo recurrente y propio de nuestro clima, como son las sequías, provoca daños no previstos y por qué estamos fallando en la adaptación a este riesgo.

Este fenómeno no solo ocurre en España, es global, como corroboran estudios publicados estas semanas, también sobre las aguas subterráneas. ¿Estamos preparados en nuestro país?

Ya estamos en esa situación, de hecho, el problema de sequía que padecemos actualmente no viene sino a agravar una situación estructural. La escasez está relacionada con el desequilibrio entre el agua disponible y la demanda que existe para satisfacer los distintos usos. En el caso de los acuíferos, el ritmo de extracción en ciertas demarcaciones es superior al de su recarga natural, y coincide además con lugares que presentan niveles más críticos en sus embalses. Es decir, son territorios en los que existe una gran demanda de recursos hídricos a la que se está dando respuesta con las aguas de los embalses y las subterráneas.

Nos enfrentamos a la actual sequía con las aguas subterráneas en peor estado que en ocasiones anteriores, y el problema es grave porque estas aguas deberían ser reservas estratégicas para paliarlas. Sobre el papel, hemos desarrollado herramientas para gestionar las sequías de forma preventiva y anticipada, pero en la práctica estos planes no están dando resultados y seguimos gestionando de forma improvisada en situaciones de emergencia.

Seguimos gestionando de forma improvisada en situaciones de emergencia

Es coautora de la encuesta ciudadana de agua y sequía. ¿A qué es más reacia la gente para evitar los efectos de las sequías en España?

A reducir el consumo de agua, ya sea limitando las dotaciones a la agricultura o reduciendo la superficie de regadío. La encuesta se realizó en noviembre de 2023 y aunque desde entonces la situación ha empeorado, 6 de cada 10 personas encuestadas afirmaban que en España no había agua suficiente, pero solo 2 de cada 10 era partidaria de reducir el consumo.

Una respuesta un poco contradictoria, ¿no?

En los resultados encontramos las claves para entender estas resistencias a reducir el consumo de agua y a pedir ese esfuerzo al sector agrario. Primero, porque los ciudadanos asocian más la falta de agua con la sequía meteorológica (41 %) que con la escasez provocada por un aumento de la demanda hídrica (16 %) o la combinación de ambos fenómenos en el territorio (32 %).  Si el problema para los ciudadanos radica en la falta de lluvia, es lógico que la solución apuntada sea buscar nuevas fuentes de la mano de la tecnología: desalación o aguas regeneradas.

6 de cada 10 personas encuestadas afirmaban que en España no había agua suficiente, pero solo 2 de cada 10 era partidaria de reducir el consumo

¿No tenemos interiorizado que es también por el uso que hacemos del agua?

Si el problema se entendiese por parte de la ciudadanía como un exceso de demanda hídrica, estoy segura de que habría más apoyo social a reducir el agua que consumimos. Pero, además, solo un 30 % señala al sector agrario como el principal consumidor de agua y solo un 8 % sitúa correctamente su consumo entorno al 80 % del agua disponible. También se entiende así que mayoritariamente rechacen la reducción de las dotaciones de riego o las limitaciones a la extensión de las hectáreas dedicadas al regadío como medidas que podrían adaptar al sector a futuras sequías.

Sin embargo, cuando se les pregunta a qué sector se debe priorizar el agua, la mayoría apunta a la agricultura, por delante del turismo, el medioambiente o la producción energética ¿Es consecuente?

La agricultura es un sector estratégico en la planificación hidrológica y también en la adaptación a la crisis climática porque va a sufrir más sus impactos que otros sectores. Sin embargo, en esa adaptación a los efectos del calentamiento global no basta con hacer más eficientes los sistemas de regadío si no se consigue reducir el consumo. Más de la mitad de las personas encuestadas considera que la superficie dedicada al regadío ha disminuido durante la última década y, por el contrario, la extensión de las hectáreas de cultivos intensivos es la causa principal del estrés hídrico que padece el territorio. Reducir el consumo de agua es una asignatura pendiente de la agricultura intensiva.

Reducir el consumo de agua es una asignatura pendiente de la agricultura intensiva

¿Es consciente la gente encuestada de que la escasez se relaciona con el cambio climático?

Hacer conscientes a los ciudadanos que el tipo de productos que consumimos tienen una huella hídrica que quizás no nos podamos permitir en España, supondría centrar el debate público en otras claves más allá de si los embalses están más o menos llenos.

Forma parte del Observatorio Ciudadano de la Sequía (OCS). ¿Qué datos sobre la escasez hídrica se recogen?

El OCS es un proyecto de ciencia ciudadana financiado por la Fundación Española para la Ciencia y Tecnología (FECYT) en las convocatorias de 2019 y 2021 que actualmente continúa actualizando y elaborando información sobre la situación de los recursos hídricos en España. Los datos sobre clima, usos del agua, estados de las masas de agua, etc. son recabados principalmente de los planes hidrológicos de las distintas demarcaciones y también de otras administraciones públicas. Muchos de estos datos están incluidos en documentos técnicos muy extensos y poco accesible al púbico no experto. Desde el OCS se homogeniza esta información en formatos y repositorios accesibles para la ciudadanía.

¿De qué forma colaboran los ciudadanos con el OCS?

La información que la ciudadanía vuelca en el OCS, sobre cómo percibe los efectos del cambio climático o cuánto confía en las instituciones, nos permite profundizar en el grado de vulnerabilidad social al riesgo de sequía. La vulnerabilidad se define, según la propuesta del Panel Intergubernamental sobre el Cambio Climático (IPCC), en función de la exposición, sensibilidad y capacidad de adaptación. De estos tres componentes, el reto científico en el que la ciencia ciudadana puede realizar grandes aportaciones es precisamente en la capacidad de adaptación.

El reto científico en el que la ciencia ciudadana puede realizar grandes aportaciones es precisamente en la capacidad de adaptación

La normativa europea obliga a las administraciones a fomentar la participación pública en la gestión del agua. ¿Qué implicaciones tiene este hecho?

La Directiva Marco de Agua (DMA, o WDF 2000/60/CE) y su posterior trasposición a la legislación española en 2003 marca como objetivo alcanzar un buen estado ecológico de las masas de agua. Esta normativa obliga a compatibilizar los usos del agua con los objetivos ambientales y cambia la visión tradicional de las políticas de agua, que hasta entonces se diseñaban para dar respuesta a las demandas de otros sectores como el agrícola, el turístico o el desarrollo urbanístico. Para cumplir con los objetivos ambientales, en las dos últimas décadas se han realizado, por ejemplo, importantes inversiones en eficiencia de regadíos, y se ha legislado a favor de los caudales ecológicos o depuración de aguas residuales.

¿A qué se refiere con que los ciudadanos pueden participar?

Para evitar situaciones de conflicto por el uso del agua como los comentados anteriormente, la DMA contempla ampliar la participación pública en la elaboración de los planes hidrológicos de cada demarcación, de modo que incluya no solo a los grupos de interés, sino también a los usuarios no productivos del agua, es decir, al público en general. De este modo, se alinea con los principios de la OCDE sobre nuevas formas de gobernanza que persiguen soluciones más justas y equitativas para la sociedad.

¿Cómo se articula esta participación ciudadana en la toma de decisiones?

Pone a disposición de la ciudadanía más información, los planes hidrológicos cumplen con los periodos de consulta y se organizan procesos de participación en los que se incluyen a los actores clásicos (regantes, hidroeléctricos, usuarios industriales y abastecimientos), y también a representantes de sectores sociales (organizaciones ecologistas, usuarios recreativos, expertos y otras asociaciones ciudadanas). Sin embargo, para las decisiones sobre los temas clave en los planes hidrológicos sigue sin contarse con el público general.

¿Por qué razón?

Hay que corregir la desinformación que hemos detectado en la encuesta sobre los usos del agua, la situación en la que se encuentran los acuíferos, la extensión del regadío o los problemas de escasez de agua más allá de la sequía. Como hemos visto también, este conjunto de opiniones y percepciones forman el contexto en el que los ciudadanos definen sus preferencias sobre planificación hidrológica.

La gestión del agua es un asunto mucho más complejo que cerrar el grifo en casa, debe estar en el debate público

Lidera un estudio reciente sobre la brecha de género y conocimiento político respecto a las preferencias de gestión. ¿Qué diferencias hay entre hombre y mujeres a este respecto?

La mayoría de los trabajos publicados hasta ahora sobre la perspectiva de género en la gobernanza del agua ponen el foco en los países no industrializados y en cómo incorporar a las mujeres a los procesos de toma de decisión como usuarias productivas y no solo como usuarias domésticas. Con nuestro estudio, basado en una encuesta realizada en Andalucía entre 2004 y 2013, comprobamos que muchas de las mujeres andaluzas también siguen pensando en la gestión del agua en clave doméstica, es decir, ponen el foco sobre todo en ahorrar agua en los hogares.

¿Qué refleja esta diferencia de percepción?

En un contexto como el descrito anteriormente, con un grave problema de estrés hídrico, con sequías más severas asociadas al cambio climático y en la que la agricultura consume el 80 % del agua disponible, el ahorro doméstico de agua tiene un impacto mucho menor que la mejora de la eficiencia de los regadíos, que es la postura más apoyada por los hombres. Por tanto, que las mujeres se inclinen más por el ahorro doméstico como medida prioritaria, significa que están más al margen que los hombres de los problemas del agua y de sus soluciones. La gestión del agua es un asunto mucho más complejo que cerrar el grifo en casa. Debe estar en el debate público y necesita de una ciudadanía mejor informada sobre los usos del agua y las posibles soluciones a la situación de escasez para poder participar en ese debate.

Fuente: SINC
Derechos: Creative Commons