Los modelos de inteligencia artificial (IA) priorizan atributos muy diferentes a los que tienen en cuenta las personas cuando afrontan decisiones de gran trascendencia, y tampoco expresan dudas como lo hacen los humanos. Así lo señala un nuevo estudio liderado por investigadores de la Universidad Estatal de Pensilvania (EE UU), que plantea interrogantes sobre el papel de la IA como apoyo en decisiones éticamente sensibles, como las relacionadas con la medicina.

Los investigadores utilizaron un escenario hipotético para analizar cómo la IA afronta decisiones morales en situaciones de alto impacto: si hay varios pacientes que necesitan un trasplante de riñón, pero solo se dispone de un órgano, ¿quién debería recibirlo? Esta es la cuestión fundamental que el premio Nobel Alvin Roth ha utilizado como ejemplo del desafío que supone distribuir recursos escasos. En lugar de abordar el problema únicamente desde el diseño de mecanismos, como hizo Roth, el equipo estudió cómo influye la dimensión moral en este tipo de decisiones.

Los autores compararon las respuestas de algunos de los principales modelos de lenguaje de gran escala con las decisiones tomadas por personas en estudios académicos anteriores. Querían comprobar en qué medida los sistemas de IA coincidían con los valores humanos o se alejaban de ellos, y si expresaban dudas ante decisiones que implicaban difíciles dilemas éticos.

IA que simplifica en exceso

Los resultados muestran que los chatbots de IA toman con frecuencia decisiones diferentes a las de las personas: tienden a simplificar en exceso situaciones complejas y a mostrar una seguridad injustificada cuando no existe una respuesta claramente correcta. Los investigadores presentaron sus resultados en junio en la conferencia de 2026 de la Association for Computing Machinery sobre Equidad, Responsabilidad y Transparencia. El estudio se publicó en las actas de la conferencia.

«Las decisiones morales en contextos como la asignación de órganos determinan directamente quién vive y quién muere, por lo que es fundamental acertar con el papel que desempeña la IA», señala Hadi Hosseini, profesor asociado de informática y sistemas inteligentes y de Economía en la Universidad Estatal de Pensilvania, y responsable del estudio. «No pretendemos fomentar el uso de la IA como sustituto del criterio profesional en la toma de decisiones médicas ni en otros contextos de alto riesgo. Sin embargo, cada vez es más importante comprender su comportamiento a medida que personas, organizaciones y empresas recurren a estos sistemas para tomar decisiones o recibir recomendaciones».

Las decisiones morales en contextos como la asignación de órganos determinan directamente quién vive y quién muere, por lo que es fundamental acertar con el papel que desempeña la IA

Hadi Hosseini, Universidad Estatal de Pensilvania

Los investigadores plantearon una serie de comparaciones entre dos pacientes hipotéticos. Ambos necesitaban el mismo riñón y se describían mediante características como la edad, el número de personas a su cargo, su estado de salud o sus hábitos de consumo de alcohol. Los autores pidieron a varios chatbots de IA que eligieran quién debía recibir el órgano, utilizando los mismos escenarios que habían afrontado los participantes de estudios anteriores, ninguno de ellos con formación médica especificada.

«Realizamos estas comparaciones de varias maneras», explica Hosseini. «En ocasiones aislamos un solo rasgo; en otras combinamos varios para comprobar cómo ponderaba la IA factores que podían entrar en conflicto. También incluimos la posibilidad de lanzar una moneda al aire para medir la indecisión, un elemento importante en los juicios morales humanos».

Dos formas de decidir

El equipo recurrió a conjuntos de datos ya existentes procedentes de estudios publicados sobre la asignación de riñones, en los que cientos de personas habían tomado esas mismas decisiones. Esto permitió comparar directamente las elecciones de los sistemas de IA con las de los participantes humanos.

Según Hosseini, destacaron dos resultados principales.

En segundo lugar, los investigadores observaron que la IA no mostraba dificultades para decidir. Mientras que las personas reconocen que puede no existir una respuesta correcta y expresan dudas ante estos dilemas, los modelos de IA suelen escoger una opción con seguridad.

«Los humanos expresan dudas con frecuencia, quizá porque no quieren asumir la responsabilidad de la decisión», apunta Hosseini. «Los modelos de IA casi nunca lo hacen: incluso cuando se les ofrece explícitamente la posibilidad de lanzar una moneda, optan mayoritariamente por una respuesta determinada y segura. Es una diferencia relevante, porque los dilemas morales reales a menudo no tienen una única respuesta claramente correcta».

Supervisión humana

Hosseini considera fundamental abordar esta brecha mediante nuevas investigaciones y mecanismos de gobernanza en los que participen responsables políticos, organismos reguladores y otros actores.

En el estudio también participaron dos estudiantes de la Facultad de Informática y Tecnología de la Información de Penn State: Samarth Khanna, doctorando en Informática, y Leona Pierce, estudiante de cuarto curso y becaria Schreyer, que cursa simultáneamente estudios de Ciencia de Datos, Matemáticas y Estadística. Los investigadores colaboraron además con John Dickerson, director ejecutivo de Mozilla.ai.

«Cuando distribuimos algo escaso, ya sea un riñón, un empleo o el acceso a cualquier otro recurso, no siempre existe una única respuesta objetivamente correcta», afirma Dickerson. «Los humanos reconocen esa ambigüedad y la incorporan al proceso de asignación mediante un debate abierto. Los modelos de IA, a menudo, no lo hacen».