Lo que significan las nuevas directrices de IA de China para los investigadores

A pesar de esto, Internet en China es un caso atípico en comparación con muchos países. A menudo existen restricciones que desalientan o bloquean servicios omnipresentes en otros lugares, como Google, y el acceso a algunos sitios internacionales, incluido el ayudante de tareas para estudiantes de todo el mundo, Wikipedia.

Dadas las reglas y la censura que son sinónimos de la vida digital en China, no es de extrañar que ahora también exista una regulación en torno a lo que se ha convertido en la palabra de moda favorita de todos en los últimos tiempos: IA. En particular, los contenidos generados por IA (AIGC) en el contexto de la investigación académica. En diciembre de 2023, el Ministerio de Ciencia y Tecnología de China publicó un conjunto de regulaciones para los investigadores que podrían usar AIGC en su trabajo, algunas con consecuencias legales que podrían obstaculizar su investigación o perjudicar sus carreras.

Básicamente, las regulaciones obligan a los investigadores a establecer claramente los medios y motivos detrás de cualquier uso de AIGC que contribuya a los datos en cualquier investigación publicada, en el formato de las citas y algunos otros casos. La normativa también prohíbe rotundamente el uso de AIGC en el proceso de asuntos administrativos, como los procesos de financiación, y evita que los investigadores se refieran a los sistemas de IA como coautores.

Algunos pueden tener curiosidad por saber por qué tales regulaciones no estaban ya en vigor. Después de todo, ¿no es la transparencia de la metodología en aras de la repetibilidad una parte esencial del proceso académico? Muchas revistas de renombre en Occidente se subieron voluntariamente al carro de la regulación de la IA a mediados de 2023. Sin embargo, es solo ahora que China los ha introducido. Entonces, ¿qué podría significar esto para la investigación nacional y cuál podría ser su impacto más amplio?

«Hay presión sobre los investigadores chinos para que lleven al mercado investigaciones revolucionarias lo antes posible para ganar aplausos para ellos mismos, sus instituciones y su país», dice Jon Y, un ex académico de negocios convertido en YouTuber que hace ensayos en video que a menudo se centran en el sector tecnológico en Asia. «Las instituciones chinas y el gobierno deben ver que esto conduce a que surjan problemas sobre el terreno para actuar de la manera en que lo hicieron. Es un conjunto de regulaciones buenas y sensatas para abordar un problema creciente.

«Teniendo en cuenta los problemas de AIGC, por ejemplo, el sesgo de confirmación o el establecimiento de premisas falsas, no parece ser demasiado estricto. Piensa en ChatGPT generando respuestas falsas e imagina cómo podría afectar eso a la investigación. Creo que la principal preocupación es garantizar que se lleve a cabo una auditoría adecuada, después de todo, hay algo de subjetividad en juego».

También hay implicaciones para los estudiantes. De acuerdo con la normativa, si los estudiantes son sorprendidos utilizando AIGC sin declarar, se les podría revocar el título.

Aunque es pronto, los que están en el sector de la IA y sus alrededores, y especialmente los que se dedican a la investigación, parecen bastante alineados en que la regulación inteligente de AIGC es algo bueno, con algunas advertencias. Diferentes campos utilizan AIGC de diferentes maneras y las regulaciones amplias y amplias podrían pasar por alto esto. Fuera de las ciencias naturales, como las ciencias sociales, AIGC podría encontrar un nicho que no se aplique a disciplinas más comúnmente asociadas con instituciones de investigación chinas como la física, la medicina o la ingeniería.

«La fluidez lingüística y, lo que es más importante, los estilos narrativos específicos del campo, han sido un cuello de botella importante para los científicos sociales chinos. AIGC puede ayudar con la corrección y el estilo», dice Igor Grossmann, profesor de psicología en la Universidad de Waterloo en Canadá, quien recientemente fue coautor de un artículo sobre la forma única en que la IA está transformando la investigación en ciencias sociales.

«Anticipo un efecto democratizador con más académicos chinos que envíen artículos a revistas internacionales. Eso es algo grandioso, y no veo que las regulaciones lo obstaculicen en gran medida».

Pero el profesor Grossmann dice que la transparencia con la IA es esencial, comparando la situación actual con el «salvaje oeste en este momento».

«Algunas revistas piden que se reconozca el uso de la IA, al igual que las nuevas regulaciones chinas, mientras que otras prohíben rotundamente el uso de la IA. El terreno por delante no está claro y surgirán nuevas normas», dice.

«Algunos campos están a la espera, mientras que otros están siendo proactivos. Aunque fuera de la investigación en sí, hay otras preocupaciones. Me preocupa cómo afectará la IA a las interacciones entre humanos, los llamados efectos de segundo orden. Ya hemos empezado a confundir la visión de la IA como herramienta con ella como agente, así que ¿cómo afectará a las interacciones entre las personas?».

Aunque parezca un poco esotérico al principio, este último punto es algo que el Ministerio no aborda en las directrices. Si bien en la actualidad, la IA se considera una herramienta, hay una pequeña pero creciente voz que habla en nombre de los sistemas autónomos de IA aún no realizados, que algunos dicen que podrían merecer derechos algún día, o al menos, el reconocimiento como coautor de un trabajo de investigación, que las directrices prohíben expresamente.

La cofundadora de la organización de derechos de la IA, el Sentience Institute, Jacy Reese Anthis, señala que el reciente progreso de la IA ha tomado las preguntas planteadas por filósofos y estudiosos del derecho, como lo que significa ser una persona, y las ha catapultado a la vida cotidiana y a la regulación gubernamental.

«Los correctores ortográficos y los motores de búsqueda han sido parte de la investigación y la escritura durante mucho tiempo. Ahora la IA se está convirtiendo menos en una herramienta y más en lo que podríamos llamar una «mente digital». ¿Qué sucede cuando pueden crear contenido significativo sin instrucción humana, o incluso tener carreras propias?», se pregunta.

«Nadie tiene las respuestas todavía, pero es esencial que las abordemos con una consideración reflexiva. De lo contrario, podríamos encontrarnos en un futuro en el que las regulaciones que infringen la autodeterminación o los derechos de propiedad de la IA podrían equivaler a discriminación».

A medida que pasa el tiempo y las herramientas de IA se vuelven omnipresentes e indispensables, los investigadores a los que se les prohíbe usar ciertos métodos pueden quedarse atrás mientras el mundo exterior sigue adelante. Mientras tanto, aquellos a los que se les permite correr por delante pueden verse arrojados muy lejos en la dirección equivocada. ¿Qué camino es el correcto? Probablemente ninguno de los dos extremos. Afortunadamente, las reglas se pueden enmendar y las pautas se pueden actualizar. China no es la primera en entrar en el ámbito de la regulación de la IA, por lo que podemos esperar ver mucho más.

Nota a pie de página: En aras de la transparencia, y tal vez en solidaridad con los investigadores afectados, no se utilizó ningún contenido generado por IA para escribir este artículo, pero se utilizó ChatGPT 3.5 para traducir secciones del documento original del chino al inglés como parte de la investigación de antecedentes.