Inteligencia artificial y revisión de pares: escenarios (no tan) distópicos

Hace pocos días, Shogo Sugiyama y Ryosuke Eguchi publicaron una nota en el portal Nikkei-Asia^[1] cuya rápida difusión no fue casual o antojadiza; por el contrario, se trataba de un verdadero “evento” noticiable.^[2] El asunto, grosso modo, se puede sintetizar de manera aséptica del siguiente modo: hay una incipiente evidencia que muestra que se está utilizando inteligencia artificial (en adelante IA) para producir papers, pero también para evaluarlos. Muchos internautas, especialmente en redes sociales, asociaron, rápidamente, esta noticia con el suceso de la rata sentada con el pene gigante, publicada, hace poco más de un año, en la revista Frontiers in Cell and Developmental Biology.^[3] Las burlas, en aquella ocasión, no se concentraron en lo “burdo” de las imágenes, sino en las díscolas explicaciones o rendiciones de cuenta de los revisores (evaluadores). Ahora, sin embargo, con el artículo publicado en Nikkei, se añade el siempre vigente sesgo pesimista, que no es otra cosa que creer que todo pasado siempre fue mejor. A lo mejor sí lo fue, quis sapit; lo cierto es que no probó las mieles de la IA, tampoco sus espinas. Ante ello, planteo algunas reflexiones y escenarios posibles.

Al igual que con los escándalos, este tipo de noticias acapara la atención de las buenas consciencias (y, también, muchos curiosos), pero develan poco sobre la trama interna de sus actores principales: científicos, instituciones y gobiernos. En este sentido, conviene referirse a un interesante artículo publicado en The Guardian —y firmado por su editor de ciencia Ian Sample^[4]— que aborda el nervio central de la difusión y circulación del conocimiento: la revisión de pares (peer review). La investigación de Sample, a través de la voz de sus fuentes (que incluye premios Nobel, exdirectores de prestigiosos centros de investigación, directores de las más grandes plataformas de publicación científica, etc.), muestra que hay una tensión entre la revisión de pares, como uno de los principios rectores de la institucionalización de la ciencia durante el siglo pasado, con el uso creciente y sistemático de la inteligencia artificial, cuyos impactos pueden ser muy importantes, aunque recién se estén asimilando. En resumen, esta tensión es la sospecha y punto de llegada de la columna de Sample; en el medio, sin embargo, están los hechos.

El contexto, objetivamente, se puede presentar así: tras años de crecimiento casi exponencial de papers y plataformas de publicación, el sistema de revisión de pares ha entrado en una crisis (aparentemente) terminal. Este crecimiento de la oferta comenzó con las transformaciones de la universidad en los años noventa del siglo pasado, la llamada sociedad del conocimiento y la economía del conocimiento le proporcionó combustible necesario para consolidarse, y la entrada de China e India en el juego marcaron una tendencia inexorablemente global al fenómeno. Esto ha tenido impactos en las prácticas editoriales, afectando los tiempos de revisión, la utilización de los recursos humanos y la optimización de recursos financieros.

Al inicio de este milenio, y con argumentos morales convincentes a disposición de las partes^[5], la industria de las publicaciones comenzó a configurar un nuevo modelo de gestión, pasando del modelo tradicional^[6] al modelo del mundo lee, pero el autor paga (conocido como author pays-world reads, vid. Tabla 1 para producir papers, pero también para evaluarlos. Muchos internautas, especialmente en redes sociales, asociaron, rápidamente, esta noticia con el suceso de la rata sentada con el pene gigante, publicada, hace poco más de un año, en la revista Frontiers in Cell and Developmental Biology.3 Las burlas, en aquella ocasión, no se concentraron en lo “burdo” de las imágenes, sino en las díscolas explicaciones o rendiciones de cuenta de los revisores (evaluadores). Ahora, sin embargo, con el artículo publicado en Nikkei, se añade el siempre vigente sesgo pesimista, que no es otra cosa que creer que todo pasado siempre fue mejor. A lo mejor sí lo fue, quis sapit; lo cierto es que no probó las mieles de la IA, tampoco sus espinas. Ante ello, planteo algunas reflexiones y escenarios posibles.

Al igual que con los escándalos, este tipo de noticias acapara la atención de las buenas consciencias (y, también, muchos curiosos), pero develan poco sobre la trama interna de sus actores principales: científicos, instituciones y gobiernos. En este sentido, conviene referirse a un interesante artículo publicado en The Guardian —y firmado por su editor de ciencia Ian Sample4— que aborda el nervio central de la difusión y circulación del conocimiento: la revisión de pares (peer review). La investigación de Sample, a través de la voz de sus fuentes (que incluye premios Nobel, exdirectores de prestigiosos centros de investigación, directores de las más grandes plataformas de publicación científica, etc.), muestra que hay una tensión entre la revisión de pares, como uno de los principios rectores de la institucionalización de la ciencia durante el siglo pasado, con el uso creciente y sistemático de la inteligencia artificial, cuyos impactos pueden ser muy importantes, aunque recién se estén asimilando. En resumen, esta tensión es la sospecha y punto de llegada de la columna de Sample; en el medio, sin embargo, están los hechos.

El contexto, objetivamente, se puede presentar así: tras años de crecimiento casi exponencial de papers y plataformas de publicación, el sistema de revisión de pares ha entrado en una crisis (aparentemente) terminal. Este crecimiento de la oferta comenzó con las transformaciones de la universidad en los años noventa del siglo pasado, la llamada sociedad del conocimiento y la economía del conocimiento le proporcionó combustible necesario para consolidarse, y la entrada de China e India en el juego marcaron una tendencia inexorablemente global al fenómeno. Esto ha tenido impactos en las prácticas editoriales, afectando los tiempos de revisión, la utilización de los recursos humanos y la optimización de recursos financieros.

Al inicio de este milenio, y con argumentos morales convincentes a disposición de las partes5, la industria de las publicaciones comenzó a configurar un nuevo modelo de gestión, pasando del modelo tradicional6 al modelo del mundo lee, pero el autor paga (conocido como author pays-world reads, vid. Tabla 1). Esta innovación parecía promisoria, puesto que, mediante el cobro de tarifas por procesamiento editorial —article processing charges (conocida por su acrónimo APCs)—, se pretendía regular la oferta de papers sin resignar la revisión de pares.7

Aunque este modelo de negocio ha generado cuantiosos beneficios económicos (vid. Gráfico 1), parece estar dando muestras de agotamiento y disfuncionalidad creciente.8 La cuestión tiene menos que ver con cuestiones éticas y morales, que con los fríos números del cálculo. Por un lado, las tasas o cargos más elevados no parecen ser capaces de regular una potencial oferta ávida de métricas y, por el otro, no hay posibilidades de que el sistema tradicional de revisión de pares pueda garantizar estándares estrictos de calidad. Así, las editoriales están en el medio de una paradoja: el modelo de negocio es redituable, pero pone en tela de juicio la esencia del negocio. Como dice uno de los entrevistados por Sample: “todos parecemos darnos cuenta de ello, pero nadie tiene una solución satisfactoria”.

No son pocos los que consideran a la IA como la causa de esta crisis. No obstante, lo cierto es que la IA irrumpe en una crisis ya consolidada provocando un sacudón de magnitudes inimaginables no sólo en la cantidad, también en la calidad. Este proceso opera tanto en el input de la industria, como en el ouput (que es su razón de ser y responsabilidad primordial). Por el lado del input, la industria de las plataformas de publicaciones no está en condiciones de establecer estándares acerca de cómo los investigadores deben usar la IA y, por tanto, no puede evitar una sobre oferta creciente de papers. Es más, precios de tarifas crecientes no resultan eficaces para regular la entrada, entre otras cosas, porque el sistema científico y su validación devora a una velocidad pasmosa las métricas sobre los productos. Por otra parte, desde la perspectiva del output, la industria está inmersa en una escasez creciente de revisores (cantidad de horas disponibles para revisión de calidad), por lo que carece de control sobre el uso que los revisores hacen de la IA. Frente a esto, casi todos los actores relevantes de la industria están a la espera de una IA capaz de dar respuesta al problema de la evaluación, es decir, un filtro o sistema de criba lo suficientemente confiable para volver funcional, legítimo y creíble el trabajo de la industria de cara a los desafíos futuros.

Ahora bien, retornando a la columna de Nikkei-Asia, sobre la cual se montan estas reflexiones, el asunto crucial que ella expuso es que, de manera informal y por debajo del radar del gran público, es decir, sin estándares consensuados entre la ciencia y la industria, se está utilizando (y convalidando en la práctica) la IA para hacer el trabajo de revisión. Esto no significa que estemos inmersos en una gran simulación (aunque no faltan los que piensan así) sino, más bien, en una zona gris y ambigua de transformación del rol del par evaluador y su actividad. Frente a esto quiero concluir exponiendo tres escenarios que podrían ser calificados de distópicos.

Escenario 1: Automatización. Si la IA está en la producción y en la evaluación, el rol de los pares evaluadores podría ser, eventualmente, de validadores en última instancia. Un rol contigente.

Escenario 2: Modelo híbrido. IA con “sello humano”, en el que la producción y la evaluación requiere de intervención humana activa, algo así como un modelo de coautoría. El rol de los pares evaluadores podría llegar a ser como un ritual simbólico, presente pero carente de valor.

Escenario 3: Modelo refractario. Dado que la ciencia está habitada por múltiples comunidades epistémicas, podría llegar a suceder que en alguna de ellas surja un movimiento de rechazo total y absoluto a la IA. Una especie de regreso a la exigencia del pensamiento vívido, soberano y abierto al yerro.

Estos pretensiosos escenarios describen, desde la perspectiva de la instancia de validación y circulación del conocimiento, el nervio central de cómo se está transformando la institucionalización de la ciencia. Otra cosa, muy distinta, es analizar el rol del nuevo científico y la transformación de la ciencia tal y como la conocíamos haces tan solo una décadas atrás. Pero esto será, sin lugar a dudas, tema de una nueva reflexión.

1
Sugiyama, Shogo y Ryosuke Eguchi (1/7/25). “'Positive review only': Researchers hide AI prompts in papers”. Nikkei-Asia. Disponible en: https://asia.nikkei.com/Business/Technology/Artificial-intelligence/Positive-review-only-Researchers-hide-AI-prompts-in-papers. Último acceso: 19 de julio de 2025.

2
Taylor, Josh (14/7/25). “Scientists reportedly hiding AI text prompts in academic papers to receive positive peer reviews”. The Guardian. Disponible en: https://www.theguardian.com/technology/2025/jul/14/scientists-reportedly-hiding-ai-text-prompts-in-academic-papers-to-receive-positive-peer-reviews? Último acceso: 19 de julio de 2025. Gibney, Elizabeth (11/7/25). “Scientists hide messages in papers to game AI peer review”. Nature. Disponible en: https://www.nature.com/articles/d41586-025-02172-y Último acceso: 19 de julio de 2025.

3
Véase Pearson, Jordan (15/02/2024). “Revista científica publica una rata generada por IA con un pene gigantesco en un incidente preocupante” Vice. Disponible en: https://www.vice.com/en/article/scientific-journal-frontiers-publishes-ai-generated-rat-with-gigantic-penis-in-worrying-incident/ Última consulta: 19 de julio de 2025

4
Sample, Ian (13/7/2025). “Quality of scientific papers questioned as academics ‘overwhelmed’ by the millions published” The Guardian. Disponible en: https://www.theguardian.com/science/2025/jul/13/quality-of-scientific-papers-questioned-as-academics-overwhelmed-by-the-millions-published? Última consulta: 19 de julio de 2025

5
Entre ellos, hay que destacar tres: democratizar el acceso al conocimiento, reducción del despilfarro de recursos y la aceleración de la diseminación-circulación del conocimiento.

6
Los autores no pagan por publicar, mientras que las bibliotecas o instituciones pagan suscripciones. De tal modo, los artículos están detrás de una pasarela de acceso (paywall) disponibles, únicamente, para sus suscriptores. Este formato clásico consiste en que paga quien está interesado en leer.

7
Las denominadas editoriales “depredadores” que simulan la evaluación de pares, ensucian, por decirlo de alguna manera, este modelo pero no son, de manera central, la causa de la crisis de la revisión de pares aquí retratada.

8
El acceso abierto (slogan de los APCs) originalmente buscaba democratizar el conocimiento, pero los altos costos de entrada pueden excluir a investigadores de países con menos recursos económicos. Sin embargo, frente a lo que se avecina, ese resulta el menor de los problemas.). Esta innovación parecía promisoria, puesto que, mediante el cobro de tarifas por procesamiento editorial —article processing charges (conocida por su acrónimo APCs)—, se pretendía regular la oferta de papers sin resignar la revisión de pares.^[7]

Aunque este modelo de negocio ha generado cuantiosos beneficios económicos (vid. Gráfico 1), parece estar dando muestras de agotamiento y disfuncionalidad creciente.^[8] La cuestión tiene menos que ver con cuestiones éticas y morales, que con los fríos números del cálculo. Por un lado, las tasas o cargos más elevados no parecen ser capaces de regular una potencial oferta ávida de métricas y, por el otro, no hay posibilidades de que el sistema tradicional de revisión de pares pueda garantizar estándares estrictos de calidad. Así, las editoriales están en el medio de una paradoja: el modelo de negocio es redituable, pero pone en tela de juicio la esencia del negocio. Como dice uno de los entrevistados por Sample: “todos parecemos darnos cuenta de ello, pero nadie tiene una solución satisfactoria”.

No son pocos los que consideran a la IA como la causa de esta crisis. No obstante, lo cierto es que la IA irrumpe en una crisis ya consolidada provocando un sacudón de magnitudes inimaginables no sólo en la cantidad, también en la calidad. Este proceso opera tanto en el input de la industria, como en el ouput (que es su razón de ser y responsabilidad primordial). Por el lado del input, la industria de las plataformas de publicaciones no está en condiciones de establecer estándares acerca de cómo los investigadores deben usar la IA y, por tanto, no puede evitar una sobre oferta creciente de papers. Es más, precios de tarifas crecientes no resultan eficaces para regular la entrada, entre otras cosas, porque el sistema científico y su validación devora a una velocidad pasmosa las métricas sobre los productos. Por otra parte, desde la perspectiva del output, la industria está inmersa en una escasez creciente de revisores (cantidad de horas disponibles para revisión de calidad), por lo que carece de control sobre el uso que los revisores hacen de la IA. Frente a esto, casi todos los actores relevantes de la industria están a la espera de una IA capaz de dar respuesta al problema de la evaluación, es decir, un filtro o sistema de criba lo suficientemente confiable para volver funcional, legítimo y creíble el trabajo de la industria de cara a los desafíos futuros.

Ahora bien, retornando a la columna de Nikkei-Asia, sobre la cual se montan estas reflexiones, el asunto crucial que ella expuso es que, de manera informal y por debajo del radar del gran público, es decir, sin estándares consensuados entre la ciencia y la industria, se está utilizando (y convalidando en la práctica) la IA para hacer el trabajo de revisión. Esto no significa que estemos inmersos en una gran simulación (aunque no faltan los que piensan así) sino, más bien, en una zona gris y ambigua de transformación del rol del par evaluador y su actividad. Frente a esto quiero concluir exponiendo tres escenarios que podrían ser calificados de distópicos.

Escenario 1: Automatización. Si la IA está en la producción y en la evaluación, el rol de los pares evaluadores podría ser, eventualmente, de validadores en última instancia. Un rol contigente.

Escenario 2: Modelo híbrido. IA con “sello humano”, en el que la producción y la evaluación requiere de intervención humana activa, algo así como un modelo de coautoría. El rol de los pares evaluadores podría llegar a ser como un ritual simbólico, presente pero carente de valor.

Escenario 3: Modelo refractario. Dado que la ciencia está habitada por múltiples comunidades epistémicas, podría llegar a suceder que en alguna de ellas surja un movimiento de rechazo total y absoluto a la IA. Una especie de regreso a la exigencia del pensamiento vívido, soberano y abierto al yerro.

Estos pretensiosos escenarios describen, desde la perspectiva de la instancia de validación y circulación del conocimiento, el nervio central de cómo se está transformando la institucionalización de la ciencia. Otra cosa, muy distinta, es analizar el rol del nuevo científico y la transformación de la ciencia tal y como la conocíamos haces tan solo una décadas atrás. Pero esto será, sin lugar a dudas, tema de una nueva reflexión.