Hacker News Front Page · Benjamin Skuse ·
I Tried to Fool a Scientific Publisher With AI
El experimento muestra que modelos gratuitos pueden producir un manuscrito científico convincente sobre investigaciones inexistentes, aunque las citas inventadas permitieron detectar el primero y los revisores identificaron problemas en un segundo texto generado por un sistema autónomo de investigación. Estos sistemas ya pueden buscar bibliografía, diseñar y ejecutar experimentos digitales y redactar artículos, lo que aumenta la presión sobre un proceso de revisión por pares que ya está sobrecargado. El artículo sostiene que la IA agrava fallas estructurales como la cultura de publicar o perecer y que la ciencia necesitará controles de reproducibilidad y procedencia, además de un debate sobre el papel de la evaluación humana.
My experiment with an IEEE journal revealed AI’s threats to scholarly publishing