Hacker News Front Page · Keyvan ·
AI text watermarking and quality loss
El texto sostiene que las marcas de agua para detectar contenido generado por IA pueden reducir la diversidad entre respuestas, aunque cada respuesta aislada parezca conservar su calidad. Esa menor diversidad puede afectar tareas creativas y métodos que comparan varias respuestas para estimar la confianza, porque las respuestas dejan de ser independientes. El autor considera que las pruebas citadas no evalúan suficientemente este efecto y que repetir las consultas solo atenúa el problema a costa de la experiencia de uso o de la eficacia de detección.
After the EU AI Act’s transparency guidelines went into effect, and following the announcement that most major AI labs will soon be watermarking their text output to comply, there has been some debate about how much of an impact this is going to have, if any, on the quality of the text produced by AI models.