Hacker News Front Page · Jason Koebler ·
Someone ‘Torturing’ LLMs in a Robot Prison Has Triggered the Dumbest Debate in AI Yet
El autor sostiene que los modelos de lenguaje no son conscientes y que su entrenamiento con textos humanos no ofrece una vía plausible para que lo sean. Critica a quienes piden proteger el supuesto bienestar de los modelos mientras promueven agentes de IA diseñados para realizar tareas humanas, y presenta la controversia en torno a un proyecto de «tortura» simulada como un ejemplo de lo desviado que considera el debate.
The "AI Torture Chamber" has opened an upsetting and absurd window into the effective altruist obsession with "model welfare."