Hacker News Front Page · Thore Graepel ·
Don’t be fooled—LLMs don’t reason
Los modelos de lenguaje grandes no razonan de verdad, solo predicen el siguiente token de forma muy sofisticada. El artículo contrasta esto con AlphaGo, que combinaba intuición (redes neuronales que adivinaban movimientos plausibles) con búsqueda deliberada en un árbol de juego, creando un mecanismo de razonamiento genuino. Los LLMs actuales carecen de tres capacidades críticas: no mantienen un estado epistémico explícito sobre lo que saben y dudan, mezclan conocimiento y razonamiento en los pesos de la red sin separarlos, y generan justificaciones falsas después de llegar a respuestas por rutas distintas. Para lograr sistemas de IA confiables en medicina, ciencia e ingeniería, hace falta una arquitectura inspirada en AlphaGo que mantenga un registro de lo que ha considerado, actualice creencias solo con evidencia, y produzca conclusiones auditables en lugar de historias convincentes improvisadas.
Ten years after AlphaGo’s match against Go champion Lee Sedol, today’s AI still isn’t tapping into the machinery that made that win possible.