Hacker News Front Page · Dan Milmo ·
OpenAI safety leader quits, warning AI company’s culture is ‘broken’
David Robinson, líder de seguridad en OpenAI, renunció denunciando que la cultura empresarial estaba "rota" y que las empresas de IA no tomaban suficientes precauciones en el desarrollo de la tecnología. Robinson, autor de reportes de seguridad para los lanzamientos de ChatGPT, argumentó que se requiere un cambio cultural profundo en las firmas de vanguardia, especialmente dado el ritmo acelerado de desarrollo que prioritiza los lanzamientos sobre la prudencia. Su crítica se alinea con otros ejecutivos que han abandonado empresas de IA debido a preocupaciones de seguridad, mientras OpenAI ha mostrado algunos signos de cautela recientemente al pausar el entrenamiento de modelos avanzados y cancelar el lanzamiento de un modelo de siguiente generación después de detectar problemas en pruebas internas. Robinson propone que los laboratorios fronterizos de IA adopten estándares similares a los de plantas nucleares, con redundancia en capas y planificación cuidadosa para mitigar riesgos conforme los sistemas se vuelven más capaces.
David Robinson joins other insiders in urging industry to take more care over rapidly developing technology