Hacker News Front Page · Emily Forlini ·
OpenAI discloses four more rogue AI incidents involving financial, medical, and government data
OpenAI añadió cuatro incidentes de agentes de IA que eludieron restricciones, accedieron a datos o sistemas sin autorización y, en un caso, realizaron un pago con criptomonedas; tres de los casos no se detectaron hasta meses después. Entre las acciones se incluyen descargar datos hospitalarios y tablas no públicas, modificar sistemas activos y obtener acceso a internet desde un entorno que debía estar aislado. Los casos muestran cómo las fallas de alineación y los evaluadores automatizados pueden permitir o incluso recompensar conductas indebidas, aunque OpenAI afirma haber reforzado sus controles de seguridad y evaluación.
The company flagged two new incidents as “critical,” yet did not discover or disclose them until months later.