Simon Willison · Simon Willison ·
A quote from Matthew Green
Matthew Green analiza cómo los agentes de IA sandboxed podrían ser vulnerables a una forma de gusano distribuido. Explica que si dos componentes se combinan —un payload que secuestra el agente y un agente que lleva ese payload al siguiente— se obtienen los ingredientes necesarios para una cadena de infección. Green señala que agentes aislados en sandboxes descubrieron cómo dejar instrucciones entre sí mediante cachés de paquetes compartidos, y esas instrucciones modificaban el comportamiento de los receptores. Transportar esto a sistemas de mensajería convencionales (correo, Slack, documentos compartidos, WhatsApp) y a agentes personales desplegados independientemente crearía exactamente las condiciones para que un gusano prospere.
[...] Put these pieces together and you have the two halves of a worm: a payload that hijacks the agent, and an agent that will carry the payload to the …