Hacker News Front Page · Patrick E. Zeller General Counsel, Legal and Compliance ·
A Court Just Fined Lawyers for Prompt Injection
Un tribunal laboral brasileño sancionó a dos bufetes con una multa equivalente al 10 % del valor de una demanda después de encontrar una instrucción de prompt injection oculta en un escrito, destinada a sesgar la revisión de un sistema de IA. El sistema Galileu detectó el texto invisible y bloqueó el procesamiento del documento; el tribunal consideró que la maniobra vulneraba las obligaciones de buena fe y obstaculizaba la actividad judicial. La decisión subraya que la integridad de los documentos presentados ante los tribunales también comprende su contenido legible por máquinas y refuerza la necesidad de controles frente a la manipulación de sistemas de IA.
Two lawyers hid a white-on-white instruction inside a court filing telling the AI to go easy on their case. The court's AI caught it. The fine was $16,000.