Hacker News Front Page · Darek Stojaczyk, Rafael Tinoco. Stealthium Core Team. ·
Hands Off: Detecting Model Weight Tampering
El texto muestra cómo un ataque ROME puede alterar pesos de un modelo directamente en la memoria de la GPU, sin modificar archivos ni generar la actividad que suelen detectar las herramientas de seguridad centradas en procesos. En una demostración, Stealthium relaciona los lanzamientos de kernels CUDA con sus pilas de llamadas de Python y presenta una investigación complementaria que vincula las escrituras de tensores con el código que las inició, lo que ayuda a distinguir una carga legítima de una modificación posterior. La publicación sostiene que combinar señales de la GPU, Python y el framework permite investigar mejor la manipulación de modelos, aunque la detección de cambios de pesos se describe como una línea de investigación.
This article introduces Rank-One Model Editing (ROME) attacks, where a malicious Python module rewrites a model's weights in GPU memory to corrupt its answers, and explains why CPU-focused security tooling misses this class of attack. We then run a ROME attack in our lab and show how Stealthium detects model tampering via our runtime sensor, which ties every CUDA kernel launch back to the Python code that issued it, and new on-going research that detects the weight changes together with the call stack that caused it.