Sicherheitsforscher haben den ersten funktionsfähigen Verteidigungsmechanismus entwickelt, der Schutz vor „kryptanalytischen“ Angriffen bietet, mit denen die Modellparameter „gestohlen“ werden, die die Funktionsweise eines KI-Systems definieren.
„KI-Systeme sind wertvolles geistiges Eigentum, und kryptanalytische Angriffe zur Parameterextraktion sind der effizienteste, effektivste und präziseste Weg, dieses geistige Eigentum zu ‚stehlen‘“, sagt Ashley Kurian, Erstautorin einer Veröffentlichung zu diesem Thema und Doktorandin an der North Carolina State University. „Bislang gab es keine Möglichkeit, sich gegen diese Angriffe zu verteidigen. Unsere Technik bietet wirksamen Schutz.“
Der neue Verteidigungsmechanismus basiert auf einer zentralen Erkenntnis der Forscher hinsichtlich kryptanalytischer Parameterextraktionsangriffe. Bei der Analyse dieser Angriffe identifizierten sie ein Kernprinzip, auf dem jeder Angriff beruhte. Um ihre Erkenntnisse zu verstehen, muss man die grundlegende Architektur eines neuronalen Netzes kennen.
Der grundlegende Baustein eines neuronalen Netzwerkmodells wird als „Neuron“ bezeichnet. Neuronen sind in Schichten angeordnet und werden nacheinander verwendet, um Eingangsdaten zu analysieren und darauf zu reagieren. Sobald die Daten von den Neuronen der ersten Schicht verarbeitet wurden, werden deren Ausgaben an eine zweite Schicht weitergeleitet. Dieser Prozess setzt sich fort, bis alle Daten vom System verarbeitet wurden. Anschließend entscheidet das System, wie es auf die Eingangsdaten reagiert.
Vollständige bibliografische Informationen
„Train to Defend: First Defense Against Cryptanalytic Neural Network Parameter Extraction Attacks“Autoren: Ashley Kurian und Aydin Aysu, North Carolina State University
Präsentiert auf: The Thirty-Neonth Annual Conference on Neural Information Processing Systems (NeurIPS 2025), 2.-7. Dezember, San Diego, Kalifornien.
