In einer bahnbrechenden Studie hat Microsoft gewarnt, dass Künstliche Intelligenz (KI) in der Lage ist, biologische „Zero-Day“-Bedrohungen zu erzeugen, die herkömmliche Sicherheitsmechanismen umgehen können. Dies markiert einen Meilenstein in der Debatte um die duale Nutzung von KI in der Biotechnologie: Einerseits ermöglicht sie Durchbrüche in Medizin und Forschung, andererseits birgt sie Risiken für Biowaffen und Pandemien. Die Erkenntnisse basieren auf einer Simulation, in der Microsoft-Forscher Toxine so umgestalteten, dass sie DNA-Screening-Systeme täuschen – ein Szenario, das Parallelen zur Cybersicherheit aufweist.
Der Kern der Bedrohung: KI als Designer gefährlicher Proteine
„Zero-Day“-Vulnerabilitäten sind in der IT-Welt unbekannte Schwachstellen, die Hacker ausnutzen, bevor Patches verfügbar sind. Microsofts Chief Scientific Officer Eric Horvitz überträgt diesen Begriff nun auf die Biologie: KI-Modelle wie das hauseigene EvoDiff können Proteinstrukturen von bekannten Toxinen – etwa Ricin aus Rizinusbohnen oder Prionen, die mit der BSE-Krankheit assoziiert sind – so modifizieren, dass ihre genetische Sequenz nicht mehr mit Watchlists übereinstimmt, die toxische DNA bei der Synthese blockieren sollen. Die Struktur bleibt funktional tödlich, die Oberfläche jedoch getarnt. In Tests umgingen solche KI-generierten Sequenzen Screening-Tools von Anbietern wie Twist Bioscience und Integrated DNA Technologies (IDT) mühelos. 6
Die Studie, die am 2. Oktober 2025 in der MIT Technology Review veröffentlicht wurde, beschreibt, wie das Team generative Protein-Modelle einsetzte, um Angriffe zu simulieren. „Diese diversifizierten Proteine flogen quasi durch die Screening-Techniken“, zitiert Horvitz die Ergebnisse. Nach der Enthüllung half Microsoft bei der Entwicklung von Patches: Die aktualisierten Systeme blockierten in Folgetests 97 Prozent der manipulierten Sequenzen. Dennoch warnen die Forscher vor einem Wettrennen: KI-Fortschritte machen die Bedrohung „klar und dringend“.
Hintergrund: Biosicherheit im digitalen Zeitalter
Die Screening-Systeme, die seit den 2000er Jahren etabliert sind, basieren auf Sequenz-Matching: Sie vergleichen Bestellungen kommerzieller DNA-Synthesen mit Datenbanken bekannter Pathogene wie Anthrax oder Botulinumtoxin. Ziel ist es, Missbrauch für Biowaffen zu verhindern. Doch KI senkt die Einstiegshürden dramatisch: Was früher Expertenwissen und teure Labore erforderte, ist nun mit zugänglichen Tools wie ChatGPT-ähnlichen Modellen machbar. „Wir waren überrascht von der Macht dieser Tools – nicht nur zur Vorhersage, sondern zum Design neuer Proteine“, schreibt Microsoft in einem Begleitblog.
Die Studie ist Teil einer breiteren Initiative: Im Mai 2025 forderte eine US-Regierungsverordnung eine Überarbeitung der Biosicherheitsrichtlinien. Microsoft plädiert für eine „Defense-in-Depth“-Strategie – eine mehrschichtige Abwehr mit Funktionsvorhersagen, Strukturanalysen und KI-basiertem Red-Teaming, bei dem Angreifer- und Verteidiger-Rollen simuliert werden. Internationale Koordination sei essenziell, da Pathogene keine Grenzen kennen.
Expertenstimmen: Von Alarm bis Skepsis
Die Reaktionen sind gemischt. Dean Ball vom Foundation for American Innovation in San Francisco betont: „Dies unterstreicht die Notwendigkeit verbesserter Screening-Verfahren mit zuverlässiger Durchsetzung.“ 1 Michael Cohen von der University of California, Berkeley, hält die Tests für zu einfach: „Es wird immer Wege geben, Sequenzen zu tarnen – Microsoft hätte die Herausforderung erhöhen können.“
Auf Plattformen wie X (ehemals Twitter) lodert die Debatte: Der offizielle MIT Technology Review-Post erzielte über 1.300 Aufrufe und 21 Likes, mit Kommentaren wie „AI als doppeltes Schwert: Heilen oder schaden?“ von Nutzer @shehzadyounis. Techmeme hob die Meldung als Top-News hervor, mit Fokus auf die Implikationen für Biothreat-Hunting. 31 Slashdot-Nutzer diskutieren ethische Grenzen: „KI macht Biowaffen zugänglicher – wer kontrolliert das?“
Ausblick: Chancen und Risiken im KI-Bio-Boom
Microsoft betont das Potenzial: KI könnte Krebs heilen oder Immunkrankheiten bekämpfen. Doch Horvitz mahnt: „Es geht um unsere kollektive Verantwortung, dass diese Tools der Gesellschaft nutzen, nicht schaden.“ 7 Die Studie fordert gated Access zu Design-Modellen und strengere Oversight bei DNA-Synthesen. Bislang fehlen globale Standards – ein Vakuum, das Staaten wie die USA und EU nun schließen müssen.
Diese Entwicklung unterstreicht die Dringlichkeit: In einer Welt, in der KI Biologie democratisiert, muss die Sicherheit mithalten. Die SNA beobachtet die Folgediskussionen eng – Updates folgen.
