Sicherheitsforscher haben in einer Testumgebung einen KI-Wurm entwickelt, der sich automatisch zwischen generativen KI-Agenten verbreiten kann – und dabei möglicherweise Daten stiehlt und Spam-E-Mails versendet. Das Risiko betrifft auch Deutschlands Labormedizin und systemrelevante Organisationen des Gesundheitsbereichs wie DGKL oder BDL.
Beide thematisieren KI im Gesundheitswesen und in der Labormedizin auf den diesjährigen Jahreskongressen.
Um die Risiken vernetzter, autonomer KI-Ökosysteme zu demonstrieren, hat eine Gruppe von Forschern indes einen der ihrer Meinung nach ersten generativen KI-Würmer geschaffen, der sich von einem System auf ein anderes ausbreiten und möglicherweise Daten stehlen oder Malware darin einsetzen kann Verfahren.
„Im Grunde bedeutet es, dass Sie jetzt die Möglichkeit haben, eine neue Art von Cyberangriff durchzuführen, die es noch nie zuvor gegeben hat“, sagt Ben Nassi, ein Cornell Tech-Forscher, der hinter der Studie steht, gegenüber WIRED.
In einem Forschungsbericht und einer Website, die exklusiv mit WIRED geteilt wurden, heißt es: Forscher zeigen, wie der KI-Wurm einen generativen KI-E-Mail-Assistenten angreifen kann, um Daten aus E-Mails zu stehlen und Spam-Nachrichten zu versenden – und dabei einige Sicherheitsmaßnahmen in ChatGPT und Gemini außer Kraft setzt.
https://sites.google.com/view/compromptmized
Entdecke mehr von LabNews
Melde dich für ein Abonnement an, um die neuesten Beiträge per E-Mail zu erhalten.
