Die meisten von künstlicher Intelligenz (KI) generierten Deepfakes (Videos mit gefälschten hyperrealistischen Nachbildungen), die sich über soziale Medien verbreiten, zeigen politische Vertreter und Künstler und sind oft mit aktuellen Nachrichtenzyklen verknüpft. Dies ist eine der Schlussfolgerungen einer Studie der Universidad Carlos III de Madrid (UC3M), die die formalen und inhaltlichen Merkmale viraler Desinformation in Spanien analysiert, die durch den Einsatz von KI-Tools für illegale Zwecke entsteht. Dieser Fortschritt stellt einen Schritt zum Verständnis und zur Eindämmung der von Hoaxes in unserer Gesellschaft ausgehenden Bedrohungen dar.
In der kürzlich in der Zeitschrift OberCom veröffentlichten Studie untersuchte das Forschungsteam diese gefälschten Inhalte anhand der Überprüfungen spanischer Faktencheck-Organisationen wie EFE Verifica, Maldita, Newtral und Verifica RTVE. „Das Ziel bestand darin, eine Reihe gemeinsamer Muster und Merkmale dieser viralen Deepfakes zu identifizieren, einige Hinweise für ihre Identifizierung zu liefern und einige Vorschläge zur Medienkompetenz zu unterbreiten, damit die Bürger gegen Fehlinformationen vorgehen können“, erklärt eine der Autorinnen, Raquel Ruiz Incertis, Forscherin in der Kommunikationsabteilung der UC3M, wo sie einen Doktortitel in europäischer Kommunikation anstrebt.
Die Forscher haben eine Typologie von Deepfakes entwickelt, die es einfacher macht, sie zu identifizieren und zu neutralisieren. Den Ergebnissen der Studie zufolge waren einige politische Führer (wie Trump oder Macron) die Hauptprotagonisten von Inhalten, die sich auf Drogenkonsum oder moralisch verwerfliche Aktivitäten beziehen. Es gibt auch einen beträchtlichen Anteil pornografischer Deepfakes, die die Integrität von Frauen verletzen und insbesondere berühmte Sängerinnen und Schauspielerinnen bloßstellen. Sie werden in der Regel von inoffiziellen Konten aus geteilt und verbreiten sich schnell über Instant-Messaging-Dienste, sagen die Forscher.
Die Verbreitung von Deepfakes, also die häufige Verwendung von Bildern, Videos oder Audios, die mit KI-Tools manipuliert wurden, ist ein hochaktuelles Thema. „Diese Art von vorgefertigten Falschmeldungen ist besonders in sensiblen Situationen schädlich, etwa in Vorwahlzeiten oder in Konfliktzeiten, wie wir sie derzeit in der Ukraine oder im Gazastreifen erleben. Das ist das, was wir ‚hybride Kriege‘ nennen: Der Krieg wird nicht nur im physischen, sondern auch im digitalen Bereich geführt, und die Unwahrheiten sind bedeutender denn je“, sagt Ruiz Incertis.
Die Anwendungsgebiete dieser Forschung sind vielfältig und reichen von der nationalen Sicherheit bis hin zur Integrität von Wahlkämpfen. Die Ergebnisse deuten darauf hin, dass der proaktive Einsatz von KI auf Social-Media-Plattformen die Art und Weise revolutionieren könnte, wie wir im digitalen Zeitalter die Authentizität von Informationen bewahren.
Entdecke mehr von LabNews
Melde dich für ein Abonnement an, um die neuesten Beiträge per E-Mail zu erhalten.
