Cyberkriminelle haben eine neue Methode entwickelt, um die Sicherheitsvorkehrungen der Social-Media-Plattform X zu umgehen und mithilfe des KI-Assistenten Grok schädliche Inhalte zu verbreiten. Cybersicherheitsforscher haben eine ausgeklügelte Technik aufgedeckt, die es Angreifern ermöglicht, Werbeschutzmechanismen zu umgehen und potenziell Millionen Nutzer mit Malware zu erreichen.
Die Methode, von Experten als „Grokking“ bezeichnet, nutzt Schwachstellen in den Werberichtlinien von X aus. Dabei veröffentlichen Kriminelle beworbene Beiträge mit anstößigen Inhalten, in denen ein bösartiger Link in den Metadaten des Videoplayers versteckt ist. Dieses Metadatenfeld wird von der Plattform offenbar nicht auf schädliche Inhalte geprüft. Anschließend interagieren die Angreifer mit dem KI-Chatbot Grok, indem sie gezielte Fragen stellen, etwa zur Herkunft des Videos. Grok zeigt daraufhin den verborgenen Link in seinen Antworten an, wodurch dieser für ein großes Publikum sichtbar und klickbar wird.
Die Verbreitung der schädlichen Links wird durch die hohe Reichweite beworbenen Inhalts verstärkt, da solche Beiträge oft Millionen Impressionen erzielen. Die Links leiten Nutzer auf zwielichtige Werbenetzwerke weiter, die gefälschte CAPTCHA-Seiten, Malware zum Diebstahl sensibler Daten oder andere betrügerische Inhalte verbreiten. Diese Inhalte werden über sogenannte „Smartlinks“ monetarisiert, die Teil eines Traffic Distribution Systems (TDS) sind, wie es häufig in der schädlichen Werbeindustrie verwendet wird.
Laut Forschern agieren die Angreifer hoch organisiert. Hunderte von Konten wurden identifiziert, die diese Technik anwenden und täglich zahlreiche solcher Beiträge veröffentlichen. Diese Konten bleiben oft mehrere Tage aktiv, bevor sie aufgrund von Verstößen gegen die Plattformrichtlinien gesperrt werden. Die schiere Anzahl und Koordination der Angriffe deuten auf eine professionelle Vorgehensweise hin.
Experten warnen, dass die Vertrauenswürdigkeit des Grok-Kontos, das als Teil der Plattform X gilt, die Reichweite und Glaubwürdigkeit der bösartigen Links erhöht. Nutzer könnten dazu verleitet werden, diesen Links zu vertrauen, da sie von einer vermeintlich legitimen Quelle stammen. Dies stellt eine erhebliche Bedrohung für die Sicherheit der Nutzer dar, da die verbreiteten Inhalte auf sensible Daten wie Zugangsdaten oder persönliche Informationen abzielen.
Die Entdeckung wirft Fragen zur Sicherheit und Überprüfung von KI-gestützten Systemen auf Social-Media-Plattformen auf. Die Forscher betonen, dass Plattformbetreiber ihre Sicherheitsmaßnahmen verstärken müssen, insbesondere bei der Überprüfung von Metadaten und der Interaktion von KI-Systemen mit Nutzerinhalten. Bis solche Maßnahmen umgesetzt sind, wird Nutzern geraten, Links in sozialen Medien mit Vorsicht zu behandeln, insbesondere wenn sie von automatisierten Systemen wie KI-Chatbots stammen.
Die betroffene Plattform X wurde über die Vorfälle informiert, hat jedoch bisher keine öffentliche Stellungnahme abgegeben. Die Cybersicherheitsgemeinschaft fordert dringend Maßnahmen, um ähnliche Angriffe in Zukunft zu verhindern und die Sicherheit der Nutzer zu gewährleisten.
