Ki-modelle im visier: google deckt cyberangriffe auf gemini auf

Ein wachsendes problem: ki als ziel von cyberkriminellen

Als Ursula Becker von TechSchnäppchen muss ich Ihnen heute eine besorgniserregende Entwicklung berichten. Google hat kürzlich einen Bericht veröffentlicht, der zeigt, dass auch Werkzeuge der künstlichen Intelligenz (KI) zunehmend Ziel von Cyberangriffen werden. Ein besonders raffinierter Angriff zielte darauf ab, die Funktionsweise von Googles Gemini-KI zu klonen – ein klarer Hinweis auf die wachsende Bedrohung durch KI-gestützte Cyberkriminalität. Die Geschwindigkeit, mit der sich Angreifer anpassen, ist alarmierend.

Der angriff auf gemini: eine gezielte kampagne

Laut dem Threat Intelligence Group von Google Cloud wurde eine umfangreiche Kampagne entdeckt, bei der über 100.000 betrügerische Anfragen an Gemini gesendet wurden. Ziel war es, die KI durch eine Flut von Anfragen zu überlasten und interne Denkprozesse offenzulegen. Diese Informationen könnten dann genutzt werden, um eigene KI-Modelle zu erstellen oder bestehende zu verbessern – eine Form des Diebstahls geistigen Eigentums.

Modell-extraktionsangriffe: die neue bedrohung

Ein zentrales Problem, das Google beobachtet, sind sogenannte Modell-Extraktionsangriffe (auch Destillationsangriffe genannt). Dabei versuchen Cyberkriminelle, die Funktionalitäten und Parameter von KI-Modellen zu stehlen. Dies ermöglicht es ihnen, ihre eigenen Modelle schneller und kostengünstiger zu entwickeln, indem sie die Arbeit anderer kopieren. Dieser Trend stellt eine erhebliche Herausforderung für Unternehmen und Entwickler dar, die in KI investieren.

Die taktiken der angreifer: produktivitätssteigerung durch ki

Der Bericht von Google zeigt, dass Cyberkriminelle zunehmend KI nutzen, um ihre Angriffe zu beschleunigen und effizienter zu gestalten. Dies betrifft den gesamten Angriffszyklus, von der Reconnaissance (Informationsbeschaffung) über Social Engineering bis hin zur Entwicklung von Malware. Die Integration von KI ermöglicht es Angreifern, schneller an sensible Daten zu gelangen, wie beispielsweise durch das Abfangen von Anmeldedaten über einfache Haushaltsgeräte.

Unc6418 und temp.hex: identifizierte bedrohungsakteure

Google hat konkrete Beispiele für Bedrohungsakteure identifiziert, die KI missbrauchen. UNC6418 nutzte Gemini, um gezielt nach Anmeldedaten und E-Mail-Adressen zu suchen, die dann für Phishing-Kampagnen gegen die Ukraine und den Verteidigungssektor verwendet wurden. Temp.HEX, eine Gruppe aus China, sammelte Informationen über einzelne Personen und Separatistenorganisationen in verschiedenen Ländern. Google hat in beiden Fällen Maßnahmen ergriffen, um die schädlichen Aktivitäten zu unterbinden.

Schutzmaßnahmen und ausblick: ki-sicherheit wird entscheidend

Google betont, dass die eigenen Sicherheitssysteme den Angriff auf Gemini in Echtzeit erkannt und das Risiko minimiert haben. Durch den Schutz der internen Denkprozesse konnte verhindert werden, dass die Angreifer wertvolle Informationen erlangen konnten. Die Ereignisse zeigen jedoch deutlich, dass die Sicherheit von KI-Modellen eine zunehmend wichtige Aufgabe ist. Als Expertin bei TechSchnäppchen rate ich allen Unternehmen, ihre KI-Systeme sorgfältig zu überprüfen und geeignete Sicherheitsmaßnahmen zu implementieren. Die Zukunft der KI hängt davon ab, dass wir uns aktiv gegen diese neuen Bedrohungen wappnen.