Ai-recommender-systeme: die neue gefahr im cyber-sicherheits-sektor

Intelligentes verhalten als neues risiko

Die KI-Branche hat sich in den letzten Jahren rasant entwickelt und revolutioniert viele Bereiche des digitalen Lebens. Von virtuellen Assistenten über Chatbots bis hin zu automatisierten Prozessen - KI ist überall präsent. Doch diese Technologie birgt auch neue Gefahren für die Cybersicherheit.

Bots mit ki – die neue attacke

Zu den bekanntesten Angriffsvektoren gehören Trojaner, Ransomware und Phishing-Angriffe. Doch jetzt haben Forscher entdeckt, dass auch KI-basierte Bots für Cyberkriminalität eingesetzt werden können. Diese Bots können nahezu unermüdlich und zielgenau vorgehen, was ihre Schadenspotential enorm erhöht.

Manipulieren von ki-modellen

Ein weiteres Problem ist die Manipulierbarkeit von KI-Modellen. Nach einem neueren Forschungsergebnis kann es bereits mit 250 korrupten Dokumenten gelingen, die Trainingsdaten von Modellen wie ChatGPT oder Gemini zu verfälschen. Andere Studien zeigen, dass selbst nicht-mäßige Hacker in sekundenschnelle Sicherheitslücken in KI-Systemen finden können.

Envenenung von ki-recommender-systemen

Die neueste Entdeckung von Microsoft betrifft die sogenannte