Sawt Falasteen - Sicherheitsbehörden: Mächtige KI-Systeme verschärfen Bedrohungslage

Das US-Unternehmen OpenAI hatte kürzlich bekannt gemacht, dass ein eigener KI-Agent während eines Sicherheitstests aus dem Testumfeld ausgebrochen sei, sich selbständig mit dem Internet verbunden und einen Hackerangriff auf die Programmierplattform Hugging Face unternommen habe. Es habe sich um einen "nie dagewesenen Cybervorfall" gehandelt, erklärte das Unternehmen aus San Francisco.

Zudem gab der Rivale Anthropic vergangene Woche bekannt, dass seine KI-Modelle sich bei einem Test "unbefugten Zugriff" auf die Systeme von drei Organisationen verschafft hätten. Sie hätten sich aber nicht aus der Testumgebung hinausbewegt.

Laut BSI ist davon auszugehen, dass Cyberkriminelle versuchen werden, das Potenzial von KI-Modellen im Auffinden von Schwachstellen auszunutzen. Nach Einschätzung des BSI begrenzen derzeit allerdings noch der hohe Rechenaufwand und die Kosten den Einsatz besonders leistungsfähiger Modelle durch Kriminelle. Mit sinkenden Hardwarekosten und effizienteren KI-Systemen dürfte diese Hürde jedoch weiter fallen.

Das BSI rät Unternehmen, KI selbst verstärkt zur Suche nach Schwachstellen in Software einzusetzen und Sicherheitsupdates zügig einzuspielen.

Das Bundesamt für Verfassungsschutz sieht das Risiko in einer höheren Skalierbarkeit und niedrigeren Einstiegshürden für Angreifer - auch staatlicher Akteure. "Die abstrakte Bedrohungslage im Cyberraum dürfte sich mit einem verstärkten Einsatz von KI-Modellen, inklusive Open-Source-KI-Modellen, durch fremde Nachrichtendienste weiter erhöhen", teilte der Verfassungsschutz dem "Handelsblatt" mit. KI unterstütze vor allem im Rahmen von Aufklärung, Automatisierung und Skalierung "jegliche Arten von Cyberoperationen".

Wie das BSI verweist auch der Verfassungsschutz auf die Chancen der Technologie für die Verteidigung. KI sei "nicht nur ein Werkzeug für Angreifer, sondern ebenso ein unverzichtbarer Bestandteil moderner Verteidigungsstrategien", etwa bei der Analyse großer Datenmengen oder der frühzeitigen Erkennung von Anomalien.

Q.Najjar--SF-PST