ERFURT (dpa-AFX) - Thüringens Verfassungsschutzpräsident Stephan Kramer hat vor erheblichen Gefahren durch das KI-Modell "Mythos" der US-Firma Anthropic gewarnt."Mythos senkt die Hürde für offensive Cyberoperationen, weil es Schwachstellen schnell finden und teils ausnutzen kann", sagte Kramer dem "Handelsblatt". Das sei gefährlich, wenn Kriminelle oder staatliche Akteure Zugriff erhielten. Als besonders kritisch bezeichnete Kramer demnach Berichte, wonach "Mythos" in Tests "eine komplexe 32-Schritt-Cyberangriffssimulation teilweise autonom" bewältigt habe.

Für Europa müssten Finanzaufsicht, Cyberabwehr, Nachrichtendienste und Betreiber kritischer Infrastrukturen solche Modelle als "strategische Risikotechnologie" behandeln, mahnte Kramer. Riskante KI-Modelle sollten erst nach umfassenden Sicherheitsprüfungen, Lizenzverfahren und sogenannten Red-Teaming-Tests freigegeben werden. Auch forderte Kramer klare Haftungsregeln für Anbieter sowie eine engere Zusammenarbeit europäischer Aufsichtsbehörden.

Im April hatte bereits Bundesbank-Präsident Joachim Nagel vor Risiken durch "Mythos" gewarnt. "Mythos ist ein KI-Modell, das offenbar in der Lage ist, Sicherheitslücken in der Software von Finanzinstituten schnell zu identifizieren und auszunutzen", so Nagel. Das scheine ein zweischneidiges Schwert zu sein, da es nicht nur zur Verbesserung digitaler Sicherheitssysteme, sondern auch zur Ausnutzung ihrer Schwachstellen für böswillige Zwecke genutzt werden könne. "Wir müssen den Missbrauch dieser Technologie verhindern." Zugleich müssten alle relevanten Institutionen Zugang zu der Technologie haben, um Wettbewerbsverzerrungen zu vermeiden./hum/DP/mis