Heute ist der 11.06.2026, und die Welt der Künstlichen Intelligenz (KI) macht wieder von sich reden. Genauer gesagt, das Unternehmen Anthropic, das sich mit seinem KI-Modell Claude einen Namen gemacht hat und ein ernstzunehmender Konkurrent von OpenAI ist. Der Firmenchef Dario Amodei hat kürzlich die Dringlichkeit einer strengeren Regulierung der KI-Entwicklung betont. Seine Forderung? Eine „Notbremse“ durch die Regierung, um gefährliche KI-Systeme rechtzeitig zu stoppen.

Amodei ist der Meinung, dass es an der Zeit ist, dass Regierungen die Möglichkeit erhalten, potenziell gefährliche KI-Technologien zu blockieren, bevor sie ernsthaften Schaden anrichten können. Er hebt hervor, dass leistungsstarke KI-Modelle gründlich auf mögliche Risiken geprüft werden sollten. Besonders brisant sind hier die Themen Cybersicherheit, der Einsatz von Biowaffen und die Gefahr, die Kontrolle über autonome Systeme zu verlieren. Eine automatisierte Weiterentwicklung dieser Software könnte die Risiken sogar noch verstärken. Um dem entgegenzuwirken, schlägt Amodei vor, eine Regierungsorganisation zu schaffen, die diese Prüfungen durchführt – ähnlich einer Flugaufsicht. Alternativ könnten auch private Prüfer, die von der Regierung beauftragt werden, die Aufgabe übernehmen.

Die Kritiker und die Realität

Doch nicht alle sind von diesen Vorschlägen begeistert. Anthropic hat sich bereits mehrmals für eine stärkere Regulierung innerhalb der KI-Branche ausgesprochen und dafür durchaus kritische Stimmen aus Teilen der KI-Industrie und sogar vom Weißen Haus geerntet. Auf der anderen Seite sorgt die jüngste Vorstellung von Anthropic’s KI-Modell Mythos, das Schwachstellen in weit verbreiteter Software aufspüren kann, für Besorgnis. Es könnte schließlich auch missbraucht werden, um verheerende Cyberangriffe durchzuführen.

Ein Blick auf die Sicherheitslage ist unerlässlich, vor allem wenn man bedenkt, wie KI in den letzten Jahren in verschiedenen Bereichen Einzug gehalten hat. Von Textanalysen über Bild- und Spracherkennung bis hin zum autonomen Fahren – die Möglichkeiten scheinen grenzenlos. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) spielt dabei eine zentrale Rolle. Es führt Grundlagenforschung durch und entwickelt Anforderungen und Prüfkriterien für den sicheren Einsatz von KI.

Die Rolle des BSI in der KI-Sicherheit

Das BSI hat sich mit drei Forschungsbereichen beschäftigt, die die Schnittstelle zwischen KI und IT-Sicherheit beleuchten: Zum einen geht es um die IT-Sicherheit für KI-Systeme, also wie man diese Systeme vor Angriffen schützt. Zum anderen wird untersucht, wie KI selbst zur Verbesserung der IT-Sicherheit beitragen kann. Aber auch die Risiken, die von KI ausgehen können, sind ein brandheißes Thema. Immerhin könnten neue Bedrohungen entstehen oder bestehende Angriffsmethoden durch KI verbessert werden.

Werbung
Hier könnte Ihr Advertorial stehen
Ein Advertorial bietet Unternehmen die Möglichkeit, ihre Botschaft direkt im redaktionellen Umfeld zu platzieren

In Zusammenarbeit mit internationalen Standardisierungsgremien wie DIN und ENISA entwickelt das BSI verbindliche Kriterien für vertrauenswürdige KI-Systeme, etwa im Finanzsektor. Ein Kriterienkatalog für die Qualität von Trainingsdaten im KI-Lebenszyklus, der QUAIDAL-Katalog, bringt weitere Transparenz in die oft nebulöse Welt der KI. Bias in KI-Systemen bleibt jedoch ein Problem, das die Sicherheit gefährden kann. Das BSI hat auch Evasion-Angriffe auf große Sprachmodelle (LLMs) thematisiert, die neue Risiken darstellen.

Die Herausforderungen sind mannigfaltig, und die Zukunft der KI-Sicherheit bleibt spannend. Der Einsatz von KI wird sich sicher weiter ausbreiten, sei es in der biometrischen Identifikation oder im autonomen Fahren. Ein Arbeitskreis, der jährlich Workshops zur Prüfbarkeit von KI-Systemen organisiert, verdeutlicht, dass die Branche aktiv an Lösungen arbeitet. Die Software Bill of Materials (SBOM) soll zudem die Transparenz und Cybersicherheit entlang der KI-Lieferkette verbessern. Es bleibt abzuwarten, wie sich die Regulierung entwickeln wird und welche Maßnahmen letztlich ergriffen werden, um die Sicherheit in dieser dynamischen Umgebung zu gewährleisten.