Neues KI-Sicherheitsinstitut in Berlin gegründet

In Berlin wurde am 2. September 2026 das AI Security Institute (AISI) ins Leben gerufen. Diese neue Behörde hat sich zum Ziel gesetzt, die Sicherheit von Künstlicher Intelligenz (KI) zu bewerten und zu überwachen. Angesichts der jüngsten Vorfälle bei Unternehmen wie Anthropic und OpenAI wird die Notwendigkeit einer solchen Institution immer deutlicher. Das AISI wird als unabhängige Behörde fungieren und soll sowohl öffentliche als auch private KI-Entwicklungen auf ihre Sicherheitsstandards hin überprüfen.

Die Gründung des Instituts erfolgt in einem Kontext, in dem die Risiken von KI-Anwendungen zunehmend in den Fokus rücken. Experten warnen vor potenziellen Gefahren, die von unsicheren KI-Modellen ausgehen können. Die Behörde wird verschiedene Methoden zur Risikobewertung von KI-Modellen entwickeln. Dazu gehören unter anderem die Analyse von Algorithmen, die Überprüfung von Trainingsdaten und die Bewertung der Transparenz von KI-Systemen. Diese Maßnahmen sollen sicherstellen, dass KI-Anwendungen nicht nur effektiv, sondern auch sicher sind.

Ein zentrales Anliegen des AISI ist die Zusammenarbeit mit bestehenden Institutionen und Unternehmen. Das Institut plant, Partnerschaften mit Universitäten, Forschungseinrichtungen und der Industrie einzugehen, um ein umfassendes Verständnis für die Sicherheitsanforderungen von KI zu entwickeln. Diese Kooperationen sollen auch dazu beitragen, Best Practices zu etablieren. Die Gründung des AISI wird von verschiedenen Akteuren aus der Politik und Wirtschaft begrüßt. Der Bundesminister für Digitales und Verkehr, Dr.

Volker Wissing, betonte die Bedeutung der Sicherheitsbewertung von KI. Er erklärte, dass die Behörde eine wichtige Rolle dabei spielen werde, das Vertrauen in KI-Technologien zu stärken und gleichzeitig die Innovationskraft in Deutschland zu fördern. Das AISI wird auch eine Plattform für den Austausch von Informationen und Erfahrungen im Bereich der KI-Sicherheit bieten. Geplant sind regelmäßige Konferenzen und Workshops, die Fachleuten aus verschiedenen Bereichen die Möglichkeit geben, sich über aktuelle Entwicklungen auszutauschen. Diese Veranstaltungen sollen dazu beitragen, ein Netzwerk von Experten zu schaffen, das sich mit den Herausforderungen der KI-Sicherheit auseinandersetzt.

Ein weiterer Aspekt der Arbeit des AISI wird die Entwicklung von Richtlinien und Standards für die KI-Sicherheit sein. Diese sollen sowohl für Entwickler als auch für Anwender von KI-Technologien gelten. Ziel ist es, einheitliche Vorgaben zu schaffen, die die Sicherheit von KI-Anwendungen gewährleisten. Die ersten Schritte des AISI werden sich auf die Analyse von bereits bestehenden KI-Modellen konzentrieren. Dabei wird besonderes Augenmerk auf die Identifizierung von Schwachstellen gelegt, die in der Vergangenheit zu Sicherheitsvorfällen geführt haben.

Die Behörde plant, ihre Ergebnisse regelmäßig zu veröffentlichen, um Transparenz zu schaffen und das Bewusstsein für KI-Sicherheitsfragen zu schärfen. Die Gründung des AISI ist Teil einer umfassenderen Strategie der Bundesregierung, die darauf abzielt, Deutschland als führenden Standort für KI-Entwicklung zu positionieren. Die Behörde wird eine Schlüsselrolle dabei spielen, die Sicherheitsstandards in der KI-Branche zu erhöhen und somit das Vertrauen der Öffentlichkeit in diese Technologien zu stärken. Die ersten Berichte über die Aktivitäten des AISI werden für das erste Quartal 2027 erwartet, in denen die Behörde ihre Fortschritte und Erkenntnisse präsentieren wird.