OpenAI und Anthropic werben für Vertrauen im UN-Sicherheitsrat

OpenAI-Chef Sam Altman und Anthropic-Mitgründer Dario Amodei traten am 25. September 2026 vor den UN-Sicherheitsrat, um für ein besseres Verständnis und Vertrauen in Künstliche Intelligenz (KI) zu werben. Ihr Auftritt fand im Kontext wachsender globaler Bedenken über die Risiken und Herausforderungen statt, die mit der Entwicklung und dem Einsatz von KI-Technologien verbunden sind. Die beiden Führungspersönlichkeiten betonten die Notwendigkeit eines internationalen Dialogs über KI-Risiken. Altman erklärte, dass die Technologie sowohl Chancen als auch Gefahren birgt, und forderte eine Zusammenarbeit zwischen Regierungen, Unternehmen und Wissenschaft, um diese Herausforderungen zu bewältigen.

Er wies darauf hin, dass ein verantwortungsvoller Umgang mit KI entscheidend sei, um das Vertrauen der Öffentlichkeit zu gewinnen. Amodei ergänzte, dass die Entwicklung von KI nicht nur technologische, sondern auch ethische und gesellschaftliche Fragestellungen aufwirft. Er forderte die internationale Gemeinschaft auf, Standards und Richtlinien zu entwickeln, die den sicheren Einsatz von KI gewährleisten. Dies sei notwendig, um Missbrauch und negative Auswirkungen auf die Gesellschaft zu verhindern. Die Diskussion im UN-Sicherheitsrat wurde von verschiedenen Mitgliedstaaten kritisch begleitet.

Einige Delegierte äußerten Bedenken, dass die Unternehmen, die KI entwickeln, nicht ausreichend für die potenziellen Risiken verantwortlich gemacht werden können. Diese Skepsis spiegelt sich in der globalen Debatte über die Regulierung von KI wider, die in vielen Ländern an Fahrt gewinnt. Ein zentrales Thema der Sitzung war die Frage, wie Transparenz und Rechenschaftspflicht in der KI-Entwicklung sichergestellt werden können. Altman und Amodei betonten, dass ihre Unternehmen bereits Maßnahmen ergriffen haben, um die Sicherheit ihrer Systeme zu verbessern. Dazu gehören unter anderem interne Prüfungen und die Zusammenarbeit mit externen Experten, um potenzielle Risiken frühzeitig zu identifizieren.

Die Reaktionen auf den Auftritt der beiden CEOs waren gemischt. Während einige Delegierte die Initiative begrüßten, äußerten andere Zweifel an der Bereitschaft der Unternehmen, sich den Herausforderungen der KI-Entwicklung proaktiv zu stellen. Kritiker wiesen darauf hin, dass die wirtschaftlichen Interessen der Unternehmen oft im Widerspruch zu den gesellschaftlichen Bedürfnissen stehen. Die Sitzung im UN-Sicherheitsrat ist Teil eines größeren Trends, bei dem internationale Organisationen und Regierungen versuchen, einen Rahmen für den Umgang mit KI zu schaffen. In den letzten Jahren haben zahlreiche Länder begonnen, eigene Strategien zur Regulierung von KI zu entwickeln, um den Herausforderungen dieser Technologie gerecht zu werden.

Diskussion über KI-Risiken wird voraussichtlich auch in Zukunft an Bedeutung gewinnen. Die UN plant, weitere Sitzungen zu diesem Thema abzuhalten, um den Dialog zwischen den Mitgliedstaaten und der Industrie zu fördern. Ein konkretes Datum für die nächste Sitzung steht jedoch noch nicht fest. Die Sicherheitslücke CVE-2026-1234, die in Verbindung mit KI-Systemen steht, betrifft nach Angaben des BSI rund 50.000 Systeme in Deutschland.