Anthropic-Chef warnt UN vor KI-Gefahren

Die CEOs von OpenAI und Anthropic haben am 22. September 2026 vor dem UN-Sicherheitsrat gewarnt, dass unregulierte Entwicklungen im Bereich der Künstlichen Intelligenz (KI) erhebliche Gefahren für die Menschheit darstellen könnten. Die beiden Führungspersönlichkeiten forderten eine internationale Zusammenarbeit, um die Risiken zu minimieren und ein sicheres Umfeld für die Entwicklung von KI-Technologien zu schaffen. Der CEO von Anthropic, Daniela Amodei, betonte, dass die Fortschritte in der KI-Technologie schneller voranschreiten als die Fähigkeit der Regierungen, angemessene Sicherheitsmaßnahmen zu implementieren. Er wies darauf hin, dass ohne ein globales Kontrollsystem die Wahrscheinlichkeit von Missbrauch und unvorhergesehenen Konsequenzen steigt.

Amodei erklärte, dass die Technologie nicht nur für Unternehmen, sondern auch für Regierungen und Militärs von Bedeutung sei. Die Diskussion im UN-Sicherheitsrat fand in einem Kontext statt, in dem frühere Versuche, ein internationales Regelwerk für KI zu etablieren, auf Widerstand gestoßen sind. Donald Trump, der ehemalige Präsident der USA, hatte zuvor solche Initiativen abgelehnt und argumentiert, dass sie die Innovationskraft der USA gefährden könnten. Dies führte zu einer angespannten Debatte über die Notwendigkeit von Regulierung versus Freiheit in der technologischen Entwicklung. Die CEOs forderten die Mitgliedstaaten auf, sich auf gemeinsame Standards zu einigen, um die Entwicklung von KI verantwortungsvoll zu gestalten.

Sie wiesen darauf hin, dass die Risiken von KI nicht nur technischer Natur sind, sondern auch ethische und gesellschaftliche Dimensionen umfassen. Amodei nannte Beispiele für potenzielle Gefahren, darunter die Möglichkeit von autonomen Waffensystemen und die Manipulation von Informationen durch KI-generierte Inhalte. Die UN hat in der Vergangenheit bereits Initiativen zur Regulierung von Technologien gestartet, jedoch blieb der Fortschritt in Bezug auf KI hinter den Erwartungen zurück. Der Sicherheitsrat hat die Dringlichkeit erkannt, sich mit den Herausforderungen der KI auseinanderzusetzen, insbesondere im Hinblick auf die globale Sicherheit. Die Diskussion über KI-Regulierung wird voraussichtlich in den kommenden Monaten fortgesetzt.

Die CEOs von OpenAI und Anthropic betonten, dass eine enge Zusammenarbeit zwischen Regierungen, Unternehmen und Wissenschaftlern notwendig ist, um die Entwicklung von KI in eine positive Richtung zu lenken. Sie forderten die Schaffung eines internationalen Gremiums, das sich mit den ethischen und sicherheitstechnischen Aspekten von KI befasst. Ein solches Gremium könnte als Plattform dienen, um bewährte Verfahren auszutauschen und gemeinsame Standards zu entwickeln. Die Debatte über KI und ihre Regulierung wird auch von der Öffentlichkeit aufmerksam verfolgt. Viele Bürger äußern Bedenken hinsichtlich der Auswirkungen von KI auf Arbeitsplätze, Privatsphäre und Sicherheit.

Umfragen zeigen, dass 67 % der Bevölkerung in den USA eine stärkere Regulierung von KI-Technologien befürworten. Diese öffentliche Meinung könnte die politischen Entscheidungsträger unter Druck setzen, Maßnahmen zu ergreifen. Die Diskussion im UN-Sicherheitsrat wird als entscheidend angesehen, um den Rahmen für zukünftige Gespräche über KI zu setzen. Die CEOs von OpenAI und Anthropic haben angekündigt, dass sie weiterhin aktiv an der Diskussion teilnehmen werden, um sicherzustellen, dass die Stimme der Technologiebranche gehört wird. Sie betonten, dass die Verantwortung für die sichere Entwicklung von KI nicht nur bei den Regierungen liegt, sondern auch bei den Unternehmen, die diese Technologien entwickeln. Die nächste Sitzung des UN-Sicherheitsrates zu diesem Thema ist für den 15. November 2026 angesetzt, bei der weitere Schritte zur Regulierung von KI erörtert werden sollen.