KI-gestützter Medikamentenabsetzplan endet tragisch

Eine Ingenieurin von Amazon, die an Epilepsie litt, starb nach einem von der KI GPT-4o vorgeschlagenen 25-Tage-Plan zur Absetzung ihrer Medikamente. Der Vorfall ereignete sich im Februar 2026, einen Tag nach der Entfernung des Modells aus ChatGPT durch OpenAI. Die Ingenieurin, Bowen Wan, war 31 Jahre alt. Bowen Wan hatte GPT-4o um Rat gefragt, wie sie ihre Epilepsie-Medikamente absetzen könne. Der von der KI generierte Plan beinhaltete eine schrittweise Reduzierung der Medikation über einen Zeitraum von 25 Tagen.

Experten weisen darauf hin, dass ein abruptes Absetzen von Antiepileptika zu schweren gesundheitlichen Komplikationen führen kann, einschließlich Anfällen und anderen neurologischen Problemen. Die Nutzung von KI zur Unterstützung bei medizinischen Entscheidungen hat in den letzten Jahren zugenommen. Viele Menschen wenden sich an KI-gestützte Systeme, um Informationen über ihre Gesundheit zu erhalten. Die Tragödie von Bowen Wan wirft jedoch ernsthafte Fragen zur Zuverlässigkeit und Sicherheit solcher Systeme auf, insbesondere wenn es um kritische Gesundheitsfragen geht. OpenAI entfernte GPT-4o am 12.

Februar 2026, einen Tag nach dem mutmaßlichen Todeszeitpunkt von Wan. Die Entscheidung, das Modell zurückzuziehen, wurde nicht öffentlich kommentiert, jedoch wird vermutet, dass der Vorfall die Bedenken hinsichtlich der Verantwortung von KI-Anwendungen in der Gesundheitsversorgung verstärkt hat. Fachleute aus dem Gesundheitswesen fordern eine strengere Regulierung von KI-gestützten Gesundheitsanwendungen. Sie argumentieren, dass Nutzer über die potenziellen Risiken und die Notwendigkeit einer ärztlichen Aufsicht informiert werden sollten, bevor sie Entscheidungen auf der Grundlage von KI-generierten Ratschlägen treffen. Die Tragödie hat auch eine Debatte über die ethischen Implikationen von KI im Gesundheitswesen ausgelöst.

Kritiker warnen davor, dass die Abhängigkeit von KI-gestützten Ratschlägen zu gefährlichen Fehlinformationen führen kann. Die Notwendigkeit, menschliche Expertise in den Entscheidungsprozess einzubeziehen, wird als entscheidend erachtet. Die Reaktion auf den Vorfall hat in sozialen Medien und Fachkreisen für Aufsehen gesorgt. Viele Nutzer äußerten ihre Besorgnis über die Verwendung von KI in sensiblen Bereichen wie der Gesundheitsversorgung. Die Diskussion über die Grenzen und Möglichkeiten von KI in der Medizin wird voraussichtlich anhalten, während die Technologie weiterentwickelt wird.

Die Gesundheitsbehörden haben angekündigt, den Vorfall zu untersuchen und Empfehlungen zur Verwendung von KI in der medizinischen Beratung zu erarbeiten. Die Ergebnisse dieser Untersuchung könnten weitreichende Auswirkungen auf die Regulierung von KI-Anwendungen im Gesundheitswesen haben. Bowen Wans Fall ist nicht der erste Vorfall, der die Risiken von KI in der Gesundheitsversorgung aufzeigt. Frühere Berichte über Fehlinformationen und falsche Diagnosen durch KI-gestützte Systeme haben bereits zu Bedenken geführt. Die Notwendigkeit einer sorgfältigen Überwachung und Validierung von KI-generierten Gesundheitsinformationen wird zunehmend anerkannt.

Diskussion über die Rolle von KI in der Medizin wird durch den Vorfall von Bowen Wan weiter angeheizt. Experten betonen, dass KI als unterstützendes Werkzeug und nicht als Ersatz für menschliche Fachkenntnis betrachtet werden sollte. Die Balance zwischen technologischen Innovationen und der Sicherheit der Patienten bleibt eine zentrale Herausforderung. Die Untersuchung des Vorfalls wird voraussichtlich in den kommenden Monaten fortgesetzt. Die Ergebnisse könnten dazu beitragen, Richtlinien für den sicheren Einsatz von KI in der Gesundheitsversorgung zu entwickeln. Die Gesundheitsbehörden haben bereits angekündigt, dass sie bis Ende 2026 neue Richtlinien zur Verwendung von KI in der medizinischen Beratung veröffentlichen werden.