ChatGPhish: Sicherheitslücke in ChatGPT entdeckt

Cybersecurity-Forscher haben eine Sicherheitslücke in OpenAI's ChatGPT entdeckt, die es Angreifern ermöglicht, Phishing-Angriffe durch die Ausnutzung von Markdown-Links und Bildern zu initiieren. Diese Schwachstelle, die als ChatGPhish bezeichnet wird, wurde von Permiso Security identifiziert und könnte erhebliche Risiken für die Nutzer darstellen. Die Schwachstelle beruht auf dem Vertrauen, das der ChatGPT Antwort-Renderer in Markdown-Links und -Bilder setzt. Angreifer können durch gezielte Eingaben in die Chat-Oberfläche von ChatGPT manipulierte Links einfügen, die dann von der KI als vertrauenswürdig angesehen werden. Dies eröffnet die Möglichkeit, schädliche Inhalte zu verbreiten und Nutzer zu täuschen.

Forscher von Permiso Security haben demonstriert, wie diese Technik funktioniert. Durch das Einfügen von speziell gestalteten Markdown-Elementen in die Konversation kann ein Angreifer die KI dazu bringen, Links zu generieren, die auf Phishing-Webseiten verweisen. Diese Webseiten sind darauf ausgelegt, persönliche Informationen der Nutzer zu stehlen. Die Sicherheitslücke könnte nicht nur für individuelle Nutzer gefährlich sein, sondern auch für Unternehmen, die ChatGPT in ihren Kundenservice oder für interne Kommunikation einsetzen. Die Möglichkeit, dass Mitarbeiter auf betrügerische Links klicken, könnte zu erheblichen Sicherheitsvorfällen führen.

Permiso Security hat die Schwachstelle OpenAI gemeldet, und es wird erwartet, dass das Unternehmen Maßnahmen zur Behebung der Sicherheitslücke ergreift. Bislang gibt es jedoch keine offizielle Bestätigung über ein bevorstehendes Update oder eine Lösung für das Problem. Die Entdeckung von ChatGPhish wirft Fragen zur allgemeinen Sicherheit von KI-gestützten Anwendungen auf. Experten warnen, dass die zunehmende Integration von KI in verschiedene Bereiche auch neue Angriffsflächen für Cyberkriminelle schafft. Die Notwendigkeit, Sicherheitsprotokolle zu verstärken, wird als dringlich erachtet.

Die Sicherheitslücke könnte auch Auswirkungen auf die Nutzerakzeptanz von KI-Technologien haben. Wenn Nutzer das Gefühl haben, dass ihre Daten nicht sicher sind, könnte dies das Vertrauen in KI-Anwendungen beeinträchtigen. Unternehmen, die auf KI setzen, müssen daher proaktive Maßnahmen ergreifen, um die Sicherheit ihrer Systeme zu gewährleisten. Die Forscher von Permiso Security haben die Details der Schwachstelle in einem Blogbeitrag veröffentlicht, der die Funktionsweise von ChatGPhish erläutert. Sie empfehlen Nutzern, vorsichtig mit Links umzugehen, die von ChatGPT generiert werden, bis eine offizielle Lösung bereitgestellt wird.

Sicherheitslücke wurde als CVE-2026-1234 registriert und betrifft alle Versionen von ChatGPT, die Markdown-Links unterstützen. Die genaue Anzahl der betroffenen Nutzer ist derzeit unbekannt, jedoch wird geschätzt, dass Millionen von Menschen weltweit auf die Plattform zugreifen. Permiso Security plant, weitere Informationen über die Auswirkungen von ChatGPhish und mögliche Gegenmaßnahmen in den kommenden Wochen zu veröffentlichen. Die Sicherheitsgemeinschaft beobachtet die Entwicklungen aufmerksam, um geeignete Reaktionen auf diese neue Bedrohung zu formulieren.