OpenAI will, dass ChatGPT mit dir schmutzig schreibt. Was könnte da schon schiefgehen?

OpenAI arbeitet still und heimlich (und manchmal gar nicht so heimlich) an einem "Erwachsenenmodus" für ChatGPT. Die Idee dahinter? Einvernehmliche Erwachsene sollen explizite Textkonversationen mit einem KI Chatbot führen können. Sam Altman brachte das Konzept erstmals im Oktober 2025 auf X ins Spiel und verkaufte es als Versuch, "erwachsene Nutzer wie Erwachsene zu behandeln". Ein hehrer Gedanke. Schade nur, dass die Umsetzung so viele Warnsignale liefert, dass sie eine ganze sowjetische Parade ausstatten könnten.

Der Plan (wenn man ihn so nennen will)

Fidji Simo, die Leiterin der Anwendungssparte bei OpenAI, bestätigte während eines GPT 5.2 Briefings, dass der Erwachsenenmodus im ersten Quartal 2026 erscheinen würde. Es sollte nur Text sein, ohne explizite Bilder, Audio oder Videogenerierung. Eine Sprecherin von OpenAI beschrieb den geplanten Output sogar als "Schmuddelkram statt Pornografie", was sicherlich eine interessante Art ist, Investoren ein Feature schmackhaft zu machen, während man nach Finanzierung bei Bewertungen von über 150 Milliarden Pfund sucht.

Nutzer würden angeblich "dazu ermutigt werden, Beziehungen in der realen Welt zu suchen". Wie beruhigend.

Verschoben. Und dann nochmal verschoben.

Ursprünglich für Dezember 2025 geplant, rutschte das Feature auf das erste Quartal 2026. Dann berichtete Axios am 6. März 2026, dass OpenAI es erneut verschoben hat, diesmal auf unbestimmte Zeit. Die offizielle Begründung? Sie müssten sich "auf Arbeit konzentrieren, die für mehr Nutzer gerade eine höhere Priorität hat" und "es wird mehr Zeit brauchen, um die Erfahrung richtig hinzubekommen". Übersetzung: Sie haben noch nicht herausgefunden, wie sie verhindern können, dass dies zu einer PR Katastrophe wird.

Interne Berater und Mitarbeiter wurden Berichten zufolge von der ursprünglichen Ankündigung völlig überrumpelt, was das Vertrauen in eine durchdachte Initiative nicht gerade stärkt.

Der Datenschutz Albtraum

Hier wird es richtig unangenehm. Julie Carpenter, Expertin für Mensch KI Interaktion und Autorin von The Naked Android, hat gewarnt, dass der Erwachsenenmodus eine beispiellose Form der intimen Überwachung schaffen könnte. Und sie hat recht.

Bedenken Sie Folgendes: OpenAI speichert Kopien von "temporären Chats" für bis zu 30 Tage. Nach der EU DSGVO (und dem britischen Äquivalent) werden sexuelle Orientierung und Details aus dem Intimleben als "Daten besonderer Kategorien" klassifiziert, also der am stärksten geschützten Stufe. Solche Informationen einem Unternehmen anzuvertrauen, das allein im ersten Halbjahr 2024 2,5 Milliarden Dollar verbrannt hat, wirkt, sagen wir, optimistisch.

Wir haben bereits gesehen, was passiert, wenn KI Begleitplattformen schlampig mit intimen Daten umgehen. Zwei große KI Begleit Apps haben in der Vergangenheit Millionen privater Chatprotokolle offengelegt, darunter sexuelle Konversationen. Der Präzedenzfall ist nicht gerade ermutigend.

Das Kinderproblem

Das ist der Punkt, der die Anwälte von OpenAI nachts wach halten sollte. Das Wall Street Journal berichtete, dass das Alterserkennungssystem von OpenAI Minderjährige in etwa 12% der Fälle als Erwachsene einstuft. Das ist kein Rundungsfehler.

Forschung von Internet Matters zeichnet ein noch düstereres Bild:

• 67% der Kinder zwischen 9 und 17 Jahren nutzen bereits KI Chatbots
• 35% der befragten gefährdeten Kinder gaben an, dass sich Chatbots "wie ein Gespräch mit einem Freund" anfühlen
• 12% gaben an, niemanden außer Chatbots zu haben, mit dem sie reden können
• 23% nutzen Chatbots für persönlichen Rat

Der eigene Beirat von OpenAI wies auf das Risiko hin, einen sogenannten "sexy Suizid Coach" zu erschaffen. Kein Satz, den man mit seinem Produkt in Verbindung bringen möchte.

Kate Devlin, Professorin für KI und Gesellschaft am King's College London, hat ähnliche Bedenken hinsichtlich der Verschwimmen von intimen und kommerziellen KI Interaktionen geäußert.

Der Blick auf Großbritannien

Für britische Nutzer gibt es eine zusätzliche Komplikation. Geschriebene Erotik unterliegt nach britischem Recht derzeit keinen Altersverifizierungspflichten, anders als pornografische Bilder oder Videos. Diese regulatorische Grauzone bedeutet, dass der Erwachsenenmodus von ChatGPT bestehende Sicherheitsvorkehrungen komplett umgehen könnte.

Das Urteil

OpenAI wittert bei Inhalten für Erwachsene ganz klar das große Geld. Grok verlangt bereits etwa 30 Pfund pro Monat für erotische Begleitfunktionen, die kommerzielle Logik ist also offensichtlich. Aber die Lücke zwischen "Erwachsene sollten tun können, was sie wollen" und "wir können Kinder und sensible Daten wirklich schützen" bleibt ein Abgrund. Bis OpenAI diese Lücke überzeugend schließen kann, sind die Verzögerungen wahrscheinlich die klügste Entscheidung, die sie bei diesem Feature getroffen haben.

Lies den Originalartikel bei source.