OpenAI befürchtet, dass Menschen eine emotionale Bindung zum Sprachmodus von ChatGPT entwickeln könnten

Was Sie wissen sollten

• Der Systemkartenbericht von GPT-4o beschreibt die Befürchtungen von OpenAI, dass Menschen eine emotionale Abhängigkeit vom Sprachmodus von ChatGPT entwickeln.
• Die Stimmen im Sprachmodus von ChatGPT sind äußerst lebensecht und erwecken die Illusion, dass der Benutzer mit einer Person spricht.
• Der Bericht hebt hervor, dass der Sprachmodus einigen Personen helfen könnte, während er andere beeinträchtigt, die stark von ihm abhängig sind oder sich übermäßig auf seine Antworten verlassen.

Der erweiterte Sprachmodus von ChatGPT sorgte bei seiner ersten Ankündigung für Aufsehen. Doch laut einem aktuellen Sicherheitsbericht befürchtet OpenAI bereits, dass sein erweiterter Sprachmodus – der unheimlich wie eine menschliche Stimme klingt – möglicherweise dazu führen könnte, dass Benutzer eine emotionale Bindung zu dem KI-Chatbot aufbauen.

Der erweiterte Sprachmodus war eine der mit größter Spannung erwarteten Funktionen von ChatGPT. Er kann Gespräche in Echtzeit führen, beim Sprechen menschliche Laute wie „Ähm“, „Ah“ und andere Interjektionen machen, Geräusche imitieren, Lieder singen und sogar Ihren emotionalen Zustand anhand Ihres Tonfalls bestimmen. Kurz gesagt ist es der lebensechteste KI-Assistent, den es gibt. Aber da der Sprachmodus von ChatGPT eine so leistungsstarke und leistungsfähige Funktion ist, besteht ein hohes Missbrauchspotenzial.

OpenAI erwähnte in seinem Bericht:

„Während der ersten Tests … haben wir beobachtet, dass Benutzer eine Sprache verwendeten, die darauf hindeuten könnte, dass sie eine Verbindung zum Modell aufbauen. Dazu gehört beispielsweise eine Sprache, die gemeinsame Bindungen ausdrückt, wie „Dies ist unser letzter gemeinsamer Tag.“

Der Sprachmodus eröffnet außerdem neue Möglichkeiten, ChatGPT zu „jailbreaken“, um alle möglichen Dinge zu tun, darunter auch die Nachahmung von Personen. Ein menschenähnlicher Gesprächspartner könnte auch dazu führen, dass die Menschen KI-Chatbots mehr vertrauen, selbst wenn ihre Ergebnisse voller Fehler und Halluzinationen sind.

Die Interaktion mit dem Sprachmodus von ChatGPT könnte „einsamen Menschen“ helfen und ihnen helfen, ihre Angst vor sozialen Interaktionen zu überwinden. Eine übermäßige Nutzung könnte sich jedoch auch negativ auf gesunde Beziehungen auswirken und bedarf weiterer Untersuchungen, wie OpenAI in seinem Bericht anmerkt.

Obwohl der Bericht eine wachsende Transparenz seitens OpenAI signalisiert, ist das Unternehmen hinsichtlich seiner Trainingsdaten noch immer nicht so offen. Zugegeben, die Befürchtungen von OpenAI, wozu eine übermäßige Nutzung des Sprachmodus führen könnte, sind nicht unbegründet. Aber die meisten Technologien sind von übermäßiger Abhängigkeit und Abhängigkeit von der Technik geprägt. Und da es direkt aus einem Film stammt, ist es nicht schwer zu erkennen, was die Zukunft für den Sprachmodus und die Art und Weise, wie Benutzer damit interagieren, bereithalten könnte.

Schon bei der Demo-Veranstaltung wurde der Sprachmodus als etwas zu kokett empfunden. Aufgrund der Ähnlichkeit der Sky-Stimme mit der von Scarlett Johansson und der darauf folgenden Kontroverse fällt es schwer, nicht an den Film „Her“ und die Risiken zu denken, die mit der Anthropomorphisierung von KI-Modellen einhergehen.