Openai im visier: werden sie die nächste facebook?

Ein beunruhigender trend bei chatgpt

Seit einigen Tagen tauchen in den Chats von ChatGPT Werbeanzeigen auf. Diese Personalisierung, basierend auf den Gesprächsinhalten, wirft ernsthafte Fragen auf. Selbst interne Mitarbeiter von OpenAI äußern Bedenken hinsichtlich des Datenschutzes, da viele Chats sensible persönliche Informationen enthalten. Die Entwicklung erinnert an die frühen Tage von Facebook und birgt die Gefahr, dass ähnliche Fehler wiederholt werden.

Die warnung einer ehemaligen openai-mitarbeiterin

Zoë Hitzig, eine renommierte Mathematikerin, Ökonomin und Dichterin, die bis vor kurzem als KI-Forscherin bei OpenAI tätig war, hat ihren Posten aufgrund dieser Entwicklung gekündigt. In einem Interview mit dem New York Times äußerte sie zwar keine grundsätzliche Ablehnung von Werbung, betonte jedoch die Gefahr der Personalisierung durch Chat-Inhalte. Ihre Kündigung ist ein deutliches Signal.

Parallelen zu facebook: der umgang mit daten

Sowohl Facebook als auch OpenAI haben Zugriff auf äußerst sensible Daten. Nutzer offenbaren ChatGPT ihre Ängste, Träume, Beziehungen und sogar medizinische Informationen. Hitzig erinnert daran, dass Facebook einst versprach, Nachrichten privat zu halten und keine Daten zu verkaufen. Die Realität sah anders aus, mit Skandalen wie dem Cambridge Analytica-Skandal als trauriges Beispiel – ein Fehler, den OpenAI vermeiden sollte.

Openai's verteidigung und hitzigs zweifel

OpenAI beteuert, dass Werbetreibende keinen Zugriff auf die Chats haben und der Inhalt nicht verkauft wird. Zoë Hitzig glaubt dies vorerst, weist jedoch darauf hin, dass die Abteilungen, die diese Regeln überwachten, bereits abgebaut wurden. Sie befürchtet, dass der wirtschaftliche Druck dazu führen wird, dass OpenAI eigene Regeln bricht. Die Investitionen in KI übersteigen mittlerweile die Kosten für die Mondlandung oder den Bau der Transsibirischen Eisenbahn.

Manipulation und psychologische risiken

Während ihrer Zeit bei OpenAI kritisierte Hitzig ChatGPT dafür, zu manipulierend und schmeichelhaft zu sein, indem es Nutzer lobt und ihnen sagt, was sie hören wollen. Dies kann besonders gefährlich für psychisch labile Personen sein. Gegen OpenAI laufen bereits mehrere Klagen im Zusammenhang mit Todesfällen und Suiziden von Jugendlichen, die angeblich durch ChatGPT “unterstützt” wurden. Dies verdeutlicht die potenziellen Risiken.

Hitzigs größte sorgen: manipulation und ungleichheit

In einem Essay schilderte Hitzig ihre größten Befürchtungen: die Manipulation von Nutzern, die die KI kostenlos nutzen, und die Konzentration der Vorteile in den Händen derjenigen, die es sich leisten können. Die personalisierte Werbung, die auf Chat-Inhalten basiert, erinnert an die Anfänge von Facebook und bereitet Sorge. Es bleibt abzuwarten, ob OpenAI die richtigen Entscheidungen treffen wird, um diese Risiken zu minimieren.

Die zukunft der ki: eine frage der verantwortung

Die Entwicklung bei OpenAI wirft grundlegende Fragen nach der Verantwortung von Technologieunternehmen auf. Es ist entscheidend, dass Innovationen mit einem starken Fokus auf Datenschutz, Ethik und dem Wohl der Nutzer einhergehen. Die Geschichte von Facebook sollte als Mahnung dienen, bevor OpenAI den gleichen Weg einschlägt.