+++ Please find the English version below. +++
Nachdem OpenAI außerhalb der EU bereits mit der Ausspielung begonnen hat, startet hyperpersonalisierte Werbung bei ChatGPT in Kürze auch in Europa. Bereits Ende August wurden die Datenschutzrichtlinie von OpenAI geändert und im Zuge dessen die Angaben zur Datenverarbeitung zu Werbezwecken nach der DSGVO angepasst. Die Werbung betrifft Nutzende der kostenlosen Variante und des Abo-Modells ChatGPT Go.
Persönlichkeitsprofiling auf Basis aller Chat- und Kontextinformationen
Um die Werbung auf die Nutzenden zuzuschneiden, werden zukünftig Persönlichkeitsprofile erstellt, wofür OpenAI frühere und aktuelle Chats, Geräteinformationen und Nutzungsdaten auswerten wird. Wer zum Beispiel nach Rezepten sucht oder in der Vergangenheit danach gesucht hat, könnte dann Anzeigen für Kochboxen oder Lebensmittelieferungen gezeigt bekommen. Die hyperpersonalisierte Werbung soll auf Basis einer datenschutzrechtlichen Einwilligung erfolgen, also per Opt-in.
„Generische“ Werbung – die herkömmliche Form personalisierter Werbung
Wer nicht einwilligt, soll „generische“ Werbung sehen, wie sie seit August schon ausgespielt wird. Auch diese Werbeanzeigen sind auf den Chatinhalt bezogen und somit personalisiert, sie werden aber nach Angaben von OpenAI auf der Basis begrenzter Daten ausgewählt, die für den aktuellen Kontext relevant sind, und beinhalten weder die Erstellung noch die Nutzung von Nutzendenprofilen. Auch bei dieser Variante werden der Inhalt des aktuellen Chat-Threads und grundlegende Kontextinformationen wie der allgemeine Standort oder die Sprache für Werbezwecke verwendet. Die Verarbeitung personenbezogener Daten für die „generische“ Werbung stützt OpenAI auf ein überwiegendes berechtigtes Interesse.
Datenschutzrisiko durch Hyperpersonalisierung
Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit (HmbBfDI) sieht in der bald startenden Auswertung der Chats zum Profiling erhebliche datenschutz- und persönlichkeitsrechtliche Risiken. Denn ChatGPT wird in sehr vielen Lebensbereichen auch zu sehr persönlichen Zwecken genutzt und von Nutzenden zunehmend mehr als persönlicher Gesprächspartner statt als Maschine wahrgenommen. OpenAI hat in einer Studie ausgewertet, dass etwa die Hälfte der Eingaben (49 Prozent) zur Kategorie „Fragen“ gehöre, eine wachsende und hoch bewertete Kategorie, die zeige, dass die Menschen ChatGPT vor allem als Berater und nicht nur zur Erledigung von Aufgaben schätzen.
Anders als bei der Ausspielung herkömmlicher personalisierter Werbung auf Websites oder in Suchmaschinen liegt in dieser Nutzungsweise der wesentliche Unterschied: Das Profiling basiert nicht nur auf dem Verhalten im Web oder bei der Eingabe allgemeiner Suchbegriffe, sondern es fließen detaillierte und bis in die Intimsphäre hineinreichende Chatinhalte in die Erstellung von Persönlichkeitsprofilen ein, was die Qualität dieser Persönlichkeitsprofile erheblich steigern wird. Zudem werden sich Stimmungen der Nutzenden in Echtzeit feststellen lassen. Die Auswertung derart umfassender Daten führt zu hyperpersonalisierter Werbung, was eine neue Dimension des Werbens und eine enorme Herausforderung für den Datenschutz darstellt.
Da ChatGPT der meistgenutzte KI-Chatbot in Deutschland ist, sind Millionen von Nutzenden unmittelbar von diesen Entwicklungen betroffen. Wer ChatGPT weiterhin nutzen und die Profilbildung zu Werbezwecken aus den Chats weitmöglichst beschränken möchte, kann folgende Punkte beachten:
- keine Einwilligung in personalisierte Werbung erteilen
- prüfen, ob die Werbepersonalisierung in den Datenschutzeinstellungen aktiviert ist und gegebenenfalls deaktivieren
- die Funktion „Erinnerungen“ deaktivieren und vorhandene „Erinnerungen“ löschen
- Verwendung der Chats zur Modellverbesserung deaktivieren
- für sensible Themen die Funktion „Temporärer Chat“ verwenden
- keine vertraulichen oder geheimhaltungsbedürftigen Informationen in ChatGPT eingeben
- regelmäßig Chatverlauf löschen
ChatGPT in den werbefreien Varianten nutzen
+++
Profiling in Chatbots: ChatGPT Will Soon Feature Hyper-Personalised Advertising in Europe
After OpenAI began rolling out the feature outside the EU, hyper-personalised advertising on ChatGPT will soon launch in Europe as well. OpenAI’s privacy policy was updated at the end of August, and as part of that update, the information regarding data processing for advertising purposes was adjusted in accordance with the GDPR. The advertising applies to users of both the free version and the ChatGPT Go subscription model.
Personality Profiling Based on All Chat and Contextual Information
To tailor advertising to users, personality profiles will be created in the future; to do this, OpenAI will analyse past and current chats, device information, and usage data. For example, users who search for recipes—or have searched for them in the past—could then be shown ads for meal kits or food delivery services. The hyper-personalised advertising is intended to be based on consent under data protection law, i.e., via an opt-in process.
“Generic” Advertising—the Traditional Form of Personalised Advertising
Those who do not consent will see “generic” advertising, as has been the case since August. These ads are also based on chat content and are therefore personalised; however, according to OpenAI, they are selected based on limited data relevant to the current context and do not involve the creation or use of user profiles. In this variant as well, the content of the current chat thread and basic contextual information—such as general location or language—are used for advertising purposes. OpenAI bases the processing of personal data for “generic” advertising on an overriding legitimate interest.
Data Protection Risk Posed by Hyper-Personalisation
The Hamburg Commissioner for Data Protection and Freedom of Information (HmbBfDI) sees significant risks to data protection and privacy rights in the upcoming analysis of chats for profiling purposes. This is because ChatGPT is used in so many areas of life, including for very personal purposes, and is increasingly perceived by users as a personal conversation partner rather than a machine. In a study, OpenAI found that about half of the inputs (49 percent) fall into the “Questions” category—a growing and highly rated category that shows people value ChatGPT primarily as an consultant and not just an assistant for completing tasks.
Unlike the display of conventional personalised advertising on websites or in search engines, this usage pattern presents a key difference: profiling is not based solely on online behaviour or the entry of general search terms, but detailed chat content—which extends into the private sphere—is incorporated into the creation of personality profiles, which will significantly enhance the quality of these profiles. In addition, users’ moods will be detectable in real time. The analysis of such comprehensive data leads to hyper-personalised advertising, which represents a new dimension of advertising and an enormous challenge for data protection.
Since ChatGPT is the most widely used AI chatbot in Germany, millions of users are directly affected by these developments. Anyone who wishes to continue using ChatGPT while limiting the creation of profiles for advertising purposes based on chat content as much as possible can follow these steps:
- Do not consent to personalised advertising
- Check whether ad personalization is enabled in the privacy settings and disable it if necessary
- Disable the “Reminders” feature and delete any existing “Reminders”
- Disable the use of chats for model improvement
- Use the “Temporary Chat” feature for sensitive topics
- Do not enter any confidential or sensitive information into ChatGPT
- Regularly delete your chat history
- Use the ad-free versions of ChatGPT
