Den 13 maj tvingade en amerikansk domare OpenAI att permanent lagra alla ChatGPT-chattar, inklusive de som användarna har raderat. Beslutet är resultatet av en stämningsansökan från The New York Times, som anklagar OpenAI för att olagligt använda tidningens artiklar för AI-träning.
OpenAI kallar kravet ”omfattande och onödigt” och har överklagat beslutet, men måste följa domen tills vidare.
Vem drabbas?
Alla användare av ChatGPT Free, Plus, Pro och Team påverkas av domen. Även chattar som användare aktivt har raderat eller markerat som ”tillfälliga konversationer” sparas nu permanent.
OpenAI uppger att de berörda uppgifterna lagras separat och endast är tillgängliga för ett litet juridiskt team. Uppgifterna delas inte automatiskt med The New York Times.
GDPR-konflikt
Den amerikanska domen bryter mot centrala GDPR-principer som skyddar EU-medborgare och norska användare. GDPR ger användare ”rätten till radering” – även kallad ”rätten att bli glömd” – som OpenAI nu inte kan uppfylla för berörda chattar.
Beslutet bryter också mot GDPR:s krav på dataminimering och förbud mot att lagra data längre än nödvändigt. GDPR förbjuder dessutom att tredjelands domar används som grund för databehandling utan internationella avtal. Inget sådant avtal finns mellan USA och EU.
OpenAI erkänner att beslutet kan leda till GDPR-överträdelser. Överträdelsen kan kosta upp till fyra procent av företagets globala omsättning eller 20 miljoner euro i böter.
Osäkerhet om anonymisering
Det är oklart om de sparade chattarna anonymiseras. Tidigare har OpenAI avidentifierat raderade chattar som skulle användas för modellutveckling så att de inte kunde spåras till specifika användare.
OpenAI:s tidigare policy var att raderade chattar skulle tas bort permanent inom 30 dagar, såvida de inte först anonymiserades för utbildningsändamål. Enligt den nya domen finns det ingen garanti för anonymisering, vilket innebär att chattar förmodligen förblir kopplade till användarnas konton.
OpenAI kämpar emot
”Detta strider fundamentalt mot våra integritetslöften till användarna”, säger OpenAI:s COO Brad Lightcap. Företaget försökte få beslutet upphävt den 15 maj, men avslogs dagen efter.
Som reaktion föreslår OpenAI:s VD Sam Altman ett ”AI-privilegium” liknande advokat-klient-sekretess, som ska skydda AI-konversationer från tvångsöverlämnande.
The New York Times hoppas att permanent datalagring kan avslöja hur användare använder ChatGPT för att kringgå tidningens betalvägg och kopiera artiklar.
Konsekvenser för användare
Kort sagt måste ChatGPT-användare från och med nu vara medvetna om att deras chattlogg nu sparas permanent, även om de raderar konversationer. Man bör därför vara försiktig med att dela alltför personlig eller affärskritisk information.
OpenAI lovar att hålla användarna informerade om utvecklingen i ärendet och eventuella ändringar i beslutet.