Delningsbara ChatGPT-konversationer slår fel

Många använder ChatGPT för allvarliga och känsliga konsultationer. Det kan vara råd om sin ekonomi, personliga problem eller mental ohälsa. Detta eftersom man förlitar sig på att samtalet är privat och aldrig kan spåras till en själv. Men en ny funktion som OpenAI experimenterat med har slagit fel och gjort chattarna sökbara på nätet för vem som helst.

Det handlade om en funktion som skulle göra det möjligt att dela med sig av intressanta chattar till sina vänner. I chatten fanns en delningsknapp och sedan en knapp för att skapa en länk till konversationen. När man använde funktionen sa OpenAI att ”ditt namn, skräddarsydda instruktioner och meddelanden du lägger till efter att ha delat länken fortsätter vara privata”.

Men vad folk som använde funktionen inte förstod var att konversationen blev offentlig. Så pass att sökmotorer som Google kunde indexera innehållet och därmed göra det sökbart för alla på nätet.

En journalist som undersökte detta hittade en användare som pratade om sitt sexliv, sin kamp med posttraumatiskt stressyndrom och familjerelationer. En journalist på Techcrunch hittade en person som bad om hjälp med att skriva om sin resumé inför en jobbansökan. Baserat på informationen i chatten var det lätt att hitta personen på Linkedin, något som hade varit minst sagt besvärande om arbetsgivaren hade uppdagat personens planer på att sluta. Många av konversationerna innehöll tillräckligt med information för att identifiera personen.

Bara timmar efter att läckan uppdagats stängde OpenAI ned funktionen och förklarade att experimentet ”introducerade för många möjligheter för folk att av misstag dela saker som de inte hade för avsikt att dela”. Google kommenterade att deras sökmotor indexerar saker som publiceras på nätet och att det är publicisten som har kontroll över vad som läggs ut och blir sökbart.

Källa: Fast Company