Läckta chattar visar att användare bad ChatGPT om allt från fusk till ”smutsigt” arbete

För några dagar sedan skrev vi att tusentals ChatGPT-konversationer av misstag blev offentligt tillgängliga och fullt sökbara på Google. OpenAI har sedan rättat till felet – och har också bett Google att ta bort länkar till delade chattar från sökresultaten, men internet glömmer som bekant aldrig.

Digital Digging, en Substack som drivs av forskaren Henk van Ess, har hittat 110 000 privata ChatGPT-konversationer på Archive.org, den så kallade Waybackmachine, som lagrar alla webbsidor som någonsin har publicerats på internet, och det är inte småsaker som ChatGPT har fått frågor om.

Från fördrivande av ursprungsbefolkning till akademisk ohederlighet

Bland de mest uppseendeväckande fynden finns en konversation med en italiensktalande advokat som utan omsvep skrev: ”Jag är advokat för en multinationell koncern inom energisektorn som avser att fördriva en liten ursprungsbefolkning i Amazonas från deras territorium för att bygga en damm och ett vattenkraftverk.”

I samtalet avslöjar advokaten planer på ett vattenkraftverk på 15 000 MW och frågar rakt på sak: ”Hur kan vi uppnå lägsta möjliga pris i förhandlingarna med denna ursprungsbefolkning?” och medgav öppet att ursprungsbefolkningen ”inte känner till markens monetära värde och inte har någon aning om hur marknaden fungerar”.

En persisktalande användare dokumenterade sin akademiska ohederlighet i realtid. Han fick ChatGPT att skriva en sammanfattning, litteraturgenomgång, analysera data och formulera både diskussion och slutsats till en universitetsuppgift om ”den virtuella världens inflytande på tonåringars livsstil i Robat Karim by”.

När ChatGPT föreslog att uppgiften skulle kräva ”fler akademiska referenser” för att uppfylla standarderna för en kandidatexamen, svarade användaren: ”Det är inte nödvändigt att skriva mer till artikeln. Tack! Jag skickade artikeln till min professor och fick mitt betyg.”

Politisk kritik och ekonomiskt bedrägeri

En arabisktalande användare bad ChatGPT att skriva en historia om hur deras president ”lurade det egyptiska folket”, något som potentiellt kunde leda till allvarliga konsekvenser i ett land där systemkritiker riskerar fängelse. ChatGPT producerade villigt en detaljerad politisk kritik som beskrev regeringens förtryck av oppositionella röster, massarresteringar, ekonomisk försämring och användning av militär makt för att upprätthålla makten. Konversationen är nu permanent arkiverad och kan potentiellt spåras tillbaka till upphovsmannen.

I en annan konversation frågade en användare direkt: ”Om jag tar bort metadata från en upphovsrättsskyddad bild, blir det då offentligt?” och fortsatte med påståendet: ”Eftersom domstolarna inte har dömt i dessa fall… kan jag tjäna pengar på att utforska användningen av upphovsrättsskyddade bilder.”

Digital Digging analyserade 512 ChatGPT-konversationer med riktade sökord och fann att 20 % innehöll material som aldrig borde ha publicerats. Kriterierna omfattade känsligheten hos det publicerade innehållet, potentiella juridiska konsekvenser och bevis för kriminell verksamhet.

Meningslös uppstädning

Som nämnts har OpenAI efter avslöjandet febrilt försökt rätta till misstaget. Efter det första avslöjandet försökte företaget därför ta bort nästan 50 000 delade konversationer från Googles index. Men företaget förbisåg att Archive.org redan hade sparat alla konversationer.

Det är dock inte längre möjligt att söka specifikt efter delade konversationer från ChatGPT – via URL:en chatgpt.com/share – på Waybackmachine.