AI används till allt – inklusive hackning

Artificiell intelligens kommer att kosta jobb. Men nu är den rädslan inte längre förbehållen människor med trevliga kontorsjobb. Den här gången gäller det högkvalificerade positioner i den kriminella undervärlden. Ny forskning visar att hackare tydligen har blivit för lata för att skriva sin egen skadliga kod. Istället vänder de sig till generativ AI för att få hjälp med allt från att utveckla ransomware till att skriva mer övertygande lösenbrev.

Enligt en ny rapport från AI-företaget Anthropic har cyberbrottslingar börjat använda deras språkmodeller Claude och Claude Code för att skapa skadlig programvara. Som ett resultat har det nu blivit lättare även för de mest tekniskt oerfarna hackarna att utföra attacker. Denna nya utveckling banar väg för en omvandling som undanröjer traditionella tekniska hinder för utvecklingen av skadlig programvara.

Ett exempel är en cyberkriminell från Storbritannien som går under namnet GTG-5004. Denna person använder Claude för att utveckla, marknadsföra och distribuera ransomware med avancerade undvikandefunktioner. På cyberkriminella forum har GTG-5004 sålt ransomwaretjänster för priser mellan 400 och 1 200 dollar. Anthropic säger att GTG-5004:s produkter inkluderar olika krypteringsalternativ, programvaruverktyg och metoder som är utformade för att hjälpa hackare att undvika upptäckt.

Det verkar dock som om utvecklaren inte är tekniskt skicklig. Forskarna skriver att denna operatör inte verkar vara kapabel att implementera krypteringsalgoritmer, anti-analystekniker eller manipulering av Windows interna funktioner utan Claudes hjälp. Med andra ord skulle han inte ha en chans utan hjälp av AI.

I slutändan blir kampen mellan gott och ont en kamp mellan artificiell intelligens på båda sidor – med oss människor som statister.

Annons

Men GTG-5004 är inte ensam. Anthropic har också upptäckt en annan cyberkriminell grupp, som de kallar GTG-2002, som använder Claude Code för att hitta mål. Denna grupp använder också AI för att få tillgång till nätverk, utveckla skadlig programvara, stjäla data, analysera den stulna informationen och sedan utforma ett lösenbrev. Under den senaste månaden har denna attack drabbat minst 17 organisationer inom myndigheter, hälso- och sjukvård, räddningstjänst och religiösa institutioner. Forskarna på Anthropic skrev i sin rapport att operationen visar på en oroande utveckling inom AI-assisterad cyberbrottslighet, där AI fungerar både som teknisk konsult och aktiv operatör.

Dessutom har forskare från säkerhetsföretaget ESET upptäckt vad de kallar den första kända AI-drivna ransomware som heter PromptLock. Ransomware körs främst lokalt på en dator och använder en open source AI-modell från Open AI för att generera skadliga skript. Den använder också dessa skript för att inspektera filer, stjäla data och implementera kryptering. ESET anser att koden är en proof-of-concept, alltså en demoversion som ännu inte verkar ha använts i verkliga attacker. Deras fynd understryker dock hur cyberbrottslingar har börjat använda språkmodeller som en del av sin arsenal.

Även om generativ AI underlättar många saker i vårt dagliga liv, gör den också skadliga handlingar mer tillgängliga. Detta är en oroande utveckling, särskilt när vi tänker på att antalet ransomware-attacker redan har nått rekordnivåer. Som Paul Nakasone, tidigare chef för den amerikanska säkerhetstjänsten NSA och Cyber Command, sade: ”Vi gör inga framsteg mot ransomware.” Nu när AI också är en del av spelet blir den kampen ännu svårare.

I slutändan kommer kampen mellan gott och ont att bli en kamp mellan artificiell intelligens på båda sidor – med oss människor som statister.

Källor: Wired, ESET