EU förbjuder skadlig AI: Det här betyder det för dig

Från och med den 2 februari 2025 kommer appar och tjänster inte längre att kunna använda artificiell intelligens för att manipulera dig. EU har infört sin första lagstiftning som reglerar användningen av AI och flera av reglerna träder i kraft omedelbart.

Förbudet omfattar allt från att samla in bilder från sociala medier utan samtycke till att använda manipulativa AI-system vid dataanalys.

Bättre integritetsskydd

För vanliga konsumenter innebär de nya reglerna ett bättre skydd mot övervakning och oönskad påverkan. En viktig förändring är att appar inte längre får utnyttja psykologiska svagheter hos vissa grupper, till exempel barn eller äldre. Detta påverkar särskilt spelappar och sociala medier, som fram till nu har kunnat använda avancerade algoritmer för att behålla din uppmärksamhet.

Höga böter

Företag som bryter mot de nya reglerna riskerar böter på upp till 35 miljoner euro, eller 7 procent av den globala omsättningen. Detta gäller även utländska företag som erbjuder tjänster till EU-medborgare.

I takt med att fler delar av lagen träder i kraft kommer konsumenter också att ha rätt att klaga på AI-system och kräva förklaringar till beslut som påverkar dem.

Nya AI-krav för populära appar

Låt oss titta på fyra nyckelområden som nu är reglerade:

1. Sociala medier och känsloanalys

TikTok, Instagram och andra plattformar kommer inte längre att kunna använda AI för att känna igen om du är ledsen, glad eller stressad baserat på dina ansiktsuttryck, röst eller skrivstil. Detta kunde tidigare användas för att pusha innehåll som matchar ditt humör, eller för att sälja riktad reklam när du är särskilt sårbar.

2. Spelpsykologi och konsumtion

”Gacha”-spel och andra gratisappar måste sluta använda algoritmer som beräknar exakt när det är mest sannolikt att du spenderar pengar. Populära mobilspel har till exempel kunnat använda AI för att analysera dina spelmönster och sedan erbjuda mikrotransaktioner vid tillfällen då du är som mest frustrerad över att förlora.

3. AI i jobbsökandet

Rekryteringsappar som Teamtailor och HireVue kan inte längre använda AI för att bedöma personlighetsdrag baserat på videoinspelningar av anställningsintervjuer. Tidigare kunde de analysera allt från ansiktsuttryck och tonfall till ordval för att bedöma om du är ”tillräckligt utåtriktad” eller har ”rätt personlighet” för jobbet.

4. Ansiktsigenkänning

Appar som FaceApp eller Snapchat måste nu ha ett tydligt samtycke innan de kan använda ansiktsigenkänning, och de kan inte längre lagra data för senare användning. Det blir också förbjudet att bygga upp ansiktsdatabaser genom att skrapa bilder från sociala medier eller övervakningskameror, vilket företag som Clearview AI har gjort.

Ska hjälpa – inte skada

För att uttrycka det rakt på sak ska artificiell intelligens fortfarande kunna hjälpa dig, men inte lura dig. Målet är att få ett slut på algoritmer som i tysthet kartlägger din personlighet eller utnyttjar psykologiska svagheter.

Vi vill veta vad du tycker!

Vad tror du? Är detta bara början på en reglering av AI? Är det bara en tidsfråga innan det även kommer att finnas restriktioner som går utöver privatpersoners egen användning av AI? Vi vill gärna höra från dig i kommentarsfältet!

Mer info: artificial-intelligence-act.com