EU-lagstiftning ska skydda medborgarna från AI

Det finns ett talesätt som säger att ny teknik ofta uppfinns i USA, produceras i Kina och regleras i Europa.

Om det alltid är så – och i så fall hur effektiv lagstiftningen är – återstår att se, men säkert är att EU nu inför lagstiftning för att skydda medborgarna från de negativa konsekvenserna av artificiell intelligens.

Den nya förordningen om artificiell intelligens har just antagits av Europeiska rådet och kommer att träda i kraft före sommarsemestrarna.

Den vägledande principen i förordningen är att AI-teknik ska kategoriseras utifrån hur stor potentiell risk en viss teknik utgör för samhället. Ju större risk, desto strängare blir reglerna.

AI som endast utgör en begränsad risk kommer att omfattas av mycket lätta transparensskyldigheter, medan AI med hög risk kommer att godkännas men omfattas av ett antal krav och skyldigheter för att få tillträde till EU-marknaden.

Antagandet av AI-förordningen är en viktig milstolpe för Europeiska unionen. Denna banbrytande lag, som är den första i sitt slag i världen, tar itu med en global teknisk utmaning som också skapar möjligheter för våra samhällen och ekonomier. Med AI-akten betonar Europa vikten av förtroende, öppenhet och ansvarighet när man hanterar ny teknik, samtidigt som man säkerställer att denna snabbt föränderliga teknik kan blomstra och främja europeisk innovation, säger Mathieu Michel, Belgiens digitaliseringsminister, i ett pressmeddelande om den nya lagstiftningen.

AI-teknik som kognitiv beteendemanipulation eller social scoring kommer att vara helt förbjuden i EU eftersom riskerna anses vara oacceptabla.

Lagen förbjuder också användning av AI för så kallad predictive policing (tänk ”Minority Report”) baserad på profilering och system som använder biometriska data för att kategorisera människor enligt specifika kategorier som ras, religion eller sexuell läggning.