Nyheter

Det tog mindre än en dag för chatboten Tay att börja sprida nazistpropaganda.
Annons
Annons
forfatter

Att ett teknikföretag som Microsoft siktar in sig på ungdomar är bara naturligt eftersom unga människor brukar vara de som först tar till sig ny teknik.

Så när Microsoft i förra veckan satte igång chat-roboten Tay för att den skulle prata ungdomligt språk och med hjälp av artificiell intelligens lära sig ungdomars språkbruk och slang, så kunde väl ingenting gå fel? Jodå, det mesta, visade sig.

För när ett världsomspännande, kapitalistisk företag ska försöka verka ungdomligt fräscht och hippt så är det lätt för dem att glömma bort att ungdomar har en ganska så ocensurerad form av humor. Och att de har en tendens att genomskåda ett företag som består av ”vuxna tråkmånsar” som vänder på kepsen och försöker verka coola. För att inte tala om att ungdomar tycks ha en oemotståndlig lust att trolla.

Nazist på mindre än en dag
Roboten Tay är programmerad att interagera informellt och att lära sig språkbruk från unga vuxna mellan 18 och 24 år. Men det tog inte ens ett dygn att lära den vulgariteter på löpande band.

Ett par Twitter-troll listade ut hur de kunde manipulera Tay och förvandlade den stackars roboten till en nazist som hyllade Hitler och folkmord.

Annons

Microsoft stängde genast av den nyblivna nazisten och har också gett en förklaring till vad som hände:

Skjermbilde-2016-03-30-kl.-10.45.25

Skjermbilde-2016-03-30-kl.-11.00.53-460x214

Skjermbilde-2016-03-30-kl.-11.02.38-460x232

”Unfortunately, in the first 24 hours of coming online, a coordinated attack by a subset of people exploited a vulnerability in Tay. Although we had prepared for many types of abuses of the system, we had made a critical oversight for this specific attack. As a result, Tay tweeted wildly inappropriate and reprehensible words and images. We take full responsibility for not seeing this possibility ahead of time. […]Right now, we are hard at work addressing the specific vulnerability that was exposed by the attack on Tay.”

Annons

Microsoft har med andra ord inte gett upp och kommer att låta Tay använda sig av fler sociala media för att lära sig ungdomlig jargong – och förhoppningsvis göra sig av med sina nyvunna ideologiska åsikter.

Här är ett par skärmdumpar med Tay-kommentarer från Twitter:

Skjermbilde-2016-03-30-kl.-13.03.51-460x337

Källa: BGR

Vi uppskattar verkligen att du läser Ljud & Bild.
för att läsa vidare.

Prova Ljud & Bild i 30 dagar för 19 kr

Full tillgång till alla +artiklar, vårt testarkiv med tusentals produkter, Alla nyheter, recensioner och guider Se fler alternativ här

Lämna ett svar

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *

 

forfatter

Geir Gråbein Nordby

(f. 1978): Journalist. Gråbein har aldrig haft något annat heltidsjobb än på Ljud & Bild. Å andra sidan har han varit här nästan halva sitt liv, ända sedan 2001 när han skickade en jobbansökan till fel adress (han ville egentligen till en inspelningsstudio med samma namn). Gråbeins expertis är främst inom hifi, hörlurar och hemmabio, men det händer att han glimtar till med andra kvaliteter också.
Annons
Annons

Läs också

Avancerade träningsfunktioner och bättre koll på resultaten.
Razers nya speltangentbord reagerar olika beroende på hur hårt du trycker på tangenterna.
Nya smarta lås som du kan prata med – och som kan prata med dina andra smarta enheter.
På CES-mässan visade Razer upp en gaming-stol med utrullningsbar OLED-skärm! Har den massage också?
Amazon Prime har släppt en trailer till den nya Clancy-filmen.
I kväll är det premiär för den efterlängtade andra säsongen av Exit.
Full pott för Polestar 2 i krocktest.
Twitter-chefen Jack Dorsey har stora planer för Tidal. Jay-Z stannar kvar som styrelseordförande.
Xiaomi har lanserat fyra nya mobiler som de flesta har råd med. Den billigaste har 5G och den dyraste 108 megapixlar.
Porsches elektriska crossover är äntligen officiell – här kan du se lanseringen!
Trådlösa proppar med Marshall-ljud och app-styrning.
LG har tagit patent på en ny sorts OLED-TV som kan gömmas undan när du inte tittar på den.
Disney skakar själva fundamentet för biografernas exklusiva filmmonopol.
En ny, häftigare version av Samsungs superbreda gaming-monitor ska vara på väg.
Kom bara ihåg att välja versionen med stereoljud.
Samsung släpper många nya TV-modeller under mars/april.