SUPERERBJUDANDE PÅ LJUD & BILD. 30% DENNA VECKA! SE ERBJUDANDET HÄR!

Microsofts chat-robot blev nazist

Det tog mindre än en dag för chatboten Tay att börja sprida nazistpropaganda.

Att ett teknikföretag som Microsoft siktar in sig på ungdomar är bara naturligt eftersom unga människor brukar vara de som först tar till sig ny teknik.

Så när Microsoft i förra veckan satte igång chat-roboten Tay för att den skulle prata ungdomligt språk och med hjälp av artificiell intelligens lära sig ungdomars språkbruk och slang, så kunde väl ingenting gå fel? Jodå, det mesta, visade sig.

För när ett världsomspännande, kapitalistisk företag ska försöka verka ungdomligt fräscht och hippt så är det lätt för dem att glömma bort att ungdomar har en ganska så ocensurerad form av humor. Och att de har en tendens att genomskåda ett företag som består av ”vuxna tråkmånsar” som vänder på kepsen och försöker verka coola. För att inte tala om att ungdomar tycks ha en oemotståndlig lust att trolla.

Nazist på mindre än en dag
Roboten Tay är programmerad att interagera informellt och att lära sig språkbruk från unga vuxna mellan 18 och 24 år. Men det tog inte ens ett dygn att lära den vulgariteter på löpande band.

Ett par Twitter-troll listade ut hur de kunde manipulera Tay och förvandlade den stackars roboten till en nazist som hyllade Hitler och folkmord.

Microsoft stängde genast av den nyblivna nazisten och har också gett en förklaring till vad som hände:

Skjermbilde-2016-03-30-kl.-10.45.25

Skjermbilde-2016-03-30-kl.-11.00.53-460x214

Skjermbilde-2016-03-30-kl.-11.02.38-460x232

”Unfortunately, in the first 24 hours of coming online, a coordinated attack by a subset of people exploited a vulnerability in Tay. Although we had prepared for many types of abuses of the system, we had made a critical oversight for this specific attack. As a result, Tay tweeted wildly inappropriate and reprehensible words and images. We take full responsibility for not seeing this possibility ahead of time. […]Right now, we are hard at work addressing the specific vulnerability that was exposed by the attack on Tay.”

Microsoft har med andra ord inte gett upp och kommer att låta Tay använda sig av fler sociala media för att lära sig ungdomlig jargong – och förhoppningsvis göra sig av med sina nyvunna ideologiska åsikter.

Här är ett par skärmdumpar med Tay-kommentarer från Twitter:

Skjermbilde-2016-03-30-kl.-13.03.51-460x337

Källa: BGR

forfatter

Geir Gråbein Nordby

(f. 1978): Journalist. Gråbein har aldrig haft något annat heltidsjobb än på Ljud & Bild. Å andra sidan har han varit här nästan halva sitt liv, ända sedan 2001 när han skickade en jobbansökan till fel adress (han ville egentligen till en inspelningsstudio med samma namn). Gråbeins expertis är främst inom hifi, hörlurar och hemmabio, men det händer att han glimtar till med andra kvaliteter också.
Kommentera

Lämna ett svar

    Läs också

    Pop-prinsessan går i helt nya vägar – nu på Disney+.
    Nu är det bara tre veckor kvar tills vi ännu en gång kan skratta och mysa med charmiga Johanne & Co.
    Fujifilm GFX100 får 400 megapixlar.
    Light Speaker från svenska Transparent är inte som andra trådlösa högtalare.
    Enligt flera källor har Samsung inga planer på en Galaxy Note 21. Note-serien ska ersättas av Galaxy Z Fold 3.
    Undvik felköp på Black Friday – satsa på testvinnarna!
    HBO Nordic satsar lokalt och lanserar snart sin första danska serie.
    Den taiwanesiska tillverkaren av mopeder och motorcyklar presenterar sin elektriska KYMCO F9 på torsdag.

    Aktuella erbjudanden

    Annons
    Prisjakt.se är en kommersiell partner till ljudochbild.se. De levererar uppdaterade priser, prisjämförelser och produktinformation.