Bil & Elfordon Datorer Sport & Träning Gaming Mobil Smart hem Teknik

Nyhet

Googles AI Overviews ger farliga och ospecifika svar

Googles nya sökfunktion baserad på artificiell intelligens har visat sig vara problematisk. AI-modellen hämtar många av sina svar från Reddit.

Av / 2024-05-24 - 17:03
Googles AI Overviews ger farliga och ospecifika svar

För några dagar sedan, i samband med utvecklarkonferensen Google I/O, lanserade Google funktionen AI Overviews för amerikanska användare. Den nya sökfunktionen ska kunna använda realtidsinformation, förstå flerskiktade argument och sammanfatta svar från många olika källor.

Som en del av presentationen visades hur AI Overviews kan svara på frågor som ”hitta de bästa yogastudiorna inom 10 minuter från mitt hem och vilka introduktionserbjudanden de har”.

Läs också AI, AI och mer AI i Googles planer Gemini 1.5 Pro får mer kapacitet och bättre förmåga till resonemang i flera steg.

Men bara några dagar efter att den nya sökfunktionen, vars svar visas ovanför de vanliga sökresultaten, blev tillgänglig började användare på sociala medier visa exempel på AI Overviews som ibland kom med galna svar på helt normala frågor.

Osmakliga och rent av farliga råd

En användare frågade Google hur han skulle göra för att förhindra att osten gled av hans pizza. Svaret på frågan? Du kan blanda lim i osten så fastnar den bättre!

Ännu värre var att en annan användare fick ett recept på senapsgas när han bad om råd om hur han skulle rengöra sin tvättmaskin.

Källan till rådet att lägga lim i osten? Ett 11 år gammalt inlägg på den sociala mediesajten Reddit från en användare vid namn ”fucksmith”.

60 miljoner dollar till Reddit

Det är ingen slump att AI Overviews vidarebefordrar ett svar från en Reddit-användare, för i början av året ingick Google ett avtal med Reddit som innebär att det sociala mediet får 60 miljoner dollar (nästan 414 miljoner danska kronor) för att Google använder det sociala mediets innehåll för att träna sina AI-modeller. Detta rapporterades av det tyska teknikmediet Winfuture redan i februari.

Läs det finstilta

Men Google frånsäger sig allt ansvar för de svar som AI Overviews ger användarna. ”Generative AI is experimental”, står det i det finstilta under alla AI-genererade sökresultat, så det är upp till användarnas eget ansvar och mediekompetens att utvärdera de svar som den artificiella intelligensen ger.

Meghann Farnswort, en talesperson för Google, säger till The Verge att felen i fråga härrör från ”generellt mycket ovanliga frågor som inte är representativa för de flesta människors erfarenheter”.

Företaget har vidtagit åtgärder mot överträdelser av sina policyer, sa hon, och använder dessa ”isolerade exempel” för att fortsätta förbättra produkten.

Peter Gotschalk
(f. 1973): Chefredaktör L&B Home. Peter har arbetat för Ljud & Bild sedan 2012. Han har varit aktiv som teknikjournalist i många medier sedan 1998, bland annat som chefredaktör för prylmagasinet GEAR och som journalist för tidningarna PC World och Privat Computer. Peter skriver om mobiltelefoner och andra bärbara enheter samt om teknisk innovation, inklusive 5G, elektrisk mobilitet och smarta hem.

Skriv en kommentar

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *

Lär dig blindskrift med LEGO

Krypterad meddelandetjänst hotar att lämna EU

Nu är Google NotebookLM här

Google: Dålig humor orsakade svar om lim i pizzaost

- Google ljuger

Googles nya AI-funktion rekommenderade användare att ha lim på sin pizza

Nya EU-regler ska förhindra ”Minority Report"

AI, AI och mer AI i Googles planer

Nu kan du prata med ChatGPT

NASA:s robottåg på Månen

Google Gemini blir mer allsmäktig

Skärmen gör allt utom att läsa tankar!

Rulla till toppen