Google Gemini kan nu avslöja AI-videor

Tro inte på allt du ser på internet. Och med tillkomsten av hyperrealistiska videogeneratorer har det blivit praktiskt taget omöjligt för blotta ögat att skilja mellan en inspelning av verkligheten och en sekvens som skapats av en serverfarm i Kalifornien.

Men nu kliver Google in med en lösning som påminner lite om det gamla talesättet att det krävs en tjuv för att fånga en tjuv. Om du är osäker på om en video har skapats med hjälp av AI kan du nu fråga… en AI!

Google har börjat lansera en funktion i sin chatbot, Gemini, som låter användare ladda upp eller länka till en video och helt enkelt fråga: ”Har den här videon skapats med AI?”

Den osynliga vattenstämpeln

Tekniken bakom detekteringen kallas SynthID. Det är inte direkt en ny uppfinning, men hittills har den levt ett stillsamt liv i maskinrummet hos Google DeepMind. Nu är den fritt tillgänglig i chatbotten Gemini.

SynthID fungerar genom att bädda in en digital vattenstämpel direkt i pixelkompositionen hos bilder, ljud eller video när de genereras. Till skillnad från vattenstämplar på stockfoton eller TV-stationers logotyper i hörnet är SynthID osynligt för det mänskliga ögat och påverkar inte tittarupplevelsen.

Det är som att ha ett inbrottslarm som bara reagerar på inbrottstjuvar som bär namnskyltar.

Men för en algoritm lyser det upp som en neonskylt.

Tanken är att även om en video beskärs, får sina färger ändrade eller komprimeras till oigenkännlighet på sociala medier, så kommer det digitala fingeravtrycket att finnas kvar. Och det är just detta fingeravtryck som Gemini nu har tränats att leta efter.

Fungerar endast på Googles eget material

Det låter som den heliga graalen i kampen mot desinformation och deepfakes. Men innan du lutar dig tillbaka i stolen och blint litar på oraklet från Mountain View finns det ett stort och ganska betydande ”men”.

Gemini kan endast på ett tillförlitligt sätt upptäcka videor som har ett SynthID-vattenmärke.

I praktiken innebär detta att systemet är utmärkt på att upptäcka videor som skapats med Googles egna verktyg, såsom videogeneratorn Veo eller bildgeneratorn Imagen 3.

Men om videon har skapats med OpenAI:s Sora, Runway eller någon av de otaliga open source-modellerna som finns överallt på internet och som inte stöder SynthID-standarden, är Gemini lika clueless som vi andra dödliga.

För att uttrycka det rakt på sak är det som att ha ett inbrottslarm som bara reagerar på inbrottstjuvar som bär namnskyltar.

Ett steg mot en standard

Google har gjort SynthID-tekniken tillgänglig för andra och uppmuntrar naturligtvis hela branschen att anta standarden. Endast tiden kan utvisa om konkurrenterna kommer att vilja använda en standard utvecklad av Google för att märka sitt innehåll.

Tills dess är den nya funktionen i Gemini ett användbart verktyg, men inte en absolut domare. Om Gemini säger att en video är AI-genererad kan du lita på det. Om den säger ”Jag vet inte” kan det betyda att videon är äkta. Eller att den är falsk, men gjord av en konkurrent.

Så vi kommer nog inte att kunna klara oss utan att använda sunt förnuft på ett tag ännu.

Källa: Google