Generování obrázků pomocí nástrojů využívajících umělou inteligenci, jako jsou DALL-E, Midjourney, Stable Diffusion nebo StarryAI, je snadné a výsledky mohou být jakékoli na škále od fantaskně zábavných po velmi realistické. Což může být ve světě, kde se dezinformace a fake news leckdy úspěšně opíraly i o doslova amatérskou kreativitu v grafickém editoru, docela nebezpečné.
Společnost Meta oznámila, že v dohledné době začne takto vytvořené obrázky viditelně označovat – nejspíš podobně jako „placenou spolupráci“ na instagramových účtech influencerů.
„Rozdíl mezi lidským a syntetickým obsahem se stírá a lidé chtějí vědět, kde leží hranice,“ uvedl v blogovém příspěvku Nick Clegg, prezident společnosti Meta pro globální záležitosti.
Má to ale háček. Těmito „štítky“ budou označeny jen obrázky vytvořené AI nástroji společností Google, Microsoft, OpenAI, Adobe, Midjourney a Shutterstock, a to ještě až ve chvíli, kdy do nich budou tyto nástroje vkládat digitální vodoznaky (a další související metadata), podle kterých systémy společnosti Meta umělý obsah rozpoznají. Obrázky, které uživatelé vytvoří přímo nástroji Mety, tak budou identifikačním vodoznakem vybaveny také.
V podstatě ve stejnou chvíli oznámila společnost OpenAI, že bude do obrázků vytvořených ve svém nástroji DALL-E 3 vodoznaky taky přidávat. Doplněná metadata budou odpovídat standardům koalice C2PA (Coalition for Content Provenance and Authenticity). Součástí obrázku tak bude okem neviditelný vodoznak i okem viditelný symbol v levém horním rohu.
Podobnou ochranu některé jiné nástroje již obsahují nebo také pracují na její implementaci. Ochranné vodoznaky jsou zatím k dispozici pouze pro obrázky, nikoli videa či texty.
Původ obrázku můžete zkusit ověřit například na contentcredentials.org/verify
Kromě automatické identifikace v sítích Meta si bude moct původ obrázku zkontrolovat každý uživatel, například v ověřovacím nástroji Content Credentials Verify na webu contentcredentials.org/verify.
Důležité varování na závěr: To, že se firmy budou snažit obrázky vytvořené pomocí AI označovat, neznamená, že ty neoznačené bude možné automaticky považovat za „opravdové“.