Jak se množí padělky generované umělou inteligencí, Google plánuje bojovat – Ars Technica

Ve středu na Google I/O 2023 Google oznámit Tři nové funkce, které mají lidem pomoci odhalit falešné obrázky generované umělou inteligencí ve výsledcích vyhledávání, zprávy Bloomberg. Funkce identifikují známý původ obrázku, přidají metadata k obrázkům AI generovaným Googlem a označí další obrázky vytvořené AI ve výsledcích vyhledávání.

Díky modelům překryvných obrázků AI, jako je Midjourney a Stable Diffusion, se stalo triviální vytvářet obrovské množství realistických falešných obrázků, které mohou ovlivnit nejen dezinformace a politickou propagandu, ale také naši Koncept historického záznamu Kde koluje velké množství falešných mediálních nástrojů.

Ve snaze čelit některým z těchto trendů zavede vyhledávací gigant „v nadcházejících měsících“ do svého produktu pro vyhledávání obrázků nové funkce. podle na Google:

Podle roku 2022 62 procent lidí věří, že se denně nebo týdně setkávají s dezinformacemi Poynterova studie. Proto neustále vytváříme snadno použitelné nástroje a funkce ve Vyhledávání Google, které vám pomohou odhalit dezinformace online, rychle vyhodnotit obsah a lépe porozumět kontextu toho, co vidíte. Ale také víme, že je stejně důležité hodnotit vizuální obsah, se kterým se setkáte.

První funkce „O této fotce“ umožní uživatelům kliknout na tři tečky na obrázek ve výsledcích Fotek Google, vyhledávat pomocí obrázku nebo snímku obrazovky v Google Lens nebo přejetím prstem nahoru v aplikaci Google zjistit více o historii fotografie. včetně toho, kdy byla fotografie indexována. (nebo podobné obrázky) byly poprvé nahlášeny společností Google, kde se obrázek mohl poprvé objevit a na dalších místech na internetu, kde byl obrázek viděn (tj. zpravodajské, sociální stránky nebo weby ověřující fakta).

Později v tomto roce Google říká, že také umožní uživatelům přístup k tomuto nástroji kliknutím pravým tlačítkem nebo dlouhým stisknutím obrázku v prohlížeči Chrome na počítači a mobilu.

Tento dodatečný kontext k obrázku může pomoci určit jeho spolehlivost nebo naznačit, zda vyžaduje další kontrolu. Například pomocí funkce O tomto obrázku mohou uživatelé zjistit, že fotografie znázorňující falešné přistání na Měsíci byla zpravodajskými servery hlášena jako vytvořená umělou inteligencí. Může to také vložit Historický kontext: Byl tento obrázek přítomen v historii vyhledávání předtím, než se objevil motiv k jeho padělání?

Druhý rys se zabývá rostoucím používáním nástrojů AI při vytváření obrázků. Když Google začne zavádět agregátory obrázků, plánuje označit všechny obrázky generované jeho nástroji AI speciálními „značkami nebo metadaty“ uloženými v každém souboru, které jasně označují jejich aktiva AI.

A za třetí, Google říká, že také spolupracuje s dalšími platformami a službami, aby je povzbudil k přidávání podobných štítků k obrázkům generovaným AI. Midjourney a Shutterstock podepsali iniciativu; Každý bude obsahovat metadata v obrázcích generovaných umělou inteligencí, které Google Image Search přečte a zobrazí uživatelům ve výsledcích vyhledávání.

Tyto snahy nemusí být dokonalé, protože metadata mohou být později odstraněna nebo potenciálně pozměněna, ale jsou pozoruhodným pokusem o řešení problému deepfakes na internetu.

Jak bude AI vytvářeno nebo postupem času vylepšováno více obrázků, můžeme zjistit, že hranice mezi „skutečným“ a „falešným“ se začíná rozmazávat, což je ovlivněno měnícími se kulturními normami. V tomto bodě naše rozhodnutí, jakému druhu informací důvěřovat jako přesnému odrazu reality (bez ohledu na to, jak jsou generovány), může jako vždy záviset na naší víře ve zdroj. Proto i při rychlém technologickém rozvoji zůstává důvěryhodnost zdroje nanejvýš důležitá. Technologická řešení, jako je Google, nám mohou mezitím nabídnout pomoc při posuzování této důvěryhodnosti.