Štítek "Vytvořeno pomocí AI" štve uživatele Instagramu, mají ho i u fotek, které AI netvořila
27.6.2024, Milan Šurkala, aktualita
Poslední dobou se na Instagramu začal častěji objevovat štítek "Made with AI", resp. "Vytvořeno pomocí AI". Uživatelé si stěžují, že jejich snímky nebyly vytvořeny žádnou generativní AI. Pravdu mají jen částečně.
Dnes je čím dál těžší rozlišit, které fotografie jsou skutečně fotografiemi pořízenými fotoaparátem, a které výtvory jsou jen výplodem algoritmů umělé inteligence. Může se zdát, že těžké je to i pro samotné počítače, neboť např. na sociální síti Instagram se začaly objevovat štítky "Made with AI", resp. "Vytvořeno pomocí AI", u kterých autoři tvrdí, že generativní AI nepoužili. Nejprve ale podotkněme, že tato úloha rozpoznávání skutečně má být pro počítače těžká, neboť je součástí trénovacího procesu generativní AI. Její trénování funguje často na tom principu, že jedna generativní AI se snaží "oblbnout" druhou AI, která má rozpoznávat, zda jde o skutečný nebo umělý obsah. Ale zpět k Instagramu.
Lidé začali pátrat po tom, proč je jejich obsah označován jako vytvořený pomocí AI, ačkoli šlo jen o fotografie. Nakonec se ukázalo, že za to mohou např. i nové funkce v softwaru Adobe Lightroom a Photoshop. Ty totiž u funkcí Generative Fill (generativní výplň) a Generative Expand využívají prvků generativní AI. To by k samotnému označení ještě nemuselo stačit. Vtip je ale v tom, že tato informace se zapisuje k metadatům k snímkům, takže Instagram v případě detekce těchto tagů snímek náležitě označí jako vytvořený pomocí AI. Ta sice nebyla použita k vygenerování celého snímku, ale byla využita k pozměnění jeho částí a v rámci iniciativy CAI ohledně informací o pravosti snímků a příslušného standardu C2PA jsou a budou takové změny do metadat zapisovány a příslušnými aplikacemi (včetně Instagramu) čteny.
Zajímavé je, že Generative Remove tento tag neukládá. Adobe totiž tvrdí, že tato funkce je prozatím v betaverzi a až bude plně dostupná a funkční, příznak bude generovat také. Photoshop má i starší varianty těchto funkcí (např. Spot Healing, Super Resolution, AI Noise Reduction), které rovněž fungují na bázi AI, tam je to systém Sensei a nikoli Firefly. Tato AI příznak nevytváří a totéž se týká také několika dalších podobných funkcí. Tyto příznaky dává do snímků ale nejen Adobe Firefly a funkce na něm postavené, nýbrž je najdete také v obrázcích vytvořených pomocí DALL-E nebo Meta AI. Nicméně např. takový Stable Diffusion tento tag nepřidává, a tak se na Instagramu takové snímky ani neoznačí jako vytvořené pomocí AI. Toto označování funguje v mobilních aplikacích, přičemž na desktopu jsem toto ještě nezaznamenal.
Zdroj: petapixel.com, techradar.com
