Prokazování digitální autenticity v éře AI

Umělá inteligence dokáže vytvořit obrázek za pár vteřin. Ale dokážeme prokázat, kdo ho vytvořil?

S tím, jak je stále obtížnější rozlišit obrázky vytvořené umělou inteligencí od fotografií, se prokázání původu obrázku a způsobu jeho vzniku stává stejně důležité jako samotný obrázek.

Právě zde přichází na řadu C2PA a Content Credentials.

C2PA dokáže vytvořit kryptograficky podepsaný záznam o původu obrázku, který zachycuje informace o tom, kdo jej vytvořil, jaké zařízení nebo software byly použity, jaké úpravy byly provedeny a zda byly zapojeny nástroje AI. Pokud je s podepsaným obsahem nebo jeho původem manipulováno, ověření to dokáže odhalit.

Původ nám ale vypráví jen část příběhu. Potřebujeme také vědět, kdo jsou aktéři, kteří za tímto původem skutečně stojí.

Zde mohou Verifiable Credentials přidat další vrstvu důvěry. Mohou poskytnout doplňující informace o lidech nebo organizacích zapojených do vytváření nebo zpracování daného aktiva, například propojit fotografa, novináře, organizaci nebo profesní roli s původem obrázku.

Představte si tuto kombinaci:

• C2PA: Co se s obrázkem stalo?
• Verifiable Credential: Kdo je tvůrce nebo organizace?
• Digitální důvěra: Dokážeme ověřit obojí?

Společně by tyto technologie mohly vytvořit silnou vrstvu důvěry pro obrázky, videa a další digitální obsah, zejména v době, kdy generativní AI stále více znesnadňuje posouzení vizuálního obsahu jen podle vzhledu.

Základní myšlenka ale přesahuje média. C2PA se v jádru týká původu, nejen obrázků. Stejný přístup lze uplatnit i na data a dokumenty a vytvořit tak ověřitelný záznam o tom, jak aktivum prochází procesem.

Vezměme si nákladní list v dodavatelském řetězci. Jak putuje od jedné strany ke druhé, každá odpovědná strana by mohla přidat nové tvrzení do manifestu C2PA prostřednictvím své Business Wallet. Místo pouhého dokumentu byste tak měli ověřitelnou historii toho, co se s ním dělo, které strany byly zapojeny a jaké kroky byly provedeny.

Jinými slovy, otázka se posouvá od „Vypadá to autenticky?“ k „Dokážeme ověřit jeho historii?“.

Budoucnost autenticity obsahu možná nebude o odhalování toho, co je falešné. Možná půjde o schopnost prokázat, co je autentické.

Praktický příklad: jak Content Credential odhalí úpravu pomocí AI

Karusel na LinkedIn k tomuto příspěvku prochází praktickým příkladem. Přepis:

Představte si dvě téměř identické dovolenkové fotografie, Fotografii A a Fotografii B, stejného horského jezera. Pouze jedna z nich byla upravena pomocí AI a rozdílem je horkovzdušný balon přidaný na oblohu na Fotografii B.

Content Credential připojený k Fotografii B odhaluje její celou historii:

• Pořízeno fotoaparátem - 14. března, 9:12 ráno
• Mírně zesvětleno - v softwaru pro úpravu fotografií
• Balon byl přidán pomocí AI - štítek to neskrývá, jen to uvádí
• Publikováno novinami - schváleno před zveřejněním

Proč nemůže někdo štítek jednoduše zfalšovat? Přibližte si tutéž fotografii velmi zblízka a každý pixel nese kryptografický otisk. Otisk na štítku zní 4F04 F1F3 0A89 4138, zatímco otisk fotografie dnes zní 8D2B C5FF 5F4F 8950. Neshodují se: změnil se jeden bod a s ním se změnil celý otisk. Počítač to odhalí okamžitě, i tam, kde by to lidské oko nikdy nepoznalo. Tento otisk je hash, zapečetěný digitálním podpisem.

Spolu s Content Credential lze uložit i osobní údaje. Například Verifiable Credential pro fotografku jménem Anna by mohla potvrdit:

• Akreditovaná tisková fotografka, dosud platná
• Pracuje pro registrovanou zpravodajskou organizaci
• Má oprávnění publikovat jejím jménem