Dokazivanje digitalne autentičnosti u doba AI-ja

AI može stvoriti sliku u nekoliko sekundi. Ali možemo li dokazati tko ju je stvorio?

Kako slike generirane umjetnom inteligencijom postaje sve teže razlikovati od fotografija, dokazivanje odakle slika potječe i kako je nastala postaje jednako važno kao i sama slika.

Tu na scenu stupaju C2PA i Content Credentials.

C2PA može stvoriti kriptografski potpisan zapis o podrijetlu slike, bilježeći informacije poput toga tko ju je stvorio, koji je uređaj ili softver korišten, kakve su izmjene napravljene i jesu li bili uključeni AI alati. Ako se manipulira potpisanim sadržajem ili njegovim podrijetlom, provjera to može otkriti.

No podrijetlo nam govori samo dio priče. Također moramo znati tko su akteri koji zapravo stoje iza tog podrijetla.

Tu Verifiable Credentials mogu dodati još jednu razinu povjerenja. Mogu pružiti dodatne informacije o osobama ili organizacijama uključenima u stvaranje ili rukovanje nekim resursom, primjerice povezujući fotografa, novinara, organizaciju ili profesionalnu ulogu s podrijetlom slike.

Zamislite tu kombinaciju:

• C2PA: Što se dogodilo sa slikom?
• Verifiable Credential: Tko je autor ili organizacija?
• Digitalno povjerenje: Možemo li provjeriti oboje?

Zajedno bi te tehnologije mogle stvoriti snažan sloj povjerenja za slike, videozapise i drugi digitalni sadržaj, osobito jer generativna AI sve više otežava procjenu vizualnog sadržaja samo na temelju izgleda.

No temeljna ideja seže dalje od medija. C2PA je u svojoj srži o podrijetlu, ne samo o slikama. Isti se pristup može primijeniti na podatke i dokumente, stvarajući provjerljiv zapis o tome kako neki resurs prolazi kroz proces.

Uzmite teretnicu u opskrbnom lancu. Kako putuje od jedne strane do druge, svaka odgovorna strana mogla bi dodati novu tvrdnju u C2PA manifest putem svog Business Walleta. Umjesto samo dokumenta, imali biste provjerljivu povijest onoga što mu se dogodilo, koje su strane bile uključene i koji su koraci poduzeti.

Drugim riječima, pitanje se pomiče od "Izgleda li ovo autentično?" prema "Možemo li provjeriti njegovu povijest?".

Budućnost autentičnosti sadržaja možda neće biti o otkrivanju onoga što je lažno. Možda će biti o mogućnosti dokazivanja onoga što je autentično.

Razrađen primjer: kako Content Credential otkriva AI izmjenu

LinkedIn karusel uz objavu prolazi kroz razrađen primjer. Transkript:

Zamislite dvije gotovo identične fotografije s odmora, Fotografiju A i Fotografiju B, istog planinskog jezera. Samo je jedna od njih uređena putem AI, a razlika je balon na vrući zrak dodan na nebo na Fotografiji B.

Content Credential priložen Fotografiji B otkriva njezinu potpunu povijest:

• Snimljeno fotoaparatom - 14. ožujka, 9:12 ujutro
• Malo posvijetljeno - u softveru za uređivanje fotografija
• Balon je dodan putem AI - oznaka to ne skriva, samo to navodi
• Objavile novine - odobreno prije objave

Zašto netko jednostavno ne bi mogao krivotvoriti oznaku? Zumirajte istu fotografiju vrlo izbliza i svaki piksel nosi kriptografski otisak. Otisak na oznaci glasi 4F04 F1F3 0A89 4138, dok otisak fotografije danas glasi 8D2B C5FF 5F4F 8950. Ne podudaraju se: jedna se točka promijenila i cijeli se otisak promijenio zajedno s njom. Računalo to otkriva trenutačno, čak i tamo gdje ljudsko oko nikada ne bi. Taj otisak je hash, zapečaćen digitalnim potpisom.

Osobni podaci također se mogu pohraniti uz Content Credential. Na primjer, Verifiable Credential za fotografkinju po imenu Anna mogao bi potvrditi:

• Akreditirana novinska fotografkinja, i danas važeća
• Radi za registriranu novinsku organizaciju
• Ovlaštena objavljivati u njezino ime