Dowodzenie autentyczności cyfrowej w erze AI

AI potrafi stworzyć obraz w kilka sekund. Ale czy możemy udowodnić, kto go stworzył?

W miarę jak obrazy generowane przez AI stają się coraz trudniejsze do odróżnienia od fotografii, udowodnienie, skąd pochodzi obraz i jak został stworzony, staje się równie ważne jak sam obraz.

Tu właśnie wkraczają C2PA i Content Credentials.

C2PA może stworzyć kryptograficznie podpisany zapis pochodzenia obrazu, rejestrujący informacje takie jak to, kto go stworzył, jakiego urządzenia lub oprogramowania użyto, jakie edycje wprowadzono oraz czy zaangażowane były narzędzia AI. Jeśli podpisana treść lub jej pochodzenie zostaną naruszone, weryfikacja może to wykryć.

Jednak pochodzenie mówi nam tylko część historii. Musimy również wiedzieć, kim są podmioty stojące za tym pochodzeniem.

Tu właśnie Verifiable Credentials mogą dodać kolejną warstwę zaufania. Mogą dostarczyć dodatkowych informacji o osobach lub organizacjach zaangażowanych w tworzenie lub obsługę zasobu, na przykład łącząc fotografa, dziennikarza, organizację lub rolę zawodową z pochodzeniem obrazu.

Wyobraź sobie to połączenie:

• C2PA: Co stało się z obrazem?
• Verifiable Credential: Kto jest twórcą lub organizacją?
• Zaufanie cyfrowe: Czy możemy zweryfikować oba te elementy?

Razem te technologie mogłyby stworzyć potężną warstwę zaufania dla obrazów, filmów i innych treści cyfrowych, szczególnie w miarę jak generatywna AI sprawia, że treści wizualne stają się coraz trudniejsze do oceny na podstawie samego wyglądu.

Jednak leżąca u podstaw idea wykracza poza media. C2PA dotyczy w gruncie rzeczy pochodzenia, a nie tylko obrazów. To samo podejście można zastosować do danych i dokumentów, tworząc możliwy do zweryfikowania zapis tego, jak zasób przemieszcza się w ramach procesu.

Weźmy list przewozowy w łańcuchu dostaw. W miarę jak przechodzi od jednej strony do drugiej, każda odpowiedzialna strona mogłaby dodać nowe potwierdzenie do manifestu C2PA za pośrednictwem swojego Business Wallet. Zamiast mieć po prostu dokument, można by dysponować możliwą do zweryfikowania historią tego, co się z nim działo, które strony były zaangażowane i jakie kroki zostały podjęte.

Innymi słowy, pytanie przesuwa się z „Czy to wygląda autentycznie?” na „Czy możemy zweryfikować jego historię?”

Przyszłość autentyczności treści może nie polegać na wykrywaniu tego, co jest fałszywe. Może polegać na możliwości udowodnienia tego, co jest autentyczne.

Przykład krok po kroku: jak Content Credential ujawnia edycję wykonaną przez AI

Karuzela LinkedIn dołączona do posta krok po kroku przedstawia przykład. Transkrypcja:

Wyobraź sobie dwa niemal identyczne zdjęcia wakacyjne, Zdjęcie A i Zdjęcie B, przedstawiające to samo górskie jezioro. Tylko jedno z nich zostało zedytowane przez AI, a różnicą jest balon na ogrzane powietrze dodany do nieba na Zdjęciu B.

Content Credential dołączony do Zdjęcia B ujawnia jego pełną historię:

• Zrobione aparatem - 14 marca, 9:12 rano
• Rozjaśnione nieco - w oprogramowaniu do edycji zdjęć
• Balon dodany przez AI - etykieta tego nie ukrywa, po prostu to zaznacza
• Opublikowane przez gazetę - zatwierdzone przed publikacją

Dlaczego nie można po prostu sfałszować etykiety? Przybliż to samo zdjęcie bardzo blisko, a każdy piksel niesie kryptograficzny odcisk palca. Odcisk palca na etykiecie brzmi 4F04 F1F3 0A89 4138, podczas gdy odcisk palca zdjęcia dzisiaj brzmi 8D2B C5FF 5F4F 8950. Nie pasują do siebie: jedna kropka się zmieniła, a wraz z nią zmienił się cały odcisk palca. Komputer wykrywa to natychmiast, nawet gdy ludzkie oko nigdy by tego nie zauważyło. Ten odcisk palca to hash, zapieczętowany podpisem cyfrowym.

Wraz z Content Credential można również przechowywać informacje osobowe. Na przykład Verifiable Credential fotografki o imieniu Anna mogłoby potwierdzić:

• Akredytowana fotoreporterka, wciąż ważna
• Pracuje dla zarejestrowanej organizacji informacyjnej
• Uprawniona do publikowania w jej imieniu