Prouver l'authenticité numérique à l'ère de l'IA

L'IA peut créer une image en quelques secondes. Mais peut-on prouver qui l'a créée ?

Les images générées par IA devenant de plus en plus difficiles à distinguer des photographies, prouver d'où vient une image et comment elle a été créée devient tout aussi important que l'image elle-même.

C'est là qu'interviennent C2PA et les Content Credentials.

C2PA peut créer un enregistrement de provenance signé cryptographiquement pour une image, capturant des informations telles que qui l'a créée, quel appareil ou logiciel a été utilisé, quelles modifications ont été apportées et si des outils d'IA ont été impliqués. Si le contenu signé ou sa provenance est altéré, la vérification peut le détecter.

Mais la provenance ne raconte qu'une partie de l'histoire. Nous devons aussi savoir qui sont réellement les acteurs derrière cette provenance.

C'est là que les Verifiable Credentials peuvent ajouter une couche de confiance supplémentaire. Elles peuvent fournir des informations complémentaires sur les personnes ou organisations impliquées dans la création ou la gestion d'un actif, par exemple en reliant un photographe, un journaliste, une organisation ou un rôle professionnel à la provenance d'une image.

Imaginez la combinaison :

• C2PA : Qu'est-il arrivé à l'image ?
• Verifiable Credential : Qui est le créateur ou l'organisation ?
• Confiance numérique : Pouvons-nous vérifier les deux ?

Ensemble, ces technologies pourraient créer une puissante couche de confiance pour les images, vidéos et autres contenus numériques, en particulier à mesure que l'IA générative rend le contenu visuel de plus en plus difficile à évaluer sur la seule base de son apparence.

Mais l'idée sous-jacente va au-delà des médias. C2PA porte fondamentalement sur la provenance, pas seulement sur les images. La même approche peut être appliquée aux données et aux documents, créant un enregistrement vérifiable de la manière dont un actif circule au sein d'un processus.

Prenons l'exemple d'un connaissement dans une chaîne d'approvisionnement. À mesure qu'il passe d'une partie à une autre, chaque partie responsable pourrait ajouter une nouvelle assertion au manifeste C2PA via son Business Wallet. Au lieu de simplement disposer d'un document, on disposerait d'un historique vérifiable de ce qui lui est arrivé, des parties impliquées et des étapes suivies.

Autrement dit, la question passe de « Cela paraît-il authentique ? » à « Pouvons-nous vérifier son historique ? ».

L'avenir de l'authenticité des contenus ne consistera peut-être pas à détecter ce qui est faux. Il s'agira peut-être de pouvoir prouver ce qui est authentique.

Un exemple concret : comment une Content Credential révèle une modification par IA

Le carrousel LinkedIn de la publication détaille un exemple concret. Transcription :

Imaginez deux photos de vacances presque identiques, la Photo A et la Photo B, du même lac de montagne. Une seule d'entre elles a été modifiée par IA, la différence étant une montgolfière ajoutée dans le ciel de la Photo B.

La Content Credential associée à la Photo B révèle son historique complet :

• Prise avec un appareil photo - le 14 mars, à 9 h 12 du matin
• Légèrement éclaircie - avec un logiciel de retouche photo
• Une montgolfière a été ajoutée par IA - l'étiquette ne le cache pas, elle l'indique simplement
• Publiée par un journal - validée avant sa diffusion

Pourquoi ne peut-on pas simplement falsifier l'étiquette ? En zoomant très près sur la même photo, chaque pixel porte une empreinte cryptographique. L'empreinte figurant sur l'étiquette est 4F04 F1F3 0A89 4138, tandis que l'empreinte de la photo aujourd'hui est 8D2B C5FF 5F4F 8950. Elles ne correspondent pas : un point a changé et toute l'empreinte a changé avec lui. Un ordinateur le repère instantanément, même quand l'œil humain n'y parviendrait jamais. Cette empreinte est un hachage, scellé par une signature numérique.

Des informations personnelles peuvent également être stockées aux côtés de la Content Credential. Par exemple, une Verifiable Credential pour une photographe nommée Anna pourrait confirmer :

• Photographe de presse accréditée, toujours valide aujourd'hui
• Travaille pour une organisation de presse enregistrée
• Autorisée à publier en son nom