Le problème est simple : aujourd'hui, il est difficile de savoir si une photo est authentique ou non. Les outils de retouche sont tellement perfectionnés, accessibles et faciles à utiliser qu'on ne peut plus déterminer si une photo est réelle ou truquée. Avec l'essor de l'IA, la situation se complique davantage. N'importe qui disposant d'une connexion Internet peut créer n'importe quelle image plausible

J'enseigne et mène des recherches sur l'éthique de l'intelligence artificielle (IA), notamment sur la manière dont nous utilisons et comprenons les images numériques.

Beaucoup se demandent comment détecter une image modifiée. Une tâche qui devient, désormais, de plus difficile. Je propose une autre approche : mettre en place un système où les créateurs et utilisateurs d'images indiquent ouvertement les modifications apportées. Peu importe le système, mais de nouvelles règles, mais de nouvelles règles sont nécessaires si l'on veut que les images générées par l'IA soient utilisées de manière éthique, du moins par ceux qui veulent être dignes de confiance, en particulier les médias.

Ne rien faire n'est pas une option, car ce que nous pensons des médias influence la confiance que nous accordons aux autres et à nos institutions. Plusieurs solutions sont envisageables. L'étiquetage clair des photos en est une.

Restez informé des derniers gros titres sur WhatsApp | LinkedIn

Deepfakes et fausses informations

La manipulation de photos était autrefois l'apanage des équipes de propagande gouvernementale, puis des utilisateurs experts de Photoshop, le logiciel populaire pour éditer, modifier ou créer des images numériques.

Aujourd'hui, les photos numériques sont automatiquement soumises à des filtres de correction des couleurs sur les téléphones et les appareils photo. Certains outils de réseaux sociaux embellissent automatiquement les photos des visages des utilisateurs. Une photo authentique prise par soi-même existe-t-elle encore?

Cette évolution fragilise le socle commun de compréhension et de donfiance : ce que nous voyons n'est plus forcément fiable. Ce phénomène s'accompagne d'une prolifération d'informations peu fiables (et souvent malveillantes). De nouveaux mots ont fait leur apparition pour décrire ce phénomène : fake news pour désigner les fausses informations en générales et deepfake, pour parler d'images ou de vidéos manipulées délibérément, que ce soit pour influencer une guerre ou attirer des abonnés sur les réseaux sociaux.

Les campagnes de désinformation utilisant des images manipulées peuvent influencer les élections, accentuer les divisions, voire inciter à la violence. La méfiance grandissante envers les médias éloigne de plus en plus de citoyens d'informations fondées sur des faits, offrant ainsi un terrain fertile aux théories du complot et aux groupes extrémistes.

Questions éthiques

Un autre problème pour les producteurs d'images (à titre personnel ou professionnel) est la difficulté de savoir ce qui est acceptable ou non. Jusqu'où peut-on altérer son apparence dans un monde où les images sont de plus en plus retouchées ?

Serait-il grave qu'un journal occidental réputé publie une photo du président russe Vladimir Poutine grimaçant de dégoût à l'aide de l'IA (une expression qu'il a sûrement déjà eue à un moment donné, mais qui n'a jamais été capturée sur une image) ?

Les limites éthiques s'estompent encore davantage dans des contextes très tendus. Est-ce grave si des publicités politiques de l'opposition contre le candidat à la présidence américaine Barack Obama ont délibérément assombri sa peau ?

Les images générées de cadavres à Gaza seraient-elles plus acceptables, voire plus morales, que les photographies réelles d'êtres humains morts ? Une couverture de magazine montrant un mannequin retouché numériquement pour atteindre des standards de beauté inatteignables, sans préciser le niveau de retouche, est-elle contraire à l'éthique ?

Une solution

Une partie de la solution à ce problème social exige deux mesures simples et claires. Premièrement, déclarer que la photo a été manipulée. Deuxièmement, divulguer le type de manipulation qui a été effectué.

La première étape est simple : de la même manière que les photos sont publiées avec les crédits de l'auteur, une mention du type de retouche doit être signalée dans la légende.

La seconde concerne la manière dont une image a été modifiée. Je propose ici cinq « catégories de manipulation » (semblables à celles utilisées pour la classification des films). La responsabilité et la clarté constituent le fondement de l'éthique.

Les cinq catégories pourraient être les suivantes :

Corrigée

Modifications qui préservent l'essence de la photo originale tout en améliorant sa clarté générale ou son attrait esthétique, comme l'équilibre des couleurs (par exemple le contraste) ou la distorsion de l'objectif. Ces corrections sont souvent automatisées (par exemple par les appareils photo des smartphones), mais peuvent être effectuées manuellement.

Améliorée

Modifications qui concernent principalement des ajustements de couleur ou de ton. Cela s'étend à de légères retouches esthétiques, comme la suppression de petites imperfections (telles que l'acné) ou l'ajout artificiel de maquillage, à condition que les modifications ne modifient pas les caractéristiques physiques ou les objets. Cela inclut tous les filtres impliquant des changements de couleur.

Corps modifié

Cette mention est utilisée lorsqu'une caractéristique physique est modifiée. Les changements de forme du corps, comme l'amincissement des bras ou l'élargissement des épaules, ou la modification de la couleur de la peau ou des cheveux, entrent dans cette catégorie.

Manipulation d'objets

Cette mention indique que la position physique d'un objet a été modifiée. Un doigt ou un membre a été déplacé, un vase a été ajouté, une personne a été supprimée, un élément de l'arrière-plan a été ajouté ou supprimé.

Générée

Les représentations entièrement fabriquées mais photoréalistes, telles qu'une scène qui n'a jamais existé, doivent être signalées ici. Ainsi, toutes les images créées numériquement, y compris par l'IA générative, mais limitées aux représentations photographiques. (Un dessin animé du pape généré par l'IA serait exclu, mais une image ressemblant à une photo du pontife en doudoune est classée dans cette catégorie.)

Les catégories suggérées sont neutres : elles sont (ou devraient être) déclenchées simplement par la présence d'une manipulation. Ainsi, les filtres de couleur appliqués à l'image d'un homme politique déclenchent la catégorie "Améliorée", que la modification rende la personne plus sympathique ou plus effrayante. Une caractéristique essentielle pour accepter un système de classification comme celui-ci est qu'il soit transparent et impartial.

Les catégories ci-dessus ne sont pas fixes, il peut y avoir des chevauchements : Corps manipulé peut souvent impliquer celle dite Améliorée, par exemple.

Faisabilité

Un logiciel de manipulation de photos responsable peut indiquer automatiquement aux utilisateurs la catégorie de manipulation de photos effectuée. Si nécessaire, il peut l'apposer en filigrane ou simplement l'enregistrer dans les métadonnées de l'image (comme les données sur la source, le propriétaire ou le photographe). L'automatisation pourrait très bien garantir la facilité d'utilisation et peut-être réduire les erreurs humaines, encourageant ainsi une application cohérente sur toutes les plateformes.

Bien sûr, l'affichage de la classification relèvera en fin de compte d'une décision éditoriale. Les bons utilisateurs, à l'instar des bons éditeurs, le feront de manière responsable, dans l'espoir de maintenir ou d'améliorer la crédibilité de leurs images et de leurs publications. Même si l'on peut espérer que les réseaux sociaux adhèrent à ce type d'idéal éditorial et encouragent l'affichage d'images étiquetées, les risques d'ambiguïté et de tromperie persistent malgré tout.

Le succès d'une initiative comme celle-ci dépend de la collaboration entre les développeurs technologiques, les médias et les décideurs politiques afin de créer un engagement commun en faveur de la transparence dans les médias numériques.

Martin Bekker, Computational Social Scientist, University of the Witwatersrand