Le futur de la création de contenu : vers une généralisation du contenu falsifié ?
Grâce à l’intelligence artificielle, il devient de plus en plus difficile de distinguer ce qui existe réellement du contenu généré par ordinateur. Cela est vrai tant pour les images que pour les sons et les vidéos, alors que les outils d’IA générative deviennent de plus en plus sophistiqués et capables de créer du contenu pouvant nous tromper.
Parfois, il n’est même pas nécessaire de recourir à l’IA, comme nous l’avons récemment vu avec l’agitation autour des photos de famille retouchées de la princesse Katherine. Le simple fait est qu’il devient de plus en plus facile de générer des images, du texte, des vidéos ou des sons de tout ce que nous voulons – que cela existe ou non, et que cela reflète ou non la réalité de manière exacte.
Cela nous conduit à envisager la possibilité qu’un jour – peut-être très bientôt – il n’y aura plus besoin de contenu “réel” capturé et enregistré du monde réel. Pour la plupart des contenus visuels, vidéos ou sonores que nous consommons, il sera plus facile, moins cher et plus rapide de simplement demander à un ordinateur de les créer pour nous.
Cela peut sembler choquant et pourrait impliquer l’obsolescence de nombreux emplois humains – des écrivains et illustrateurs aux acteurs, aux doublages de voix, aux instrumentistes et animateurs.
Quelles que soient les économies de temps, de ressources et d’argent qu’elle semble offrir, est-ce un avenir que chacun souhaite ?
Alors, examinons quelques-uns des enjeux liés à cette énorme prolifération de contenu “faux”, qui ne fera qu’augmenter, et certains des effets qu’elle est susceptible d’avoir sur la société.
Tout d’abord, qu’entendons-nous par faux ?
Pour les besoins de cet article, j’utiliserai le terme de contenu “faux” pour désigner tout ce qui n’est pas produit par des humains ou qui est altéré par des ordinateurs à partir de matériel source.
Ce n’est pas seulement une question d’IA générative. Cela inclut également l’utilisation de filtres qui peuvent altérer notre perception de la réalité – au point d’avoir des effets préjudiciables sur la santé mentale.
Les deepfakes se situent à l’extrémité la plus technologique du spectre. Ceux-ci tirent leur nom de l’utilisation de réseaux de neurones d’apprentissage profond pour créer du contenu convaincant mais totalement fabriqué. Pensez à Deep Fake Tom Cruise ou au plus récent Pape en Doudoune.
Les criminels ont déjà utilisé cette technologie pour commettre des fraudes financières en imitant la voix d’un PDG d’entreprise et en persuadant un employé de transférer des millions de dollars sur leur compte. Et les deepfakes ont été utilisés pour fabriquer des déclarations politiques afin de miner les processus démocratiques et de répandre la peur et la désinformation.
Le contenu faux n’est évidemment pas toujours criminel. Il existe quelques exemples notoirement malavisés comme l’expérience récente de Willy’s Chocolate, mais vous n’avez probablement qu’à jeter un œil à votre fil de médias sociaux pour constater que le contenu et les images générés par l’IA deviennent de plus en plus courants au quotidien.
Médias et reportages
La publicité et le divertissement peuvent être considérés comme des supports acceptables pour du contenu généré ou édité par ordinateur, lorsqu’ils sont réalisés de manière éthique. Cependant, cela pose de sérieuses préoccupations pour les organisations de presse et même pour les processus démocratiques.
L’affaire de la princesse Katherine nous a montré que les médias sont conscients de la menace. Le retrait si rapide de l’image par trois organes de presse n’est pas quelque chose qui s’est déjà produit, à ma connaissance. Cela suggère que les médias comprennent l’impact que la publication de contenu non authentique pourrait avoir sur leur réputation et qu’ils mettent déjà en place des garde-fous.
Il y a deux défis ici. Tout d’abord, les journalistes doivent développer des méthodes rigoureuses de vérification des sources. Cela ne fera que devenir plus difficile à mesure que la quantité de contenu synthétique injectée dans le monde augmente.
Deuxièmement, ils doivent développer des moyens de convaincre un public de plus en plus sceptique que le contenu “réel” est authentique. Pour beaucoup de gens, il deviendra de plus en plus tentant de simplement rejeter tout ce qu’ils n’aiment pas ou avec quoi ils ne sont pas d’accord comme des fausses informations.
De fait, je peux voir beaucoup de gens devenir beaucoup plus sceptiques, alors qu’ils s’adaptent à un monde où même les preuves que nous voyons de nos propres yeux ne peuvent pas nécessairement être considérées comme fiables.
Législation et éducation
Le 13 mars 2024, l’UE a adopté l’Acte sur l’intelligence artificielle, qui contient des exigences pour que les images, le contenu audio et vidéo artificiels ou modifiés soient clairement étiquetés comme tels.
C’est le premier texte juridique de ce type dans le monde, mais nous attendons encore de voir comment il sera appliqué et à quel point il sera pratique en réalité. Après tout, la loi s’applique aux entreprises, de sorte que les particuliers peuvent toujours créer ce qu’ils veulent et le faire passer pour authentique. Il est peu probable, par exemple, que cela freine l’afflux de pornographie et de nudité non consensuelles générées par IA dont des célébrités, comme Taylor Swift, ont été victimes (ainsi que probablement des milliers de personnes moins connues qui sont moins susceptibles de faire la une des journaux).
En fin de compte, je pense que l’éducation sera tout aussi importante que la réglementation. Développer une compréhension des risques de cette nouvelle ère, ainsi que des méthodes et motivations de ceux qui pourraient essayer de tirer parti de l’incertitude à leur avantage, nous rendra plus capables d’éviter les pièges. Le bon sens et les aptitudes à la pensée critique (le Pape porterait-il vraiment une veste qui ressemble à ça ?) seront tout aussi utiles que les solutions haute technologie qui sont susceptibles de faire leur apparition alors que les enjeux autour du vrai et du faux deviennent plus pressants.
Le futur du contenu
À l’ère de l’IA, les barrières à la création de contenu sont considérablement abaissées. Plutôt qu’une fin de la créativité humaine, je m’attends à ce que nous voyions des humains et des machines collaborer pour créer du contenu de nouvelles manières.
Une façon de voir les choses est que vous n’avez plus besoin d’être un écrivain ou un designer fantastique pour utiliser des mots ou des images pour communiquer de grandes idées. Et cela signifie probablement qu’il y aura beaucoup plus d’idées géniales en circulation.
Cependant, les risques pour l’emploi sont réels. Les entreprises trouveront inévitablement le contenu synthétique attrayant. Mais celles qui s’appuieront trop sur ce type de contenu au point d’exclure les humains du processus créatif se retrouveront à perdre l’avantage compétitif et l’identité que les talents humains favorisent avec leur travail.
Il y aura toujours des personnes qui profiteront de la facilité avec laquelle il est devenu possible de créer n’importe quoi pour semer la peur, l’incertitude ou la confusion.
Cependant, je pense que la société s’adaptera pour relever ces défis – que cela signifie devenir meilleur pour savoir quand on nous ment ou nous trompe, ou accorder plus de valeur à un contenu authentique et humain.
Il y aura toujours une place dans la société pour un contenu créé par l’homme qui reflète avec précision le monde réel, avec toute sa laideur et ses imperfections. Mais le contenu le plus excitant sera celui qui alliera des expériences humaines significatives à l’innovation numérique, de manière à enrichir nos vies, tout comme la musique, le cinéma et les livres l’ont fait tout au long de l’histoire humaine.