Les gens peuvent à peine reconnaître les résultats des médias générés par l'IA de la recherche sur l'IA

Les gens peuvent à peine reconnaître les résultats des médias générés par l'IA de la recherche sur l'IA

Les gens peuvent à peine voir les médias générés par l'IA

Les images, les textes et les fichiers audio générés en ki sont tellement convaincants que les gens ne peuvent plus les distinguer du contenu artificiel. Ceci est le résultat d'une enquête en ligne avec environ 3 000 participants d'Allemagne, de Chine et des États-Unis. L'étude a été réalisée par le Dr Lea Schönherr de Cispa-Faculty et le professeur Dr. Thorsten Holz réalisé et présenté sur le 45th IEEE Symposium sur la sécurité et la vie privée à San Francisco. L'étude a été réalisée en coopération avec l'Université Ruhr Bochum, l'Université Leibniz de Hanover et le Tu Berlin.

Le développement rapide de l'intelligence artificielle de ces dernières années permet aux masses, aux textes et aux fichiers audio en quelques clics. Cependant, ce développement comporte des risques, en particulier en ce qui concerne la création d'opinion politique. Avec les prochaines élections importantes cette année, comme les élections législatives de l'UE ou l'élection présidentielle aux États-Unis, il existe un risque que les médias générés par l'IA soient utilisés pour la manipulation politique. C'est un grand danger pour la démocratie.

Les résultats de l'étude sont incroyables: les gens ont du mal à distinguer les médias réels des médias générés par l'IA. Cela s'applique à tous les types de supports tels que les textes, les fichiers audio et image. Étonnamment, il n'y a que quelques facteurs qui peuvent expliquer si les gens sont meilleurs dans la reconnaissance des médias générés par l'IA. Il n'y a pratiquement aucune différence significative entre les différents groupes d'âge, les horizons scolaires, les attitudes politiques ou la maîtrise des médias.

Une enquête quantitative en ligne en Allemagne, en Chine et aux États-Unis a été réalisée pour l'étude. Les participants ont été accidentellement affectés à l'une des trois catégories de médias (texte, image ou audio) et ont vu des médias réels et générés par l'IA. De plus, des données socio-biographiques ont été collectées sur les médias générés par l'IA et d'autres facteurs. Au total, 2 609 enregistrements de données ont été inclus dans l'évaluation.

L'étude fournit des informations importantes à la recherche sur la cybersécurité. Il existe un risque que les textes générés par l'IA et les fichiers audio soient utilisés pour les attaques d'ingénierie sociale. Développer des mécanismes de défense pour de tels scénarios d'attaque est une tâche importante pour l'avenir. De plus, nous devons mieux comprendre comment les gens peuvent distinguer les médias générés par l'IA. Une étude de laboratoire prévue est destinée à demander aux participants de voir s'ils reconnaissent si quelque chose est généré ou non. De plus, les processus techniques de vérification des faits automatisés doivent être développés.

La publication scientifique complète de l'étude peut être consultée sous le lien spécifié.

Tableau: Aperçu des résultats de l'étude

| Art médiatique | Nombre de vraiment classifiés | Nombre de ki-généré classifiés |
| ———– | ————————- | --—————————— |
| Texte | 65% | 35% |
| Image | 52% | 48% |
| Audio | 60% | 40% |

L'étude montre que la majorité des participants ont classé les médias générés par l'IA comme créés par l'homme, quel que soit le type de support.

Les résultats de cette étude fournissent des connaissances précieuses sur la perception et la reconnaissance des médias générés par l'IA et représentent des points de départ importants pour de nouvelles recherches dans ce domaine. Il reste à voir comment le développement de l'intelligence artificielle se développera à l'avenir et quelles conséquences cela aura pour la société.

Source: cispa-helmholtz Center for Information Security / OTS