Inimesed ei suuda AI genereeritud meediauue tulemusi AI uurimistööst vaevalt ära tunda

Neue Ergebnisse aus der KI-Forschung zeigen, dass Menschen KI-generierte Medien kaum erkennen können. Eine große länderübergreifende Studie hat erstmals die Medienkompetenz in Bezug auf KI-generierte Bilder, Texte und Audiodateien überprüft. Die Ergebnisse präsentieren Dr. Lea Schönherr und Prof. Dr. Thorsten Holz auf dem IEEE Symposium on Security and Privacy. Die Forscher warnen vor den Risiken für die Demokratie und betonen die Notwendigkeit der automatisierten Erkennung von KI-generierten Medien. Informationen zu den Studienergebnissen und den Forschern finden Sie hier.
AI -uuringute uued tulemused näitavad, et vaevalt näevad inimesed AI genereeritud meediat. Esmakordselt on suur piiriülene uuring kontrollinud meediakirjaoskust seoses AI genereeritud piltide, tekstide ja helifailidega. Tulemused on esitatud dr Lea Schönherri ja prof dr Thorsten Holzi IEEE turvalisuse ja privaatsuse sümpoosionil. Teadlased hoiatavad demokraatia riskide eest ja rõhutavad AI genereeritud meedia automatiseeritud tuvastamise vajadust. Siit leiate teavet uuringutulemuste ja teadlaste kohta.
NAG Redaktion
Artikel als PDF
Kommentare
Diesen Artikel teilen:
Facebook X Whatsapp Email

Inimesed näevad vaevalt AI genereeritud meediat

Ki-genereeritud pildid, tekstid ja helifailid on nii veenvad, et inimesed ei saa neid enam eristada inimtegevusest. See on veebiküsitluse tulemus umbes 3000 osalejaga Saksamaalt, Hiinast ja USA -st. Uuringu tegid CISPA-lehtlus dr Lea Schönherr ja prof dr Thorsten Holz viidi läbi ja esitasid San Franciscos IEEE 45. IEEE sümpoosionil. Uuring viidi läbi koostöös Ruhri ülikooli Bochumi, Hannoveri Leibnizi ülikooli ja Tu Berliiniga.

Tehisintellekti kiire arendamine viimastel aastatel võimaldab masse, tekste ja helifaile vaid mõne klõpsuga. Kuid selle arenguga kaasneb riskid, eriti seoses poliitilise arvamuse loomisega. Selle aasta eelseisvate oluliste valimistega, näiteks ELi parlamendivalimised või USA presidendivalimised, on oht, et AI genereeritud meediat kasutatakse poliitilise manipuleerimiseks. See on suur oht demokraatiale.

Selle tulemusel on AI-genereeritud meediumite automatiseeritud tuvastamine oluline uurimistöö väljakutse. Kuna uute AI genereeritud meetoditega loodud meediume saab automaatselt üha enam ära tunda, on lõppkokkuvõttes oluline, kas inimene suudab seda teha. Selle küsimuse uurimiseks viidi läbi uuring, et teada saada, kas inimesed suudavad tuvastada AI genereeritud meedia.

Uuringu tulemused on hämmastavad: inimestel on keeruline eristada reaalset meediat AI genereeritud meediast. See kehtib igat tüüpi meediumite, näiteks tekstide, heli- ja pildifailide kohta. Üllataval kombel on vaid mõned tegurid, mis selgitavad, kas inimesed on AI genereeritud meedia tunnustamisel paremini ära tundnud. Erinevate vanuserühmade, haridusliku tausta, poliitiliste hoiakute või meediakirjaoskuse vahel on vaevalt olulisi erinevusi.

Uuringuks viidi läbi kvantitatiivne veebiküsitlus Saksamaal, Hiinas ja USA -s. Osalejad määrati kogemata ühte kolmest meediakategooriast (tekst, pilt või heli) ja nägid nii reaalset kui ka AI genereeritud meediat. Lisaks koguti AI genereeritud meediumite ja muude tegurite kohta sotsiaal-biograafilisi andmeid. Hindamisse lisati kokku 2609 andmedokumenti.

Uuring annab olulisi teadmisi küberturvalisuse uuringute jaoks. On oht, et AI genereerivad sotsiaaltehnika rünnakute jaoks tekste ja helifaile. Selliste rünnakustsenaariumide kaitsemehhanismide väljatöötamine on tuleviku jaoks oluline ülesanne. Lisaks peame paremini mõistma, kuidas inimesed saavad AI genereeritud meediat üldse eristada. Planeeritud laboratoorse uuringu eesmärk on paluda osalejatel teada saada, kas nad mõistavad, kas midagi on genereeritud või mitte. Lisaks tuleb välja töötada tehnilised protsessid automatiseeritud faktide kontrollimiseks.

Uuringu täielikku teaduslikku väljaannet saab vaadata täpsustatud lingi all.

Tabel: ülevaade uuringu tulemustest

| Meediakunst | Tõeliselt klassifitseeritud arv | Ki-genereeritud klassifitseeritud arv |
| ———— | ———————- | --—————————— |
| Tekst | 65% | 35% |
| Pilt | 52% | 48% |
| Heli | 60% | 40% |

Uuring näitab, et enamik osalejatest klassifitseeris AI loodud meediumid, sõltumata meediumi tüübist.

Selle uuringu tulemused annavad väärtuslikke teadmisi AI genereeritud meedia tajumise ja tunnustamise kohta ning esindavad olulisi lähtepunkte selle valdkonna edasiste uuringute jaoks. Jääb üle vaadata, kuidas tehisintellekti areng tulevikus areneb ja milliseid tagajärgi see ühiskonnale on.


Allikas: CISPA-Helmholtz infoturbe keskus/OTS

NAG Redaktion
Artikel als PDF
Kommentare
Diesen Artikel teilen:
Facebook X Whatsapp Email
Neue Ergebnisse aus der KI-Forschung zeigen, dass Menschen KI-generierte Medien kaum erkennen können. Eine große länderübergreifende Studie hat erstmals die Medienkompetenz in Bezug auf KI-generierte Bilder, Texte und Audiodateien überprüft. Die Ergebnisse präsentieren Dr. Lea Schönherr und Prof. Dr. Thorsten Holz auf dem IEEE Symposium on Security and Privacy. Die Forscher warnen vor den Risiken für die Demokratie und betonen die Notwendigkeit der automatisierten Erkennung von KI-generierten Medien. Informationen zu den Studienergebnissen und den Forschern finden Sie hier.
AI -uuringute uued tulemused näitavad, et vaevalt näevad inimesed AI genereeritud meediat. Esmakordselt on suur piiriülene uuring kontrollinud meediakirjaoskust seoses AI genereeritud piltide, tekstide ja helifailidega. Tulemused on esitatud dr Lea Schönherri ja prof dr Thorsten Holzi IEEE turvalisuse ja privaatsuse sümpoosionil. Teadlased hoiatavad demokraatia riskide eest ja rõhutavad AI genereeritud meedia automatiseeritud tuvastamise vajadust. Siit leiate teavet uuringutulemuste ja teadlaste kohta.

Kommentare (0)