Ľudia sotva dokážu rozpoznať AI generované mediálne výsledky z výskumu AI

Neue Ergebnisse aus der KI-Forschung zeigen, dass Menschen KI-generierte Medien kaum erkennen können. Eine große länderübergreifende Studie hat erstmals die Medienkompetenz in Bezug auf KI-generierte Bilder, Texte und Audiodateien überprüft. Die Ergebnisse präsentieren Dr. Lea Schönherr und Prof. Dr. Thorsten Holz auf dem IEEE Symposium on Security and Privacy. Die Forscher warnen vor den Risiken für die Demokratie und betonen die Notwendigkeit der automatisierten Erkennung von KI-generierten Medien. Informationen zu den Studienergebnissen und den Forschern finden Sie hier.
Nové výsledky výskumu AI ukazujú, že ľudia sotva vidia médiá generované AI. Prvýkrát veľká cezhraničná štúdia skontrolovala mediálnu gramotnosť vo vzťahu k AI vygenerovaným obrázkom, textom a zvukovým súborom. Výsledky sú prítomné Dr. Lea Schönherr a prof. Dr. Thorsten Holz na sympóziu IEEE o bezpečnosti a súkromí. Vedci varujú pred rizikami demokracie a zdôrazňujú potrebu automatizovanej detekcie médií generovaných AI. Informácie o výsledkoch štúdie nájdete tu a vedcov tu.
NAG Redaktion
Artikel als PDF
Kommentare
Diesen Artikel teilen:
Facebook X Whatsapp Email

Ľudia sotva vidia AI generované médiá

Ki generované obrázky, texty a zvukové súbory sú tak presvedčujúce, že ich ľudia už nemôžu odlíšiť od človeka. Je to výsledok online prieskumu s približne 3 000 účastníkmi z Nemecka, Číny a USA. Štúdia uskutočnila CISPA-Faculty Dr. Lea Schönherr a prof. Dr. Thorsten Holz vykonali a prezentovali 45. sympózium IEEE o bezpečnosti a súkromí v San Franciscu. Štúdia sa uskutočnila v spolupráci s Ruhr University Bochum, Leibniz University of Hannover a Tu Berlín.

Rýchly rozvoj umelej inteligencie v posledných rokoch umožňuje masy, texty a zvukové súbory iba s niekoľkými kliknutiami. Tento vývoj však predstavuje riziká, najmä pokiaľ ide o tvorbu politických názorov. S nadchádzajúcimi dôležitými voľbami v tomto roku, ako sú parlamentné voľby EÚ alebo prezidentské voľby v USA, existuje riziko, že na politickú manipuláciu sa použijú médiá generované AI. Je to veľké nebezpečenstvo pre demokraciu.

Výsledkom je, že automatizovaná detekcia médií generovaných AI je dôležitou výskumnou výzvou. Pretože médiá, ktoré sa vytvárajú s novými metódami generovanými AI, sa dajú automaticky čoraz viac rozpoznať, je v konečnom dôsledku dôležité, či je človek schopný tak urobiť. S cieľom preskúmať túto otázku sa uskutočnila štúdia s cieľom zistiť, či sú ľudia schopní identifikovať médiá generované AI.

Výsledky štúdie sú úžasné: pre ľudí je ťažké rozlíšiť skutočné médiá od médií generovaných AI. Platí to pre všetky typy médií, ako sú texty, zvukové a obrazové súbory. Prekvapivo existuje len niekoľko faktorov, ktoré môžu vysvetliť, či ľudia lepšie rozpoznávajú médiá generované AI. Medzi rôznymi vekovými skupinami, vzdelaním, politickými postojmi alebo mediálnou gramotnosťou nie sú takmer žiadne významné rozdiely.

Kvantitatívny online prieskum v Nemecku, Číne a USA sa uskutočnil na štúdiu. Účastníci boli náhodne priradení k jednej z troch kategórií médií (text, obrázok alebo zvuk) a videli skutočné aj AI generované médiá. Okrem toho sa zbierali sociálno-biografické údaje o médiách generovaných AI a ďalších faktoroch. Do hodnotenia bolo zahrnutých celkom 2 609 záznamov údajov.

Štúdia poskytuje dôležité informácie o výskume kybernetickej bezpečnosti. Existuje riziko, že AI generované texty a zvukové súbory sa používajú na útoky sociálneho inžinierstva. Vývoj obranných mechanizmov pre takéto útoky je dôležitou úlohou pre budúcnosť. Okrem toho musíme lepšie porozumieť tomu, ako ľudia dokážu rozlíšiť AI generované médiá vôbec. Zámerom plánovanej laboratórnej štúdie je požiadať účastníkov, aby zistili, či uznávajú, či sa niečo generuje alebo nie. Okrem toho sa majú vyvinúť technické procesy pre automatizovanú kontrolu faktov.

Úplné vedecké publikácie štúdie si môžete pozrieť pod zadaným odkazom.

Tabuľka: Prehľad výsledkov štúdie

| Médiá | Počet skutočne klasifikovaných Počet klasifikovaných ki generovaných
| ———– | ——————- | --————————— |
| Text | 65% | 35% |
| Obrázok | 52% | 48% |
| Audio | 60% | 40% |

Štúdia ukazuje, že väčšina účastníkov klasifikovala AI médiá ako človekom vytvorené bez ohľadu na typ média.

Výsledky tejto štúdie poskytujú cenné znalosti o vnímaní a rozpoznávaní médií generovaných AI a predstavujú dôležité východiskové body pre ďalší výskum v tejto oblasti. Zostáva vidieť, ako sa rozvoj umelej inteligencie v budúcnosti rozvíja a aké následky to bude mať pre spoločnosť.


Zdroj: cispa-helmholtz centrum pre informačné zabezpečenie/OTS

NAG Redaktion
Artikel als PDF
Kommentare
Diesen Artikel teilen:
Facebook X Whatsapp Email
Neue Ergebnisse aus der KI-Forschung zeigen, dass Menschen KI-generierte Medien kaum erkennen können. Eine große länderübergreifende Studie hat erstmals die Medienkompetenz in Bezug auf KI-generierte Bilder, Texte und Audiodateien überprüft. Die Ergebnisse präsentieren Dr. Lea Schönherr und Prof. Dr. Thorsten Holz auf dem IEEE Symposium on Security and Privacy. Die Forscher warnen vor den Risiken für die Demokratie und betonen die Notwendigkeit der automatisierten Erkennung von KI-generierten Medien. Informationen zu den Studienergebnissen und den Forschern finden Sie hier.
Nové výsledky výskumu AI ukazujú, že ľudia sotva vidia médiá generované AI. Prvýkrát veľká cezhraničná štúdia skontrolovala mediálnu gramotnosť vo vzťahu k AI vygenerovaným obrázkom, textom a zvukovým súborom. Výsledky sú prítomné Dr. Lea Schönherr a prof. Dr. Thorsten Holz na sympóziu IEEE o bezpečnosti a súkromí. Vedci varujú pred rizikami demokracie a zdôrazňujú potrebu automatizovanej detekcie médií generovaných AI. Informácie o výsledkoch štúdie nájdete tu a vedcov tu.

Kommentare (0)