Ljudi teško mogu prepoznati AI generirane medijske nove rezultate iz AI istraživanja
Ljudi teško mogu prepoznati AI generirane medijske nove rezultate iz AI istraživanja
Ljudi teško mogu vidjeti AI generirane medije
Ki-generirane slike, tekstovi i audio datoteke toliko su uvjerljivi da ih ljudi više ne mogu razlikovati od sadržaja koji je stvoren od čovjeka. To je rezultat internetskog istraživanja s oko 3000 sudionika iz Njemačke, Kine i SAD -a. Studiju su napravili CISPA-fakultetski dr. Lea Schönherr i prof. Dr. Thorsten Holz izveli i predstavljeni na 45. simpoziju IEEE o sigurnosti i privatnosti u San Franciscu. Studija je provedena u suradnji sa Sveučilištem Ruhr Bochum, Sveučilištem Leibniz u Hanoveru i Tu Berlinom.
Brzi razvoj umjetne inteligencije posljednjih godina omogućuje mase, tekstove i audio datoteke sa samo nekoliko klikova. Međutim, ovaj razvoj nosi rizike, posebno s obzirom na političko mišljenje. S predstojećim važnim izborima ove godine, poput parlamentarnih izbora EU -a ili predsjedničkih izbora u SAD -u, postoji rizik da će se AI generirani mediji koristiti za političku manipulaciju. Ovo je velika opasnost za demokraciju.
Rezultati studije su nevjerojatni: ljudima je teško razlikovati stvarne medije od AI generiranih medija. To se odnosi na sve vrste medija kao što su tekstovi, audio i slikovne datoteke. Iznenađujuće, postoji samo nekoliko čimbenika koji mogu objasniti jesu li ljudi bolji u prepoznavanju AI generiranih medija. Jedva da postoje značajne razlike između različitih dobnih skupina, obrazovne pozadine, političkih stavova ili medijske pismenosti.
Za studiju je provedeno kvantitativno internetsko istraživanje u Njemačkoj, Kini i SAD -u. Sudionici su slučajno dodijeljeni jednoj od tri kategorije medija (tekst, slika ili zvuk) i vidjeli su i stvarne i AI generirane medije. Pored toga, prikupljeni su socio-biografski podaci o medijima i drugim čimbenicima koji su generirani AI. U procjenu je uključeno ukupno 2.609 podataka.
Studija pruža važne uvide za istraživanje cyber sigurnosti. Postoji rizik da se AI generiraju tekstovi i audio datoteke koriste za napade socijalnog inženjerstva. Razvijanje obrambenih mehanizama za takve scenarije napada važan je zadatak za budućnost. Osim toga, moramo bolje razumjeti kako ljudi uopće mogu razlikovati AI generirane medije. Planirana laboratorijska studija namijenjena je tražiti od sudionika da vide da li prepoznaju je li nešto generirano ili ne. Pored toga, razvijaju se tehnički procesi za automatiziranu provjeru činjenica.
Kompletna znanstvena publikacija studije može se promatrati pod navedenom vezom.
Tablica: Pregled rezultata studije
| Medijska umjetnost | Broj stvarno klasificiranog | Broj Ki-generiranih klasificiranih |
| ———– | ———————- | --—————————— |
| Tekst | 65% | 35% |
| Slika | 52% | 48% |
| Audio | 60% | 40% |
Studija pokazuje da je većina sudionika klasificirala AI generirale medije kao umjetne, bez obzira na vrstu medija.
Rezultati ove studije pružaju dragocjeno znanje o percepciji i prepoznavanju medija generiranih AI i predstavljaju važna polazišta za daljnja istraživanja u ovom području. Ostaje za vidjeti kako će se u budućnosti razviti razvoj umjetne inteligencije i koje će posljedice imati za društvo.
Kommentare (0)