Az emberek alig tudják felismerni az AI által generált média-új eredményeket az AI kutatásból
Az emberek alig tudják felismerni az AI által generált média-új eredményeket az AI kutatásból
Az emberek alig láthatják az AI által generált médiát
AKi által generált képek, szövegek és audio fájlok annyira meggyőzőek, hogy az emberek már nem tudják megkülönböztetni őket az ember alkotta tartalmától. Ez egy online felmérés eredménye, amelynek mintegy 3000 résztvevője Németországból, Kínából és az USA -ból származik. A tanulmányt a CISPA-Faculty Dr. Lea Schönherr és Dr. Thorsten Holz professzor készítette és mutatták be a San Francisco-i Biztonsági és Adatvédelem 45. IEEE szimpóziumán. A tanulmányt a Ruhr Egyetem Bochummal, a Leibniz Egyetemen és a Tu Berlin -rel együttműködve végezték.
A mesterséges intelligencia gyors fejlesztése az utóbbi években néhány kattintással lehetővé teszi a tömegeket, szövegeket és audio fájlokat. Ez a fejlemény azonban kockázatot jelent, különös tekintettel a politikai véleményre. Az idei közelgő fontos választásokkal, például az EU parlamenti választásaival vagy az Egyesült Államok elnökválasztásával fennáll annak a veszélye, hogy az AI által generált médiát a politikai manipulációhoz fogják használni. Ez nagy veszélyt jelent a demokráciára.
A tanulmány eredményei elképesztőek: az embereknek nehéz megkülönböztetni a valós médiát az AI által generált médiától. Ez vonatkozik minden típusú médiumra, például szövegekre, audio- és képfájlokra. Meglepő módon csak néhány tényező magyarázza, hogy az emberek jobban felismerik -e az AI által generált médiát. Alig van szignifikáns különbség a különböző korcsoportok, az oktatási háttér, a politikai attitűdök vagy a médiaműveltség között.
Kvantitatív online felmérést végeztek Németországban, Kínában és az Egyesült Államokban a tanulmányhoz. A résztvevőket véletlenül a három médiakategória egyikéhez (szöveg, kép vagy audio) osztották ki, és láttak mind valódi, mind AI által generált médiát. Ezenkívül társadalmi-biográfiai adatokat gyűjtöttek az AI által generált közegről és más tényezőkről. Összesen 2 609 adatrekordot vontak be az értékelésbe.
A tanulmány fontos betekintést nyújt a kiberbiztonsági kutatásokhoz. Fennáll annak a veszélye, hogy az AI által generált szövegeket és audio fájlokat használják a szociális mérnöki támadásokhoz. Az ilyen támadási forgatókönyvek védelmi mechanizmusainak kidolgozása a jövőben fontos feladat. Ezenkívül jobban meg kell értenünk, hogy az emberek hogyan tudják megkülönböztetni az AI által generált médiát. A tervezett laboratóriumi tanulmány célja, hogy felkérje a résztvevőket arra, hogy felismerjék -e, hogy valami generál -e vagy sem. Ezenkívül kidolgozni kell az automatizált tények ellenőrzésének műszaki folyamatait.
A tanulmány teljes tudományos publikációja a megadott link alatt tekinthető meg.
Táblázat: A tanulmányi eredmények áttekintése
| Médiaművészet | Az igazán osztályozott számú | A KI által generált besorolás száma |
| ———– | ————————- | ———————————— |
| Szöveg | 65% | 35% |
| Kép | 52% | 48% |
| Audio | 60% | 40% |
A tanulmány azt mutatja, hogy a résztvevők többsége az AI-t besorolt médiát ember alkotta, függetlenül a közeg típusától.
A tanulmány eredményei értékes tudást nyújtanak az AI által generált média észleléséről és felismeréséről, és fontos kiindulási pontokat képviselnek a további kutatásokhoz ezen a területen. Még nem kell látni, hogy a mesterséges intelligencia fejlődése hogyan fog fejlődni a jövőben, és milyen következményekkel jár ez a társadalomra.
Kommentare (0)