Ihmiset tuskin tunnistavat AI: n tuottamia media-uusia tuloksia AI-tutkimuksesta
Ihmiset tuskin tunnistavat AI: n tuottamia media-uusia tuloksia AI-tutkimuksesta
ihmiset eivät tuskin näe AI: n luomaa media
ki-tuotetut kuvat, tekstit ja äänitiedostot ovat niin vakuuttavia, että ihmiset eivät enää voi erottaa niitä ihmisen tekemästä sisällöstä. Tämä on tulos online -tutkimuksesta, jossa on noin 3000 osallistujaa Saksasta, Kiinasta ja Yhdysvalloista. Tutkimuksen tekivät Cispa-faculty Dr. Lea Schönherr ja prof. Dr. Throrsten Holz toteutettiin ja esiteltiin 45. IEEE-symposiumissa San Franciscon turvallisuudesta ja yksityisyydestä. Tutkimus tehtiin yhteistyössä Ruhrin yliopiston Bochumin, Leibnizin yliopiston Hanoverin ja Tu Berliinin kanssa.
Keinotekoisen älykkyyden nopea kehitys viime vuosina mahdollistaa massat, tekstit ja äänitiedostot vain muutamalla napsautuksella. Tämä kehitys aiheuttaa kuitenkin riskejä, etenkin poliittisen mielipiteen tekemisen suhteen. Tänä vuonna tulevien tärkeiden vaalien kanssa, kuten EU: n parlamentin vaalit tai Yhdysvaltojen presidentinvaalit, on olemassa riski, että AI: n tuottamia tiedotusvälineitä käytetään poliittiseen manipulointiin. Tämä on suuri vaara demokratialle.
Tutkimuksen tulokset ovat uskomattomia: ihmisten on vaikea erottaa todellista mediaa AI: n tuottamasta mediasta. Tämä pätee kaikenlaiseen mediaan, kuten tekstit, ääni- ja kuvatiedostot. Yllättäen on vain muutamia tekijöitä, jotka voivat selittää, ovatko ihmiset paremmin tunnistamaan AI: n tuottamat mediat. Eri ikäryhmien, koulutustaustan, poliittisten asenteiden tai medialukutaidon välillä on tuskin merkittäviä eroja.
Tutkimusta varten tehtiin kvantitatiivinen verkkokysely Saksassa, Kiinassa ja Yhdysvalloissa. Osallistujat osoitettiin vahingossa johonkin kolmesta mediakategoriasta (teksti, kuva tai ääni), ja he näkivät sekä todellisen että AI: n tuottaman median. Lisäksi Sosio-biografista tietoa kerättiin AI: n tuottamasta mediasta ja muista tekijöistä. Arviointiin sisällytettiin yhteensä 2 609 tietorekisteriä.
Tutkimus tarjoaa tärkeitä näkemyksiä verkkoturvallisuustutkimuksesta. On riski, että AI: n luomat tekstit ja äänitiedostot käytetään sosiaalisen tekniikan hyökkäyksiin. Puolustusmekanismien kehittäminen tällaisille hyökkäysskenaarioille on tärkeä tehtävä tulevaisuudelle. Lisäksi meidän on ymmärrettävä paremmin, kuinka ihmiset voivat erottaa AI: n tuottaman median. Suunnitellun laboratoriotutkimuksen tarkoituksena on pyytää osallistujia näkemään, tunnustavatko he jotain syntyvää vai ei. Lisäksi on kehitettävä tekniset prosessit automatisoidun tosiasian tarkistamiseksi.
Tutkimuksen täydellinen tieteellinen julkaisu voidaan tarkastella määritellyn linkin alla.
taulukko: Yleiskatsaus tutkimustuloksista
| Mediataide | Todella luokiteltujen | KI-luomalla luokiteltujen |
Ja ———– | ———————- | --————————— |
Ja Teksti | 65% | 35% |
Ja Kuva | 52% | 48% |
Ja Ääni | 60% | 40% |
Tutkimus osoittaa, että suurin osa osallistujista luokitteli AI: n luomalla mediaa ihmisen luomaksi väliaineen tyypistä riippumatta.
Tämän tutkimuksen tulokset tarjoavat arvokasta tietoa AI: n tuottaman median havaitsemisesta ja tunnistamisesta ja edustavat tärkeitä lähtökohtia tämän alan jatkotutkimukselle. On vielä nähtävissä, kuinka keinotekoisen älykkyyden kehitys kehittyy tulevaisuudessa ja mitä seurauksia tällä on yhteiskunnalle.
Kommentare (0)