Las personas apenas pueden reconocer los nuevos resultados generados por los medios de comunicación de AI de la investigación de IA
Las personas apenas pueden reconocer los nuevos resultados generados por los medios de comunicación de AI de la investigación de IA
La gente apenas puede ver los medios generados por IA
Las imágenes, los textos y los archivos de audio generados por KI son tan convincentes que las personas ya no pueden distinguirlas del contenido hecho por el hombre. Este es el resultado de una encuesta en línea con alrededor de 3.000 participantes de Alemania, China y Estados Unidos. El estudio fue realizado por el Dr. Lea Schönherr de CISPA-Faculty y el Prof. Dr. Thorsten Holz realizado y presentado en el 45º Simposio IEEE sobre seguridad y privacidad en San Francisco. El estudio se llevó a cabo en cooperación con la Universidad de Ruhr Bochum, la Universidad de Hanover de Leibniz y el TU Berlín.
El rápido desarrollo de la inteligencia artificial en los últimos años permite masas, textos y archivos de audio con solo unos pocos clics. Sin embargo, este desarrollo conlleva riesgos, especialmente con respecto a la formación de la opinión política. Con las próximas elecciones importantes de este año, como las elecciones parlamentarias de la UE o las elecciones presidenciales en los Estados Unidos, existe el riesgo de que los medios generados por IA se utilicen para la manipulación política. Este es un gran peligro para la democracia.
Los resultados del estudio son sorprendentes: a las personas les resulta difícil distinguir los medios reales de los medios generados por IA. Esto se aplica a todos los tipos de medios, como textos, archivos de audio e imagen. Sorprendentemente, solo hay unos pocos factores que pueden explicar si las personas son mejores para reconocer los medios generados por la IA. Casi no hay diferencias significativas entre los diferentes grupos de edad, los antecedentes educativos, las actitudes políticas o la alfabetización en los medios.
Una encuesta cuantitativa en línea en Alemania, China y EE. UU. Se llevó a cabo para el estudio. Los participantes fueron asignados accidentalmente a una de las tres categorías de medios (texto, imagen o audio) y vieron medios generados por Reales y AI. Además, se recopilaron datos sociobiográficos sobre medios generados por IA y otros factores. Se incluyeron un total de 2.609 registros de datos en la evaluación.
El estudio proporciona información importante para la investigación de seguridad cibernética. Existe el riesgo de que los textos generados por IA y los archivos de audio se usen para ataques de ingeniería social. Desarrollar mecanismos de defensa para tales escenarios de ataque es una tarea importante para el futuro. Además, tenemos que comprender mejor cómo las personas pueden distinguir los medios generados por IA. Un estudio de laboratorio planeado tiene la intención de pedir a los participantes que vean si reconocen si algo se genera o no. Además, se desarrollarán procesos técnicos para la verificación de hechos automatizados.
La publicación científica completa del estudio se puede ver en el enlace especificado.
Tabla: descripción general de los resultados del estudio
| Arte de medios | Número de realmente clasificado | Número de clasificado con generación de KI |
| ———– | ———————— | --—————————— |
| Texto | 65% | 35% |
| Imagen | 52% | 48% |
| Audio | 60% | 40% |
El estudio muestra que la mayoría de los participantes clasificaron la IA generó medios como provocados por el hombre, independientemente del tipo de medio.
Los resultados de este estudio proporcionan un conocimiento valioso sobre la percepción y el reconocimiento de los medios generados por IA y representan puntos de partida importantes para futuras investigaciones en esta área. Queda por ver cómo se desarrollará el desarrollo de la inteligencia artificial en el futuro y qué consecuencias tendrá esto para la sociedad.
Kommentare (0)