As pessoas mal conseguem reconhecer os novos resultados da mídia gerada pela IA da pesquisa de IA
As pessoas mal conseguem reconhecer os novos resultados da mídia gerada pela IA da pesquisa de IA
As pessoas mal conseguem ver a mídia gerada por IA
Imagens, textos e arquivos de áudio gerados por Ki são tão convincentes que as pessoas não podem mais distingui-las do conteúdo artificial. Este é o resultado de uma pesquisa on -line com cerca de 3.000 participantes da Alemanha, China e EUA. O estudo foi realizado pelo Cispa-Faculty, Dr. Lea Schönherr e pelo Prof. Dr. Thorsten Holz realizou e apresentou no 45º Simpósio IEEE sobre Segurança e Privacidade em São Francisco. O estudo foi realizado em cooperação com o Ruhr University Bochum, a Universidade de Leibniz de Hanover e o TU Berlim.
O rápido desenvolvimento da inteligência artificial nos últimos anos permite massas, textos e arquivos de áudio com apenas alguns cliques. No entanto, esse desenvolvimento carrega riscos, especialmente no que diz respeito à opinião política. Com as próximas eleições importantes deste ano, como as eleições parlamentares da UE ou as eleições presidenciais nos EUA, existe o risco de que a mídia gerada pela IA seja usada para manipulação política. Este é um grande perigo para a democracia.
Os resultados do estudo são surpreendentes: as pessoas acham difícil distinguir a mídia real da mídia gerada pela IA. Isso se aplica a todos os tipos de mídia, como textos, arquivos de áudio e imagem. Surpreendentemente, existem apenas alguns fatores que podem explicar se as pessoas são melhores no reconhecimento da mídia gerada pela IA. Quase não existem diferenças significativas entre diferentes faixas etárias, formação educacional, atitudes políticas ou alfabetização da mídia.
Uma pesquisa on -line quantitativa na Alemanha, China e EUA foi realizada para o estudo. Os participantes foram atribuídos acidentalmente a uma das três categorias de mídia (texto, imagem ou áudio) e viram mídia real e gerada pela IA. Além disso, foram coletados dados socio-biográficos sobre a mídia gerada pela IA e outros fatores. Um total de 2.609 registros de dados foram incluídos na avaliação.
O estudo fornece informações importantes para a pesquisa de segurança cibernética. Existe o risco de que textos e arquivos de áudio gerados por IA sejam usados para ataques de engenharia social. Desenvolver mecanismos de defesa para esses cenários de ataque é uma tarefa importante para o futuro. Além disso, precisamos entender melhor como as pessoas podem distinguir a mídia gerada pela IA. Um estudo de laboratório planejado deve pedir aos participantes que consultem se reconhecem se algo é gerado ou não. Além disso, processos técnicos para verificação automatizada de fatos devem ser desenvolvidos.
A publicação científica completa do estudo pode ser vista no link especificado.
Tabela: Visão geral dos resultados do estudo
| Arte da mídia | Número de realmente classificados | Número de classificadas geradas pelo KI |
| ———– | ———————- | --————————— |
| Texto | 65% | 35% |
| Imagem | 52% | 48% |
| Áudio | 60% | 40% |
O estudo mostra que a maioria dos participantes classificou a mídia gerada pela IA como feita pelo homem, independentemente do tipo de meio.
Os resultados deste estudo fornecem conhecimento valioso sobre a percepção e reconhecimento da mídia gerada pela IA e representam pontos de partida importantes para mais pesquisas nessa área. Resta ver como o desenvolvimento da inteligência artificial se desenvolverá no futuro e quais consequências isso terá para a sociedade.
Kommentare (0)