Uma crescente quantidade de imagens aparentemente geradas por inteligência artificial chamaram a atenção de usuários e especialistas por serem estranhas, o que levou à sua investigação.
Estas estranhas imagens se espalharam pelas redes sociais como o Facebook ou o Instagram. O problema é que muitos grupos estão cheios de imagens destinadas a evocar um sentimento específico: por exemplo, imagens especialmente ternas de avós com bolos ou cabanas aconchegantes. Algumas são mais incomuns, como uma imagem de Jesus feita com crustáceos.
Quem conduziu a pesquisa por essas imagens?
O problema agora escalou tanto que uma equipe de pesquisadores do Observatório da Internet de Stanford e do Centro de Segurança e Tecnologias Emergentes da Universidade de Georgetown iniciou uma investigação de mais de 100 páginas do Facebook que apresentavam uma quantidade especialmente alta de conteúdo gerado por inteligência artificial (IA).
O novo artigo é intitulado ‘Como spammers e golpistas aproveitam imagens geradas por inteligência artificial no Facebook para aumentar sua audiência’, e afirma que o conflito se deve às pessoas buscarem aumentar seus seguidores nas redes sociais.
O que indica a pesquisa sobre esse fato curioso com a IA?
“Grande parte da pesquisa e discussão sobre os riscos dos geradores de imagens de inteligência artificial (IA), como o DALL-E e o Midjourney, tem se concentrado em se poderiam ser usados para implantar informações falsas no discurso político”, escrevem os autores. “Demonstramos que spammers e golpistas – aparentemente motivados pelo lucro ou influência, não pela ideologia – já estão utilizando imagens geradas por IA para ganhar uma tração significativa no Facebook”.
Chris Cox, chefe de produto do Meta que criou o feed original, falou com o The Independent sobre o crescimento desse tipo de imagens falsas durante um evento sobre inteligência artificial no início deste mês.
“A chave aqui é: a experiência do usuário ao longo do caminho. É preciso garantir que ninguém se surpreenda com a experiência que está tendo e confiar em ferramentas simples de experiência do usuário que rotulem as IAs quando as virmos”, disse. “Para o que serve, a quantidade de conteúdo gerado por IA nos feeds ainda é mínima”.
Mas no novo artigo sugere que, por enquanto, pelo menos alguns desses grupos compartilham imagens sem marcação. Essas imagens sem marcação até mesmo aparecem para pessoas que não seguem os grupos ou não percebem que são geradas por IA, o que significa que as pessoas poderiam facilmente confundi-las com fotos autênticas.
