IEEE Spectrum AI ligou a disseminação de conteúdo criado por máquina nas redes sociais ao problema da confiança. Na descrição apresentada pelo autor, aproximadamente metade do feed era preenchida com conteúdos que usuários atentos reconheciam como criados por IA.
Segundo essa descrição, parte dessas publicações foi disseminada por pessoas que não perceberam sua origem, e parte — intencionalmente, para entretenimento ou semear confusão. No material também é lembrado o GPT-3 como exemplo de chatbot que, com confiança, fornecia respostas plausíveis, mas falsas.
A fonte é apresentada na forma de sinopse de metadados, e não de texto completo, portanto as informações não podem ser consideradas confirmação independente de afirmações mais amplas. Não está claro como a parcela de conteúdo foi medida e quão representativa é a observação.
comentário editorial
Por que importa
Provável consequência — os usuários passarão a dar mais importância a verificar a origem das publicações, mas a fonte não confirma nem a escala da tendência nem sua dinâmica. O próximo sinal observado será medições independentes da parcela de conteúdo criado por máquina e dados sobre a precisão de seu reconhecimento. Uma incerteza substancial está relacionada ao fato de que as conclusões se baseiam em uma única observação do autor e no sinopse de metadados.