Uma regra geral online é não interagir com bots. Mas e se o bot com o qual você está conversando ou treinando na web foi criado com suas próprias palavras? Você perceberia que está conversando com uma inteligência artificial?
o que relatórios de vício, esse cenário se desenrolou de uma maneira bastante perturbadora recentemente, quando uma série de postagens apareceu no popular fórum do 4chan, Politicamente Incorreto, ou /pol/. Em mais de 24 horas, um misterioso cartel deixou cair mais de 15.000 mensagens.
Como o YouTube Yannic Kilcher descreveu em um vídeo recente, “As pessoas começaram a perceber que havia algo estranho sobre esse usuário. Algumas pessoas o amavam porque concordavam com suas opiniões. Outras pessoas o odiavam porque ele parecia estar em todos os lugares”.
Acontece que esse usuário era o próprio Kilcher. Ele criou um bot que ingeriu 3,5 anos de postagens /pol/ e o liberou por meio de nove bots. Não foi bonito. O fórum é amplamente conhecido por seu discurso de ódio, e material ofensivo rapidamente se proliferou. (O que O guardião O guardião O atirador no massacre do mês passado em Buffalo publicou um manifesto de 180 páginas contendo extenso conteúdo plagiado do conselho).
Kilcher criou o bot em apenas algumas semanas, e seu novo exército de pôsteres escaneou o conjunto de dados a cada cinco minutos, gerou comentários exclusivos e os postou na mesma conta anônima. Como a IA é tão inteligente quanto o conteúdo em que é treinada, /pol/ foi rapidamente inundado com conteúdo ainda mais racista, misógino e antissemita do que o habitual.
“Havia uma base de usuários que reconhecia bots por serem bots, [but] ainda havia muitos outros usuários que não o fizeram”, diz Kilcher, mesmo depois de admitir estar por trás disso.
Enquanto o 4Chan normalmente exige que os usuários completem um CAPTCHA para provar sua humanidade, Kilcher contornou isso obtendo o 4Chan Pass, uma assinatura premium de US $ 20 por mês que permite que os membros ignorem o CAPTCHA. O 4Chan Pass também permite postar de um servidor proxy, o que geralmente não é permitido. O bot de Kilcher funcionava em um baseado nas Seychelles, uma pequena nação insular na costa da África Oriental.
Após 24 horas, Kilcher removeu o bot e se revelou na plataforma como o criador. Ele então o modificou e o colocou de volta nas últimas 24 horas. Nos dois dias, o bot criou mais de 30.000 postagens, diz Kilcher.
Ele também postou o modelo na comunidade AI Hugging Face, solicitando interesse de especialistas em IA que temiam que estivesse sendo usado por pessoas com intenções mais nefastas do que um brincalhão do YouTube. Kilcher parece calmo:
A mudança pode lembrar alguns recursos de curta duração da Microsoft AI Chatbot Tay, que se tornou muito racista, muito rapidamente depois de observar o comportamento das pessoas com quem conversava online. A diferença é que as pessoas logo perceberam que Tay enlouqueceu; em /pol/ era o volume de conteúdo que chamava a atenção das pessoas para o que realmente estava sendo dito.
