Maus bots podem ajudar o Facebook

0
46
Maus bots podem ajudar o Facebook
Maus bots podem ajudar o Facebook

Os investigadores do Facebook desenvolveram uma Web-Enabled Simulation (WES) que usa machine learning para treinar bots de forma a simularem “comportamentos negativos” e poderem andar pela web a fazer pesquisas, visitar páginas e até tentar comprar produtos ilegais.

O projeto usa um novo método de construção de simulações de larga escala, altamente realísticas, de redes sociais complexas, e tem aplicação direta nas áreas da proteção, segurança e privacidade, como explicou Mark Harman num encontro com um grupo restrito de jornalistas e que teve eco na imprensa internacional. Ainda é um projeto de investigação criado no FAIR (Facebook Artificial Intelligence Research), mas acredita-se que pode vir a tornar o Facebook mais seguro e ajudar no desenvolvimento de videojogos.

Na rede social foram criados grupos de “bots inocentes” e outros de “bots ruins” que exploram as falhas no sistema para terem comportamentos pouco recomendáveis. Os bots são treinados para interagir entre eles, dentro de comunidades de agentes inteligentes, usando a mesma infraestrutura que os utilizadores, mas sem nunca agirem com as pessoas reais. Podem enviar mensagens, fazer publicações, pedidos de amizade, fazer pesquisas e até tentar comprar produtos que são proibidos no Facebook, como drogas e armas.

Por enquanto este “exército” de bots é treinado para imitar comportamentos que os investigadores sabem que podem acontecer realmente, mas o objetivo é antecipar movimentos de ódio e malvadez.

A prevenção de comportamentos negativos é uma das preocupações do Facebook que tem investido em várias áreas para moderar comentários e posts, impedir publicações que violem as regras de não violência e uso de pornografia, por exemplo. Contudo, as autoridades têm estado bastante atentas ao Facebook que, frequentemente, viola esta desejável conduta.

O investigador defende que neste tipo de testes o software tem uma capacidade de adaptação e modificação de comportamento que é ideal para antecipar possíveis mudanças.

O ambiente em que os bots se movimentam foi criado especificamente para o projeto e é o WW, uma versão reduzida da WWW (World Wide Web). É um ambiente simulado e controlado do Facebook, mas que usa a plataforma de produção da rede social. Aqui os bots têm liberdade para agir como utilizadores normais, e até contornar as regras de segurança impostas. Desta forma consegue-se antecipar potenciais comportamentos nocivos.

Para acelerar o desenvolvimento da plataforma de simulação WES o Facebook está à procura de ajuda da comunidade científica e já detalhou os progressos da simulação e do protótipo WW.

Fonte: Guardian

Quer saber outras novidades? Veja em baixo as nossas Sugestões

Quer saber outras novidades? Veja em baixo as nossas Sugestões

Deixe uma resposta