OverClock
Domingo, 17 de Fevereiro de 2019

InteligĂȘncia Artificial pode ser usada para gerar "fake news" mais convincentes Domingo, 17 de Fevereiro de 2019

InteligĂȘncia Artificial pode ser usada para gerar "fake news" mais convincentes

Como se a preocupação que temos com a propagação de desinformação online não fosse o suficiente, o instituto de pesquisas relacionadas à Inteligência Artificial OpenAI nos alerta que a tecnologia pode ser usada para gerar fake news cada vez mais convincentes, de forma totalmente automatizada.

O perigo está no fato de que o progresso na inteligência artificial está gradualmente ajudando as máquinas a entender melhor a linguagem natural. O algoritmo desenvolvido pelo OpenAI foi treinado para ser capaz de traduzir textos e responder perguntas com a linguagem mais natural possível, com o objetivo de resumir textos ou melhorar as habilidades de conversação dos chatbots — tornando-os quase humanos.

Mas logo os pesquisadores ficaram preocupados com o potencial de abuso. “Começamos a testá-lo e descobrimos rapidamente que é possível gerar conteúdo malicioso com bastante facilidade”, afirma Jack Clark, diretor de políticas da OpenAI. Em um teste, o MIT Technology Review produziu um longo texto sobre uma suposta declaração de guerra da Rússia aos Estados Unidos, só alimentando o algoritmo com as palavras “A Rússia declarou guerra aos Estados Unidos depois de Donald Trump acidentalmente ...”.

“O programa fez o resto da história por conta própria. E pode criar notícias de aparência realista sobre qualquer assunto que você der”, explica o texto. O software do OpenAI é alimentado com 45 milhões de páginas da web, escolhidas através do Reddit, e a partir de então aprende a reconhecer padrões nas frases e parágrafos, de modo a criar um texto convincente.

A preocupação do instituto é que esse algoritmo, e outros semelhantes, possam ser usados para automatizar a geração de notícias falsas convincentes, postagens em mídias sociais ou outros conteúdos de texto. O programa pode ainda gerar fake news otimizadas para atingir grupos demográficos específicos durante uma eleição, por exemplo.

“É muito claro que, se essa tecnologia amadurecer — e eu daria um ou dois anos —, ela poderia ser usada para desinformação ou propaganda", disse Clark à MIT Technology Review. Ele conta que até usou a ferramenta para gerar passagens em pequenas histórias de ficção científica com sucesso surpreendente. 


Compartilhe: http://tinyurl.com/y4lhdaww