Inteligência Artificial: a força do bem ou do mal?

*Por Marcelo Fernandes, gerente de Desenvolvimento de Negócios em Telecom, Seguros e Otimização da FICO América Latina

A humanidade tem sido brindada de forma intensa nos últimos anos com os espetaculares avanços da Inteligência Artificial (IA) e suas inúmeras aplicações no dia a dia das pessoas e das empresas. É absolutamente impossível passar uma semana sem perceber algum destaque na mídia nacional e internacional para novos casos de uso alavancados pelo poder de algoritmos diretamente ligados ao universo de IA.

Via de regra, são novas possibilidades que trazem benefícios concretos aos seres humanos, seja na medicina – envolvendo diagnóstico precoce de doenças -, seja no atendimento a clientes com tecnologias de biometria de voz que entendem e comparam padrões de som em arquivos de áudio, seja em veículos autônomos com avançados mecanismo de reconhecimento de detecção de objetos e obstáculos, abrindo margem para uma revolução nos transportes, assim como novas aplicações no campo da visão computacional.

Em um campo intermediário, situam-se aplicações engraçadas que divertem, geram entretenimento e muitas vezes um sentimento de nostalgia, sobretudo aquelas mais diretamente conectadas às redes sociais. Aplicações como “Wombo.AI” e “DeepNostalgia” tem atingido um número expressivo de usuários, por conta dos efeitos curiosos que são capazes de gerar, usando IA a partir de uma simples fotografia. Enquanto o primeiro (“Wombo.AI”) é capaz de combinar movimento nas fotos a uma música conhecida, o aplicativo “DeepNostalgia” dá vida a imagens, gerando animações nas fotografias e provocando saudosismo nas pessoas, sobretudo no caso de se referirem a entes queridos já falecidos.

No entanto, nem todas as aplicações envolvendo IA tem sido exatamente benéficas aos seres humanos. As chamadas “deepfakes” tem ganhado imensa popularidade por permitirem falsear arquivos de vídeo, atribuindo conteúdos e movimentos a imagens e vídeos originais, mudando o sentido e o conteúdo das mensagens. Essa aplicação tem forte potencial destrutivo, sobretudo quando usada em um contexto de desinformação ou fake news, para manipular uma grande massa de pessoas.

Como antídoto, ferramentas têm sido desenvolvidas para detectar a presença de traços ou evidências de deepfakes em conteúdos de mídia. Diversos provedores de software têm investido energia para usar IA para gerar scores de propensão a deepfakes, avaliando padrões ligados à distorção do conteúdo original. De uma forma ou de outra, aplicações que distorcem o conteúdo de dados têm se configurado uma ameaça a ser considerada e avaliada pelas empresas.

Recentemente a FICO realizou uma pesquisa com mais de 100 Chief Analytical Officers, de grandes empresas de todos os segmentos e continentes, para avaliar o estado de evolução e implementação da IA nas corporações. Um elemento que surgiu com muita força nesse levantamento foi a constatação do que pode se chamar de IA adversária ou aplicações maliciosas, turbinadas com IA, produzidas por hackers para atacar e causar dano a diversas organizações mundo afora.

Essas aplicações não necessariamente invadem os sistemas das empresas para roubar dados. Muitas vezes, elas inserem dados falsos ou até mesmo distorcem o conteúdo de dados transacionais das empresas, promovendo impacto potencial em sistemas e aplicações que geram decisões em cima desses dados, distorcendo os resultados das estratégias. É o que tem sido chamado de “data poisoning” ou envenenamento de dados. Na pesquisa, 24% dos executivos entrevistados informaram que suas empresas foram alvo de ataques dessa natureza, sendo a maioria relacionada a fraudes e ataques cibernéticos.

Esses achados reforçam a necessidade de, cada vez mais, trabalharmos e disciplinarmos o uso de IA de forma exclusivamente ética, voltada para trazer benefícios aos seres humanos e às empresas, sem qualquer conotação de desvio de finalidade que traga prejuízos financeiros e de imagem para as organizações. Assim, a IA tem que ser vista não somente como uma ferramenta para gerar valor sobre os dados, mas também como uma camada estratégica de proteção a dados e sistemas, de forma a impedir a manipulação e distorção de seus conteúdos.