Invasão de privacidade e fake news: a inteligência artificial pode vencer essa guerra

O inglês Dhruv Ghulati, da empresa Factmata, e o americano Gil Perry, da D-ID, falam sobre como inovações criadas por suas companhias conseguem combater dois dos piores males da atualidade

Empresa israelense desenvolveu uma tecnologia de IA que torna as imagens irreconhecíveis para enfrentar os algoritmos de reconhecimento. Crédito: Max Pixel

A inteligência artificial (IA) está sendo utilizada para enfrentar dois dos problemas mais desafiadores da atualidade – a proliferação flagrante de notícias falsas (“fake news”) e a crescente invasão da privacidade individual. As empresas Factmata, que emprega a IA para combater a desinformação, e D-ID, que protege identidades dos sistemas de reconhecimento facial com o auxílio da IA, estão entre as dez vencedoras dos prêmios Netexplo de 2019, apresentados na sede da Unesco em abril.

Dhruv Ghulati, CEO e cofundador da Factmata, com sede em Londres, e Gil Perry, cofundador e CEO da D-ID, com sede em Tel Aviv (Israel) e Palo Alto (Estados Unidos), conversaram com o “Unesco Courier” sobre suas inovações.

 

Dhruv Ghulati: luta contra notícias falsas

O que fez você criar uma startup de IA para lidar com notícias falsas? Não é uma tarefa assustadora, como combater a corrupção?

Sim. Se você deseja mudar o mundo, em vez de simplesmente construir um negócio, é necessário pensar em construir uma tecnologia capacitadora. Se ela funcionar, o impacto potencial em todos os lugares será astronômico. Ao combinar a IA e a comunidade humana, a Factmata desenvolve algoritmos explicáveis ​​para resolver o problema de desinformação online e criar um ecossistema de mídia de melhor qualidade.

LEIA TAMBÉM: Metade dos habitantes do planeta está nas redes sociais

O sistema de pontuação da Factmata tem a capacidade de digerir todos os conteúdos online, lê-los de forma inteligente e marcá-los em nove sinalizações – incluindo discurso de ódio, preconceito político e sexismo –, para oferecer aos usuários uma compreensão profunda da qualidade, segurança e credibilidade de qualquer fragmento de conteúdo na web. Ele cria essas classificações de maneira justa e explicável, ao implantar uma rede proprietária de especialistas que são mais adequados para avaliar qualquer conteúdo em questão.

Nosso objetivo é criar um novo sistema de classificação universal para a qualidade do conteúdo online, a ser implantado nas trocas de anúncios [um mercado digital que facilita a compra e venda de relação de publicidade de mídia originária de várias redes de anúncios, geralmente através de leilões em tempo real], navegadores, mecanismos de pesquisa, redes sociais e muito mais. Isso garantirá que o jornalismo de boa qualidade receba classificação mais alta e monetize mais, e que o conteúdo inseguro e de baixa credibilidade seja desmonetizado.

Qual é a diferença entre o Factmata e outros softwares por aí – do tipo que o Facebook usa, por exemplo?

Nossa tecnologia tem o potencial de ser mais precisa devido à maneira proprietária em que usamos comunidades especializadas para ajudar a construir nosso software e fornecer dados de treinamento exclusivos – que são muito difíceis e demorados para manter –, em vez de usar conjuntos de dados abertos a que todo mundo tem acesso. Descobrimos uma forma de obter esses dados de maneira mais barata e eficiente do que outros, fazendo com que os usuários sintam que fazem parte do processo.

Quem são seus usuários principais?

Nossos usuários principais são membros do público que gostam de desafiar seu pensamento crítico por meio de nossas ferramentas. Em seguida, vêm marcas e governos que estão tentando garantir que podem monitorar as pessoas as quais espalham boatos realmente ruins para a saúde da sociedade, ou desinformação que pode prejudicar um lançamento ou campanha de produto.

Quando se trata de eliminar notícias falsas, você diria que uma IA é mais eficaz que um humano?

Não. Os humanos são muito melhores. Mas os humanos não têm capacidade de escala. Os algoritmos executados em muitos hardwares podem digitalizar milhões de itens de conteúdo por segundo e marcá-los como notícias falsas. Mas seria necessário um grande número de humanos para filtrar volumes tão grandes de conteúdo, e eles precisariam ser substituídos antes que se cansassem. Além disso, apenas alguns humanos são mais eficazes que outros. Portanto, a chave é combinar os humanos certos com a IA certa.

Hackers e vendedores de fake news podem enganar a IA?

Sim, eles tentarão. Mas o bom para nós é que toda vez que eles trapaceiam, fica cada vez mais difícil. Logo, o número de trapaceiros bons o suficiente para vencer o sistema é superado pela qualidade do sistema. É assim que lidamos com o spam de e-mail e, de fato, com a maioria de spams/fraudes /segurança cibernética.

O principal para nós é poder sobreviver por tempo suficiente, com financiamento suficiente, para construir nossa tecnologia principal, ao mesmo tempo que temos clientes que podem nos sustentar, para poder olhar para o futuro. Acredito que, com muito trabalho e tempo suficientes, enfrentaremos notícias falsas, enquanto a maioria pode desistir.

 

————————————————– ————————————————–

 

Gil Perry: fazendo caretas ilegíveis

Você era um veterano da unidade de elite 8200 do Corpo de Inteligência das Forças de Defesa de Israel. O que o levou a criar um software que protege identidades dos sistemas de reconhecimento facial?

Um grupo entre nós teve a ideia durante o serviço militar. Naquela época, estávamos muito cientes dos riscos que as tecnologias de reconhecimento facial podem representar para a privacidade e a proteção de identidade. Não nos foi permitido publicar nossas próprias fotos nas mídias sociais por esse motivo.

Depois de deixar o Exército, decidi aprofundar a questão. Estudei visão computacional e processamento de imagens e trabalhei em campo por vários anos. Então, há cerca de dois anos e meio, fiz uma parceria com Sella Blondheim e Eliran Kota, cofundadoras da D-ID. Juntos, começamos a escrever um dos algoritmos mais complicados e inovadores para proteger as fotos das tecnologias de reconhecimento de rosto. Esse algoritmo é agora a base do D-ID.

Nossos rostos agora são nossas senhas. Mas, diferentemente das senhas, não podemos alterá-las, portanto elas precisam ser protegidas. Desenvolvemos uma tecnologia de IA que torna as imagens irreconhecíveis para enfrentar os algoritmos de reconhecimento, enquanto não há diferenças perceptíveis ao olho humano. Isso permite que as pessoas armazenem, compartilhem e utilizem imagens e vídeos sem ter d se preocupar com o fato de seus rostos serem capturados, identificados e mal utilizados por ferramentas automáticas de reconhecimento de rostos.

Qual a importância da proteção do reconhecimento facial e quais são os perigos associados ao não uso de software para mascarar fotos?

Em primeiro lugar, o reconhecimento facial está em toda parte e o mercado está em expansão. Segundo, estamos cercados por câmeras. Existem câmeras de circuito fechado de televisão (CCTVs, na sigla em inglês) por toda parte – na rua, nas lojas, no trem. E todos nós temos smartphones e os usamos para tirar fotos e vídeos. Por fim, nossas fotos estão em todos os lugares, nas mídias sociais, nos servidores da empresa, nos bancos de dados do governo, etc. Essa combinação – câmeras de vigilância em todos os lugares e reconhecimento de rosto cada vez mais preciso e fácil de obter – cria uma situação em que qualquer pessoa pode identificar você, rastrear seus passos e roubar sua identidade.

A tecnologia de reconhecimento facial pode ser usada para classificar o comportamento dos cidadãos ou para informar quem está perto de você com uma dívida com o banco. Em alguns países, você pode tirar uma foto de uma pessoa aleatória na rua e usar o reconhecimento facial para descobrir todos os detalhes sobre ela. Sabe-se que esses aplicativos são usados ​​para assediar minorias e manifestantes. Nos EUA e em outros lugares, o reconhecimento facial é usado para aprender sobre idade, sexo, etnia, satisfação de um cliente quando fazemos compras e muito mais.

Em suma, acho que todos devemos nos preocupar com nossa privacidade. Felizmente, o D-ID está aqui para ajudar.

O algoritmo proprietário da D-ID combina as técnicas mais avançadas de processamento de imagens e aprendizado profundo [que permitem que uma máquina reconheça independentemente conceitos complexos como rostos, corpos, etc.] para ressintetizar qualquer foto em uma versão protegida. Isso é extremamente difícil de fazer e acreditamos que somos os únicos hoje capazes de fornecer essa tecnologia.

Vocês imaginam enfrentar algum problema com agências governamentais, que usam muita tecnologia de reconhecimento facial?

Não, nós não. De fato, governos e legisladores locais estão pressionando por mais regulamentação sobre privacidade, o que combina bem com nossa visão.

Quem são seus principais clientes? São os indivíduos que desejam proteger suas identidades?

Atualmente, vendemos principalmente para empresas. Nossos clientes usam nossa tecnologia para proteger as imagens de seus gerentes e funcionários e para proteger os bancos de dados de imagens de seus clientes.

Também temos como objetivo escolas, para ajudar professores e alunos a publicar e compartilhar imagens protegidas pela privacidade. À medida que avançamos com nossa tecnologia, procuramos oferecer D-ID para todos – com soluções no dispositivo para smartphones e câmeras, a fim de que todas as fotos que tirarmos sejam desidentificadas na criação.