Inovações em IA para enfrentar os desafios sociais

A inteligência artificial (IA) está sendo aproveitada para enfrentar dois dos mais desafiadores problemas da atualidade – a flagrante proliferação de notícias falsas e a crescente invasão da privacidade individual. A Factmata, que usa IA para combater a desinformação, e a D-ID, que protege identidades contra sistemas de reconhecimento facial com o uso de IA, foram dois dos dez vencedores dos Prêmios Netexplo de 2019, apresentados na Sede da UNESCO em abril.

Dhruy Ghulati, CEO e cofundador da Factmata, empresa com sede em Londres, e Gil Perry, cofundador e CEO da D-ID, com sedes em Tel Aviv (Israel) e em Palo Alto (Estados Unidos), conversaram com O Correio da UNESCO sobre suas inovações. 

Entrevistas por Shiraz Sidhva

Dhruv Ghulati: combate às notícias falsas

O que fez o sr. criar uma startup de IA para combater notícias falsas? Não é uma tarefa difícil, como lutar contra a corrupção?

É sim. Se quisermos mudar o mundo, em vez de simplesmente estabelecer uma empresa, precisamos pensar em desenvolver tecnologias com esse objetivo e, se isso funcionar, o impacto potencial em todas as pessoas, em todos os lugares, seria astronômico. Ao combinar a IA e a comunidade humana, a Factmata desenvolve algoritmos explicáveis para solucionar o problema da desinformação online e construir um ecossistema de mídia de melhor qualidade.   

O sistema de classificação da Factmata é capaz de digerir cada fragmento de conteúdo online, lê-lo de forma inteligente e classificá-lo em nove marcadores – incluindo discurso de ódio, viés político e sexismo – para proporcionar aos usuários uma compreensão profunda sobre a qualidade, a segurança e a credibilidade de qualquer fragmento de conteúdo na internet. Ele constrói essas classificações de uma maneira justa e explicável, implantando uma rede proprietária de especialistas que são mais bem preparados para avaliar qualquer conteúdo em questão.

Nosso objetivo é desenvolver um novo sistema de classificação universal para a qualidade do conteúdo online, a ser implantado em intercâmbios publicitários [um mercado digital que facilita a compra e a venda de inventário de publicidade midiática a partir de várias redes publicitárias, geralmente por meio de leilões em tempo real], navegadores, mecanismos de busca e redes sociais, entre outros. Isso garantirá que o jornalismo de boa qualidade seja mais bem classificado e mais monetizado, e que o conteúdo de baixa credibilidade, não seguro, seja desmonetizado.

Qual é a diferença entre a Factmata e os outros softwares disponíveis – do tipo que o Facebook usa, por exemplo?

Nossa tecnologia tem o potencial de ser mais precisa, devido à forma proprietária com que usamos as comunidades de especialistas para ajudar a criar nosso software e nos fornece dados de treinamento exclusivos – o que tem uma manutenção muito difícil e demorada –, em vez de usar as séries de dados abertos que existem por aí, às quais todos têm acesso. Nós pensamos uma maneira de obter esses dados a um custo mais baixo e com mais eficiência do que outros, fazendo com que os usuários sintam que fazem parte do processo.

Quem são seus principais usuários?

Nossos principais usuários são membros do público que gostam de desafiar seu pensamento crítico por meio de nossas ferramentas; em seguida, marcas e governos que tentam garantir que são capazes de monitorar as pessoas que espalham rumores realmente prejudiciais para a saúde da sociedade, ou que disseminam desinformação que pode inviabilizar o lançamento de um produto ou campanha. 

No que se refere à eliminação de notícias falsas, o sr. diria que a IA é mais eficaz do que um ser humano?

Não. Os seres humanos são muito melhores. Contudo, os seres humanos não conseguem trabalhar em escala. Algoritmos sendo processados em vários hardwares são capazes de esquadrinhar milhões de itens de conteúdo por segundo para sinalizá-los como notícias falsas, mas não é fácil aumentar a quantidade de pessoas que filtram volumes tão grandes de conteúdo antes que elas se cansem. Além disso, apenas alguns seres humanos são mais eficazes do que outros seres humanos. Portanto, a chave é combinar as pessoas certas com a IA certa. 

Os hackers e os propagadores de notícias falsas podem enganar a IA? 

Sim, eles tentarão fazer isso. Contudo, o que é positivo para nós é que, a cada vez que a enganam, isso se torna mais e mais difícil. Em breve, o número de impostores bons o suficiente para vencer o sistema será superado pela qualidade do próprio sistema. É assim que lidamos com o spam de e-mail e, na verdade, com a maioria dos spams, fraudes e segurança cibernética.

O essencial para nós é conseguir sobreviver tempo suficiente com financiamento suficiente para desenvolver a nossa tecnologia principal, tendo clientes que possam nos manter, para poder olhar para o futuro. Eu acredito que, com trabalho árduo e tempo suficientes, combateremos as notícias falsas enquanto a maioria pode desistir.

---------------------------------------------------------------------------------------------------------------------

Gil Perry: fazer os rostos se tornarem irreconhecíveis

O sr. foi um veterano da unidade de elite 8200 do Órgão de Inteligência das Forças de Defesa de Israel. O que o motivou a criar um software que protege identidades contra sistemas de reconhecimento facial? 

Alguns de nós tivemos essa ideia durante o serviço militar. Naquela época, estávamos muito conscientes dos riscos que as tecnologias de reconhecimento facial podem representar para a privacidade e a proteção da identidade. Não éramos autorizados a publicar nossas próprias fotografias em redes sociais por essa razão. Após deixar o exército, decidi me aprofundar no assunto. Estudei visão computacional e processamento de imagens, e trabalhei na área por muitos anos. Então, há cerca de dois anos e meio, fiz uma parceria com Sella Blondheim e Eliran Kota, os cofundadores da D-ID. Juntos, começamos a elaborar um dos mais complicados e inovadores algoritmos para proteger fotografias contra tecnologias de reconhecimento facial. Esse algoritmo é agora o alicerce da D-ID.

Nossos rostos são agora nossas senhas, porém, diferentemente das senhas, não podemos alterá-los e, por isso, eles precisam ser protegidos. Desenvolvemos uma tecnologia de IA que torna as imagens irreconhecíveis para algoritmos de reconhecimento facial, ao mesmo tempo em que não há diferenças perceptíveis para o olho humano. Isso permite que as pessoas armazenem, compartilhem e utilizem imagens e vídeos sem que precisem se preocupar com que seus rostos sejam captados, identificados e utilizados de forma indevida por ferramentas automatizadas de reconhecimento facial.

Até que ponto é importante se proteger do reconhecimento facial, e quais são os perigos associados ao não uso de um software para mascarar fotos?? 

Em primeiro lugar, o reconhecimento facial está em todos lugares, e o mercado está em expansão. Em segundo lugar, estamos cercados por câmeras. Existem circuitos fechados de TV em por todos os lados – nas ruas, nas lojas, nos trens. E depois, todos nós temos smartphones e os usamos para fotografar e gravar vídeos. Por fim, nossas fotos estão por toda parte, nas redes sociais, nos servidores de nossas empresas, nos bancos de dados governamentais etc. Essa combinação – câmeras de vigilância por toda parte e reconhecimento facial que está se tornando mais preciso e de fácil obtenção – cria uma situação em que qualquer um pode nos identificar, rastrear e roubar nossa identidade.

A tecnologia de reconhecimento facial pode ser usada para classificar o comportamento dos cidadãos ou para dizer quem a seu redor tem uma dívida com o banco. Em alguns países, pode-se tirar uma foto de uma pessoa aleatoriamente na rua e usar o reconhecimento fácil para descobrir todos os detalhes sobre ela. Sabe-se que esses aplicativos são usados para perseguir minorias e manifestantes. Nos Estados Unidos e em outros lugares, o reconhecimento facial é usado para saber mais sobre a idade, o gênero e a etnia do cliente, nossa satisfação quando fazemos compras, e muito mais.

Em suma, creio que todos devemos nos preocupar com a nossa privacidade. Felizmente, a D-ID está aqui para ajudar.

O algoritmo proprietário da D-ID combina o mais avançado processamento de imagem e técnicas de aprendizagem profunda [que permitem que uma máquina reconheça, por conta própria, conceitos complexos como rostos, corpos etc.] para ressintetizar qualquer foto em uma versão protegida. Isso é extremamente difícil de se fazer, e nós acreditamos que, atualmente, somos os únicos capazes de fornecer tal tecnologia.

O sr. prevê enfrentar algum problema com agências governamentais, que usam muita tecnologia de reconhecimento facial?

Não. Na verdade, os governos e os legisladores locais estão pressionando por mais regulamentação da privacidade, o que é coerente com a nossa visão.   

Quem são os seus principais clientes? São indivíduos que querem proteger suas identidades?

Atualmente, nós prestamos serviços principalmente para empresas. Nossos clientes usam a nossa tecnologia para proteger as imagens de sua administração e de seus funcionários, bem como para proteger os bancos de dados de imagem dos seus clientes.

Também queremos atuar em escolas, para ajudar professores e estudantes a publicar e compartilhar imagens que têm a privacidade protegida. À medida que avançamos com nossa tecnologia, queremos poder oferecer a D-ID a todos com soluções no dispositivo para smartphones e câmeras, para que todas as fotos que tiramos sejam desidentificadas em sua criação.  

Foto: Fabian Albertini