Building peace in the minds of men and women

Grande Angular

Audrey Azoulay: Aproveitando o melhor da IA

cou_03-18_dg_itw_01.jpg

Representação simbólica de uma IA cooperando com humanos.

A Inteligência Artificial (IA) poderia ajudar a humanidade a superar muitos dos sérios problemas sociais que enfrenta. Mas, ao mesmo tempo, a IA apresenta uma série de desafios complexos, especialmente em termos de ética, direitos humanos e segurança. Além disso, não há uma estrutura internacional que se aplique a todos os desenvolvimentos e utilizações de IA que existem atualmente. Uma ferramenta regulatória internacional é indispensável.

Audrey Azoulay, diretora-geral da UNESCO, entrevistada por Jasmina Šopova

Por que a UNESCO está interessada em IA?

Os especialistas são unânimes: a humanidade está no limiar de uma nova era. A Inteligência Artificial (IA) transformará nossas vidas de uma maneira que não podemos imaginar. Esta transformação já começou e afeta todos os aspectos de nossas vidas. A IA possui diversas aplicações em campos variados como saúde, educação, cultura, sociedade, defesa, etc. A pesquisa aumentou consideravelmente nos últimos anos: os gigantes da internet, FAMGA e muitos países estão investindo massivamente em IA, e se tornando agentes desta “Quarta Revolução Industrial”.

A UNESCO possui um papel importante nestes tempos de mudança. Primeiro, porque as utilizações de IA afetam diretamente as especialidades da Organização. A Educação será profundamente transformada pela IA. Ferramentas de ensino, modos de aprendizado, acesso à sabedoria e treinamento de professores serão revolucionados. Será cada vez mais importante ponderar sobre quais habilidades deverão ser desenvolvidas para evoluir em um mundo progressivamente mais automatizado.

No setor cultural, a IA já é amplamente aplicada: por exemplo, imagens 3D são utilizadas para reconstrução de patrimônio – como faremos na cidade antiga de Mosul, no Iraque. Nas ciências também, especialmente em nossos programas ambientais e de pesquisa submarina – para a classificação de imagens de plânctons ou a detecção automática e censo de cetáceos e aves marinhas, por exemplo. Comunicação e informação também são diretamente dependentes dos avanços em IA. A UNESCO deve liderar essa reflexão sobre os benefícios e riscos da IA na educação, cultura, ciência e comunicação e informação.

Em sua visão, quais são os riscos?

Em geral, a IA pode ser uma oportunidade fantástica de alcançar objetivos estipulados pela Agenda 2030, mas isso significa abordar as questões éticas que a IA apresenta sem mais demora. Uma oportunidade, porque suas utilizações podem nos ajudar a avançar mais rapidamente em direção aos Objetivos de Desenvolvimento Sustentável (ODS) – permitindo uma melhor avaliação de riscos; melhores previsões e compartilhamento de conhecimento mais veloz; oferecendo soluções inovadoras nos setores de educação, saúde, ecologia, urbanismo e as indústrias criativas; e melhorando padrões de vida e nosso bem-estar diário. Mas também é uma ameaça, porque a automação e a digitalização criam desigualdades. Elas podem diminuir a diversidade em indústrias culturais, atrapalhar o mercado de trabalho, criar inseguranças empregatícias e aumentar as disparidades entre aqueles que têm acesso a estas tecnologias e aqueles que são privados dela.

É aí que a UNESCO também tem um papel – na tentativa de reduzir as desigualdades no acesso ao conhecimento e pesquisa – através do apoio que oferece aos seus Estados-Membros. É provável que divisão tecnológica crie um efeito multiplicador de desigualdades sociais. A UNESCO deverá estar apta a ajudar seus Estados-Membros na adaptação às novas realidades e no acesso ao conhecimento tecnológico .

Como a UNESCO poderá oferecer este apoio, de maneira concreta?

Um dos desafios dos Estados-Membros é possuir materiais de engenharia sofisticados e de ponta, e recursos humanos adequados – cientistas e engenheiros. Através de seus Centros de Educação e Treinamento para Ciência, Tecnologia e Inovação (CTI), do Observatório Mundial de Instrumentos de Política para a Ciência, Tecnologia e Inovação (GO-SPIN) e de seu Programa Internacional de Ciências Básicas (IBSP), a UNESCO está em posição de oferecer tal apoio – e ajudar a reduzir as disparidades entre os países .

Quais são os desafios impostos pela IA na educação? Como a UNESCO pretende responder a eles?

Esta é, claro, a área fundamental para a Organização. Novamente, a revolução que está acontecendo está gerando efeitos tanto positivos quanto negativos.

Um software educacional baseado em IA já está sendo utilizado para decentralizar o ensino e personalizá-lo, e oferecer aos estudantes conselhos de currículo, ou mesmo certificações. Mas estas tecnologias são caras e por isso, inacessíveis à grande maioria – é provável que a lacuna entre ricos e pobres aumente ainda mais.

Como resultado de seu papel na coordenação do Comitê de Direção ODS - Educação 2030 (SDG-Education 2030 Steering Committee) tpara monitorar o alcance do Objetivo de Desenvolvimento Sustentável 4, dedicado à educação, a UNESCO está em excelente posição para liderar este trabalho – identificando as possíveis contribuições da IA para a educação inclusiva e na avaliação de seu provável impacto no futuro do aprendizado.

Promover o acesso aberto às ferramentas de IA que incentivarão a inovação local será uma de nossas prioridades.

Para preparar futuras gerações ao novo ambiente de trabalho que a IA está criando, também será necessário repensar os programas educacionais, com ênfase em ciência, tecnologia, engenharia e matemática – além de oferecer um lugar de destaque para a área de humanas e as competências de filosofia e ética.

Qual a relação entre IA e filosofia ou ética?

Em suas vidas adultas, as crianças e estudantes das escolas de hoje sem dúvida enfrentarão problemas que são atualmente imprevisíveis para nós. É difícil prever todos os possíveis desdobramentos destas máquinas cada vez mais sofisticadas, e que estão ganhando um pouco mais de autonomia a cada dia – ao ponto de já estarem desafiando a identidade humana, em certa medida. É por isso que as habilidades em ética e as ciências sociais e humanas em geral serão tão importantes quanto as ciências formais. Sistemas de IA também podem possuir algumas tendências embutidas – incluindo preconceito de gênero – que demandam mais transparência desses sistemas e fortes princípios éticos para corrigi-los.

Por que é difícil prever futuros avanços em IA?

Pesquisas no setor de IA estão avançando em ritmo bastante acelerado, enquanto os ambientes jurídicos, sociais e éticos necessários para guiá-las estão evoluindo muito vagarosamente. Até onde a autonomia e poder de tomada de decisão de uma máquina pode ir? Se um acidente ocorrer, quem é responsável? E quem decide quais valores serão incutidos nas máquinas durante aquilo que é chamado “treinamento”? Estas e muitas outras questões permanecem sem solução atualmente.

Foi observado, por exemplo, que algoritmos treinados em linguagem humana comum adquiriram preconceitos baseados em estereótipos de dados textuais presentes na cultura do nosso dia a dia. Como poderíamos não nos preocupar com os perigos do surgimento de máquinas com comportamentos discriminatórios, racistas ou hostis ?

Também existem muitas outras razões para se preocupar – proteção de privacidade e publicidade direcionada na internet; liberdade de expressão e algoritmos de censura; jornalismo automatizado e monopólios da informação etc.

Mesmo se a pesquisa fundamental nesta área seja amplamente motivada pelo bem-estar, desvios não intencionais e intencionais sempre podem acontecer. É por isso que é urgente assegurar-se de que esta tecnologia se desenvolva de acordo com padrões éticos rigorosamente estabelecidos.

O que a UNESCO pode fazer com relação a isso?

Se queremos aproveitar o melhor das possibilidades oferecidas pela IA ao mundo, devemos nos assegurar de que ela sirva à humanidade, com respeito à dignidade humana e aos direitos humanos.

No entanto, não há nenhum padrão ético que se aplique a todos os desenvolvimentos e aplicações em IA atualmente.

A UNESCO é um fórum universal único com cerca de vinte anos de experiência no desenvolvimento de instrumentos internacionais relacionados à bioética e à ética da ciência e tecnologia*. Também pode contar com a competência de dois órgãos consultivos trabalhando ativamente nestas questões: a Comissão Mundial para a Ética do Conhecimento Científico e Tecnológico (COMEST) e o Comitê Internacional de Bioética (IBC).

É nossa responsabilidade liderar um debate universal e esclarecido – não um debate técnico, mas um debate ético - de modo a entrar nesta nova era de olhos bem abertos, sem sacrificar nossos valores, e tornar possível o estabelecimento de uma estrutura global comum de princípios éticos, caso esta seja a vontade dos Estados-membros.

Robots and ethics

Whose AI is it anyway?

 

Leia mais (em inglês):

Universal Declaration on the Human Genome and Human Rights (1997)

International Declaration on Human Genetic Data  (2003)

Universal Declaration on Bioethics and Human Rights (2005)

Declaration of Ethical Principles in relation to Climate Change (2017)

Recommendation on Science and Scientific Researchers (2017)