Building peace in the minds of men and women

Editorial

Em direção a um código de ética global para pesquisa em inteligência artificial

cou_03-18_dg_itw_02.jpg

Devemos evitar o mal uso da IA.

Nos últimos anos, avanços incríveis aconteceram no campo da inteligência artificial (IA), levando a invenções que pensávamos jamais serem possíveis. Atualmente, computadores e robôs possuem a capacidade de aprender a aperfeiçoar seu próprio trabalho, e até de tomar decisões – o que é feito por meio de um algoritmo, é claro, e sem consciência individual. Ao mesmo tempo, não podemos deixar alguns questionamentos de lado. Uma máquina pode pensar? O que a IA é capaz de fazer neste estágio da sua evolução? Em que grau ela é autônoma? Onde fica a tomada de decisão humana?

Mais do que conduzir-nos à Quarta Revolução Industrial, a IA está provocando uma revolução cultural. Ela está inegavelmente destinada a transformar nosso futuro, mas ainda não sabemos exatamente de qual maneira. É por isso que a IA inspira tanto fascinação quanto medo.

Neste número, O Correio apresenta sua investigação ao leitor, falando sobre diversos aspectos dessa tecnologia inovadora nas fronteiras da ciência da computação, engenharia e filosofia, esclarecendo diversas questões pelo caminho. Porque, sejamos claros – nas circunstâncias atuais, a IA não pode pensar. E nós estamos bem distantes da possibilidade de baixar todos os componentes de um ser humano em um computador! Um robô obedece a um conjunto de rotinas que permite sua interação conosco, humanos, mas além deste quadro bastante limitado dentro do qual ele deveria interagir, não consegue construir uma relação social genuína.

E ainda assim, algumas das aplicações de IA já são questionáveis – coleção de dados que invadem a privacidade, algoritmos de reconhecimento facial que deveriam identificar comportamento hostil e estão impregnados de preconceito racial, drones militares e armas letais autônomas etc. Os problemas éticos que a IA levanta – e que sem dúvidas continuarão a aparecer no futuro, com mais gravidade – são numerosos.  

Enquanto a pesquisa avança rapidamente no campo técnico da IA, a parte ética não passou pelo mesmo progresso. Apesar de muitos pesquisadores terem expressado sua preocupação com relação a este fato, e alguns países terem começado a pensar sobre isso seriamente, não há um quadro regularizado para guiar pesquisas futuras sobre ética em escala global.

“É nossa responsabilidade liderar um debate universal e esclarecido de modo a entrar nesta nova era de olhos bem abertos, sem sacrificar nossos valores, e tornar possível o estabelecimento de uma estrutura mundial comum de princípios éticos”, disse a diretora-geral, Audrey Azoulay, sobre o papel da UNESCO, neste número de O Correio.

Um instrumento internacional de regulamentação para o desenvolvimento responsável de IA é essencial, e esta é uma tarefa que a UNESCO está realizando. O Correio demonstra seu apoio a esta iniciativa, propondo diferentes correntes de pensamento sobre o assunto.