Um conto de dois futuros

A inteligência artificial (IA) está prestes a se tornar completamente autônoma? A resposta dependerá apenas de nós. Cabe a nós definir o futuro da humanidade em harmonia com essa ferramenta tecnológica que, por vezes, consideramos ser um monstro aterrorizanter.

Sandrine Cathelat e Mathilde Hervieu

AComo temos visto, já por muitos anos, os desenvolvimentos tecnológicos mais recentes estão criando um ecossistema baseado em serviços que é cada vez mais fácil de usar. E a IA é que está conduzindo esse ecossistema conveniente! Para o indivíduo, o cidadão ou o consumidor, significa uma gama cada vez mais ampla de serviços fáceis de usar e disponíveis para simplificar suas vidas e fazer escolhas otimizadas. Para o trabalhador, o autônomo ou o assalariado, a IA oferece vantagens como avaliação mais objetiva, acesso mais imediato ao conhecimento e a especialistas, assistência digital em todos os momentos para estar pronto para realizar qualquer tarefa. Para organizações e seus gestores, é uma oportunidade para atribuir à IA cada vez mais responsabilidades gerenciais: otimização de compras, logística, segurança de instalações e bancos de dados, seleção e recrutamento, distribuição de ferramentas e recursos humanos – tudo isso em tempo real, com a máxima flexibilidade.

Porém, será que vale a pena aceitar tudo que há nas capacidades desses algoritmos? Qualquer coisa, a qualquer preço, em nome da eficiência e da rentabilidade? Devemos nos manter alertas diante do ritmo vertiginoso das sucessivas inovações e interrupções, e da crescente concentração de centros de inovação nas mãos de poucos. Especialmente porque essa tendência para a delegação de responsabilidades apenas aumentará quando a IA se desenvolver e tornar-se mais generalizada. Essa tecnologia já está preparando o terreno para isso, estendendo sua rede de conectividade para todo nosso ambiente real, em uma tendência tecnológica na qual as interfaces estão se tornando mais invisíveis e intuitivas.

Estamos na encruzilhada das civilizações, e um grande desafio está surgindo: qual é o status, o lugar, a utilidade do homo sapiens nesse ecossistema digitalizado (híbrido na melhor das hipóteses) do século XXI? Será que estamos vivenciando a oportunidade de redefinir os seres humanos e sua humanidade a fim de melhor encarar a vida com a IA e suas múltiplas encarnações? Que cenários do futuro devemos considerar e escrever (uma vez que ainda é nossa responsabilidade empunhar a caneta)? Certamente é hora de refletir e escolher qual estratégia adotar frente ao empoderamento digital: proibir ou regular, reverter o curso da inovação ou ao menos retardá-la? Devemos apostar em um novo tipo de espécie humana ciborgue para animar a competição entre homem e máquina, no próprio campo de atuação das máquinas? Ou devemos demonstrar plasticidade criativa ao imaginar uma sociedade de colaborações complementares entre capacidades humanas e digitais?

O tempo da metamorfose

A IA é um assunto atual. Catalisa todas as nossas ansiedades. Alguns ainda dizem que é “fraca”, mas quando será que a veremos como “forte”? Quem será sua dona? Quem terá o direito de usá-la? Para fazer o que? E, acima de tudo, que aparência terá? Será humana ou humanoide? Terá todas as nossas qualidades e defeitos? Terá uma moralidade e uma intenção? Evocá-la dessa maneira faz dela um monstro aterrorizante. Contudo, se a IA é monstruosa, é mais um monstro de eficiência do que um Frankenstein! Porque a IA é uma ferramenta, assim como um martelo, que é conduzida por uma vontade externa. No entanto, essa vontade é organizacional e não humana.

A IA é uma ferramenta que, desde que surgiu há algumas décadas, tem atendido aos objetivos de rentabilidade e funcionalidade de uma organização. É, portanto, fundamentalmente, a ferramenta de um projeto, de uma visão, de uma narrativa. E, atualmente, a narrativa dominante é a da eficiência.

No entanto, a IA não é uma ferramenta como qualquer outra. No princípio, era um software tático inteiramente patrocinado e programado por seres humanos, atualmente, ela está entrando em uma segunda fase em que gradualmente está ganhando autonomia – tornando-se capaz de escolher, por si só, o método que lhe permitirá atingir um objetivo. O objetivo ainda é definido por um ser humano. Amanhã, o software de ontem se tornará a IA autônoma em todos os aspectos, capaz de estabelecer seus próprios objetivos e meios, operar em rede e modificar as narrativas das pessoas, quer seja para o bem ou para o mal.

Dada essa metamorfose lógica e antecipada (que não podemos negar se mantivermos esse momentum tecnológico), somos tentados a temer a IA, embora ainda tenhamos o controle das rédeas. Contudo, temos de enfrentar grandes desafios, tais como: a transparência de algoritmos e bancos de dados; os limites e as restrições a serem definidos para as máquinas e para os serviços que elas podem oferecer; o registro de uma narrativa de que a IA pode atuar do mesmo modo que podemos. A questão é provavelmente menos tecnológica do que ética, moral e política: qual é nosso futuro com a IA, que narrativa vamos registrar?

A solução ciborgue

Um primeiro cenário é a extensão natural da narrativa atual. Nesse conto de eficiência, crescimento e liberalismo, os seres humanos não têm escolha senão se desenvolverem – não para competir, mas para cooperar com a máquina. Uma vez que o surgimento da IA suscita a questão do trabalho e das habilidades humanas versus habilidades digitais. Em um modelo de rentabilidade, é muito provável que a grande maioria dos trabalhos seja atribuída às máquinas. A fim de defender sua posição, os seres humanos aumentarão o número de suas ajudas digitais e adquirirão capacidades maiores do que aquelas conferidas a eles pela natureza. Graças à osmose entre o humano e o digital, os seres humanos se tornarão mais eficientes, pois irão entender, decidir e agir de maneira mais rápida. Esses dons de hiperdespertar e hiperconsciência são consistentes com a narrativa de eficiência da atualidade.

Os ciborgues – muito leves, muito ágeis e muito semelhantes a camaleões – estarão prontos para cooperar de forma ativa e em um patamar de igualdade com a máquina, desde que se aproximem dela. Eles serão incrementados pelos recursos ilimitados da rede de inteligência digital, mas, ao mesmo tempo, sua cota de humanidade será reduzida. Assim como a IA, o ciborgue então se tornará um monstro de eficiência e ambos farão parte da mesma rede que conectará os seres humanos e as máquinas sem distinção.

Essa osmose com a inteligência artificial possui muitos benefícios, principalmente a garantia funcional e a eficiência operacional. Contudo, suscita questões importantes. O que acontecerá se a energia “for cortada”? Quem terá acesso à nuvem? Teremos de concordar em ser transparentes para ter acesso a ela? Teremos de pagar por isso? Haverá uma única nuvem para todos? Ou será uma variedade de nuvens, mas de qualidade variável? O ciborgue será sinônimo de igualdade, ou significará uma divisão socioeconômica? Uma coisa é certa: uma vez que os ciborgues tenham se conectado totalmente, eles não possuirão mais nada, especialmente suas habilidades, pois se tornarão usuários, meros guardiões temporários de serviços disponíveis. O que acontecerá então se seus direitos forem eliminados?

Uma nova narrativa humana

Essas questões são ainda mais importantes porque, se a IA ainda está em meio a uma metamorfose, este também é o caso da humanidade. A solução ciborgue faz parte da narrativa do liberalismo capitalista. Contudo, seria essa narrativa capaz de responder aos desafios que enfrentamos, mesmo quando o planeta e seus recursos estão sendo exauridos? Não estaríamos sendo obrigados a inventar uma nova narrativa? Especialmente porque com essa ferramenta poderosa, a IA, certamente teríamos os meios para implementá-la.

A IA é uma ferramenta poderosa capaz de desenvolver com sucesso um modelo existente, mas não está em seu DNA perturbar a ordem estabelecida. Além disso, nossos atuais esforços de transformação digital também não inventam nada, nem alteram a narrativa de forma alguma. Nosso bordão poderia então ser resumido assim: vamos parar de inovar e começar a inventar!

Porque é nos humanos que podemos confiar (mais uma vez) para inventar. E suas convicções e motivação são fontes múltiplas que alimentam esforços para resistir ao modelo atual. Inventar é falar de uma fé, um desejo, uma intenção fixada ao corpo, uma certeza. Significa falar sobre o significado antes de falar em conquista tecnológica ou objetivo financeiro. A inventividade muitas vezes se origina de um espírito singular, único – na mente de uma mulher ou de um homem, de sua história, suas feridas ou seus pontos fortes, desejos ou necessidades. Não nos esqueçamos de que os grandes gênios da humanidade tiraram de suas fraquezas mais profundas (as quais buscavam superar, principalmente) a obstinação necessária para seu sucesso.

Estamos falando aqui de um cenário que não tem mais nada a ver com ciborgues, e onde também não há menção de rejeitar a tecnologia como uma ferramenta. Estamos falando de outra narrativa, que usará a IA, mas para outros fins, com outras restrições e regras de uso. Estamos falando de uma estratégia que privilegia o que nos faz humanos. E sem colocar o humano contra a máquina, devemos reconhecer que, nessa estratégia, o que era para o ciborgue uma fraqueza torna-se um ponto forte.

Não estamos falando de padronização, nem estamos falando de lógica racional. Também não estamos falando de causalidade, previsão e processo, nem estamos falando de um modelo estereotipado de eficiência. Não poderemos deixar este novo cenário para as máquinas. Seus algoritmos dominantes não têm fé nem convicção; não têm espírito anarquista ou transgressivo, e nenhum forte desejo de sobreviver e ver seus filhos mais felizes que eles mesmos! A colaboração com a máquina pode ser benéfica, sem dúvidas, mas deve ser melhor supervisionada, melhor controlada e melhor compreendida. Tudo isso será possível se todos concordarem sobre a narrativa a que deve servir. Vamos pegar nossas canetas hoje!

Foto: Fabian Albertini