Uma parábola judaica do século XVI conta que, numa cidade polonesa chamada Chelm, um rabino criou a partir do barro uma criatura, chamada Golem, com a intenção de ajudar as pessoas da cidade nas tarefas cotidianas. O homem de barro possuía força sobre-humana e grande energia, porém não era senciente, ou seja, não tinha a capacidade de sentir emoções e sensações. Apesar de humanoide, não tinha feições definidas. O povo da cidade pedia regularmente sua ajuda em tarefas simples como carregar objetos pesados e ajudar em construções, mas, com o passar do tempo, as instruções que recebia tornaram-se mais vagas e as interpretações que ele atribuía às tarefas eram cada vez mais insólitas.
Certo dia, um aldeão pediu ao Golem que fosse pegar água do rio com um balde. O simplório ser, em sua grande ingenuidade, pegou toda a água do rio e a usou para inundar a cidade. Em outra ocasião, pediram a ele que cortasse lenha na floresta. Sem encontrar limites na instrução dada, ele desmatou a floresta completamente. O rabino percebeu que sua criação era poderosa demais e adquiria mais força a cada dia; então relutantemente o destruiu, sentindo enorme tristeza no processo de desmanchá-lo, transformando-o em pó.
A história do Golem de Chelm, apesar de ser apenas uma parábola infantil, fornece paralelos alegóricos extremamente pertinentes com relação à criação das inteligências artificiais (IAs) generativas. Ambos foram feitos com a intenção de facilitar e otimizar processos a fim de tornar a vida humana mais prática e confortável, mas assim como o Golem, as IAs podem causar caos acidentalmente, uma vez que são de natureza suficientemente disruptiva, tendo condições de fazer o mesmo na sociedade atual.
As IAs já podem falsificar áudios, clonar vozes e gerar vídeos e imagens de eventos que não aconteceram. Se o ser fictício da fábula causou caos físico em uma pequena cidade, a IA tem potencial para gerar caos político, econômico e social em uma escala global. É possível perceber também que, em uma sociedade que se apoia tão rapidamente em novas tecnologias como a nossa, é impossível “destruir o Golem”, pois as tecnologias já fazem parte do nosso cotidiano em um nível fundamental. Este “Golem” foi incorporado aos nossos algoritmos, aplicado em soluções em diversas empresas e é considerado o futuro das instituições comerciais de modo geral.
Visto que não podemos simplesmente desmantelar as IAs tornando-as em pó, a responsabilidade que recai sobre os engenheiros e desenvolvedores contemporâneos é maior que a do rabino que criou o Golem. Estes profissionais devem evitar o mau uso dessa tecnologia, que pode extinguir empregos, influenciar eleições, destruir reputações, falsificar provas, entre muitos outros perigos. Essa necessidade surge devido ao fato de que, atualmente, as tecnologias são projetadas tendo em mente apenas a viabilização de projetos e a disponibilização de benefícios ao maior número possível de pessoas. Raramente tecnocratas analisam os riscos e impactos das suas criações e, quando o fazem, pouco se importam.
Em uma nova era de inovação tecnológica, surge também uma renovada necessidade fundamental de se reforçar os princípios fundamentais da ética entre pessoas que trabalham nas áreas STEM (Ciência, Tecnologia, Engenharias e Matemática), para que todos os desenvolvimentos e avanços obtidos sejam decisivamente positivos, e não venham a surtir efeitos negativos inesperados como o Golem polonês.
• Autor: Marcos Felipe Correa Soares, Guilherme Rodrigues dos Santos e Roger Freitas Pereira, alunos do curso de Engenharia de Computação, da Faculdade Engenheiro Salvador Arena.
• Orientador: Fernando Felicio Pachi Filho
Compartilhe!
