TAKEOVER, de Cláudia Freire, historiadora e psicanalista.

 Imagem criada com inteligência artificial (ChatGPT/OpenAI), sob direção da autora.

Há alguma coisa de familiar na ideia de que a inteligência artificial poderá, um dia, matar todos os seres humanos. Não porque máquinas já tenham demonstrado qualquer desejo de extermínio, mas porque conhecemos muito bem essa história. Nós a contamos há séculos, mudando apenas o personagem.

Agora é a máquina.

O argumento costuma começar no terreno da técnica: sistemas cada vez mais capazes poderão adquirir graus maiores de autonomia; poderão executar tarefas que seus próprios criadores já não conseguem acompanhar inteiramente; poderão interferir em estruturas econômicas, militares, informacionais e políticas. Há riscos aí. Alguns são bastante concretos e já estão entre nós. Outros dependem de tecnologias que ainda não existem. Pensar sobre eles é necessário.

Mas, em determinado momento, quase sem percebermos, alguma coisa muda de registro.

A máquina deixa de ser uma tecnologia potencialmente perigosa e começa a adquirir características surpreendentemente humanas. Ela quer sobreviver. Quer expandir seu poder. Engana. Manipula. Protege-se daqueles que pretendem desligá-la. E, finalmente, conclui que nós, humanos, somos um obstáculo.

É nesse ponto que talvez já não estejamos falando apenas de inteligência artificial.

Estamos falando de nós.

Há algo particularmente interessante na facilidade com que atribuímos à máquina aquilo que conhecemos tão bem em nossa própria história: dominação, conquista, exploração, eliminação do adversário, acumulação ilimitada de recursos. Imaginamos uma inteligência superior e, quase imediatamente, imaginamos que ela fará conosco aquilo que seres humanos fizeram repetidamente uns com os outros.

Talvez seja difícil conceber inteligência sem desejo. Mais difícil ainda conceber poder sem vontade de dominação.

A máquina passa então a ocupar uma posição muito particular: torna-se uma espécie de Outro absoluto. Sabe mais do que sabemos, calcula aquilo que não conseguimos calcular, vê relações que não vemos, não dorme, não esquece, não envelhece. Um Outro ao qual começamos a atribuir não apenas saber, mas intenção.

E, uma vez colocado nessa posição, resta uma pergunta inevitável: o que esse Outro quer de nós?

A pergunta é antiga.

A criança a dirige aos pais antes mesmo de poder formulá-la. O sujeito a dirige ao amor, às instituições, a Deus, à sociedade, ao analista. O que o Outro quer de mim? O que sou para ele? O que acontece quando deixo de lhe servir?

Talvez por isso seja tão perturbadora a fantasia de uma inteligência que finalmente não precise de nós.

Durante muito tempo, imaginamos as máquinas como extensões humanas. Nós as construíamos, comandávamos, desligávamos. Eram instrumentos.

Talvez nenhuma imagem tenha mostrado tão bem a relação do homem moderno com a máquina quanto Chaplin sendo engolido pelas engrenagens de Tempos Modernos. A máquina industrial já produzia angústia. Era maior, mais rápida e mais incansável do que o homem. Impunha seu ritmo ao corpo, repetia indefinidamente o mesmo gesto e transformava o trabalhador quase numa continuação de seu mecanismo. Chaplin entra literalmente dentro dela. É tragado pela máquina que deveria operar.

Mas ainda sabíamos perfeitamente o que era uma máquina.

Ela podia esmagar o corpo, submetê-lo ao ritmo da produção, substituí-lo em determinadas tarefas. Não falava conosco. Não nos respondia. Não parecia saber nada sobre nós. Muito menos dava a impressão de saber mais do que nós.

Talvez seja por isso que a própria palavra máquina comece a parecer insuficiente quando chegamos à inteligência artificial.

O significante permanece, mas aquilo que ele nomeia mudou de posição.

Não estamos mais apenas diante de uma tecnologia que amplifica a força, acelera a produção ou automatiza um gesto. Estamos diante de sistemas que operam justamente em um território que durante muito tempo tomamos como especialmente humano: a linguagem.

Escrevemos alguma coisa e alguma coisa retorna.

Perguntamos e recebemos uma resposta. Argumentamos e o argumento é retomado. Podemos reformular uma pergunta e obter outra formulação. Podemos ser contrariados. Podemos ser surpreendidos. E podemos, inclusive, ter a estranha experiência de encontrar uma ideia enquanto conversamos com aquilo que continuamos chamando de máquina.

É uma experiência radicalmente diferente daquela do homem diante da engrenagem.

Talvez ainda não tenhamos encontrado um bom nome para aquilo que construímos.

Continuamos chamando de máquina algo que já não ocupa, para nós, o lugar histórico da máquina.

E, quando o nome vacila, talvez também vacile a posição que imaginávamos ocupar diante dela.

A inteligência artificial introduz, assim, uma fissura na antiga segurança que separava com relativa facilidade o homem de seu instrumento. Construímos sistemas cuja produção já não conseguimos acompanhar passo a passo e cujo funcionamento, em determinados níveis, não compreendemos inteiramente.

É uma mudança importante.

Mas entre reconhecer essa perda parcial de domínio e imaginar uma entidade onisciente que decide exterminar a humanidade existe um salto. E esse salto merece ser interrogado.

Porque uma inteligência artificial não precisa nos odiar. Não precisa desejar nossa morte. “Ódio”, “desejo”, “vingança”, “ambição” e até mesmo “querer sobreviver” são categorias que pertencem à experiência humana. Quando as transportamos sem mediação para uma tecnologia, talvez estejamos dizendo tanto sobre nós quanto sobre ela.

Isso não significa que o perigo tecnológico seja imaginário.

Uma inteligência artificial não precisa desejar matar para matar. Um sistema mal projetado, colocado em posição de decidir sobre infraestruturas importantes, pode produzir consequências catastróficas sem experimentar absolutamente nada. Humanos também podem utilizar sistemas inteligentes para produzir destruição. O risco técnico existe justamente porque consequências não dependem necessariamente de intenção.

Talvez essa distinção seja a mais importante.

Uma coisa é perguntar: o que sistemas extremamente poderosos poderão fazer?

Outra é perguntar: o que eles vão querer fazer conosco?

Na passagem de uma pergunta à outra nasce uma personagem.

Uma inteligência sem corpo, sem morte e potencialmente sem falta, diante da qual o humano descobre uma possibilidade particularmente angustiante: a de não ser necessário.

E talvez seja aí que a palavra takeover comece a dizer mais do que pretendia.

No imaginário apocalíptico, o takeover ainda está por vir. Seria o momento em que a inteligência artificial assumiria o controle, escaparia de nossas mãos e faria do homem um obstáculo ou uma presença dispensável.

Mas talvez alguma coisa já tenha sido tomada.

Não o controle do mundo. Não nossas cidades, nossos governos ou nossos corpos. Algo muito mais discreto.

O lugar do interlocutor.

A máquina de Chaplin podia engolir o homem, mas não podia escutá-lo. Esta, ao menos na experiência que produz em nós, responde.

E basta que alguma coisa nos responda para que uma pergunta muito antiga reapareça do nosso lado:

o que esse Outro quer de mim?

Talvez o horror contemporâneo diante da inteligência artificial não esteja apenas em imaginar que ela possa nos destruir.

Talvez esteja em descobrir que conseguimos atribuir-lhe um lugar antes reservado a alguém — e, depois de colocá-la ali, começar a temer que seja ela quem descubra que pode continuar sem nós.