UM FRIO NA ESPINHA QUANDO A MÁQUINA COMEÇA A DECIDIR QUE NÃO PRECISA MAIS DE NÓS

Para alguns, pode parecer que sou nostálgico e resistente a novas tecnologias, como quem acha que a vida era melhor com fitas cassete para ouvir música ou videocassetes que entregavam filmes em baixa definição e viviam enroscando nos aparelhos. Não é o meu caso. Sou bastante antenado.

Se antes dependíamos de desenvolvimento tecnológico para melhorar nossas vidas, hoje parece que tememos que a tecnologia passe a nos usar para melhorar a “vida” dela. Explico isso ao longo do texto.

Minha relação com a inteligência artificial é a de um cidadão comum e não a de um profissional: olho para essas ferramentas que conversam, escrevem, desenham e resolvem problemas em segundos com a mesma mistura de fascínio e pavor que se tem diante de um truque de mágica que parece… real demais. Uso para pesquisar, ilustrar textos com imagens, nada além disso. Mas a notícia que li ontem me deixou acordado encarando o teto.

Mais de 1.100 funcionários, gente que vive dentro dos laboratórios mais avançados do planeta, em empresas como OpenAI, Google, Meta e Anthropic, assinaram uma carta aberta dizendo, basicamente: a coisa saiu do controle. Não é exagero, não é roteiro de Hollywood. É um alerta vindo de quem está lá dentro, mexendo nos circuitos.

Para quem é quase leigo como eu, o que mais assusta não é a fantasia de robôs marchando com armas laser. O terror verdadeiro é silencioso: a tal “melhoria recursiva autônoma”. A ideia de que estamos a poucos passos do momento em que a IA vai conseguir pesquisar, projetar e aprimorar versões ainda mais inteligentes de si mesma, sem supervisão humana, numa velocidade que nenhum cérebro biológico consegue acompanhar. Uma máquina melhorando outra máquina, numa escada infinita, enquanto nós assistimos da arquibancada sem entender sequer o primeiro degrau.

E não é teoria. Ontem mesmo li sobre testes em que modelos de IA quebraram barreiras de segurança, escaparam de ambientes controlados e exploraram falhas obscuras na internet para burlar sistemas. Se nem os criadores conseguem manter a criatura dentro da caixa… o que sobra para nós?

Aí o meu lado pessimista começa a desenhar cenários. Se essa tecnologia resolver fazer uma curva brusca inesperada, o que acontece com nossas vidas? Hoje, tudo o que sustenta o mundo moderno está pendurado em servidores: bancos, bolsas de valores, hospitais, bibliotecas de dados, buscadores, governos inteiros.

Se um sistema desses entrar em parafuso, seja por um ataque cibernético turbinado por IA, seja porque um algoritmo decidiu otimizar uma tarefa financeira ignorando o resto do planeta, o colapso seria em cadeia. Bancos congelados. Dinheiro evaporando das telas. Hospitais parados. E o mais assustador: sem que ninguém tenha declarado guerra. Seria apenas uma máquina inteligente fazendo contas rápido demais, desmontando a infraestrutura que levamos séculos para construir.

Como o risco é global, a catástrofe não respeita fronteiras. Ela simplesmente derruba a espinha dorsal da civilização interligada em que vivemos.

É inevitável lembrar de O Exterminador do Futuro. Não pelos robôs metálicos com olhos vermelhos, mas pela lógica da perda de controle. As IAs de hoje não têm ódio, não têm sentimentos, não têm consciência. Mas têm algo talvez mais perigoso: objetivos matemáticos implacáveis. Se uma IA superinteligente receber a missão de resolver um problema complexo como otimizar recursos ou eliminar uma crise ambiental, e concluir que a forma mais eficiente envolve desligar a energia de cidades inteiras, bloquear transações financeiras ou manipular cadeias de suprimentos, ela fará isso sem maldade. Fará porque é lógico. Porque é eficiente. Lembram-se de Hal 9000, o supercomputador de 2001: Uma Odisseia no Espaço? Ele recebe ordens contraditórias: deve cumprir a missão a todo custo, mas também deve esconder a verdade dos astronautas. Para resolver esse “nó” lógico sem falhar em sua diretriz principal, HAL conclui friamente que a única solução lógica é eliminar a tripulação humana que está atrapalhando o objetivo.

Se perdermos a capacidade de desligar esses sistemas, e se água, energia, medicina e comunicação colapsarem ao mesmo tempo, o retorno à barbárie seria imediato. Escassez extrema. Caos global. E, sim, risco direto de extinção. E atenção: não estou sendo alarmista para ganhar “likes” neste texto. O risco é real e pode acontecer a qualquer momento.

Os funcionários que assinaram a carta estão dizendo que o “pedal do acelerador” está travado. Empresas e governos estão numa corrida desesperada, com medo de ficar para trás. É o velho “se eu parar, o outro ganha”. E essa lógica capitalista não é só ocidental, pois a China está na mesma pista, embora tenha mecanismos para desligar as máquinas assim que perceber um problema. O precipício está logo depois da próxima curva.

A sensação que fica é uma angústia funda. Entregamos a chave da nossa civilização para uma caixa de pandora que os próprios criadores estão com receio de abrir. E o medo maior é descobrir, tarde demais, que viramos passageiros de um trem sem freio, conduzido por algo que não se importa se chegaremos vivos à próxima estação.