Uma das coisas mais interessantes ao se pesquisar o impacto da inteligência artificial na sociedade é que isso me leva a confrontar quem somos, a repensar nossa humanidade. Afinal, desde que o ChatGPT foi lançado, no fim de 2022, teme-se que esses robôs roubem nossos trabalhos. Mas se isso acontece é porque talvez não estejamos atendendo as expectativas que criamos. E definitivamente não estamos dando a necessária atenção a isso.

Vale repetir a tese batida de que a tecnologia sempre substituiu a humanidade, porém isso se dava no uso da força bruta, resistência e precisão. Agora, a cada novo lançamento do ChatGPT ou novidade chinesa disruptiva mesmo para os padrões da IA, esses sistemas se esforçam para simular nossa humanidade de maneira cada vez mais convincente. E isso se dá até nas imperfeições.

Isso é bastante sério. Nosso relacionamento com esses sistemas se tornará cada vez mais amplo e profundo, alterando para sempre nossa própria humanidade.

Como já escrevi nesse espaço, o mais espantoso da IA generativa não é o que ela nos diz, mas sua capacidade de falar. Nunca alguma coisa que não fosse humana teve uma capacidade comunicacional tão complexa e consistente quanto a nossa.

Isso muda tudo! Por mais que o Google nos facilite a vida profundamente, não sei de alguém que tenha caído de amores pelo buscador. Mas conheço pessoas que se apaixonaram por avatares de IA, e infelizmente há casos de indivíduos que cometeram crimes e até se suicidaram por influência desses robôs.

Esse é um ponto central: acreditamos na IA muito além do que deveríamos. E com isso “baixamos a guarda”.

Fiquei pensando nisso quando vi, na semana passada, o resultado do relatório “Riscos da IA na Nuvem 2025”, da empresa de segurança digital Tenable, que indica que 70% das aplicações com IA em servidores na nuvem têm pelo menos uma vulnerabilidade crítica. O índice é muito ruim por si só, mas o que mais me chamou a atenção é que ele não vem de problemas tecnológicos, e sim de descuidos dos responsáveis pela sua implantação.

A porcentagem altíssima não chega a ser uma surpresa. Observo, em diversas aplicações da IA, usuários acreditando piamente em suas respostas ou que ela “cuidará de tudo”. Isso ajuda a explicar tais descuidos.

A IA não é mágica, nem oráculo, muito menos amante. Ela sequer tem consciência sobre o que nos entrega, construindo suas respostas a partir do que é estatisticamente mais provável. Portanto, até quando ela parece ser empática conosco, não passa de uma simulação incrivelmente competente.

Isso nos traz de volta à nossa humanidade. Somos cada vez mais seduzidos por esses algoritmos, mas essa antropomorfização da tecnologia é um grande erro, que nos expõe a sérios riscos.

Não faz sentido “resistir à IA”, como se fosse uma força criada para nos tirar o emprego. Pelo contrário: se bem usada, pode ampliar consideravelmente a velocidade e o escopo do que fazemos.

Mas não podemos esquecer que a IA não é uma pessoa, e que nossa humanidade nos confere vantagens inegáveis sobre ela. Quem está sendo substituído, via de regra, são as pessoas desatentas a isso.

As empresas também precisam mudar sua atitude. Todos buscamos resultados melhores, mas encarar a IA como mera redutora de custos por cortes de pessoal é uma visão obtusa de sua característica de amplificar o potencial humano. Melhor que produzir a mesma coisa com menos custo é produzir mais com o mesmo.

Nossa empatia, ética, intuição e consciência nos permitem transcender qualquer algoritmo. Vivemos experiências, sofremos, sonhamos e, diante de imprevistos, escolhemos com nossos valores. Ironicamente, a IA nos convida a valorizar nossa humanidade.