EDUCA WEB RADIO
Apple tira do ar serviço de IA que gerava alucinações
Ciência & Tecnologia
Publicado em 26/01/2025

Apple tira do ar serviço de IA que gerava alucinações

 

Vivaldo José Breternitz (*)

A Apple tirou do ar um serviço baseado em inteligência artificial que dava aos seus usuários um resumo das principais notícias do dia.

O serviço estava gerando alucinações, termo que no ambiente de inteligência artificial designa notícias falsas ou imprecisas. A Apple tomou essa providência depois que a BBC reclamou por terem sido distribuídas notas em que apareciam seu logotipo, informando que, entre outras coisas, Luigi Mangione, acusado de matar o CEO da UnitedHealthcare, Brian Thompson, havia se suicidado, que Luke Littler havia vencido a final do World Darts Championship antes mesmo de a competição acontecer e que o tenista Rafael Nadal havia assumido ser gay.

Outras organizações de notícias também foram afetadas pelos erros, incluindo o New York Times, que segundo a Apple havia noticiado que o primeiro-ministro de Israel, Benjamin Netanyahu, havia sido preso.

A implantação do serviço fez parte dos esforços da Apple para incluir mais recursos de IA em seus produtos, sob o rótulo Apple Intelligence, que estavam disponíveis nos Estados Unidos, Reino Unido, Austrália e Canadá.

“Estamos satisfeitos que a Apple tenha ouvido nossas reclamações e está pausando o resumo de notícias”, disse um porta-voz da BBC; em comunicado à imprensa, a Apple afirmou que o serviço voltará a operar em breve.

Esse fato mostra o perigo de se utilizar inteligência artificial sem que sejam tomados cuidados extraordinários – afinal essas alucinações foram produzidas por um sistema desenvolvido por uma empresa que detém o estado da arte em termos de tecnologia.

(*) Vivaldo José Breternitz, Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas – vjnitz@gmail.com.

Comentários
Comentário enviado com sucesso!