Apple tira do ar serviço de IA que gerava alucinações
Vivaldo José Breternitz (*)
A Apple tirou do ar um serviço baseado em inteligência artificial que dava aos seus usuários um resumo das principais notícias do dia.
O serviço estava gerando alucinações, termo que no ambiente de inteligência artificial designa notícias falsas ou imprecisas. A Apple tomou essa providência depois que a BBC reclamou por terem sido distribuídas notas em que apareciam seu logotipo, informando que, entre outras coisas, Luigi Mangione, acusado de matar o CEO da UnitedHealthcare, Brian Thompson, havia se suicidado, que Luke Littler havia vencido a final do World Darts Championship antes mesmo de a competição acontecer e que o tenista Rafael Nadal havia assumido ser gay.
Outras organizações de notícias também foram afetadas pelos erros, incluindo o New York Times, que segundo a Apple havia noticiado que o primeiro-ministro de Israel, Benjamin Netanyahu, havia sido preso.
A implantação do serviço fez parte dos esforços da Apple para incluir mais recursos de IA em seus produtos, sob o rótulo Apple Intelligence, que estavam disponíveis nos Estados Unidos, Reino Unido, Austrália e Canadá.
“Estamos satisfeitos que a Apple tenha ouvido nossas reclamações e está pausando o resumo de notícias”, disse um porta-voz da BBC; em comunicado à imprensa, a Apple afirmou que o serviço voltará a operar em breve.
Esse fato mostra o perigo de se utilizar inteligência artificial sem que sejam tomados cuidados extraordinários – afinal essas alucinações foram produzidas por um sistema desenvolvido por uma empresa que detém o estado da arte em termos de tecnologia.
(*) Vivaldo José Breternitz, Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas – vjnitz@gmail.com.