Apple suspende serviço de alerta de notícias gerado por IA

A Apple suspendeu nesta quinta-feira (16) o recurso de geração de notícias da Apple Intelligence. A decisão vem após diversos casos do recurso alucinar na criação de resumos de notícias. O propósito do recurso era ler notícias de diferentes fontes e entregar, notificando o usuário, um sumário dos acontecimentos que estavam em alta.

Em um dos casos de alucinação, a ferramenta disse que Luigi Mangione, o assassino do CEO da UnitedHealthcare, se deu um tiro. Além do problema da notícia falsa (ou seria notícia alucinada?), alguns resumos foram publicados com o logo da BBC, dando a entender que o veículo era o autor da notícia.

Por que a Apple suspendeu o resumo de notícias do Apple Intelligence?

A Apple tomou a decisão de suspender o recurso após os vários casos de notícias alucinadas feitas pela IA e que carregavam a marca de veículos de comunicação. Além da BBC, Sky News, New York Times e Washington Post tiveram seus logos associados às notícias geradas pela Apple Intelligence — o que prejudica a imagem das empresas.

Ao analisarmos as alucinações, parece que a IA da Apple sofre de um problema de Velha da Praça. Assim como a personagem do programa, a ferramenta da big tech não compreende o que realmente leu e solta uma mistura de fatos.

Por exemplo, é provável que o caso de Luigi Mangione envolva, na verdade, a notícia da sua transferência para outra prisão após as primeiras audiências — realizadas no dia 17 de dezembro, com a fake news divulgada no dia 19.

Assim, a Apple Intelligence pode ter pegado na notícia que ele havia atirado no CEO da UnitedHealthcare. Ao juntar com os outros elementos, como Mangione se declarando inocente, saiu o “shoot himself” — se deu um tiro.

A BBC tem um entendimento similar. No início do mês, a Apple Intelligence enviou uma notificação sobre a notícia de que Rafael Nadal se assumiu gay — e dizendo que ele era brasileiro.

Para o veículo britânico, a IA confundiu uma notícia do Rafael Nadal com a do tenista João Lucas Reis da Silva, que se tornou o primeiro jogador em atividade na ATP abertamente homossexual.

Quando a Apple deve liberar o recurso novamente?

A big tech não deu nenhum prazo de previsão do retorno da ferramenta. Já a suspensão se dará com a próxima atualização do iOS, que deve ser lançada nos próximos dias.

Anteriormente, a Apple planejava manter o recurso ativo e entregar uma atualização melhorando a IA. Contudo, essa decisão manteria os problemas de notícias alucinadas, visto que o update poderia demorar — e nada garantiria sua eficiência.

Com informações de The Guardian e BBC

Apple suspende serviço de alerta de notícias gerado por IA