IA não é estável: especialistas detectam problemas ao mudar de ambiente

2024 ficará marcado como o ano em que a inteligência artificial floresceu no mundo, ultrapassando inclusive o campo da tecnologia para impactar todos os tipos de áreas. Desde gigantes da tecnologia como a Microsoft, que investem milhões nesta tecnologia e procuram integrá-la nos seus produtos, até ao ambiente de trabalho, a IA está simplesmente em todo o lado. Entre todos esses usos e facilidades que ela proporciona, um estudo recente revelou uma faceta menos conhecida desta tecnologia, mas que deveria ser mais comentada: sua compreensão limitada do mundo real.

Limitações entre o que afinal ainda é uma tecnologia criada pelo homem

Embora modelos generativos de IA como o GPT-4 tenham avançado e sejam capazes de produzir textos coerentes e convincentes, de acordo com o Techspot, uma equipe de pesquisadores do MIT descobriu que lhes falta uma verdadeira compreensão de conceitos e relações causais. Por exemplo, quando dadas tarefas que exigiam adaptação às mudanças em um ambiente simulado, como encontrar uma rota em um mapa com obstáculos imprevistos, os modelos de IA mostraram notável fragilidade.

Clique aqui para receber as notícias de ciência e tecnologia pelo WhatsApp

Os pesquisadores do MIT desenvolveram uma série de testes para avaliar a capacidade dos modelos de IA de compreender e raciocinar sobre o mundo. Esses testes incluíram tarefas como navegar em um mapa virtual ou jogar o jogo Othello. Embora os modelos pudessem realizar estas tarefas com sucesso em condições ideais, o seu desempenho deteriorou-se drasticamente quando pequenas alterações foram introduzidas no ambiente. Por exemplo, ao fechar uma pequena proporção de ruas num mapa virtual, os modelos de IA já não conseguiam encontrar rotas eficientes.

Estas descobertas sugerem que, apesar dos avanços no campo da IA, ainda estamos longe de criar sistemas que possam pensar e raciocinar como os humanos e, acima de tudo, que devemos ter cuidado com as informações que deles recolhemos. Os modelos atuais de IA são essencialmente ferramentas estatísticas que identificam padrões em grandes quantidades de dados, mas carecem de uma verdadeira compreensão do que essa informação significa.

É inegável que a IA tem potencial para transformar muitos aspectos das nossas vidas e que, de facto, permeia cada vez mais o nosso quotidiano, mas precisamente por isso é importante ter em conta as suas limitações. Os resultados deste estudo lembram-nos que devemos ser cautelosos ao confiar na IA para tomar decisões importantes, especialmente nos casos em que os erros podem ter consequências significativas. À medida que a IA continua a desenvolver-se, é crucial que investigadores e programadores trabalhem em conjunto para garantir que esta tecnologia seja utilizada de forma responsável e ética.