Opiniões divididas no TikTok: os riscos de sua nova função de clonagem de voz com IA

Para ninguém que leia este meio de comunicação é surpresa que estamos vivendo uma revolução em relação à inteligência artificial. Grandes atores como OpenAI, Google ou Microsoft estão dando tudo nessa batalha, com novos anúncios e avançando vários passos para conquistar o pódio tecnológico. Nesse contexto, as redes sociais não ficaram de fora, com Meta de Mark Zuckerberg anunciando ferramentas como Llama 3 ou funções de IA para WhatsApp e Instagram.

Algo que também estaria procurando replicar é o TikTok, a popular rede social chinesa de vídeos curtos que agora busca integrar a inteligência artificial à plataforma, mudando a forma como os usuários interagem e criam conteúdo.

A inteligência artificial no TikTok

Atualmente, o TikTok utiliza algoritmos avançados de IA para personalizar e otimizar a experiência de seus usuários, mostrando vídeos que têm mais probabilidade de agradar e que são baseados no comportamento de visualização anterior de cada pessoa. Além disso, o aplicativo usa IA para moderar conteúdos, revisar padrões da comunidade e algumas ferramentas criativas para editar vídeos.

Em relação a este último ponto, é a rede social da Bytedance que está causando alvoroço. Tudo começou depois que AssembleDebug anunciou o lançamento de uma função de inteligência artificial que permite aos usuários clonar suas vozes em questão de segundos, uma poderosa inovação que poderia levar a criações incríveis, bem como a perigosos deepfakes.

É evidente que esta nova ferramenta, que se somaria à já extensa lista de efeitos e filtros da rede social, facilitará enormemente o processo de narração nos vídeos. De acordo com os rumores, a função se chamará “Clonar sua voz com IA” e usará inteligência artificial para replicar a voz do usuário a partir de uma única frase pronunciada. Dessa forma, após dizer uma frase e carregar um roteiro, os usuários poderão ter a narração completa de um vídeo sem precisar gravar repetidamente sua voz.

O problema? A falta de regulamentação, somada às dúvidas sobre privacidade, está gerando um debate aberto sobre os limites da inteligência artificial e seu possível uso indevido, principalmente quando se trata de vozes clonadas, algo que qualquer um poderia fazer para causar danos, fins antiéticos ou ganhos ilícitos, como fraudes ou roubo de identidade.

Por enquanto, o TikTok não se referiu a uma data exata para lançar esta nova função. O que sabemos, no entanto, é que para utilizá-la, apenas será necessário um script e pronunciar algumas frases para que a IA capture seu tom e modulação de voz.

Estamos falando de um grande passo em direção à abertura tecnológica, que pode ser benéfico se usado com responsabilidade. Os limites éticos e de privacidade serão estabelecidos pela própria rede social, enquanto seu impacto ficará nas mãos dos usuários que a preferirem.