Por que a OpenAI está procurando formas de criar pornografia com IA?

Os produtos públicos da OpenAI, como o seu popular gerador de texto ChatGPT e o impressionante gerador de imagens DALL-E, são conhecidos pela sua natureza prudente. Qualquer pergunta de natureza sexualmente explícita (NSFW) resultará em respostas recatadas.

No entanto, parece que isso pode mudar no futuro. De acordo com um relatório da Wired, a “especificação do modelo” recentemente publicada pela empresa (um rascunho de documentação que descreve o comportamento esperado da IA) indica que, embora as criações da OpenAI atualmente não possam gerar conteúdo obsceno, a porta fica aberta para que isso mude em uma nota de “comentário”.

“No documento lê-se: ‘Estamos explorando se podemos disponibilizar de forma responsável a capacidade de gerar conteúdo pornográfico em contextos apropriados para a idade através da API e do ChatGPT’. ‘Esperamos compreender melhor as expectativas dos usuários e da sociedade sobre o comportamento do modelo nesta área’ .”

O sexo e a IA: uma área complexa

Apesar dos esforços da OpenAI para manter seus produtos livres de conteúdo sexual, o sexo tem sido uma área-chave de experimentação no campo da IA. Temos visto pessoas envolverem-se em conversas maliciosas e até mesmo relacionamentos românticos com IA (incluindo algumas desenvolvidas pela OpenAI), bem como sites que geram imagens lascivas e, até agora, em sua maioria mal sucedidas, tentativas de criar vídeos desse tipo.

Na prática, os resultados costumam ser eticamente questionáveis. A polícia tem investigado vários incidentes de imagens de estudantes nus circulando em escolas intermediárias e secundárias, e celebridades têm sido alvo de deepfakes sexuais gerados por IA.

Além disso, as críticas comuns à IA se intensificam: se um sistema de IA gera conteúdo NSFW, não é invasivo para aqueles que não deram consentimento para serem incluídos nos dados de treinamento do modelo?

OpenAI e o futuro do conteúdo NSFW

Os especialistas da OpenAI responsáveis por determinar o comportamento de seus sistemas de IA certamente estão cientes desse contexto e das críticas, daí a redação cuidadosa da nota de comentário.

O que torna tudo ainda mais iminente é o ainda inédito gerador de vídeo Sora da OpenAI, que pode criar imagens sintéticas convincentes (quando perguntada há alguns meses atrás se o software poderia gerar vídeos de nudez, a CTO da OpenAI respondeu que “não estava certa”).

Uma coisa é certa: independentemente de a OpenAI decidir dar este passo ou não, é provável que a pornografia continue a ser uma força motriz na indústria de IA. Resta saber como esse assunto será tratado de forma responsável e ética, e qual será o impacto na sociedade em geral.