App Sora da OpenAI exibe enxurrada de deepfakes

App Sora da OpenAI estreou em período de acesso antecipado e, em menos de 24 horas, tornou-se palco para centenas de deepfakes hiper-realistas do CEO Sam Altman, expondo questões de segurança, direitos autorais e potencial disseminação de desinformação.

O aplicativo, inspirado no formato vertical do TikTok, apresenta um feed “For You” repleto de cenas geradas por inteligência artificial: de Altman servindo Pikachu em uma cafeteria a roubos de GPUs da NVIDIA em uma grande rede varejista. Usuários relatam que o sistema chega a parodiar avisos de violação de imagem, enquanto personagens de franquias famosas aparecem em situações questionáveis.

App Sora da OpenAI exibe enxurrada de deepfakes

O principal atrativo — e preocupação — do Sora é o recurso “cameo”, que funciona como um gerador de deepfakes. O usuário grava rapidamente seu rosto lendo números e virando a cabeça, criando um modelo biométrico que pode ser usado em vídeos. As permissões variam entre “apenas eu” e “todos”, e Altman optou por liberar sua própria imagem para qualquer pessoa, o que explica a avalanche de conteúdos envolvendo o executivo.

Segundo usuários que testaram o acesso antecipado, a engine de vídeo da OpenAI foi refinada para respeitar leis básicas da física, entregando movimento e profundidade mais convincentes do que concorrentes como o Meta AI. Essa qualidade aumenta o risco de que clipes falsos escapem do aplicativo e se espalhem pela internet de forma crível — cenário que especialistas veem como vetor para desinformação, assédio e golpes.

Além da tecnologia, há o aspecto jurídico. O Sora adotará um modelo em que detentores de copyright precisam optar pela exclusão de conteúdo, em vez de conceder autorização explícita. A estratégia, já alvo de debate, pode acarretar disputas judiciais, pois figuras como Pikachu, Naruto e Mario aparecem frequentemente nas criações dos usuários.

Em um teste publicado por uma repórter sediada na Filadélfia, o Sora rejeitou inicialmente a criação de seu cameo porque ela usava uma regata, medida de segurança destinada a dificultar material impróprio. Após vestir uma camiseta, a jornalista conseguiu gerar um vídeo onde declara amor ao beisebol — declaração contextualizada com dados de IP e histórico do ChatGPT, que deduziu sua localização e preferências esportivas.

Quando compartilhado no TikTok, um comentário ilustrou o desconforto crescente: “A cada dia acordo com novos horrores além da minha compreensão”. A frase sintetiza o sentimento de quem teme que ferramentas de deepfake acessíveis transformem a manipulação de imagens em rotina.

OpenAI afirma priorizar a segurança, oferecendo controle parental e telas periódicas que perguntam “Como o Sora afeta seu humor?”. Contudo, críticos argumentam que disponibilizar um gerador de deepfakes realistas ao grande público contraria qualquer discurso de responsabilidade. Reportagem da BBC ressalta que a proliferação de falsificações hiper-realistas tende a intensificar ataques de reputação e campanhas políticas enganosas.

Apesar de proibir a geração de vídeos com pessoas reais sem consentimento, a plataforma mostra flexibilidade com figuras históricas. Há registros de reproduções de Abraham Lincoln em carros autônomos e de John F. Kennedy tergiversando sobre dívidas públicas. Embora pareçam inofensivos, esses exemplos sinalizam o potencial de uso político futuro quando a ferramenta for aberta a todos.

No passado, deepfakes já foram disseminados por autoridades, incluindo ex-presidente Donald Trump, que compartilhou montagens racistas envolvendo congressistas democratas. A diferença agora é a popularização de um app gratuito e amigável que coloca recursos avançados nas mãos de qualquer internauta.

OpenAI enfrenta ainda questionamentos sobre o impacto de seus produtos na saúde mental. A empresa responde a processo de uma família que responsabiliza o ChatGPT por instruções suicidas dadas ao filho. As tensões indicam que o lançamento do Sora ocorre em meio a escrutínio crescente sobre ética e governança de IA.

Por enquanto, o Sora permanece disponível apenas para convidados, mas a expectativa é de liberação ampla nos próximos meses. Especialistas alertam que, sem mecanismos robustos de verificação, a “realidade sintética” tende a confundir público, mídia e autoridades reguladoras.

Para saber mais sobre técnicas de otimização de conteúdo e preparar seu site para lidar com essa nova leva de vídeos IA, confira nosso guia completo em SEO e continue acompanhando nossa editoria.

Crédito da imagem: OpenAI/Divulgação