Inteligência Artificial e Realidade: Por que já não sabemos o que é verdade
A inteligência artificial está mudando profundamente nossa relação com a realidade digital. A IA está tornando cada vez mais difícil distinguir o que é real do que é sintético na internet, impactando diretamente a informação, a política, a publicidade e os negócios.
Todas as soluções criadas para identificar o que é real e o que é gerado por IA online apresentam limitações significativas. Do padrão C2PA às novas regulamentações europeias, o cenário é fragmentado, e as grandes empresas de tecnologia não têm incentivo econômico real para abordar a causa raiz do problema. O resultado é que o ônus de distinguir o que é autêntico recai cada vez mais sobre os usuários, as empresas e a sociedade.
Apesar desse cenário crítico, há sinais de esperança. Novos padrões técnicos, regulamentações como a Lei de Inteligência Artificial e a Lei de Serviços Digitais, e uma abordagem cultural diferente para a verificação de fontes podem abrir caminho para um ecossistema digital mais confiável. Para quem trabalha com marketing e comunicação digital, compreender essa transformação é essencial.
Inteligência Artificial e Realidade: Como a IA Rompeu o Pacto de Confiança com as Imagens
Durante anos, a internet nos permitiu manter-nos informados em tempo real sobre o que acontece no mundo. Esse sistema, no entanto, baseava-se numa premissa implícita: imagens e vídeos, embora manipuláveis, constituíam, em grande parte, uma documentação fidedigna da realidade. Com a inteligência artificial generativa, esse pacto de confiança foi abalado.
A invasão de conteúdo de IA nas redes sociais e plataformas digitais está rompendo o antigo vínculo entre nossos olhos e as imagens que eles exibem. Deepfakes hiper-realistas, fotos sintéticas, áudio clonado: tudo pode ser criado ou alterado em minutos, muitas vezes sem rótulos claros. A consequência é que não podemos mais confiar no princípio de "ver para crer".
O problema não se resume à desinformação política ou aos memes virais. Todas as formas de comunicação visual são afetadas: documentários, reportagens, publicidade, conteúdo patrocinado e propaganda institucional. Quando até mesmo entidades como a Casa Branca disseminam imagens geradas ou manipuladas por inteligência artificial nas redes sociais sem deixar isso claro, torna-se ainda mais difícil para o público distinguir entre documentação e encenação, entre reportagem e narrativa.
Certificados C2PA e selos anti-deepfake: por que já não são suficientes?
Para solucionar esse problema, nos últimos anos tem havido um foco significativo em rótulos e certificados de origem para conteúdo digital. A principal iniciativa é o padrão C2PA (Coalition for Content Provenance and Authenticity), promovido por empresas como Adobe, Microsoft, OpenAI, Meta e muitas outras, com o objetivo de criar um sistema de Credenciais de conteúdo.
O C2PA funciona registrando o histórico de um arquivo em um "manifesto" de metadados: quem o criou, em qual dispositivo foi usado, quais alterações sofreu e quais ferramentas foram utilizadas. Em teoria, o fluxo ideal seria este: tirar uma foto com uma câmera ou smartphone compatível, abrir a imagem em um software habilitado (como o Photoshop), cada alteração é registrada no manifesto C2PA, o arquivo é transmitido com essas credenciais e as plataformas que o publicam exibem um painel de informações listando o autor, os aplicativos usados e o uso de ferramentas de inteligência artificial.
Tecnicamente, o C2PA é uma evolução sofisticada dos metadados EXIF, com a adição de assinaturas criptográficas para dificultar a manipulação. O projeto, hospedado por uma fundação que afirma ter mais de 500 empresas envolvidas (incluindo Google, Sony, BBC e Amazon), nasceu como uma ferramenta de rastreabilidade para fotógrafos, mídia e criativos, e foi rapidamente proposto como uma resposta à invasão de conteúdo gerado por inteligência artificial.
Mas a inteligência artificial deixa claro que os "selos" não são a única solução. O C2PA, na verdade, tem duas limitações estruturais: só funciona bem se o criador do conteúdo quiser ser rastreado, e as credenciais são relativamente fáceis de remover ou corromper durante conversões, uploads ou reprocessamento. Além disso, a cadeia se rompe na etapa crucial: a distribuição em redes sociais, plataformas de vídeo e aplicativos de mensagens, onde a conformidade com os metadados é bastante desigual.
Para aprofundar o tema dos deepfakes e da desinformação, é útil consultar as análises de Wikipédia sobre o fenômeno deepfake e os relatórios sobre mídia e IA publicados pelo’OCDE.
Grandes empresas de tecnologia, marcas d'água ocultas e estratégias divergentes.
A gestão da relação entre inteligência artificial e realidade encontra-se atualmente fragmentada, em parte devido às diferentes estratégias das principais empresas de tecnologia. O Google desenvolveu o SynthID, um sistema de marca d'água "oculto" que insere sinais diretamente no conteúdo gerado por seus modelos (imagens, áudio, vídeo, texto). A empresa também oferece um "Detector" e ferramentas integradas ao seu assistente Gemini para verificar a presença de marcas d'água do SynthID.
Alguns produtos do Google combinam metadados SynthID e C2PA, mas isso não resolve o problema de interoperabilidade: outros players não são obrigados nem têm a capacidade técnica para ler esses sinais. O TikTok, por outro lado, anunciou em 2024 a adoção do C2PA para reconhecer e rotular automaticamente conteúdo gerado por IA de outras plataformas e, em 2025, introduziu uma marca d'água "criado por IA" e controles para reduzir a presença de conteúdo gerado por IA em seu feed.
O YouTube usa etiquetas de texto como "conteúdo gerado por IA", mas sua aplicação é inconsistente: muitos vídeos sintéticos escapam da sinalização automática e, muitas vezes, só tomam providências após denúncias específicas. O X (antigo Twitter) encerrou sua colaboração com a C2PA após ser adquirido por Elon Musk, enquanto o fluxo de conteúdo sintético e desinformação aumentou. A Apple permanece praticamente ausente por enquanto, mantendo contatos informais com a coalizão C2PA, mas sem anúncios públicos sobre padrões ou marcas d'água; enquanto isso, muitos fabricantes de câmeras profissionais (Sony, Nikon, Leica) começaram a integrar as Credenciais de Conteúdo apenas em seus modelos mais recentes, deixando de fora uma enorme base de usuários.
O resultado é uma colcha de retalhos: algumas soluções avançadas, muitas lacunas e nenhuma cobertura uniforme. Em segundo plano, um claro conflito de interesses: as mesmas empresas que mais lucram com a IA também controlam os principais canais de distribuição de conteúdo e têm pouco incentivo econômico para rotular claramente qualquer coisa que possa reduzir o valor percebido do conteúdo e dos investimentos em IA.
Percepção social, deepfakes e os limites da transparência por si só.
Outro ponto crucial na relação entre inteligência artificial e realidade é a percepção social do rótulo "criado por IA". Para muitos criadores, esse rótulo equivale à deslegitimação de seu trabalho; para as marcas, pode sugerir uma produção de baixo custo; para o público, muitas vezes significa conteúdo menos autêntico e menos humano. Não é surpresa que muitos criadores se irritem quando uma plataforma rotula como "IA" um conteúdo que, da perspectiva deles, é simplesmente fotos retocadas ou vídeos editados com ferramentas digitais comuns.
A linha que separa conteúdo gerado por IA de conteúdo não gerado por IA está cada vez mais tênue. Smartphones tiram várias fotos automaticamente e as combinam para obter o melhor resultado; softwares de edição usam redes neurais para redução de ruído, correção de cores e máscaras automáticas. Um céu substituído, um rosto suavizado, uma voz aprimorada: onde realmente começa a IA generativa? Sem um consenso básico sobre o nível de intervenção algorítmica que transforma um conteúdo em "gerado por IA", qualquer rótulo corre o risco de ser ou muito agressivo ou muito permissivo.
Estudos psicológicos também mostram que a transparência por si só não basta. Pesquisadores como Simon Clark e Stephan Lewandowsky (Universidade de Bristol) realizaram experimentos com mais de 600 participantes nos EUA e no Reino Unido: muitos continuaram a confiar no conteúdo de um vídeo deepfake mesmo após serem explicitamente avisados de que se tratava de uma falsificação. Isso sugere que a mera indicação de que "isto é um deepfake" não anula o impacto emocional e cognitivo das imagens, com implicações importantes para legisladores e reguladores de conteúdo online.
A mensagem que emerge de diversos especialistas do setor é clara: é necessária uma mudança coletiva de mentalidade. Diante da inteligência artificial, devemos confiar menos na visão isolada e muito mais no contexto, nas fontes e nas verificações cruzadas. Um ceticismo metódico que exige educação digital, mas que se torna cada vez mais essencial para profissionais de marketing, comunicação e negócios.
Lei de IA, DSA e novas regras da UE para rótulos e deepfakes
A Europa tem procurado abordar a relação entre inteligência artificial e realidade principalmente através da legislação, com dois instrumentos principais: a Lei de Inteligência Artificial (Regulamento da UE 2024/1689, que entrou em vigor em agosto de 2024) e a Lei de Serviços Digitais (DSA), que entrou em vigor em fevereiro de 2024. A Lei de Inteligência Artificial é atualmente a tentativa regulatória mais avançada a nível mundial para gerir conteúdo sintético.
A Seção 50(4) da Lei de IA impõe um requisito de rotulagem clara para conteúdo de áudio, vídeo, texto ou imagem gerado ou manipulado por IA que "se assemelhe claramente a pessoas, objetos, lugares, entidades ou eventos existentes", com exceções se for evidente pelo contexto que o conteúdo é sintético. As multas podem chegar a € 15 milhões ou £ 31,3 trilhões de faturamento global, mas a obrigação é "a jusante": afeta aqueles que distribuem o conteúdo, e não aqueles que o geram, frequentemente fora da UE ou com modelos de código aberto não sujeitos à regulamentação.
Os artigos 6.º e o Anexo III classificam certos usos de deepfakes como de alto risco, como para identificação biométrica ou em contextos críticos como eleições e justiça, impondo requisitos rigorosos de documentação e rastreabilidade. No entanto, a maioria dos deepfakes "comuns" — memes, desinformação genérica, pornografia não consensual — permanece fora dessas categorias mais rigorosas.
A Lei de Serviços Digitais adiciona uma segunda camada: requisitos de transparência para publicidade gerada por IA, avaliações de risco sistêmico para Plataformas Online de Grande Porte (VLOPs) e mecanismos de notificação e ação para conteúdo como imagens íntimas manipuladas. Auditorias independentes anuais podem se tornar uma ferramenta para pressionar as plataformas a adotarem padrões técnicos mais uniformes, incluindo a Lei de Proteção de Dados de Conteúdo (C2PA), marcas d'água e ferramentas de análise forense baseadas em IA.
No entanto, persiste uma limitação estrutural: a Lei de Inteligência Artificial e a Lei de Segurança de Dados visam principalmente atores "respeitáveis", enquanto aqueles que produzem desinformação de má-fé, possivelmente a partir de servidores fora da UE, tendem a ignorar deliberadamente as regras. Sem requisitos de interoperabilidade técnica, o risco é de maior fragmentação: cada plataforma adota seu próprio sistema de rotulagem, deixando usuários (e profissionais de marketing) em um ecossistema ainda confuso. Para uma análise atualizada das regulamentações europeias, consulte o site oficial. Comissão Europeia sobre IA.
Inteligência Artificial e Realidade: Impacto no Marketing e nos Negócios
O novo equilíbrio entre inteligência artificial e realidade não é apenas uma questão ética ou legal: tem um impacto direto nas estratégias de marketing digital, na experiência do cliente e na confiança na marca. As empresas que utilizam IA generativa para criar imagens, vídeos ou textos devem considerar não apenas a eficiência da produção, mas também como essas escolhas impactam a percepção de autenticidade.
Em um cenário dominado por conteúdo sintético, as marcas que conseguirem comunicar de forma transparente o uso de inteligência artificial, garantindo ao mesmo tempo a rastreabilidade e a verificabilidade das mensagens, terão uma vantagem competitiva. Considere campanhas políticas ou comunicações de crise: um deepfake convincente pode prejudicar a reputação de uma empresa em questão de horas, e processos internos e ferramentas de monitoramento são essenciais para detectar, denunciar e lidar rapidamente com conteúdo falso.
Para a automação de marketing, isso significa repensar os funis e as jornadas do cliente. Plataformas de mensagens, como o WhatsApp Business, estão se tornando canais essenciais para restabelecer um relacionamento direto e verificável com os clientes. O conteúdo em vídeo visualizado nas redes sociais pode ser questionado; uma conversa individual, monitorada e gerenciada com ferramentas profissionais, pode fortalecer a confiança e as conversões. As empresas devem integrar a IA de forma responsável, equilibrando a automação e a supervisão humana, principalmente durante as fases de comunicação mais sensíveis.
Outra frente é a segmentação: usuários cada vez mais expostos à desinformação e deepfakes estão se tornando mais desconfiados e seletivos. As estratégias de marketing de conteúdo precisarão se concentrar em provas, estudos de caso verificáveis, depoimentos rastreáveis e canais próprios (newsletters, comunidades, chats diretos) onde as marcas possam garantir maior confiabilidade das informações em comparação com o ruído das mídias sociais abertas.
Como o SendApp pode ajudar com Inteligência Artificial e Realidade
Nesse ambiente complexo, as empresas precisam de ferramentas que as ajudem a gerenciar as comunicações digitais de forma transparente, rastreável e escalável. O SendApp foi criado especificamente para apoiar as empresas no uso profissional do WhatsApp Business, combinando de forma responsável automação, controle e integração com inteligência artificial.
Com SendApp Official, As empresas podem usar as APIs oficiais do WhatsApp para criar fluxos de mensagens confiáveis, com modelos aprovados e comunicações rastreáveis. Isso ajuda a criar um canal direto e verificável com os clientes, complementando as redes sociais públicas, onde deepfakes e conteúdo sintético descontrolado circulam.
SendApp Agent Permite gerenciar conversas de equipe no WhatsApp de forma organizada, atribuindo chats, monitorando o desempenho e integrando respostas automáticas com inteligência artificial quando apropriado, sempre sob supervisão humana. Em uma era onde a IA pode gerar mensagens, ter uma camada de controle centralizada é essencial para manter a consistência e a autenticidade no relacionamento com o cliente.
Com SendApp Cloud, As empresas podem criar automações avançadas: campanhas segmentadas, sequências de nutrição de leads, lembretes pós-venda e suporte ao cliente em larga escala. Ao integrar a IA de forma estruturada, é possível automatizar microtarefas (respostas frequentes, encaminhamento de solicitações), liberando tempo para atividades de maior valor agregado, como verificar conteúdo sensível e gerenciar crises de reputação.
O objetivo é claro: usar inteligência artificial para melhorar a eficiência e a personalização, sem perder o controle sobre a realidade das mensagens que chegam aos clientes. A SendApp ajuda as empresas a construir ecossistemas de comunicação mais robustos, onde etiquetas, rastreabilidade e supervisão humana trabalham em conjunto. Para quem deseja repensar sua estratégia para o WhatsApp Business à luz dessas mudanças, o próximo passo é solicitar uma consultoria dedicada e iniciar um teste gratuito da plataforma. SendApp, de forma a testar em campo a automação, a IA e as novas regras da comunicação digital.
