IA Generativa: possíveis golpes e como proteger sua empresa

Deepfakes, phishing personalizado e vazamento de dados mostram por que a adoção da IA precisa vir acompanhada de governança e segurança.

A Inteligência Artificial Generativa está transformando a forma como as empresas produzem conteúdo, atendem clientes, analisam informações e automatizam tarefas. Porém, a mesma tecnologia que aumenta a produtividade também pode ser utilizada para criar golpes mais convincentes, rápidos e personalizados.

O risco deixou de estar apenas em mensagens mal escritas, imagens distorcidas ou sites claramente falsos. Com ferramentas de IA, criminosos conseguem produzir e-mails com linguagem profissional, imitar o estilo de comunicação de executivos, criar vozes artificiais e gerar vídeos falsos. Isso aumenta a eficiência de ataques de phishing, fraude financeira e engenharia social.

Um dos exemplos mais conhecidos ocorreu em Hong Kong, em 2024. Um funcionário do setor financeiro de uma multinacional participou de uma videoconferência na qual criminosos utilizaram deepfakes para se passar pelo diretor financeiro e por outros colegas. Convencido de que a reunião era real, o funcionário realizou transferências que somaram aproximadamente US$ 25 milhões.

O caso demonstra uma mudança importante: a aparência, a voz ou até mesmo uma videoconferência já não são provas suficientes de identidade. Processos financeiros precisam incluir validação por canais independentes, especialmente quando envolvem transferências, alteração de dados ou compartilhamento de informações confidenciais.

Principais golpes com IA

O phishing personalizado é uma das ameaças mais acessíveis. A IA pode ajudar criminosos a pesquisar informações públicas sobre uma empresa, identificar pessoas-chave e criar mensagens adaptadas ao contexto do negócio. Um e-mail pode simular perfeitamente a linguagem de um fornecedor, cliente ou executivo.

Outra ameaça como já mencionado, é o deepfake, que utiliza IA para criar imagens, vídeos ou áudios falsos. Em ataques empresariais, esse recurso pode ser usado para simular uma ordem do CEO, confirmar uma falsa negociação ou pressionar um colaborador a realizar uma ação urgente.

Também existe o risco de vazamento de dados por uso inadequado de ferramentas de IA. Quando um colaborador insere contratos, dados pessoais, informações financeiras ou propriedade intelectual em uma plataforma não autorizada, a organização pode perder visibilidade sobre o tratamento dessas informações. Um exemplo é o funcionário do RH enviar uma planilha de folha de pagamento ao ChatGPT para análise ou validação. A partir do momento em que esses dados são compartilhados com uma plataforma de terceiros, a empresa pode perder visibilidade sobre seu armazenamento, tratamento e acesso, aumentando o risco de exposição de informações sensíveis, como salários, dados bancários e CPFs.

O NIST (National Institute of Standards and Technology) identifica riscos relacionados à IA Generativa, como confabulação, privacidade de dados, desinformação e criação de deepfakes. A confabulação ocorre quando o sistema produz informações falsas com aparência de conteúdo confiável, o que pode induzir usuários e empresas ao erro.

Como reduzir os riscos

O primeiro passo é estabelecer uma política corporativa de uso de IA. A empresa deve definir quais ferramentas podem ser utilizadas, quais dados são proibidos e quais aplicações precisam de aprovação prévia da área de segurança ou privacidade.

Também é importante classificar as informações antes de permitir seu uso em ferramentas de IA. Dados pessoais, dados sensíveis, credenciais, contratos, código-fonte e propriedade intelectual devem receber controles compatíveis com seu nível de criticidade.

Para reduzir fraudes financeiras, processos de aprovação precisam ser reforçados. Solicitações recebidas por e-mail, chamada de vídeo ou mensagem devem ser confirmadas por um segundo canal. A validação deve ser feita utilizando um contato previamente conhecido, e não informações fornecidas na própria mensagem.

A proteção técnica deve incluir autenticação multifator, segurança de e-mail, monitoramento de identidade, DLP, análise de comportamento e treinamento contínuo. O objetivo é dificultar tanto o acesso indevido quanto o uso de informações roubadas para criar golpes personalizados.

A empresa também precisa preparar os colaboradores para desconfiar de urgências, solicitações fora do padrão, mudanças inesperadas de processo e pedidos de sigilo. O treinamento deve mostrar exemplos reais e explicar como reportar uma suspeita rapidamente.

IA com segurança e governança

A adoção de IA não deve ser proibida de forma indiscriminada. Quando não existem ferramentas autorizadas, políticas claras e orientação, os colaboradores podem recorrer a soluções não aprovadas, criando o chamado shadow AI.

O caminho mais seguro é estabelecer uma governança que permita inovação com controle. Isso envolve inventário de aplicações, análise de riscos, proteção de dados, avaliação de fornecedores, supervisão humana e monitoramento contínuo.

A IA pode ser uma grande aliada da empresa, mas precisa estar apoiada por processos confiáveis. Tecnologia, conscientização e validação independente devem trabalhar juntas para reduzir o risco de golpes empresariais.

Sua empresa pode contar com a Sempre Safe para adotar a Inteligência Artificial Generativa de forma segura, responsável e confiável. Apoiamos a definição de políticas, controles e boas práticas para reduzir riscos de vazamento de dados, fraudes e uso indevido da tecnologia. Também oferecemos treinamentos para que os colaboradores reconheçam phishing, deepfakes, engenharia social e outras ameaças potencializadas pela IA. Fale com nossos especialistas e prepare sua equipe para inovar com segurança na era da Inteligência Artificial.