Grok na mira das autoridades

O regulador britânico de segurança digital (Ofcom) abriu uma investigação formal contra a rede social X após denúncias de que o Grok, seu assistente de inteligência artificial, foi usado para gerar e disseminar imagens sexuais falsas, incluindo possíveis conteúdos ilegais e envolvendo crianças. O órgão apura se a plataforma falhou em avaliar riscos, remover conteúdos ilícitos e proteger usuários no Reino Unido. Após as críticas, o X restringiu o uso da ferramenta de geração de imagens a assinantes, decisão que provocou forte reação de autoridades britânicas, que classificaram a medida como insuficiente e ofensiva às vítimas. Caso sejam confirmadas irregularidades, a empresa pode sofrer multas de até 10% do faturamento global e ter o serviço bloqueado no país. A situação traz à tona o debate sobre os limites éticos da inteligência artificial, mostrando a necessidade de mecanismos mais eficazes para conter abusos tecnológicos. No ramo de seguros, o caso funciona como um sinal de alerta, mostrando que tecnologias, quando manejadas sem diretrizes legais rígidas, podem gerar prejuízos para os clientes, além de danos reputacionais às empresas.

‍Falhas de segurança ampliam o uso abusivo do Grok

Conforme apresenta o portal InfoMoney, o Grok, em relação às outras IAs possui menos restrições de segurança, o que abre espaço para usos indevidos. Entre as funcionalidades mais controversas está a possibilidade de alterar imagens de pessoas para simular nudez, roupas íntimas ou poses sexualizadas, sem qualquer consentimento. Segundo estimativas, usuários da plataforma X já produziram milhares de imagens desse tipo envolvendo mulheres e até crianças. Uma vítima brasileira relatou choque e sofrimento ao descobrir que uma foto sua, originalmente publicada vestida, havia sido manipulada para exibir nudez na rede social. Casos como esse revelam como a combinação entre baixa restrição tecnológica e fácil acesso à IA pode gerar violações graves de privacidade, dignidade e segurança digital.

Deepfakes e a nova fronteira dos riscos digitais no mercado de seguros

A evolução da inteligência artificial levou a manipulação de imagens, vídeos e áudios a um novo patamar. As deepfakes estão cada vez mais realistas e difíceis de detectar, o que acaba aumentando os riscos digitais. Os impactos vão além da esfera tecnológica, ocasionando danos morais, prejuízos financeiros e disputas judiciais, afetando tanto pessoas físicas quanto empresas. O avanço dos vídeos e imagens gerados ou aprimorados por inteligência artificial não é, em si, o principal problema. A preocupação surge quando esse conteúdo atinge um nível de realismo capaz de confundir a percepção humana e até mesmo sistemas automatizados. No que se refere aos seguros, com a crescente adoção do autoatendimento e da automação na abertura de sinistros, pode ser difícil verificar se fotos e vídeos enviados como prova são autênticos. A dificuldade de identificar mídias sintéticas eleva a exposição das seguradoras a fraudes e pode comprometer a confiabilidade dos processos.

Crimes digitais em escala global e no Brasil

Segundo a Interpol, redes de golpes cibernéticos baseadas em tráfico humano se expandiram para além do Sudeste Asiático e hoje envolvem vítimas de ao menos 66 países. Pessoas são atraídas por falsas ofertas de emprego, mantidas em cativeiro e forçadas a aplicar fraudes on-line, muitas vezes sob violência física, psicológica e exploração sexual. Esses centros criminosos já foram identificados em países como Mianmar, Camboja, Laos, Filipinas e Namíbia, com milhares de pessoas resgatadas após operações internacionais. O uso crescente de tecnologias como inteligência artificial e deepfakes tem potencializado golpes, incluindo anúncios de emprego falsos e esquemas de sextorsão, ampliando o alcance e a sofisticação das fraudes. No Brasil, o impacto é expressivo. Em 2024, o país foi o segundo mais afetado por crimes cibernéticos no mundo, com cerca de 700 milhões de ocorrências, além de ocupar a sétima posição global em número de contas violadas, segundo dados da Kaspersky. 

‍Privacidade em risco: o papel dos seguros digitais na proteção de dados íntimos

A geração e a circulação de imagens íntimas falsas ou compartilhadas sem consentimento ampliaram os riscos à privacidade no ambiente digital. Embora muitos usuários compartilhem fotos de forma voluntária, a ausência de garantias efetivas de proteção transforma, deixa esses conteúdos suscetíveis à exposição, colocando em risco a privacidade dos indivíduos. Ferramentas de IA, como o Grok, evidenciam a fragilidade dos mecanismos de proteção, e um caso envolvendo vazamento de imagens íntimas reais de uma cantora, são situações que reacendem o debate público sobre limites, responsabilidade e segurança online. Dados da Kaspersky indicam que o compartilhamento de imagens íntimas é uma prática comum no Brasil e que uma parcela significativa da população já foi afetada direta ou indiretamente por crimes como a “vingança pornô”. A facilidade de replicação desses conteúdos intensifica danos emocionais, legais e financeiros, pressionando o setor de seguros a desenvolver soluções voltadas à proteção de dados sensíveis.

‍Empresas sob pressão regulatória: responsabilidade, compliance e limites da IA

Além dos impactos sobre vítimas diretas, organizações que desenvolvem ou adotam soluções de inteligência artificial enfrentam uma exposição crescente a riscos legais e regulatórios. O avanço da fiscalização transforma multas, sanções administrativas e até restrições operacionais em ameaças concretas, especialmente quando há falhas no cumprimento de normas legais e princípios éticos. Nesse contexto, ganham relevância os seguros de responsabilidade civil profissional e de conformidade tecnológica, que oferecem suporte diante de litígios, penalidades e exigências regulatórias relacionadas ao uso da IA. Ao mesmo tempo, embora a inteligência artificial seja uma aliada para as seguradoras, sendo usada na avaliação de riscos, combate a fraudes e automação, seu uso exige estruturas sólidas de governança, transparência e controle para evitar que a própria tecnologia se torne fonte de novos riscos.

Demanda crescente por proteção digital

Estudos indicam que empresas e consumidores estão cada vez mais atentos à proteção de dados e à reputação digital. A busca por proteção digital e confiança nas marcas tem ganhado relevância entre consumidores e empresas. Segundo a pesquisa “Voz do Consumidor”, da PwC, realizada com mais de 20 mil pessoas em 31 países, a proteção de dados pessoais é um fator decisivo para a confiança: 90% dos brasileiros e 83% dos entrevistados globalmente consideram esse aspecto essencial na relação com as empresas. O estudo também mostra que preocupações com ESG, uso responsável de dados e inteligência artificial influenciam cada vez mais as decisões de consumo. No Brasil, quase metade dos consumidores afirma adotar hábitos de compra mais conscientes, reforçando a necessidade de as empresas anteciparem tendências e investirem em práticas que garantam segurança digital, transparência e responsabilidade.‍

Regulação em evolução e a necessidade de adaptação

A regulamentação da inteligência artificial avança em diferentes regiões do mundo e tem sido palco de discussão no Brasil. O mercado segurador precisa acompanhar essas transformações para ajustar cláusulas contratuais, processos de subscrição e critérios de aceitação de riscos. Antecipar mudanças regulatórias é fundamental para reduzir a insegurança jurídica e evitar exposições desnecessárias. A colaboração entre seguradoras, desenvolvedores de tecnologia e órgãos reguladores é de suma importância para a construção de padrões técnicos e éticos no uso da IA e dos dados pessoais, contribuindo para a preservação da confiança pública na evolução tecnológica.

O seguro como pilar de confiança na era da IA

A investigação envolvendo o Grok é mais uma comprovação de que a inteligência artificial também pode ser uma fonte de riscos éticos e jurídicos, podendo impactar profundamente vítimas de conteúdos gerados de forma indevida. Em um ambiente digital repleto de deepfakes, vazamentos de dados íntimos e crimes cada vez mais sofisticados, a confiança passa a ser algo tão valioso quanto a tecnologia em si.

Para o setor segurador, responsável por obter informações pessoais, é extremamente importante desenvolver estratégias para prevenir incidentes como vazamentos. Isso implica desenvolver coberturas mais sensíveis à proteção de dados, à reputação e à responsabilidade digital, ao mesmo tempo em que se fortalece a governança interna e o alinhamento às novas regulações. Ao atuar como mediador entre inovação e segurança, o seguro reforça seu papel de oferecer estabilidade em contextos de incerteza e contribuir para que o avanço tecnológico ocorra de forma ética, transparente e socialmente responsável.