Vazam dados pessoais de 20 mil usuários em chatbot de IA

E-mails, telefones e 34 milhões de registros de conversas foram supostamente expostos, acendendo um alerta sobre os riscos ocultos dos chatbots de IA

Vazamento de Dados Pessoais. CLM, distribuidor latino-americano de valor agregado com foco em segurança da informação, proteção de dados, cloud e infraestrutura para data centers, repercute o alerta feito pela Skyhigh, líder global em cibersegurança, sobre um suposto vazamento de dados de 20 mil usuários do chatbot de IA OmniGPT. A informação foi publicada em um fórum de violações (hackhead.com), acendendo um alerta sobre os riscos envolvidos nessas interações.
 
Um hacker disse ter se infiltrado no OmniGPT, expondo dados pessoais de usuários, incluindo e-mails, números de telefone e mais de 34 milhões de linhas de prompts e conversas. Além dos chats dos usuários, os dados expostos também incluem links para arquivos enviados, alguns dos quais contêm informações confidenciais, como credenciais, prompts, detalhes de cobrança e chaves de API.

Leia também: Esqueça tudo que você sabia sobre fraudes e vazamentos de informações. É hora de entender a anatomia das violações

Para o CEO da CLM, Francisco Camargo, o uso dessas ferramentas cresce continuamente. Basta pensar que quase a totalidade dos atendimentos dos mais diversos serviços já adotou esse modelo de chat nas interações com clientes, que trocam todo tipo de informação. “O grande volume de dados pessoais, financeiros e a conversação trocados com esses sistemas de IA significa que uma violação pode ter consequências incalculáveis, afetando a segurança pessoal e a confiabilidade desses serviços”, adverte.

Mas, será que esses sistemas podem realmente proteger os dados dos usuários? Segundo Camargo: “queremos sigilo e confiança nas nossas conversas com outros humanos, queremos ter o mesmo sigilo e confiança nas conversas com as  IA, que cada vez se parecem mais humanas”.

Segundo a Skyhigh, centenas (senão milhares) de novos serviços de IA surgem semanalmente e as equipes de cibersegurança, já sobrecarregadas, não conseguem acompanhar o ritmo.

Ao mesmo tempo, as pessoas têm uma tendência de tratar chatbots de IA como um repositório casual para toda e qualquer informação, tornando essas plataformas verdadeiras “caixas pretas”, onde o usuário praticamente não tem percepção de como seus dados são manipulados, armazenados ou protegidos.

“Essa desconexão entre percepção e realidade pode ter consequências devastadoras quando dados sensíveis, como documentos carregados, chaves de API e detalhes pessoais vazam, como vimos no caso do OmniGPT, alerta a Skyhigh”.

Vazamento de Dados Pessoais. Os usuários não sabem como podem evitar essas violações

A acessibilidade e a conveniência dos chatbots e serviços de criatividade com tecnologia de IA os tornaram parte integrante da vida das pessoas, mas o mais preocupante aqui é que estas violações aconteceram no back-end do serviço. Isso mostra que os usuários ou consumidores não poderiam ter feito nada para evitá-la.

Especialistas em cibersegurança da CLM avaliam que a segurança da informação precisa acompanhar o ritmo de crescimento desses sistemas. A verdadeira questão agora não é o quão úteis eles são – mas se estes sistemas podem realmente proteger os dados que confiamos a eles.

Assim, a conscientização dos usuários sobre segurança é fundamental. Muitas pessoas ainda não conhecem os riscos associados à inserção de informações confidenciais em serviços de chatbot de IA ou plataformas em nuvem.

Educar os usuários sobre o potencial uso indevido de dados e enfatizar o cuidado ao compartilhar dados pessoais ou confidenciais pode ajudar muito a reduzir a sua exposição, treinamento de usuários sobre riscos e cibersegurança é a base da soberania digital de qualquer país.

Parece lógico que o foco da defesa deva mudar para abarcar também os riscos subjacentes, priorizando a proteção de dados confidenciais, independentemente do serviço com o qual eles estão sendo compartilhados. No entanto, embora a IA impulsione a eficiência e a inovação, ela também apresenta desafios como violações de dados, violações de conformidade e uso de IA sombra. A rápida adoção da IA frequentemente ultrapassa a governança, deixando as organizações vulneráveis a riscos de reputação, financeiros e legais sem medidas de segurança adequadas.

Tratar a IA com o mesmo rigor que outros ativos do ambiente corporativo é um caminho a ser seguido. Ter visibilidade é essencial nessa jornada.

Maiores provedores de Inteligência Artificial
(por número de usuários)

Serviços com maior risco para os usuários

Sobre a CLM

CLM é distribuidor latino-americano de valor agregado com sede em São Paulo, Brasil, e coligadas no Chile, Colômbia, EUA e Peru. A empresa se concentra em segurança da informação, proteção de dados, infraestrutura para data centers e nuvem, tendo uma extensa rede de VARs (Value Added Resellers) na América Latina e uma vasta experiência no mercado. A CLM recebeu diversos prêmios: 𝐓𝐨𝐩 𝐨𝐟 𝐌𝐢𝐧𝐝 𝐍𝐚𝐜𝐢𝐨𝐧𝐚𝐥 na categoria 𝐕𝐚𝐥𝐨𝐫 e destaque em 𝐀𝐮𝐭𝐨𝐦𝐚𝐜̧𝐚̃𝐨 𝐝𝐞 𝐏𝐫𝐨𝐜𝐞𝐬𝐬𝐨𝐬, 𝐋𝐨𝐠𝐢́𝐬𝐭𝐢𝐜𝐚 𝐞 𝐂𝐚𝐩𝐢𝐥𝐚𝐫𝐢𝐝𝐚𝐝𝐞 𝐍𝐚𝐜𝐢𝐨𝐧𝐚𝐥, do Prêmio Excelência em Distribuição 2024, da Infor Channel pelo compromisso da CLM com a excelência e busca incansável das melhores soluções e serviços aos canais; o de melhor distribuidor da América Latina pela Nutanix, qualidade e agilidade nos serviços prestados aos canais; o prêmio Lenovo/Intel Best Growth LA Partner pelo crescimento das vendas; e Destaque no atendimento aos Canais, pelo Anuário de Informática da Revista Informática Hoje. A empresa está constantemente em busca de soluções inovadoras e disruptivas para fornecer cada vez mais valor para seus canais e clientes. www.CLM.tech.

Sobre a Skyhigh Security
O foco da Skyhigh Security é ajudar seus clientes, em todo o mundo, a proteger os dados. A empresa protege organizações com soluções de segurança nativas da nuvem que reconhecem os dados e são simples de usar. Seu Portfólio de Serviços de Segurança (SSE), líder de mercado, vai além do acesso a dados e se concentra em seu uso, permitindo que as organizações colaborem de qualquer dispositivo e de qualquer lugar sem sacrificar a segurança. Para obter mais informações, visite www.skyhighsecurity.com.