ChatGPT: aliado ou ameaça à segurança cibernética?

*Por Leonardo Carissimi

O assunto da vez é o ChatGPT, uma poderosa ferramenta de Inteligência Artificial (IA) projetada para responder a perguntas e conversar com usuários em tempo real. Sem dúvida, ele é incrivelmente útil, porém é preciso dar uma atenção especial aos possíveis riscos relacionadas à segurança e privacidade. Essa é uma reflexão importante, afinal as novas tecnologias sempre podem trazer algumas ameaças que, num primeiro momento, são desconhecidas pela maioria dos usuários e organizações.

Recentemente, uma grande fabricante de produtos de tecnologia foi mundialmente exposta em uma série de vazamentos de dados confidenciais. De que forma? Um funcionário pediu ao ChatGPT para verificar dados sensíveis no código de uma base de dados. Outro colaborador solicitou uma otimização de código fonte e um terceiro colocou a gravação de uma reunião online para obter um resumo.

É possível que problemas como este comecem a se multiplicar. De acordo com a OpenAI, a empresa responsável pela criação do ChatGPT, todos os dados inseridos no sistema são armazenados e utilizados para melhorar a sua precisão e funcionalidade. No entanto, é sempre preciso estar alerta.

Um estudo do Capgemini Research Institute intitulado “Inteligência Artificial em Cybersecurity: não é um dilema ética” (em tradução livre), aponta como os cibercriminosos usam cada vez mais a IA para projetar suas capacidades ofensivas. Além disso, destaca como as organizações devem abraçar a inteligência artificial para, de forma similar, exponenciar suas capacidades defensivas – em especial detecção e resposta a incidentes de segurança. O estudo foi publicado em 2022, antes do ChatGPT se tornar conhecido e usado na escala que é hoje, mas, como trata de uma tendência, o tema continua atual e se aplica independentemente da ferramenta de IA que se utiliza.

De fato, o ChatGPT acelerou o uso de IA em defesa cibernética de forma significativa. Muitos casos de uso têm sido identificados, incluindo ajuda em análise de incidentes baseando-se em logs e recomendações de ações de resposta. Isso acelera a adoção de outras técnicas de IA como algoritmos para análise de Data Lakes, com eventos de segurança para identificação de potenciais ameaças em curso.

Como toda tecnologia, o ChatGPT precisa ser utilizado de forma consciente sobre os riscos de segurança da própria ferramenta. Nesse sentido, algumas dicas podem ser úteis tanto para uso pessoal quanto profissional, em qualquer área de atuação:

• Não compartilhe dados pessoais sensíveis com o ChatGPT. Embora a ferramenta tenha sido projetada para manter as informações confidenciais, o ideal é ter cautela em dobro e evitar compartilhar senhas, números de cartão de crédito e outras informações confidenciais;
• Nunca compartilhe dados de seus clientes;
• Saiba que o ChatGPT pode estar enganado. Apesar de ser altamente avançada, a ferramenta ainda é suscetível a erros e pode ser induzida a dar respostas imprecisas ou enganosas, se o usuário fornecer informações falsas ou manipuladas. Use-o como apoio, mas não como substituto da sua própria análise e julgamento;
• Ao conversar com o ChatGPT, utilize um nome de usuário não identificável para proteger sua privacidade. Evite usar seu nome real ou informações pessoais;
• Use o chatbot em um ambiente seguro. Certifique-se de que o dispositivo tenha proteção contra ameaças cibernéticas;
• Se você estiver integrando o ChatGPT com outras aplicações via APIs, verifique se as integrações são desenvolvidas seguindo as melhores práticas de segurança aplicáveis, inclusive com técnicas de anonimização automática dos dados compartilhados com a ferramenta;
• Considere usar uma versão segura ou privada do ChatGPT para proteger suas informações. Existem opções disponíveis para usuários que desejam usar a ferramenta com segurança, que oferecem proteção adicional para suas informações;
• Para profissionais de segurança cibernética: não perca tempo em estabelecer políticas claras de uso da ferramenta na sua organização, além de treinar os usuários sobre os usos aceitáveis e não aceitáveis. Aja rápido e preventivamente.

Por fim, concluimos com um “plot twist”: parte deste artigo foi escrito pelo ChatGPT. Assim reforçamos que esta é uma ferramenta poderosa e útil em vários contextos diferentes e pode se tornar uma grande aliada dos negócios, desde que observadas as questões de segurança. Seguindo os cuidados e dicas citados, você pode aproveitar ao máximo o ChatGPT enquanto protege suas informações e privacidade.

*Leonardo Carissimi é diretor de Cibersecurity & Privacy da Capgemini Brasil.