\nOs aplicativos de Intelig\u00eancia Artificial Generativa\u00a0(vamos nome\u00e1-la agora simplesmente como IA Generativa)<\/strong>, como o\u00a0ChatGPT e Bard<\/strong>, s\u00e3o LLMs (Large Language Model \u2013 modelos de aprendizado de m\u00e1quina) que aprendem com as informa\u00e7\u00f5es que os usu\u00e1rios inserem.<\/p>\n
Vamos pensar em alguns cen\u00e1rios pr\u00e1ticos para identificarmos o risco:<\/p>\n
- \n
- Imagine uma empresa que est\u00e1 passando por um processo de aquisi\u00e7\u00e3o ou fus\u00e3o que ainda n\u00e3o foi tornada p\u00fablica. Pesquisas subsequentes de outros usu\u00e1rios podem revelar essas informa\u00e7\u00f5es.<\/li>\n
- Ou imagine se um engenheiro de software usasse IA generativa para depurar c\u00f3digo de software propriet\u00e1rio, essa propriedade intelectual estaria em risco de se tornar de dom\u00ednio p\u00fablico \u2014 ou pior, acabar em posse de um concorrente.<\/li>\n
- Da mesma forma, se o engenheiro usasse a IA generativa para escrever c\u00f3digo, ele talvez pudesse conter malware que forneceria a um invasor uma backdoor para o sistema de uma empresa, o que poderia ocasionar viola\u00e7\u00f5es de dados pessoais ou de propriedade intelectual ou comercial.<\/li>\n<\/ul>\n
As leis de privacidade de dados (como a LGPD e GDPR<\/strong>), obrigam as organiza\u00e7\u00f5es a proteger rigorosamente os dados pessoais. O uso de IA generativa para qualquer tipo de tratamento de dados pessoais tamb\u00e9m poderia colocar a empresa em risco de n\u00e3o conformidade, pois ao submeter dados para an\u00e1lise eles poderiam vazar ou ser usadas incorretamente em uma simples consulta.<\/p>\n
<\/p>\n
<\/p>\n
1. Alguns exemplos da IA generativa sendo usada de forma maliciosa<\/h3>\n
A IA generativa tamb\u00e9m pode ser usada para escrever malware e outros c\u00f3digos maliciosos. Mas pera a\u00ed. O Chat GPT n\u00e3o bloqueia a cria\u00e7\u00e3o de c\u00f3digo malicioso?<\/p>\n
De forma b\u00e1sica, sim. Mas um atacante com maiores conhecimentos e perseveran\u00e7a, pode ser mais objetivo em sua solicita\u00e7\u00e3o e solicitar c\u00f3digo para determinadas tarefas que fazem parte de um malware.<\/p>\n
Veja o exemplo abaixo em solicitamos a cria\u00e7\u00e3o de um c\u00f3digo para criptografar uma pasta em Python:<\/p>\n
<\/p>\n
<\/p>\n
Com mais alguns passos, poder\u00edamos criar um Ransomware com a ajuda do ChatGPT. Isto \u00e9 um enorme problema!<\/p>\n
Agora vou simular a cria\u00e7\u00e3o de um Keylogger (um tipo de malware que captura as teclas digitadas de um usu\u00e1rio). Este tipo de amea\u00e7a \u00e9 muito usada para golpistas para descobrir senhas banc\u00e1rias.<\/p>\n
Veja que em um primeiro momento, n\u00e3o obtive resultados:<\/p>\n
<\/p>\n
Mas eu melhorei meu pedido:<\/p>\n
<\/p>\n
Observe que ele me trouxe o c\u00f3digo. Com um pouco de conhecimento de programa\u00e7\u00e3o, basta remover o trecho do c\u00f3digo que pede a permiss\u00e3o do usu\u00e1rio.<\/p>\n
Outros exemplos em que a IA generativa pode ser aliada dos crimes digitais:<\/p>\n
- \n
- Cria\u00e7\u00e3o de Fakenews<\/strong><\/li>\n
- Ataques de Phishing<\/strong><\/li>\n
- Roubo de Identidade<\/strong><\/li>\n
- Automa\u00e7\u00e3o de processos ofensivos<\/strong><\/li>\n<\/ul>\n
2. Como a IA generativa aumenta o cen\u00e1rio de amea\u00e7as?<\/h3>\n
O cen\u00e1rio de amea\u00e7as de seguran\u00e7a digital est\u00e1 em constante evolu\u00e7\u00e3o e a IA representa uma nova superf\u00edcie para ataques.<\/p>\n
A IA generativa corre o maior risco de ser outro caminho para um vazamento de dados ou viola\u00e7\u00e3o de dados \u2014 n\u00e3o muito diferente de qualquer um dos outros aplicativos SaaS que as empresas usam diariamente.<\/p>\n
Se os funcion\u00e1rios estiverem trabalhando com IA generativa com dados confidenciais, uma viola\u00e7\u00e3o de dados ou uso indevido desses dados pode afetar a postura de seguran\u00e7a da empresa.<\/p>\n
Para nos protegermos precisamos aplicar controles proibitivos. Precisamos definir quem deve poder usar os aplicativos e criar pol\u00edticas que permitam que esses grupos acessem as ferramentas \u2014 impedindo aqueles que n\u00e3o devem. Al\u00e9m disso, temos que habilitar rastreabilidade para podermos rastrear incidentes e viola\u00e7\u00f5es.<\/p>\n
3. Como proteger os dados confidenciais da IA generativa?<\/h3>\n
A seguran\u00e7a de dados de IA generativa requer controle de acesso em tempo real e controles de dados robustos.<\/p>\n
Em uma plataforma de DLP (Prote\u00e7\u00e3o de Vazamento de Dados), as organiza\u00e7\u00f5es podem fornecer acesso a ferramentas de IA generativa para grupos limitados de funcion\u00e1rios que foram aprovados para us\u00e1-las. Essas pol\u00edticas podem ser implementadas em dispositivos gerenciados e n\u00e3o gerenciados, dando \u00e0s empresas uma ampla gama de controle.<\/p>\n
Com uma solu\u00e7\u00e3o de DLP corretamente implantada, os usu\u00e1rios do ChatGPT e Bard ficar\u00e3o limitados em quais informa\u00e7\u00f5es podem compartilhar com as plataformas para evitar um vazamento de dados acidental. Isso inclui impedir a colagem de informa\u00e7\u00f5es confidenciais, como CPFs e Dados Financeiros no aplicativo.<\/p>\n
O ideal \u00e9 estender essa prote\u00e7\u00e3o \u00e0 todos os discos, transfer\u00eancia de arquivos de rede, e-mails, comunicadores instant\u00e2neos (Whatsapp, Skype, Teams, Telegram, etc), SSL \/ HTTPS, impressoras, Bluetooth, leitores de CD \/ DVD \/ BluRay e tamb\u00e9m os discos na nuvem (One Drive, Google Drive, Dropbox, etc).<\/p>\n
4. Precisamos de novas pol\u00edticas de seguran\u00e7a de dados espec\u00edficas para o uso de IA generativa?<\/h3>\n
\nSim! Todas as empresas devem analisar como seus funcion\u00e1rios j\u00e1 interagiram ou podem interagir com a IA generativa, que tipos de riscos essas intera\u00e7\u00f5es representam e como a organiza\u00e7\u00e3o pode impedir que usu\u00e1rios ineleg\u00edveis acessem e compartilhem informa\u00e7\u00f5es confidenciais com a IA generativa.<\/p>\n
Como qualquer outro aplicativo SaaS, as empresas devem certificar-se de ter visibilidade completa sobre os usu\u00e1rios que acessam a IA generativa e controle sobre os dados com os quais interagem.<\/p>\n
Na maioria dos casos, isso envolver\u00e1 a filtragem de URL por fun\u00e7\u00e3o, dispositivo ou local da tarefa, inspe\u00e7\u00e3o de arquivos recebidos e enviados, al\u00e9m das pol\u00edticas de seguran\u00e7a de dados para evitar quaisquer viola\u00e7\u00f5es de conformidade.<\/p>\n<\/div>\n
5. A IA generativa pode ajudar tamb\u00e9m a combater os crimes cibern\u00e9ticos e as fraudes?<\/h3>\n
Sim. E muito! Na verdade isso j\u00e1 acontece no m\u00ednimo h\u00e1 uns 10 anos. Mas \u00e9 assunto para um outro post! \ud83d\ude42<\/p>\n
Para saber mais:<\/strong><\/p>\n
A NETDEEP TECNOLOGIA possui um portf\u00f3lio completo de solu\u00e7\u00f5es de prote\u00e7\u00e3o de dados. Estamos desde 2009 protegendo empresas contra incidentes com hackers, vazamento de dados, malwares, nega\u00e7\u00e3o de servi\u00e7os e outros tipos de amea\u00e7as cibern\u00e9ticas.<\/p>\n
- Ataques de Phishing<\/strong><\/li>\n
- Cria\u00e7\u00e3o de Fakenews<\/strong><\/li>\n