A Inteligência Artificial Generativa tem sido um dos temas mais debatidos na área de tecnologia nos últimos meses. Essa ferramenta traz diversos benefícios, mas ao mesmo tempo, divide as opiniões dos tomadores de decisão, já que sua capacidade de emular uma resposta humana traz janelas perigosas para cibercriminosos que a utilizam para crimes de engenharia social. Após a popularização exponencial do ChatGPT, é inevitável que a Inteligência Artificial continue avançando, mas precisamos aprender a conviver com ela, fazendo uso de suas vantagens.

Para falarmos do futuro da IA no Brasil, é preciso batalhar por uma regulamentação. Ferramentas como o ChatGPT trazem imensas possibilidades de inovação, que simplificam e democratizam o conhecimento, mas sem a regulamentação necessária, a privacidade e a segurança dos dados dos usuários correm riscos. Muitas vezes, crimes cibernéticos são motivados por fator financeiro, com chances de roubo de grande volume de dinheiro, utilizando a tecnologia para emular uma resposta humana mais fidedigna, produzindo e-mails de pishing cada vez mais sofisticados e difíceis de serem identificados.

Diante disso, os provedores de grandes modelos de linguagem e IA generativa devem buscar criar métodos e bloqueios para que suas tecnologias não sejam utilizadas para atos criminosos.

Enquanto a regulamentação não chega, é importante que cada um faça a sua parte. A educação e conscientização de segurança digital são fundamentais. Não importa quanto a IA possa ser utilizada por criminosos, sempre há indícios suspeitos que somente o ser humano pode reconhecer, como uma solicitação estranha com alto senso de urgência ou pedido de dados que não são comuns. Instruir os colaboradores sobre cibersegurança sobre como identificar esses ataques e sobre a importância de aplicar o conceito de Zero Trust ainda é a melhor maneira de se defender.

Outro ponto que precisa ser discutido pelos CISOs e outros decisores é o uso do ChatGPT, a mais famosa IA generativa, dentro de suas empresas. Recentemente, grandes empresas “Big Tech” restringiram ou proibiram o uso da ferramenta por temerem vazamento de dados. A preocupação surgiu após o uso por parte de colaboradores para conferir erros de desenvolvimento de apps, pedido de redação de documentos com assuntos confidenciais, entre outros inúmeros usos que podem comprometer o sigilo de empresas e pessoas.

No ponto do uso de IA, vale lembrar as palavras recentes de Tim Cook, CEO da Apple, que pediu cautela e colocou que “Há uma série de questões que precisam ser resolvidas em vários lugares diferentes, mas o potencial é certamente muito interessante”. A Apple já utiliza um outro tipo de IA, NLP (sigla em inglês para Processamento de Linguagem Natural), em sua assistente de voz Siri, apenas para mencionar um exemplo nas Big Techs, já que Microsoft, Google e outras possuem sistemas avançados de IA.

Apesar do lado negativo, precisamos sempre reforçar que a Inteligência Artificial, como qualquer outra tecnologia, está aqui para nos ajudar. Ferramentas para defesa já estão em uso há tempos utilizando Machine Learning e IA. O auxílio técnico é de grande importância para ganhar tempo e reduzir custos em um ambiente tão disputado como o da cibersegurança. Diversas são as possibilidades em que IA auxilia os programadores e profissionais de TI, tais como a identificação de vulnerabilidades em sistemas, análise de logs, depuração de códigos, produção de respostas a incidentes e até mesmo o Bug Hunt.

Dito isso, reafirmo que a IA generativa é um caminho sem volta para a sociedade e não devemos paralisar seu uso, mas é necessário cautela. A inteligência artificial é recente e só exploramos uma pequena parcela de seu potencial, bani-la completamente seria um grande retrocesso para a comunidade tecnológica e à sociedade como um todo.