IA Aprimora Cibersegurança, Mas Supervisão Humana Permanece Essencial

Quando se trata de proteger computadores e sistemas de informação de ataques cibernéticos, inteligência artificial e machine learning podem ajudar — mas não são cura para um problema crescente.

Não obstante a empolgação atual sobre IA e sua capacidade crescente de superar humanos em numerosas frentes, não é bala de prata para reforçar a cibersegurança, diz Randy Watkins, diretor de tecnologia da Critical Start, Inc.

IA se destaca em gerenciar quantidades massivas de dados, incluindo alertas sobre possíveis violações de segurança. O problema está em como ela interpreta essa informação.

Alertas são endereçados na ordem em que chegam. Então são priorizados e avaliados para o nível apropriado de ameaça. Analistas humanos, com conhecimento profundo e experiência do negócio, são bons em colocar cada alerta em seu contexto adequado. Máquinas, nem tanto. Um sistema dirigido por IA pode detectar atividade anômala de usuário, mas é menos eficaz em determinar se o evento envolve intenção maliciosa.

"Não sou um cético de tudo que é IA", diz Watkins, "mas IA e machine learning não têm a capacidade de aplicar uma abundância de razão ao que estão fazendo."

Máquinas não são especialmente boas em minimizar falsos positivos. Tome o PowerShell da Microsoft, uma estrutura popular para automação de tarefas. Uma máquina não pode determinar com precisão se um determinado usuário dessa ferramenta deveria estar executando um comando em um momento particular. A anomalia pode ou não ser resultado de um ataque malicioso.

O termo "machine learning" implica que o sistema melhora com experiência, mas Watkins diz que essa capacidade é limitada. Treinar o algoritmo para responder da maneira adequada requer alimentar grandes números de exemplos anteriores, tanto bons quanto ruins. E ainda não resolve o problema de falsos negativos — ataques reais que o sistema perde. "Você tem que ser capaz de remover os outliers que vão distorcer seus dados", diz Watkins.

Descobrir se um evento é malicioso nem sempre se resume a uma resposta sim-ou-não. Por um lado, as empresas devem determinar o quão sensível querem que o sistema seja. Deve soalar o alarme para 100% de eventos aparentemente anômalos? E 80%? Demais, e você é inundado com alertas e potenciais desligamentos de sistema. Pouco demais, e violações provavelmente passarão despercebidas.

"Quando você introduz mais variáveis, você requer conjuntos de dados adicionais, mais contexto sobre o sujeito e o comportamento [do sistema]", observa Watkins. "Uma vez que você começa a introduzir essas perguntas, a máquina desmorona."

Detecção eficaz de ataques cibernéticos depende de pontuação cumulativa de risco, algo que humanos fazem bem. "Toda vez que olhamos para um evento, estamos decidindo se é suspeito", diz Watkins. "Mas você também pode aplicar razão, e conhecimento prévio sobre segurança que algoritmos não têm.

"Uma máquina pode rastejar através de quantidades tremendas de dados rapidamente", continua ele. "Mas dê a ela um conceito abstrato como menor privilégio e aplique ao conjunto de alertas — ela vai reconhecer uma escalada de privilégio? Há muita atividade benigna que parece maliciosa."

Não há dúvida de que machine learning evoluirá, mesmo enquanto ladrões cibernéticos criam novas maneiras de evitar detecção. A Microsoft fez avanços em melhorar a sofisticação de sistemas de detecção automatizados, assim como a Palo Alto Networks, líder global em cibersegurança. "Mas no final do dia", diz Watkins, "você ainda precisa de um humano para dizer: 'Sim, derrube este controlador de domínio offline'." Empresas se esforçam constantemente para minimizar o custo de tempo de inatividade do sistema causado por alertas errôneos.

Dito isso, não há especialistas humanos suficientes para preencher a necessidade de cibersegurança em todos os setores. "Definitivamente há falta de talento na indústria", diz Watkins. Daí a virada para suporte externo, na forma de detecção e resposta gerenciadas.

A escassez de talento não é nova. "Existe desde que a segurança existe", diz Watkins. Apenas nos últimos 10 anos empresas e universidades começaram a despertar para a necessidade de melhor treinamento e educação de futuros especialistas em cibersegurança.

Tanto humanos quanto máquinas têm um caminho a percorrer, se quiserem colaborar na segurança de sistemas vitais contra a ameaça sempre crescente de ataque cibernético. "Começamos no zero quando precisávamos estar em 60", diz Watkins. "Agora precisamos estar em 90, e estamos em 60."