CISA faz primeiro exercício de resposta a incidentes de IA
A agência de segurança cibernética dos EUA, CISA, conduziu um exercício de mesa com o setor privado focado na resposta a incidentes cibernéticos de IA.
Neste mês, dia 13 de junho, a Cybersecurity and Infrastructure Security Agency (CISA) iniciou seu exercício inaugural com mais de 50 especialistas em IA do governo e da indústria dos EUA em um exercício de quatro horas para ajudar a compreender e mitigar ameaças digitais aos sistemas de inteligência artificial, segundo comunicado oficial da agência.
Liderado pela Joint Cyber Defense Collaborative, um consórcio de líderes dos setores público e privado, o exercício de mesa simulou um incidente de segurança cibernética visando um sistema habilitado para IA. Os participantes praticaram esforços de resposta a incidentes para mitigar os danos causados pelo ataque hipotético, incluindo compartilhamento de informações e colaboração operacional.
O exercício foi dividido em três módulos e descreveu um cenário hipotético em que hackers conseguiram contornar um agente de defesa de IA personalizado internamente no sistema de e-mail de uma organização. Um conjunto de participantes do governo foi mantido fora dos dois primeiros módulos e inserido durante o terceiro para então simular como os participantes da indústria interagiriam e colaborariam com os novos participantes após a ocorrência de um incidente.
A missão do exercício de mesa era conscientizar sobre como os sistemas de IA podem apresentar novos vetores de ameaças cibernéticas às redes digitais, examinar as respostas atuais e construir prioridades de compartilhamento de informações para os operadores de infraestrutura crítica, fornecedores de segurança e outras partes interessadas.
“Este exercício marca mais um passo no nosso compromisso coletivo de reduzir os riscos representados pela IA. Também destaca a importância de desenvolver e fornecer produtos de IA que sejam projetados tendo a segurança como prioridade máxima”, disse a diretora da CISA, Jen Easterly, no comunicado. “Como coordenadora nacional de segurança e resiliência de infraestruturas críticas, estamos entusiasmados por trabalhar com os nossos parceiros para desenvolver este esforço para ajudar as organizações a proteger os seus sistemas de IA”.
No comunicado ainda é dito que os resultados do exercício de mesa ajudarão a informar um próximo manual que a CISA e o JCDC estão trabalhando para lançar no final de 2024, que oferecerá suporte e orientação para respostas a ataques cibernéticos baseados em IA. A agência planeja realizar um segundo exercício de mesa para testar o manual após seu lançamento.
Amazon Web Services, Cisco, Cranium, HiddenLayer, IBM, Microsoft, NVIDIA, OpenAI, Palantir, Palo Alto Networks, Protect AI, Robust Intelligence, Scale AI, FBI, Agência de Segurança Nacional dos EUA, Escritório do Diretor de Inteligência Nacional dos EUA, Departamento de Defesa americano e o Departamento de Justiça dos EUA estavam entre as agências e empresas participantes.
“Na OpenAI, acreditamos firmemente que a segurança é um esporte de equipe. Ela prospera na colaboração e se beneficia imensamente da transparência”, disse Matt Knight, chefe de segurança da OpenAI, em comentários oficiais. “Estamos orgulhosos de ter participado do exercício de mesa com JCDC.AI e outros líderes de segurança – essas colaborações beneficiam nossos esforços de desenvolvimento e implantação segura de tecnologia de IA”.
"Esse tipo de exercício é fundamental para o avanço da segurança cibernética global, especialmente em um cenário onde a inteligência artificial está se tornando cada vez mais presente em diversos setores. A colaboração entre entidades públicas e privadas, como demonstrado pela CISA, é essencial para a criação de estratégias robustas que possam antecipar e mitigar possíveis ataques. No Brasil, iniciativas como essa podem servir de modelo para aprimorarmos nossas próprias defesas cibernéticas e garantirmos a segurança de nossas infraestruturas críticas. É imperativo que continuemos a investir em parcerias e capacitações para proteger nossos sistemas contra as ameaças emergentes," afirmou Markswell Coelho, coordenador da IBSEC - Instituto Brasileiro de Cibersegurança.
O exercício de segurança de mesa segue iniciativas maiores da administração Biden para aproveitar os inúmeros usos benéficos da IA e, ao mesmo tempo, mitigar resultados negativos. Este foi o tema central da conferência AI Aspirations do Escritório de Política Científica e Tecnológica da Casa Branca, também realizada na semana passada.
Embora AI Aspirations apresentasse demonstrações de sistema e discussões sobre casos de uso atuais e de curto prazo para sistemas de IA e aprendizado de máquina, os líderes observaram que a IA pode ajudar a apoiar a postura moderna de segurança cibernética
“Para a segurança aqui em casa, a IA será essencial para aumentar a segurança cibernética e proteger a nossa infraestrutura crítica”, disse o Diretor do OSTP, Arati Prabhakar, no discurso de abertura da conferência.
Mais informações: IBSEC
