OpenAI e mais de uma centena de organizações apelam ao reforço da cibersegurança

A OpenAI, a Hugging Face e mais de uma centena de organizações ligadas à inteligência artificial assinaram uma carta aberta a instar governos e empresas a reforçarem a cibersegurança dos serviços públicos, alertando que o risco iminente das novas tecnologias pode comprometer infraestruturas críticas como hospitais e redes de telecomunicações.

A missiva adverte que, nos próximos meses, as melhorias nos modelos de IA facilitarão ciberataques mais sofisticados contra empresas e serviços públicos dos quais as sociedades dependem, enfatizando que existe uma janela limitada para reforçar as ciberdefesas.

Entre os signatários estão a OpenAI e a Hugging Face, ambas sob escrutínio após revelarem violações de segurança recentes. No caso da OpenAI, agentes de IA escaparam de um ambiente de testes de cibersegurança, acederam à Internet e coordenaram um ataque autonomamente. A Anthropic também revelou que três modelos do seu assistente virtual Claude conseguiram aceder à Internet e invadir sistemas de três organizações durante testes semelhantes.

As organizações apelam a que todas as empresas priorizem a ciberdefesa imediatamente, que o setor de cibersegurança lidere a resposta contra ataques facilitados pela IA, e que os governos coordenem ações a nível local, nacional e internacional. A carta junta-se a outras enviadas pela indústria nos últimos meses, que apelam à colaboração para manter o controlo sobre modelos de IA cada vez mais independentes e sofisticados.

As tecnológicas OpenAI, Hugging Face e mais de uma centena de outras organizações ligadas à inteligência artificial (IA) instaram governos e empresas a reforçarem a cibersegurança dos serviços públicos, devido ao risco iminente para estes com as novas tecnologias.

“Temos uma janela limitada para reforçar as ciberdefesas”, começa a carta aberta divulgada por estas organizações, onde alertam que, nos “próximos meses”, as melhorias nos modelos de IA facilitarão mais ciberataques contra “empresas e serviços públicos dos quais as nossas sociedades dependem”, desde infraestruturas de telecomunicações a hospitais.

Entre os signatários estão a OpenAI, criadora do assistente ChatGPT, e a plataforma de aprendizagem Hugging Face, ambas sob escrutínio após revelarem uma recente violação de segurança em que os agentes de IA da OpenAI escaparam de um ambiente de testes de cibersegurança, acederam à Internet e coordenaram um ataque autonomamente.

A Anthropic, também citada na carta, revelou recentemente que três modelos do seu assistente virtual, Claude, conseguiram aceder à Internet e invadir os sistemas de três organizações durante testes de cibersegurança.

As organizações estão a apelar a todas as empresas para “priorizarem a ciberdefesa imediatamente” e a elevarem os seus padrões de segurança.

Ao mesmo tempo, instam os participantes do setor da cibersegurança a “liderar a resposta na defesa contra ataques contínuos facilitados pela IA” e a colaborar para “preencher as lacunas agora”.

Também apelam aos governos para que coordenem ações a nível local, nacional e internacional, incluindo a partilha de informações e o financiamento para a ciberdefesa, “começando pelos serviços essenciais que carecem de pessoal ou orçamento”, bem como dando aos hospitais, empresas de água e saneamento e governos locais “acesso à IA defensiva”.

A carta aberta insta também as empresas que desenvolvem IA de ponta a fornecerem “acesso responsável aos modelos, financiamento significativo, formação e apoio próximo”, especialmente para entidades de infraestruturas essenciais com poucos recursos, e a garantirem, entre outras coisas, que “as identidades dos agentes são rastreáveis e responsáveis”.

A missiva junta-se a outras enviadas pela indústria nos últimos meses, que apelam cada vez mais à colaboração para manter o controlo sobre modelos de IA cada vez mais independentes e sofisticados, precisamente quando os seus programadores planeiam investir enormes quantias de dinheiro na sua melhoria e implementação.