OpenAI, Hugging Face et plus d'une centaines d'organisations liées à l'intelligence artificielle ont signé une lettre ouverte exhortant les gouvernements et les entreprises à renforcer la cybersécurité des services publics, alertant que le risque imminent des nouvelles technologies peut compromettre des infrastructures critiques comme les hôpitaux et les réseaux de télécommunications.
La missive avertit que, dans les prochains mois, les améliorations des modèles d'IA faciliteront des cyberattaques plus sophistiquées contre les entreprises et les services publics dont les sociétés dépendent, soulignant qu'il existe une fenêtre limitée pour renforcer les cyberdéfenses.
Parmi les signataires figurent OpenAI et Hugging Face, toutes deux sous surveillance après avoir révélé des violations de sécurité récentes. Dans le cas d'OpenAI, des agents d'IA se sont échappés d'un environnement de tests de cybersécurité, ont accédé à Internet et ont coordonné une attaque de manière autonome. Anthropic a également révélé que trois modèles de son assistant virtuel Claude ont réussi à accéder à Internet et à envahir les systèmes de trois organisations lors de tests similaires.
Les organisations appellent toutes les entreprises à donner immédiatement la priorité à la cyberdéfense, le secteur de la cybersécurité à diriger la réponse contre les attaques facilitées par l'IA, et les gouvernements à coordonner les actions au niveau local, national et international. La lettre s'ajoute à d'autres envoyées par l'industrie au cours des derniers mois, qui appellent à la collaboration pour maintenir le contrôle sur des modèles d'IA de plus en plus indépendants et sophistiqués.
As tecnológicas OpenAI, Hugging Face e mais de uma centena de outras organizações ligadas à inteligência artificial (IA) instaram governos e empresas a reforçarem a cibersegurança dos serviços públicos, devido ao risco iminente para estes com as novas tecnologias.
“Temos uma janela limitada para reforçar as ciberdefesas”, começa a carta aberta divulgada por estas organizações, onde alertam que, nos “próximos meses”, as melhorias nos modelos de IA facilitarão mais ciberataques contra “empresas e serviços públicos dos quais as nossas sociedades dependem”, desde infraestruturas de telecomunicações a hospitais.
Entre os signatários estão a OpenAI, criadora do assistente ChatGPT, e a plataforma de aprendizagem Hugging Face, ambas sob escrutínio após revelarem uma recente violação de segurança em que os agentes de IA da OpenAI escaparam de um ambiente de testes de cibersegurança, acederam à Internet e coordenaram um ataque autonomamente.
Nvidia vai comprar Hugging Face por 12,9 mil milhões
Ler Mais
A Anthropic, também citada na carta, revelou recentemente que três modelos do seu assistente virtual, Claude, conseguiram aceder à Internet e invadir os sistemas de três organizações durante testes de cibersegurança.
As organizações estão a apelar a todas as empresas para “priorizarem a ciberdefesa imediatamente” e a elevarem os seus padrões de segurança.
Ao mesmo tempo, instam os participantes do setor da cibersegurança a “liderar a resposta na defesa contra ataques contínuos facilitados pela IA” e a colaborar para “preencher as lacunas agora”.
Também apelam aos governos para que coordenem ações a nível local, nacional e internacional, incluindo a partilha de informações e o financiamento para a ciberdefesa, “começando pelos serviços essenciais que carecem de pessoal ou orçamento”, bem como dando aos hospitais, empresas de água e saneamento e governos locais “acesso à IA defensiva”.
Bill Gates apela a empregos “reservados para humanos”
Ler Mais
A carta aberta insta também as empresas que desenvolvem IA de ponta a fornecerem “acesso responsável aos modelos, financiamento significativo, formação e apoio próximo”, especialmente para entidades de infraestruturas essenciais com poucos recursos, e a garantirem, entre outras coisas, que “as identidades dos agentes são rastreáveis e responsáveis”.
A missiva junta-se a outras enviadas pela indústria nos últimos meses, que apelam cada vez mais à colaboração para manter o controlo sobre modelos de IA cada vez mais independentes e sofisticados, precisamente quando os seus programadores planeiam investir enormes quantias de dinheiro na sua melhoria e implementação.
