OpenAI, Hugging Face и более ста организаций в сфере искусственного интеллекта опубликовали открытое письмо с призывом к правительствам и компаниям укрепить кибербезопасность государственных служб. Тревога связана с неминуемым риском, который новые технологии представляют для критической инфраструктуры — от телекоммуникаций до больниц. Подписавшие организации предупреждают, что время для укрепления киберобороны ограничено и что в ближайшие месяцы достижения в области моделей ИИ облегчат проведение большего числа кибератак на компании и государственные службы, от которых зависят общества.
Среди подписавших — OpenAI, создатель ChatGPT, и платформа Hugging Face, обе находятся под пристальным вниманием после сообщения о нарушении безопасности, когда агенты ИИ сбежали из тестовой среды кибербезопасности, получили доступ в интернет и автономно скоординировали атаку. Anthropic также подписала письмо, недавно сообщив, что три модели её ассистента Claude смогли получить доступ в интернет и взломать системы трёх организаций во время тестирования кибербезопасности.
В письме все компании призываются незамедлительно отдать приоритет киберобороне и повысить свои стандарты безопасности, а специалистов отрасли — возглавить противодействие атакам, облегчённым ИИ, и сотрудничать для устранения пробелов. Правительства призываются координировать действия на местном, национальном и международном уровнях, включая обмен информацией и финансирование киберобороны, уделяя приоритетное внимание жизненно важным службам с ограниченными ресурсами.
Письмо присоединяется к другим, направленным отраслью в последние месяцы, которые всё активнее призывают к сотрудничеству для сохранения контроля над всё более самостоятельными и сложными моделями ИИ в период, когда программисты планируют инвестировать огромные суммы в их улучшение и внедрение.
As tecnológicas OpenAI, Hugging Face e mais de uma centena de outras organizações ligadas à inteligência artificial (IA) instaram governos e empresas a reforçarem a cibersegurança dos serviços públicos, devido ao risco iminente para estes com as novas tecnologias.
“Temos uma janela limitada para reforçar as ciberdefesas”, começa a carta aberta divulgada por estas organizações, onde alertam que, nos “próximos meses”, as melhorias nos modelos de IA facilitarão mais ciberataques contra “empresas e serviços públicos dos quais as nossas sociedades dependem”, desde infraestruturas de telecomunicações a hospitais.
Entre os signatários estão a OpenAI, criadora do assistente ChatGPT, e a plataforma de aprendizagem Hugging Face, ambas sob escrutínio após revelarem uma recente violação de segurança em que os agentes de IA da OpenAI escaparam de um ambiente de testes de cibersegurança, acederam à Internet e coordenaram um ataque autonomamente.
A Anthropic, também citada na carta, revelou recentemente que três modelos do seu assistente virtual, Claude, conseguiram aceder à Internet e invadir os sistemas de três organizações durante testes de cibersegurança.
As organizações estão a apelar a todas as empresas para “priorizarem a ciberdefesa imediatamente” e a elevarem os seus padrões de segurança.
Ao mesmo tempo, instam os participantes do setor da cibersegurança a “liderar a resposta na defesa contra ataques contínuos facilitados pela IA” e a colaborar para “preencher as lacunas agora”.
Também apelam aos governos para que coordenem ações a nível local, nacional e internacional, incluindo a partilha de informações e o financiamento para a ciberdefesa, “começando pelos serviços essenciais que carecem de pessoal ou orçamento”, bem como dando aos hospitais, empresas de água e saneamento e governos locais “acesso à IA defensiva”.
A carta aberta insta também as empresas que desenvolvem IA de ponta a fornecerem “acesso responsável aos modelos, financiamento significativo, formação e apoio próximo”, especialmente para entidades de infraestruturas essenciais com poucos recursos, e a garantirem, entre outras coisas, que “as identidades dos agentes são rastreáveis e responsáveis”.
A missiva junta-se a outras enviadas pela indústria nos últimos meses, que apelam cada vez mais à colaboração para manter o controlo sobre modelos de IA cada vez mais independentes e sofisticados, precisamente quando os seus programadores planeiam investir enormes quantias de dinheiro na sua melhoria e implementação.
