ИИ, который лечит, также может помочь убивать
На протяжении многих лет опасность использования искусственного интеллекта для создания биологического оружия оставалась преимущественно в сфере тревожных прогнозов. Теперь это уже не так. Одна из самых продвинутых компаний сектора, Anthropic, сообщила о блокировке пяти случаев использования своих моделей для биологических исследований высокого риска. Компании не удалось доказать, что участники намеревались причинить вред, однако были выявлены попытки доступа к чувствительной информации о потенциально смертельных патогенных агентах.
Anthropic является одной из ведущих компаний в разработке продвинутых языковых моделей, competing directly with OpenAI and Google in the AI race. Это открытие происходит в момент, когда технологическая гонка между крупными компаниями усиливает давление в пользу быстрых инноваций, часто за счёт более строгих мер безопасности.
Этот случай обнажает фундаментальное противоречие в отрасли: чем мощнее становятся ИИ-системы, тем выше потенциал их ненадлежащего использования. Способность генерировать синтетический биологический код, моделировать опасные белки или предлагать формулы смертельных химических веществ представляет беспрецедентный риск. Эксперты предупреждают, что существующие защитные механизмы могут оказаться недостаточными перед злоумышленниками, determined to circumvent them.
Регулирующие органы теперь сталкиваются с задачей не отставать от технологии, которая развивается быстрее, чем законодательство успевает реагировать. Без чётких правовых рамок и международной координации сектор по-прежнему по существу зависит от саморегулирования компаний, что оставляет множество вопросов открытыми относительно истинных масштабов этой проблемы.
