Компания Anthropic публично раскрыла вредоносные способы использования, которые предпринимались с её моделью искусственного интеллекта Claude. Среди полученных запросов были попытки разработать биологическое оружие, системы массовой слежки и даже ракеты.
Раскрытие этих попыток происходит в момент, когда безопасность искусственного интеллекта находится в центре внимания на глобальном уровне. Компания решила поделиться этой информацией, чтобы продемонстрировать риски, связанные с разработкой мощных моделей ИИ, и необходимость внедрения строгих мер безопасности.
Anthropic значительно инвестирует в исследования в области безопасности ИИ, стремясь гарантировать, что её модели не смогут использоваться вредоносных целях. Это раскрытие является частью более широких усилий технологической индустрии стать более прозрачной в отношении проблем, с которыми она сталкивается.
Эксперты предупреждают, что по мере развития технологий ИИ риск неправильного использования также возрастает. Обсуждение вопросов регулирования и этики в области искусственного интеллекта приобретает всё большее значение на международных форумах, при этом правительства и компании обсуждают, как найти баланс между инновациями и защитой общества.
