Компания Anthropic выявила как минимум пять проектов, в которых её модели искусственного интеллекта использовались в исследованиях, которые могли бы способствовать разработке биологического оружия. Это открытие побудило компанию заблокировать использование своих моделей в таких обстоятельствах.
Некоторые из этих проектов имели высокий пандемический потенциал, что означает, что соответствующие исследования потенциально могли облегчить создание биологических агентов, способных вызывать пандемии в больших масштабах.
Anthropic решила внедрить ограничения, чтобы помешать использованию своих моделей ИИ в исследованиях подобного характера, тем самым укрепляя существующие в компании меры безопасности.
Данная ситуация возникает в контексте растущей обеспокоенности относительно ненадлежащего использования технологий искусственного интеллекта при разработке оружия массового уничтожения и других вредоносных целей.
