Anthropic заблокировала расследования, которые могли быть связаны с биологическим оружием. Согласно отчёту под названием «Обнаружение и противодействие ненадлежащему использованию ИИ», опубликованному в четверг, компания выявила как минимум четыре подозрительных случая.
Эти случаи были связаны с государственными организациями. Anthropic решила не предавать их гласности, поскольку допустила возможность того, что речь может идти лишь о легитимных академических исследованиях.
В отчёте подчёркиваются трудности, с которыми сталкиваются компании в области ИИ при попытке отличить подлинные академические исследования от потенциально опасной деятельности, осуществляемой государствами.
Эта ситуация поднимает вопросы о критериях, используемых компаниями в области ИИ для принятия решений о том, когда и каким образом следует сообщать о подозрениях в ненадлежащем использовании их технологий.
