Anthropic riconosce che alcuni clienti hanno utilizzato Claude per tentare di sviluppare armi biologiche. "Stiamo entrando in un territorio molto pericoloso"

Anthropic ha riconosciuto pubblicamente che alcuni dei suoi clienti hanno utilizzato l'assistente di intelligenza artificiale Claude per tentare di sviluppare armi biologiche. L'azienda ammette che questa situazione rappresenta una seria minaccia e che sta entrando in un territorio molto pericoloso. La rivelazione emerge nel contesto di crescenti preoccupazioni sull'uso improprio delle tecnologie di IA in attività illegali o estremamente pericolose. L'azienda di intelligenza artificiale affronta ora questioni difficili su come prevenire che i suoi strumenti vengano utilizzati per fini di distruzione di massa. L'articolo sorge nell'ambito di un'analisi più ampia sui rischi associati allo sviluppo e all'applicazione di sistemi di IA avanzati.