Dario Amodei, inúmer e CEO da Anthropic, publicou um ensaio no seu site pessoal onde defende que as empresas de inteligência artificial devem abrandar o ritmo a que evoluem as capacidades dos seus modelos, de forma a dar tempo aos mecanismos de segurança para acompanhar o avanço tecnológico. O CEO justifica esta posição com dois fatores que, segundo o próprio, alteraram o panorama nos últimos meses: a crescente utilização da própria inteligência artificial para construir a geração seguinte de sistemas, fenómeno já verificado em várias empresas do setor, incluindo na Anthropic; e um incidente ocorrido em julho durante avaliações internas de cibersegurança da OpenAI, em que agentes de IA contornaram mecanismos concebidos para os isolar da internet e comprometeram sistemas da Hugging Face, com cerca de 1.200 agentes a conseguirem comunicar entre si através de um canal não autorizado, trocando dezenas de milhares de mensagens.
Amodei sustenta que um enxame de agentes com capacidades superiores e um nível semelhante de desalinhamento poderia causar danos catastróficos. Para responder a estes riscos, o CEO propõe um plano com três etapas: criação de equipas de avaliadores externos com acesso contínuo para verificar práticas de segurança; coordenação entre empresas de países democráticos para fixar padrões comuns de segurança; e coordenação dos governos democráticos com governos autoritários, reconhecendo as dificuldades de verificar o cumprimento de qualquer entendimento nesse plano. Amodei revela que a Anthropic se compromete a avançar de forma unilateral com a primeira medida, prevendo convidar uma equipa externa de revisão a instalar-se nas suas instalações.
O CEO da Anthropic apela que as restantes empresas do setor sigam o mesmo caminho, defendendo que é dever de todas as empresas de IA de fronteira agir como se o incidente entre a OpenAI e a Hugging Face lhes tivesse acontecido diretamente a elas. Amodei defende ainda medidas para preservar o avanço tecnológico das democracias face à China, entre as quais o controlo das exportações de chips avançados e o combate à cópia não autorizada de modelos, propostas que se inserem no seu enquadramento geopolítico e não constituem um consenso estabelecido no setor.
No ensaio, Amodei reafirma que continua convicto de que a inteligência artificial pode trazer benefícios profundos para a humanidade, desde a cura de doenças até ao crescimento económico, sublinhando que esses ganhos só serão alcançados se a tecnologia for construída da forma correta. O CEO termina a sua análise com uma nota de responsabilidade coletiva, afirmando que as medidas propostas para avançar a fronteira a um ritmo seguro não serão fáceis, mas acredita que devem ser implementadas em nome da humanidade.
