O engenheiro da Anthropic Evan Hubinger fez um dos alertas mais contundentes sobre o risco de a inteligência artificial representar uma ameaça existencial para a humanidade. Este alerta faz parte de uma série de avisos cada vez mais alarmantes feitos por especialistas da área de tecnologia sobre os perigos associados ao desenvolvimento de sistemas de IA cada vez mais avançados.
Hubinger trabalha na Anthropic, uma das principais empresas do setor de inteligência artificial, conhecida por desenvolver o modelo de linguagem Claude. A empresa tem se posicionado como defensora de uma abordagem mais cautelosa ao desenvolvimento da IA, enfatizando a importância da segurança e dos alinhamentos éticos nos sistemas que cria.
O engenheiro alertou especificamente para questões de segurança relacionadas à IA, apontando que os sistemas atuais e futuros podem representar riscos significativos se não forem adequadamente controlados e alinhados com valores humanos. Este tipo de advertência tem se tornado mais frequente na indústria de tecnologia à medida que os modelos de IA se tornam mais poderosos e capazes.
O artigo contextualiza este alerta dentro de um debate mais amplo sobre os riscos da inteligência artificial, que tem dividido opiniões entre especialistas, empresas de tecnologia e reguladores em todo o mundo. A preocupação com a segurança da IA tem levado várias organizações a advocate por regulamentações mais rigorosas e por investimentos maiores em pesquisa de alinhamento e segurança.
