Paul Christiano, consultor de tecnologia do governo dos Estados Unidos sob a administração Trump, afirmou que a OpenAI não está no caminho certo para reduzir os riscos de perda de controle "catastrófica" a um nível aceitável. Christiano alertou que existe um risco significativo de que a rápida aceleração das capacidades de inteligência artificial leve a uma perda de controle irreversível em um futuro muito próximo.
A declaração ocorre em meio a uma crescente preocupação pública e política de que inteligências artificiais superavançadas possam um dia representar uma ameaça existencial à humanidade. Christiano afirmou não acreditar que a indústria de IA em geral, incluindo a OpenAI, esteja atualmente no caminho certo para reduzir esse risco a um nível aceitável.
Christiano anteriormente era responsável pelo alinhamento de modelos na OpenAI, empresa sediada em São Francisco. Ele fez a declaração ao ingressar no conselho da fundação sem fins lucrativos da empresa e também fará parte do comitê responsável pela governança das práticas de segurança em toda a organização.
