Sam Altman, diretor executivo da OpenAI, empresa responsável pelo ChatGPT, alertou publicamente sobre duas formas pelas quais a inteligência artificial poderia dar "muito errado". O executivo compartilhou suas preocupações através de uma publicação nas redes sociais.
A primeira ameaça identificada por Altman é a possibilidade de perder o controle sobre o futuro da IA. Ele classificou esse cenário como "inaceitável" e defendeu que a inteligência artificial deve "sempre servir às pessoas". Para isso, Altman强调了 a necessidade de que técnicas de alinhamento e segurança estejam sempre à frente das capacidades dos modelos de IA.
A segunda preocupação de Altman envolve a concentração excessiva de poder. Ele alertou para um cenário onde o poder da IA estaria nas mãos de "uma única pessoa ou empresa", o que poderia ser usado para "impor sua visão de mundo a todos os outros", gerando resultados que Altman descreveu como "distópicos".
Segundo Altman, evitar essas duas ameaças exige seguir um "caminho intermediário estreito". Ele deu exemplos concretos, mencionando que um país poderia ganhar poder demais com a tecnologia, assim como um laboratório de IA poderia acabar acumulando controle excessivo.
