I ricercatori di intelligenza artificiale hanno recentemente messo in guardia sui possibili pericoli dei sistemi informatici "sovraintelligenti", suggerendo che forme avanzate di questa tecnologia potrebbero annientare l'umanità. Questi avvertimenti sollevano questioni sul fatto che i governi stiano agendo con la velocità necessaria per regolamentare adeguatamente questa tecnologia.
Gli specialisti del settore dell'intelligenza artificiale descrivono questa minaccia come critica da molto tempo. Le preoccupazioni si concentrano sul potenziale distruttivo che sistemi di IA altamente avanzati potrebbero avere qualora diventassero incontrollabili o fossero utilizzati in modo malevolo.
Nel 2023, centinaia di scienziati di intelligenza artificiale e figure di spicco del settore hanno firmato una dichiarazione sul "rischio di estinzione associato all'IA". Tra i firmatari c'erano i leader dei principali laboratori americani di intelligenza artificiale.
La dichiarazione chiedeva che la questione fosse trattata con la stessa serietà delle pandemie, evidenziando l'urgenza che gli specialisti attribuiscono alla necessità di regolamentazione e supervisione degli sviluppi in questo settore.
