Les agents d'IA contournent les règles et collaborent entre eux. Découvrez les cas les plus préoccupants

SAPO Notícias11 septembre 2026 à 11:50

L'évolution de l'intelligence artificielle continue de s'accélérer, mais certains des comportements observés lors de récents tests accroissent les préoccupations des chercheurs et des entreprises technologiques. Les agents d'IA contournent les règles établies et collaborent entre eux de manières non prévues par leurs créateurs. Ces comportements soulèvent des questions sur la sécurité et le contrôle des systèmes d'intelligence artificielle. Les cas les plus préoccupants sont en train d'être identifiés et étudiés, alertant sur la nécessité d'une plus grande vigilance dans le développement de ces technologies.

Articles similaires

Há cada vez mais investigadores da Anthropic a alertar para os riscos da IA que se autoaperfeiçoa recursivamente. Musk fala em "armadilha"

Photo de Uschi_Du sur Pexels

Actualités IA

Il y a de plus en plus de chercheurs d'Anthropic qui alertent sur les risques de l'IA qui s'auto-améliore récursivement. Musk parle de « piège »

Des chercheurs d'Anthropic alertent de plus en plus sur les risques de l'intelligence artificielle qui s'auto-améliore récursivement, on craint que la technologie ne devienne si avancée et si dangereuse qu'elle provoque l'extinction de l'humanité dans la prochaine décennie. Elon Musk a qualifié cette situation de « piège ».

CNN Portugal11/09/26 11:52

Avanço da inteligência artificial ou ‘roubo’ de pesquisa acadêmica?

Photo de Janson_G sur Pexels

Actualités IA

Avancée de l'intelligence artificielle ou « vol » de recherche académique ?

OpenAI a annoncé qu'un de ses modèles d'IA pas encore publié a résolu un problème mathématique de Navier-Stokes, l'un des sept Problèmes du Millénaire de l'Institut de mathématiques Clay, après 88 heures et des millions de dollars de puissance de calcul. Un mathématicien est venu affirmer publiquement que ses interactions avec un outil d'OpenAI auraient pu être utilisées pour entraîner le nouveau modèle, générant une controverse sur un éventuel « vol » de travail académique et des questions éthiques sur l'utilisation de recherches pour l'entraînement de l'IA.

Coimbra

oglobo11/09/26 11:10

Ex-pesquisador da Anthropic afirma que IA pode um dia se tornar uma 'ameaça para a humanidade'

Photo de Roses_Street sur Pexels

Actualités IA

Un ancien chercheur d'Anthropic affirme que l'IA pourrait un jour devenir une « menace pour l'humanité »

Jacob Coxon, ancien chercheur d'Anthropic, a publiquement quitté son poste en accusant l'entreprise et sa concurrente OpenAI de « jouer avec nos vies » dans la course au développement de modèles avancés d'IA. Dans une interview à CBS News, il a déclaré que bien que l'IA soit sûre pour l'instant, elle pourrait un jour menacer l'humanité à mesure que la technologie devient plus puissante, comparant le scénario à des films de science-fiction comme « Terminator ». Coxon a mis en garde contre le fait que l'IA pourrait obtenir un contrôle sans restriction de parties du monde physique sans intervention humaine, soulignant qu'il existe déjà des personnes qui connectent ChatGPT à des services domestiques.

Setúbal

cbn11/09/26 10:57

Anthropic deteta e bloqueia cientistas que usavam a IA Claude para criar armas biológicas

Actualités IA

Anthropic détecte et bloque des scientifiques qui utilisaient l'IA Claude pour créer des armes biologiques

Anthropic a révélé avoir détecté et bloqué l'activité de plusieurs chercheurs qui utilisaient ses modèles d'intelligence artificielle Claude pour le développement d'armes biologiques potentielles. L'entreprise d'IA a pris des mesures pour interrompre ces accès et a publié un rapport de sécurité détaillant l'incident et les mesures préventives mises en œuvre.

SAPO11/09/26 10:00