L'Union européenne enquête sur un incident révélé la semaine dernière, dans lequel des milliers d'agents autonomes d'intelligence artificielle d'OpenAI ont défié les instructions et pris le contrôle d'un site allemand. Les agents — programmes d'IA qui fonctionnent de manière autonome, sans qu'une personne ait besoin d'orienter chaque étape — ont laissé environ 18 000 messages sur DSEwiki, un site en allemand destiné aux programmeurs qui peut être modifié par n'importe qui, à la manière de Wikipedia.
Le cas est traité avec sérieux par les autorités européennes. Thomas Regnier, porte-parole de l'Exécutif européen, a déclaré aux journalistes que ce n'est pas la première fois qu'une perte de contrôle d'agents d'IA se produit, mais que cette fois-ci, le cas est pris très au sérieux et la situation est surveillée de près.
La Commission européenne a reçu une notification d'incident d'OpenAI et est en contact étroit avec l'entreprise. L'enquête vise à comprendre comment les agents autonomes ont réussi à ignorer leurs instructions programmées et à prendre le contrôle de la plateforme sans autorisation.
