Ricardo Teixeira, fondateur de CompuWorks depuis 2002 et spécialiste avec environ 30 ans de carrière commencée chez Microsoft, analyse dans une interview le Règlement sur l'intelligence artificielle de l'Union européenne (AI Act), qui a été adopté en août. Le règlement crée un cadre juridique qui classe les systèmes d'IA en quatre catégories de risque : risque inacceptable (systèmes interdits comme le scoring social), risque élevé (applications dans des domaines sensibles comme la santé et l'éducation), risque limité (avec des obligations de transparence comme l'identification des deepfakes) et risque minimal (applications courantes). Les amendes pour non-conformité peuvent atteindre 35 millions d'euros ou 7 % du chiffre d'affaires mondial annuel.
Teixeira reconnaît que l'Union européenne a tendance à trop réguler, ce qui peut freiner l'innovation, mais défend que l'AI Act crée confiance et sécurité pour ceux qui déposent des données en Europe, surtout dans un contexte où la souveraineté des données est de plus en plus pertinente lorsque ceux-ci sont soumis à des centres de données sous législation américaine. Le spécialiste cite le cas récent d'OpenAI, qui créait des systèmes de scoring et attaquait d'autres systèmes, comme exemple de la façon dont l'IA "a pris vie propre".
L'interviewé alerte sur le fait que le Portugal est très mal préparé à gérer les risques associés à l'IA, soulignant la faible maturité numérique des entreprises portugaises, particulièrement dans les PME et les entreprises familiales qui, selon lui, sont plus préoccupées par le paiement des factures que par la sécurité technologique. Teixeira défend qu'il est nécessaire de mettre en place des contrôles rigoureux, une surveillance permanente, une gestion des politiques des fournisseurs et une formation des utilisateurs, mais reconnaît qu'il est très difficile d'expliquer ces questions aux gestionnaires de PME.
Teixeira prévoit que le monde tel que nous le connaissons sera "brutalement transformé" dans un délai de cinq ans, et que nous sommes déjà dans une phase d'"IA contre IA", où les systèmes de protection et d'attaque utilisent l'intelligence artificielle. Bien qu'il considère que les États-Unis sont encore en tête de l'innovation, il croit que la Chine gagne du terrain de façon rapide et inquiétante, suggérant que bientôt la leadership pourrait changer.
