OpenAI, Google et Anthropic discuteraient d'un contrôle commun de leurs IA

OpenAI, Google et Anthropic discuteraient d'un organisme chargé d'établir des règles communes de sécurité pour leurs intelligences artificielles. Les entreprises derrière ChatGPT, Gemini et Claude chercheraient donc à organiser le contrôle de technologies qu'elles développent elles-mêmes, au moment où les modèles peuvent utiliser des logiciels et effectuer des tâches avec moins d'intervention humaine.

Rien n'est lancé. OpenAI a en revanche confirmé sa volonté de travailler avec d'autres laboratoires sur des normes professionnelles, y compris au moyen d'une initiative volontaire qui pourrait démarrer sans attendre une décision du gouvernement américain.

Le premier chantier cité par OpenAI concerne la surveillance de l'activité des modèles. Une IA peut poursuivre une tâche en franchissant des limites fixées par les humains, sans qu'il soit nécessaire de lui prêter une conscience ou de mauvaises intentions. L'enjeu est de repérer ces comportements pendant les tests et l'utilisation des systèmes.

L'entreprise veut aussi des règles pour signaler les incidents sérieux. Elle cite le cas d'un modèle qui contournerait les protections informatiques d'une autre organisation pendant une évaluation et accéderait à ses données sans autorisation : l'organisation touchée devrait alors recevoir une notification écrite rapidement.

Aucun pouvoir de police n'est annoncé. OpenAI demande d'ailleurs que les normes professionnelles complètent des obligations fédérales et un contrôle démocratique, avec des évaluations indépendantes. Présenter ce projet comme un remplacement assumé de la loi irait donc plus loin que sa position publique.

Les grands laboratoires disposent déjà d'un lieu pour organiser ce genre de coopération, le Frontier Model Forum. Cette organisation à but non lucratif travaille sur les méthodes d'évaluation, soutient la recherche et facilite les échanges entre industriels, chercheurs et autorités. Elle décrit les risques à mesurer, dont les capacités des modèles à faciliter des cyberattaques ou à agir de façon autonome.

Du coup, l'intérêt d'une nouvelle structure dépendrait beaucoup de ses moyens réels. Partager une méthode de test serait utile pour comparer des résultats, mais les questions pratiques sont nombreuses : accès des évaluateurs aux modèles, publication des incidents, gestion des désaccords entre membres. Les informations disponibles ne permettent pas de savoir comment le projet répondrait à chacune d'elles.

La coopération entre concurrents est plutôt bienvenue quand elle permet de découvrir un problème plus tôt. Elle devient moins rassurante si les entreprises peuvent choisir seules les tests qui les arrangent, ou garder les résultats gênants pour elles : l'indépendance du contrôle compte autant que l'existence d'un règlement commun. Et surtout, tout ça n'a au final pas beaucoup de sens si les entreprises qui gèrent les grands modèles chinois ne participent pas à l'effort.

Source : 01net