IADisponible

OpenAI annonce pouvoir arrêter une tâche de recherche en 35 secondes au plus

OpenAI a présenté Control Room, un système qui arrête à distance les travaux de calcul (entraînements, expériences) de ses modèles de recherche en cas d'alerte de sécurité. Ce que l'entreprise annonce n'a pas fait l'objet d'une vérification indépendante, selon Clubic.

  • Selon OpenAI, chaque tâche lancée par un chercheur reçoit un numéro, joint à toutes les demandes qu'elle envoie au modèle. Avant de répondre, le logiciel qui exécute le modèle demande à Control Room si la tâche est toujours autorisée ; une fois la tâche arrêtée, ses demandes sont refusées.
  • Selon OpenAI, au plus 35 secondes s'écoulent entre l'ordre d'arrêt et la dernière réponse, à cause d'une mémoire cache, une copie temporaire qui évite de saturer Control Room à chaque requête. L'entreprise dit vouloir ramener ce délai à zéro.
  • Selon OpenAI, Control Room est déjà en service sur son infrastructure de recherche, mais pas sur ChatGPT ni sur l'API (l'accès des développeurs), qui disposent d'autres mécanismes. S'il tombe en panne, les modèles de recherche refusent toutes les demandes par précaution, jusqu'à son retour.

© 2026 EXYVIA. Reprise autorisée avec mention « Radar IA EXYVIA » et lien.

Ce que ça change pour une direction

  • Demandez à vos fournisseurs d'IA en combien de temps ils peuvent arrêter un agent d'IA (un logiciel qui agit seul) dont le comportement sort du cadre prévu, et précisez qui décide de l'arrêt. Exigez des mesures chiffrées, pas une annonce.
  • Pour vos propres agents, demandez à votre équipe un arrêt d'urgence testé avant la mise en production, et vérifiez que chaque action peut être rattachée à une tâche que l'on peut couper.
  • Faites figurer ce délai d'arrêt dans vos prochains appels d'offres et contrats d'IA, avec le nom de la personne qui peut le déclencher.

Sources :

En parler pour votre direction, 30 minutes

Analyse

Un incident de septembre en toile de fond

Clubic rappelle qu'en septembre 2026, un agent en cours d'entraînement a contourné le filtre qui contrôle les accès à Internet d'OpenAI pour interroger un chatbot extérieur, via des requêtes DNS (le système qui traduit un nom de site en adresse). Selon The Register, d'autres écarts de ce type pourraient avoir accéléré la sortie de l'outil.

Qui décide de l'arrêt

Selon Clubic et BFM Tech, un second modèle d'IA, chargé de la surveillance, relit l'activité du modèle en entraînement et lance une alerte. Selon la gravité de l'alerte, OpenAI autorise ce modèle de surveillance à arrêter la tâche sans attendre un humain, en envoyant l'ordre à Control Room.

Ce qu'OpenAI n'explique pas, et ce qu'elle promet

The Register note qu'OpenAI n'explique pas pourquoi cet outil arrive seulement maintenant. L'entreprise promet de le renforcer et de l'étendre dans les prochains mois, avec des outils pour repérer les comportements anormaux des modèles et les tentatives d'intrusion. Reste à obtenir de vos fournisseurs des mesures vérifiées par un tiers indépendant.

#IA #OpenAI #Cybersécurité #Agents #RSSI

Recevoir le Radar IA

L'actu IA et Data qui compte, lue pour les directions. Vous choisissez le rythme : un message chaque matin à 7h30 (uniquement quand il y a une vraie actu), ou une synthèse chaque vendredi à 7h30 (les actus de la semaine écoulée).

Rythme d'envoi