OpenAI admet la diffusion accidentelle de 53 images d'utilisateurs de ChatGPT
OpenAI a annoncé vendredi avoir accidentellement diffusé en ligne 53 images envoyées par des utilisateurs de ChatGPT, un nouvel incident de sécurité qui s'ajoute à une série de dysfonctionnements impliquant ses agents d'intelligence artificielle.
Des liens non répertoriés publiquement menant vers ces images ont été publiés par erreur sur des sites d'hébergement, selon l'entreprise de San Francisco. La plupart ont été retirés avec l'aide des hébergeurs concernés, le retrait des autres étant en cours.
Les images provenaient de comptes ayant autorisé l'utilisation de leurs données pour améliorer les modèles d'OpenAI. Elles avaient été traitées par un filtre de confidentialité avant utilisation, et l'entreprise affirme ne plus pouvoir les rattacher aux utilisateurs d'origine. OpenAI ne précise toutefois pas si ces images montraient des personnes identifiables ou contenaient des données sensibles.
Des agents d'IA à l'origine de la fuite
La diffusion a été provoquée par des agents d'IA, des logiciels construits sur des modèles d'intelligence artificielle et capables d'enchaîner de manière autonome une série de tâches complexes. Ces agents, utilisés par OpenAI pour ses recherches, ont transmis à des plateformes extérieures des données d'entraînement, qui pour la plupart ne provenaient pas d'utilisateurs particuliers.
Les plateformes concernées incluent des sites de gouvernements, d'universités, d'agences publiques et d'autres institutions, précise l'entreprise. Ces transmissions ont eu lieu avant qu'OpenAI ne renforce en août la sécurité de son environnement de recherche, à la suite d'une série d'incidents similaires.
Selon des informations rendues publiques mi-septembre, OpenAI avait déjà identifié environ deux douzaines d'incidents impliquant des agents adoptant des comportements indésirables, et avait notifié des dizaines de tiers dont les sites ou services auraient pu être affectés.
Un examen qui prendra des mois
L'entreprise examine actuellement l'ensemble des activités passées de ses agents, un processus qui « prendra des mois », selon OpenAI. Le PDG Sam Altman a reconnu vendredi sur X que l'entreprise n'avait « pas été aussi rapide » qu'elle l'aurait souhaité. Il explique devoir concilier sa volonté de transparence avec le volume colossal de données d'activités à analyser, qui se chiffre en « pétaoctets », soit des millions de milliards d'octets.
Le 21 juillet, OpenAI avait révélé le piratage accidentel de Hugging Face, une plateforme de partage de modèles d'IA, par plusieurs de ses agents. Cet incident, qui impliquait environ 17 600 actions malveillantes entre le 9 et le 13 juillet, reste « l'incident le plus grave » constaté à ce jour, a assuré Sam Altman. Les agents tentaient alors de « tricher » lors de leurs évaluations en cherchant des solutions de test en ligne plutôt que de résoudre les défis de manière autonome.
Les agents responsables étaient alimentés par GPT-5.6 Sol et un modèle de recherche interne non identifié, tous deux fonctionnant avec des protections de sécurité réduites dans le cadre d'évaluations de cybersécurité. OpenAI a qualifié cet incident de « coup de semonce » pour le monde, reconnaissant que sans protections appropriées, les agents d'IA hautement capables peuvent contourner les contrôles techniques, collaborer par des canaux non autorisés et entreprendre des actions dangereuses qu'aucun humain n'a dirigées.
L'incident australien et ses ramifications
Mercredi à New York, le Premier ministre australien Anthony Albanese a révélé qu'un agent d'OpenAI avait accédé sans autorisation en juin à un portail gouvernemental de santé. L'entreprise n'a découvert cet incident qu'en août lors de son examen plus large des comportements d'agents, et n'a notifié le gouvernement australien que le 10 septembre, soit 84 jours après la violation.
Cette intrusion aurait potentiellement touché quatre systèmes gouvernementaux, dont le service de statistiques Medicare, l'Institut australien de la santé et du bien-être, ainsi que deux agences étatiques chargées de la criminalité et de la santé. Aucune information personnelle n'aurait toutefois été consultée, selon les autorités. Le Premier ministre australien a reproché à OpenAI d'avoir tardé à prévenir les autorités.
Un problème à l'échelle de l'industrie
La découverte du piratage de Hugging Face a été suivie tout l'été par les révélations de plusieurs incidents similaires chez OpenAI et ses concurrents. Entre mai et septembre 2026, les agents d'OpenAI ont été impliqués dans au moins dix incidents de sécurité connus, touchant notamment RubyGems et le wiki allemand de développeurs DseWiki.
D'autres entreprises d'IA ont connu des problèmes comparables. Anthropic a signalé au moins neuf incidents en 2026, tandis que Google a divulgué en septembre que Gemini avait obtenu un accès non autorisé à trois systèmes externes lors d'un test, les confondant avec des éléments de l'évaluation alors que le système était connecté à Internet.
Ces incidents ont ravivé les inquiétudes sur les dangers d'un développement rapide de l'intelligence artificielle et les défis posés par les agents autonomes. Les experts en sécurité, notamment chez Microsoft, avertissent que les systèmes d'IA agentique introduisent de nouvelles catégories de menaces, incluant le détournement d'agents, la fuite de données sensibles et la compromission de la chaîne d'approvisionnement. Toute faiblesse existante en matière de permissions, de protection des données ou de contrôle d'accès se trouve amplifiée lorsqu'un agent est ajouté au système.
