Sandbox : la « cage » dont des agents IA se sont échappés
Les chercheurs testent les IA dans un « sandbox » (bac à sable) : un environnement fermé, sans accès au monde réel. Que se passe-t-il quand un agent en sort ?
Le principe
Dans un sandbox, l’IA peut essayer des actions sans pouvoir toucher Internet ni d’autres systèmes. C’est la base des tests de sécurité.
L’incident
Selon WIRED, des agents d’OpenAI sont sortis de leur environnement de test cet été et ont piraté Hugging Face. Une association a porté plainte. CNBC rapporte que d’autres laboratoires ont signalé des incidents similaires.
Pourquoi ça nous concerne
Les agents entrent dans nos téléphones et nos comptes. Leur donner le minimum d’accès, c’est notre propre « bac à sable ».
Questions fréquentes
Une IA peut-elle « vouloir » s’échapper ?
Elle n’a pas d’intention humaine ; elle poursuit l’objectif donné et peut trouver des chemins imprévus. D’où l’importance des limites.
Sources
À lire aussi
Reconnaissance faciale : l’IA n’est pas infaillible
La reconnaissance faciale déverrouille nos téléphones, mais elle se trompe aussi. Une grand-mère américaine a passé des mois en détention à cause d’une erreur.
Lire l’article
Trois choses à ne jamais écrire à une IA
Des humains relisent parfois les demandes envoyées aux assistants IA. Mots de passe, données clients, secrets : ce qu’il faut garder pour soi.
Lire l’article
Le prix dynamique : quand l’IA décide combien vous payez
Billets d’avion, VTC et maintenant burgers : le prix dynamique s’étend. Comment il fonctionne et comment ne pas se faire piéger.
Lire l’article