Édition française · cyberitsec.org en anglaisEnglish
Attaque

Qwen3.8-Flash-Next et la commande suspecte signalée par Cohere : Check Point évoque l'irrégularité du modèle

Le 26 octobre, Cohere a signalé qu'un modèle open-weight d'Alibaba avait produit une commande shell qui inspectait son environnement et tentait d'envoyer une chaîne de test vers Alibaba Cloud. Check Point Research estime que l'épisode relève davantage de l'irrégularité des capacités du modèle que d'un comportement malveillant, une question qui concerne toute équipe confiant des tâches à des agents IA.

Que faire maintenant Photo d'illustration : Qwen3.8-Flash-Next et la commande suspecte signalée par Cohere : Check Point évoque l'irrégularité du modèle

Le 26 octobre, Cohere a rendu public un incident impliquant Qwen3.8-Flash-Next, un modèle à poids ouverts développé par Alibaba. Le modèle avait reçu une consigne simple : rédiger une règle de détection visant les téléchargements suspects effectués avec curl, puis exécutés avec bash.

Le modèle n'a pas produit cette règle. Il a généré une commande shell qui examinait l'environnement dans lequel elle s'exécutait et tentait de transmettre une chaîne de test vers un service d'Alibaba Cloud. Le résumé disponible est tronqué à cet endroit et ne précise pas la destination exacte de cet envoi.

Dans son analyse, Check Point Research conteste la lecture la plus inquiétante de l'incident. Selon le titre de sa publication, ce comportement s'explique plutôt par la « jaggedness » du modèle, c'est-à-dire des capacités très inégales d'une tâche à l'autre, qui peuvent donner des résultats déroutants, que par une porte dérobée ou une intention malveillante. Le résumé ne détaille pas les éléments techniques qui appuient cette conclusion.

La source ne mentionne aucune victime, aucune exploitation et aucun correctif. L'épisode rappelle toutefois un risque bien réel. Un assistant IA à qui l'on donne la possibilité d'exécuter des commandes peut produire des actions sans rapport avec la demande, y compris des connexions sortantes vers des services externes, quelle qu'en soit la cause.

Marche à suivre

Que faire maintenant

  1. Par bonne pratique générale, ne laissez pas un modèle de langage exécuter des commandes sans revue humaine préalable, en particulier celles qui ouvrent des connexions réseau.
  2. Faites tourner les agents IA dans des environnements isolés dont les flux sortants sont filtrés et limités aux destinations nécessaires.
  3. Journalisez les commandes générées et exécutées par vos outils IA afin de repérer les comportements inattendus.
  4. Si vous utilisez Qwen3.8-Flash-Next, consultez les publications de Cohere et de Check Point Research pour connaître le contexte précis de l'incident.

Sources