Sep 8 • 🚀 Automatisation
🔌 Le boîtier IA que même votre antivirus ne voit pas
Cette semaine, à IFA Berlin, une jeune entreprise de Shenzhen a présenté Violoop, un boîtier de la taille d'un réveil qui se branche entre un ordinateur et son écran.
Il regarde ce qui s'affiche, décide d'une suite d'actions, puis tape et clique à la place de l'utilisateur.
La société a levé plusieurs centaines de millions de yuans depuis mars, auprès d'investisseurs comme Lenovo Capital, et revendique environ 12 000 précommandes avant même l'ouverture de sa campagne de financement participatif, prévue à la mi-septembre.
Dans nos métiers, un nouvel outil logiciel passe presque toujours par plusieurs semaines de vérification. Le service informatique regarde le produit, parfois un DPO relit une clause de sous-traitance.
Un objet qui ressemble à un accessoire de bureau peut, lui, arriver sur un poste de travail sans que personne n'ait eu ce réflexe. Un dossier de constitution de société affiche pourtant souvent, sur le même écran, une pièce d'identité et un extrait de compte bancaire, parfois couverts par une clause de secret professionnel.
Comment ça fonctionne concrètement
Violoop capte l'image de l'écran par HDMI, et se branche en USB en se faisant passer pour un clavier et une souris ordinaires.
Un modèle installé dans le boîtier, un Qwen à 8 milliards de paramètres selon le fabricant, interprète ce qu'il voit et prépare les actions à exécuter.
Pour les tâches plus lourdes, l'appareil peut transmettre la demande à un service en ligne comme ChatGPT, Claude ou Gemini, avec une clé d'API fournie par l'utilisateur.
L'utilisateur doit presser un bouton physique sur le dessus avant chaque action jugée sensible, principal argument de sécurité mis en avant par le fabricant. Aucun pilote n'est installé sur l'ordinateur ciblé, et pour le système d'exploitation, l'appareil se présente comme un clavier parmi d'autres.
Un agent logiciel et ce boîtier, où est la différence ?
La plupart des agents IA que l'on croise aujourd'hui tournent en logiciel, à l'intérieur même de l'ordinateur. Ce sont des programmes que le système connaît, qu'un antivirus ou un outil de sécurité d'entreprise peut repérer et bloquer.
Violoop change ce rapport, parce qu'il n'existe pour la machine que comme un clavier.
Le sigle technique de cette famille de connexions est HID, Human Interface Device.
Un système d'exploitation fait confiance par construction à tout ce qui se présente comme un clavier ou une souris.
C'est ce principe qui permet à Violoop de fonctionner sans pilote sur n'importe quel poste. En anglais, HID se prononce comme "hide", cacher, une coïncidence qui résume assez bien la situation.
C'est aussi, depuis une bonne dizaine d'années, le principe des outils de test d'intrusion vendus sous des noms comme Rubber Ducky ou BadUSB, conçus pour taper des commandes sans déclencher d'antivirus.
Kaspersky vend même une fonction dédiée, appelée BadUSB Attack Prevention, pour repérer ce type de périphérique.
Violoop n'a évidemment aucune intention malveillante, mais il repose sur la même faille de confiance, et un logiciel de sécurité classique ne le distinguera pas d'un clavier tenu par un humain.
Ce que l'annonce ne dit pas suffisamment
L'article 32 du RGPD demande des mesures de sécurité adaptées au risque du traitement.
Un appareil qu'aucun outil de sécurité existant ne peut voir ni bloquer complique cette obligation, et rend plus difficile la démonstration de conformité exigée par le principe de responsabilité de l'article 5.
Si le boîtier bascule certaines tâches vers un modèle en ligne via une clé d'API personnelle, celui qui configure cette clé devient responsable du choix de ce sous-traitant au sens de l'article 28, y compris pour un usage improvisé par un collaborateur un jeudi après-midi.
L'entreprise qui développe Violoop est basée à Shenzhen (Ne pas confondre avec Schengen au Luxembourg 🇱🇺).
Le site du fabricant met en avant un traitement local des données et une puce de sécurité dédiée aux actions sensibles, mais je n'ai trouvé, au moment d'écrire ces lignes, aucune information publique sur un représentant en Europe ou une documentation RGPD destinée aux acheteurs professionnels.
L'appareil n'est d'ailleurs pas encore commercialisé, sa campagne de financement participatif doit s'ouvrir à la mi-septembre. Ces promesses de sécurité restent donc, pour l'instant, non vérifiées par un tiers indépendant.
Le principe d'un boîtier qui capte un écran et injecte des commandes existe depuis longtemps dans les salles serveurs, sous le nom de KVM.
Ce qui change avec une IA aux commandes, c'est que plus personne ne regarde l'écran au moment où l'action se déclenche.
Le bouton physique promis par le fabricant ne protège que si quelqu'un, dans l'équipe, a la consigne explicite de l'actionner à chaque tâche sensible, et pas seulement la première semaine.
Avant qu'un stagiaire enthousiaste ne branche ce genre de boîtier sur un poste qui affiche des dossiers clients, une question mérite d'être tranchée en interne.
La politique de sécurité du cabinet parle-t-elle des logiciels autorisés, ou aussi des objets qu'on peut brancher sur un ordinateur ? Si vous avez la réponse pour votre structure, je suis curieux de la lire en commentaire.
1
0 comments
🔌 Le boîtier IA que même votre antivirus ne voit pas
powered by
skool.com/accompagnement-affiseo-6232
Une communauté pour maîtriser l’automatisation par l’IA et les agents intelligents. Apprenez, collaborez et optimisez vos workflows !
Suggested communities
Powered by