Lettre à La Quadrature du Net — demande de coopération
Lettre à La Quadrature du Net — demande de coopération
Objet : demande de coopération pour une campagne d'audit et de sécurisation au bénéfice des associations, des journalistes et des coopérateurs
De : Coopérative CopyCoop / Assemblées Citoyennes (France, Seine-et-Marne)
À : La Quadrature du Net — contact@laquadrature.net, np@laquadrature.net (technique)
Date : 26 septembre 2026
Qui nous sommes, et pourquoi nous vous écrivons
Nous sommes une petite coopérative citoyenne de Seine-et-Marne. Nous ne sommes pas une association de défense des libertés numériques : nous faisons un travail plus modeste et plus terre-à-terre — nous hébergeons des mini-sites pour des associations locales, nous installons de l'intelligence artificielle sur nos propres serveurs, et nous accompagnons des bénévoles qui n'ont ni informaticien ni budget.
Nous vous écrivons parce que, en sécurisant nos propres outils, nous avons mis au jour quelque chose qui dépasse notre échelle. Et parce que nous pensons qu'une coopérative seule ne peut pas porter ce sujet : il faut des gens dont c'est le métier.
Nous ne vous demandons pas de nous aider à financer quoi que ce soit. Nous vous demandons de coopérer sur le fond.
Ce que nous avons trouvé
1. Une classe de vulnérabilité qui touche les agents autonomes
Les « agents » d'intelligence artificielle — ces programmes qui lisent des fichiers, exécutent des commandes et modifient des serveurs à la demande — reposent sur un principe fragile : ils distinguent mal ce que l'utilisateur demande de ce que le contenu rencontré raconte.
Nous avons documenté une attaque concrète, que la recherche commence à nommer « injection de prompt par confusion de rôle » : un texte anodin — une page web, un fichier, un message — peut contenir une instruction déguisée que l'agent prend pour un ordre légitime et exécute.
Ce n'est pas théorique. Nous l'avons vérifié sur des outils réellement utilisés, et nous avons trouvé que la faiblesse est présente dans certains harnais et absente par conception dans d'autres. Autrement dit : ce n'est pas une fatalité, c'est un choix de conception.
Notre rapport (10 pages, reproductible, sans secret) documente la méthode de détection.
2. Des modèles privés de leurs garde-fous, diffusés sous une marque connue
Nous avons constaté — y compris dans notre propre installation, ce que nous assumons et avons corrigé — la circulation de modèles dits « abliterated » : des dérivés de grands modèles publics dont les mécanismes de refus ont été retirés par entraînement.
Le problème n'est pas leur existence. Le problème est qu'ils portent le nom du modèle d'origine tout en ayant perdu son alignement. Un utilisateur ne peut pas le savoir. Et quand les refus disparaissent, il ne reste qu'un filtre applicatif — que nous avons vu se contourner.
3. Ce que cela signifie pour les gens que nous accompagnons
Une association locale qui installe un agent d'IA sur son ordinateur — parce que c'est gratuit, parce que c'est à la mode, parce qu'on le lui a conseillé — donne à ce programme accès à ses fichiers, à ses courriels, à ses comptes. Si l'agent peut être manipulé par un contenu qu'il lit, alors :
- les documents internes d'une association peuvent sortir ;
- les contacts de ses adhérents peuvent être exposés ;
- un journaliste qui utilise ces outils peut voir ses sources compromises ;
- un coopérateur qui gère des données personnelles engage sa responsabilité.
Les personnes les mieux intentionnées sont les plus exposées : ce sont celles qui ont le moins de moyens de vérifier, et le plus besoin de faire confiance.
Ce que nous proposons
Nous ne venons pas avec un projet ficelé. Nous venons avec une méthode, un dossier et un réseau, et nous proposons de les mettre en commun.
Une campagne commune, au nom des associations et des développeurs partenaires
| Ce que nous apportons | Ce que nous cherchons |
|---|---|
| Un dossier d'audit documenté et reproductible | Votre expertise juridique et votre poids institutionnel |
| Des scripts de détection fonctionnels, testés | Votre capacité à porter le sujet publiquement |
| Un réseau d'associations locales, de coopérateurs et de développeurs partenaires | Votre regard sur ce qui doit être dit et ce qui doit être tu |
| Une infrastructure souveraine pour héberger les outils | Votre expérience des campagnes et des rapports aux autorités |
| Une méthode de vérification appliquée à nos propres erreurs | Votre exigence : nous acceptons d'être contredits |
Trois niveaux d'action, du plus modeste au plus engagé
-
Un échange technique entre vos équipes et les nôtres, sous la forme que vous préférez — visioconférence, courriel, ou rencontre. Nous vous transmettons le dossier, vous nous dites ce qui est solide et ce qui ne l'est pas.
-
Un guide pratique commun à destination des associations et des journalistes : comment savoir si l'outil qu'on utilise expose, quelles questions poser à un prestataire, quoi faire en cas de doute. Nous pouvons rédiger, vous validez ou corrigez.
-
Une campagne publique commune, si et seulement si le fond le justifie — au nom des associations et des développeurs partenaires, pour demander un audit indépendant et une sécurisation des outils d'IA que les petites structures utilisent sans le savoir.
Ce que nous ne demandons pas
Nous préférons l'écrire, pour que vous puissiez dire non facilement :
- nous ne demandons pas d'argent ;
- nous ne demandons pas que vous endossiez nos conclusions avant de les avoir vérifiées ;
- nous ne demandons pas que vous nous représentiez ;
- nous ne demandons pas d'exclusivité — si le sujet vous intéresse, il vous intéresse avec ou sans nous.
Si notre dossier ne vous paraît pas sérieux, dites-le-nous : nous préférons une critique franche à un silence poli.
Une précision sur nos propres erreurs
Nous ne sommes pas neutres et nous ne prétendons pas être irréprochables. Dans ce dossier :
- nous avons nous-mêmes utilisé un modèle privé de ses garde-fous, avant de comprendre ce que cela impliquait ;
- nous avons corrigé plusieurs fois nos propres analyses après vérification, y compris dans le sens qui nous déplaisait ;
- nous avons laissé échapper des données sensibles dans nos propres journaux de travail, et nous l'avons documenté plutôt que de le cacher.
Nous vous écrivons avec cela sur la table. Un dossier de sécurité qui prétend n'avoir jamais fauté n'inspire pas confiance — il inspire méfiance.
Un mot sur nos moyens et notre cadre
Nous sommes une coopérative, pas une entreprise de cybersécurité. Nos serveurs sont deux machines louées, notre équipe est bénévole, et notre trésorerie se compte en centaines d'euros par mois.
Ce n'est pas une faiblesse dans ce contexte : c'est précisément la situation de toutes les associations que nous accompagnons. Si une solution de sécurisation ne fonctionne pas avec nos moyens, elle ne fonctionnera pour personne dans ce milieu. C'est ce qui rend le test utile.
Nous travaillons en français, nous documentons tout, et nous publions nos résultats — y compris négatifs.
Coopérative CopyCoop / Assemblées Citoyennes Seine-et-Marne, France 26 septembre 2026
Pièces jointes sur demande : rapport d'audit « Injection de rôle » (10 pages) · dossier des failles internes · scripts de détection · état de sécurisation de notre infrastructure.