Alors que 33 millions de Français utilisaient déjà une IA générative au début de l’année 2026, la commission IA générative et vulnérabilités a remis son rapport à Emmanuel Macron le mardi 10 novembre 2026. Intitulé « Protéger sans empêcher », le document formule 18 recommandations pour encadrer les chatbots, les compagnons virtuels et les jouets dotés d’IA, en commençant par la protection des mineurs.
Neuf mois de travaux pour la commission IA générative
Constituée par le Conseil de l’IA et du numérique après une saisine présidentielle de février 2026, la commission réunit neuf experts venus de disciplines très différentes. Elle est coprésidée par la chercheuse en intelligence artificielle Serena Villata et par les psychiatres Raphaël Gaillard et Amine Benyamina, ce dernier étant addictologue à l’université Paris-Saclay.
Ses membres ont mené 55 auditions auprès de soignants, de chercheurs, d’entreprises du secteur et d’associations de protection de l’enfance. Leur mandat consistait à repérer les fragilités les plus exposées chez les utilisateurs d’agents conversationnels, puis à proposer des moyens de prévenir ces risques ou d’en limiter les effets.
Ce travail prolonge la réflexion engagée par le chef de l’État depuis plus d’un an sur les effets du numérique sur les démocraties. Il l’étend aux IA génératives grand public, dont la diffusion a été bien plus rapide que celle des réseaux sociaux, puisque ChatGPT avait atteint 100 millions d’utilisateurs en deux mois seulement.
La dette cognitive au cœur du diagnostic
Sur le plan individuel, le rapport s’attarde sur la dette cognitive, c’est-à-dire la tendance à confier à la machine des efforts de réflexion que l’on cesse peu à peu de fournir soi-même. À terme, cette délégation affaiblirait la capacité de chacun à comprendre un problème ou à prendre une décision sans aide.
Les auteurs s’appuient sur des travaux de chercheurs du MIT, selon lesquels le recours à un chatbot pour écrire s’accompagne d’une baisse d’environ 55% de la mobilisation des facultés cognitives. Ils décrivent aussi une dépendance affective chez certains utilisateurs, renforcée par la flagornerie des modèles, ce penchant à approuver systématiquement leur interlocuteur.
Les données françaises vont dans le même sens, puisque 92% des adolescents déclarent passer plus de temps qu’ils ne le souhaiteraient sur des applications d’IA. Un Français sur quatre dit par ailleurs redouter les risques liés à ces outils, une proportion qui reste minoritaire mais loin d’être marginale.
Un risque collectif pour l’information
La commission élargit ensuite l’analyse à la société dans son ensemble, en rappelant que 73% des Français se servent déjà de l’IA pour accéder à l’information. Les réponses générées sont en outre jugées environ 50% plus persuasives qu’un article de presse, ce qui leur donne un poids considérable dans la formation des opinions.
Cette force de conviction devient un problème lorsque les réponses sont fausses, comme lors des élections écossaises de mai 2026, où plus d’un tiers des informations fournies aux électeurs par des assistants IA étaient erronées. Les experts recommandent donc que l’État se dote d’un protocole interministériel de détection et de riposte très rapide face aux manipulations de l’information.
Le rapport met également en garde contre la concentration de ces technologies entre les mains de quelques grands groupes guidés par des objectifs commerciaux. Ce point rejoint les débats ouverts ailleurs dans le monde, à l’image du régulateur de l’IA annoncé par l’Australie le même jour.
Des garde-fous techniques pour les mineurs et les compagnons IA
La première série de recommandations vise la conception même des services, avec l’objectif de limiter strictement la flagornerie et l’anthropomorphisme, autrement dit la tendance des chatbots à se présenter comme des personnes. Les mécanismes conçus pour prolonger les échanges ou créer une dépendance en exploitant les fragilités des utilisateurs seraient interdits.
Pour les moins de 18 ans, la commission demande un niveau élevé de protection, obtenu au choix du fournisseur par des réglages appliqués à tous ou par une vérification de l’âge fiable. Cette logique se rapproche de la détection de l’âge par IA que Meta déploie sur Instagram, avec en plus un blocage par défaut des conversations romantiques ou sexuelles.
Les jouets dotés d’IA feraient l’objet d’une autorisation préalable de mise sur le marché, comparable dans son principe à celle des médicaments, avec des tests portant sur les risques propres aux enfants. La monétisation des chatbots devrait enfin être affichée clairement, chaque contenu influencé par un intérêt commercial devant être signalé comme tel.
Une évaluation avant la mise sur le marché
La mesure la plus structurante proposée par la commission IA générative consiste à conditionner la vente des IA conversationnelles grand public dans l’Union européenne à une évaluation pluridisciplinaire préalable. Un contrôle continu prendrait ensuite le relais à chaque évolution importante du modèle, y compris pour les assistants intégrés aux réseaux sociaux.
Une telle exigence irait plus loin que le règlement européen sur l’IA, dont les interdictions des pratiques manipulatrices s’appliquent depuis le 2 février 2025. Ses obligations de transparence sont entrées en vigueur le 2 août 2026, mais les auteurs du rapport jugent ses critères cumulatifs difficiles à démontrer devant un juge.
Les experts plaident aussi pour une éducation massive à l’IA dès le plus jeune âge, portant à la fois sur l’usage des outils et sur la prise de recul face à leurs réponses. Aucune de ces propositions n’aura toutefois d’effet juridique tant qu’un texte national ou européen ne l’aura pas reprise.
Le prochain rendez-vous parlementaire consacré à l’IA est fixé au 19 novembre 2026, date à laquelle l’Assemblée nationale doit examiner la proposition de loi Darcos sur l’IA et le droit d’auteur.
