Macron veut interdire l'IA face aux enfants : ce que ça change

Le 9 novembre, dans un entretien aux Échos, Emmanuel Macron a lâché une phrase sans nuance : « S'il y a un risque pour les enfants avec certains usages de l'IA, alors il faut l'interdire ». Le lendemain, une charte internationale doit être adoptée à la veille du Forum de Paris sur la paix. Si vous éditez un chatbot, un assistant dans une appli grand public ou un produit connecté, le sujet vous concerne avant même qu'une loi existe.

Ce que Macron a dit, et ce qu'il n'a pas dit

Selon franceinfo, le président juge la situation actuelle « pas tenable » et refuse que l'IA reste un « Far West ». Il cite la santé mentale des enfants et « leur cerveau ». Il soutient aussi une restriction de certains réseaux sociaux pour les moins de 15 ans.

Ce qu'il n'a pas fait : nommer un usage précis à bannir. Clubic le souligne : il parle de « certains usages » sans en désigner un seul. Les chatbots et les jouets connectés sont évoqués comme terrain d'application, mais aucun texte ne les liste. C'est une déclaration d'intention, pas un décret.

La charte : qui signe, et quoi exactement

Environ 50 chefs d'État et de gouvernement, organisations internationales, entreprises et chercheurs ont participé à une visioconférence sur les risques collectifs de l'IA, d'après Euronews. Parmi eux, les Premiers ministres britannique, canadien, norvégien, néerlandais et japonais, ainsi que les dirigeants d'OpenAI, d'Anthropic, de Mistral et de Microsoft. L'Élysée attend OpenAI et Anthropic parmi les signataires.

Le contenu, tel que rapporté :

• des évaluations indépendantes des systèmes d'IA générative mis sur le marché ;
• un accès aux données des modèles pour ces évaluations ;
• l'acceptation du « principe d'un pré-audit et d'une pré-certification » avant que les modèles soient mis entre les mains d'enfants.

Point clé : l'engagement est volontaire. L'Élysée dit elle-même que la charte a « vocation à éclairer les débats législatifs nationaux et européens ». Elle ne crée aucune obligation directe, ni pour les labos, ni pour vous.

Une régulation « de frontière » : trois familles de risques

Macron range les dangers en trois blocs : les enfants, la sécurité démocratique et les grands enjeux de sécurité nationale. Il parle des « prémices » d'une régulation de l'IA « de frontière » et veut pousser l'Europe, puis convaincre les États-Unis, le Canada et d'autres de suivre.

Le calendrier immédiat tient en trois dates, toutes citées par Euronews : un comité d'experts lui remet ses recommandations le mardi 10 novembre ; la charte est adoptée le même jour ; un premier sommet des ministres européens de l'IA se tient vendredi à Dublin, sous présidence irlandaise de l'UE. Aucune échéance légale n'est annoncée. L'Union doit par ailleurs réexaminer certaines protections de l'AI Act.

Ce n'est pas la première fois que les labos acceptent de freiner volontairement. Nous avions décodé le pacte de ralentissement des laboratoires : même mécanique, engagement volontaire, effets réels dépendants de ce que les États en font ensuite.

Chatbot, jouet connecté, appli : qui est exposé en PME ?

Le risque est plus large que le seul secteur de la tech pour enfants. Quelques profils concrets :

• un e-commerce de jouets, de jeux ou de vêtements qui a posé un assistant conversationnel sur son site ;
• un organisme de formation ou une école privée qui laisse des élèves interroger un assistant IA ;
• un éditeur d'appli grand public, de jeu ou de service de loisirs avec un « compagnon » IA intégré ;
• un fabricant ou distributeur d'objets connectés avec assistant vocal.

Si votre outil s'appuie sur un modèle d'un grand laboratoire, la pré-certification, si elle devient loi, visera d'abord le modèle. Mais vous restez responsable de ce que vous en faites. Nous l'avons détaillé dans notre dossier sur la responsabilité quand un chatbot se trompe : le fournisseur du modèle n'absorbe pas tout.

Ce que ça ne change pas aujourd'hui

Soyons précis, parce que ce genre d'annonce génère des titres plus gros que les effets. À ce jour :

• aucun texte français ou européen nouveau n'impose de pré-certification ;
• aucun usage n'est interdit par cette charte ;
• les obligations existantes, notamment la transparence sur les contenus et chatbots, continuent de s'appliquer telles quelles. Nous les avons résumées dans l'article 50 de l'AI Act.

Ce qui change, c'est la direction. Quand un chef d'État obtient la signature d'OpenAI et d'Anthropic sur le principe d'un audit avant exposition des mineurs, le texte législatif qui suivra part d'un socle déjà accepté par l'industrie. Les lobbyistes n'auront pas à discuter le principe, seulement les modalités.

Que faire cette semaine : l'inventaire en 30 minutes

Pas besoin d'un audit. Un tableau à quatre colonnes suffit :

1. Où l'IA parle au public : chatbot du site, assistant d'appli, agent vocal, formulaire intelligent.
2. Qui peut y accéder : aucun contrôle d'âge ? Vérification déclarative ? Compte parent ?
3. Quel modèle derrière, et quel fournisseur : pour savoir qui devra être certifié le jour venu.
4. Quels garde-fous : sujets bloqués, journalisation, escalade vers un humain.

Si la case « contrôle d'âge » est vide pour un service qui attire naturellement des mineurs, c'est votre premier chantier. Gardez aussi une trace de la version du modèle utilisée : une pré-certification porterait sur un modèle précis, pas sur « l'IA » en général.

Côté gouvernance interne, l'exercice rejoint ce qu'on recommande dans notre guide sur la charte IA de PME : une page qui dit où l'IA est déployée, avec qui et sous quelles limites. Une PME qui peut montrer ce document en dix minutes est mieux placée que celle qui découvre ses propres usages le jour du contrôle.

Notre lecture : un signal, pas une règle

Trois réserves. D'abord, « interdire » sans définir l'usage ne vaut pas règle : le diable est dans la liste. Ensuite, un engagement de labos ne couvre ni les modèles ouverts téléchargeables ni les acteurs hors charte. Enfin, le pré-audit coûtera cher aux petits éditeurs : si la certification devient obligatoire, les PME qui bâtissent sur un modèle certifié s'en sortiront mieux que celles qui hébergent leur propre modèle.

Pour un dirigeant, la bonne posture est simple. Si aucun mineur n'approche votre IA, surveillez sans agir. Si c'est possible, même rarement, traitez le sujet comme on traitait le RGPD en 2017 : l'orientation est connue, le texte précis arrive plus tard, et ceux qui ont déjà cartographié leurs usages gagnent des mois.

Pour le suivi réglementaire plus large, relisez notre checklist AI Act post-Omnibus : le texte européen reste le cadre juridique en vigueur, et c'est lui que Bruxelles retouchera.