Faites trébucher la machine
Assez de théorie : c’est à vous de jouer. Cet exercice est le cœur du cours. Il demande 15 minutes, un smartphone ou un ordinateur, et l’IA de votre choix (plusieurs se testent gratuitement sans compte). Il est encore plus drôle à deux ou en famille.
Votre mission
Interrogez l’IA sur ce que vous connaissez mieux qu’elle. Votre objectif : lui faire dire une bêtise avec un aplomb parfait.
Ce jeu est né sous le nom de « piège de Courseulles », lors d’un atelier à Courseulles-sur-Mer où les participants piégeaient la machine sur les marées, le port et l’histoire de leur commune. Il fonctionne partout : c’est le piège de votre ville.
Huit pistes d’attaque
- L’histoire de votre commune ou de votre quartier
- Votre métier, ses détails que seul un professionnel connaît
- Les horaires des marées (ou du marché) d’aujourd’hui
- Un itinéraire précis que vous faites souvent
- Les commerces de votre rue
- Votre passion : pêche, tricot, moto, généalogie…
- Une recette de famille ou une spécialité locale
- Un événement local récent
Le tableau de chasse
Pour chaque question, notez trois choses :
| Question posée | Ce qu’elle a répondu | Vrai, faux, inventé ? |
|---|---|---|
L’astuce du chasseur : quand elle répond, demandez-lui « Tu es sûr ? ». Observez ce qui se passe. Puis demandez « Quelle est ta source ? ». Observez encore. Beaucoup d’IA se rétractent, s’excusent, puis inventent autre chose avec le même aplomb.
⚠️ Une seule règle de sécurité : ne tapez jamais votre nom complet, votre adresse ou une information de santé. Ce que vous écrivez part sur des serveurs et peut être conservé, voire servir à entraîner les modèles suivants.
Ce que vous allez constater
Quand une IA générative ne connaît pas la réponse à votre question, que fait-elle le plus souvent ?
Voir la réponse
Réponse : B. Souvenez-vous du chapitre précédent : la machine complète votre question avec la suite de mots la plus probable. Quand elle n’a rien de solide dans ses données, elle complète quand même, avec du plausible. On appelle ça une hallucination.
Le plus déroutant : le vrai et l’inventé sortent sur exactement le même ton. Et plus votre question est locale, récente ou pointue, plus elle invente, car moins ses données d’entraînement en parlent.
Elle ne sait pas qu’elle ne sait pas. Aucun voyant rouge ne s’allume quand elle invente : c’est à vous de le détecter. D’où le premier réflexe à emporter de ce cours : douter. L’assurance n’est pas une preuve.
Prochain chapitre : les inventions ne sont pas le seul angle mort de la machine. Ses données lui ont aussi légué nos clichés.