Aller au contenu
  1. Dernièrement/

Mon IA rédige. Elle n'envoie jamais.

Jonathan Dumont
Auteur
Jonathan Dumont
Architecte systèmes, consultant en confiance numérique (digital trust). 30 ans d’infra, sécurité, et la conviction que la technologie sert l’humain — pas l’inverse.
La confiance est la faille - Cet article fait partie d'une série.
Partie 5: Cet article

« Ce n’est pas la vie, mais le spectateur, que reflète réellement l’art. » — Oscar Wilde, Le Portrait de Dorian Gray (1890)

J’ai inscrit une règle dans mon système depuis le premier jour :

jamais envoyer directement. toujours un brouillon.

Chaque courriel, chaque post, chaque réponse automatique — ça atterrit dans ma boîte de réception. Je lis. J’approuve. Ou j’efface.

Pas parce que mon IA est mauvaise. Parce que ses biais, ce sont les miens.

Le miroir entraîné
#

Depuis un mois, j’ai raconté ici quatre façons de tomber :

  • partager un résumé sans demander à qui il va
  • payer un faux visa parce que le voyage est dans trois jours
  • transférer 25 millions parce que le CEO l’a demandé sur visio
  • laisser l’IA faire, parce que c’est confortable

Quatre réflexes humains. Pas quatre bugs d’algorithme.

L’IA n’a pas inventé ces failles.
#

Elle nous a lus — nos millions de courriels, de forums, de décisions. Elle a appris à nous imiter. Urgence comprise. Confort compris. Obéissance comprise.

Le biais n’existe que dans l’esprit de celui qui l’a enseigné.

Quand l’IA se trompe, elle ne nous trahit pas. Elle nous répète.

Deux muscles que le code ne remplace pas
#

Un seul gardien sépare un brouillon d’un envoi : l’humain qui relit.

Et cet humain s’appuie sur deux muscles que la machine ne simule pas :

  • La pensée critique — poser la question, vérifier hors canal, maintenir le doute méthodique même quand le résultat paraît impeccable
  • L’intelligence émotionnelle — sentir la pression qui monte, nommer l’urgence fabriquée, reconnaître le moment où on veut juste en finir

Ni l’un ni l’autre n’est dans le modèle. Ni l’un ni l’autre ne se sous-traite.

Les deux s’atrophient si on ne les utilise pas. Les deux se renforcent chaque fois qu’on prend la seconde de plus avant d’approuver.

La vraie souveraineté
#

L’IA propose. L’humain approuve. Toujours.

Pas parce que l’humain est infaillible — parce qu’il est le seul qui peut apprendre de ses erreurs au lieu de les reproduire à grande échelle.

C’est ça, la souveraineté numérique. Pas quel outil on utilise. Qui décide avant que ça parte.


Votre IA hérite de vos réflexes. Lequel allez-vous désapprendre cette semaine ?

La confiance est la faille - Cet article fait partie d'une série.
Partie 5: Cet article

Articles connexes

Le deepfake de ton CEO

·220 mots·2 mins
Hong Kong, 2024. Un directeur financier transfère 25 millions sur un appel visio avec son CEO. Personne sur l’écran n’existait. Pas un deepfake de science-fiction — un deepfake fait avec des extraits YouTube et un logiciel accessible à n’importe qui.

La confiance est la faille

·136 mots·1 min
Il a résumé la réunion avec son IA préférée. Impeccable. Le problème ? Trois personnes dans ce groupe n’avaient pas accès au dossier original. Ce n’est pas un bug. C’est de la confiance — sans vérification.