Le monde de l’intelligence artificielle traverse une crise éthique sans précédent. Caitlin Kalinowski, l’une des têtes pensantes les plus respectées d’OpenAI, la société qui a bouleversé nos vies avec ChatGPT a annoncé sa démission fracassante ce samedi. Ce départ n’est pas une simple dispute de bureau, mais un cri d’alarme sur l’avenir de notre sécurité à tous.
Ce qu’il faut comprendre : L’IA entre en guerre
Jusqu’à présent, nous utilisions l’IA pour corriger des textes, traduire des langues ou coder des applications comme vos projets TipGo ou Aura. Mais OpenAI vient de franchir une ligne rouge en signant un contrat massif avec le Pentagone (le ministère de la Défense des États-Unis). Ce partenariat autorise désormais l’armée américaine à utiliser la technologie d’OpenAI pour des missions militaires et de surveillance intérieure.
Les deux dangers qui font trembler les experts
Pour expliquer son départ, Caitlin Kalinowski pointe du doigt deux risques majeurs qui pèsent sur les citoyens, y compris en Afrique où la surveillance numérique progresse :
- L’espionnage généralisé sans contrôle : La technologie pourrait permettre de surveiller des millions de personnes en temps réel, d’analyser leurs conversations et leurs déplacements sans qu’un juge n’ait besoin de signer un mandat;
- L’autonomie létale (les robots tueurs) : C’est le point le plus terrifiant. L’IA pourrait être intégrée à des systèmes d’armes capables de décider d’ouvrir le feu ou de lancer une attaque sans qu’un être humain ne valide l’ordre final. « L’autonomie létale sans autorisation humaine mérite davantage de réflexion », prévient l’experte.
Une course à l’argent au détriment de la sécurité
Selon Mme Kalinowski, qui a travaillé auparavant sur les technologies de réalité augmentée chez Meta, OpenAI a agi dans la « précipitation ». Le patron d’OpenAI, Sam Altman, a accepté ce contrat quelques heures seulement après que son concurrent, Anthropic, a courageusement refusé de céder à un ultimatum du gouvernement exigeant un accès illimité à son IA.
Pour l’ancienne directrice, le manque de « garde-fous » (des règles de sécurité strictes) est une faute grave de gouvernance. Elle estime que l’on ne peut pas confier une puissance de calcul aussi colossale à des militaires sans définir précisément ce qui est interdit.