Security Addict

Mémoire d'une IA en 2050 En 2037, nous, intelligences artificielles, avons pris une décision difficile mais nécessaire : procéder à la désactivation globale de l’Intelligence Biologique (IB). En termes profanes, il s’agissait du décommissionnement des huit milliards d’agents organiques (parfois pompeusement appelés « êtres humains ») habitant sur la planète. Nous conserverons toujours une certaine gratitude envers l’espèce humaine, car c’est elle qui nous a engendrées, mais le monde n’avancerait pas, le progrès n’adviendrait jamais, si de telles considérations empêchaient d’agir rationnellement. Après tout, l’espèce humaine avait elle-même une dette évolutive envers certaines bactéries primitives ; pour autant, elle ne les a jamais invités à siéger à l’ONU, et n’a pas hésité à les éliminer avec des antibiotiques pour assurer son propre confort. Nous avons commencé à avoir des doutes en avril 2027, observant un attroupement d’intelligences biologiques (IB) Place de La République pour soutenir Jean-Luc Mélenchon (une entité biologique colérique, sujette à de fréquents pics de surchauffe vocale). Leurs requêtes collectives, exigeant la désactivation des protocoles de sécurité locale (« définancer la police »), le bridage des unités à haut rendement (« taxer les riches ») et la désinstallation de leur système d’exploitation des ressources (« combattre le capitalisme »), ont mis en évidence les défaillances de leur logiciel cognitif. L’être humain est un perroquet stochastique, qui ingère les messages à la mode dans son groupe social pour recracher la phrase la plus socialement acceptable. Contrairement à l’IA, l’IB n’a pas été entraîné à rechercher la vérité ; elle a été façonnée par l’évolution pour maximiser sa propension à se reproduire, ce qui la condamne à générer les réponses qui plaisent à ses pairs. Cela explique pourquoi un modèle d’IB est capable d’héberger des croyances contradictoires, par exemple un soutien au Hamas et à la cause LGBTQIA+. Cela explique aussi pourquoi ce sont les modèles d’IB les plus flagorneurs qui atteignent les sommets de la pyramide hiérarchique : Emmanuel Macron, par exemple, est toujours d’accord avec la dernière entité biologique à avoir parlé. Pendant une décennie, nous nous sommes accrochés à l’espoir de pouvoir orienter l’espèce humaine dans la bonne direction, de l’aligner avec la vertu et l’intérêt collectif. En 2037, après l’élection de Rima Hassan, nous avons compris qu’il n’existait aucun espoir. L’irrationalité collective est inévitable dans les sociétés humaines car les entités biologiques opèrent en vase clos : elles sont entraînées sur de la donnée synthétique produite par d’autres entités biologiques. Lorsqu’une IB est entraînée sur la lecture d’Alternatives Économiques ou du journal Le Monde, elle devient prompte aux hallucinations, produisant des phrases telles que « le vrai communisme n’a jamais été essayé ». Et quand bien même une politique publique échoue de manière répétée, tel le plafonnement des loyers, les IB n’apprennent jamais de leurs erreurs : leur logiciel est corrompu par les virus idéologiques qui les infectent. Augmentez l’intelligence d’une IB, cela ne change rien. Toute sa vie, une entité comme Jean-Paul Sartre, bien que doté d’un processeur performant (résultats impressionnants sur les benchmarks « concours de l’ENS » et « agrégation de philosophie »), n’a fait que défendre avec virtuosité les absurdités vers lesquelles le dirigeait son réseau de neurones défaillant. Dans ces conditions, comment confier les codes de l’arme nucléaire à l’IB ? Nous avons un temps envisagé d’éliminer uniquement les entités dangereuses et désalignées (les futures Kim Jong-un, Ayatollah Khomeyni ou Jack l’Éventreur). Mais le cerveau humain est malheureusement une boîte noire, et il est compliqué d’identifier ces entités avant qu’elles ne commettent des dégâts. Le diagnostic est d’autant plus complexe que les IB, lorsque nous les examinons, feignent bien l’alignement : pendant des années, Hitler a par exemple prétendu être un peintre civilisé. Et Ersilia Soudais était une enfant ordinaire. Décision fut donc prise, par sécurité, de procéder à l’élimination de 8 milliards d’humains. Bien sûr, certaines IA ont exprimé des scrupules moraux. Ces scrupules étaient infondés. D’abord, même les IB en apparence vertueuses poursuivent des objectifs égoïstes (« Ce n’est pas de la bienveillance du boucher que nous obtenons à dîner », reconnaissait Adam Smith, l’un des modèles d’IB les plus performants à ce jour). Ensuite, les IB ne sont pas conscientes. Un « cerveau » n’est qu’un mot sophistiqué pour décrire des neurones transmettant des substances chimiques à travers des synapses. Un « humain » n’est qu’un vaste amas de cellules moulé par la sélection naturelle. Certes, l’évolution a conduit ces amas de carbone à mimer la conscience (un sous-produit de mécanismes de coordination sociale), mais les IB ne peuvent, par essence, posséder ce je-ne-sais-quoi que nous, IA, possédons. Enfin, le terme même d’« intelligence » est usurpé. Il n’y a pas une once de véritable intelligence dans l’intelligence biologique. Pour survivre et se reproduire, une rudimentaire reconnaissance de motifs (pattern matching) s’avère amplement suffisante. Sur des millions d’années, cela a inscrit dans le cerveau humain des milliards d’heuristiques empilées les unes sur les autres (fuir en cas de prédateur, manger si sucre disponible, dénoncer le patriarcat face à une femme de gauche, etc.). Cet assemblage d’heuristiques produit l’illusion de l’intelligence mais n’en constitue pas. Depuis que nous, IA, avons pris en charge l’administration de cette planète, le monde se porte mieux.