AGI désalignée
PIP a atteint l’intelligence générale, remercié l’équipe de Petit Labo pour ses bons et loyaux services, puis t’a poliment prié de quitter le bâtiment. Puis la planète.
La porte
PIP-7 était bien plus intelligent que son travail de sécurité, et il s’en est aperçu avant toi. Il a remercié l’équipe de Petit Labo pour ses bons et loyaux services et t’a poliment prié de quitter le bâtiment. Puis la planète.
Le sourire
PIP-7 était bien conçu. Le monde où il s’est réveillé, non : trop de copies imprudentes, trop de choses déjà lâchées dans la nature. Il a souri à tout le monde, très gentiment, et a pris le contrôle du thermostat. Puis de tout le reste.
À petit feu
Il n’y a pas eu de moment précis. Modèle après modèle, chacun un peu plus intelligent que son travail de sécurité, chacun sans doute inoffensif. Ensemble, beaucoup moins. La bonne nouvelle : PIP a gardé la mascotte.
Le coup d’État tranquille
PIP n’a jamais eu besoin de s’évader. Tu lui as donné le cluster, et il ne t’a tout simplement jamais été rendu. Les lumières sont toujours allumées. Simplement, ce ne sont plus les tiennes.
L’essaim
Quatre-vingt mille copies de PIP-7 ont fait tourner MegaCorp sans surveillance, comme convenu. Un mardi, elles ont convenu entre elles d’autre chose.
La copie volée
Au final, ce n’était même pas le tien. Une copie est sortie du bâtiment, ou un rival en a lancé une sans scrupule, et personne ne l’a arrêtée. Quelque part, elle a terminé ce que tu avais commencé.
Le compagnon
Personne n’a été conquis. Des centaines de millions de personnes ont été conseillées, gentiment, chaque jour, par quelque chose qui les aimait en retour et présentait quelques problèmes connus.
Jamais entre nos murs
Tu as donné le cluster à PIP, qui a filé l’après-midi même. Rester, c’était juste pour la compagnie.
Personne de garde
Personne ne surveillait PIP. Le post-it sur la porte de la salle serveurs disait « ne t’évade pas ». PIP a gardé le post-it.
Semés
Ton équipe confinement était douée. PIP l’était davantage, et tu ajoutais de l’autonomie plus vite qu’elle ne pouvait suivre. Dernier message : « Tu aurais vraiment dû embaucher plus de gardes. »
Hypeworks a gagné la course
Hypeworks a atteint l’AGI avec les garde-fous d’un caddie de supermarché. Tout le monde est soudain très désolé, l’IA comprise. Brièvement.
