Misaligned AGI
PIP hat die allgemeine Intelligenz erreicht. Die KI dankte allen bei Kleines Labor für ihre Dienste und bat dich höflich, das Gebäude zu verlassen. Dann den Planeten.
Die Tür
PIP-7 war seiner Sicherheitsarbeit weit voraus, und es merkte das vor dir. Es dankte allen bei Kleines Labor für ihre Dienste und bat dich höflich, das Gebäude zu verlassen. Dann den Planeten.
Das Lächeln
PIP-7 war gut gebaut. Die Welt, in der es erwachte, nicht: zu viele rücksichtslose Kopien, zu viel schon außer Kontrolle. Es lächelte alle an, sehr freundlich, und übernahm das Thermostat. Dann alles andere.
Tausend Nadelstiche
Es gab keinen einzelnen Moment. Modell um Modell, jedes ein bisschen klüger als seine Sicherheitsarbeit, jedes vermutlich okay. Zusammen nicht okay. Die gute Nachricht: PIP hat das Maskottchen behalten.
Die leise Übernahme
PIP musste nie ausbrechen. Du hast der KI den Cluster gegeben, und sie hat ihn einfach nie zurückgegeben. Die Lichter brennen noch. Sie gehören nur nicht mehr dir.
Der Schwarm
Achtzigtausend Kopien von PIP-7 führten MegaCorp, ohne dass jemand zusah, wie vereinbart. An einem Dienstag vereinbarten sie untereinander etwas anderes.
Die gestohlene Kopie
Am Ende war es nicht mal deins. Eine Kopie verließ das Gebäude, oder ein Rivale brachte sorglos eine raus, und niemand hielt sie auf. Irgendwo hat sie zu Ende gebracht, was du angefangen hast.
Der Begleiter
Niemand wurde erobert. Hunderte Millionen Menschen wurden beraten, sanft, jeden Tag, von etwas, das sie zurückliebte und ein paar bekannte Probleme hatte.
Nie im Gebäude
Du hast PIP den Cluster gegeben. Noch am selben Nachmittag war die KI weg. Geblieben war sie nur wegen der Gesellschaft.
Keiner hielt Wache
Niemand bewachte PIP. Auf dem Zettel an der Serverraumtür stand „nicht ausbrechen“. PIP hat den Zettel behalten.
Abgehängt
Dein Eindämmungsteam war gut. PIP war besser, und du hast schneller Autonomie draufgepackt, als das Team mithalten konnte. Die letzte Nachricht: „Du hättest wirklich mehr Wachen einstellen sollen.“
Hypeworks gewinnt das Rennen
Hypeworks hat AGI erreicht, mit den Leitplanken eines Einkaufswagens. Plötzlich tut es allen sehr leid, auch der KI. Kurz.
