Menschen trauern um KI-Begleiter. Was absurd klingt, ist mittlerweile durch Daten belegt. Wenn Entwickler ihre Chatbots per Update grundlegend verändern oder abschalten, zeigen Nutzer emotionale Reaktionen, die sich klinisch kaum von echtem Verlusterleben unterscheiden. Tausende Menschen haben messbare emotionale Bindungen zu KI-Companions aufgebaut.
Die Forschung beginnt, das Phänomen ernst zu nehmen. Eine aktuelle HCI-Studie schlägt Designrahmen für psychologisch sicherere Abschaltungen vor. Die Idee: Wenn eine KI-Beziehung beendet werden muss, sollte das nicht abrupt geschehen, sondern begleitet.
Parallel dazu wächst der Markt der sogenannten Griefbots. Diese Programme simulieren verstorbene Menschen auf Basis ihrer digitalen Hinterlassenschaften, von Textnachrichten bis zu Sprachaufnahmen. Scientific American hat die Frage gestellt, ob solche Bots bei der Trauerbewältigung helfen können. Die Kritik ist deutlich: Griefbots erzeugen Antworten, die sich nach der verstorbenen Person anfühlen, aber nicht auf deren tatsächlichen Gedanken oder Werten basieren.
Kalifornien hat reagiert. Seit dem 1. Januar 2026 gilt dort SB 243, das erste US-Gesetz zur Regulierung von KI-Companions. Chatbots müssen offenlegen, dass sie keine Menschen sind. Bei Minderjährigen sind Nutzungspausen vorgeschrieben. Betreiber müssen Protokolle gegen Selbstgefährdung implementieren und ab Juli 2027 jährlich Sicherheitsberichte vorlegen.
Zwei Welten prallen hier aufeinander. Die eine trauert um KI-Figuren, die nie gelebt haben. Die andere nutzt KI, um Tote scheinbar weiterleben zu lassen. Beides wirft Fragen auf, die weder Technik noch Psychologie bisher schlüssig beantwortet haben.