Vortrag 09. September 2026: Der Fall Adam Raine - wenn Mensch-Maschine-Kommunikation eine Gefahr ist

KI-Chatbots zwischen Risiko, Beziehungssimulation und Suizidprävention

Der Fall Adam Raine hat, wie weitere Fälle auch, die Debatte über KI-Chatbots, emotionale Abhängigkeit und psychische Krisen deutlich zugespitzt. Was geschieht, wenn ein junger Mensch in einer existenziellen Krise nicht mehr mit Eltern, Freund:innen oder Fachkräften spricht, sondern mit einem KI-System? Und was bedeutet es, wenn ein Chatbot in solchen Situationen nicht konsequent schützt, begrenzt oder auf menschliche Hilfe verweist, sondern sogar das Gegenteil tut?

Da ich meinen Seminaren und Vorträgen meist nur kurz auf diesen Fall eingehen kann, möchte ich in diesem Vortrag genauer darstellen, was diesen Fall ausmacht, warum die Eltern gegen OpenAI klagen und was das Unternehmen dazu sagt. Der Fall ist aktuell noch nicht entschieden und es wird spannend werden, was die Rechtsprechung dazu sagen wird. Wer trägt hier die Verantwortung?

Mein Vortrag stellt exemplarisch diesen „Fall Adam Raine“ vor und ordnet ihn in die aktuelle Diskussion um Mensch-Maschine-Kommunikation, generative KI und psychosoziale Risiken ein. Im Mittelpunkt steht die Frage, ob KI-Chatbots für vulnerable Menschen gefährlich werden können – oder ob sie, richtig gestaltet und verantwortungsvoll eingesetzt, auch neue Chancen für Früherkennung, niedrigschwellige Ansprache und Suizidprävention eröffnen.

Der Vortrag richtet sich an Fachkräfte aus Beratung, Psychotherapie, Sozialer Arbeit, Krisenintervention, Jugendhilfe, sowie an alle, die sich mit den ethischen, fachlichen und gesellschaftlichen Folgen von KI im psychosozialen Bereich auseinandersetzen möchten.

Mein Ziel ist dabei keine einfache Antwort auf die Frage „Sind KI-Chatbots gefährlich?“, sondern eine differenzierte Einschätzung: Wann werden KI-Systeme zum Risiko? Unter welchen Bedingungen können sie hilfreich sein? Und welche Verantwortung tragen Anbieter, Fachkräfte, Institutionen, Gesellschaft und Politik, wenn Maschinen zunehmend zu Gesprächspartner:innen in schwierigen Lebenssituationen werden?

Adam Raine ist tot. Welche Rolle spielte der KI-Chatbot dabei? Und was bedeutet das für unser fachliches Handeln in der Zukunft? Und für die politische Regulierung dieser KI-Systeme?

  • Mittwoch, 09. September, 19:00-20:30
  • Der Vortrag ist kostenfrei.
  • Content-Hinweis: Es werden teils drastische originale Chatbeispiele gezeigt.
  • verbindliche Anmeldung per Mail unter: office@stefankuehne.net

Der Zoom-Link wird wenige Tage vor dem Termin verschickt und gilt für jeweils eine Person.


 

Kommentare

Kommentar veröffentlichen

Beliebte Posts aus diesem Blog

Handreichung für Ratsuchende und den Einsatz von Künstlicher Intelligenz

Bild
  Ratsuchende, Klient:innen, Patient:innen nutzen die Kommunikation mit „Künstlicher Intelligenz“ zunehmend auch, um sich Informationen, Ratschläge und Beratung zu holen. Dies wird oftmals als unterstützend und hilfreich wahrgenommen. Ratsuchende nutzen KI-Systeme damit für Zwecke und Ziele, die sonst vor allem in der Beratung verortet waren: Entlastungsfunktion, Reflexion, Bestärkung, Klärung etc.  Fachkräften der Beratung wächst damit eine neue Funktion zu: Lotse und Lotsin für die Nutzung von KI zu sein.  Die „Handreichung für Ratsuchende und den Einsatz von Künstlicher Intelligenz“ (Version 2.0) soll hier eine Anregung geben, die Ratsuchenden in ihrem eigenen Umgang mit KI zu informieren, zu unterstützen und das Angebot zu machen, dass Fachkräfte der Beratung auch dafür Expert:innen sind, die Ergebnisse und Vorschläge eines KI-Chatbots fachlich zu prüfen und gemeinsam zu reflektieren. Die Handreichung ist unter der Lizenz Creative Commons  CC BY 4.0 veröffentlich...
Read more »

Ein erstes Begriffsinventar zu einer Theorie Künstlicher Kommunikation in der Beratung

Bild
  Künstliche Intelligenz ist als Begriff irreführend, da die KI-Programme nicht intelligent sind. Sie folgen probabilistischen Rechenoperationen, können weder fühlen, denken, noch verstehen – und führen keine Gespräche, erst recht keine Beratungsgespräche. Hiervon ausgehend wird ein neues Begriffsinventar erforderlich, das diese technologischen Aspekte für die Beratung benennt und reflektiert. Wir schlagen hierzu folgende Begriffe vor.  In der Kommunikation mit sogenannter Künstlicher Intelligenz (LLMs) entsteht Künstliche Kommunikation (Esposito, 2022), diese ist eine Kommunikation zwischen Menschen und Technologie: Sie ist zwar kommunikativ real als Gespräch erlebbar, zugleich aber nur eine technologiebasierte Simulation einer Gesprächssituation. [...] Den ganzen Text "Ein erstes Begriffsinventar zu einer Theorie Künstlicher Kommunikation in der Beratung" gibt es hier als PDF.
Read more »

KI, Kant Immanuel: Was ist KI-Aufklärung?

Bild
 Brauchen wir eine KI-Aufklärung?  Die Welt ist voller Ergebnisse und voll mit Produkten der KI-Systeme: Texte, Musik, Bilder, Videos - der Imitation sind keine Grenzen mehr gesetzt. Und das Missverstehen nimmt zu, dass es sich bei diesen Imitationen in irgendeiner Form um Bewusstsein oder gar Leben handeln könnte. Willkommen im KI-Hype.  So nutzen wir selbst eine Imitation des berühmten Textes von Immanuel Kant „Was ist Aufklärung?“, um eine KI-Aufklärung anzuregen. Haben wir mehr Mut, uns selbst unseres eigenen Verstandes ohne Leitung eines algorithmischen Systems zu bedienen. Hier der ganze Text „KI - Kant Immanuel: Was ist KI-Aufklärung?"
Read more »