Mutige Gedanken zu KI und Beratung - Kapitel 1

Gut ein Jahr nach unseren „Bemerkungen zu Beratung, Künstlicher „Intelligenz“ &  ChatGPT“ (Engel, F., Kühne, S. und  Sickendiek, U., 2023)  lässt sich einiges konkreter fassen und das Thema ist nun auch in der Beratung angekommen, aber …

Frage: Wie ist oder war euer Zugang zu der Thematik?

FE: Für mich gilt ganz grundsätzlich, dass Beratung eine kommunikative kulturelle Praxis ist und wenn sich die Formen der Kommunikation verändern, dann verändert sich auch die Beratung. Das war schon vor fast dreißig Jahren mein Thema entlang von (Such-)Begriffen wie reflexive Modernisierung oder Postmoderne und Technologie (Internet) gehörte immer dazu. Umfassend konkret wurde Technologie dann in der Onlineberatung/e-Beratung und gegenwärtig haben wir wiederum eine technologische Entwicklung mit noch nicht einschätzbaren Auswirkungen auf Beratung. 

Bevor dialogfähige LLMs bzw. generative KI-Modelle zum Thema wurden, gab es für mich auch schon die Auseinandersetzung mit Algorithmen und Daten in der Beratung: Datafizierung mit all ihren Prozessen sowie Überwachungs- und Kontrollpotentialen und eben (Entscheidungs-)Algorithmen mit ihren teilweise kulturprägenden Diskriminierungsformen und „biases“. Diese Debatten gibt es seit fast zwanzig Jahren und es sind immer auch Debatten über Gerechtigkeit, Macht und Ausschluss. 

Das gilt insbesondere, seit wir das Stichwort KI  (z.B. ChatGPT) haben, denn hiermit wird Technologie erstmals zu einem kommunikativen und dialogfähigen Akteur. Das kann man in seiner Bedeutung für Beratung gar nicht hoch genug hängen.

Stefan, sind wir beide nicht durch zwei „Personen“ zu dem Thema gekommen? Waren wir nicht auf der Party und sind mit ELIZA und Weizenbaum ins Gespräch gekommen? ELIZA, zwar einfach gestrickt, aber doch recht unterhaltsam in ihren Antworten und so verdammt gelassen, man konnte sie zu allem fragen und sie formulierte geduldig neue Fragen oder Antworten, die jedoch schon am frühen Abend recht sinnentleert sein konnten. Und dann war da noch der Joseph, Joseph Weizenbaum, ihr Schöpfer, der uns mit „Die Macht der Computer und die Ohnmacht der Vernunft“ (Weizenbaum, 1990)  so wunderbare Sätzen wie „Wenn die Astrologie Unsinn ist, dann ist mit Sicherheit auch eine mit Computern betrieben Astrologie Unsinn“ (Weizenbaum, 1990 (1976), S. 59) schenkte und uns humorvoll, aber bestimmt von der Grundlegung einer ethischen Betrachtung von KI mehr als überzeugen konnte. Es wurde spät und wir saßen alle wie früher in der Küche, erfreuten uns an der Sinnleere unserer Argumentation und ELIZA hörte zu … 

SK: Ja, die gute ELIZA! Und warum hören diese dienstbaren digitalen Geister (ELIZA, Siri, Alexa etc.) eigentlich alle auf weibliche Vornamen? Darüber müssen wir dann auch noch reden. Ich finde Deinen Hinweis auf die Technikgeschichte sehr interessant und hilfreich. Jutta Kähler hat dazu bei Reclam 2020 einen sehr lesenswerten Band herausgebracht: „Maschinenmenschen. Von Golems, Robotern und Cyborgs“. Darin spannt sie den Bogen von der Antike bis in die heutige Zeit und so kann es z.B. für heutige Diskussionen hilfreich sein, auch darüber nachzudenken, was Hannes Bajohr einmal in der F.A.Z. am Sonntag das „prometheische Unbehagen“ in Bezug auf LLM genannt hat: Auf einmal können Maschinen etwas, das wir bislang für uns reklamiert hatten, und die Frage wird nun sein, ob wir den Maschinen auch das „Feuer“ geben möchten, doch natürlich sind wir damit gleich in einer metaphysischen Debatte um die Themen Geist, Seele und freier Wille. Ich werde bei nächster Gelegenheit ELIZA dazu befragen und Dir berichten.

[...]

Die ganzen "Mutigen Gedanken (Kapitel 1)" gibt es hier als PDF.