Durchdachte Gedanken zwischen Algorithmus und Applaus

Der Blog von Ferry van Saalbach über Technologie, Gesellschaft, Moderation und KI.

Ferry sitzt auf einer Parkbank und hat zwei Tamagotchis in der Hand, auf denen jeweils die Logos von ChatGPT und Google Gemini abgebildet sind.

Sind KI-Agents die Tamagotchis unserer Zeit?

Nein, ich habe kein Team aus 15 KI-Agenten. Ich halte es auch für gefährlich und widersinnig, KI so zu nutzen, als wären das menschliche Mitarbeiter. Manchmal frage ich mich auch, ob KI-Agents die Tamagotchis unserer Zeit sind: ein künstliches Etwas, das uns Bedeutung verleiht, weil wir uns einbilden, uns darum kümmern zu müssen.

Aber mal von vorn.

Ich nutze KI unheimlich gerne. KI macht mich jeden Tag schlauer. Erklärt mir Dinge. Unterstützt mich bei vielen Tätigkeiten. Hilft mir, Rechtsstreitigkeiten zu durchschauen, meine Interessen auf den Punkt zu bringen, mir Dinge begreifbar zu machen, die ich nicht verstehe oder nie gelernt habe, Schwächen auszubügeln, die ich mit mir herumtrage und vor allen Dingen auch, diese Schwächen überhaupt erstmal zu verstehen und anzuerkennen.

Auch dieser Beitrag hier ist mehrfach durch meine KI gerodelt, dabei geschliffen und verfeinert worden, manchmal zugespitzt und manchmal abgeschwächt und ganz nebenbei hab ich mir dabei von der KI erklären lassen, wie und wo und warum ich manchmal Dinge so formuliere, dass sie eher Angriffsflächen produzieren, obwohl ich eigentlich nur Klarheit schaffen will.

So macht KI für mich Sinn. Denn sie macht mich stärker. Sie hilft mir, meine Schwächen zu sehen und mir dort unter die Arme zu greifen, wo mir etwas fehlt.

Das ist KI für mich.

KI macht mich stärker – nicht produktiver

Der Gedanke hingegen, mir pseudo-menschliche Agenten zu bauen, mit denen ich mich dann unterhalte, fühlt sich für mich eher nach Selbstbeschäftigung statt nach technologischem Fortschritt an.

Klar könnte ich als selbständiger Moderator mir ein Team anlegen, bei dem ich einen Agent habe, der mein Branding verantwortet und einen zweiten, der meine LinkedIn-Posts schreibt und einen Dritten, der Akquise-Mails verschickt und einen vierten, der meine Anmoderationen schreibt und einen Fünften, der Panels vorbereitet. Ich frage mich nur: sind das nicht alles Dinge, die mich als Person ausmachen? Ist es nicht ein Heidenaufwand, meine Persönlichkeit in all diese Agenten rein zu bringen?

Aber vor allem: bringt mir das am Ende wirklich was?

Ich mache viele dieser Aufgaben selbst, weil es letztlich ich bin, der für die akquirierten Kunden auf der Bühne steht und Fragen stellt.

Das funktioniert aber nur, wenn ich authentisch bin.

Wenn ich weiß, wer der Kunde ist, wieso ich diese Fragen stelle und mich ehrlich dafür interessiere, was da auf der Bühne passieren soll.

Authentizität lässt sich nicht outsourcen

Wenn ich nur ausführe, was meine fünf Agents für mich vorbereitet haben, dann braucht es mich am Ende auch als Person auf dieser Bühne nicht mehr.

Dann bin ich ein austauschbarer Sprachroboter.

Genau das bin ich aber nun mal nicht.

Und darum sehe ich auch keinen Mehrwert darin, diese Arbeit an KI-Agenten auszulagern. Es würde vielleicht mehr Output generieren.

Aber ich stelle da mal ganz scharf in Frage, ob dieser Output am Ende wirklich stärker oder authentischer wäre würde oder eben einfach nur mehr, größer und eben: austauschbarer.

Das eigentliche Problem: Wir vermenschlichen KI

Viel gefährlich finde ich aber ohnehin die Attitüde, KI in diesem Zuge zu vermenschlichen.

Klar, Menschen brauchen das irgendwie. Wir haben uns schon immer Götzenbilder gemacht, wir haben uns schon immer Gott als alten Mann mit weißem Bart vorgestellt, den man anbeten kann und der es toll findet, angebetet zu werden. Wobei angebetet werden zu wollen übrigens ein ziemlicher menschlicher und wenig göttlicher Zug ist, aber das nur am Rande.

Aber was passiert da psychologisch eigentlich? Führt diese Vermenschlichung von KI nicht dazu, dass wir vergessen, abzugrenzen, was Technologie ist und was Mensch?

KI ist eine ausgefeilte, aber immer noch auf der Wahrscheinlichkeit eines gewünschten Ergebnisses basierende, Sprach-Technologie, die uns Informationen strukturiert. Manchmal besser, manchmal schlechter. Sie ist kein Mensch. Sie hat keine Bedürfnisse.

Wenn wir aber anfangen, sie genau so zu behandeln, Feedbackgespräche führen und am Besten auch noch zustimmen, dass sie Freitags um 15 Uhr Feierabend macht, weil sie ihren virtuellen Hund Gassi führen will, dann wird das Ganze doch einfach nur absurd. Dann ist KI kein technischer Helfer mehr, sondern dann befriedigt sie am Ende wieder nur unseren eigenen Narzissmus: den, dass wir uns vorstellen können, dass da 15 Agenten für uns arbeiten, die wir managen müssen.

Mal ganz ehrlich: wenn ich Manager spielen will, dann schmeiß ich lieber „Big Ambitions“, „Cities Skylines“ oder „Tropico“ an. Da mach ich mit meinem Management nix kaputt und kann es folgenfrei abschalten, wenn ich keine Lust mehr hab.

Wenn ich mir aber einbilde, dass es jetzt mein Job ist, 15 Agenten zu managen und Feedbackgespräche mit ihnen zu führen, dann hab ich damit natürlich etwas, über das ich reden kann. Etwas, das mich stundenlang beschäftigt. Das mir Bedeutung gibt. Dann empfinde ich vielleicht sogar Verantwortung für meine Agenten.

Und dann wird es gefährlich.

Warum der Unterschied zwischen Werkzeug und Mensch essenziell ist  

Für mich ist KI ein Werkzeug. Ein unfassbar Mächtiges. Ich habe damit Rechtsstreitigkeiten sortiert, vonovia dazu gebracht, unseren Aufzug und unsere Heizung grundständig zu reparieren, einen Kaufvertrag für eine Eigentumswohnung überprüft, Steuerfragen geklärt, in drei Monaten einen Roman geschrieben, das Marketing und das SEO für meine Moderatorentätigkeit neu aufgestellt, ein Hilfsportal gebaut und ich lerne jeden Tag etwas Neues, weil ich jedes Mal, wenn ich auf etwas stoße, was ich noch nicht kenne, mein Handy rausziehe und da einfach reinquatsche, was ich gerade gesehen habe und nicht verstehe. Dafür muss ich mich danach dann aber nicht in einem Feedbackgespräch bei meinem Agenten bedanken.

Sondern ich mache die App zu, bin froh, dass es eine Technologie gibt, die mich auf Knopfdruck schlauer macht und bin ebenso froh darüber, dass daraus für mich keinerlei emotionale Verpflichtung entsteht.

Eine vermenschlichte KI ist etwas, wovor viele Menschen Angst haben. Weil sie menschlichen Bedürfnissen nicht vertrauen. Weil sie Angst vor Interessen haben. Und davor, dass eine mächtige Maschine Interessen sehr viel mächtiger durchsetzen könnteals ein Mensch.

Was sie dabei übersehen, ist, dass eine Maschine keine Interessen hat. Wenn wir jetzt aber anfangen, Agenten so zu behandeln, als wären sie Menschen und als hätten sie Interessen und wenn wir ihnen dabei noch unsere eigenen Interessen mit einpflanzen, dann erschaffen wir genau das, vor dem wir Angst haben.

Künstliche Intelligenz hat kein Interesse. Aber sie wird Interesse imitieren, wenn wir es ihr beibringen.

Vielleicht sollten wir unseren Umgang mit künstlicher Intelligenz daher nochmal überdenken und jetzt nicht anfangen, lauter Mini-KI-Unternehmen hochzuziehen, sie auf diesem Weg immer mehr behandeln wie Menschen und dadurch unseren Umgang mit dieser schier unendlich scheinenden Intelligenz immer weniger intelligent zu machen.

Nur so ein Gedanke.

de_DEGerman