00:00:00: Himmelkruzifix, jetzt hat mit der schon wieder ein falsches Ergebnis ausgespuckt.

00:00:05: Ja so oder so.

00:00:06: ähnlich fluchen die meisten von uns wenn die Software mit der wir arbeiten nicht das tut was wir gerne von ihr hätten.

00:00:13: So als ob uns da ein lebendes Wesen einen Streich gespielt hätte oder sich Partu nicht so verhält wie wir es gerne hätten.

00:00:22: Wir beschimpfen Computer.

00:00:24: Wir entschuldigen uns beim Staubsauger und wir sprechen mit Jajibidi so, als würde uns da ein menschliches Gegenüber antworten.

00:00:33: Warum eigentlich?

00:00:35: Ist das harmlos oder sollten wir da ein bisschen genauer hinschauen?

00:00:39: Welche Folgen hat die Vermenschlichung von Technologie?

00:00:45: Vorne ist wo sich noch keiner auskennt.

00:00:48: Gutso!

00:00:49: Das verleiht den Spielraum.

00:00:51: Herzlich willkommen beim Blick nach vorn, dem Podcast zur Zukunft von Gesellschaft und Wirtschaft.

00:00:57: Mein Name ist Franz Kühmeyer und ich bin Trendforscher.

00:01:01: Es beginnt ja mit den Zuschreibungen die wir software-und ganz besonders künstliche Intelligenz geben.

00:01:07: Sie denkt sie weiß sie lernt sie will Und auch sie halluciniert Genau zu diesem Begriff dem Halluzinieren.

00:01:18: ein bisschen später noch mehr und ausführlicher zum Einstieg.

00:01:21: aber Wenn wir so über ein technisches System sprechen, dann passiert etwas Beachtliches.

00:01:28: Die Maschine hat sich nicht verändert dadurch aber unser Verhältnis zu ihr sehr wohl – fundamental sogar!

00:01:36: Dabei wirkt es so als ob das alles kein Neuland wäre weil dass wir mit Dingen so sprechen als wären sie Lebewesen, das ist ja wirklich nichts neues.

00:01:47: Wir Menschen anthropomorphisieren alles seit immer schon.

00:01:52: Kinder sprechen mit Kuscheltieren.

00:01:55: Erwachsene geben ihren Autos Namen, Menschen entschuldigen sich beim Staubsaugerroboter wenn sie aus Versehen dagegen treten oder umgekehrt.

00:02:04: sie beschimpfen ihn wenn er ihnen gegen's Wadel knallt.

00:02:08: Wir sehen Gesichter in Wolken wir sehen Charaktere in Marken Absichten im Wetter und Schicksal im Zufall.

00:02:18: Hinter all dem steckt eine evolutionäre Strategie.

00:02:22: Für unsere Vorfahren war es überlebenswichtig, Absicht frühzeitig zu erkennen.

00:02:28: Lieber einmal zu oft glauben das hinter dem Rascheln im Gebüsch ein Wesen steckt als einmal zu selten.

00:02:35: oder anders gesagt lieber einen Schatten für einen Säbelzantiger halten als umgekehrt einem Säbelsantiger bloß für einen Schaten.

00:02:46: Unser Gehirn ist deshalb darauf trainiert überall Absicht zu vermuten und daher auch überall Handlungsträger.

00:02:53: Und jetzt trifft KI auf diesen Mechanismus in unserem Hirn und zwar ziemlich exakt!

00:03:00: Neu ist die Maschine, die Technologie, die begegnet uns nicht mehr über Hebeltastaturen Knöpfe Schalter- und Bildschirme sondern über Sprache.

00:03:11: Die Maschine antwortet sie reagiert Sie sagt sie erinnert sich an frühere Gespräche Sie formuliert empathisch, sie macht Witze.

00:03:21: Sie entschuldigt sich!

00:03:23: Vielleicht haben sie seinerzeit den Stanley Kubrick Film «Zweitausend Eins» oder «Seh im Weltraum» gesehen – das aus dem Jahr nineteen achtundsechzig Jahrzehnte vor Co-Pilot und Chachibiti.

00:03:35: Und in dem Film kommt auch eine künstliche Intelligenz vor.

00:03:38: Hell der Boardcomputer in dem Raumschiff Der wandelt sich mit der Zeit zum zentralen Charakter in dem Stück.

00:03:46: aber was von Anfang an auffällt Weil die Astronauten eben nicht über Tastatur oder Schalter mit hell kommunizieren, sondern durch natürliche Sprache hat Hell von der ersten Sekunde an eine Persönlichkeit auch für uns Zusehende.

00:04:03: Wir wissen schon das ist eine Maschine aber wenn sie spricht erscheint sie so viel mehr zu sein als nur Chips und Kabel und Stromkreise.

00:04:13: Und dann ist der Schritt, für uns nicht mehr weit dieser entsprechenden Maschine auch mehr zuzutrauen.

00:04:19: Intention zum Beispiel oder sogar Bewusstsein!

00:04:24: Bei aktuellen LLMs bei Getschy Betion Co.

00:04:28: geht es uns genauso noch dazu wo diese Systeme Aufmerksamkeit zu zeigen scheinen.

00:04:34: Sie reagieren wirklich auf uns sie gehen auf uns ein und erzeugen damit Nähe.

00:04:40: Aufmerksamkeit ist für Menschen eines der stärksten sozialen Signale überhaupt.

00:04:47: Wir diskutieren ja häufig darüber, ob künstliche Intelligenz irgendwann Bewusstsein entwickeln könnte und versteigen uns dann in wissenschaftlichen und spirituellen Diskussionen, ob das überhaupt möglich ist was bewusst sein ist usw.. Viel relevanter ist eine andere Frage, nämlich was passiert mit einer Gesellschaft die beginnt Systeme ohne Bewusstsein so zu behandeln als ob sie bewusst sein hätten?

00:05:13: Denn die psychologische Wirkung entsteht nicht erst dann wenn die Maschine tatsächlich empfindet.

00:05:19: Sie entsteht bereits dann wenn der Mensch das Gefühl hat verstanden zu werden.

00:05:25: Sprache ist es schon nie dass diese Türe öffnet.

00:05:29: Sprache wirkt für Menschen wie ein Beweis von Geist.

00:05:33: Wenn etwas spricht, noch dazu komplex und fehlerfrei spricht dann fühlt es sich für uns fast zwangsläufig beseelt an.

00:05:42: Evolutionär ist das ja auch eine begründete Annahme.

00:05:45: hinter jeder Stimme stand bis gerade eben noch echtes Leben.

00:05:50: Nun aber erleben wir zum ersten Mal Systeme die Sprache nicht nur reproduzieren können sondern sogar originär produzieren ohne dass dahinter so etwas wie Erfahrung, Empfindung oder auch Bewusstsein steckt.

00:06:05: Das ist kulturell völlig neu und überfordert uns entsprechend.

00:06:10: Ob die KI wirklich etwas versteht wenn sie sagt ich verstehe ihre Sorgen?

00:06:15: Ob es sich freut wenn Sie sagt Ich freue mich das ich helfen konnte.

00:06:20: Ob sie eine subjektive Perspektive auf die Welt hat, ein inneres Wesen Verletzlichkeit Freude Angst erleben Das ist aktuell und auch in Zukunft mehr als fragwürdig.

00:06:31: Und wie gesagt seit jeher ohnehin Gegenstand vielschichtiger Diskussionen.

00:06:36: Aber egal ob sie all das hat oder je haben wird Sie erzeugt in uns schon heute das Gefühl dass es hat und damit erzeugte beim Menschen noch ein Gefühl von Beziehung.

00:06:50: Vielleicht ist der Begriff KI sogar falsch, vielleicht simuliert KI nicht primär Intelligenz sondern Sozialität.

00:07:00: Und das hat Auswirkungen!

00:07:03: Wir verwenden KI nicht wie eine klassische Maschine, wie ein Mix in der Küche oder einen Staubsauger oder Schreibmaschinenbüro.

00:07:11: Menschen beginnen durchaus emotionale Beziehungen zu KI-Systemen aufzubauen.

00:07:16: Sie nutzen Chatpots als Therapeuten, Coaches, Gesprächspartner oder auch emotionale Begleiter und sprechen mit KI zum Teil intimer als mit Freunden oder Partnern.

00:07:28: Noch ein weiterer Bezug zu Hollywood.

00:07:30: im Klassiker War Games in dem eine KI-Kriegssimulation entdurch spielt fragt der Schauspieler den Computer is this real or is it a game?

00:07:41: Und die KI antwortet what's the difference?

00:07:47: Was ist der Unterschied?

00:07:49: Welche Folgen hat es, wenn Menschen nicht mehr zwischen Simulation und Realität zwischen Beziehung und sprachlicher Imitation unterscheiden.

00:07:59: Das ist keine therapeutische Perspektive sondern eine ganz pragmatische Denn genau an dieser Stelle wird die Entwicklung politisch, wirtschaftlich und kulturell relevant.

00:08:13: Unternehmen haben längst erkannt dass Anthropomorphismus ökonomisch wertvoll ist.

00:08:18: Ein System, das wie ein Werkzeug wirkt, erzeugt funktionale Nutzung.

00:08:24: Aber ein System, dass wie ein echtes Gegenüber wirkt – das erzeugte Bindung.

00:08:31: Deshalb sprechen die Silikernwellefirmen ja nicht von probabilistischen Sprachmodellen.

00:08:37: Sie sprechen von Assistenten, von Companions oder Co-Piloten.

00:08:43: Das ist kein Zufall!

00:08:45: Das erhöht Vertrauen und damit Nutzungsdauer.

00:08:49: Es reduziert kritische Distanz und fördert Loyalität.

00:08:54: Wir vertrauen vermenschlich der Technik stärker, und wir akzeptieren Fehler leichter!

00:09:00: Es ist doch ziemlich originell dass es den KI-Anbietern gelungen ist krasse Fehlfunktionen als fantasievolle Eskapaten zu beschönigen.

00:09:10: Ich finde das macht halt wirklich einen Unterschied ob wir sagen die KI halluziniert oder ob Das funktioniert nicht, das erzeugt falsche Ergebnisse.

00:09:22: Das ist hin!

00:09:23: Das ist nicht marktreif.

00:09:26: Stellen Sie sich eine Anbanduhr vor die mit schöner Regelmäßigkeit irgendeine x-beliebige Tageszeit anzeigt?

00:09:33: Da würden sie ja nichts sagen.

00:09:34: naja... Die haluziniert halt ein bissel.

00:09:37: Da würden Sie zum Uhrmacher gehen und sagen hey meine Uhr ist hin.

00:09:42: oder stellen Sie sich einen Taschenrechner vor der bei jeder zehnten Rechnung irgendeinen Ergebnis ausspuckt dann Kurz noch darauf besteht, dass es eh richtig ist und schließlich ganz treuherzig zugibt.

00:09:54: Ja leider das war nichts!

00:09:56: Da würden sie ja auch nicht milde drauf schauen und sagen naja mein Taschenrechner der halluziniert halt ab und zu sondern Sie werden zum Hersteller gehen und dem den Marsch blasen.

00:10:07: Das ist ein Dreck denn du da verkaufst behalte den Schmarrn und melde dich wieder wenn das Zeug funktioniert.

00:10:13: Bei KI machen wir das nicht.

00:10:15: Stattdessen proizieren wie sogar zunehmend Sinn Persönlichkeit oder sogar Spiritualität in diese Systeme hinein.

00:10:24: Auch das ist historisch betrachtet nicht ungewöhnlich.

00:10:28: Menschen haben immer dazu geneigt komplexen und schwer verständlichen System mit der physische Bedeutung zuzuschreiben Oracle, Geister Schicksal Götter Und heute eben Algorithmen.

00:10:42: Heute haben wir KI mit der wir sprechen können, die uns geduldig zuhört, dienstbar zur Seite steht, die wir um Rat fragen können.

00:10:50: Die uns hilft, die Welt zu verstehen und so interpretieren, mit der man sogar Sinnfragen diskutieren kann.

00:10:57: KI als Oracle – und daher auch als Projektionsfläche einer sekulären Gesellschaft.

00:11:05: Das erklärt auch warum die Debatten über KI oft nahezu religiöse Züge tragen?

00:11:10: Die einen erwarten von ihr Erlösung den Untergang.

00:11:16: Beides hat reale Konsequenzen, für den Einzelnen der mit KI intergiert und für die Gesellschaft in der KI und ihre Folgen nicht mehr abstrakte Science-Fiction sondern realer Gegenwart und Zukunft ist.

00:11:31: Es ist also keine schön geistige Diskussion ob wir KI unreflektiert vermenschlichen.

00:11:40: Noch pointierter wird es wenn wir uns anschauen wo sich der Anthropomorphismus gerade umkehrt Also nicht wo wir Maschinen vermenschlichen, sondern umgekehrt, wo wir Menschen zunehmend maschinenförmige einordnen.

00:11:55: Je mehr wir der Technologie soziale Eigenschaften zuschreiben, desto stärker messen wir nämlich Menschen an maschinellen Kriterien.

00:12:04: Dann zählen Effizienz, Verfügbarkeit, Fehlerfreiheit, Geschwindigkeit.

00:12:10: Laut der Eigenschaft also die Maschine besonders gut erfüllen und plötzlich wirkt urmenschliches Verhalten wie ein Defizit.

00:12:18: Müdigkeit gilt dann als ineffizient, Emotion ist irritierend, Langsamkeit gilt als unprofessionell.

00:12:27: Nachdenken wird zum Produktivitätsverlust.

00:12:31: Die Logik der Maschine beginnt auf den Menschen zurückzuspiegeln und da erleben wir nicht mehr die Humanisierung der Technologie sondern die Technologisierung des Menschenbildes.

00:12:45: KI begegnet uns im Dialog in unserer Sprache und das ist eine der intimsten Schnittstellen menschlicher Existenz.

00:12:53: Wir konstruieren unsere Welt – und selbst sogar – durch Sprache!

00:12:58: Bei Wittgenstein im Traktat steht der berühmte Satz, worüber man nicht sprechen kann darüber muss man schweigen.

00:13:05: Es lässt sich nur das sinnvolle in der Sprache ausdrücken was sich auf die empirische Welt bezieht und umgekehrt.

00:13:13: Alles was diese Grenzen überschreitet, entzieht sich der Abbildbarkeit.

00:13:17: Wir haben ja den Turing-Test jahrzehntelang als ultimative Prüfung für Intelligenz verstanden.

00:13:24: Wenn eine Maschine sich sprachlich nicht mehr vom Menschen unterscheiden lässt dann gilt sie als intelligent.

00:13:31: Ich würde sagen das war vielleicht ein Kategoriefehler.

00:13:34: Der Turing Test misst nicht Menschlichkeit oder Bewusstsein er misst lediglich erfolgreiche Imitation.

00:13:42: Die Fähigkeit, menschlich zu wirken ist nicht dasselbe wie menschlig zu sein.

00:13:50: Darum müssen wir so meine ich sehr sorgsam mit den unbewussten kulturellen Paradigmen umgehen denn wenn etwas klingt wie ein Mensch dann behandeln wir es irgendwann wie einen Menschen.

00:14:02: und auch wenn diese Systeme außergewöhnlich leistungsfähig sind hinter der Kulisse dort wo Persönlichkeit simuliert wird das sitzt halt in Wirklichkeit kein Mensch Der Blick nach vorne.

00:14:18: Ich sage ja, seit vielen Jahren immer wieder wenn die Maschinen bessere Maschienen werden dann müssen wir Menschen bessere Menschen werden.

00:14:27: Das ist ein Spruch mit dem ich hunderte Malet zitiert worden bin in sozialen Medien In Medien im persönlichen Gespräch.

00:14:35: Ein Spruch übrigens der den philosophischen Kontext inzwischen entwachsen ist und sich in der pragmatischen Realität von Unternehmen wiederfindet.

00:14:45: Was es bedeutet, ein besserer Mensch zu werden?

00:14:48: Das ist inzwischen nicht nur eine Diskussion beim Glasalwein am Abend sondern eine ganz reale Frage in der Personal- und Organisationsentwicklung geworden.

00:14:58: Umso wichtiger scheint es mir über die Grenze – die verschwimmende Grenze zwischen Mensch und Maschine nachzudenken und uns ihrer bewusst sein!

00:15:10: Die wirkliche kulturelle Revolution der künstlichen Intelligenz ist vielleicht gar nicht so sehr, dass Maschinen immer menschenähnlicher werden oder sich immer menscheähnliche verhalten sondern das wir beginnen Maschine durchaus sozial zu behandeln.

00:15:26: Wer einer Maschine Begriffe zuschreibt die ursprünglich für Menschen entwickelt worden sind Halluzinieren zum Beispiel oder Träumen Der verschiebt unmerklich die Grenze zwischen uns und unserem Werkzeug.

00:15:40: Und ja natürlich, ich weiß schon.

00:15:42: Wir haben auch bisher schon gesagt du blöder Hammer wenn wir uns auf den Finger geklopft haben und es geht kein unmittelbares Risiko daraus hervor dass wird in hammer vermenschlichen.

00:15:52: aber mit KI ist das ein bisschen was anderes nicht weil sie mächtiger als der hammer sondern weil wir sie in Themen und Fragen anwenden die urmenschliches terrein sind.

00:16:05: Personalentscheidungen etwa zum Beispiel.

00:16:07: messen sie wie gut genug ist, um ihn oder sie zum Bewerbungsgespräch einzuladen.

00:16:13: Wie wir die Leistung von Mitarbeitenden beurteilen.

00:16:16: Aber auch im persönlichen Kontext wenn wir KI als Coach im Alltag verwenden und um Rat den ganz persönlichen Angelegenheiten fragen.

00:16:26: Ob Maschinen irgendwann denken können und Bewusstsein haben können so wie wir Menschen das ist eine metaphysische oder zumindest technologische Frage.

00:16:36: aber Ob wir es schaffen, weiterhin menschlich zu denken, während wir täglich mit Systemen interagieren die Menschlichkeit imitieren?

00:16:46: Das ist eine Frage, mit der wir uns auch ganz persönlich auseinandersetzen können und sollen.

00:16:53: Das ist einer der Gründe warum ich mich so intensiv dafür einsetze dass wir im Umgang mit KI nicht nur technologische Kompetenz aufbauen müssen sondern vor allem auch kulturelle.

00:17:05: Am Ende ist das doch so.

00:17:06: Dem Anthropomorphismus entgehen wir nicht und das ist auch okay, solange wir uns dessen ganz klar bewusst sind wenn wieder mal duplöder Computer sagen.

00:17:22: Das war eine Folge von Blick nach vorne dem Podcast zur Zukunft von Gesellschaft und Wirtschaft.

00:17:28: mein Name ist Franz Kümerer und ich sage vielen Dank fürs zuhören!

00:17:32: Alle Informationen finden sie auf www.blicknachforne.com.

00:17:39: Abonnieren Sie diesen Podcast und seien sie auch das nächste Mal wieder dabei, wenn es wieder heißt.

00:17:44: Vorne ist wo sich noch keiner auskennt!