Zukunftslabor · Mensch und Verantwortung
Was müssen wir noch selbst wissen, wenn Antworten jederzeit verfügbar sind? Welche Fähigkeiten sollten wir behalten, wenn Maschinen sie besser beherrschen? Was dürfen wir geistig delegieren? Und wenn künstliche Intelligenz uns tatsächlich Arbeit, Mühe und Zeit abnimmt: Wofür wollen wir die gewonnenen Möglichkeiten nutzen?
Während einer Workation des Citizen Circle in Sitges habe ich täglich einen 45-minütigen Philo Talk mit einer Gruppe digitaler Unternehmerinnen und Unternehmer moderiert. Für jeden Tag wählte ich zunächst einen Gedanken aus Philosophie, Ökonomie oder Technikgeschichte als Ausgangspunkt.
Die Themenfolge war bewusst offen. Was an einem Tag diskutiert wurde, bestimmte mit, welche Frage am nächsten auf den Tisch kam. Manchmal stellte sich heraus, dass die Gruppe einen für später vorgesehenen Gedanken längst vorweggenommen hatte. Dann änderte ich meine Planung und suchte einen anderen historischen Impuls.
So führte uns Aristoteles zur Frage nach Lernen und Können, Platon zu Wissen und Verstehen und Kant zur Urteilskraft. Wir sprachen über Arbeit und Freiheit, über die Macht und Undurchsichtigkeit von Technologie, über Regeln und Bürokratie, gesellschaftliche Ungleichheit, Abhängigkeit und schließlich über Verantwortung.
Eigentlich wollte ich mit diesen Gesprächen über die Zukunft nachdenken. Am Ende blieb bei mir jedoch ein Gedanke hängen, den ich gleichzeitig beruhigend und beunruhigend finde:
Wie alt viele unserer vermeintlich neuen Fragen sind.
Die Werkzeuge verändern sich. Die Spannungen, die sie auslösen, erscheinen dagegen manchmal erstaunlich vertraut.
In diesem Beitrag
Was verlieren wir, wenn das Werkzeug für uns arbeitet?
Aristoteles lebte im vierten Jahrhundert vor Christus. Von künstlicher Intelligenz, Automatisierung oder moderner Erwerbsarbeit konnte selbstverständlich keine Rede sein. Ihn beschäftigte eine grundlegendere Frage: Wie entwickelt ein Mensch Fähigkeiten und Charakter?
In der Nikomachischen Ethik beschreibt er, dass wir das, was wir tun können müssen, wesentlich dadurch lernen, dass wir es tun. Ein Baumeister wird durch Bauen zum Baumeister. Tugenden entstehen für Aristoteles ebenfalls durch entsprechende Praxis.1
Dieser mehr als 2.000 Jahre alte Gedanke bekam in unserer Runde plötzlich eine erstaunliche Aktualität.
Stellen wir uns zwei Menschen vor, die einen anspruchsvollen Text schreiben sollen. Der erste recherchiert, verwirft Argumente, beginnt von vorn, formuliert, verbessert und produziert nach mehreren Stunden einen mittelmäßigen Text. Der zweite beherrscht den Umgang mit AI hervorragend und erzeugt innerhalb von zwanzig Minuten einen ausgezeichneten Text.
Wer hat die bessere Leistung erbracht? Vermutlich der Zweite. Aber wer ist nach dieser Aufgabe kompetenter als vorher? Das muss nicht dieselbe Person sein.
Daraus ließe sich schnell eine kulturpessimistische These entwickeln: Wenn AI immer mehr für uns übernimmt, nehmen wir uns genau jene Übung, durch die Fähigkeiten entstehen.
Doch die Gegenposition ist mindestens ebenso überzeugend. Im zweiten Zukunftslabor-Beitrag über Lernen mit AI habe ich diese Verschiebung bereits aus der Perspektive von Prozesskompetenz betrachtet: Menschlicher Fortschritt bestand schon immer auch darin, Dinge nicht mehr selbst tun zu müssen. Wir rechnen große Zahlen nicht mehr im Kopf, navigieren nicht ausschließlich mit Karten und müssen kaum noch Telefonnummern auswendig kennen. Bestimmte Fähigkeiten haben dadurch an Bedeutung verloren, während Kapazitäten für andere Tätigkeiten frei wurden.
Die entscheidende Frage lautet deshalb nicht, ob wir Fähigkeiten verlieren werden. Das haben Menschen mit der Entwicklung neuer Werkzeuge immer wieder getan. Die schwierigere Frage lautet:
Welche Fähigkeiten dürfen wir verlieren – und welche sollten wir bewusst erhalten?
Damit gelangten wir beinahe zwangsläufig zur nächsten Frage: Wenn wir nicht mehr alles selbst können müssen, müssen wir es wenigstens noch wissen?
Als eine neue Technologie das Denken bedrohte
Platon lässt Sokrates im Phaidros eine bemerkenswerte Geschichte erzählen. Der ägyptische Gott Theuth ist ein Erfinder. Ihm werden unter anderem Rechnen, Geometrie und Astronomie zugeschrieben. Schließlich entwickelt er eine weitere Neuerung: die Schrift.
Theuth präsentiert seine Erfindungen dem König Thamus und ist von der Schrift besonders überzeugt. Sie werde die Menschen weiser machen und ihr Gedächtnis verbessern.
Thamus widerspricht. Gerade weil Menschen Gedanken künftig außerhalb ihres eigenen Gedächtnisses festhalten könnten, würden sie dieses weniger trainieren. Sie könnten sehr viel aufnehmen und dadurch den Eindruck gewinnen, viel zu wissen, obwohl sie nicht wirklich verstanden hätten. Platon lässt Thamus deshalb zwischen wahrer Weisheit und ihrem bloßen Anschein unterscheiden.2
Die vermeintlich gefährliche Technologie, über die hier vor rund 2.400 Jahren nachgedacht wurde, war weder das Internet noch künstliche Intelligenz.
Es war die Schrift.
Das wirkt aus heutiger Perspektive beinahe beruhigend. Niemand von uns würde ernsthaft fordern, die Schrift wieder abzuschaffen, weil sie unser Gedächtnis schwächt. Doch daraus zu schließen, Platon habe sich einfach geirrt, wäre zu bequem. Wir haben tatsächlich einen Teil unserer Gedächtnisleistung externalisiert. Navigationssysteme verändern unsere räumliche Orientierung, Suchmaschinen beeinflussen, welche Informationen wir uns merken müssen.
Gleichzeitig ermöglichte gerade diese Externalisierung etwas viel Größeres. Wissen konnte über Generationen gespeichert, überprüft, miteinander verbunden und weiterentwickelt werden. Keine Wissenschaftlerin muss sämtliche Erkenntnisse ihrer Vorgänger neu entdecken. Wir haben etwas abgegeben – und dadurch etwas anderes gewonnen.
In unserem Gespräch entstand daraus eine Unterscheidung, die uns anschließend mehrere Tage begleitete:
Informationen können wir erhalten oder abrufen. Zu Wissen werden sie erst, wenn wir sie verstehen, einordnen und begründen können. Fähigkeit zeigt sich dort, wo wir dieses Wissen in einer konkreten Situation anwenden können. Und dann bleibt noch die Urteilskraft: Was bedeutet dieses Wissen in dieser konkreten Situation – und was soll ich damit tun?
Damit waren wir bei Kant.
Die Versuchung, das Denken abzugeben
1784 veröffentlichte Immanuel Kant seinen Aufsatz Beantwortung der Frage: Was ist Aufklärung? Traditionelle religiöse, politische und gesellschaftliche Autoritäten wurden in der europäischen Aufklärung zunehmend durch Wissenschaft, Vernunft und öffentliche Debatte herausgefordert.
„Sapere aude! Habe Mut, dich deines eigenen Verstandes zu bedienen!“3
Immanuel Kant · 1784
Unmündigkeit bedeutete für Kant nicht mangelnde Intelligenz. Gemeint war die Unfähigkeit oder fehlende Bereitschaft, den eigenen Verstand ohne die Leitung eines anderen zu gebrauchen.
Heute entsteht daraus eine bemerkenswerte Frage. AI zwingt uns womöglich gar nicht dazu, unser Urteil abzugeben. Denkbar ist vielmehr, dass wir es freiwillig tun – nicht unbedingt aus Bequemlichkeit, sondern sogar aus nachvollziehbaren Gründen.
Stellen wir uns eine AI vor, die mich zwanzig Jahre begleitet. Sie kennt meine Entscheidungen, Fehler, Beziehungen, Werte und Verhaltensmuster. Irgendwann lässt sich zeigen, dass ihre Empfehlungen häufiger zu Ergebnissen führen, mit denen ich später zufrieden bin, als meine eigenen spontanen Entscheidungen.
Sollte ich ihren Rat trotzdem ignorieren, nur damit die Entscheidung meine eigene bleibt?
Kants Forderung nach Selbstdenken bekommt dadurch einen ernst zu nehmenden Gegenpol. Mündigkeit könnte schließlich auch darin bestehen, zu erkennen, wann das Urteil eines anderen dem eigenen überlegen ist. Genau deshalb verlassen wir uns auf Ärzte, Statiker oder Steuerberater.
Die Grenze verläuft also nicht einfach zwischen Selbstdenken und Vertrauen. Sie verläuft möglicherweise dort, wo Vertrauen unsere eigene Fähigkeit zum Urteilen ersetzt.
Was dürfen wir geistig delegieren, ohne unsere Mündigkeit mit zu delegieren?
Wie viel Verständnis braucht Selbstbestimmung?
Der britische Science-Fiction-Autor und Technikvisionär Arthur C. Clarke formulierte sein berühmtes drittes Gesetz:
„Any sufficiently advanced technology is indistinguishable from magic.“4 Jede hinreichend fortgeschrittene Technologie ist von Magie nicht zu unterscheiden. – eigene Übersetzung
Arthur C. Clarke
Menschen standen seit jeher vor Phänomenen, deren Ursachen sie nicht verstanden. Gewitter, Krankheiten oder Sonnenfinsternisse wurden in unterschiedlichen Kulturen mit übernatürlichen Kräften erklärt.
Bei künstlicher Intelligenz erleben wir eine eigentümliche Umkehrung: Wir Menschen haben die Technologie selbst geschaffen, und trotzdem verstehen die meisten von uns nicht mehr, wie ein konkretes System im Einzelnen zu seinen Ergebnissen kommt.
Wir geben etwas ein und erhalten eine Antwort. Schnell entsteht die Formulierung: „Die AI sagt …“, als wäre „die AI“ eine handelnde Autorität.
Auch hier wäre Alarmismus zu einfach. Moderne Gesellschaften funktionieren gerade deshalb, weil niemand alles verstehen muss. Ich verstehe das Stromnetz nicht und benutze Elektrizität. Ich könnte kein Verkehrsflugzeug konstruieren und steige trotzdem ein.
Die relevante Frage lautet deshalb nicht, ob jeder Mensch die Mathematik hinter einem Sprachmodell verstehen sollte, sondern:
Wie viel Verständnis braucht Selbstbestimmung?
Damit verlassen wir langsam den einzelnen Menschen. Denn die Systeme, denen wir vertrauen sollen, entstehen nicht im luftleeren Raum.
Wenn aus einem Werkzeug gesellschaftliche Wirklichkeit wird
Der amerikanische Technikhistoriker Melvin Kranzberg formulierte 1986:
„Technology is neither good nor bad; nor is it neutral.“5 Technologie ist weder gut noch schlecht; aber sie ist auch nicht neutral. – eigene Übersetzung
Melvin Kranzberg
Kranzbergs Pointe liegt im letzten Teil. Technologien haben nicht einfach eine eingebaute Moral. Ihre Wirkungen hängen vom gesellschaftlichen Kontext ab – gleichzeitig verändern sie diesen Kontext.
Das Auto ermöglichte nicht lediglich schnellere Fortbewegung. Es veränderte Städte, Handel, Wohnen, Freizeit und Energieverbrauch. Das Smartphone erleichterte nicht nur Kommunikation; es veränderte Aufmerksamkeit, Erreichbarkeit, Beziehungen und Öffentlichkeit.
Künstliche Intelligenz dürfte ebenfalls nicht lediglich bestehende Tätigkeiten schneller erledigen. Sie könnte verändern, was wir überhaupt unter Arbeit, Wissen, Kreativität und Kompetenz verstehen.
In unserem Philo Talk begann die Diskussion über Kranzbergs Satz bei Moral. Eine halbe Stunde später waren wir bei Bürokratie angekommen. Das hatte ich nicht geplant – und gerade deshalb war es interessant.
Brauchen wir mehr Regeln? Wer darf sie setzen? Können demokratische Institutionen mit der Geschwindigkeit technologischer Entwicklung Schritt halten? Oder schaffen wir irgendwann ein Regelsystem, das sich selbst verwaltet, während die Technologie längst weitergezogen ist?
Die Frage hatte sich damit verändert. Es ging nicht mehr nur darum, was AI mit dem einzelnen Menschen macht, sondern darum, was eine Technologie mit einer Gesellschaft macht.
Und daraus entstand die nächste Frage fast von selbst:
Verändert sie eigentlich die Möglichkeiten aller Menschen gleichermaßen?
„Wer hat, dem wird gegeben“
Ausgerechnet ein Bibelzitat half uns, darüber nachzudenken.
Im Matthäusevangelium erzählt Jesus das Gleichnis von den anvertrauten Talenten. Ein Mann übergibt vor einer Reise drei Dienern unterschiedlich große Teile seines Vermögens. Zwei arbeiten mit dem ihnen Anvertrauten und vermehren es. Der dritte hat Angst, etwas zu verlieren, vergräbt sein Talent und gibt später lediglich das zurück, was er erhalten hat.
„Denn wer da hat, dem wird gegeben werden …“6
Matthäusevangelium 25,29
Das Gleichnis ist keine Theorie moderner sozialer Ungleichheit. Fast zwei Jahrtausende später griff der Soziologe Robert K. Merton jedoch genau diesen biblischen Gedanken für ein von ihm untersuchtes gesellschaftliches Phänomen auf.
Merton beobachtete, dass bereits renommierte Wissenschaftler für vergleichbare Leistungen häufig mehr Aufmerksamkeit und Anerkennung erhielten als weniger bekannte Forscher. Anerkennung eröffnete wiederum Zugang zu weiteren Ressourcen und Möglichkeiten, die neuen Erfolg wahrscheinlicher machten. Er bezeichnete diesen kumulativen Mechanismus 1968 als Matthew Effect – Matthäus-Effekt.7
Eine erste Hypothese lautet: Künstliche Intelligenz könnte einen ähnlichen Verstärkungseffekt erzeugen. Wer bereits Bildung, Fachwissen, Kapital, Daten, Netzwerke und hohe digitale Kompetenz besitzt, erhält mit AI einen zusätzlichen Multiplikator. Genau hier berührt der Gedanke den Beitrag „Wenn AI Türen öffnet – wer kann wirklich hindurchgehen?“: Technischer Zugang ist noch keine reale Teilhabemöglichkeit.
Die Gegenhypothese ist mindestens ebenso plausibel: AI könnte zu einem der größten Demokratisierer von Wissen und Fähigkeiten werden. Ein Jugendlicher, dessen Eltern keinen Privatlehrer bezahlen können, bekommt Zugang zu einem persönlichen Tutor. Ein Kleinunternehmer erhält Analysefähigkeiten, für die früher Spezialisten notwendig gewesen wären. Sprachbarrieren können sinken und Expertise billiger verfügbar werden.
Eine plausible Synthese lautet: Beides kann gleichzeitig geschehen. AI kann bestimmte Unterschiede verringern und andere vergrößern.
Damit reicht die Frage, ob grundsätzlich jeder Zugang zu einem System besitzt, nicht mehr aus.
Ist gleicher Zugang zu einem Werkzeug bereits Chancengleichheit?
Wir formen unsere Werkzeuge – dann formen sie uns
John M. Culkin, Medienwissenschaftler und Weggefährte Marshall McLuhans, schrieb 1967:
„We shape our tools and thereafter our tools shape us.“8 Wir formen unsere Werkzeuge – und danach formen unsere Werkzeuge uns. – eigene Übersetzung
John M. Culkin
Dieser Satz verändert erneut die Blickrichtung. Bis hierhin hatten wir vor allem gefragt, was wir mit AI machen können. Culkins Satz lenkt den Blick darauf, was jahrelange Nutzung eines Werkzeugs wiederum mit seinen Nutzern macht.
Eine mögliche Entwicklung lautet: Wer besonders konsequent automatisiert, gewinnt zunächst einen erheblichen Produktivitätsvorteil. Gleichzeitig können bestimmte Fähigkeiten verloren gehen und die Abhängigkeit von technischer Infrastruktur wachsen.
Dann geraten zwei Werte miteinander in Spannung: Effizienz und Resilienz.
Spezialisierung gehört zu den Grundlagen moderner Gesellschaften. Es wäre absurd, jede historische Fähigkeit nur deshalb zu konservieren, weil unsere Technologie irgendwann ausfallen könnte. Wir lernen schließlich auch nicht alle, ein Pferd zu beschlagen, falls das Auto nicht funktioniert.
Andererseits kann ein maximal effizientes System fragil werden, wenn jede Redundanz verschwunden ist. Eine Fähigkeit, die niemand mehr besitzt, steht auch dann nicht zur Verfügung, wenn sie plötzlich wieder benötigt wird.
Die Frage betrifft deshalb nicht nur Einzelpersonen:
Wie viel scheinbare Ineffizienz sollten Unternehmen und Gesellschaften akzeptieren, um resilient zu bleiben?
Das hatten Menschen doch alles schon einmal. Oder?
An diesem Punkt entstand bei mir während unserer Gespräche ein Gefühl, mit dem ich zu Beginn nicht gerechnet hatte: Beruhigung.
Nicht, weil ich künstliche Intelligenz inzwischen für harmlos hielte. Sondern weil mir bewusst wurde, dass Menschen offenbar seit Jahrtausenden mit einer ähnlichen Grundsituation konfrontiert sind.
Neue Möglichkeiten entstehen, alte Fähigkeiten verlieren an Bedeutung, Machtverhältnisse verschieben sich. Menschen streiten über Nutzen, Risiken und Moral. Institutionen reagieren, manchmal schnell, manchmal quälend langsam. Neue Normen entwickeln sich. Und irgendwann wird aus einer revolutionären Neuerung Alltag.
Von der Schrift über den Buchdruck und die Industrialisierung bis zu Elektrifizierung, Computer und Internet haben neue Werkzeuge immer wieder nicht nur verändert, was Menschen tun können, sondern auch, wie Gesellschaften organisiert sind und welche Fähigkeiten sie benötigen.
Darin steckt allerdings eine verführerische Schlussfolgerung: Wir haben frühere Disruptionen bewältigt, also werden wir auch diese bewältigen. Das wissen wir nicht.
Frühere Umbrüche verursachten erhebliche gesellschaftliche Kosten. Menschen verloren Arbeit, Status und Sicherheiten, Macht konzentrierte sich neu, und manche Anpassungsprozesse dauerten Generationen.
Hinzu kommt, dass digitale Technologien eine enorme Geschwindigkeit und Reichweite entwickeln können. Sie lassen sich global verbreiten, unsere Wirtschaft und Kommunikation sind eng miteinander vernetzt, und unterschiedliche Technologien können sich gegenseitig verstärken. Gesellschaftliche Institutionen verändern sich dagegen vergleichsweise langsam.
Offen bleibt, ob dadurch die Lücke zwischen technologischer Geschwindigkeit und gesellschaftlicher Anpassungsgeschwindigkeit wächst.
Doch auch diese These besitzt eine Gegenseite. Noch nie konnten Menschen Wissen so schnell weltweit austauschen, international zusammenarbeiten und Millionen Menschen gleichzeitig Zugang zu Bildung verschaffen. Sogar künstliche Intelligenz selbst könnte uns dabei helfen, ihre Auswirkungen schneller zu verstehen und gesellschaftliche Antworten darauf zu entwickeln.
Deshalb überzeugt mich inzwischen weder die beruhigende Aussage „Das hatten wir alles schon“ noch die dramatische Behauptung „Diesmal ist alles völlig anders.“
Viele menschliche Fragen wiederholen sich. Die Bedingungen, unter denen wir sie beantworten müssen, verändern sich.
Von „Was macht AI mit uns?“ zu „Was machen wir daraus?“
Viktor Frankl kommt aus einem völlig anderen historischen und existenziellen Zusammenhang als die bisherigen Denker.
Der Wiener Neurologe und Psychiater überlebte mehrere Konzentrationslager. In … trotzdem Ja zum Leben sagen beschreibt er Menschen, die angesichts ihrer Situation sagten, sie hätten vom Leben nichts mehr zu erwarten.
„Es kommt nie und nimmer darauf an, was wir vom Leben noch zu erwarten haben, vielmehr lediglich darauf: was das Leben von uns erwartet.“9
Viktor E. Frankl
Dieser Satz ist keine Technologietheorie und sollte auch nicht nachträglich zu einer gemacht werden. Für unsere Diskussion war vielmehr die Denkbewegung interessant: Eine Situation stellt uns vor Bedingungen, die wir nicht vollständig gewählt haben. Unsere Antwort besteht darin, wie wir uns dazu verhalten und was wir daraus machen.
Während unserer Gespräche wurde deutlich, dass wir zunächst nur die Hälfte einer Frage gestellt hatten: Was wird künstliche Intelligenz mit uns machen?
Welche Antwort wollen wir auf diese Entwicklung geben?
Genau an dieser Stelle landete auch unser letzter Philo Talk immer wieder bei einem Wort: Verantwortung. Doch je länger wir darüber sprachen, desto weniger eindeutig wurde dieser Begriff.
Verantwortung wofür – und gegenüber wem? Geht es darum, die eigene Urteilskraft nicht vorschnell an Maschinen abzugeben? Darum, Beschäftigte auf Veränderungen vorzubereiten? Darum, Manipulation und Machtkonzentration zu begrenzen? Oder besteht Verantwortung auch darin, dafür zu sorgen, dass die Möglichkeiten künstlicher Intelligenz gerade den Menschen zugänglich werden, die bisher weniger Zugang zu Bildung, Expertise und Kapital hatten?
Damit wurde Verantwortung plötzlich mehr als eine Begrenzung von Technologie. Sie konnte ebenso bedeuten, Möglichkeiten zu eröffnen.
Aus unserem Gespräch kristallisierten sich für mich drei Richtungen von Verantwortung heraus:
- Verantwortung für das, was wir bewahren: unsere Urteilskraft, bestimmte Fähigkeiten, Selbstbestimmung und genügend eigenes Können, um nicht vollständig von technischen Systemen abhängig zu werden.
- Verantwortung für das, was wir begrenzen: Manipulation, Missbrauch, problematische Machtkonzentration und Entwicklungen, bei denen die Vorteile einer neuen Technologie mit erheblichen Nachteilen für andere erkauft werden.
- Verantwortung für das, was wir ermöglichen: Zugang zu Wissen, Bildung und neuen Fähigkeiten auch für Menschen, die bisher weniger Möglichkeiten hatten, daran teilzuhaben.
Urteilskraft, Fähigkeiten, Selbstbestimmung und genügend eigenes Können.
Manipulation, Missbrauch und problematische Machtkonzentration.
Zugang zu Wissen, Bildung und neuen Fähigkeiten.
Gerade der letzte Punkt hat meinen Blick auf Verantwortung noch einmal verändert. Wer über verantwortungsvolle künstliche Intelligenz spricht, denkt schnell darüber nach, was verhindert, eingeschränkt oder reguliert werden sollte. Verantwortung kann aber ebenso darin bestehen, Möglichkeiten zu eröffnen.
Doch selbst damit ist die Frage nach Verantwortung nicht beantwortet. Denn Verantwortung ist kein Ziel an sich.
Verantwortung wofür eigentlich?
Wofür soll der Fortschritt gut sein?
Schon früh in unseren Gesprächen waren wir bei einer Frage gelandet, die durch AI neue Aktualität bekommt: Was geschieht eigentlich, wenn technischer Fortschritt uns tatsächlich Arbeit abnimmt? Der erste Zukunftslabor-Beitrag fragte deshalb: Wem gehört dann der Gewinn? Karl Marx unterschied zwischen notwendiger Arbeit und einem „Reich der Freiheit“, das dort beginne, wo die durch Not und äußere Zweckmäßigkeit bestimmte Arbeit endet.10
Für unsere Gruppe selbstbestimmt arbeitender digitaler Unternehmer führte das zu einer überraschend schwierigen Frage: Ist selbstbestimmte Arbeit bereits freie Arbeit? Und wenn AI uns tatsächlich weitere Arbeitszeit erspart – nutzen wir sie für mehr Freiheit oder lediglich dafür, noch mehr zu produzieren?
Dies war vermutlich die wichtigste Verschiebung unserer Gespräche. Wir begannen mit der Frage, was künstliche Intelligenz künftig alles können wird. Wir endeten bei der Frage, wofür wir wollen, dass sie etwas kann.
Die erste Frage richtet unseren Blick auf die Maschine und ihre Leistungsfähigkeit. Die zweite zwingt uns, über unsere Vorstellungen von einem guten Leben und einer guten Gesellschaft nachzudenken.
Soll künstliche Intelligenz uns ermöglichen:
- weniger zu arbeiten oder mehr zu produzieren?
- Bildung vor allem billiger oder vor allem besser zu machen?
- menschliche Entscheidungen zu ersetzen oder Menschen zu besseren Entscheidungen zu befähigen?
- wirtschaftliche Vorteile weiter zu konzentrieren oder neue Fähigkeiten breiter zugänglich zu machen?
- mehr zu konsumieren oder mehr Zeit für Beziehungen, Kreativität, Lernen, gesellschaftliche Beteiligung und Muße zu gewinnen?
Keine dieser Gegenüberstellungen ist so eindeutig, wie sie zunächst erscheint. Mehr Produktivität kann gesellschaftlichen Wohlstand schaffen, der wiederum bessere Bildung oder Gesundheitsversorgung ermöglicht. Weniger Arbeit führt nicht automatisch zu einem erfüllteren Leben. Und breiter Zugang zu AI garantiert noch keine Chancengleichheit.
Doch die Fragen machen etwas sichtbar, das in der technologischen Debatte leicht verloren geht: Technischer Fortschritt sagt uns nicht, welchem menschlichen Zweck er dienen soll.
Was ist ein gutes Leben?
Aristoteles hätte nach Eudaimonia gefragt – nach einem gelingenden menschlichen Leben, das sich nicht auf Wohlstand oder angenehme Gefühle reduzieren lässt. Für ihn gehörte dazu gerade die tätige Entfaltung menschlicher Fähigkeiten.
Epikur hätte uns möglicherweise daran erinnert, dass ein gutes Leben keineswegs ein Leben des permanenten Mehr sein muss. Freundschaft, maßvolle Freude und die Freiheit von unnötiger Angst waren für ihn wesentlich.
Frankl wiederum suchte Erfüllung nicht in maximaler Bequemlichkeit, sondern in Sinn: in einer Aufgabe, in der Hinwendung zu einem anderen Menschen oder in der Haltung gegenüber einer Situation, die sich nicht verändern lässt.
Wir müssen keine dieser Antworten übernehmen. Ihr Wert liegt darin, uns daran zu erinnern, dass technischer Fortschritt und menschlicher Fortschritt nicht dasselbe sind.
Eine Gesellschaft kann produktiver werden, ohne dass ihre Menschen besser leben. Ein Unternehmer kann mit AI doppelt so effizient werden und die gewonnene Zeit einfach mit doppelt so vielen Aufgaben füllen. Eine Technologie kann uns Arbeit abnehmen, ohne uns die Antwort darauf zu geben, was wir mit der gewonnenen Freiheit anfangen sollen.
An dieser Stelle hat die Diskussion über künstliche Intelligenz überraschend wenig mit künstlicher Intelligenz zu tun. Sie führt zurück zu uns.
Was ich aus Sitges mitnehme
Nach diesen Philo Talks bin ich nicht sicherer, wie sich künstliche Intelligenz entwickeln wird. Gerade darin liegt eine Erkenntnis unserer Gespräche.
Beruhigend finde ich inzwischen etwas anderes. Wir sind nicht die erste Generation, die erlebt, dass ihre Werkzeuge schneller neue Möglichkeiten schaffen, als ihre bisherigen Begriffe, Gewohnheiten und Regeln Antworten liefern können. Menschen haben solche Spannungen immer wieder ausgehandelt – manchmal klug, manchmal spät und manchmal unter erheblichen gesellschaftlichen Kosten.
Daraus folgt keine Garantie für einen guten Ausgang. Unsere heutige Welt ist globaler und enger vernetzt, digitale Technologien können sich mit enormer Geschwindigkeit verbreiten und ihre Auswirkungen entsprechend schnell skalieren. Gleichzeitig verfügen wir über Möglichkeiten des Wissensaustauschs, der Bildung und der internationalen Zusammenarbeit, die frühere Generationen nicht hatten.
Darin liegt für mich etwas Tröstliches – allerdings keine Entwarnung.
Statt Euphorie oder Fatalismus bleiben Fragen, die jeder von uns für sich und die wir zugleich als Gesellschaft beantworten müssen:
- Was möchte ich weiterhin selbst wissen?
- Welche Fähigkeiten möchte ich selbst behalten?
- Welche Entscheidungen möchte ich nicht vollständig delegieren?
- Was kann ich guten Gewissens an Maschinen abgeben?
- Wie können möglichst viele Menschen von den neuen Möglichkeiten profitieren?
- Wofür möchte ich die dadurch gewonnene Zeit, Freiheit und Leistungsfähigkeit einsetzen?
Darin zeigt sich der rote Faden, der sich von Platons Sorge über die Schrift bis zu unseren Gesprächen über künstliche Intelligenz zieht. Menschen entwickeln Werkzeuge. Diese Werkzeuge erweitern ihre Möglichkeiten und verändern zugleich die Bedingungen, unter denen Menschen leben. Daraus entstehen neue Spannungen – und irgendwann müssen wir neu entscheiden, was wir bewahren, was wir verändern und was wir mit unseren neuen Möglichkeiten anfangen wollen.
Nicht, weil die Menschheit bisher auf jede Disruption die richtige Antwort gefunden hätte. Sondern weil wir seit Jahrtausenden etwas tun, das auch jetzt notwendig ist: Wir beobachten, zweifeln, streiten, unterscheiden, lernen und korrigieren unsere Antworten.
Darin liegt eine jener Fähigkeiten, die wir gerade nicht vorschnell delegieren sollten.
Die Werkzeuge ändern sich. Viele unserer Fragen bleiben erstaunlich ähnlich. Neu beantworten müssen wir sie trotzdem jedes Mal.
Zukunftslabor-Nordstern · Birgit Arnold
Und vielleicht ist die entscheidende Frage am Ende nicht, wie menschlich künstliche Intelligenz eines Tages werden wird – sondern welche Menschen wir im Umgang mit ihr werden wollen.
Quellen und weiterführende Texte
- Aristoteles: Nikomachische Ethik, Buch II, Kap. 1, 1103a–b. Der Gedanke zum Lernen durch Ausübung wird im Essay sinngemäß wiedergegeben.
- Platon: Phaidros, 274c–275b. Sokrates erzählt die Geschichte von Theuth und Thamus über Schrift, Gedächtnis und den Anschein von Weisheit.
- Immanuel Kant: Beantwortung der Frage: Was ist Aufklärung? (1784): „Sapere aude! Habe Mut, dich deines eigenen Verstandes zu bedienen!“
- Arthur C. Clarke: Drittes Clarkesches Gesetz; aufgenommen in die überarbeitete Ausgabe von Profiles of the Future (1973): „Any sufficiently advanced technology is indistinguishable from magic.“ Deutsche Fassung im Essay: eigene Übersetzung.
- Melvin Kranzberg: „Technology and History: ‘Kranzberg’s Laws’“, Technology and Culture, Vol. 27, Nr. 3 (1986), S. 544–560.
- Die Bibel: Matthäusevangelium 25,14–30, insbesondere Mt 25,29: Gleichnis von den anvertrauten Talenten.
- Robert K. Merton: „The Matthew Effect in Science“, Science, Vol. 159, Nr. 3810 (1968), S. 56–63.
- John M. Culkin: „A Schoolman’s Guide to Marshall McLuhan“, Saturday Review, 18. März 1967. Der häufig Marshall McLuhan zugeschriebene Satz stammt aus Culkins Text.
- Viktor E. Frankl: … trotzdem Ja zum Leben sagen. Ein Psychologe erlebt das Konzentrationslager. Kontext der Umkehr von der Frage, was der Mensch vom Leben erwartet, zu der Frage, was das Leben von ihm erwartet.
- Karl Marx: Das Kapital, Band III, Kapitel 48. Passage zum „Reich der Freiheit“ jenseits der durch Not und äußere Zweckmäßigkeit bestimmten Arbeit.
Verwandte Beiträge im Zukunftslabor
Eine andere Perspektive?
Das Zukunftslabor ist offen für begründeten Widerspruch und weiterführende Gedanken. Wenn du eine eigene Position zur Zukunft mit AI ausarbeiten möchtest, kannst du einen Gastbeitrag einreichen. Der Ablauf und der verpflichtende Autorenfragebogen stehen auf der Zukunftslabor-Seite.
