Der Nerdwärts-Podcast: Carl Schmitt und das Silicon Valley:

Der Podcast wurde mithilfe von NotebookLM aus dem Artikel „Von der digitalen zur gesellschaftsideologischen Transformation: Carl Schmitt und die Technolibertarians„, erschienen, hier auf Nerdwärts erstellt

Und für alle, dies es gerne noch plakativer und schneller haben, das Nerdwärts-Video zu Text und Podcast:

(ebenfalls via NotebookLM)

Mehr zum Thema: Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Carl Schmitt und das Silicon Valley: der Nerdwärts-Podcast erschien zuerst auf Nerdwärts.de.

Lange Zeit galt das Silicon Valley als Bastion eines optimistischen Liberalismus. Das Versprechen lautete: Technologie demokratisiert die Welt, vernetzt die Menschen und macht alte Hierarchien obsolet. Doch aktuell erleben wir einen fundamentalen Wertewandel. Eine wachsende Fraktion einflussreicher Akteure oft als „Technolibertarians“ oder „Neoreaktionäre“ (NRx) bezeichnet, stellt die Grundfesten der liberalen Demokratie infrage. Auf der Suche nach einer neuen politischen Ordnung stoßen sie dabei immer wieder auf einen denkbar unwahrscheinlichen Gewährsmann aus Deutschland: Carl Schmitt (1888 1985), den „Kronjuristen des Dritten Reiches“[1].

Die Wiederentdeckung Carl Schmitts im Silicon Valley ist dabei keine bloße rezeptorische Kopie. Sie beruht vielmehr auf einer adaptiven Neukontextualisierung. Protagonisten dieser ideologischen Wertverschiebung – wie Peter Thiel, Curtis Yarvin (Mencius Moldbug) oder Nick Land scheinen das Autoritäre in Schmitts Werk als Blaupause für eine neue Gesellschaftsordnung zu ästhetisieren. Schmitts Konzepte – die Freund-Feind-Unterscheidung, der Ausnahmezustand, die Absolutheit des Souveräns – werden aus dem Kontext der europäischen Staatskrise des 20. Jahrhunderts herausgelöst und auf die digitale Topographie des 21. Jahrhunderts angewandt.

Der „Souverän“ ist nicht mehr der Reichspräsident, sondern der „CEO-Monarch“ oder der innovative und durchsetzungsstarke Gründer; der „Großraum“ ist nicht mehr Mitteleuropa, sondern die digitale Plattform oder der „Network State„, und der „Feind“ ist nicht mehr eine fremde Nation, sondern „The Cathedral„[2], das akademisch-mediale Establishment, das den Progressivismus als säkulare Staatsreligion durchsetzt.

1. Carl Schmitts Begriff des Politischen: Die Unausweichlichkeit des Freund-Feind-Kriteriums

Schmitts berühmtestes Diktum aus Der Begriff des Politischen (1932) lautet: „Die spezifisch politische Unterscheidung, auf welche sich die politischen Handlungen und Motive zurückführen lassen, ist die Unterscheidung von Freund und Feind“. [3] Darin definiert er das Politische nicht über Institutionen, Normen oder Ethik sondern über die existentielle Unterscheidung zwischen Freund und Feind. Politik beginnt dort, „wo die Bereitschaft zum tödlichen Kampf“ möglich ist. Schmitt führt aus, dass ein Feind nicht notwendig „moralisch böse“ sein müsse. Er sei vielmehr „in besonders intensiver, existentieller Weise anders“ und fremd, sodass im Extremfall der Konflikt zwischen Gruppen unvermeidlich sei.[4] Die Zugehörigkeit zu einer politischen Gemeinschaft (einem „Volk“, einer „Nation“, einer „Identität“) werde erst durch solche Ausschlüsse klar definiert. Für Schmitt ist diese Unterscheidung ontologisch: Der politische Raum ist grundlegend antagonistisch; Neutralität, Konsens oder Kompromissdenken, wie sie etwa der liberalen Demokratie zugrunde liegen, werden als verfehlt angesehen.

Souveränität und Ausnahmezustand: das Entscheidungsprivileg

Eng verwoben mit dem Freund-/Feind-Kriterium ist bei Schmitt der Gedanke der souveränen Entscheidung. Der „Souverän“, derjenige, der nach Schmitt über den Ausnahmezustand entscheidet[5], ist ebenfalls konstitutiv für das Politische.

Staatliche Legalität und verfassungsrechtliche Ordnung sind aus Schmitts Sicht nicht primär normative Garantien, sondern Ausdruck politischer Macht. Wer entscheidet, wer Freund und wer Feind ist und damit, wer dazugehören darf und wer ausgeschlossen oder bekämpft wird, war für Schmitt unbedingt ein Akt der politischen Entscheidung und nicht bloße Anwendung abstrakter Rechtsnormen.

Ablehnung liberaler Neutralität

Schmitt kritisiert liberale Ansätze, die glauben, Konflikte durch zivilisierte Debatte, Rechtssysteme oder Fortschritt entpolitisierten zu können. Für ihn verkennen solche Ideologien die tief verwurzelte, anthropologische Dimension des Politischen: Den Menschen als Gemeinschaftswesen, das Identität und Existenz durch Abgrenzung und Bereitschaft zur Feindschaft erlangt.

Für Schmitt ist Politik keine deliberative Verwaltung oder Regulierung von Interessen, sondern existenzielle Abgrenzung und Entscheidung über das „Wir“ – mit allem Ausschluss, der notwendig ist, um Gemeinschaft zu konstituieren. Identitätsbildung erfolgt demnach durch Abgrenzung gegenüber „Den Anderen“

2. Rezeption von Carl Schmitt im Silicon Valley

Die Rezeption Schmitts im Silicon Valley, lässt sich nicht als „katechistischer Block“ erfassen, sondern muss als Netzwerk aus direkten Zitaten, strukturellen Analogien und persönlichen Verbindungen begriffen werden, die sich erst in der Gesamtbetrachtung zu einem Muster zusammensetzen.

Als einer der Ausgangs- und Angelpunkte ist sicherlich die Neoreactionary (NRx)-Bewegung und das damit verbundene Konzept der Dark Enlightenment zu identifizieren, als deren wichtigste Vertreter Curtis Yarvin (unter dem Pseudonym Mencius Moldbug) und Nick Land zu nennen sind.

Yarvin argumentiert für „Neocameralism“, eine Rückkehr zu korporativ organisierten Gesellschaften, wo Unternehmen wie Staaten funktionieren. Nick Land, dessen Wurzeln eigentlich in der kritischen Theorie (Deleuze, Marx) liegen, wandelte sich in den 2000ern zum Verfechter eines rechten „Akzelerationismus“ („Landianism“ oder „Landian Accelerationism“), der davon ausgeht, dass sich Kapitalismus im Zusammenspiel mit Technologie immer weiter beschleunigen wird und die durchaus erstrebenswerte Folge davon die Auflösung bestehender, insbesondere liberaler und egalitärer Strukturen sein muss.

Die NRx-Bewegung wird verstanden als „Application of Land’s accelerationist framework to Moldbug’s neocameralism„, und sie sieht Darwinismus, nicht liberale Gleichheit, als die Grundlage von Gesellschaft.[6] 

Beide, Yarvin und Land, argumentieren im Schmittschen Sinne. Die Absolutheit des Freund-Feind-Kriteriums spiegelt sich in der Abgrenzung gegenüber der „Kathedrale“ – den liberalen Gesellschaftsteilen – und der Ablehnung ihrer Werte wider. Die Verwischung vermeintlich klarer Grenzen entspricht damit einer „Depolitisierung“ im Sinne Schmitts – eine Situation, die einen mächtigen Souverän erfordere. Für Yarvin steht dieser im Zweifelsfall über dem Gesetz. Damit ist er derjenige, der bei Schmitt über den „Ausnahmezustand“ entscheiden kann.

Das Silicon Valley als Brutkasten für libertäre und neoreaktionäre Ideen

Für viele Akteure im Silicon Valley, die sich auch gesellschaftsphilosophisch äußern, sind die Ausführungen dieser Neoreaktionären und rechten Akzelerationisten offenbar sehr prägend gewesen. Verweise finden sich beispielsweise beim Netscape-Gründer und heute vermutlich wichtigstem Venture Capitalist Manager Marc Andreessen der in seinem oft zitierten „Techno-Optimist Manifesto“ explizit Nick Land als einen der „Patron Saints of Techno-Optimism“ anführt. Auch Balaji Srinivasan, Investor und Autor des breit rezipierten Buches „The Network State“[7] versucht, Yarvins Ideen digital umzusetzen: Srinivasans Konzept des „Network State“ basiert auf der Idee, dass ein Gründer (Founder) stark konzentrierte Autorität über seine Community haben sollte, ähnlich wie Yarvins monarchischer CEO. Der Charakter dieses Führertyps und dessen Rolle im System erinnert dabei ebenfalls stark an Schmitts Souverän.

Peter Thiel und Carl Schmitt

Der Gedanke, dass Liberalität und (deliberative) Demokratie im Kern Richtung Unfreiheit streben, wird auch von Peter Thiel, dem einflussreichen Investor (u.a. Paypal. Facebook, Nvidia, Palantir), Mentor und Förderer des Vizepräsidenten J.D. Vance und (ehemaligem?) Trump-Vertrauten geteilt. Schon In seinem 2007 erschienenen Essay „The Straussian Moment“ (Konferenzbeitrag von 2004)  greift Thiel auf Carl Schmitt zurück, um die Hilflosigkeit des liberalen Westens nach den Anschlägen vom 11. September zu erklären.[8] Er vertritt die These, dass die Aufklärung in eine intellektuelle Selbstentwaffnung gemündet sei, und fordert, die Existenz von Gewalt als anthropologische Konstante anzuerkennen, um die Zivilisation wirksam verteidigen zu können.

Im Jahr 2009 veröffentlichte Thiel auf Cato Unbound den Text „The Education of a Libertarian„, in dem er den inzwischen berühmten-berüchtigt gewordenen Satz schrieb: „I no longer believe that freedom and democracy are compatible“.[9] Diese Aussage erscheint in ihrem Kern zutiefst Schmittianisch. Sie spiegelt Schmitts Argumentation aus „Die geistesgeschichtliche Lage des heutigen Parlamentarismus“ wider, wonach Demokratie (die Identität von Regierenden und Regierten) und Liberalismus (individuelle Freiheitsrechte) zwei verschiedene Dinge sind, die sich widersprechen können.[10] Schmitt argumentierte, dass eine Demokratie sich entscheiden kann, die Freiheit abzuschaffen, etwa durch Enteignung oder Sozialismus, was Thiel auf die moderne US-Politik überträgt. Diese Argumentation, die typisch für den US-amerikanischen Technolibertarianism ist, folgt einer Logik, die Schmitts Kritik am Parlamentarismus als „ewige Diskussion“[11] aufgreift: Thiel diagnostiziert, dass politische Reformen gescheitert sind, da die Erweiterung des Wahlkreises (etwa auf Frauen oder Empfänger staatlicher Leistungen) zu mehr Regulierung und weniger Freiheit geführt habe. Als Konsequenz wird der „Exit“ propagiert – das Verlassen des bestehenden politischen Systems, um neue Räume für Freiheit zu schaffen -, etwa im Cyberspace, im Weltraum oder durch „Seasteading“, das Bestreben vieler Technolibertarians, Alternativstaaten, oft auf dem Meer in internationalen Gewässern zu errichten, um sich den Regeln etablierter Regierungsformen zu entziehen und neue Souveränitäten zu begründen, die nicht demokratisch, sondern libertär-monarchisch organisiert sind.

Technologischer Exit aus der deliberativen Demokratie

Diese „Exit“-Strategie lässt sich als technologische Umsetzung von Schmitts Souveränitätslehre interpretieren. Indem diese neuen quasistaatlichen Räume geschaffen werden, in denen oft technische Verfahren wie Distributed-Ledger (Blockchain, DAO) an die Stelle staatlicher Rechtsnormen treten, versuchen die entsprechenden Akteure, eine neue Form der Souveränität zu etablieren, die sich über den „Normalzustand der staatlichen Ordnung hinwegsetzt. Diese Vision entspräche der radikalisierten Umsetzung von Lawrence Lessigs berühmten Diktum „Code is Law“[12] als gesellschaftspolitischem Gestaltungsprinzip. Indem nicht mehr demokratisch erlassene Gesetze, sondern der Code oder auch der CEO bzw. Gründer souverän entscheiden, käme die Schaffung solcher exterritorialen oder digitalen Räume der Etablierung des „Ausnahmezustands im Sinne Schmitts gleich.

3. Synopse: Carl Schmitt und die Technolibertarians

Neutralisierung und Depolitisierung

Im Zentrum von Schmitts Denken steht die Beobachtung, dass das 19. und 20. Jahrhundert von einer Tendenz zur „Neutralisierung“ geprägt waren.[13] Der Liberalismus, so Schmitt, versucht, den harten Kern des Politischen die Entscheidung über Macht und Existenz aufzulösen. Er verwandelt den politischen Kampf in zwei harmlose Sphären:

• Ethik/Diskussion: Im Parlament wird der politische Wille in eine ewige Diskussion über das „Richtige“ verwandelt.

• Ökonomie/Tausch: Auf dem Markt wird der Konflikt in Wettbewerb und Tausch verwandelt. [14]

Für die Technolibertarians spiegelt dies exakt die Situation der westlichen Demokratien wider. Sie sehen eine politische Klasse, die unfähig ist, echte Entscheidungen zu treffen, weil sie in bürokratischen Prozeduren und moralischen Debatten gefangen ist, ein System, das so komplex und voller „Checks and Balances“ ist, dass es keinen Output mehr liefert.[15]

Schmitts These, dass der Liberalismus dem „Ernstfall“ nicht gewachsen ist, weil er die existenzielle Dimension des Konflikts leugnet[16], bildet das Fundament der neoreaktionären Staatskritik.

Freund-Feind-Kriterium

Zwei Aspekte aus dem schmittschen Freund/Feind-Kosmos, haben eine nachdrückliche Bedeutung für die Argumentation der Technolibertarians:

• Der existenzielle Feind: Der Feind ist nicht der private Gegner (inimicus), den man hassen muss, sondern der öffentliche Feind (hostis), der die eigene Art der Existenz negiert. Der Konflikt ist nicht normativ lösbar; er kann im Extremfall nur durch physische Vernichtung entschieden werden.[17]

• Die Unausweichlichkeit: Man kann sich dem Politischen nicht entziehen. Wer sagt „Ich habe keine Feinde“, wird dennoch von anderen zum Feind erklärt werden.[18]

Schmitts Warnung, dass derjenige, der „Menschheit“ sagt, betrügen will, zielt darauf ab, dass universelle Werte oft nur als Waffe genutzt werden, um den Gegner als „Unmenschen“ zu markieren und den Krieg gegen ihn total zu führen.[19]

Für die Neoreaktionäre bietet dies den Schlüssel zum Verständnis der modernen Kulturkämpfe. Sie argumentieren, dass der moderne Progressivismus (Wokeism) zwar Toleranz predigt, aber in Wahrheit eine gnadenlose Freund-Feind-Logik anwendet, in der Abweichler nicht als Diskussionspartner, sondern als existentielle Bedrohung („Nazis“, „Rassisten“) markiert und sozial vernichtet werden.[20]

Die Lektüre von Schmitt, scheint die Technolibertarians und Neoreaktionäre in ihrem Glauben zu bestärken, die Heuchelei des liberalen Universalismus durchschaut und die Notwendigkeit erkannt zu haben, sich selbst als politische Kampfgemeinschaft („Stamm“) organisieren zu müssen.[21]

Souverän und Ausnahmezustand

 „Souverän ist, wer über den Ausnahmezustand entscheidet.“[22] Dieser erste Satz aus Politische Theologie (1922) gilt als vielgenutztes Zitat in neoreaktionären Kreisen, weil er als (vermeintlich) scharfes Schwert gegen die liberale Demokratie dient. Er wird als der ultimative „Realitätscheck“ genutzt, um zu beweisen, dass demokratische Prinzipien wie Gewaltenteilung oder Rechtsstaatlichkeit eine Illusion sind.[23]

Schmitt argumentiert gegen den juristischen Positivismus, dass das Gesetz sich nicht selbst anwenden kann. Es bedarf einer Person, einer Instanz, die im Moment des Chaos (wenn die Norm versagt) entscheidet, dass ein Ausnahmezustand vorliegt, und Maßnahmen trifft, um die Ordnung wiederherzustellen.[24]

Diese Konzeption ist zutiefst kompatibel mit der Mentalität des Silicon Valley:

• Der Gründer-Mythos: Ein Start-up ist eine Monarchie. Der Gründer (Founder) hat die Vision und die Entscheidungsgewalt. Er diskutiert nicht demokratisch mit den Angestellten, ob der Pivot (die strategische Wendung) vollzogen wird; er entscheidet es.

• Der Staat als Apparat: Insbesondere Yarvin und Thiel übertragen dieses Modell auf den Staat. Demokratie ist „User-Input“, der das System verlangsamt. Wahre Souveränität bedeutet, dass eine Exekutive (ein CEO-König) die Macht hat, außerhalb der erstarrten Protokolle zu handeln, um das System zu retten („Reboot“).[25]

Der Ausnahmezustand ist hier positiv besetzt: Er ist der Moment der Innovation, der Disruption, in dem alte Regeln gebrochen werden, um eine neue Ordnung zu schaffen.

Überblick

Insgesamt bleibt festzuhalten, dass Carl Schmitt mit seiner „absoluten“ Sichtweise generell im Trend zu liegen scheint, wenn man auf die scheinbar immer striktere politische Lagerbildung nicht nur in den USA, auch in Europa und hierzulande blickt.

Abgrenzung über Kapitalismus und Technisierung

Während jedoch Schmitt seine Ausführungen zu Freund-/Feind und zur Souveränität nutzen wollte, um für einen stärkeren, entpolitisierten Staat in seinem Sinne zu argumentieren – einen Staat, der die Fronten klar erkennt und handelt), verwenden Technolibertarians Schmitt, um das Gegenteil zu erreichen: die Abschaffung von Staatlichkeit durch Dezentralisierung, Exit-Optionen, private Souveränität durch Technik. Damit wird die Kritik am Liberalismus zu einer libertären Waffe umgewidmet. Durch Kryptographie, dezentrale Netzwerke, blockchain-basierte Governance-Strukturen, argumentieren Technolibertarians, könne man die politische Frage lösen. Und zwar indem man diese technisiert: Anstelle von Staaten oder Ideologien, die über Freund und Feind entscheiden, sollen Algorithmen und kryptographische Systeme treten.

Marktwirtschaftlicher Leistungsfähigkeit kommt dabei eine ganz entscheidende Rolle zu. Sie dürfte zum wichtigsten Maßstab bei der Polis-Bildung werden. Die dem Freund-Feind-Ansatz zugrunde liegende Andersartigkeit, definiert sich dann ganz erheblich an den ökonomischen Voraussetzungen des Einzelnen.

[1] Söllner, Alfons (1992). Kronjurist des Dritten Reiches – Das Bild Carl Schmitts in den Schriften der Emigranten, in: Jahrbuch für Antisemitismusforschung, 1992, Band 1. S. 191-216

[2] Moldbug, Mencius (Curtis Yarvin) (2009)., A Gentle Introduction to Unqualified Reservations, S. 129/249; Moldbug, Mencius (Curtis Yarvin) (2021). Gray Mirror: A brief explanation of the cathedral, https://graymirror.substack.com/p/a-brief-explanation-of-the-cathedral

[3] Schmitt, Carl (1932). Der Begriff des Politischen, München/Leipzig, Duncker & Humblot, S. 14

[4] Schmitt, Carl (1932). Der Begriff des Politischen, München/Leipzig, Duncker & Humblot, S. 14f

[5] Schmitt, Carl (1922): Politische Theologie, S. 13

[6] Burrows, Roger (2018). On Neoreaction And other romantic delusions. The Sociological Review Magazine. 29.09.2018, https://thesociologicalreview.org/projects/undisciplining/talks-discussions-and-debates/on-neoreaction/

[7] Srinivasan, Balaji (2022). The Network State: How To Start a New Country, Amazon Kindle

[8] Thiel, Peter (2007). The Straussian Moment. In: Thiel, Peter (Hrsg.). Politics and the Apocalypse, S. 189 – 218

[9] Thiel, Peter (2009). The Education of a Libertarian. In. Cato Unbound, 13.04.2009, https://www.cato-unbound.org/2009/04/13/peter-thiel/education-libertarian/

[10] Schmitt, Carl (1923): Die geistesgeschichtliche Lage des heutigen Parlamentarismus. https://www.duncker-humblot.de/_files_media/leseproben/9783428550302.pdf, S. 13

[11] Schmitt, Carl (1923): Die geistesgeschichtliche Lage des heutigen Parlamentarismus. https://www.duncker-humblot.de/_files_media/leseproben/9783428550302.pdf, S. 5f

[12] Lessig, Lawrence (1999): Code and Other Laws of Cyberspace. New York.

[13] Schmitt, Carl (1932). Der Begriff des Politischen, München/Leipzig, Duncker & Humblot, S. 67

[14] Schmitt, Carl (1932). Der Begriff des Politischen, München/Leipzig, Duncker & Humblot, S. 69f

[15] Moldbug, Mencius (Curtis Yarvin) (2007). How Dawkins got pawned. https://www.unqualified-reservations.org/pdfs/how_dawkins_got_pwned.pdf, S. 102

[16] Schmitt, Carl (1932). Der Begriff des Politischen, München/Leipzig, Duncker & Humblot, S. 16, 23f

[17] Mace, Samuel (2023). Carl Schmitt Is Not Your Friend, in: FUSION, https://fusionaier.org/2023/carl-schmitt-is-not-your-friend/

[18] Schmitt, Carl (1932). Der Begriff des Politischen, München/Leipzig, Duncker & Humblot, S. 60: „Erklärt ein Teil des Volkes, keinen Feind mehr zu kennen, so stellt er sich nach Lage der Sache auf die Seite der Feinde und hilft ihnen, aber die Unterscheidung von Freund und Feind ist damit nicht aufgehoben.“

[19]Schmitt, Carl (1932). Der Begriff des Politischen, München/Leipzig, Duncker & Humblot, S. 43

[20] Anton, Michael unter Publius Decius Mus) (2016). The Flight 93 Election. In: Claremont Review of Books, 05.09.2016, https://claremontreviewofbooks.com/digital/the-flight-93-election/ , vgl. auch https://nymag.com/intelligencer/article/michael-antons-flight-93-election-trump-coup.html

[21] Duran, Gil (2024). The Tech Baron Seeking to Purge San Francisco of “Blues” https://newrepublic.com/article/180487/balaji-srinivasan-network-state-plutocrat

[22] Schmitt, Carl (1922): Politische Theologie, S. 13

[23] Jurecic, Quinta (2016). Donald Trump’s State of Exception, https://www.lawfaremedia.org/article/donald-trumps-state-exception

[24] Schmitt, Carl (1922): Politische Theologie, S. 8

[25] Schneider, Szuanne (2024): Beyond Athens and Jerusalem. Far-right intellectuals love to steal left-wing economic ideas. But what’s their real agenda? In: Strange Matters, Issue 3, https://strangematters.coop/fascist-economic-debates-peter-thiel-curtis-yarvin/

Mehr zum Thema: Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Weiterfuehrende Literatur

Der Beitrag Carl Schmitt und die Technolibertarians im SIlicon Valley erschien zuerst auf Nerdwärts.de.

Schon seit längerem diskutieren die Sozialwissenschaften den Einfluss der Digitalisierung auf die gesellschaftliche Entscheidungsfindung. Aufgrund des zunehmenden Rückgriffs auf Algorithmen und Verfahren des maschinellen Lernens im Rahmen von „Algorithmic Governance“ und des „Automated Decision Making“ (ADM) in der praktischen Politik ergeben sich Fragestellungen im Bereich der Legitimation und ethischen Vertretbarkeit derartiger Vorstöße (Wagener 2021). Ähnlich verhält es sich mit Anwendungsszenarien für die Distributed-Ledger-Technologie, etwa dem Konzept der „Liquid Democracy“ (Bastgen / Winkler, 2013) mit dem die Behebung von Leistungsdefiziten der repräsentativen Demokratie durch die Implementierung von Automatismen zur Umsetzung des Wählerwillens bis hin zu einer „Imperativierung“ des Mandats verbunden werden (van de Sande, 2015)

Smart Contacts und DAOs

Im Rahmen von industriellen und betriebswirtschaftlichen Prozessen werden über „Smart Contracts“ schon seit geraumer Zeit auf Grundlage logischer „Wenn-Dann“-Kausalitäten vorab getroffene Vereinbarungskonsequenzen automatisiert exekutiert. Durch ein integriertes System aus einer Vielzahl dieser Smart Contracts ist es möglich, ganze Organisationen mit autonomen, vollständig mechanisierten, dezentralen Entscheidungsstrukturen abzubilden, sogenannte „Decentralized Autonomous Organisations“ (DAOs).

Eine Übertragung dieses Prinzips auf die Politik, insbesondere auf staatliche Institutionen, erscheint grundsätzlich denkbar. Im Zusammenspiel mit dem Einsatz von Algorithmen, maschinellem Lernen und KI könnten leistungsfähige autonome Systeme geschaffen werden, welche die Art und Weise der gesellschaftlichen Entscheidungsfindung sowie die Beschaffenheit des Staates grundsätzlich revolutionieren würden. Ein entsprechender Einsatz dieser Technologien in der politischen Sphäre wirft jedoch neue Fragen hinsichtlich Legitimation und Repräsentation auf. Somit erwüchse für die Gesellschafts- und Politikwissenschaften – in Anlehnung an den vielzitierten Begriff des „Internet of Things“ – die Aufgabe, die Leitlinien einer möglichen Implementierung dieser „Governance of Things“ und deren demokratieverträgliche Ausgestaltung zu skizzieren und zu bewerten: Welche Herausforderung für die Demokratie bestehen demnach und wie können wir uns diesen stellen? Inwieweit ist es legitim, die technischen Errungenschaften auszubauen und den digitalen Wandel voranzureiben? Und wie können dabei bürgerliche Partizipation und nicht zuletzt ein menschliches Antlitz der Staatlichkeit gewährleistet werden? Schließlich münden derartige Überlegungen zwangsläufig in der grundsätzlichen Frage nach der Relevanz der menschlichen Willensbildung im digitalen Zeitalter: Welche Zukunft ist wünschenswert und welche Entwicklungen führen uns in eine Dystopie?

Algorithmic Governance und AI Governance

Seit einiger Zeit wird unter dem Begriff der „Algorithmic Governance“ (Yeung, 2018; Katzenbach / Ulrich, 2020) verstärkt der Einsatz datenbasierter, „digitaler“ Technologie als Ergänzung oder auch als vollständiger Ersatz menschlicher politischer Entscheidungen diskutiert. In Anlehnung an Laurence Lessigs (Lessig 1999) Diktum „Code is Law“ (auch: „Law is Code“, vgl. Hassan / de Filippi, 2017), ließe sich diese Vorgehensweise als die Automatisierung der Ausführung vorab definierter (staatlicher) Regeln beschreiben. Die Anwendung des hier zugrundeliegenden, der Computerprogrammierung entlehnten „Wenn-Dann“-Prinzips („if this … then that…“, „IFTTT“) basiert auf der Annahme, dass sich zuvor definierte – und legitimierte – Entscheidungsmuster auf spätere Situationen anwenden lassen. Die nachfolgende Exekution anstehender Entscheidungen kann dann idealerweise autonom erfolgen, ohne dass es eines weiteren menschlichen Eingreifens zwingend bedürfte.

Der Rückgriff auf KI – verstanden als der Einsatz von autonomen, selbstlernenden Systemen – verändert die Rahmenbedingungen algorithmischen Regierens nochmals grundlegend.  Denn sofern solche intelligenten Systeme eigenständig hinzulernen, ihre Entscheidungen also nicht mehr zwingend den vorab menschlich definierten Mustern und Regeln entsprechen, sondern diese, aufbauend auf den verarbeiteten Erkenntnissen, autonom agieren und eigene Maßstäbe anlegen – man spricht dann i.d.R. von „AI Governance“ (Kuziemski und Misuraca 2020) -, stellt sich die Frage, wie diese Prozesse im demokratischen Staat legitimiert werden können. Dabei handelt es sich keinesfalls um ein rein theoretisches Problem. Derartige Systeme kommen bereits regelmäßig in der staatlichen und politischen Praxis zum Einsatz, etwa in der Arbeitsmarkt- und -innenpolitik, bei der Polizeiarbeit oder der Unterfütterung juristischer Vorgänge.[1] Eine Kombination mit DLT-basierten Verfahren findet zwar in aller Regel nicht statt, wäre aber grundsätzlich möglich.

Distributed-Ledger: Blockchain, Smart Contracts und DAOs

Der Rückgriff auf DLT-Verfahren geht in erster Linie auf die Kryptowährung Bitcoin zurück, wo die „Blockchain“ für die dezentralisierte, transparente und unveränderbare Erfassung der Daten zu den Transaktionen zwischen den Netzteilnehmern verwendet wird. Eine Transaktion muss immer durch die anderen Netzwerkteilnehmer bestätigt werden. Das Ergebnis wird unveränderlich im „Ledger“ (Kontobuch) gespeichert und die somit neu gebildete Blockchain an die Teilnehmer verteilt.

Ganz wesentlich ist dabei, dass die Dezentralität der Organisation zur Ausschaltung der vermittelnden zentralen Stelle, des „Intermediärs“ (beispielsweise eine überwachende staatliche Institution, wie eine Zentral- und Notenbank, oder ein zentrales Finanzsystem), führt. Dies wird nicht nur als effizient und kostenrelevant betrachtet – schließlich „verdient“ der Mittelsmann nun nicht mehr an einer Transaktion und die Blockchain-Peers können diesen Kostenvorteil unter sich aufteilen –, sondern verändert auch das Machtgefüge. Nicht selten wird sogar von einer „Demokratisierung“ gesprochen (Piscini et al, 2016), da die „Legitimation“ von Transaktionen dann nicht mehr durch eine zentrale Autorität erfolgt, die womöglich ihre eigenen Interessen im Visier hat, sondern durch die Masse der Netzwerkmitglieder.

Smart Contracts und IFTTT

Aus der ursprünglichen Blockchain-Logik heraus entwickelten sich auch jenseits finanzwirtschaftlicher Szenarien Anwendungsbereiche für die DLT. Unter „Smart Contracts“ versteht man technische Transaktionsprotokolle, welche die Einhaltung zuvor definierter Vertragsbestimmungen überwachen sowie autonom und mechanisiert die vereinbarten Konsequenzen ausführen – ebenfalls nach dem IFTTT-Prinzip und analog zum „Code-is-Law“-Diktum. Menschliches Eingreifen, etwa bei Verletzungen der Vertragsrechte durch eine Partei, ist damit nicht mehr notwendig.

Durch ein System aus einer Vielzahl dieser Smart Contracts ist es möglich, ganze institutionelle Organisationen mit autonomen Entscheidungswegen abzubilden – die bereits eingangs erwähnten DAOs. Diese werden bereits seit einiger Zeit im Finanzbereich erprobt und etabliert, um als eigenständige Akteure, losgelöst von menschlichen Eingriffen, am Wirtschaftskreislauf teilzunehmen (van de Sande, 2015). Die Steuerung von DAOs erfolgt automatisiert auf Basis von Bedingungen, welche die Mitglieder bzw. Teilhaber durch ein Abstimmungsverfahren im Vorfeld von Entscheidungssituationen festlegen (Chopan, 2022). Meist wird über eingebrachte Vorschläge durch in der Regel nach kumulierten Eigentumsrechten und Kapitaleinlagen gewichtete Stimmen unter der Maßgabe der Einhaltung eines bestimmten Quorums entschieden, wenngleich auch andere Stimmrechtsprinzipien (z.B. nach erworbener Reputation) denkbar sind (Arsenault, 2020).

DAOs in der Politik

Grundsätzlich scheint damit auch eine Übertragung des Prinzips der DAOs auf die Politik denkbar, was insbesondere in den USA immer wieder durch entsprechende Forderungen unterfüttert wird (Sergeenkov 2022). Unter dem Stichwort der „Liquid Democracy“ werden darunter unterschiedliche Ausprägungen der Mandatsgebundenheit, meist mit dem Fokus auf einer stärkeren individuellen, direkten bürgerlichen Partizipation, diskutiert. Eines der kursierenden Konzepte ist das „Delegated Voting“ (Nitsche, 2014). Nach diesem Prinzip können die Wahlberechtigten flexibel bestimmen, ob sie ihr Stimmrecht in einer spezifischen Entscheidungssituation selbst ausüben oder an einen Delegierten übertragen, etwa weil jener über die in diesem Fall notwendige Expertise verfügt. Der entsprechende Delegierungsvorgang wird dazu in einer Blockchain dokumentiert. Ferner könnten aber auf diese Weise auch imperative Mandate kreiert und überwacht werden. In der Kombination mit Smart Contracts ist es denkbar, einen Automatismus zu erzeugen, der den aggregierten Wählerwillen zwingend zur Umsetzung bringt, indem die eigentliche Ausübung des Mandats gar nicht mehr im Verfügungsbereich des Delegierten liegt, sondern die in der Blockchain festgehaltene inhaltliche Bindung zu einer nicht mehr beeinflussbaren Mechanisierung der Abstimmung führt. In vielen Demokratien stünde dies allerdings wohl im Widerspruch mit dem als unerlässlich betrachtetem Prinzip des freien Mandats, das den Abgeordneten nur seinem eigenen Gewissen unterwirft (Seckelmann 2014). In letzter Konsequenz müsste ein solches Verständnis von Demokratie dazu führen, dass – sofern die technische Umsetzbarkeit dieser aufwändigen Verfahren gegeben ist – es eigentlich gar keiner Delegierter mehr bedarf, da sich sämtliche Entscheidungsprozesse dezentralisieren ließen (Waldmann, 2016).

Politische DAOs als intelligente, selbstlernende Systeme

Der Hauptvorwurf gegenüber dem Delegated Voting zielt auf eine zu geringe Praxisnähe und mangelnde Effizienz. Schließlich sei es kaum möglich, die Vielzahl an Themen und unterschiedlichen Delegierten zu überblicken und zu koordinieren.  Als problematisch erachtet wurde auch die Einbindung der durch Stimmkumulation entstehenden „Superdelegierten“ in ein System von Checks&Balances sowie deren Verantwortlichkeit gegenüber den Wählern (Seckelmann 2014).

Der Einsatz von DLT wäre dabei gleichwohl durchaus geeignet, die grundsätzlichen Probleme von Stimmdelegierungen zu reduzieren, denn eine Einbettung in ein digitales System könnte einerseits zu mehr Übersichtlichkeit beitragen, andererseits würde gerade der Vermerk des individuellen Abstimmungsverhaltens der Delegierten in einer allgemein zugänglichen und unveränderbaren „Blockchain“ zu mehr Transparenz und Zurechenbarkeit („Accountability“) führen.

Komplexe Entscheidungsumfelder als Problem politischer Systeme

In der Tat dürfte ein Hauptproblem heutiger politischer Systeme und der jeweiligen Entscheidungsträger in der zunehmenden Komplexität politischer Entscheidungen sowie – zumindest in der westlichen Welt – in der allgemein wachsenden gesellschaftlichen Fragmentierung und Polarisierung bestehen. Damit drängt sich die Frage auf, inwiefern tradierte, rein menschliche geprägte Entscheidungsprozesse noch zeitgemäß sind – angesichts der stetig wachsenden Leistungsfähigkeit in diesem Kontext anwendbarer digitaler Technologien. Und: Führen menschliche Entscheidungsspielräume nicht immer auch zwangsläufig zu einem „Bias“, einer menschlich induzierten „Unwucht“, die eine Seite gegenüber einer anderen aufgrund tradierter Verhaltensmuster bevorzugt?

Vieles spricht dafür, dass sich durch den Einsatz digitaler Technologien zumindest ein Teil dieser Probleme beheben ließe, da der politische Entscheidungsprozess auf diese Weise eine radikale Rationalisierung erfahren würde (Owen 2015; Atzori, 2017). Während der formale Abstimmungsprozess sowie die Fixierung der getroffenen Entscheidung über DLT und Smart Contracts abzubilden wären, könnten der Rückgriff auf KI und Methoden des maschinellen Lernens dazu dienen, die Entscheidungsgrundlagen bereitzustellen, um dann eine „absolut rationale Willensbildung“ durch das System sicherzustellen (Atzori 2015). KI wäre somit für den Entscheidungs-Input relevant; für die Entscheidungsausführung, den Output, könnte auf DLT-Methoden zurückgegriffen werden. In einem solchen System bedarf es dann keiner „intermediären“ Mandatsträger mehr, die womöglich den streng rationalen Entscheidungsprozess durch menschliche Einflussnahme verzerren würden. Es entstünde eine absolut autonome politische Organisation – eine „Staats-DAO“ –, die den Wählerwillen durch vorgelagerte Abstimmungen aggregiert und aufwändig zu klärende Detailfragen, ausgehend von dieser somit geschaffenen Datenbasis, durch den Einsatz iterativer Lernmethoden autonom beantwortet. Die Wähler gäben also durch ihr Abstimmungsverhalten die Richtlinien und Rahmenbedingungen vor, für die Umsetzung in die praktische Politik, für die der Einzelne im Zweifelsfall ohnehin nicht die notwendige Kompetenz besäße, trüge jedoch die KI die Verantwortung und berechnet aus den vorliegenden Daten die richtige und vernünftigste Entscheidung, basierend auf Mustererkennungen (via „Unsupervised Learning“) und der Maxime der Optimierung des vorab definierten Gemeinwohls (etwa über die Methode des „Reinforcement Learnings“)[2].

Die nächste Stufe: Directed Acyclic Graphs (DAG)

Was im gesellschaftlichen Kontext nach purer Science-Fiction klingen mag, ist im industriellen Umfeld bereits deutlich weiter entwickelt. Über sogenannte „DAGs“ („Directed Acyclic Graphs“), die für manche die nächste Entwicklungsstufe der DLT markieren, lassen sich typische Probleme der DLT, wie etwa der hohe Verbrauch an Energie- und Zeitressourcen, durch die Abkehr von den komplexen Mining-Verfahren wie sie von Bitcoin und Ethereum bekannt sind, beheben. Derartige Ansätze, wie sie beispielsweise in unterschiedlicher Ausprägung von IOTA, IOTChain oder DAGCOIN vertreten werden, zielen bislang vor allem auf das „Internet der Dinge“, wo Transaktionen – transparent, chronologisch und unveränderbar – zwischen einzelnen Maschinen und Geräten dezentral abgebildet werden sollen.

Wenn Maschinen eigenständig miteinander kommunizieren und in der Lage sind, dabei unabhängig vom menschlichen Eingriff Transaktionen untereinander auszuführen, führt dies zu erheblichen Veränderungspotenzial: Eine Prozessorganisation, in der intelligente Industriesysteme untereinander Prozesse und Güterströme eigenständig abwickeln, welche Arbeitsschritte zwischen Maschinen koordiniert und für einen finanziellen Ausgleich zwischen den beteiligten Systemen und Geräten entsprechend ihrer Beteiligung an der Wertschöpfung sorgt und all dies entsprechend transparent auf einem Distributed Ledger vermerkt, ermöglicht in letzter Konsequenz eine autonome, sich selbst steuernde Maschinenwirtschaft.

Blockchain in Kombination mit KI als Zwischenschritt zur generellen Künstlichen Intelligenz

Im Moment wird oft davon ausgegangen, dass wir eine „generelle Künstliche Intelligenz“, die dem Menschen auch in seiner Vielfältigkeit gleichkommt, nur schwer erzeugen können. Die meisten KI-Systeme sind auf sehr spezifische Probleme trainiert und daher auch entsprechend in ihrer Leistungsfähigkeit darauf beschränkt. Der Rückgriff auf DLT als Element der Prozessorganisation könnte dann jedoch die Grundlagen für eine arbeitsteilige Ökonomie künstlicher Intelligenzen liefern: Stellt eine KI ihren spezifischen Arbeitsschritt fertig, so wäre es dann möglich, die Übergabe der jeweiligen Teilleistung zur Weiterarbeitung in einem Distributed Ledger zu vermerken und über einen Smart Contract an die nächste zuständige Einheit zu übergeben. Somit würde sichergestellt, dass alle notwendigen Teilschritte eingeleitet und lückenlos abgearbeitet werden.

Dieses Prinzip – KI sorgt für die Findung von Entscheidungen, die DLT für die Koordination der daraus resultierenden Handlungen – könnte grundsätzlich auch in einer politischen DAO abgebildet werden. Politische Fragestellungen ließen sich durch ein führendes intelligentes System in Einzelprobleme aufspalten, die von der spezifischen KI zu bearbeiten wären. Die Sicherstellung der Übergabeprozesse zwischen den KIs untereinander aber eben auch die „Operationalisierung“ des Wählerwillens und dessen Einspeisung in das System erfolgte auf Basis von DLT (Wagener 2018). 

Zweifelsohne müssen natürlich für ein politisches System weitaus strengere Standards hinsichtlich der technischen Verlässlichkeit gelten, als für die Abbildung von Wertketten. Und in der Tat gilt die DAG-Technologie bislang nicht als völlig ausgereift. Ungeachtet dessen wirft ein entsprechender perspektivischer Einsatz in der gesellschaftlichen Entscheidungsfindung erhebliche Fragen nach der Gewährleistung von Legitimation und Repräsentation im politischen System auf. Diesem Aspekt widmet sich der folgende Abschnitt.

Die Frage nach Legitimation, Repräsentation und Partizipation.

Die Legitimationsdefizite, ebenso wie der Mangel an bürgerlichen Partizipationsmöglichkeiten an einer weitgehend autonom agierenden politischen DAO liegen auf der Hand und ergeben sich bereits immanent aus ihrer Konstruktion: Es bedarf schon eines großen Vertrauens in die Technik und den technologischen Fortschritt, um hierin eine positive Perspektive für Staatlichkeit und Repräsentation festmachen zu können. Gleichwohl ist die Vision einer „Staats-DAO“ kein bloßes Phantasieprodukt. Die Idee die operativen politischen Prozesse an eine autonom agierende Entität auszulagern, trifft durchaus, vor allem in den USA, tatsächlich auch auf Zustimmung:

Die Vorteile eines solchen Systems werden zu allererst in der Effizienzsteigerung gesehen, die hierbei für die staatliche Entscheidungsfindung und -ausführung durch die Automatisierungszuwächse zu erwarten wären. Ähnliche oder identische Entscheidungsfragen müssten nicht immer wieder neu verhandelt, sondern könnten durch die einmalige Festlegung auch für die Zukunft verbindlich geregelt werden. Des Weiteren ließen sich Verwaltungsentscheidungen versachlichen, da das einmal gefundene Regelsystem für alle Betroffenen gleichermaßen zur Anwendung käme, ungeachtet möglicher persönlicher Präferenzen der Entscheider „vor Ort“. Damit ginge dieser Argumentation folgend ein Zuwachs an Fairness und Gleichberechtigung einher.

Libertäre Motive als Treiber

Für die Anhänger sind darüber hinaus vor allem libertäre Motive maßgebend (Tapscott / Tapscott 2016, 199). DLT wird als bewusst technokratisches Instrument betrachtet, das den staatlichen und überstaatlichen Institutionen, die ohnehin dazu tendieren würden, ihre Befugnisse zu überschreiten, entgegengesetzt werden kann ((Tapscott / Tapscott, 2016, 201).  Viele dieser „Techno-Libertarians“ sind der Meinung, dass zentrale Koordination und der Staat Produkte einer überkommenen patriarchalen und hierarchisch-autoritären Grundeinstellung sind, die es zu überwinden gilt (Atzori 2015, 24; Sergeenkov 2022; Roberts 2022)  Charakteristisch ist die Übertragung von marktwirtschaftlichen Funktionsweisen auf politische Leistungsprozesse. Der Staat als Organisationsform wird wie ein Unternehmen betrachtet, das funktionieren und liefern muss, wenn es weiter die Gunst seiner „Kunden“, den Bürgern, genießen will. Geschieht das aus Sicht des Einzelnen nicht, so wird es als logische Konsequenz angesehen, dass dieser in höchster Flexibilität seine Loyalität aufkündigt und sich „Alternativangeboten“ zuwendet (Tarkowski Tempelhof 2012).  Möglichst freie und ungezügelte Marktwirtschaft gilt als Hauptgarant politischer Stabilität (de Soto 2014). Es sei keine Option, Menschen „qua Geburt“ in ein politisches System zu „zwingen“, ihnen damit bereits „von Beginn an“ ihre Freiheit zu entziehen (Tarkowski Tempelhof 2012). Stattdessen müsse man das Prinzip auf den Kopf stellen und größtmöglicher Selbstbestimmung den Weg ebnen. Die Gestaltungsprinzipien der DLT, welche die politische Macht auf ihren eigentlichen Ausgangspunkt direkt zurückübertragen, werden hierfür als perfektes Vehikel identifiziert. Die damit ebenfalls einhergehende Technisierung politischer Systeme zielt auf eine ganz bewusste „Entmenschlichung” der Politik. Menschliche Schwächen ließen sich nicht durch Checks & Balances allein auffangen. Die durch den DLT geschaffene Entscheidungstransparenz in Verbindung mit dem durch die Smart Contracts induzierten Exekutiv-Automatismus würden Korruption und Vetternwirtschaft hingegen unmöglich machen (Woods, 2015). Grundsätzlich ist es nicht so, dass man sich gegen Demokratie als solche wendet. Typisch ist jedoch ein archaisches, teilweise auch äußerst schlichtes Demokratieverständnis. Entscheidungen werden als absolut begriffen und in schwarz und weiß, in ein binäres System von Einsen und Nullen, gegliedert. Mehrheitsentscheidungen sind dabei stets verbindlich, unabhängig von den Inhalten und ihrer Legitimität (van de Sande, 2015).

Hobbes 2.0?

Ein Großteil dieser Argumentation erinnert an klassische Gesellschaftsvertragsmodelle wie Hobbes‘ Leviathan (Hobbes 1909). Demnach sollte der Staat eher als effiziente Maschine zur Sicherstellung der Marktinteressen der Bürger fungieren (König 2020), die bürgerlichen Individuen müssen sich dabei nicht gegenseitig, sondern lediglich auf die Funktionsfähigkeit dieses Staatswesens vertrauen.

Auch ein anderer Klassiker der Gesellschaftstheorie scheint dabei im Hintergrund zu wirken: Jean Jacques Rousseaus „volonté générale“, der „wahre Volkswille“, der mit dem Gemeinwohl übereinstimmt und auf das allgemein Beste ausgerichtet ist. Dieser kann im Gegensatz zum Willen jedes einzelnen, aber auch im Widerspruch zum empirisch feststellbaren Willen aller („volonté des tous“) stehen (Rousseau 1762, Fetscher 1971). Die Idee eines „volonté générale“, so ließe sich argumentieren, wäre somit prädestiniert für den Einsatz von KI, die ja aufgrund ihrer hohen Rationalität und Rechenkapazität in der Lage ist, auch schwierige Entscheidungssituationen abzubilden. Gerade letztere scheinen doch schließlich in Zeiten zunehmender politischer Komplexität und sozialer Fragmentierung klassische repräsentative Demokratien zunehmend an ihre Grenzen zu führen. KI könnte dabei maßgeblich zu einer versachlichten Ermittlung dieses rousseauschen Volkswillens beitragen.

Schöne neue Welt?

Der Mehrheit der beschriebenen Argumentationsansätze ist gemein, dass sie ein hohes Augenmerk auf die „Output“-Seite des politischen Systems, weniger auf dessen „Input“-Seite legen. Gerade aber die Beschaffenheit einer KI-gefütterten DAO wirft die Frage nach dem rechtmäßigen Zustandekommen von Entscheidungen auf. Die binäre Absolutheit der Entscheidungen der DLT-Logik wird flankiert durch eine unstetes, sich qua Definition autonom immer weiter entwickelndes „Gehirn“, das die Detailentscheidung treffen muss: Während Maßnahmen auf Grundlage herkömmlicher Algorithmic Governance ihre Rechtmäßigkeit aus diesem zuvor abgestimmten, „festverdrahtetem“ Regelsystem beziehen, justieren sich KI-Systeme auf Grundlage ihres Lernfortschrittes permanent eigenständig neu. Dies mag legitim erscheinen, sofern zumindest die Ziele, anhand derer dies geschieht, Ausfluss eines am Staatszweck orientierten (demokratischen) Verfahrens sind. Gleichwohl ist für die Erreichung politischer Ziele in der Demokratie auch die Art und Weise ihres Zustandekommens relevant. Zieldefinitionen, anhand derer ein lernendes System sich ausrichtet, können schließlich stets nur quantitativer Natur sein. Die Auswirkungen einer solchen politischen Zieloptimierung weisen jedoch immer auch eine qualitative Dimension auf, deren Tragweite ein Algorithmus nie erfassen kann. Beispielsweise ist es sicherlich möglich, einem System eine bestimmte „optimale“ Budgetallokation als Ziel vorzugeben, die Frage, ob diese dann im Ergebnis im Einklang mit einem wie auch immer definierten Gemeinwohl steht, ist eine ganz andere und kann weder in der Praxis technisch noch in der Theorie legitim durch eine KI beantwortet werden, sondern verbleibt zwangsläufig Gegenstand der menschlichen Domäne.

Auch die angestrebte „Entmenschlichung“ politischer Entscheidungen ist vor diesem Hintergrund kritisch zu sehen. Gerade dann, wenn diese nicht mehr unter Berücksichtigung individueller Situationen getroffen werden, sind Verzerrungen und soziale Härten zu erwarten. Auch stellen sich Fragen nach den Verantwortlichkeiten im Einzelfall – und zwar sowohl politisch als auch rechtlich.

Vom Internet of Things zur Governance of Things

De Facto sind Algorithmen, digitale Prozesse und Entscheidungsmechanismen bereits heute schon nicht mehr rein technisch-rationale Konstrukte. Sie repräsentieren auch immer den Einfluss derjenigen, die an ihrer Entstehung beteiligt sind, sowohl politisch als auch technisch. Insofern können sie als eine Art „Amalgam“ aus Mensch und Code verstanden werden. In dieser Auffassung spiegelt sich das Grundprinzip der Denkschule des „Neuen Materialismus“ wider. Demnach erschiene es zunehmend unangebracht, zwischen Menschen und Nichtmenschen, Leben und nicht lebendiger Materie und auch zwischen Akteuren und Strukturen zu unterscheiden. Vielmehr vermischen sich Menschen und Computeralgorithmen zu „sozio-materiellen Assemblagen“ (Kim 2020), wodurch neue Handlungsfähigkeiten und daraus resultierende Wirkungsweisen entstehen.

Dem vielzitierten „Internet of Things“ müssten demnach Überlegungen zu einer Governance of Things an die Seite gestellt werden. Die menschlichen Systementwickler diktierten dabei nicht die Funktionsweise des Algorithmus, die Befähigung und Notwendigkeit von Governance entstünde aus dem Zusammenwirken von Algorithmus und Systementwicklern, explizit etwa beim menschlich induzierten Training mit KI-Daten und der daraus resultierenden autonomen Lernentwicklung des Systems. Dieser Vorgang beinhaltet laufende Interaktionen und Iterationsschleifen zwischen beiden „Parteien“ und führt damit zu einer Verselbständigung dieser „Amalgambildung“.

Governance of Things als Ende des Menschenzeitalters?

Angesichts der Bedeutung, die Algorithmen und digitale Automatismen heute in unserem Alltag einnehmen, ließe sich die Auffassung vertreten, dass damit womöglich bereits das Ende des Anthropozäns eingeläutet worden ist und wir nun am Anfang eines „posthumanen“ Zeitalters stünden. Entsprechend werden schließlich auch unter dem Aspekt der „Singularität“ die gesellschaftlichen und ökonomischen Auswirkungen diskutiert, sollten intelligente Systeme eines – nicht allzu fernen – Tages die menschliche Leistungs- und Adaptionsfähigkeit übertroffen haben (Bostrom 2014).

Jedoch solange diese Stufe noch nicht erreicht scheint, müssen wir uns im hier und jetzt mit dem menschlichen Einfluss auf menschliche Probleme und ihre potenziellen Lösungsansätze selbst befassen. Politik und gesellschaftliche Prozesse sind auch in Zeiten zunehmender Komplexität zuallererst Gegenstand zwischenmenschlicher Verhandlungen. Daher sollten wir uns der Demokratie willen dieser Verantwortung höchstpersönlich und nicht verschanzt hinter einer Mauer aus Einsen und Nullen stellen. Denn bislang bleiben die Blockchain-Adepten eine klare Antwort schuldig, wie eine digital gesteuerte Gesellschaft Konflikte und gesellschaftliche Insuffizienzen reguliert, und zwar jenseits von Marktkriterien, die letztlich nichts anderes als das Recht des Stärkeren propagieren. Die Welt ist in der Tat komplex, und eine angemessene Politik muss situativ abwägend und mit ethischer Erdung erfolgen, sie bedarf einer im doppelten Sinne „humanen“ Partizipation. In diesem Verständnis ist der traditionelle demokratische Staat eben mehr als ein störender Mittelsmann, er ist die Summe seiner Teile, ein Abbild der Gesellschaft und seiner Bürger.

Technologie spielt bereits heute in der politischen Willensbildung eine nicht zu unterschätzende Rolle. Der Zuwachs ihres Stellenwertes wird sich nicht vermeiden lassen und kann natürlich auch positive Effekte haben. Unzweifelhaft ist der Grat zwischen Utopie und Dystopie sehr schmal an dieser Stelle. Ganz entscheidend ist jedoch, dass der Mensch und damit die Menschlichkeit nicht ihren Haupteinfluss auf politische Entscheidungsbildung verlieren, auch wenn wir bereits heute einen Machtverlust zu Gunsten von Technologie zu verzeichnen haben. Daher muss für die demokratische Politik im digitalen Zeitalter gelten: “Governance by Things“ benötigt eine gute, im doppelten Sinne menschliche “Governance of (these) Things“.

Der Artikel entstand auf der Basis eines Vortrages und entsprechenden Conference Papers zum Panel „Blockchain Imaginaries: Techno-utopianism, dystopias, and the future-imagining of Web 3.0“ anlässlich der Tagung „Anthropology, AI and the Future of Human Society“ des Royal Anthropological Institutes, London.

Literatur:

Arsenault, Eric (2020): Voting Options in DAOs. In: Medium 15.12.2020.https://medium.com/daostack/voting-options-in-daos-b86e5c69a3e3

Atzori, Marcella (2015): Blockchain Technology and Decentralized Governance: Is the State still necessary? In: SSRN Electronic Journal, January 2015, S. 1-37

Bastgen, Sarah / Winkler, Katrin (2013): Liquid Democracy – Participation Model of the 21st century? in: Römmele, Andrea / Schober, Hendrik (Ed.): The Governance of Large-Scale Projects, Baden-Baden, S. 111-131.

Bostrom, Nick (2014): Superintelligence. Paths, Dangers, Strategies. Oxford.

Chohan, Usman W. (2022)., The Decentralized Autonomous Organization and Governance Issues (December 4, 2017, revised 2022). http://dx.doi.org/10.2139/ssrn.3082055

Hassan, Samer/ Filippi, Primavera de (2021): The Expansion of Algorithmic Governance: From Code is Law to Law is Code. Institut Veoli, https://tinyurl.com/24w2m6yu

Hobbes, Thomas (1909): Hobbes’s Leviathan: Reprinted from the Edition of 1651. Oxford, https://tinyurl.com/2e72z5ny

Katzenbach, Christian/ Ulbricht, Lena (2019): Algorithmic Governance. In: Internet Policy Review, Nr. 4, doi: 10.14763/2019.4.1424

Kim, Eun-Sung (2020): Deep Learning and Principal-agent Problems of Algorithmic Governance: The New Materialism Perspective. In: Technology in Society, Vol. 63, 101378, doi: 10.1016/j.techsoc.2020.101378

König, Pascal D. (2020): Dissecting the Algorithmic Leviathan: On the Socio-Political Anatomy of Algorithmic Governance. In: Philosophy & Technology, Nr. 3,467–485, doi: 10.1007/s13347-019-00363-w

Kuziemski, Maciej/ Misuraca, Gianluca (2020) AI Governance in the Public Sector: Three Tales from the Frontiers of Automated Decision-making in Democratic Settings. In: Telecommunications Policy, Nr. 6, 101976, DOI: 10.1016/j.telpol.2020.101976

Lessig, Lawrence (1999): Code and Other Laws of Cyberspace. New York.

Nitsche, Andreas (2014): Liquid Democracy – what the noise is all about, in: http://www.liquid-democracy-journal.org/issue/1/The_Liquid_Democracy_Journal-Issue001-01Liquid_Democracy.html

Owen, Taylor (2015): Disruptive Power. The Crisis of the State in the Digital Age, New York

Piscini, Eric /Guastella, Joe /Rozman, Alex /Nassim, Tom (2016): Blockchain: Democratized Trust. In: https://dupress.deloitte.com/dup-us-en/focus/tech-trends/2016/blockchain-applications-and-trust-in-a-global-economy.html

Roberts, Jeff J. (2022): How Andrew Yang Aims to Change Washington With a DAO. In: Decrypt.com, https://decrypt.co/95173/andrew-yang-decrypt-podcast-lobby-3-dao

Rubio, Diego / Lastra, Carlos (2019), European Tech Insights 2019, Madrid: Center for the Governance of Change. https://docs.ie.edu/cgc/European-Tech-Insights-2019.pdf

Rousseau, Jean-Jacques (1762): Der Gesellschaftsvertrag oder Die Grundsätze des Staatsrechtes. Amsterdam, English translation by Henry John Tozer 1895 , https://oll.libertyfund.org/title/cole-the-social-contract-and-discourses

van de Sande, Alex (2015): Ethereum in Practice: How to build a better democracy in under a 100 lines of code. In: https://blog.ethereum.org/2015/12/04/ethereum-in-practice-part-2-how-to-build-a-better-democracy-in-under-a-100-lines-of-code/

Seckelmann, Margrit (2014): Wohin schwimmt die Demokratie?, in: DÖV 2014, S. 1-13, S. 6.

Sergeenkov, Andrey (2022): Decentralized Autonomous Parties — The future of democracy. https://cointelegraph.com/news/decentralized-parties-the-future-of-on-chain-governance

De Soto . Hernando (2014): The Capitalist Cure for Terrorism. In:WSJ.com, Oct. 10. 2014, https://www.wsj.com/articles/the-capitalist-cure-for-terrorism-1412973796

Tapscott, Don / Tapscott, Alex (2016): Blockchain Revolution, New York

Tarkowski Tempelhof, Susanne (2012): To be governed by TED, in: TedxTalks 2012, https://www.youtube.com/watch?v=owrXnfEGzhs

Wagener, Andreas (2018): Politische Disruption: Die Digitalisierung der Politik und die libertäre Technologie der Blockchain. In:  Liebold, Sebastian u. a. (Ed.) Demokratie in unruhigen Zeiten. Baden-Baden, 387–396.

Wagener, Andreas (2021): KI als Staatsprinzip. Leitlinien demokratischer Legitimation von AI Governance. In: SWS-Rundschau (61.Jg.) Heft 4/2021, S. 369 – 390

Waldmann, Steve R. (2016): A parliament without a parliamentarian. In: Interfluidity.com, http://www.interfluidity.com/v2/6581.html

Woods, Tyler (2015): How the blockchain could built a better democracy, In: https://technical.ly/brooklyn/2015/12/22/blockchain-democracy/

Yeung, Karen (2018) Algorithmic Regulation: A Critical Interrogation. In: Regulation & Governance, Nr. 4, 505–523, DOI: 10.1111/rego.12158

Dieser Artikel ist die deutsche Version eines Papers und Vortrages auf der Jahrestagung des Royal Anthropological Institute 2022: Anthropology, AI and the Future of Human Society. Panel des King’s College, London: P28b: Blockchain Imaginaries: Techno-utopianism, dystopias, and the future-imagining of Web 3.0.

Die Originalversion findet sich hier.

Citation: Wagener. Andreas (2022). Governance of Things: AI & DAOs in Politics – Utopia or Dystopia? Conference Paper: The Royal Anthropological Institute, London: RAI2022: Anthropology, AI and the Future of Human Society. Panel: P28b: Blockchain Imaginaries: Techno-utopianism, dystopias, and the future-imagining of Web 3.0 https://doi.org/10.57944/1051-129

[1] als Überblick: Algorithmwatch, https://algorithmwatch.org/de/stories/

Mehr zum Thema: Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Willkommen in der Matrix! Wie KI und Blockchain in der Industrie 4.0 zusammenwachsen“:

Der neueste Vortrag von Andreas Wagener: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Governance of Things: KI und DAOs in der Politik erschien zuerst auf Nerdwärts.de.

Das regelmäßig schlechte und über die Jahre immer noch schlechter werdende Abschneiden der Deutschen bei internationalen Sportwettkämpfen, bei Olympia sowie bei Welt- und Europameisterschaften liegt natürlich daran, dass wir „keinen Bock mehr auf Leistung haben“, was sich ja auch in der Abschaffung des Wettkampfcharakters der Bundesjugendspiele zeigt. Oder? 

Und ja, nach einigen Messeattacken in der jüngeren Vergangenheit, erscheint es als probates Mittel, das Mitführen von Klingen mit mehr als 6cm Länge unter Strafe zu stellen. Das wird potenzielle Gewalttäter sicherlich in die Schranken weisen.

Simplifizierung führt zu Fehleinschätzungen

Vermeintlich naheliegenden Gründe werden als absolut und ausschlaggebend betrachtet. Das Problem ist dabei, dass man somit die eigentlichen Ursachen aus dem Blickfeld verliert und eine Problemlösung tatsächlich in weite Ferne rückt. Beispiel Bundesjugendspiele – ist es nicht eher ein Problem, dass die Vereinsstruktur im Sportbereich sich seit Jahren in einem Prozess der steten Auflösung befindet? Und waren nicht in der Vergangenheit die Sportvereine die eigentliche Keimzelle des Leistungssports? Während sich noch vor 30 Jahren alle in eine Vereinskultur einfügten, die regelmäßig Sport treiben wollten, boomen heute Fitnessstudios. Es wird ebenfalls immer schwieriger, Menschen insbesondere im Sportumfeld für ehrenamtliche Tätigkeiten zu gewinnen. Vor allem gut ausgebildete Trainer, die sich am Wochenende und nach Feierabend dem sportaffinen Nachwuchs annehmen, sind heute eine echte Mangelware. Die Frage, wie man die Vereinskultur und die Bereitschaft zum sportlichen Ehrenamt stärken könnte, ist allerdings deutlich schwieriger zu beantworten.

Gleichfalls erscheint es zweifelhaft zu glauben, dass jemand, der bereit ist, vorsätzlich Körperverletzung zu begehen, sich nun durch ein Messerverbot davon abhalten ließe. Das eigentlich zugrundeliegende Problem der offenbar steigenden Gewaltbereitschaft anzugehen, ist jedoch weitaus schwieriger und langwieriger.

Simplification Bias: Vereinfachung bis zur Verzerrung der Realität

Eigentlich liegt es auf der Hand, dass diese Forderungen und Ableitungen blanker Unsinn sind. Warum aber verfangen diese argumentativen Kurzschlüsse immer wieder? Das Phänomen lässt sich auch als „Simplification Bias“ bezeichnen. Damit wird die Neigung umschrieben, komplexe Sachverhalte über die Maßen zu vereinfachen, um sie auf diese Weise verarbeitbar zu machen. Grundsätzlich ist der Versuch, Komplexität zu reduzieren, ja nichts Schlechtes. Aber wenn wichtige Details und bestimmende Faktoren dabei auf der Strecke bleiben, mündet dieser Prozess in einer verzerrten Wahrnehmung der Realität.

Tatsächlich dürfte ein Großteil des gegenwärtigen gesellschaftlichen Erregungspotenzials darauf zurückzuführen sein. Der Simplification Bias führt zu Generalisierung und Stereotypisierung.  Wichtige Details werden ausgeblendet, (vermeintliche) Korrelationen werden mit Kausalitäten gleichgesetzt. Und im Zweifelsfall sind wie immer die Grünen schuld (früher Merkel).

Simplification Bias im Unternehmen

Was im gesellschaftlichen Kontext zu Verwerfungen führt, trübt in der ökonomischen Sphäre den Entscheidungshorizont. Im Managementumfeld ist immer noch ein Bild des heroischen Lotsens vorherrschend, der Situationen schnell erfasst und darauf beruhend klare, eindeutige Entscheidungen trifft. Weit verbreitet ist auch das Mantra „besser falsche Entscheidungen als gar keine Entscheidungen treffen“. Detailversessenheit und langandauernde Meinungsbildung werden als Führungsschwäche ausgelegt. Rigoroses, schnelles Entscheiden und Durchgreifen gilt hingegen als Stärke und wird als „Macherqualität“ betrachtet.

Selbst wenn es dafür heute immer noch berechtigte Argumente geben mag, trifft dieses Führungsverständnis auf eine inzwischen deutlich komplexere Umwelt als noch vor wenigen Jahren. Immer kürzere Produktzyklen stehen zunehmend unberechenbaren externen (geopolitischen) Bedingungen gegenüber. Innovationen auf allen Gebieten – nicht zuletzt im Bereich der Digitalisierung und des maschinellen Lernens – führen zu äußerst volatilen Entscheidungsszenarien. Damit werden auch die Auswirkungen von (falschen) Entscheidungen komplexer. Einerseits erschwert dies die spätere Bewertung, die unternehmerische Evaluation, und damit auch die Zuweisung von Verantwortlichkeiten sowie die Identifizierung von Ursachen, erheblich. Andererseits legt dies nahe, dass allzu simple Entscheidungen vermutlich der Komplexität des Szenarios nicht gerecht werden.

Langfristige Folgen falscher Entscheidungen in Phasen kurzer Entwicklungszyklen

Folgen könnten zu kurzfristige Orientierungen sein, dort wo stattdessen langfristige Perspektiven angebracht wären. Fehlende Flexibilität und mangelnde Anpassungsfähigkeit drohen. Und schließlich besteht die Gefahr, dass dies in einer erheblich reduzierten Innovationskraft mündet: Wer einmal den Weg in die falsche Richtung eingeschlagen hat, muss fürchten, abgehängt zu werden, weil man durch eine spätere Korrektur, angesichts der skizzierten erhöhten Entwicklungsgeschwindigkeiten der Unternehmensumwelt, nicht mehr in der Lage ist, die ursprüngliche Fehlentscheidung zu kompensieren.

Womöglich erleben wir gerade einen entsprechenden Prozess bei der deutschen Automobilindustrie. Das Festhalten am Verbrenner kann auch als Simplifizierung des Entscheidungsraumes gelesen werden, der sich zu sehr an nationalen Gegebenheiten ausrichtete und durch entsprechende inner-gesellschaftliche Strömungen sowie nationale ideologische Diskurse flankiert wurde. Im Gegenzug unterschätzte man vielleicht die Wirkungsmacht der sich rapide ändernden globalen Haltung gegenüber E-Autos sowie die enorme Innovationsfähigkeit in Asien und Amerika auf diesem Gebiet.

Wie sollte man dem Simplification Bias entgegentreten?

Wie also könnte man in diesen Zeiten in den Unternehmen dem Simplification Bias entgegenwirken? Auch darauf gibt es sicherlich keine einfache Antwort. Nicht zuletzt ist dies eine Kulturfrage. Sicherlich mit verbreiterten Entscheidungskanälen und „divers“ – im Sinne unterschiedlicher Kompetenzen – angelegter Expertise. Um diese zur Geltung zu bringen, bedarf es allerdings veränderter Entscheidungsstrukturen, die diese Kompetenzen auch angemessen integrieren. Zweifelsohne steigt mit der Erweiterung des Beteiligtenkreises die Gefahr, dringend notwendige Entscheidungen zu „zerreden“. Also müssen Instrumente und Verfahren geschaffen werden, die diesen Tendenzen entgegenwirken. Eine Etablierung einer effizienten Kultur der kritischen Reflexion und die Förderung systemischen Denkens innerhalb der Mitarbeiterschaft ist ein langfristiger Prozess, der entsprechende Führungsmodelle voraussetzt. Dieser kulturelle Wandel muss eben auch organisatorisch begleitet werden und sich in angepassten Strukturen widerspiegeln.

Datengetriebene Methoden und maschinelles Lernen gegen Simplification Bias

Zum anderen bieten aber gerade auch die aktuellen technologischen Entwicklungen Ansätze, um Simplification Bias in der Entscheidungsfindung abzubauen. Auch wenn diese bisher nur sehr selten und zögerlich aufgegriffen werden. Die Verwendung datengetriebener Methoden in der Entscheidungsfindung könnte neue Möglichkeiten eröffnen, die entstandene Komplexität beherrschbar zu gestalten. Dazu gehören Szenario-Planungen, flankiert durch virtuelle Simulationen oder die Verwendung von Predictive-Analytics-Werkzeugen in der strategischen Planung. KI könnten helfen, die Komplexität von Märkten, Kundenbedürfnissen oder operativen Prozessen sichtbar zu machen und blinde Flecken zu minimieren. Auch bei der strategischen Entscheidungsfindung ließen sich somit Produktivitätssteigerung realisieren.

Entscheidend dabei ist allerdings der richtige Umgang mit diesen technologischen Instrumenten. Zum einen muss sichergestellt sein, dass der Mensch im Fahrersitz bleibt. Das erfordert unter anderem auch eine entsprechend aufzubauende Kompetenz. Zum anderen kann gerade die falsche „Fütterung“ der KI, ebenso wie ungenaues Prompting, zu einer Verstetigung des Simplification Bias führen.

Auch wenn solche Ansätze für Managementprobleme derzeit noch kaum entwickelt sind: Datengetriebene Methoden, KI und maschinelles Lernen, könnten perspektivisch Verzerrungen reduzieren und für eine Bewältigung des Information Overflow in komplexen Entscheidungsumfeldern sorgen.

Das setzt allerdings neben dem entsprechenden Kompetenzerwerb auf Managementebene auch die Einsicht in das Kernproblem des Simplification Bias voraus: für komplexe Probleme gibt es selten einfache Lösungen.

Mehr zum Thema: Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Weiterfuehrende Literatur

Der Beitrag Wie der Simplification Bias unseren Sinn für gute Entscheidungen trübt erschien zuerst auf Nerdwärts.de.

Mit den beiden Begriffen „Cyborgs“ und „Zentauren“ werden unterschiedliche Nutzungsweisen von Künstlicher Intelligenz im Arbeitsalltag umschrieben. Damit lassen sich spezifische Arbeitsstrategien kategorisieren, die jeweils beschreiben, wie KI in der operativen Tätigkeit integriert wird. Ziel ist es, diese unterschiedlichen Herangehensweisen dann hinsichtlich ihrer Effizienz und Effektivität zu analysieren.

Diese Klassifizierung geht zurück auf eine Studie der Harvard Business School in Zusammenarbeit mit der Boston Consulting Group (BCG) aus dem letzten Jahr, die untersuchte, wie unterschiedlich Künstliche Intelligenz von Mitarbeitern eingesetzt wird und welche Formen der Zusammenarbeit am erfolgversprechendsten erscheinen.

Ausgangspunkt: Metriken in der Consulting-Branche

Zweifelssohne kam den Autoren der Studie dabei die schon lange betriebene „Metrisierung“ von Arbeitserfolgen in der Consulting-Branche entgegen. In großen Beratungsgesellschaften wird oft auf das berühmt-berüchtigte, meist alle zwei Jahre stattfindenden „Up-or-Out“-Karrieremodell zurückgegriffen, wonach Berater, welche innerhalb festgelegter Zeiträume nicht die nächste Karrierestufe erreicht haben, das Unternehmen verlassen müssen. Auf diese Weise soll die Motivation und der permanente Kompetenzzuwachs der Mitarbeiter sichergestellt werden. Nicht zuletzt, um hier eine transparente Entscheidungsgrundlage schaffen zu können, wird daraus meist ein detailliertes Messystem errichtet, das Vergleiche zwischen den Mitarbeitern, aber auch mit zurückliegenden Leistungen ermöglicht.

Untersucht wurde nun, auf welche Art und Weise typische Instrumente der (generativen) KI verschiedene Mitarbeiter für Arbeitsaufgaben genutzt worden – und wie erfolgreich und effizient diese jeweils damit waren. Dabei kristallisierten sich zwei Phänotypen für die Integration von Künstlicher Intelligenz heraus: einerseits die der „Zentauren“ und andererseits jene der „Cyborgs„. Beide beschreiben jeweils zwei grundsätzliche Verhaltensweisen zur Anwendung von generativer KI im Arbeitsalltag. Während der Begriff der Zentauren sich auf das Mischwesen der griechischen Mythologie bezieht, bezeichnet das Kofferwort Cyborg, geformt aus den englischen „cybernetic“ und „organism“, meist Menschen, mit technisch angereicherten oder veränderten Körpern. Während der Zentaur – deutlich sichtbar voneinander abgegrenzt – einen menschlichen Oberkörper mit einem Pferderumpf aufweist, können die Veränderungen des Cyborgs potenziell an allen Stellen des Körpers erfolgen.

Zentauren und Cyborgs: Zwei Modelle der KI-Integration

Dieser Unterschied in der Genese der Beiden Mischwesen wird nun für die Beschreibung unterschiedlicher Herangehensweisen bei der Verwendung von KI herangezogen:

Cyborgs integrieren ihren Aufgabenablauf vollständig und interagieren permanent mit der Technologie. Sie delegieren nicht einfach nur Aufgaben, sondern verflechten ihre Aktivität intensiv mit der KI. Die Künstliche Intelligenz übernimmt dabei die Rolle des Kompetenzträgers, der das spezifische Know-How hat und durch die Arbeitskraft „angezapft“ wird.

Zentauren entscheiden hingegen situativ, welche Aktivitäten sie delegieren oder selbst übernehmen auf der Grundlage der jeweiligen Stärken und Fähigkeiten. Der einzelne wägt also ab, was er selbst in der Lage ist, einzubringen und an welchen Stellen sinnvollerweise auf die KI zurückgegriffen wird. Es gibt keine vollumfängliche Verschmelzung. Mitarbeiter, die dieser Kategorie zuzurechnen sind, versuchen stets bei der Evaluation und Auswahl der Optionen im „Sattel“ zu bleiben. KI ist demnach in diesem Fall eher Assistent und Sparringspartner. Das Know-How wird eher beim Menschen verankert, Ideen werden durch Feedback der KI „gespiegelt“.

Wer ist erfolgreicher – Cyborgs oder Zentauren?

Bei der Beurteilung der erbrachten Leistungen zeigte sich, dass Berater, die standardmäßig generative KI einsetzten – also die „Cyborgs“ -, sich grundsätzlich bei klassischen (standardisierten) Beratungsaufgaben als erfolgreicher und effizienter erwiesen. Sie waren also etwa schneller bei Berechnungen von Kennzahlen oder wenn es galt, Excel-Sheets zu befüllen und zu analysieren.

Aber obwohl dieser Vorsprung für den überwiegenden Teil der Beratertätigkeiten nachgewiesen werden konnte: Bei Aufgaben außerhalb des klassischen Leistungsspektrums, sofern Informationen jenseits reiner zahlenbasierter oder analytischer Prozesse verarbeitet werden mussten, waren die Zentauren erfolgreicher, also wenn es insbesondere galt, mittels Kreativität Probleme zu lösen.

Sind Zentauren kreativer und innovativer?

Das mag als ein Fingerzeig zu interpretieren sein, wie wir grundsätzlich auf generative KI im Arbeitsalltag zurückgreifen sollten: Ohne Zweifel bestehen durch den Rückgriff auf in vielen Situationen Chance für Effizienzgewinne, für schnelleres, auch effektiveres Arbeiten. Gleichwohl tendieren die zugrundeliegenden Modelle oft dazu, sich an einem Art Durchschnitt zu orientieren. Sie basieren auf Wahrscheinlichkeiten und Passgenauigkeiten, die sie aus den gesammelten Daten berechnen. Sie favorisieren damit oft vermeintlich populäres und nicht unbedingt außergewöhnliches. Brillantes ist somit eher selten zu erwarten, stattdessen besteht die Gefahr von Qualitätseinbußen durch die Produktion von „Einheitsbrei“.

Vermutlich liegt die optimale Lösung in der Mitte, zwischen den Verhaltensweisen der beiden Grundtypen der Zentauren und Cyborgs. Generative KI kann gerade in der Schreibtischarbeit ein probates Mittel zur Effizienzsteigerung sein. Es besteht aber offensichtlich ein Trade-Off zu Kreativität und Innovation. Natürlich lassen sich die Gefahren des Mittelmaßes durch ein überlegteres und iteratives Prompting reduzieren.  Aber in der Konsequenz bedeutet das, dass man in der Lage sein muss, erkennen zu können, wann situatives Abweichen von der Norm richtig und angebracht ist. Dies setzt jedoch eine tiefere Vertrautheit mit der Technik und eine ausreichende fachliche Kompetenz voraus, die erst erworben werden muss. Wenn aber gleich zu Beginn eine zu starke Verlagerung von Kompetenz auf die KI erfolgt, dürfte es schwer sein, ausreichende Fähigkeiten zur Beurteilung der Leistungsfähigkeit der Systeme überhaupt zu erwerben.

Wie und wo sollen die notwendigen Kompetenzen erworben werden?

Folglich ist eine stufenweise Herangehensweise erforderlich, die durch den Einzelnen zu erlernen ist. Die Frage drängt sich dann natürlich auf, wann und wo das passieren soll. In der Schule? In der Berufsausbildung, an der Hochschule? Oder „on-the-job“, im Beruf? Bisher stehen wir bestenfalls am Anfang dieser Diskussion, die wir jedoch dringend führen sollten.

Mehr zum Thema: Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Empfohlene Buecher zu diesem Thema

Der Beitrag Von Zentauren und Cyborgs: wie wir KI in den Arbeitsalltag integrieren erschien zuerst auf Nerdwärts.de.

Die immer schneller voranschreitende Entwicklung Fortschritt bei den „digitalen“ Technologien – wie generative KI und Virtual Reality – verändern bereits heute die Grundlagen des menschlichen Alltags. Schon jetzt ist damit die Simulation menschlicher Erscheinungs- und Verhaltensweisen im Digitalen möglich. Die Darstellung rein digitaler „Wesen“ in menschlich wirkender Optik sowie die Erzeugung passender menschlicher Sprache gestatten eine „lebensechte“ Kommunikation im virtuellen Umfeld. Was bedeutet das für das Miteinander von Mensch und Technik? Welche gesellschaftlichen und auch welche ethischen Fragestellungen erwachsen hier? Und wie sehen die möglichen Antworten des Menschen auf die immer weiter voranschreitende technische Entwicklung aus? Können wir die Technik beherrschen? Oder müssen wir uns anpassen und zu „Cyborgs“ werden, die ihren Körper (und Geist) mit dem Ziel, mithalten zu können, technisch aufrüsten?

Vortrag von Prof. Dr. Andreas Wagener: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern erschien zuerst auf Nerdwärts.de.

Diskriminiert Google? Mit Autosuggest lassen sich Verzerrungen beim maschinellen Lernen eindrücklich zeigen. Das hat auch Einfluss darauf, wie wir mit Generativer KI, mit ChatGPT&Co, umgehen sollten. Ein kurzer Auszug aus der Hofer Stadtvorlesung mit Andreas Wagener.

Auszug aus dem Vortrag: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“

Mehr zum Thema: der komplette Vortrag von Prof. Dr. Andreas Wagener: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Warum Google Autosuggest keine Ostdeutschen (und Hessen) mag – und was das mit GenAI zu tun hat erschien zuerst auf Nerdwärts.de.

Der Begriff der „Virtual Beings“ bezieht sich auf die Entstehung „digitaler Lebewesen“ mit eigenen „Persönlichkeiten“, die entsprechende Möglichkeiten der menschlichen Interaktion eröffnen und dabei verschiedene Ausprägungen haben können. Ein weiter gefasstes Verständnis bezieht dabei bereits intelligente Chatbots und Sprachassistenten, aber auch interaktionsfähige Roboter – wie der berühmte „Pepper“ – , mit ein. Diese Kategorie wird teilweise als „Virtual Companions“ umschrieben, Begleiter im physischen Alltag, die auf digitalisierte Ressourcen zurückgreifen. In einer engeren Definition umfasst der Begriff hingegen nur Erscheinungsformen im virtuellen Raum. Manchmal findet hierfür auch die Bezeichnung „Digital Humans“ Verwendung, digitalisierte menschliche Abbilder, wobei hiervon der Terminus „Avatar“ nochmals abgegrenzt werden muss, der sich auf eine (meist) grafische Repräsentation des Nutzers in digitalen Umgebungen, etwa in Spielen und auch auf Metaverse-Plattformen, bezieht. Ein Avatar besitzt damit aber eben keine autonomen Persönlichkeitseigenschaften, ist also kein eigenständiges virtuelles Lebewesen.

Virtual Beings vs. Digital Humans

Von „Virtual Beings“ ist der oft synonym verwendete Terminus der „Digital Humans“ noch in weiterer Hinsicht zu unterscheiden: Zum einen muss die digitale „menschliche“ Ausprägung nicht unbedingt auch ein reales menschliches Antlitz besitzen, ebenso sind comicartige oder gänzlich gesichtslose Darstellungen denkbar. Zum anderen können auch andere Lebewesen „virtualisiert“ werden. Inzwischen ist es etwa möglich, „individualisierte“ Haustiere im Metaverse zu besitzen. Das Unternehmen „Digital Pets Company“ stellt beispielsweise entsprechende NFT-Hunde als virtuelle Begleiter zu Verfügung, die eigene, „unique“ Persönlichkeiten besitzen sollen und von ihren Haltern weiter trainiert werden können.

Virtual Beings als virtuelle Influencer

Schon seit Längerem wird im Marketingkontext über „virtuelle Influencer“ diskutiert. Viel zitierte Vertreterin ist etwa das rein digital existierende „Supermodel“ Shudu, welches von der dahinter stehenden Agentur auf dem eigenen Instagram-Kanal mit mehr als 200.000 Followern höchst professionell in Szene gesetzt wird. Einen noch größeren Bekanntheitsgrad hat sich „Lil’Miquela“ erworben: Sie verfügt über ein Instagramprofil mit mehr als 3 Mio. Followern und einen eigenen Youtube-Kanal, dessen Videos teilweise mehrere Millionen Abrufe aufweisen. Quer über die verfügbaren Social Media Kanäle wird auf diese Weise der Alltag eines Influencers simuliert – Lil‘Miquela trifft sich mit Freunden, macht Selfies, teilt ihre Spotify-Playlist – und auf diese Weise „echtes“ Geld mit Product Placement verdient. Selbst wenn in den letzten Jahren immer mehr virtuelle Influencer in Europa und auch hierzulande auf der Bildfläche erscheinen, hinkt die Entwicklung deutlich hinter jener in Asien, in Japan, Korea und China hinterher. Das chinesische Marktforschungsunternehmen iiMedia bezifferte das Volumen des hier mit „Virtual Idol“ bezeichneten Marktes für 2021 mit 6,22 Mrd. Yuan (etwa €900 Mio.).

Virtual Beings und der Einsatz von KI

Die beschriebenen Beispiele virtueller Influencer stellen zwar erfolgreiche Marktadaptionen dar, sind technisch recht gut gemachte, aber letztlich doch „händische“ Inszenierungen. Der Rückgriff auf KI, auf Methoden des maschinellen Lernens und insbesondere Deep-Learning-Verfahren, ermöglicht heute nicht nur deutlich ausgereiftere grafische Umsetzungen, sondern auch einen höheren Automatisierungsgrad der Interaktion. Eigenständig hinzulernende und dann autonom agierende Virtual Beings stellen gewissermaßen die „Krone der digitalen Schöpfung“ dar. Schon heute sind digitale Realitäten oft nicht mehr von der analogen Wirklichkeit zu unterscheiden: Eigenständig durch KI generierte Bilder „realer“ Menschen und Gegenstände lassen sich meist nur schwer von herkömmlichen Fotografien unterscheiden. Und „Deepfakes“ zeigen uns, dass dieser Aspekt gleichfalls auf Bewegtbild ausgeweitet werden kann. Auch die Entwicklungen in der Sprachverarbeitung, im „Natural Language Processing“ sind soweit fortgeschritten, dass menschliche Originalstimmen synthetisch perfekt nachgebildet werden können.

Virtual Beings im Metaverse – eine neue Entwicklungsstufe?

Sollten derart äußerlich perfekt gestaltete virtuelle Lebewesen nun ebenso in ihrem Innern entsprechend angereichert werden, so dass über eigenständiges Hinzulernen auch eine Simulation von Persönlichkeit möglich ist, dürfte die Unterscheidung zwischen „analogen“ und digitalen Lebewesen zunehmend schwerer fallen. Es ist zu erwarten, dass in einer virtuellen Umgebung, wie in einem wie auch immer gearteten Metaverse, diesen – nicht zuletzt in Bezug auf Kommunikation und Marketing – womöglich eine Schlüsselrolle zukommen wird. Allein für China geht man von 60.000 neuen Unternehmen aus, die 2021 den Markt der Virtual Beings für sich entdeckt haben. Hinsichtlich des Marktvolumens wird ein Anstieg von aktuell ca. 90 Mio. Euro auf bis zu 75 Mrd. Euro im Jahr 2030 prognostiziert.

Mehr zum Thema: Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Künstliche Intelligenz im Marketing: Künstliche Kreativität, VR & DNA-Targeting.“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Virtual Beings, Digital Humans und Avatare – eine Begriffsabgrenzung erschien zuerst auf Nerdwärts.de.

Ein aktuelles Forschungsfeld im Bereich der Künstlichen Intelligenz

Mehr zum Thema hier:

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Ein neues Zeitalter im Marketing: Künstliche Intelligenz, maschinelle Kreativität, virtuelle Realitäten & DNA-Targeting„:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Emotionserkennung im Pet eCommerce erschien zuerst auf Nerdwärts.de.

Der Themenkreis des Evolutionary Computings bezieht sich auf einen eigentlich schon älteren Ansatz in der KI-Forschung, der versucht, aus dem natürlichen Prinzip der Evolution Ableitungen für die Lösung von Computerproblemen zu finden.

In der biologischen Evolution werden die Gene von Organismen ständig natürlichen Mutationen unterzogen, was in der Folge zu genetischer Vielfalt führt. Aus einer „Fortpflanzung“ entstandene „Erbengenerationen“ nehmen diese Mutationen auf und kombinieren deren Erbgut womöglich. Im Abgleich mit herrschenden Umweltbedingungen entsteht ein „Anpassungsdruck“, der zur (natürlichen) Selektion –  beziehungsweise „Eliminierung“ – führt, so wie es in Charles Darwins Postulat des „survival of the fittest“ zum Ausdruck kommt.

Darwin + KI: Evolutionäre Algorithmen

In einer vereinfachten Art und Weise übernimmt das Evolutionary Computing in der Informatik dieses Prinzip und wendet es meist auf die Lösung von Optimierungsproblemen an. Als Vorteil wird dabei gesehen, dass es damit zwar möglich ist, eine Vielzahl unterschiedlicher Fragestellungen zu verfolgen, gleichwohl lediglich eine vergleichsweise geringe Menge spezifischen Problemlösungswissens dazu vonnöten ist. Stattdessen muss nur eine „Fitness“-Funktion aufgestellt werden, die auf die möglichen „Lösungskandidaten“, bezogen werden kann und die es dabei gilt, zu optimieren. Aus der Fitness-Funktion lässt sich die „Güte“ oder „Passgenauigkeit“ eines Lösungskandidaten ableiten, sie beurteilt diesen also daraufhin, wie gut er zur Lösung des Optimierungsproblems geeignet erscheint.

Evolutionäre Algorithmen vs. Backpropagation

Als Alternative zur sogenannten Backpropagation finden Evolutionäre Algorithmen auch innerhalb künstlicher neuronaler Netzwerke Verwendung. Der Unterschied der beiden Verfahrensweisen liegt darin, dass bei Backpropagation ein „Gradientenverfahren“ (englisch „gradient descent“) Anwendung findet, wobei die Ergebnisse stetig verbessert werden, indem die Lösung gewissermaßen durch einen „Zick-Zack-Kurs“ schrittweise immer enger „eingekreist“ wird – also die Gewichtungen der Inputs nach und nach entsprechend der Fehleranalyse und „Ursachenforschung“ justiert werden.

Im Gegensatz dazu agieren Evolutionäre Algorithmen deutlich „zufälliger“ bei der Änderung der Gewichtungsparameter, was ihnen oft den Vorwurf der Ineffizienz einbrachte. Die Parallelität der Aktionen ermöglicht jedoch auch eine breiter ausgelegte und weniger „starre“ Anwendung. Dazu wird zunächst, weitgehend per Zufall, ein „Genom“ festgelegt, das dann, abhängig davon, wie gut es sich einpasst – also: wie gut es ein spezifisches Problem löst – mit anderen „Phänotypen“ und „Mutationen“ „reproduziert“ wird. Dies geschieht nicht nur mit einem Genom, sondern mit vielen Varianten gleichzeitig. Diese lassen sich miteinander kombinieren, also gewissermaßen „veredeln“. Anders als bei der Backpropagation werden „schlechte“ Bestandteile nicht an ihrer „Wurzel bekämpft“, sie „mendeln“ einfach aus, das heißt: ähnlich der biologischen Evolution findet eine Selektion lediglich nach der Passgenauigkeit, dem Ergebnis des Mutationsprozesses, statt.

Evolutionäre Algorithmen & Maschinelles Lernen

Während „Backpropagation“ oft nur mit dem überwachten Lernen in Verbindung gebracht wird, können Evolutionäre Algorithmen auch im Rahmen des unüberwachten Lernens, bei der Mustererkennung, und vor allem des Reinforcement Learnings Anwendung finden. Schließlich geht es ja auch in der Evolution darum, neue, noch nicht bekannte oder existierende Lösungen zu finden oder durch die „Belohnung“ der Selektion einen Anreiz für Passgenauigkeit zu identifizieren.

Derzeit ist noch umstritten, welche Rolle diese evolutionären Ansätze bei der weiteren Entwicklung von KI spielen werden, ob sie insbesondere auch ein Gegenentwurf oder eher eine Ergänzung zu Deep Learning und der aktuellen Funktionsweise von Künstlichen Neuronalen Netzwerken oder möglicherweise eine neue Entwicklungsstufe darstellen. Für manche verkörpern sie sogar einen wichtigen Meilenstein zu einer künstlichen Reproduktion „echter“ menschlicher Intelligenz, die sich auch ändernden Umweltbedingungen flexibel anpassen kann.

Der Artikel beruht auf dem Buch von Andreas Wagener Künstliche Intelligenz im Marketing – ein Crashkurs, Haufe, Freiburg, 2019

Mehr zum Thema hier:

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Ein neues Zeitalter im Marketing: Künstliche Intelligenz, maschinelle Kreativität, virtuelle Realitäten & DNA-Targeting„:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Evolutionäre Algorithmen: Die nächste Entwicklungsstufe der KI? erschien zuerst auf Nerdwärts.de.