Nach einer Studie des spanischen Center of the Governance of Change würde ein Viertel der Befragten Europäer es bevorzugen, dass politische Entscheidungen eher von einer KI als von Politikern aus Fleisch und Blut getroffen werden würden. Damit würde der Endpunkt einer Entwicklung zunehmender Mechanisierung gesellschaftlicher Prozesse beschrieben, die vor allem durch den Rückgriff auf Technologien wie Maschinelles Lernen und Blockchain möglich wird. Führt dies zu mehr in Verwaltung und Staat oder befinden wir uns damit auf dem Weg in eine Dystopie?

Schon seit längerem diskutieren die Sozialwissenschaften den Einfluss der Digitalisierung auf die gesellschaftliche Entscheidungsfindung. Aufgrund des zunehmenden Rückgriffs auf Algorithmen und Verfahren des maschinellen Lernens im Rahmen von „Algorithmic Governance“ und des „Automated Decision Making“ (ADM) in der praktischen Politik ergeben sich Fragestellungen im Bereich der Legitimation und ethischen Vertretbarkeit derartiger Vorstöße (Wagener 2021). Ähnlich verhält es sich mit Anwendungsszenarien für die Distributed-Ledger-Technologie, etwa dem Konzept der „Liquid Democracy“ (Bastgen / Winkler, 2013) mit dem die Behebung von Leistungsdefiziten der repräsentativen Demokratie durch die Implementierung von Automatismen zur Umsetzung des Wählerwillens bis hin zu einer „Imperativierung“ des Mandats verbunden werden (van de Sande, 2015)

Smart Contacts und DAOs

Im Rahmen von industriellen und betriebswirtschaftlichen Prozessen werden über „Smart Contracts“ schon seit geraumer Zeit auf Grundlage logischer „Wenn-Dann“-Kausalitäten vorab getroffene Vereinbarungskonsequenzen automatisiert exekutiert. Durch ein integriertes System aus einer Vielzahl dieser Smart Contracts ist es möglich, ganze Organisationen mit autonomen, vollständig mechanisierten, dezentralen Entscheidungsstrukturen abzubilden, sogenannte „Decentralized Autonomous Organisations“ (DAOs).

Eine Übertragung dieses Prinzips auf die Politik, insbesondere auf staatliche Institutionen, erscheint grundsätzlich denkbar. Im Zusammenspiel mit dem Einsatz von Algorithmen, maschinellem Lernen und KI könnten leistungsfähige autonome Systeme geschaffen werden, welche die Art und Weise der gesellschaftlichen Entscheidungsfindung sowie die Beschaffenheit des Staates grundsätzlich revolutionieren würden. Ein entsprechender Einsatz dieser Technologien in der politischen Sphäre wirft jedoch neue Fragen hinsichtlich Legitimation und Repräsentation auf. Somit erwüchse für die Gesellschafts- und Politikwissenschaften – in Anlehnung an den vielzitierten Begriff des „Internet of Things“ – die Aufgabe, die Leitlinien einer möglichen Implementierung dieser „Governance of Things“ und deren demokratieverträgliche Ausgestaltung zu skizzieren und zu bewerten: Welche Herausforderung für die Demokratie bestehen demnach und wie können wir uns diesen stellen? Inwieweit ist es legitim, die technischen Errungenschaften auszubauen und den digitalen Wandel voranzureiben? Und wie können dabei bürgerliche Partizipation und nicht zuletzt ein menschliches Antlitz der Staatlichkeit gewährleistet werden? Schließlich münden derartige Überlegungen zwangsläufig in der grundsätzlichen Frage nach der Relevanz der menschlichen Willensbildung im digitalen Zeitalter: Welche Zukunft ist wünschenswert und welche Entwicklungen führen uns in eine Dystopie?

Algorithmic Governance und AI Governance

Seit einiger Zeit wird unter dem Begriff der „Algorithmic Governance“ (Yeung, 2018; Katzenbach / Ulrich, 2020) verstärkt der Einsatz datenbasierter, „digitaler“ Technologie als Ergänzung oder auch als vollständiger Ersatz menschlicher politischer Entscheidungen diskutiert. In Anlehnung an Laurence Lessigs (Lessig 1999) Diktum „Code is Law“ (auch: „Law is Code“, vgl. Hassan / de Filippi, 2017), ließe sich diese Vorgehensweise als die Automatisierung der Ausführung vorab definierter (staatlicher) Regeln beschreiben. Die Anwendung des hier zugrundeliegenden, der Computerprogrammierung entlehnten „Wenn-Dann“-Prinzips („if this … then that…“, „IFTTT“) basiert auf der Annahme, dass sich zuvor definierte – und legitimierte – Entscheidungsmuster auf spätere Situationen anwenden lassen. Die nachfolgende Exekution anstehender Entscheidungen kann dann idealerweise autonom erfolgen, ohne dass es eines weiteren menschlichen Eingreifens zwingend bedürfte.

Der Rückgriff auf KI – verstanden als der Einsatz von autonomen, selbstlernenden Systemen – verändert die Rahmenbedingungen algorithmischen Regierens nochmals grundlegend.  Denn sofern solche intelligenten Systeme eigenständig hinzulernen, ihre Entscheidungen also nicht mehr zwingend den vorab menschlich definierten Mustern und Regeln entsprechen, sondern diese, aufbauend auf den verarbeiteten Erkenntnissen, autonom agieren und eigene Maßstäbe anlegen – man spricht dann i.d.R. von „AI Governance“ (Kuziemski und Misuraca 2020) -, stellt sich die Frage, wie diese Prozesse im demokratischen Staat legitimiert werden können. Dabei handelt es sich keinesfalls um ein rein theoretisches Problem. Derartige Systeme kommen bereits regelmäßig in der staatlichen und politischen Praxis zum Einsatz, etwa in der Arbeitsmarkt- und -innenpolitik, bei der Polizeiarbeit oder der Unterfütterung juristischer Vorgänge.[1] Eine Kombination mit DLT-basierten Verfahren findet zwar in aller Regel nicht statt, wäre aber grundsätzlich möglich.

Distributed-Ledger: Blockchain, Smart Contracts und DAOs

Der Rückgriff auf DLT-Verfahren geht in erster Linie auf die Kryptowährung Bitcoin zurück, wo die „Blockchain“ für die dezentralisierte, transparente und unveränderbare Erfassung der Daten zu den Transaktionen zwischen den Netzteilnehmern verwendet wird. Eine Transaktion muss immer durch die anderen Netzwerkteilnehmer bestätigt werden. Das Ergebnis wird unveränderlich im „Ledger“ (Kontobuch) gespeichert und die somit neu gebildete Blockchain an die Teilnehmer verteilt.

Ganz wesentlich ist dabei, dass die Dezentralität der Organisation zur Ausschaltung der vermittelnden zentralen Stelle, des „Intermediärs“ (beispielsweise eine überwachende staatliche Institution, wie eine Zentral- und Notenbank, oder ein zentrales Finanzsystem), führt. Dies wird nicht nur als effizient und kostenrelevant betrachtet – schließlich „verdient“ der Mittelsmann nun nicht mehr an einer Transaktion und die Blockchain-Peers können diesen Kostenvorteil unter sich aufteilen –, sondern verändert auch das Machtgefüge. Nicht selten wird sogar von einer „Demokratisierung“ gesprochen (Piscini et al, 2016), da die „Legitimation“ von Transaktionen dann nicht mehr durch eine zentrale Autorität erfolgt, die womöglich ihre eigenen Interessen im Visier hat, sondern durch die Masse der Netzwerkmitglieder.

Smart Contracts und IFTTT

Aus der ursprünglichen Blockchain-Logik heraus entwickelten sich auch jenseits finanzwirtschaftlicher Szenarien Anwendungsbereiche für die DLT. Unter „Smart Contracts“ versteht man technische Transaktionsprotokolle, welche die Einhaltung zuvor definierter Vertragsbestimmungen überwachen sowie autonom und mechanisiert die vereinbarten Konsequenzen ausführen – ebenfalls nach dem IFTTT-Prinzip und analog zum „Code-is-Law“-Diktum. Menschliches Eingreifen, etwa bei Verletzungen der Vertragsrechte durch eine Partei, ist damit nicht mehr notwendig.

Durch ein System aus einer Vielzahl dieser Smart Contracts ist es möglich, ganze institutionelle Organisationen mit autonomen Entscheidungswegen abzubilden – die bereits eingangs erwähnten DAOs. Diese werden bereits seit einiger Zeit im Finanzbereich erprobt und etabliert, um als eigenständige Akteure, losgelöst von menschlichen Eingriffen, am Wirtschaftskreislauf teilzunehmen (van de Sande, 2015). Die Steuerung von DAOs erfolgt automatisiert auf Basis von Bedingungen, welche die Mitglieder bzw. Teilhaber durch ein Abstimmungsverfahren im Vorfeld von Entscheidungssituationen festlegen (Chopan, 2022). Meist wird über eingebrachte Vorschläge durch in der Regel nach kumulierten Eigentumsrechten und Kapitaleinlagen gewichtete Stimmen unter der Maßgabe der Einhaltung eines bestimmten Quorums entschieden, wenngleich auch andere Stimmrechtsprinzipien (z.B. nach erworbener Reputation) denkbar sind (Arsenault, 2020).

DAOs in der Politik

Grundsätzlich scheint damit auch eine Übertragung des Prinzips der DAOs auf die Politik denkbar, was insbesondere in den USA immer wieder durch entsprechende Forderungen unterfüttert wird (Sergeenkov 2022). Unter dem Stichwort der „Liquid Democracy“ werden darunter unterschiedliche Ausprägungen der Mandatsgebundenheit, meist mit dem Fokus auf einer stärkeren individuellen, direkten bürgerlichen Partizipation, diskutiert. Eines der kursierenden Konzepte ist das „Delegated Voting“ (Nitsche, 2014). Nach diesem Prinzip können die Wahlberechtigten flexibel bestimmen, ob sie ihr Stimmrecht in einer spezifischen Entscheidungssituation selbst ausüben oder an einen Delegierten übertragen, etwa weil jener über die in diesem Fall notwendige Expertise verfügt. Der entsprechende Delegierungsvorgang wird dazu in einer Blockchain dokumentiert. Ferner könnten aber auf diese Weise auch imperative Mandate kreiert und überwacht werden. In der Kombination mit Smart Contracts ist es denkbar, einen Automatismus zu erzeugen, der den aggregierten Wählerwillen zwingend zur Umsetzung bringt, indem die eigentliche Ausübung des Mandats gar nicht mehr im Verfügungsbereich des Delegierten liegt, sondern die in der Blockchain festgehaltene inhaltliche Bindung zu einer nicht mehr beeinflussbaren Mechanisierung der Abstimmung führt. In vielen Demokratien stünde dies allerdings wohl im Widerspruch mit dem als unerlässlich betrachtetem Prinzip des freien Mandats, das den Abgeordneten nur seinem eigenen Gewissen unterwirft (Seckelmann 2014). In letzter Konsequenz müsste ein solches Verständnis von Demokratie dazu führen, dass – sofern die technische Umsetzbarkeit dieser aufwändigen Verfahren gegeben ist – es eigentlich gar keiner Delegierter mehr bedarf, da sich sämtliche Entscheidungsprozesse dezentralisieren ließen (Waldmann, 2016).

Politische DAOs als intelligente, selbstlernende Systeme

Der Hauptvorwurf gegenüber dem Delegated Voting zielt auf eine zu geringe Praxisnähe und mangelnde Effizienz. Schließlich sei es kaum möglich, die Vielzahl an Themen und unterschiedlichen Delegierten zu überblicken und zu koordinieren.  Als problematisch erachtet wurde auch die Einbindung der durch Stimmkumulation entstehenden „Superdelegierten“ in ein System von Checks&Balances sowie deren Verantwortlichkeit gegenüber den Wählern (Seckelmann 2014).

Der Einsatz von DLT wäre dabei gleichwohl durchaus geeignet, die grundsätzlichen Probleme von Stimmdelegierungen zu reduzieren, denn eine Einbettung in ein digitales System könnte einerseits zu mehr Übersichtlichkeit beitragen, andererseits würde gerade der Vermerk des individuellen Abstimmungsverhaltens der Delegierten in einer allgemein zugänglichen und unveränderbaren „Blockchain“ zu mehr Transparenz und Zurechenbarkeit („Accountability“) führen.

Komplexe Entscheidungsumfelder als Problem politischer Systeme

In der Tat dürfte ein Hauptproblem heutiger politischer Systeme und der jeweiligen Entscheidungsträger in der zunehmenden Komplexität politischer Entscheidungen sowie – zumindest in der westlichen Welt – in der allgemein wachsenden gesellschaftlichen Fragmentierung und Polarisierung bestehen. Damit drängt sich die Frage auf, inwiefern tradierte, rein menschliche geprägte Entscheidungsprozesse noch zeitgemäß sind – angesichts der stetig wachsenden Leistungsfähigkeit in diesem Kontext anwendbarer digitaler Technologien. Und: Führen menschliche Entscheidungsspielräume nicht immer auch zwangsläufig zu einem „Bias“, einer menschlich induzierten „Unwucht“, die eine Seite gegenüber einer anderen aufgrund tradierter Verhaltensmuster bevorzugt?

Vieles spricht dafür, dass sich durch den Einsatz digitaler Technologien zumindest ein Teil dieser Probleme beheben ließe, da der politische Entscheidungsprozess auf diese Weise eine radikale Rationalisierung erfahren würde (Owen 2015; Atzori, 2017). Während der formale Abstimmungsprozess sowie die Fixierung der getroffenen Entscheidung über DLT und Smart Contracts abzubilden wären, könnten der Rückgriff auf KI und Methoden des maschinellen Lernens dazu dienen, die Entscheidungsgrundlagen bereitzustellen, um dann eine „absolut rationale Willensbildung“ durch das System sicherzustellen (Atzori 2015). KI wäre somit für den Entscheidungs-Input relevant; für die Entscheidungsausführung, den Output, könnte auf DLT-Methoden zurückgegriffen werden. In einem solchen System bedarf es dann keiner „intermediären“ Mandatsträger mehr, die womöglich den streng rationalen Entscheidungsprozess durch menschliche Einflussnahme verzerren würden. Es entstünde eine absolut autonome politische Organisation – eine „Staats-DAO“ –, die den Wählerwillen durch vorgelagerte Abstimmungen aggregiert und aufwändig zu klärende Detailfragen, ausgehend von dieser somit geschaffenen Datenbasis, durch den Einsatz iterativer Lernmethoden autonom beantwortet. Die Wähler gäben also durch ihr Abstimmungsverhalten die Richtlinien und Rahmenbedingungen vor, für die Umsetzung in die praktische Politik, für die der Einzelne im Zweifelsfall ohnehin nicht die notwendige Kompetenz besäße, trüge jedoch die KI die Verantwortung und berechnet aus den vorliegenden Daten die richtige und vernünftigste Entscheidung, basierend auf Mustererkennungen (via „Unsupervised Learning“) und der Maxime der Optimierung des vorab definierten Gemeinwohls (etwa über die Methode des „Reinforcement Learnings“)[2].

Die nächste Stufe: Directed Acyclic Graphs (DAG)

Was im gesellschaftlichen Kontext nach purer Science-Fiction klingen mag, ist im industriellen Umfeld bereits deutlich weiter entwickelt. Über sogenannte „DAGs“ („Directed Acyclic Graphs“), die für manche die nächste Entwicklungsstufe der DLT markieren, lassen sich typische Probleme der DLT, wie etwa der hohe Verbrauch an Energie- und Zeitressourcen, durch die Abkehr von den komplexen Mining-Verfahren wie sie von Bitcoin und Ethereum bekannt sind, beheben. Derartige Ansätze, wie sie beispielsweise in unterschiedlicher Ausprägung von IOTA, IOTChain oder DAGCOIN vertreten werden, zielen bislang vor allem auf das „Internet der Dinge“, wo Transaktionen – transparent, chronologisch und unveränderbar – zwischen einzelnen Maschinen und Geräten dezentral abgebildet werden sollen.

Wenn Maschinen eigenständig miteinander kommunizieren und in der Lage sind, dabei unabhängig vom menschlichen Eingriff Transaktionen untereinander auszuführen, führt dies zu erheblichen Veränderungspotenzial: Eine Prozessorganisation, in der intelligente Industriesysteme untereinander Prozesse und Güterströme eigenständig abwickeln, welche Arbeitsschritte zwischen Maschinen koordiniert und für einen finanziellen Ausgleich zwischen den beteiligten Systemen und Geräten entsprechend ihrer Beteiligung an der Wertschöpfung sorgt und all dies entsprechend transparent auf einem Distributed Ledger vermerkt, ermöglicht in letzter Konsequenz eine autonome, sich selbst steuernde Maschinenwirtschaft.

Blockchain in Kombination mit KI als Zwischenschritt zur generellen Künstlichen Intelligenz

Im Moment wird oft davon ausgegangen, dass wir eine „generelle Künstliche Intelligenz“, die dem Menschen auch in seiner Vielfältigkeit gleichkommt, nur schwer erzeugen können. Die meisten KI-Systeme sind auf sehr spezifische Probleme trainiert und daher auch entsprechend in ihrer Leistungsfähigkeit darauf beschränkt. Der Rückgriff auf DLT als Element der Prozessorganisation könnte dann jedoch die Grundlagen für eine arbeitsteilige Ökonomie künstlicher Intelligenzen liefern: Stellt eine KI ihren spezifischen Arbeitsschritt fertig, so wäre es dann möglich, die Übergabe der jeweiligen Teilleistung zur Weiterarbeitung in einem Distributed Ledger zu vermerken und über einen Smart Contract an die nächste zuständige Einheit zu übergeben. Somit würde sichergestellt, dass alle notwendigen Teilschritte eingeleitet und lückenlos abgearbeitet werden.

Dieses Prinzip – KI sorgt für die Findung von Entscheidungen, die DLT für die Koordination der daraus resultierenden Handlungen – könnte grundsätzlich auch in einer politischen DAO abgebildet werden. Politische Fragestellungen ließen sich durch ein führendes intelligentes System in Einzelprobleme aufspalten, die von der spezifischen KI zu bearbeiten wären. Die Sicherstellung der Übergabeprozesse zwischen den KIs untereinander aber eben auch die „Operationalisierung“ des Wählerwillens und dessen Einspeisung in das System erfolgte auf Basis von DLT (Wagener 2018). 

Zweifelsohne müssen natürlich für ein politisches System weitaus strengere Standards hinsichtlich der technischen Verlässlichkeit gelten, als für die Abbildung von Wertketten. Und in der Tat gilt die DAG-Technologie bislang nicht als völlig ausgereift. Ungeachtet dessen wirft ein entsprechender perspektivischer Einsatz in der gesellschaftlichen Entscheidungsfindung erhebliche Fragen nach der Gewährleistung von Legitimation und Repräsentation im politischen System auf. Diesem Aspekt widmet sich der folgende Abschnitt.

Die Frage nach Legitimation, Repräsentation und Partizipation.

Die Legitimationsdefizite, ebenso wie der Mangel an bürgerlichen Partizipationsmöglichkeiten an einer weitgehend autonom agierenden politischen DAO liegen auf der Hand und ergeben sich bereits immanent aus ihrer Konstruktion: Es bedarf schon eines großen Vertrauens in die Technik und den technologischen Fortschritt, um hierin eine positive Perspektive für Staatlichkeit und Repräsentation festmachen zu können. Gleichwohl ist die Vision einer „Staats-DAO“ kein bloßes Phantasieprodukt. Die Idee die operativen politischen Prozesse an eine autonom agierende Entität auszulagern, trifft durchaus, vor allem in den USA, tatsächlich auch auf Zustimmung:

Die Vorteile eines solchen Systems werden zu allererst in der Effizienzsteigerung gesehen, die hierbei für die staatliche Entscheidungsfindung und -ausführung durch die Automatisierungszuwächse zu erwarten wären. Ähnliche oder identische Entscheidungsfragen müssten nicht immer wieder neu verhandelt, sondern könnten durch die einmalige Festlegung auch für die Zukunft verbindlich geregelt werden. Des Weiteren ließen sich Verwaltungsentscheidungen versachlichen, da das einmal gefundene Regelsystem für alle Betroffenen gleichermaßen zur Anwendung käme, ungeachtet möglicher persönlicher Präferenzen der Entscheider „vor Ort“. Damit ginge dieser Argumentation folgend ein Zuwachs an Fairness und Gleichberechtigung einher.

Libertäre Motive als Treiber

Für die Anhänger sind darüber hinaus vor allem libertäre Motive maßgebend (Tapscott / Tapscott 2016, 199). DLT wird als bewusst technokratisches Instrument betrachtet, das den staatlichen und überstaatlichen Institutionen, die ohnehin dazu tendieren würden, ihre Befugnisse zu überschreiten, entgegengesetzt werden kann ((Tapscott / Tapscott, 2016, 201).  Viele dieser „Techno-Libertarians“ sind der Meinung, dass zentrale Koordination und der Staat Produkte einer überkommenen patriarchalen und hierarchisch-autoritären Grundeinstellung sind, die es zu überwinden gilt (Atzori 2015, 24; Sergeenkov 2022; Roberts 2022)  Charakteristisch ist die Übertragung von marktwirtschaftlichen Funktionsweisen auf politische Leistungsprozesse. Der Staat als Organisationsform wird wie ein Unternehmen betrachtet, das funktionieren und liefern muss, wenn es weiter die Gunst seiner „Kunden“, den Bürgern, genießen will. Geschieht das aus Sicht des Einzelnen nicht, so wird es als logische Konsequenz angesehen, dass dieser in höchster Flexibilität seine Loyalität aufkündigt und sich „Alternativangeboten“ zuwendet (Tarkowski Tempelhof 2012).  Möglichst freie und ungezügelte Marktwirtschaft gilt als Hauptgarant politischer Stabilität (de Soto 2014). Es sei keine Option, Menschen „qua Geburt“ in ein politisches System zu „zwingen“, ihnen damit bereits „von Beginn an“ ihre Freiheit zu entziehen (Tarkowski Tempelhof 2012). Stattdessen müsse man das Prinzip auf den Kopf stellen und größtmöglicher Selbstbestimmung den Weg ebnen. Die Gestaltungsprinzipien der DLT, welche die politische Macht auf ihren eigentlichen Ausgangspunkt direkt zurückübertragen, werden hierfür als perfektes Vehikel identifiziert. Die damit ebenfalls einhergehende Technisierung politischer Systeme zielt auf eine ganz bewusste „Entmenschlichung” der Politik. Menschliche Schwächen ließen sich nicht durch Checks & Balances allein auffangen. Die durch den DLT geschaffene Entscheidungstransparenz in Verbindung mit dem durch die Smart Contracts induzierten Exekutiv-Automatismus würden Korruption und Vetternwirtschaft hingegen unmöglich machen (Woods, 2015). Grundsätzlich ist es nicht so, dass man sich gegen Demokratie als solche wendet. Typisch ist jedoch ein archaisches, teilweise auch äußerst schlichtes Demokratieverständnis. Entscheidungen werden als absolut begriffen und in schwarz und weiß, in ein binäres System von Einsen und Nullen, gegliedert. Mehrheitsentscheidungen sind dabei stets verbindlich, unabhängig von den Inhalten und ihrer Legitimität (van de Sande, 2015).

Hobbes 2.0?

Ein Großteil dieser Argumentation erinnert an klassische Gesellschaftsvertragsmodelle wie Hobbes‘ Leviathan (Hobbes 1909). Demnach sollte der Staat eher als effiziente Maschine zur Sicherstellung der Marktinteressen der Bürger fungieren (König 2020), die bürgerlichen Individuen müssen sich dabei nicht gegenseitig, sondern lediglich auf die Funktionsfähigkeit dieses Staatswesens vertrauen.

Auch ein anderer Klassiker der Gesellschaftstheorie scheint dabei im Hintergrund zu wirken: Jean Jacques Rousseaus „volonté générale“, der „wahre Volkswille“, der mit dem Gemeinwohl übereinstimmt und auf das allgemein Beste ausgerichtet ist. Dieser kann im Gegensatz zum Willen jedes einzelnen, aber auch im Widerspruch zum empirisch feststellbaren Willen aller („volonté des tous“) stehen (Rousseau 1762, Fetscher 1971). Die Idee eines „volonté générale“, so ließe sich argumentieren, wäre somit prädestiniert für den Einsatz von KI, die ja aufgrund ihrer hohen Rationalität und Rechenkapazität in der Lage ist, auch schwierige Entscheidungssituationen abzubilden. Gerade letztere scheinen doch schließlich in Zeiten zunehmender politischer Komplexität und sozialer Fragmentierung klassische repräsentative Demokratien zunehmend an ihre Grenzen zu führen. KI könnte dabei maßgeblich zu einer versachlichten Ermittlung dieses rousseauschen Volkswillens beitragen.

Schöne neue Welt?

Der Mehrheit der beschriebenen Argumentationsansätze ist gemein, dass sie ein hohes Augenmerk auf die „Output“-Seite des politischen Systems, weniger auf dessen „Input“-Seite legen. Gerade aber die Beschaffenheit einer KI-gefütterten DAO wirft die Frage nach dem rechtmäßigen Zustandekommen von Entscheidungen auf. Die binäre Absolutheit der Entscheidungen der DLT-Logik wird flankiert durch eine unstetes, sich qua Definition autonom immer weiter entwickelndes „Gehirn“, das die Detailentscheidung treffen muss: Während Maßnahmen auf Grundlage herkömmlicher Algorithmic Governance ihre Rechtmäßigkeit aus diesem zuvor abgestimmten, „festverdrahtetem“ Regelsystem beziehen, justieren sich KI-Systeme auf Grundlage ihres Lernfortschrittes permanent eigenständig neu. Dies mag legitim erscheinen, sofern zumindest die Ziele, anhand derer dies geschieht, Ausfluss eines am Staatszweck orientierten (demokratischen) Verfahrens sind. Gleichwohl ist für die Erreichung politischer Ziele in der Demokratie auch die Art und Weise ihres Zustandekommens relevant. Zieldefinitionen, anhand derer ein lernendes System sich ausrichtet, können schließlich stets nur quantitativer Natur sein. Die Auswirkungen einer solchen politischen Zieloptimierung weisen jedoch immer auch eine qualitative Dimension auf, deren Tragweite ein Algorithmus nie erfassen kann. Beispielsweise ist es sicherlich möglich, einem System eine bestimmte „optimale“ Budgetallokation als Ziel vorzugeben, die Frage, ob diese dann im Ergebnis im Einklang mit einem wie auch immer definierten Gemeinwohl steht, ist eine ganz andere und kann weder in der Praxis technisch noch in der Theorie legitim durch eine KI beantwortet werden, sondern verbleibt zwangsläufig Gegenstand der menschlichen Domäne.

Auch die angestrebte „Entmenschlichung“ politischer Entscheidungen ist vor diesem Hintergrund kritisch zu sehen. Gerade dann, wenn diese nicht mehr unter Berücksichtigung individueller Situationen getroffen werden, sind Verzerrungen und soziale Härten zu erwarten. Auch stellen sich Fragen nach den Verantwortlichkeiten im Einzelfall – und zwar sowohl politisch als auch rechtlich.

Vom Internet of Things zur Governance of Things

De Facto sind Algorithmen, digitale Prozesse und Entscheidungsmechanismen bereits heute schon nicht mehr rein technisch-rationale Konstrukte. Sie repräsentieren auch immer den Einfluss derjenigen, die an ihrer Entstehung beteiligt sind, sowohl politisch als auch technisch. Insofern können sie als eine Art „Amalgam“ aus Mensch und Code verstanden werden. In dieser Auffassung spiegelt sich das Grundprinzip der Denkschule des „Neuen Materialismus“ wider. Demnach erschiene es zunehmend unangebracht, zwischen Menschen und Nichtmenschen, Leben und nicht lebendiger Materie und auch zwischen Akteuren und Strukturen zu unterscheiden. Vielmehr vermischen sich Menschen und Computeralgorithmen zu „sozio-materiellen Assemblagen“ (Kim 2020), wodurch neue Handlungsfähigkeiten und daraus resultierende Wirkungsweisen entstehen.

Dem vielzitierten „Internet of Things“ müssten demnach Überlegungen zu einer Governance of Things an die Seite gestellt werden. Die menschlichen Systementwickler diktierten dabei nicht die Funktionsweise des Algorithmus, die Befähigung und Notwendigkeit von Governance entstünde aus dem Zusammenwirken von Algorithmus und Systementwicklern, explizit etwa beim menschlich induzierten Training mit KI-Daten und der daraus resultierenden autonomen Lernentwicklung des Systems. Dieser Vorgang beinhaltet laufende Interaktionen und Iterationsschleifen zwischen beiden „Parteien“ und führt damit zu einer Verselbständigung dieser „Amalgambildung“.

Governance of Things als Ende des Menschenzeitalters?

Angesichts der Bedeutung, die Algorithmen und digitale Automatismen heute in unserem Alltag einnehmen, ließe sich die Auffassung vertreten, dass damit womöglich bereits das Ende des Anthropozäns eingeläutet worden ist und wir nun am Anfang eines „posthumanen“ Zeitalters stünden. Entsprechend werden schließlich auch unter dem Aspekt der „Singularität“ die gesellschaftlichen und ökonomischen Auswirkungen diskutiert, sollten intelligente Systeme eines – nicht allzu fernen – Tages die menschliche Leistungs- und Adaptionsfähigkeit übertroffen haben (Bostrom 2014).

Jedoch solange diese Stufe noch nicht erreicht scheint, müssen wir uns im hier und jetzt mit dem menschlichen Einfluss auf menschliche Probleme und ihre potenziellen Lösungsansätze selbst befassen. Politik und gesellschaftliche Prozesse sind auch in Zeiten zunehmender Komplexität zuallererst Gegenstand zwischenmenschlicher Verhandlungen. Daher sollten wir uns der Demokratie willen dieser Verantwortung höchstpersönlich und nicht verschanzt hinter einer Mauer aus Einsen und Nullen stellen. Denn bislang bleiben die Blockchain-Adepten eine klare Antwort schuldig, wie eine digital gesteuerte Gesellschaft Konflikte und gesellschaftliche Insuffizienzen reguliert, und zwar jenseits von Marktkriterien, die letztlich nichts anderes als das Recht des Stärkeren propagieren. Die Welt ist in der Tat komplex, und eine angemessene Politik muss situativ abwägend und mit ethischer Erdung erfolgen, sie bedarf einer im doppelten Sinne „humanen“ Partizipation. In diesem Verständnis ist der traditionelle demokratische Staat eben mehr als ein störender Mittelsmann, er ist die Summe seiner Teile, ein Abbild der Gesellschaft und seiner Bürger.

Technologie spielt bereits heute in der politischen Willensbildung eine nicht zu unterschätzende Rolle. Der Zuwachs ihres Stellenwertes wird sich nicht vermeiden lassen und kann natürlich auch positive Effekte haben. Unzweifelhaft ist der Grat zwischen Utopie und Dystopie sehr schmal an dieser Stelle. Ganz entscheidend ist jedoch, dass der Mensch und damit die Menschlichkeit nicht ihren Haupteinfluss auf politische Entscheidungsbildung verlieren, auch wenn wir bereits heute einen Machtverlust zu Gunsten von Technologie zu verzeichnen haben. Daher muss für die demokratische Politik im digitalen Zeitalter gelten: “Governance by Things“ benötigt eine gute, im doppelten Sinne menschliche “Governance of (these) Things“.

Der Artikel entstand auf der Basis eines Vortrages und entsprechenden Conference Papers zum Panel „Blockchain Imaginaries: Techno-utopianism, dystopias, and the future-imagining of Web 3.0“ anlässlich der Tagung „Anthropology, AI and the Future of Human Society“ des Royal Anthropological Institutes, London.

Literatur:

Arsenault, Eric (2020): Voting Options in DAOs. In: Medium 15.12.2020.https://medium.com/daostack/voting-options-in-daos-b86e5c69a3e3

Atzori, Marcella (2015): Blockchain Technology and Decentralized Governance: Is the State still necessary? In: SSRN Electronic Journal, January 2015, S. 1-37

Bastgen, Sarah / Winkler, Katrin (2013): Liquid Democracy – Participation Model of the 21st century? in: Römmele, Andrea / Schober, Hendrik (Ed.): The Governance of Large-Scale Projects, Baden-Baden, S. 111-131.

Bostrom, Nick (2014): Superintelligence. Paths, Dangers, Strategies. Oxford.

Chohan, Usman W. (2022)., The Decentralized Autonomous Organization and Governance Issues (December 4, 2017, revised 2022). http://dx.doi.org/10.2139/ssrn.3082055

Hassan, Samer/ Filippi, Primavera de (2021): The Expansion of Algorithmic Governance: From Code is Law to Law is Code. Institut Veoli, https://tinyurl.com/24w2m6yu

Hobbes, Thomas (1909): Hobbes’s Leviathan: Reprinted from the Edition of 1651. Oxford, https://tinyurl.com/2e72z5ny

Katzenbach, Christian/ Ulbricht, Lena (2019): Algorithmic Governance. In: Internet Policy Review, Nr. 4, doi: 10.14763/2019.4.1424

Kim, Eun-Sung (2020): Deep Learning and Principal-agent Problems of Algorithmic Governance: The New Materialism Perspective. In: Technology in Society, Vol. 63, 101378, doi: 10.1016/j.techsoc.2020.101378

König, Pascal D. (2020): Dissecting the Algorithmic Leviathan: On the Socio-Political Anatomy of Algorithmic Governance. In: Philosophy & Technology, Nr. 3,467–485, doi: 10.1007/s13347-019-00363-w

Kuziemski, Maciej/ Misuraca, Gianluca (2020) AI Governance in the Public Sector: Three Tales from the Frontiers of Automated Decision-making in Democratic Settings. In: Telecommunications Policy, Nr. 6, 101976, DOI: 10.1016/j.telpol.2020.101976

Lessig, Lawrence (1999): Code and Other Laws of Cyberspace. New York.

Nitsche, Andreas (2014): Liquid Democracy – what the noise is all about, in: http://www.liquid-democracy-journal.org/issue/1/The_Liquid_Democracy_Journal-Issue001-01Liquid_Democracy.html

Owen, Taylor (2015): Disruptive Power. The Crisis of the State in the Digital Age, New York

Piscini, Eric /Guastella, Joe /Rozman, Alex /Nassim, Tom (2016): Blockchain: Democratized Trust. In: https://dupress.deloitte.com/dup-us-en/focus/tech-trends/2016/blockchain-applications-and-trust-in-a-global-economy.html

Roberts, Jeff J. (2022): How Andrew Yang Aims to Change Washington With a DAO. In: Decrypt.com, https://decrypt.co/95173/andrew-yang-decrypt-podcast-lobby-3-dao

Rubio, Diego / Lastra, Carlos (2019), European Tech Insights 2019, Madrid: Center for the Governance of Change. https://docs.ie.edu/cgc/European-Tech-Insights-2019.pdf

Rousseau, Jean-Jacques (1762): Der Gesellschaftsvertrag oder Die Grundsätze des Staatsrechtes. Amsterdam, English translation by Henry John Tozer 1895 , https://oll.libertyfund.org/title/cole-the-social-contract-and-discourses

van de Sande, Alex (2015): Ethereum in Practice: How to build a better democracy in under a 100 lines of code. In: https://blog.ethereum.org/2015/12/04/ethereum-in-practice-part-2-how-to-build-a-better-democracy-in-under-a-100-lines-of-code/

Seckelmann, Margrit (2014): Wohin schwimmt die Demokratie?, in: DÖV 2014, S. 1-13, S. 6.

Sergeenkov, Andrey (2022): Decentralized Autonomous Parties — The future of democracy. https://cointelegraph.com/news/decentralized-parties-the-future-of-on-chain-governance

De Soto . Hernando (2014): The Capitalist Cure for Terrorism. In:WSJ.com, Oct. 10. 2014, https://www.wsj.com/articles/the-capitalist-cure-for-terrorism-1412973796

Tapscott, Don / Tapscott, Alex (2016): Blockchain Revolution, New York

Tarkowski Tempelhof, Susanne (2012): To be governed by TED, in: TedxTalks 2012, https://www.youtube.com/watch?v=owrXnfEGzhs

Wagener, Andreas (2018): Politische Disruption: Die Digitalisierung der Politik und die libertäre Technologie der Blockchain. In:  Liebold, Sebastian u. a. (Ed.) Demokratie in unruhigen Zeiten. Baden-Baden, 387–396.

Wagener, Andreas (2021): KI als Staatsprinzip. Leitlinien demokratischer Legitimation von AI Governance. In: SWS-Rundschau (61.Jg.) Heft 4/2021, S. 369 – 390

Waldmann, Steve R. (2016): A parliament without a parliamentarian. In: Interfluidity.com, http://www.interfluidity.com/v2/6581.html

Woods, Tyler (2015): How the blockchain could built a better democracy, In: https://technical.ly/brooklyn/2015/12/22/blockchain-democracy/

Yeung, Karen (2018) Algorithmic Regulation: A Critical Interrogation. In: Regulation & Governance, Nr. 4, 505–523, DOI: 10.1111/rego.12158

Dieser Artikel ist die deutsche Version eines Papers und Vortrages auf der Jahrestagung des Royal Anthropological Institute 2022: Anthropology, AI and the Future of Human Society. Panel des King’s College, London: P28b: Blockchain Imaginaries: Techno-utopianism, dystopias, and the future-imagining of Web 3.0.

Die Originalversion findet sich hier.

Citation: Wagener. Andreas (2022). Governance of Things: AI & DAOs in Politics – Utopia or Dystopia? Conference Paper: The Royal Anthropological Institute, London: RAI2022: Anthropology, AI and the Future of Human Society. Panel: P28b: Blockchain Imaginaries: Techno-utopianism, dystopias, and the future-imagining of Web 3.0 https://doi.org/10.57944/1051-129

---

[1] als Überblick: Algorithmwatch, https://algorithmwatch.org/de/stories/

Mehr zum Thema: Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Willkommen in der Matrix! Wie KI und Blockchain in der Industrie 4.0 zusammenwachsen“:

Der neueste Vortrag von Andreas Wagener: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.