Algorithmic Governance kann allgemein als die automatisierte Entscheidungsfindung und -ausführung von institutionellem Handeln, vor allem der Politik, auf Basis von Datenauswertungen und Algorithmen begriffen werden. Zunehmend machen Staat und Verwaltung dabei von Verfahren des maschinellen Lernens und KI Gebrauch. Dies setzt entsprechend eine fortschreitende Digitalisierung politischer Abläufe und Strukturen voraus.

Als plakatives Beispiel lässt sich hier natürlich China als Vorreiter anführen. Die Vernetzung digitaler Prozesse, insbesondere auch gesellschaftlicher Art, nimmt hier ein Ausmaß an, das sonst wohl nirgends seinesgleichen findet. Durch die enge Anbindung der marktwirtschaftlich geführten Technologiekonzerne, wie Tencent oder AliBaba, an das als autoritär einzustufende politische System entstehen „Datensynergien“, die in pluralistisch-demokratischen Systemen derzeit undenkbar wären. Weitverbreitete Social-Media-Anwendungen, wie der Messenger WeChat, der auch eine vielgenutzte Zahlungsfunktion umfasst, kooperieren eng mit den staatlichen Stellen, die auf diesem Wege eine umfassende Datensammlung über alle gesellschaftlichen Teilbereiche hinweg verfolgen.

KI in der Politik: China als Maßstab?

Genutzt werden sollen diese Daten einerseits im Rahmen des berüchtigten chinesischen Social-Scoring-Systems, welches, basierend auf einem an Gamification erinnernden Prinzip, zum Ziel hat, gesellschaftlich konformes und gewünschtes Verhalten der Bürger durch die Schaffung von positiven Anreizen wie auch von Sanktionierungen zu bewirken. Überwacht und „gemessen“ werden können die Verhaltensweisen jedes Einzelnen durch die Auswertungen der Daten aus den zur Verfügung stehenden Quellen der chinesischen Digitalkonzerne. Wer etwa seine Rechnungen immer pünktlich bezahlt, sich positiv über die gesellschaftliche Entwicklung äußert oder ein verantwortungsbewusstes Konsumverhalten an den Tag legt – zum Beispiel indem er durch den Kauf von Windeln bekundet, dass er offenbar als Elternteil mehr Leistung für die Gemeinschaft erbringt –, hat Vorteile gegenüber jenen, die sich eher als „Individualisten“ hervortun, etwa weil ihre Zahlungshistorie entsprechende Positionen für die Ausgaben von Online-Games belegt. Dieser Social Score kann dann über die Vergabe von Privilegien, etwa hinsichtlich der bevorzugten Ausspielung des eigenen Profils bei Dating-Apps bis hin zur Reisefreiheit, entscheiden.

Bußgeld in Echtzeit

Andererseits werden die geschaffenen digitalen Strukturen aber auch für die direkte staatliche Umsetzung bestehender Regeln und Gesetze genutzt. Der Fortschritt im Bereich der KI und der digitalen Gesichtserkennung ermöglicht es, Normenverstöße „ad hoc“ zu sanktionieren. Ein Überqueren der Straße bei roter Ampel kann über den flächendeckend ausgebreiteten Überwachungsapparat sofort erfasst werden, installierte Kameras mit verknüpfter Gesichtserkennung erlauben es, „Gesetzesbrecher“ umgehend zu identifizieren und die entsprechende Strafe automatisiert zu verhängen. Exekutive und Judikative agieren somit wahrhaft algorithmisch, in einer strikten binären „wenn-dann“-Verknüpfung, ohne dass eine menschliche Beteiligung zur Durchsetzung der gesellschaftlichen Normen noch notwendig wäre.

Algorithmic Governance in Demokratien

Aber auch in pluralistischen, demokratischen Systemen gibt es Überlegungen, KI und Datenökonomie für die Erfüllung staatlicher Aufgaben heranzuziehen. Estland, wie erwähnt, ein Vorreiter im Bereich der eGovernance, versucht in einem 2019 begonnenen Projekt zu eruieren, ob es, mit dem Ziel, Staatsapparat und politische Prozesse zu verschlanken, sinnvoll ist, spezifische staatliche Funktionen auf eine KI und algorithmische Verfahren auszulagern. Im Fokus steht dabei unter anderem auch die Einrichtung eines „Robo-Richters“, einer rein digitalen Anwendung, die kleinere privatrechtliche Rechtssachen mit einem Streitwert von bis zu €7.000,00 in erster Instanz autonom bearbeiten soll.

Unterstützend wird derartige Technologie auch in den USA genutzt, wenn Richter über die vorzeitige Entlassung verurteilter Straftäter auf Bewährung entscheiden sollen. Die Software COMPAS errechnet dazu aus 137 erhobenen Merkmalen die individuelle „Rückfall-Wahrscheinlichkeit“. Zwar ist der Richter immer noch frei in seiner Entscheidung, weicht er jedoch von der Empfehlung des Programms ab, so muss er dies gesondert begründen. Das Verfahren ist hochumstritten und gilt als anfällig für den sogenannten „KI-Bias“, bei dem Fehler im KI-Training – wie etwa die Verwendung einseitiger Trainingsdaten – zur Verfestigung faktischer „Vorurteile“ oder zu Verzerrungen führen. Eine Untersuchung des Nachrichtenmediums „Pro Publica“ belegt eine deutliche Diskriminierung schwarzer Amerikaner durch das System: Weiße, deren Rückfallrisiko COMPAS als niedrig einschätzte, wurden tatsächlich viel häufiger wieder straffällig als Schwarze mit niedrigem Risikowert. Eine weitere Studie des Dartmouth College belegte zudem, dass zufällig ausgewählte juristische Laien mit weniger Informationen bei einer Prognose in etwa genauso gut wie der Algorithmus lagen.

Gerechtere Entscheidungen mit KI in der Politik?

Jedoch verstummt der Ruf nach einem verstärkten Einsatz von KI und verwandter Technologien bei der Ausübung staatlicher Autoritätsfunktionen deswegen nicht. Begründet wird dies etwa mit der Vermeidung menschlicher Voreingenommenheit und der rigorosen Sachlichkeit, die digitale Systeme von vornherein mit sich bringen. Damit verknüpft sich die Hoffnung, dass der Fortschritt derartige technische „Kinderkrankheiten“ mit der Zeit eliminiert, während hingegen ein auf jeden Fall immer bestehender „menschlicher Bias“ damit umgangen werden könne.

Angewandter KI werden aber auch in der praktischen Politik erhebliche Kompetenzen zugesprochen. Gemäß einer Studie des spanischen Center of the Governance of Change würde ein Viertel der Befragten es bevorzugen, dass politische Entscheidungen eher von einer KI als von Politikern aus Fleisch und Blut getroffen werden würden. Darin mag einerseits eine allgemeine und derzeit weit verbreitete Ernüchterung gegenüber der Demokratie und ihrer traditionellen Institutionen zum Ausdruck kommen. Andererseits weist dieses Ergebnis auch auf ein sich wandelndes, zunehmend „technozentrisches“ Weltbild hin, welches jedoch zugleich eine Paradoxie enthüllt, erhoffen sich heute doch viele von der Politik gerade auch einen Schutz vor Technisierung und Disruption.

Tech-Unternehmen und KI als gesellschaftliches Steuerungsinstrument

Wille und Bereitschaft, intelligente Technologie für die Lösung gesellschaftlicher Probleme einzusetzen sind weit verbreitet. Google will KI gezielt für „gesellschaftliche Herausforderungen“nutzen, konkret etwa auch in der Arbeitsmarktpolitik, im Natur- und Landschaftsschutz oder anderen klassischerweise staatlichen Domänen. Auch in der Wirtschaftspolitik ist eine aktive Einbindung von KI Gegenstand zahlreicher Diskussionen. Durch deren immer besser werdende Prognosefähigkeit können Vorhersagen perspektivisch immer weiter, bis hin zur absoluten Verlässlichkeit perfektioniert werden, so die Argumentation. Jack Ma, Gründer von Alibaba, geht sogar so weit zu sagen, dass die Übertragung derartiger Kompetenzen an eine KI dazu führen würde, dass Marktunsicherheiten generell überwunden werden könnten und dies letztlich erlauben würde, „die Planwirtschaft zu verwirklichen“. Andrew Ng, oft als „KI-Pionier“ titulierter, ehemaliger führender Mitarbeiter der KI-Forschungsabteilungen von Google und Baidu und heute einer der maßgeblichen Tech-Investoren auf diesem Gebiet, gibt das Bildungsziel einer „KI-betriebenen Gesellschaft“ aus, die maßgeblich durch intelligente Technologie geprägt wird. Selbst von KI als einer „Friedensmaschine“ ist bei manchem, wie dem renommierten finnischen KI-Forscher Timo Holenka, die Rede sowie von dem Ziel, Demokratie durch deren Einsatz „besser zu machen“. Statt wichtige gesellschaftliche und politische Entscheidungen einigen wenigen zu überlassen, selbst wenn diese ihr Mandat aus freien und unabhängigen Wahlen beziehen, sollte der Einsatz von KI demnach die „Weisheit der Vielen“ aggregieren, wovon man sich eine höhere Stabilität der demokratischen Systeme verspricht.

Mahnende Stimmen gegen den Einsatz von KI in der Politik

Demgegenüber stehen mahnende Stimmen, wie die des französischen Präsidenten Emanuel Macron. Dieser erkennt gleichfalls an, dass die gerade stattfindende technologische Revolution in Wahrheit vor allem auch eine politische ist, weist aber auf die Bedrohungen für die Demokratie durch schlecht im System verankerte KI und deren Beteiligung an der politischen Entscheidungsfindung hin. Noch deutlicher wird der selten um visionäre Ansätze verlegene Tesla-, SpaceX- und Neuralink-Gründer Elon Musk, demzufolge der Rückgriff auf KI oder gar die Übertragung politischer Kompetenzen an diese einen „unsterblichen digitalen Diktator“ erschaffen könnte.

Tatsache ist, dass die Einbindung von KI als unterstützendes Instrument, aber auch als maßgebliche Instanz der politischen Entscheidungsfindung keine Phantasterei, sondern vielmehr eine sich bereits etablierende Realität darstellt. Der „staatliche Organismus“ wird somit auch innerhalb seines „zentralen Nervensystems“ zunehmend technologisch herausgefordert. Die immer weiter fortschreitende Entwicklung hat bereits eine gesamtgesellschaftliche technologische Transformation eingeleitet. Eine entsprechende breite Diskussion über die Folgen für das Handeln des Staates, die praktische Politik, wäre daher dringend geboten – und zwar jenseits aktueller Diskurse und Weissagungen, die aufgeregt zwischen positiven ökonomischen Zukunftsversprechungen einerseits und düsteren dystopischen Schreckensszenarien andererseits oszillieren.

KI in der Politik als „Disruptive Innovation“

Disruptive Innovationen wie der Einsatz von KI in der (politischen) Entscheidungsfindung stellen unzweifelhaft Herausforderungen für Kernfunktionen des nationalen wie auch des internationalen politischen Systems dar. Die Grundlagen der herrschenden Ordnung, Regeln, Institutionen, und damit die Machtpositionen verändern sich tiefgreifend. Digitale Technologien wie KI und maschinelles Lernen versetzen Individuen und Gruppen, die diese zu nutzen wissen, potenziell in die Lage, Dinge zu tun, die bisher Staaten und staatlichen Organisationen vorbehalten waren. Diese „digital Ermächtigten“ sind nicht im klassischen Sinne gesellschaftlich legitimiert oder prinzipiell „moralisch gebunden“. Damit stellt sich die grundsätzliche Frage nach der Existenzberechtigung des Staates. Eine ganz neue, eigene gesellschaftliche disruptive Qualität ist somit entstanden. Die Aufgabe, diesen mit einer humanen Prägung zu versehen, liegt bei uns.

Das Thema der „Algoritmic Governance“ ist Bestandteil einer 3 teiligen Reihe auf diesem Blog: zu Teil 1 – hier entlang.

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Wie der Staat mit Daten umgeht. Was ist gesellschaftlich akzeptabel?“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag KI und praktische Politik: Einsatz von KI in staatlichen Entscheidungsprozessen erschien zuerst auf Nerdwärts.de.

In den beiden vorangegangenen Beiträgen haben wir uns mit der Beschaffenheit von algorithmischen Entscheidungen und dem Problem des Einsatzes von KI in der Politik (AI Governance) (Teil 1) sowie mit den entsprechenden Einsatzfeldern (Teil 2) beschäftigt. Nachdem der Rückgriff auf diese Verfahren bereits faktisch erfolgt, gilt es dringend die Rechtmäßigkeit und Legitimität dieses Einsatzes zu hinterfragen.

Für die Akzeptanz algorithmischer Entscheidungen ist deren Nachvollziehbarkeit von großer Bedeutung. Je mehr Daten aus unterschiedlichen Datenquellen zur Verfügung stehen, umso komplexer geraten jedoch zwangsläufig die zugrundeliegenden Berechnungen. In der Praxis sind die Entscheidungspfade von KI heute oft nur durch ein aufwändiges „reverse engineering“ zu entschlüsseln. Transparenz ist allerdings wichtig, damit verständlich ist, warum eine Entscheidung auf diese Art und Weise getroffen wurde – und sich davon Betroffene gegebenenfalls mit den Mitteln des demokratischen Rechtsstaats dagegen zur Wehr setzen können. Schon seit geraumer Zeit wird daher eine Art Bürgerrecht auf die Offenlegung algorithmischer Entscheidungen diskutiert. Die Komplexität moderner, vielschichtiger „Deep Learning“-Systeme und die ihnen immanente Eigenständigkeit bei der Weiterentwicklung der Entscheidungssystematiken erschweren diese Rekonstruktion jedoch erheblich. Diesem Aspekt widmet sich das noch neue Forschungsfeld der „Explainable AI“, welches zum Ziel hat, Handreichungen für die Erklärung von KI-Entscheidungen im Alltag zu liefern – zum Beispiel warum ein Versicherungsantrag abgelehnt oder die Kreditwürdigkeit eines Schuldners herabgestuft wurde – und auch um mögliche Diskriminierungen in diesem Kontext aufzudecken.

Algorithmic Governance und Algorithmic Bias

Neben rational nachvollziehbaren Entscheidungswegen stehen hierbei auch technische Auswüchse und Fehlentwicklungen, wie der sogenannte „Algorithmic Bias“ im Fokus. Immer wieder kommt es zu einem vermeintlichen Versagen von algorithmischen Systemen, die plötzlich scheinbar irrationale, auch ethisch frag- oder verurteilungswürdige Ergebnisse produzieren. Die Ursache hierfür liegt allerdings meist nicht in der Systemstruktur, sondern im Lernprozess und ist in der Regel auf eine unausgewogene Zuführung von Trainingsdaten zurückzuführen.

Zu einer entsprechend zweifelhaften Berühmtheit brachte es ein von Google verwendeter Bilderkennungsalgorithmus, der Fotos autonom benannte und sortierte.  Eine Aufnahme, die zwei Afroamerikaner zeigte, wurde mit der Bezeichnung „Gorillas“ etikettiert und verarbeitet. Der Aufschrei vor allem in den USA war entsprechend groß. Als Ursache wurde eine unbeabsichtigte einseitige Auswahl und Verwendung von Trainingsbildmaterial identifiziert. Offenbar hatte man vorwiegend Fotos von hellhäutigen Personen für das Training der Kategorie Mensch verwendet, die Zuordnung eines Bildes eines dunkelhäutigen Menschen durch den Algorithmus erfolgte dann zwangsläufig unter großer Unsicherheit: Je nachdem welches Merkmal der Algorithmus als signifikant für die Zuordnung zu einer Kategorie identifizierte – auch Gorillas haben schwarze Haut – wurde die Sortierung entsprechend ausgeführt. Dass sich auch Facebook etliche Jahre später, im Jahr 2021, mit einer vergleichbaren Problematik konfrontiert sah – der Newsfeed-Algorithmus fragte Nutzer, die sich ein Video mit dem Titel „Weißer Mann ruft Polizei wegen schwarzen Männern am Hafen“ angesehen hatten, ob sie nun „weitere Videos über Primaten“ sehen wollten – zeigt, wie schwierig es offensichtlich ist, hier eine zufriedenstellende technische Lösung zu finden. Gerade im staatlichen Kontext wäre es aber selbstverständlich höchst problematisch, wenn Menschen nicht mehr als solche identifiziert werden.

Predictive Policing als Algorithmic Governance

Im Bereich der staatlichen Governance sorgt in diesem Zusammenhang regelmäßig das sogenannte „Predictive Policing“ für Aufsehen, das vor allem in den USA, aber auch zunehmend in Europa zum Einsatz kommt. Mit dem Ziel, die Polizeiarbeit auf diese Weise effizienter zu steuern, soll die Wahrscheinlichkeit „zukünftiger“ Straftaten oder des Eintritts anderer polizeilicher Einsatzszenarien, aus einer Vielzahl von verfügbaren Datenquellen berechnet werden. Durch die entsprechend daraus abgeleitete erhöhte Präsenz in ermittelten Problembezirken soll es gelingen, die Kriminalitätsraten erheblich zu senken. Kritiker bemängeln allerdings die damit ihrer Ansicht nach zwangsläufig einhergehende Diskriminierung, werden hier doch alle Bewohner eines Stadtteils automatisiert unter Generalverdacht gestellt, sofern die hinterlegten Algorithmen ihre Nachbarn „statistisch“ als vergleichsweise kriminell einstufen. Auch sind in den USA überwiegend afroamerikanische Gegenden von den zusätzlichen Polizeikontrollen betroffen, was dem System den Vorwurf der Ungleichbehandlung und des „Racial Profiling“ einbrachte. Die Funktionsweise der algorithmischen Entscheidungsfindung definiert somit in diesem Fall den Umgang des Staates mit seinen Angehörigen, teilt diese automatisiert in mehr- und minderprivilegierte Gruppen und wirkt mit diesem „Bias“ unweigerlich auf den Bereich der Bürgerrechte ein.

Algorithmic Governance und Transparenz

Die Gewährleistung von Transparenz verkörpert gerade in „Sachfragen“ seit jeher eine wichtige erste Bedingung zum Schutz vor Verzerrungen und Manipulationen. Gerade da, wo eine direkte politische Aufsicht durch entsprechende Institutionen nicht möglich oder nicht zweckmäßig erscheint, ist im demokratischen Staat eine Überwachung durch das öffentliche Publikum unabdingbar. Aber nur, wenn staatliches Handeln hier tatsächlich sichtbar und „durchschaubar“ wird, kann die Öffentlichkeit dieser Kontrollfunktion auch gerecht werden.

Neben der Nachvollziehbarkeit ist auch die Zuweisung von Verantwortlichkeiten von Governance-Entscheidungen und die dazugehörige Rechenschaftspflicht, also die „Accountability“, für die Funktionsweise des demokratischen Staates unerlässlich. Sofern die Abwicklung politischer Prozesse von den menschlichen Repräsentanten eines Staates gewissermaßen auf eine technische Lösung „outgesourced“ wird, so ist deren Arbeitsweise einerseits aufgrund von Effizienzerfordernissen, andererseits aber auch hinsichtlich der Vereinbarkeit der generierten Ergebnisse mit den staatlichen Zielen regelmäßig zu überprüfen. 

Verantwortung und Algorithmic Governance

Die Zurechenbarkeit politischer Handlungen ist in der Demokratie essentiell. Sie kann in diesem Kontext jedoch nur gewährleistet werden, wenn der Einsatz von Algorithmen ausdrücklich als Hilfsmittel der demokratisch legitimierten menschlichen Vertreter betrachtet wird – jedenfalls so lange es nicht möglich ist, den Algorithmus aufgrund von Unzufriedenheit mit den erbrachten Leistungen direkt selbst zu sanktionieren – also abzuwählen. Wenn diese – langfristig durchaus technisch denkbare – Option nicht besteht, bedeutet das, dass die Leistung eingesetzter Algorithmen zwingend mit den gewählten Repräsentanten des Staates, die diesen Einsatz verantworten, verknüpfbar sein muss. Dies bedeutet wiederum, dass nicht nur demokratische Kontrollinstanzen, sondern vor allem auch diejenigen, die den Einsatz von Algorithmen im Bereich der Governance verantworten, nachvollziehen und verstehen müssen, wie und warum diese auf ihre spezifische Weise funktionieren (oder eben nicht). Das kommt besonders dann zum Tragen, wenn die algorithmische Entscheidung einen hohen Automatisierungsgrad aufweist – in aller Regel bereits ab der beschriebenen Kategorie A2, in jedem Fall bei A3, im Falle „echter“ AI-Governance.

Explainable AI und Responsible AI

Der in jüngster Zeit verstärkt verwendete Begriff der „Responsible AI“ erweitert den oben genannten Terminus der „Explainable AI“. Er steht für den Übergang von Absichtserklärungen und formulierten Grundprinzipien hin zu einer Operationalisierung der Verantwortlichkeiten und Rechenschaftspflichten, auch, aber nicht ausschließlich, im Bereich der Algorithmic Governance. Gleichwohl sind diese Bestrebungen in der Umsetzung derzeit noch als recht rudimentär einzuordnen – zumindest was komplexere, KI-basierte Algorithmen betrifft. Das bedeutet, dass sich zwar alle Ansätze zur demokratischen Legitimation von Algorithmic Governance selbstverständlich am Umgang mit den beschriebenen Herausforderungen im Bereich der Transparenz und Accountability messen lassen müssen, gleichzeitig aber auch, dass dies vermutlich nur schwer mittels herkömmlicher Modelle und Vorgehensweisen gelingen wird.

Grenzen von Algorithmich Governance und ihrer demokratischen Legitimation

Man könnte die Auffassung vertreten, dass angesichts der Bedeutung, die Algorithmen heute in unserem Alltag einnehmen, vielleicht bereits das Ende des Anthropozäns eingeläutet worden ist und wir damit nun am Anfang eines „posthumanen“ Zeitalters stehen. Das gilt vor allem dann, wenn man auf die Entwicklungen im Bereich der KI und den entsprechenden Autonomiegrad solcher hoch entwickelten Systeme blickt. Entsprechend werden schließlich auch unter dem Aspekt der „Singularität“ die gesellschaftlichen und ökonomischen Auswirkungen diskutiert, sollten Algorithmen und intelligente Systeme eines – nicht allzu fernen – Tages die menschliche Leistungs- und Adaptionsfähigkeit übertroffen haben.

De Facto sind Algorithmen heute schon nicht mehr rein technisch-rationale Konstrukte. Sie repräsentieren auch immer den Einfluss derjenigen, die an ihrer Entstehung beteiligt sind, sowohl politisch als auch technisch. Insofern können sie als eine Art „Amalgam“ aus Mensch und Code verstanden werden. In dieser Auffassung spiegelt sich das Grundprinzip der Denkschule des „Neuen Materialismus“ wider. Demnach erschiene es zunehmend unangebracht, zwischen Menschen und Nichtmenschen, Leben und nicht lebendiger Materie und auch zwischen Akteuren und Strukturen zu unterscheiden. Vielmehr vermischen sich Menschen und Computeralgorithmen zu „sozio-materiellen Assemblagen“ (Kim 2020), wodurch neue Handlungsfähigkeiten und daraus resultierende Wirkungsweisen entstehen.

Von Algorithmic Governance zur Governance of Things

In Anlehnung an das vielzitierte „Internet der Dinge“ („Internet of Things“) könnte auf diese Weise dann eine „Governance of Things“ entstehen. Die menschlichen Systementwickler diktierten dabei nicht die Funktionsweise des Algorithmus, die Governance entstünde aus dem Zusammenwirken von Algorithmus und Systementwicklern, explizit etwa beim menschlich induzierten Training mit KI-Daten und der daraus resultierenden autonomen Lernentwicklung des Systems. Dieser Vorgang beinhaltet laufende Interaktionen und Iterationsschleifen zwischen beiden „Parteien“ und führt damit zu einer Verselbständigung dieser „Amalgambildung“.

Spannungsfelder von Algorithmic Governance

Die Frage ist jedoch, ob diese Betrachtungsweise der Legitimation algorithmischer politischer Entscheidungen dienen kann. Wie wir gesehen haben, bewegt sich Algorithmic Governance in einem Spannungsfeld zwischen mehreren verschiedenen Polen, was es immens erschwert, hierauf eine eindeutige Antwort zu geben:

Einerseits kann sie für politische Ergebniseffizienz sorgen, indem die das menschliche Vermögen übersteigenden Rechenleistungen zielgerichtet eingesetzt werden. Andererseits besteht die Gefahr, dass damit im Einzelfall bürgerliche Rechte eingeschränkt werden oder dies Diskriminierung zur Folge hat, wenn Effizienz das ausschlaggebende Element von Politik wird.

Einerseits sorgt der Rückgriff auf Algorithmen für eine Versachlichung politischer Entscheidungen. Andererseits kann genau dies auch zu einer Entmenschlichung führen, wenn Einzelschicksale zu Gunsten „des großen Ganzens“ in automatisierten Entscheidungssituationen keine Berücksichtigung finden können.

Einerseits ist Transparenz der Entscheidungsprozesse ein wichtiges Legitimationserfordernis. Andererseits beinhaltet dies auch eine weitgehende Transparenz des Individuums, denn anders können spezifische Entscheidungen durch Algorithmen nicht effizient getroffen werden, wodurch aber das Bürgerrecht der informationellen Selbstbestimmung tangiert wird.

Diese Spannungsfelder berühren den Kern vieler hochrelevanter gesellschaftspolitischer Themen. Es erscheint schwer vorstellbar, diese bislang in allen Demokratien der Welt immer wieder aufs Neue auszuhandelnden Fragen einem letztlich doch seelenlosen System anzuvertrauen oder ihm hier zumindest ein qualitatives „Mitspracherecht“ einzuräumen – jedenfalls solange ein posthumanes Zeitalter noch nicht eingetreten ist. Und würde nicht gerade der regelmäßige Einsatz von intelligenten Algorithmen in der Politik dessen möglichen Eintritt beschleunigen? 

Algorithmic Governance vs. AI Governance

Der Unterschied zwischen „Governance by Algorithms“ und „Governance by AI“ ist im eigenständigen Lernen und dem Autonomiegrad algorithmischer Entscheidungen zu sehen. Solange Algorithmen ein bloßes Hilfsmittel der Regierungsarbeit darstellen, die Kontrolle bei den menschlichen Entscheidern verbleibt – so wie im vorigen Artikel in dieser Reihe in der Kategorie A1 beschrieben – können diese einen wichtigen und wertvollen Beitrag zur praktischen Politik leisten, indem sie Entscheidungen tatsächlich effizienter, sachlicher und transparenter machen. Mindestens aber, wenn von „echter“ AI Governance die Rede ist, aber eigentlich schon bei der zweiten, nicht gänzlich autonomen Kategorie (A2), werden schnell die Grenzen legitimer Einsatzszenarien überschritten. Eine Legitimation nach demokratietheoretischen (humanistischen) Gesichtspunkten ist dann eigentlich nicht denkbar. Für den demokratischen Staat kann das dann aber in letzter Konsequenz nur bedeuten, dass AI Governance in sämtlichen Bereichen der staatlichen Sphäre ausgeschlossen werden sollte – mit allen Konsequenzen, die dies auch für bereits erprobte Anwendungen hat.

Solange wir davon ausgehen, dass Politik und gesellschaftliche Prozesse auch in Zeiten zunehmender Komplexität zuallererst Gegenstand zwischenmenschlicher Verhandlungen sind, sollten wir uns der Demokratie willen dieser Verantwortung höchstpersönlich und nicht verschanzt hinter einer Mauer aus Einsen und Nullen stellen.

Der Artikel erschien in überarbeiteter und deutlich erweiterter Form in der SWS-Rundschau, Andreas Wagener: Demokratische Legitimation von AI Governance, Sozialwissenschaftliche Rundschau, Heft 4/2021, 61. Jahrgang, S. 369 – 390

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Wie der Staat mit Daten umgeht. Was ist gesellschaftlich akzeptabel?“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Transparenz und Verantwortung: Das Legitimationsproblem algorithmischer Entscheidungen in der Politik erschien zuerst auf Nerdwärts.de.

Im ersten Teil der Reihe haben wir das Prinzip der Algorithmic Governance bzw. von AI Governance erläutert. Potenziell ist der Rückgriff auf Algorithmic Governance in allen Politikbereichen denkbar, und auch de facto steigt die Zahl der Anwendungen Policyfeld-übergreifend seit Jahren kontinuierlich an – innerhalb und außerhalb Europas. Typische Einsatzgebiete sind insbesondere die Arbeitsmarktpolitik, Verkehrs- und Infrastrukturpolitik, Gesundheitspolitik, Innere Sicherheit und Verteidigung.

Neben der inhaltlichen Ausrichtung lassen sich die Erscheinungsformen von Algorithmic Governance auch nach dem Grad ihrer Eigenständigkeit unterscheiden, der sich auch aus dem Maß ihrer „Anwendungsintelligenz“ ableitet. Diese steigt gleichfalls mit dem Grad der Automatisierung und der damit einhergehenden zunehmenden Unabhängigkeit von menschlichen Eingriffen. Demnach kann die Verwendung von Algorithmen im Bereich der staatlichen Governance in drei grundlegende Aufgabengebiete mit steigendem Autonomie- und Datenintelligenzgrad eingeteilt werden, die auch als aufeinander aufbauende, zeitlich versetzte Phasen zu betrachten sind.

Diese, hier als „3As“ bezeichneten Dimensionen, umfassen:

• A1 – Analyse
• A2 – Automation
• A3 – Autonomes Agieren

Der Aspekt der Analyse bezieht sich zunächst auf sämtliche Aufgaben der Datenerfassung, und Dateninterpretation. Derartige Systeme werden in erster Linie entscheidungsvorbereitend eingesetzt, d.h. sie dienen dazu, die notwendige Datenbasis zu aggregieren, welche die Grundlage einer menschlichen Entscheidung bilden. Maschinell automatisiert kann also die Datensammlung und -auswertung sein, nicht aber die Entscheidungsfindung und -ausführung.  Hierbei handelt es sich meist um klassische Wissens- und Datenmanagementsysteme.

Die Dimension der Automation baut auf der Vorarbeit der als A1 beschriebenen Systeme auf, bezieht aber auch die mechanisierte Ausführung spezifischer Aufgaben, die auf der zuvor erhobenen Datenbasis fußen, mit ein. Dies erfolgt weitgehend losgelöst von menschlichem Eingreifen, zwar grundsätzlich eigenständig, aber womöglich entlang vorab definierter Regeln, also nicht gänzlich autonom von externem menschlichen Einfluss. Meist werden Handlungsfolgen definiert, die aus dem Eintreten von bestimmten Ereignissen resultieren. Allerdings sind diese Handlungsfolgen nicht zwingend als unumstößlicher Automatismus zu sehen, der Mensch verbleibt in seiner Rolle als finale Entscheidungsinstanz. In der Praxis wird dies meist so gehandhabt, dass der Verantwortliche zwar gegen die konsekutiv-rationale Empfehlung des Systems handeln kann, dieses Abweichen aber dann dokumentiert und begründet werden muss. Ganz entscheidend ist dabei, wie hier die Interaktion zwischen System und Mensch ausgestaltet wird, also ob dem menschlichen Entscheider das System weiterhin als Hilfsmittel untergeordnet bleibt oder ob für ihn lediglich die Rolle des Vetogebers in einem ansonsten völlig autonom gestalteten Prozess als „Ultima Ratio“ vorgesehen ist. In der Regel verläuft somit hier die – aus diesem Grunde nicht immer ganz eindeutige – Grenze zwischen herkömmlicher „Algorithmic Governance“ und „AI Governance“.

Die Analyse und die Automation der Verarbeitungsprozesse bilden die Voraussetzung für die eigenständige Handlungsfähigkeit eines Systems, auch ohne eine „Rückkoppelung“ mit festgesetzten „Aktionsmaximen“. Eigenständiges Anstoßen autonomer Prozesse, ohne menschliches Zutun, echtes autonomes Agieren, stellt die Endstufe intelligenter, eigenständiger algorithmischer Systeme dar – gewissermaßen also AI Governance in Reinform. Ein mögliches menschliches Vetorecht, wie oben beschrieben, hat nurmehr den Charakter einer Qualitätskontrolle, verändert aber nicht den Charakter des Systems als im Kern eigenständige und unabhängige Intelligenz. Auch wenn derartige Anwendungen heute noch hypothetischer Natur zu sein scheinen, zeigt der technische Fortschritte auf dem Gebiet der angewandten KI deutlich, dass es sich hierbei nicht um bloße Zukunftsvision handelt, sondern, dass der Einsatz dieser Systeme schon bald sehr konkret werden könnte.

Um die Gliederung in die „3A“ zu verdeutlichen, sollen im Folgenden jeweils entsprechende Beispiele beschrieben werden:

Algorithmic Governance: A1 – Analyse

Das Sozialprognosen-System „Riscanvi“ wird von katalanischen Gefängnissen genutzt, um Bewährungsentscheidungen vorzubereiten. Insassen werden in regelmäßigen Abständen, mindestens alle 6 Monate, befragt. Aus den erfassten Erkenntnissen berechnet das Programm eine Risikoprognose, die regelmäßig evaluiert wird und gegebenenfalls zur Justierung der Systematik führt. Riscanvi bezieht dabei Informationen zu verschiedenen Risikofeldern ein, zum Beispiel Konflikte mit anderen Insassen, Rückfälle zur Gewalttätigkeit, Selbstverletzungen und Verstöße gegen die Bedingungen von Hafturlauben, aber auch Daten zur sozialen Situation wie fehlende familiäre Unterstützung oder die persönliche finanzielle Lage der Häftlinge. Methoden maschinellen Lernens kommen dabei nicht zum Einsatz, Eingriffe in die Logik des Systems erfolgen allein händisch auf Basis der Evaluationsergebnisse. Laut offiziellen Angaben besteht für die Nutzer des Systems keine Verpflichtung, den Vorschlägen zu folgen. Sie gelten als Orientierungshilfe, aber nicht als Maßgabe. Eine Begründung, warum man gegen die Empfehlung des Systems entscheidet, ist nicht notwendig.

Algorithmic Governance: A2 – Automation

Ein Beispiel für die zweite Kategorie der Algorithmen im Bereich der Governance stellt das automatisierte Steuerprüfungssystem CFVR der französischen Finanzbehörden dar. Auf Basis von Daten aus früheren Kontrollen wird versucht, aktuelle Verhaltensmuster von steuerpflichtigen Unternehmen und Privatpersonen zu analysieren und auffällige Verhaltensweisen, die auf illegale Aktivitäten und Versuche von Steuerhinterziehungen hinweisen, zu identifizieren. Verknüpft wird dies mit anderen staatlichen und privaten Datenquellen, wie Kontodaten, Informationen von Katasterämtern und ausländischen Unternehmensverzeichnissen, aber auch Daten aus den Sozialen Medien. Dabei kommen auch Netzwerkanalysen, die das Beziehungsgeflecht zu anderen Personen und Institutionen beleuchten zum Einsatz, etwa um Komplizenschaften aufzudecken. Damit entsteht ein Gesamtbild, dass sich dem Steuerfahnder im Rahmen der herkömmlichen Arbeit nur schwer erschlossen hätte. Der Algorithmus aggregiert und verdichtet die vorliegenden Informationen, um daraus konkrete Handlungsaufträge abzuleiten. Ziel ist es, jede zweite Steuerkontrolle durch den Algorithmus auszulösen. Die Steuerfahnder erhalten dazu jeweils für ihren Aufgabenbereich eine Liste der zu kontrollierenden privaten und juristischen Personen, es obliegt aber letztlich ihrer jeweiligen Entscheidung, ob diese Kontrolle tatsächlich auch durchgeführt wird. Ein eigenständiger Automatismus, der autonom die berechnete Steuerschuld eintreiben würde, existiert nicht und ist auch nicht angedacht. Gleichwohl gibt es Bestrebungen, hier eine stärkere Verpflichtung zur Betätigung für die Behörden seitens des Finanzministeriums durchzusetzen.

Algorithmic Governance: A3 – Autonomes Agieren

Auch wenn die Dimension des „Autonomen Agierens“ zunächst noch sehr zukunftsbezogen erscheint, lassen sich angesichts einiger existierender Anwendungen in der Praxis bereits verschiedene Einsatzszenarien skizzieren, wie die folgenden Beispiele zeigen:

China verfügt bereits über ein weitverzweigtes Kameranetz im öffentlichen Raum. Dieses wird nicht nur zu Überwachungszwecken und für Ziele der inneren Sicherheit genutzt, sondern dient auch der Legitimation und der Abwicklung von Transaktions- und Zahlungsprozessen, so ist es etwa an vielen Stellen möglich, mittels entsprechender Apps per Gesichtserkennung und personalisiert hinterlegter Kontoinformationen zu zahlen. Im Zuge der Bestrebungen, ein staatliches „Social Credit System“ zur wertkonformen Verhaltensbeeinflussung zu errichten, entstand auch die Idee, die öffentlichen Videosysteme dazu zu nutzen, individuelle Verfehlungen im Straßenverkehr durch eine Art „sozialen Pranger“ zu ahnden. Personen, die eine rote Fußgängerampel missachteten, wurden im Moment des Regelverstoßes, in „Echtzeit“, auf eine Videowand in der Nähe projiziert – zunächst als bloße Erziehungsmaßnahme und abschreckendes Beispiel. Diskutiert wurde jedoch in der Folge, ob man mittels der bereits verwendeten „pay per face“-Technologie und durch die entsprechende Verknüpfung der jeweiligen Datenbanken dieses Verfahren nicht dazu nutzen könne, direkt und automatisiert Bußgelder gegen die überführten Verkehrssünder zu verhängen und sofort von diesen einzuziehen. Ein menschliches Eingreifen wäre dazu dann nicht mehr notwendig, das System übernähme den kompletten Bereich der Tatbestandsermittlung, der Festlegung des Strafmaßes und der Ausführung der Strafe bzw. die zugrundeliegende finanzielle Abwicklung.

Algorithmic Governance: Autonomes Agieren im Kampfeinsatz

In anderen Bereichen der staatlichen Sphäre mit ungleich größerer Tragweite sind solche Automatismen bereits seit längerem in der Praxis etabliert. Dies gilt insbesondere für den militärischen Bereich und die autonome Kriegsführung: Für Aufsehen sorgte zuletzt ein UN-Bericht, der beschrieb, wie eine militärische Drohne in Libyen im Jahr 2020, ohne ausdrückliche menschliche Veranlassung, ein feindliches militärisches Ziel mit ihrem Waffensystem attackierte und eigenständig „Jagd machte“ auf die gegnerischen Verbände. Die selbststeuernde Drohne agierte unabhängig und ohne Datenverbindung zum menschlichen Militärpersonal. Damit entfiel hier selbst die ansonsten bei autonomen Militärschlägen mit potenziell tödlicher Wirkung vorgesehene menschliche Freigabe. Das System agierte auf Basis seiner KI völlig losgelöst. Damit würde dieser Vorfall ein nahezu reines Beispiel für Autonomes Agieren von Algorithmen im staatlichen Auftrag beschreiben. Auch wenn hierfür der Begriff der Governance womöglich eine etwas weitgehende Spreizung erfährt, markiert dies den potenziellen Handlungsrahmen und die Einsatzmöglichkeiten zukünftiger AI Governance recht eindrucksvoll.

Im nächsten Beitrag, der Fortsetzung dieser Reihe zur Algorithmic Governance, widmen wir uns der Legititmationsproblematik algorithmischer und KI-basierter Entscheidungen in der Politik.

Der Artikel erschien in überarbeiteter und deutlich erweiterter Form in der SWS-Rundschau, Andreas Wagener: Demokratische Legitimation von AI Governance, Sozialwissenschaftliche Rundschau, Heft 4/2021, 61. Jahrgang, S. 369 – 390

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Wie der Staat mit Daten umgeht. Was ist gesellschaftlich akzeptabel?“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Kategorien und Erscheinungsformen von Algorithmic Governance erschien zuerst auf Nerdwärts.de.

Blockchain und Smart Contracts in der Politik bewirken Neuverteilung von Macht

Unzweifelhaft bewirkt der Einsatz von Blockchain und Smart Contracts in der Politik eine Neuverteilung von Macht, weg von zentralen Autoritäten hin zu einer technisch induzierten Dezentralität. Richtung und Art politischer Interaktion und Einflussnahme lassen sich durch diese Instrumente völlig neu gestalten. In aller Regel ginge dies einher mit dem konsequenten Ausschluss etablierter Instanzen im System, einer beispiellosen politischen „Disintermediation“. Letztlich stellt dies die Grundfesten existierender politischer Systeme und auch die traditionelle Rolle des Staates generell in Frage. Die Blockchain steht für manche damit am Ende einer Entwicklung der Erosion institutioneller Regierungssysteme und herkömmlicher repräsentativer Demokratie, in deren Zuge immer mehr Macht von politischen Institutionen auf dezentrale Strukturen, auf Individuen und Märkte, verlagert wurde. Neu ist dabei jedoch die technologische Dimension, die Digitalisierung zum politischen Gestaltungsmittel erhebt.

Politische Disruption von „links“ und „rechts“

Die Advokaten dieser „politischen Disruption“ finden sich sowohl in klassisch „linken“ wie auch „rechten“ Milieus. Während etwa die in Deutschland erst langsam aufkeimende Diskussion derzeit noch von einem eher links-anarchistisch beeinflussten Skeptizismus gegenüber staatlichen Institutionen geprägt wird, sind international, insbesondere in den USA, wo längst eine breite Debatte über das Thema existiert, vor allem libertäre Motive maßgebend. Die Blockchain wird als bewusst technokratisches Instrument betrachtet, das den staatlichen und überstaatlichen Institutionen, die ohnehin dazu tendieren würden, ihre Befugnisse zu überschreiten, entgegengesetzt werden kann. Viele dieser „Techno-Libertarians“ sind der Meinung, dass zentrale Koordination und der Staat Produkte einer überkommenen patriarchalen und hierarchisch-autoritären Grundeinstellung sind, die es zu überwinden gilt.

Politik als Markt?

Charakteristisch ist die Übertragung von marktwirtschaftlichen Funktionsweisen auf politische Leistungsprozesse. Der Staat als Organisationsform wird wie ein Unternehmen betrachtet, das funktionieren und liefern muss, wenn es weiter die Gunst seiner „Kunden“, den Bürgern, genießen will. Geschieht das aus Sicht des Einzelnen nicht, so wird es als logische Konsequenz angesehen, dass dieser in höchster Flexibilität seine Loyalität aufkündigt und sich „Alternativangeboten“ zuwendet. Möglichst freie und ungezügelte Marktwirtschaft gilt als Hauptgarant politischer Stabilität. Es sei keine Option, Menschen „qua Geburt“ in ein politisches System zu „zwingen“, ihnen damit bereits „von Beginn an“ ihre Freiheit zu entziehen. Stattdessen müsse man das Prinzip auf den Kopf stellen und größtmöglicher Selbstbestimmung den Weg ebnen. Die Gestaltungsprinzipien der Blockchain, welche die politische Macht auf ihren eigentlichen Ausgangspunkt direkt zurückübertragen, werden hierfür als perfektes Vehikel identifiziert.

Digitalisierung und Automatisierung der Politik

Die damit ebenfalls einhergehende Technisierung politischer Systeme zielt auf eine ganz bewusste „Entmenschlichung” der Politik. Menschliche Schwächen ließen sich nicht durch Checks&Balances allein auffangen. Die durch die Blockchain-Technologie geschaffene Entscheidungstransparenz in Verbindung mit dem durch die Smart Contracts induzierten Exekutiv-Automatismus würden Korruption und Vetternwirtschaft hingegen unmöglich machen. Grundsätzlich ist es nicht so, dass man sich gegen Demokratie als solche wendet. Typisch ist jedoch ein archaisches, teilweise auch äußerst schlichtes Demokratieverständnis. Entscheidungen werden als absolut begriffen und in schwarz und weiß, in ein binäres System von Einsen und Nullen, gegliedert. Mehrheitsentscheidungen sind dabei stets verbindlich, unabhängig von den Inhalten und ihrer Legitimität.

libertärer Gegenentwurf einer Algorithmus basierten Gesellschaft

Der skizzierte libertäre Gegenentwurf einer weitestgehend staatsfreien und Algorithmus basierten Gesellschaft kann sicherlich nicht als etablierte Ideologie begriffen werden. Die Diskussion darum hat jedoch in den vergangenen Jahren stark an Fahrt aufgenommen und zumindest in den USA, wo sich auch prominente Befürworter, vor allem aus der Tech-Szene im Silicon Valley zu Wort melden, die Nische inzwischen verlassen. In Deutschland ist das Thema hingegen wenig präsent. Allerdings macht sich selbst im gemäßigten Umfeld der digitalen Bourgeoisie hierzulande bisweilen ein Ohnmachtsgefühl gegenüber Staat und Politik bemerkbar, ausgelöst durch Themen wie NSA-Skandal oder Vorratsdatenspeicherung sowie einem generell wahrgenommenen staatlichen Versagen in der Netzpolitik. Auch daraus könnte ein Nährboden für eine entsprechende politische Disruption entstehen.

Regieren ist mehr als Stimmen zu sammeln

Auch wenn aus demokratischer Perspektive das Versprechen der Blockchain, dem Wähler mehr Gestaltungsmacht einzuräumen, seinen Willen besser und direkter zur Geltung zu bringen sowie dies innerhalb eines manipulationsfreien Systems zu ermöglichen, zunächst vielversprechend und plausibel erscheint, ist doch offensichtlich Skepsis angebracht. Politik und Regierungstätigkeit umfassen natürlich deutlich mehr als Stimmen zu aggregieren, Datenbanken zu pflegen oder Transaktionen durch Algorithmen auszulösen. Schuldig bleiben die Blockchain-Adepten eine klare Antwort, wie eine digital gesteuerte Gesellschaft Konflikte und gesellschaftliche Insuffizienzen reguliert, und zwar jenseits von Marktkriterien, die letztlich nichts anderes als das Recht des Stärkeren propagieren. Die Welt ist komplex, und eine angemessene Politik muss situativ abwägend und mit ethischer Erdung erfolgen, sie bedarf einer im doppelten Sinne „menschlichen“ Partizipation. In diesem Verständnis ist der traditionelle demokratische Staat eben mehr als ein störender Mittelsmann, er ist die Summe seiner Teile, ein Abbild der Gesellschaft und seiner Bürger.

Positive Kraft der Blockchain

Wie sich die Kraft der Blockchain positiv entfalten könnte, zeigt sich gerade in Entwicklungsländern. Angefangen bei der Herkunftszertifizierung von Konfliktrohstoffen, etwa der Identifizierung von „Blood Diamonds“, über die korruptionsresistente Protokollierung von Eigentumsübergängen bis hin zur Errichtung komplett distribuierter Finanzsysteme kann die Technologie einen einzigartigen Beitrag zur politischen Stabilisierung liefern – gerade weil herkömmliche staatliche Monopolstrukturen dabei umgangen werden. Die hiermit einhergehende Entmachtung der „Gatekeeper“ und die Dezentralisierung der Verfügungsrechte bergen gerade dort, wo demokratische und rechtsstaatliche Prinzipien derzeit nicht gewährleistet sind, eine echte Chance, Gleichberechtigung und Volkssouveränität zu etablieren.

Politische Disruption durch die Blockchain?

Die Blockchain ist ein mächtiges Instrument mit hohem disruptiven Potenzial. Wie jede technische Entwicklung kann sie zum Guten wie zum Schlechten verwendet werden. Kritikloses Technikvertrauen ist ebenso wenig angebracht wie ein abwehrender Technologiepessimismus. Beurteilungsvermögen setzt Verständnis und Begreifen voraus. Dazu müssen wir uns mit der technischen Entwicklung und ihren gesellschaftlichen Implikationen fundiert auseinandersetzen. Viel zu oft verstellt gerade eine vorauseilende, kaum sachliche Technikreaktanz besonders in der akademischen Diskussion hierzulande den Blick auf die wirklich wichtigen Aspekte. Politische Disruption durch die Blockchain oder andere digitale Technologien mag zumindest hierzulande in der praktischen Erprobung noch nicht akut sein, aber das Fundament für das Zusammenspiel von Technik und Gesellschaft wird jetzt gelegt.

Der Text ist ein Auszug aus:

Wagener, Andreas (2018): Politische Disruption: Die Digitalisierung der Politik und die libertäre Technologie der Blockchain. In: Liebold, Sebastian / Mannewitz, Tom / Petschke, Madeleine / Thieme, Tom (Hrsg.): Demokratie in unruhigen Zeiten, Baden Baden, 2018, S. 387 – 398

Weitere Informationen zum Thema finden Sie hier:

Vortrag von Prof. Dr. Andreas Wagener, Hochschule Hof am 17.10.2018:
„Willkommen in der Matrix! Wie KI und Blockchain in der Industrie 4.0 zusammenwachsen“

Vortrag von Prof. Dr. Andreas Wagener, Hochschule Hof am 22.10.2016 Industrie 4.0, Datenökonomie und Künstliche Intelligenz: Wie Daten und Algorithmen Wirtschaft und Gesellschaft verändern:

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Blockchain im politischen System: ein libertärer Gegenentwurf? erschien zuerst auf Nerdwärts.de.

Politische Disruption & Blockchain

Auch wenn das Thema in Deutschland bislang eher unterrepräsentiert ist, wird international, insbesondere in den USA schon seit längerem intensiv über die politische Disruptionskraft der Blockchain-Technologie diskutiert. Sie gilt vielen als die wichtigste und revolutionärste digitale Innovation seit Aufkommen des „World Wide Web“, mit enormem Veränderungspotenzial, weit über ökonomische Belange hinaus. Bereits in zahlreichen wirtschaftlichen Umfeldern, etwa im Bereich der Finanztransaktionen, auch in Deutschland, etabliert, kreist die akademische Debatte um die möglichen Auswirkungen einer Adaption in der Politik auf die Funktionsweise staatlicher und überstaatlicher Systeme. Als Alternative zur Abbildung herkömmlicher demokratischer Prozesse steht der Rückgriff auf die Blockchain in vielerlei Hinsicht konträr zu traditionellen Demokratieverständnissen.

Das Blockchain-Prinzip

Das technische Prinzip der Blockchain lässt sich näherungsweise als „dezentrale Datenbank“ umschreiben. Im Englischen wird es auch oft als „distributed Ledger“ bezeichnet, was sich in etwa als „dezentral verteiltes Kontenbuch“ übersetzen lässt. Bekannteste und vermutlich erste Anwendung fand das Blockchain-Prinzip bei der digitalen Währung „Bitcoin“. Auf diese Weise werden dort die Transaktionen zwischen den An- und Verkäufern festgehalten. Dabei erfolgen die Pflege, die inhaltliche Befüllung und Kontrolle der Rechtmäßigkeit der in der Blockchain gespeicherten Informationen und registrierten Transaktionen nicht durch eine zentrale Stelle, sondern durch die Nutzer des Systems selbst. Somit ist es möglich, dass eine Währung dezentral organisiert werden kann, ohne dass es einer überwachenden staatlichen Institution wie einer Zentral- und Notenbank oder eines zentralen Finanzsystems bedarf. Eine Transaktion muss immer durch die anderen Netzwerkteilnehmer bestätigt werden. Das Ergebnis wird in der Blockchain gespeichert und die somit „neue“ Blockchain im System an die Teilnehmer verteilt.

Reißverschlussprinzip sorgt für Manipulationssicherheit

Dadurch, dass die Information nicht zentral an einer, sondern an vielen unterschiedlichen Stellen „verwahrt“, wird, ist es sehr schwierig, die Inhalte zu manipulieren – etwa in Form einer plötzlichen Guthabenvermehrung auf einem Konto ohne dagegen gehandelten Gegenwert -, denn eine Änderung von Einträgen in der Blockchain müsste gleichzeitig bei jedem einzelnen Nutzer erfolgen. Das Verfahren muss man sich dabei wie einen „Reißverschluss“ vorstellen: ist einer der Zähne beschädigt, lässt sich dieser nicht mehr schließen oder öffnen. Ebenso verhält es sich mit der Blockchain: Wenn die Rechtmäßigkeit der Änderung eines Eintrages nicht durch die „Peers“ im Netz bestätigt wird, also ein „Block“ nicht in die „Kette“ passt, gilt diese Änderung als nicht rechtmäßig und wird nicht vollzogen.

Demokratisierung der Märkte?

Ganz wesentlich ist dabei, dass die Dezentralität der Organisation zur Ausschaltung der vermittelnden zentralen Stelle, des „Intermediärs“, führt. Das ist nicht nur effizient und kostenrelevant – schließlich „verdient“ der Mittelsmann nun nicht mehr an einer Transaktion und die Blockchain-Peers können diesen Kostenvorteil unter sich aufteilen –, sondern verändert auch das Machtgefüge. Nicht selten wird sogar von einer „Demokratisierung“ gesprochen. „Legitimation“ von Transaktionen erfolgt dann nicht mehr durch eine zentrale Autorität, die womöglich ihre eigenen Interessen verfolgt. Stattdessen wird diese Aufgabe, technisch koordiniert, direkt durch die Nutzer übernommen.

Blockchain und staatliche Beteiligung an Geschäften

Insbesondere typische staatliche Beteiligungen an Geschäften lassen sich somit durch die Blockchain abbilden. Bitcoin als „post-staatliche“ Währung, die ohne Zentralbank auskommt, ist sicherlich ein markanter Beleg hierfür. Ebenfalls bereits breit erprobt ist die Nutzung der Technologie im Bereich der Eigentumsrechte an Grund und Boden. Die Blockchain übernimmt hier die Funktion von Grundbuch und Katasteramt. Auch in jenen Teilen der Welt, die nicht über ein uneingeschränkt funktionierendes Rechtssystem sowie über kein verlässliches Katasterwesen verfügen, lässt sich damit eine einfache und lückenlose Protokollierung von Landtiteln und Eigentumsübergängen sicherstellen.

Blockchain im eGovernment

Die Funktionalitäten der Blockchain sind natürlich nicht nur für die Transaktion von Geld, Waren und Eigentumsrechten relevant. Die Notwendigkeit, verlässliche Informationsquellen zu schaffen und Verhandlungsergebnisse festzuhalten, besteht auch in anderen Bereichen. So setzte die UNO die Technologie bei der Erfassung und Versorgung syrischer Flüchtlinge in Jordanien ein. Estland, allgemein anerkannt als weltweiter Vorreiter bei der Digitalisierung , nutzt die Blockchain für das eGovernment, unter anderem im Einwohnermeldewesen , und auch in Deutschland wird bereits eine Anwendung auf Verwaltungsprozesse diskutiert.

Blockchain als Teil des Wahlsystems

Vor allem aber lässt sich das Prinzip der digitalen Dezentralisierung natürlich ebenso auf den Kern des demokratischen Systems beziehen. Abstimmungen und Wahlprozesse können entsprechend durch eine Blockchain abgebildet und abgesichert werden. Dies wäre dann möglich ohne menschliches Zutun in der Auszählung und „in voller Selbstregulation“ durch die Technologie. Wahlbetrug, so wird argumentiert, wäre dann nicht mehr möglich. Zum Einsatz käme dabei eine „geschlossene Blockchain“, die eine nur einmalige Stimmabgabe je Wahlberechtigten sicherstellt. Diese wird dabei wie eine „Transaktion“ in der oben beschriebenen Logik behandelt, d.h. der Wähler „überträgt“ seine Stimme auf einen zur Wahl stehenden Kandidaten oder eine Entscheidungsoption. Während gewöhnlich eine zentrale Autorität die Stimmen auszählt und auf formale Richtigkeit prüft, würde dies in diesem Fall dezentral über die Wähler erfolgen. Jeder Wahlteilnehmer erhält eine aktualisierte Version der Blockchain und ist damit in der Lage, diese einzusehen und zu überprüfen. Somit ließe sich die Stimmabgabe betrugssicher speichern, da eine Wahlmanipulation ebenso dezentral, auf dem digitalen Endgerät eines jeden einzelnen Wählers, vollzogen werden müsste. Ein Problem bei der Blockchain-Wahl wird oft hinsichtlich der Transparenz der Stimmabgaben gesehen, die zwar wesentlich zum Schutz vor Wahlbetrug beiträgt, aber beispielsweise dem Grundsatz der geheimen Wahl entgegensteht. Dies ließe sich allerdings ähnlich der Anonymisierung beim Bitcoin-Handel lösen, wo Teilnehmer zwar eindeutig und als „unique“ identifiziert werden können, jedoch trotzdem durch eine Codierung („Hashing“) nach außen hin nicht namentlich demaskiert werden. Gleichwohl bleibt damit jede Stimmabgabe einzeln zurechenbar.

Smart Contracts im politischen System

Das eigentliche Disruptionspotenzial der Blockchain-Technologie für den demokratischen Prozess liegt jedoch im Zusammenspiel mit den sogenannten „Smart Contracts“. Darunter versteht man technische Transaktionsprotokolle, welche die Einhaltung zuvor definierter Vertragsbestimmungen überwachen sowie autonom und mechanisiert die vereinbarten Konsequenzen ausführen. Menschliches Eingreifen, etwa bei Verletzungen der Vertragsrechte durch eine Partei, ist damit nicht mehr notwendig. Anwendung findet dieses Konzept bereits heute im Bereich der Finanztransaktionen und bei der Abbildung von Copyright-Lizenzen. In der Kombination mit der Blockchain-Technologie wird gewährleistet, dass Smart Contracts auf dezentral verifizierte Daten zugreifen können, um den Eintritt von Vertragsereignissen zu überprüfen und auf dieser Grundlage dann die festgeschriebenen Handlungen zu exekutieren. Durch ein System einer Vielzahl von Blockchain-basierter Smart Contracts ist es sogar denkbar, ganze institutionelle Organisationen mit autonomen Entscheidungswegen abzubilden, sogenannte „Decentralized Autonomous Organizations“ (DAOs), die bereits im Finanzbereich etabliert wurden und deren Steuerung automatisiert auf Basis von Bedingungen erfolgt, welche die Mitglieder durch ein Abstimmungsverfahren im Voraus festlegen.

Automatismen in der Durchsetzung des Wählerwillens

Bezogen auf den demokratischen Prozess wäre es damit möglich, Entscheidungs- und Willensbildungsprozesse der politischen Repräsentanten nicht nur lückenlos und transparent aufzuzeigen, sondern auch einen Automatismus der Exekution des Wählerwillens zu implementieren. Zum einen, wird argumentiert, ließe sich so die „Integrität politischer Entscheidungen“ überwachen, indem die Entscheidungsgrundlagen der politischen Repräsentanten – wie E-Mails, erhaltene Dokumente, etc. – und auch die Geldflüsse im Zusammenhang mit den politischen Entscheidungen lückenlos und unveränderbar dokumentiert werden würden. Dies folgt auch der Überzeugung, dass Transparenz grundlegend ist für die Verhaltensänderung von oft als „träge“ empfundenen staatlichen Institutionen. Zum anderen ließe sich damit eine unverfälschte und konsequente Ausführung der herbeigeführten demokratischen Entscheidungen sicherstellen, frei von nicht legitimierten Filtern, herbeigeführt durch justierend eingreifende Volksvertreter im Nachgang der Abstimmungen. Der sich bereits in der Ökonomie oft als unnötig oder ineffizient erwiesene „Mittelsmann“ wäre damit auch im Bereich des Politischen eliminiert – die letztliche Konsequenz für die repräsentative Demokratie also ein „Parlament ohne Parlamentarier“.

Liquid Democracy & Blockchain

Besondere Relevanz entfaltet die Anwendung von Blockchain und Smart Contracts für den Themenkomplex der „Liquid Democracy“. In Deutschland werden damit vor allem die Bestrebungen der „Piratenpartei“ verbunden, mittels der Verschränkung von direkten und repräsentativen Elementen demokratische Leistungsdefizite zu beheben. Im internationalen Kontext und in einer breiteren, allgemeineren Diskussion beschreibt dieser Ansatz unterschiedliche Ausprägungen der Mandatsgebundenheit, meist mit dem Fokus auf einer stärkeren individuellen Partizipation. Kleinster gemeinsamer Nenner der unter dem Etikett der „Liquid Democracy“ kursierenden Konzepte ist das „Delegated Voting“. Nach diesem Prinzip können die Wahlberechtigten flexibel bestimmen, ob sie ihr Stimmrecht in einer spezifischen Entscheidungssituation selbst ausüben oder an einen Delegierten übertragen, etwa weil jener über die in diesem Fall notwendige Expertise verfügt.

Smart Contracts für den aggregierten Wählerwillen

Um auch in großen Wahlsystemen mit vielen Stimmberechtigten effizient zu bleiben, bedarf Liquid Democracy eines leistungsfähigen technischen Verfahrens, das die Stimmdelegation sowie mögliche Inhaltsvereinbarungen speichert und für die Wahlberechtigten transparent hält. Für diese Funktionen ist die Blockchain prädestiniert, zumal sie aufgrund ihrer dezentralen Beschaffenheit auch für ausreichende Wahlsicherheit sorgen kann. Darüber hinaus besteht damit die Möglichkeit, das tatsächliche Wahlverhalten der Delegierten zu verdeutlichen und für alle sichtbar zu machen, indem in der Blockchain archiviert wird, ob diese sich an die Wünsche oder auch Vorgaben der einzelnen Wähler gehalten haben. Auch können auf diese Weise imperative Mandate kreiert und überwacht werden. In der Kombination mit Smart Contracts ist es schließlich sogar denkbar, einen Automatismus zu erzeugen, der den aggregierten Wählerwillen zwingend zur Umsetzung bringt, indem die eigentliche Ausübung des Mandats gar nicht mehr im Verfügungsbereich des Delegierten liegt, sondern die in der Blockchain festgehaltene inhaltliche Bindung zu einer nicht beeinflussbaren Mechanisierung der Abstimmung führt.

Grenzen von Liquid Democracy

Das Konzept der Liquid Democracy wurde vielfach kritisiert. Hierzulande bemängelte man vor allem – auch beim vergleichsweise weniger radikalen Vorstoß der Piratenpartei – die Unvereinbarkeit mit dem Prinzip des freien Mandats. Der Ansatz erfuhr aber auch Ablehnung als wenig effizient und praxisnah, da es kaum möglich sei, die Vielzahl an Themen und unterschiedlichen Delegierten zu überblicken und zu koordinieren. Als problematisch erachtet wurde auch die Einbindung der durch Stimmkumulation entstehenden „Superdelegierten“ in ein System von Checks&Balances sowie deren Verantwortlichkeit gegenüber den Wählern. In diesen letzten beiden Fällen zumindest wäre die Blockchain als technische Grundlage und „Vertrauensprotokoll“ geeignet, Abhilfe zu schaffen.

Die Rezeption des Blockchain-Ansatzes darüber hinaus ist in Deutschland eher noch unterentwickelt. Anders in den USA wo die Adaption in der praktischen Diskussion bereits deutlich weiter reicht. Dies soll Gegenstand des nächsten Teils der Artikelreihe sein.

Der Text ist ein Auszug aus:

Wagener, Andreas (2018): Politische Disruption: Die Digitalisierung der Politik und die libertäre Technologie der Blockchain. In: Liebold, Sebastian / Mannewitz, Tom / Petschke, Madeleine / Thieme, Tom (Hrsg.): Demokratie in unruhigen Zeiten, Baden Baden, 2018, S. 387 – 398

Weitere Informationen zum Thema finden Sie hier:

Vortrag von Prof. Dr. Andreas Wagener, Hochschule Hof am 17.10.2018:
„Willkommen in der Matrix! Wie KI und Blockchain in der Industrie 4.0 zusammenwachsen“

Vortrag von Prof. Dr. Andreas Wagener, Hochschule Hof am 22.10.2016 Industrie 4.0, Datenökonomie und Künstliche Intelligenz: Wie Daten und Algorithmen Wirtschaft und Gesellschaft verändern:

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Die Blockchain als disruptive Innovation in der Politik erschien zuerst auf Nerdwärts.de.

Der Disruptionsbegriff in den Wirtschaftswissenschaften

In der Wirtschaftswissenschaft findet für die Erklärung digitaler Veränderungsprozesse oft der Begriff der Disruption Verwendung, der in seiner weitverbreiteten und vielzitierten Konkretisierung im Management- und Technologieumfeld auf den Harvard-Professor Clayton Christensen zurückzuführen ist. Damit wurde eigentlich eine Form der unternehmerischen Innovation beschrieben, der es, ermöglicht durch neue Technologien, gelingt, neue Märkte und Marktprinzipien zu etablieren und dadurch bestehende Märkte und ihre konventionellen Regelmuster aufzubrechen. Derartige „disruptive Innovationen“ verbessern grundsätzlich unternehmerisch erbrachte Leistungen in einer von den Märkten unerwarteten Weise und verdrängen damit lange Zeit erfolgreiche und tradierte Geschäftsmodelle und -prinzipien.

Politische Disruption und gesellschaftliche Veränderungsprozesse

Inzwischen findet der Begriff jedoch nicht mehr nur allein auf ökonomische Szenarien Anwendung, sondern wird auch auf weitere Sachverhalte, auf den grundsätzlichen Wandel komplexer Systeme bezogen. Auch explizit „Politische Disruption“ wird dabei zunehmend zur Charakterisierung von gesellschaftlichen Veränderungsprozessen aufgegriffen. Wesentlicher Kern des Begriffs ist der Aspekt der Innovation und die Funktion von Technologie als Haupttreiber.

Die Digitalisierung der Politik und deren Disruption

Digitale Technologie – auf die der Disruptionsbegriff heute vornehmlich bezogen wird – ist nicht nur in der Lage, althergebrachte Spielregeln auf Märkten auszuhebeln und durch neue zu ersetzen. Sie führte unzweifelhaft ebenso zu einer Veränderung der politischen Prozesse, der politischen Meinungsbildung sowie der Verhaltensweisen politischer Akteure und auch zu einer Verschiebung des Handlungsrahmens der praktischen Politik. Das zeigt sich in vielfältigster Weise, sei es im Aufkommen von „Fake News“ und „Hatespeech“ verbreitenden Social Bots in Sozialen Netzwerken, in der tatsächlichen oder bloß behaupteten Verwendung von Profildaten als „Big Data“ für die Wählergewinnung im US-Präsidentschaftswahlkampf wie auch in Form direkt ans Staatsvolk twitternder US-Präsidenten. Doch nicht nur derartige, eher auf die Beeinflussung der Meinungsbildung gerichtete, politische Kommunikation kann digital und unter Verwendung innovativster Methoden erfolgen. Auch die eigentlichen politischen Prozesse, gewissermaßen im „Maschinenraum der Politik“, sind potenziell durch die Innovationskraft digitaler Technologien betroffen. Dies gilt sowohl für die politische Entscheidungsfindung als auch die Artikulierung und Aggregierung des Wählerwillens sowie ebenso für die Ausübung politischer Macht. Diese Technologien haben das Potenzial, gegenwärtige politische Systeme „im Kern“ zu disruptieren, indem sie alternative Spielregeln des politischen Miteinanders schaffen.

Technologietreiber Blockchain, Künstliche Intelligenz, 3D-Druck und Virtual Reality

Insbesondere die Trendthemen Blockchain und Künstliche Intelligenz, die auch im ökonomischen Umfeld den größten Veränderungsdruck bewirken, dürften auch im Politischen Treiber dieser Entwicklung sein. Politische Entscheidungen können beispielsweise unter Rückgriff auf Algorithmen getroffen werden, die entsprechenden Prozesse lassen sich im Wege von Blockchain-basierten Smart Contracts abbilden. Ähnliches Potenzial kann womöglich auch anderen Technologien wie 3D-Druck und Virtual Reality zugeschrieben werden. Politik und Technik werden in Zukunft deutlich enger miteinander verwoben – mit allen Vor- und Nachteilen. Wie immer wird es darauf ankommen, wie wir diese Zukunft gestalten. Wegducken und Ignoranz sind dabei nicht gestattet. Es handelt sich dabei um eine gesamtgsellschaftliche und somit zu tiefst politische Aufgabe.

In den kommenden Wochen werden wir an diese Stelle auf das Thema der Politischen Disruption intensiver eingehen und die einzelnen Technologien unter diesem Aspekt näher betrachten. Den Auftakt macht dabei das Blockchain- & Distributed Ledger-Verfahren. (Dazu bitte hier entlang.)

Der Text ist ein Auszug aus:

Wagener, Andreas (2018): Politische Disruption: Die Digitalisierung der Politik und die libertäre Technologie der Blockchain. In: Liebold, Sebastian / Mannewitz, Tom / Petschke, Madeleine / Thieme, Tom (Hrsg.): Demokratie in unruhigen Zeiten, Baden Baden, 2018, S. 387 – 398

Weitere Informationen zum Thema finden Sie hier:

Vortrag von Prof. Dr. Andreas Wagener, Hochschule Hof am 17.10.2018:
„Willkommen in der Matrix! Wie KI und Blockchain in der Industrie 4.0 zusammenwachsen“

Vortrag von Prof. Dr. Andreas Wagener, Hochschule Hof am 22.10.2016 Industrie 4.0, Datenökonomie und Künstliche Intelligenz: Wie Daten und Algorithmen Wirtschaft und Gesellschaft verändern:

Der Beitrag Politische Disruption: wenn Technologie Gesellschaft und politisches System revolutioniert erschien zuerst auf Nerdwärts.de.