Schon seit längerem diskutieren die Sozialwissenschaften den Einfluss der Digitalisierung auf die gesellschaftliche Entscheidungsfindung. Aufgrund des zunehmenden Rückgriffs auf Algorithmen und Verfahren des maschinellen Lernens im Rahmen von „Algorithmic Governance“ und des „Automated Decision Making“ (ADM) in der praktischen Politik ergeben sich Fragestellungen im Bereich der Legitimation und ethischen Vertretbarkeit derartiger Vorstöße (Wagener 2021). Ähnlich verhält es sich mit Anwendungsszenarien für die Distributed-Ledger-Technologie, etwa dem Konzept der „Liquid Democracy“ (Bastgen / Winkler, 2013) mit dem die Behebung von Leistungsdefiziten der repräsentativen Demokratie durch die Implementierung von Automatismen zur Umsetzung des Wählerwillens bis hin zu einer „Imperativierung“ des Mandats verbunden werden (van de Sande, 2015)

Smart Contacts und DAOs

Im Rahmen von industriellen und betriebswirtschaftlichen Prozessen werden über „Smart Contracts“ schon seit geraumer Zeit auf Grundlage logischer „Wenn-Dann“-Kausalitäten vorab getroffene Vereinbarungskonsequenzen automatisiert exekutiert. Durch ein integriertes System aus einer Vielzahl dieser Smart Contracts ist es möglich, ganze Organisationen mit autonomen, vollständig mechanisierten, dezentralen Entscheidungsstrukturen abzubilden, sogenannte „Decentralized Autonomous Organisations“ (DAOs).

Eine Übertragung dieses Prinzips auf die Politik, insbesondere auf staatliche Institutionen, erscheint grundsätzlich denkbar. Im Zusammenspiel mit dem Einsatz von Algorithmen, maschinellem Lernen und KI könnten leistungsfähige autonome Systeme geschaffen werden, welche die Art und Weise der gesellschaftlichen Entscheidungsfindung sowie die Beschaffenheit des Staates grundsätzlich revolutionieren würden. Ein entsprechender Einsatz dieser Technologien in der politischen Sphäre wirft jedoch neue Fragen hinsichtlich Legitimation und Repräsentation auf. Somit erwüchse für die Gesellschafts- und Politikwissenschaften – in Anlehnung an den vielzitierten Begriff des „Internet of Things“ – die Aufgabe, die Leitlinien einer möglichen Implementierung dieser „Governance of Things“ und deren demokratieverträgliche Ausgestaltung zu skizzieren und zu bewerten: Welche Herausforderung für die Demokratie bestehen demnach und wie können wir uns diesen stellen? Inwieweit ist es legitim, die technischen Errungenschaften auszubauen und den digitalen Wandel voranzureiben? Und wie können dabei bürgerliche Partizipation und nicht zuletzt ein menschliches Antlitz der Staatlichkeit gewährleistet werden? Schließlich münden derartige Überlegungen zwangsläufig in der grundsätzlichen Frage nach der Relevanz der menschlichen Willensbildung im digitalen Zeitalter: Welche Zukunft ist wünschenswert und welche Entwicklungen führen uns in eine Dystopie?

Algorithmic Governance und AI Governance

Seit einiger Zeit wird unter dem Begriff der „Algorithmic Governance“ (Yeung, 2018; Katzenbach / Ulrich, 2020) verstärkt der Einsatz datenbasierter, „digitaler“ Technologie als Ergänzung oder auch als vollständiger Ersatz menschlicher politischer Entscheidungen diskutiert. In Anlehnung an Laurence Lessigs (Lessig 1999) Diktum „Code is Law“ (auch: „Law is Code“, vgl. Hassan / de Filippi, 2017), ließe sich diese Vorgehensweise als die Automatisierung der Ausführung vorab definierter (staatlicher) Regeln beschreiben. Die Anwendung des hier zugrundeliegenden, der Computerprogrammierung entlehnten „Wenn-Dann“-Prinzips („if this … then that…“, „IFTTT“) basiert auf der Annahme, dass sich zuvor definierte – und legitimierte – Entscheidungsmuster auf spätere Situationen anwenden lassen. Die nachfolgende Exekution anstehender Entscheidungen kann dann idealerweise autonom erfolgen, ohne dass es eines weiteren menschlichen Eingreifens zwingend bedürfte.

Der Rückgriff auf KI – verstanden als der Einsatz von autonomen, selbstlernenden Systemen – verändert die Rahmenbedingungen algorithmischen Regierens nochmals grundlegend.  Denn sofern solche intelligenten Systeme eigenständig hinzulernen, ihre Entscheidungen also nicht mehr zwingend den vorab menschlich definierten Mustern und Regeln entsprechen, sondern diese, aufbauend auf den verarbeiteten Erkenntnissen, autonom agieren und eigene Maßstäbe anlegen – man spricht dann i.d.R. von „AI Governance“ (Kuziemski und Misuraca 2020) -, stellt sich die Frage, wie diese Prozesse im demokratischen Staat legitimiert werden können. Dabei handelt es sich keinesfalls um ein rein theoretisches Problem. Derartige Systeme kommen bereits regelmäßig in der staatlichen und politischen Praxis zum Einsatz, etwa in der Arbeitsmarkt- und -innenpolitik, bei der Polizeiarbeit oder der Unterfütterung juristischer Vorgänge.[1] Eine Kombination mit DLT-basierten Verfahren findet zwar in aller Regel nicht statt, wäre aber grundsätzlich möglich.

Distributed-Ledger: Blockchain, Smart Contracts und DAOs

Der Rückgriff auf DLT-Verfahren geht in erster Linie auf die Kryptowährung Bitcoin zurück, wo die „Blockchain“ für die dezentralisierte, transparente und unveränderbare Erfassung der Daten zu den Transaktionen zwischen den Netzteilnehmern verwendet wird. Eine Transaktion muss immer durch die anderen Netzwerkteilnehmer bestätigt werden. Das Ergebnis wird unveränderlich im „Ledger“ (Kontobuch) gespeichert und die somit neu gebildete Blockchain an die Teilnehmer verteilt.

Ganz wesentlich ist dabei, dass die Dezentralität der Organisation zur Ausschaltung der vermittelnden zentralen Stelle, des „Intermediärs“ (beispielsweise eine überwachende staatliche Institution, wie eine Zentral- und Notenbank, oder ein zentrales Finanzsystem), führt. Dies wird nicht nur als effizient und kostenrelevant betrachtet – schließlich „verdient“ der Mittelsmann nun nicht mehr an einer Transaktion und die Blockchain-Peers können diesen Kostenvorteil unter sich aufteilen –, sondern verändert auch das Machtgefüge. Nicht selten wird sogar von einer „Demokratisierung“ gesprochen (Piscini et al, 2016), da die „Legitimation“ von Transaktionen dann nicht mehr durch eine zentrale Autorität erfolgt, die womöglich ihre eigenen Interessen im Visier hat, sondern durch die Masse der Netzwerkmitglieder.

Smart Contracts und IFTTT

Aus der ursprünglichen Blockchain-Logik heraus entwickelten sich auch jenseits finanzwirtschaftlicher Szenarien Anwendungsbereiche für die DLT. Unter „Smart Contracts“ versteht man technische Transaktionsprotokolle, welche die Einhaltung zuvor definierter Vertragsbestimmungen überwachen sowie autonom und mechanisiert die vereinbarten Konsequenzen ausführen – ebenfalls nach dem IFTTT-Prinzip und analog zum „Code-is-Law“-Diktum. Menschliches Eingreifen, etwa bei Verletzungen der Vertragsrechte durch eine Partei, ist damit nicht mehr notwendig.

Durch ein System aus einer Vielzahl dieser Smart Contracts ist es möglich, ganze institutionelle Organisationen mit autonomen Entscheidungswegen abzubilden – die bereits eingangs erwähnten DAOs. Diese werden bereits seit einiger Zeit im Finanzbereich erprobt und etabliert, um als eigenständige Akteure, losgelöst von menschlichen Eingriffen, am Wirtschaftskreislauf teilzunehmen (van de Sande, 2015). Die Steuerung von DAOs erfolgt automatisiert auf Basis von Bedingungen, welche die Mitglieder bzw. Teilhaber durch ein Abstimmungsverfahren im Vorfeld von Entscheidungssituationen festlegen (Chopan, 2022). Meist wird über eingebrachte Vorschläge durch in der Regel nach kumulierten Eigentumsrechten und Kapitaleinlagen gewichtete Stimmen unter der Maßgabe der Einhaltung eines bestimmten Quorums entschieden, wenngleich auch andere Stimmrechtsprinzipien (z.B. nach erworbener Reputation) denkbar sind (Arsenault, 2020).

DAOs in der Politik

Grundsätzlich scheint damit auch eine Übertragung des Prinzips der DAOs auf die Politik denkbar, was insbesondere in den USA immer wieder durch entsprechende Forderungen unterfüttert wird (Sergeenkov 2022). Unter dem Stichwort der „Liquid Democracy“ werden darunter unterschiedliche Ausprägungen der Mandatsgebundenheit, meist mit dem Fokus auf einer stärkeren individuellen, direkten bürgerlichen Partizipation, diskutiert. Eines der kursierenden Konzepte ist das „Delegated Voting“ (Nitsche, 2014). Nach diesem Prinzip können die Wahlberechtigten flexibel bestimmen, ob sie ihr Stimmrecht in einer spezifischen Entscheidungssituation selbst ausüben oder an einen Delegierten übertragen, etwa weil jener über die in diesem Fall notwendige Expertise verfügt. Der entsprechende Delegierungsvorgang wird dazu in einer Blockchain dokumentiert. Ferner könnten aber auf diese Weise auch imperative Mandate kreiert und überwacht werden. In der Kombination mit Smart Contracts ist es denkbar, einen Automatismus zu erzeugen, der den aggregierten Wählerwillen zwingend zur Umsetzung bringt, indem die eigentliche Ausübung des Mandats gar nicht mehr im Verfügungsbereich des Delegierten liegt, sondern die in der Blockchain festgehaltene inhaltliche Bindung zu einer nicht mehr beeinflussbaren Mechanisierung der Abstimmung führt. In vielen Demokratien stünde dies allerdings wohl im Widerspruch mit dem als unerlässlich betrachtetem Prinzip des freien Mandats, das den Abgeordneten nur seinem eigenen Gewissen unterwirft (Seckelmann 2014). In letzter Konsequenz müsste ein solches Verständnis von Demokratie dazu führen, dass – sofern die technische Umsetzbarkeit dieser aufwändigen Verfahren gegeben ist – es eigentlich gar keiner Delegierter mehr bedarf, da sich sämtliche Entscheidungsprozesse dezentralisieren ließen (Waldmann, 2016).

Politische DAOs als intelligente, selbstlernende Systeme

Der Hauptvorwurf gegenüber dem Delegated Voting zielt auf eine zu geringe Praxisnähe und mangelnde Effizienz. Schließlich sei es kaum möglich, die Vielzahl an Themen und unterschiedlichen Delegierten zu überblicken und zu koordinieren.  Als problematisch erachtet wurde auch die Einbindung der durch Stimmkumulation entstehenden „Superdelegierten“ in ein System von Checks&Balances sowie deren Verantwortlichkeit gegenüber den Wählern (Seckelmann 2014).

Der Einsatz von DLT wäre dabei gleichwohl durchaus geeignet, die grundsätzlichen Probleme von Stimmdelegierungen zu reduzieren, denn eine Einbettung in ein digitales System könnte einerseits zu mehr Übersichtlichkeit beitragen, andererseits würde gerade der Vermerk des individuellen Abstimmungsverhaltens der Delegierten in einer allgemein zugänglichen und unveränderbaren „Blockchain“ zu mehr Transparenz und Zurechenbarkeit („Accountability“) führen.

Komplexe Entscheidungsumfelder als Problem politischer Systeme

In der Tat dürfte ein Hauptproblem heutiger politischer Systeme und der jeweiligen Entscheidungsträger in der zunehmenden Komplexität politischer Entscheidungen sowie – zumindest in der westlichen Welt – in der allgemein wachsenden gesellschaftlichen Fragmentierung und Polarisierung bestehen. Damit drängt sich die Frage auf, inwiefern tradierte, rein menschliche geprägte Entscheidungsprozesse noch zeitgemäß sind – angesichts der stetig wachsenden Leistungsfähigkeit in diesem Kontext anwendbarer digitaler Technologien. Und: Führen menschliche Entscheidungsspielräume nicht immer auch zwangsläufig zu einem „Bias“, einer menschlich induzierten „Unwucht“, die eine Seite gegenüber einer anderen aufgrund tradierter Verhaltensmuster bevorzugt?

Vieles spricht dafür, dass sich durch den Einsatz digitaler Technologien zumindest ein Teil dieser Probleme beheben ließe, da der politische Entscheidungsprozess auf diese Weise eine radikale Rationalisierung erfahren würde (Owen 2015; Atzori, 2017). Während der formale Abstimmungsprozess sowie die Fixierung der getroffenen Entscheidung über DLT und Smart Contracts abzubilden wären, könnten der Rückgriff auf KI und Methoden des maschinellen Lernens dazu dienen, die Entscheidungsgrundlagen bereitzustellen, um dann eine „absolut rationale Willensbildung“ durch das System sicherzustellen (Atzori 2015). KI wäre somit für den Entscheidungs-Input relevant; für die Entscheidungsausführung, den Output, könnte auf DLT-Methoden zurückgegriffen werden. In einem solchen System bedarf es dann keiner „intermediären“ Mandatsträger mehr, die womöglich den streng rationalen Entscheidungsprozess durch menschliche Einflussnahme verzerren würden. Es entstünde eine absolut autonome politische Organisation – eine „Staats-DAO“ –, die den Wählerwillen durch vorgelagerte Abstimmungen aggregiert und aufwändig zu klärende Detailfragen, ausgehend von dieser somit geschaffenen Datenbasis, durch den Einsatz iterativer Lernmethoden autonom beantwortet. Die Wähler gäben also durch ihr Abstimmungsverhalten die Richtlinien und Rahmenbedingungen vor, für die Umsetzung in die praktische Politik, für die der Einzelne im Zweifelsfall ohnehin nicht die notwendige Kompetenz besäße, trüge jedoch die KI die Verantwortung und berechnet aus den vorliegenden Daten die richtige und vernünftigste Entscheidung, basierend auf Mustererkennungen (via „Unsupervised Learning“) und der Maxime der Optimierung des vorab definierten Gemeinwohls (etwa über die Methode des „Reinforcement Learnings“)[2].

Die nächste Stufe: Directed Acyclic Graphs (DAG)

Was im gesellschaftlichen Kontext nach purer Science-Fiction klingen mag, ist im industriellen Umfeld bereits deutlich weiter entwickelt. Über sogenannte „DAGs“ („Directed Acyclic Graphs“), die für manche die nächste Entwicklungsstufe der DLT markieren, lassen sich typische Probleme der DLT, wie etwa der hohe Verbrauch an Energie- und Zeitressourcen, durch die Abkehr von den komplexen Mining-Verfahren wie sie von Bitcoin und Ethereum bekannt sind, beheben. Derartige Ansätze, wie sie beispielsweise in unterschiedlicher Ausprägung von IOTA, IOTChain oder DAGCOIN vertreten werden, zielen bislang vor allem auf das „Internet der Dinge“, wo Transaktionen – transparent, chronologisch und unveränderbar – zwischen einzelnen Maschinen und Geräten dezentral abgebildet werden sollen.

Wenn Maschinen eigenständig miteinander kommunizieren und in der Lage sind, dabei unabhängig vom menschlichen Eingriff Transaktionen untereinander auszuführen, führt dies zu erheblichen Veränderungspotenzial: Eine Prozessorganisation, in der intelligente Industriesysteme untereinander Prozesse und Güterströme eigenständig abwickeln, welche Arbeitsschritte zwischen Maschinen koordiniert und für einen finanziellen Ausgleich zwischen den beteiligten Systemen und Geräten entsprechend ihrer Beteiligung an der Wertschöpfung sorgt und all dies entsprechend transparent auf einem Distributed Ledger vermerkt, ermöglicht in letzter Konsequenz eine autonome, sich selbst steuernde Maschinenwirtschaft.

Blockchain in Kombination mit KI als Zwischenschritt zur generellen Künstlichen Intelligenz

Im Moment wird oft davon ausgegangen, dass wir eine „generelle Künstliche Intelligenz“, die dem Menschen auch in seiner Vielfältigkeit gleichkommt, nur schwer erzeugen können. Die meisten KI-Systeme sind auf sehr spezifische Probleme trainiert und daher auch entsprechend in ihrer Leistungsfähigkeit darauf beschränkt. Der Rückgriff auf DLT als Element der Prozessorganisation könnte dann jedoch die Grundlagen für eine arbeitsteilige Ökonomie künstlicher Intelligenzen liefern: Stellt eine KI ihren spezifischen Arbeitsschritt fertig, so wäre es dann möglich, die Übergabe der jeweiligen Teilleistung zur Weiterarbeitung in einem Distributed Ledger zu vermerken und über einen Smart Contract an die nächste zuständige Einheit zu übergeben. Somit würde sichergestellt, dass alle notwendigen Teilschritte eingeleitet und lückenlos abgearbeitet werden.

Dieses Prinzip – KI sorgt für die Findung von Entscheidungen, die DLT für die Koordination der daraus resultierenden Handlungen – könnte grundsätzlich auch in einer politischen DAO abgebildet werden. Politische Fragestellungen ließen sich durch ein führendes intelligentes System in Einzelprobleme aufspalten, die von der spezifischen KI zu bearbeiten wären. Die Sicherstellung der Übergabeprozesse zwischen den KIs untereinander aber eben auch die „Operationalisierung“ des Wählerwillens und dessen Einspeisung in das System erfolgte auf Basis von DLT (Wagener 2018). 

Zweifelsohne müssen natürlich für ein politisches System weitaus strengere Standards hinsichtlich der technischen Verlässlichkeit gelten, als für die Abbildung von Wertketten. Und in der Tat gilt die DAG-Technologie bislang nicht als völlig ausgereift. Ungeachtet dessen wirft ein entsprechender perspektivischer Einsatz in der gesellschaftlichen Entscheidungsfindung erhebliche Fragen nach der Gewährleistung von Legitimation und Repräsentation im politischen System auf. Diesem Aspekt widmet sich der folgende Abschnitt.

Die Frage nach Legitimation, Repräsentation und Partizipation.

Die Legitimationsdefizite, ebenso wie der Mangel an bürgerlichen Partizipationsmöglichkeiten an einer weitgehend autonom agierenden politischen DAO liegen auf der Hand und ergeben sich bereits immanent aus ihrer Konstruktion: Es bedarf schon eines großen Vertrauens in die Technik und den technologischen Fortschritt, um hierin eine positive Perspektive für Staatlichkeit und Repräsentation festmachen zu können. Gleichwohl ist die Vision einer „Staats-DAO“ kein bloßes Phantasieprodukt. Die Idee die operativen politischen Prozesse an eine autonom agierende Entität auszulagern, trifft durchaus, vor allem in den USA, tatsächlich auch auf Zustimmung:

Die Vorteile eines solchen Systems werden zu allererst in der Effizienzsteigerung gesehen, die hierbei für die staatliche Entscheidungsfindung und -ausführung durch die Automatisierungszuwächse zu erwarten wären. Ähnliche oder identische Entscheidungsfragen müssten nicht immer wieder neu verhandelt, sondern könnten durch die einmalige Festlegung auch für die Zukunft verbindlich geregelt werden. Des Weiteren ließen sich Verwaltungsentscheidungen versachlichen, da das einmal gefundene Regelsystem für alle Betroffenen gleichermaßen zur Anwendung käme, ungeachtet möglicher persönlicher Präferenzen der Entscheider „vor Ort“. Damit ginge dieser Argumentation folgend ein Zuwachs an Fairness und Gleichberechtigung einher.

Libertäre Motive als Treiber

Für die Anhänger sind darüber hinaus vor allem libertäre Motive maßgebend (Tapscott / Tapscott 2016, 199). DLT wird als bewusst technokratisches Instrument betrachtet, das den staatlichen und überstaatlichen Institutionen, die ohnehin dazu tendieren würden, ihre Befugnisse zu überschreiten, entgegengesetzt werden kann ((Tapscott / Tapscott, 2016, 201).  Viele dieser „Techno-Libertarians“ sind der Meinung, dass zentrale Koordination und der Staat Produkte einer überkommenen patriarchalen und hierarchisch-autoritären Grundeinstellung sind, die es zu überwinden gilt (Atzori 2015, 24; Sergeenkov 2022; Roberts 2022)  Charakteristisch ist die Übertragung von marktwirtschaftlichen Funktionsweisen auf politische Leistungsprozesse. Der Staat als Organisationsform wird wie ein Unternehmen betrachtet, das funktionieren und liefern muss, wenn es weiter die Gunst seiner „Kunden“, den Bürgern, genießen will. Geschieht das aus Sicht des Einzelnen nicht, so wird es als logische Konsequenz angesehen, dass dieser in höchster Flexibilität seine Loyalität aufkündigt und sich „Alternativangeboten“ zuwendet (Tarkowski Tempelhof 2012).  Möglichst freie und ungezügelte Marktwirtschaft gilt als Hauptgarant politischer Stabilität (de Soto 2014). Es sei keine Option, Menschen „qua Geburt“ in ein politisches System zu „zwingen“, ihnen damit bereits „von Beginn an“ ihre Freiheit zu entziehen (Tarkowski Tempelhof 2012). Stattdessen müsse man das Prinzip auf den Kopf stellen und größtmöglicher Selbstbestimmung den Weg ebnen. Die Gestaltungsprinzipien der DLT, welche die politische Macht auf ihren eigentlichen Ausgangspunkt direkt zurückübertragen, werden hierfür als perfektes Vehikel identifiziert. Die damit ebenfalls einhergehende Technisierung politischer Systeme zielt auf eine ganz bewusste „Entmenschlichung” der Politik. Menschliche Schwächen ließen sich nicht durch Checks & Balances allein auffangen. Die durch den DLT geschaffene Entscheidungstransparenz in Verbindung mit dem durch die Smart Contracts induzierten Exekutiv-Automatismus würden Korruption und Vetternwirtschaft hingegen unmöglich machen (Woods, 2015). Grundsätzlich ist es nicht so, dass man sich gegen Demokratie als solche wendet. Typisch ist jedoch ein archaisches, teilweise auch äußerst schlichtes Demokratieverständnis. Entscheidungen werden als absolut begriffen und in schwarz und weiß, in ein binäres System von Einsen und Nullen, gegliedert. Mehrheitsentscheidungen sind dabei stets verbindlich, unabhängig von den Inhalten und ihrer Legitimität (van de Sande, 2015).

Hobbes 2.0?

Ein Großteil dieser Argumentation erinnert an klassische Gesellschaftsvertragsmodelle wie Hobbes‘ Leviathan (Hobbes 1909). Demnach sollte der Staat eher als effiziente Maschine zur Sicherstellung der Marktinteressen der Bürger fungieren (König 2020), die bürgerlichen Individuen müssen sich dabei nicht gegenseitig, sondern lediglich auf die Funktionsfähigkeit dieses Staatswesens vertrauen.

Auch ein anderer Klassiker der Gesellschaftstheorie scheint dabei im Hintergrund zu wirken: Jean Jacques Rousseaus „volonté générale“, der „wahre Volkswille“, der mit dem Gemeinwohl übereinstimmt und auf das allgemein Beste ausgerichtet ist. Dieser kann im Gegensatz zum Willen jedes einzelnen, aber auch im Widerspruch zum empirisch feststellbaren Willen aller („volonté des tous“) stehen (Rousseau 1762, Fetscher 1971). Die Idee eines „volonté générale“, so ließe sich argumentieren, wäre somit prädestiniert für den Einsatz von KI, die ja aufgrund ihrer hohen Rationalität und Rechenkapazität in der Lage ist, auch schwierige Entscheidungssituationen abzubilden. Gerade letztere scheinen doch schließlich in Zeiten zunehmender politischer Komplexität und sozialer Fragmentierung klassische repräsentative Demokratien zunehmend an ihre Grenzen zu führen. KI könnte dabei maßgeblich zu einer versachlichten Ermittlung dieses rousseauschen Volkswillens beitragen.

Schöne neue Welt?

Der Mehrheit der beschriebenen Argumentationsansätze ist gemein, dass sie ein hohes Augenmerk auf die „Output“-Seite des politischen Systems, weniger auf dessen „Input“-Seite legen. Gerade aber die Beschaffenheit einer KI-gefütterten DAO wirft die Frage nach dem rechtmäßigen Zustandekommen von Entscheidungen auf. Die binäre Absolutheit der Entscheidungen der DLT-Logik wird flankiert durch eine unstetes, sich qua Definition autonom immer weiter entwickelndes „Gehirn“, das die Detailentscheidung treffen muss: Während Maßnahmen auf Grundlage herkömmlicher Algorithmic Governance ihre Rechtmäßigkeit aus diesem zuvor abgestimmten, „festverdrahtetem“ Regelsystem beziehen, justieren sich KI-Systeme auf Grundlage ihres Lernfortschrittes permanent eigenständig neu. Dies mag legitim erscheinen, sofern zumindest die Ziele, anhand derer dies geschieht, Ausfluss eines am Staatszweck orientierten (demokratischen) Verfahrens sind. Gleichwohl ist für die Erreichung politischer Ziele in der Demokratie auch die Art und Weise ihres Zustandekommens relevant. Zieldefinitionen, anhand derer ein lernendes System sich ausrichtet, können schließlich stets nur quantitativer Natur sein. Die Auswirkungen einer solchen politischen Zieloptimierung weisen jedoch immer auch eine qualitative Dimension auf, deren Tragweite ein Algorithmus nie erfassen kann. Beispielsweise ist es sicherlich möglich, einem System eine bestimmte „optimale“ Budgetallokation als Ziel vorzugeben, die Frage, ob diese dann im Ergebnis im Einklang mit einem wie auch immer definierten Gemeinwohl steht, ist eine ganz andere und kann weder in der Praxis technisch noch in der Theorie legitim durch eine KI beantwortet werden, sondern verbleibt zwangsläufig Gegenstand der menschlichen Domäne.

Auch die angestrebte „Entmenschlichung“ politischer Entscheidungen ist vor diesem Hintergrund kritisch zu sehen. Gerade dann, wenn diese nicht mehr unter Berücksichtigung individueller Situationen getroffen werden, sind Verzerrungen und soziale Härten zu erwarten. Auch stellen sich Fragen nach den Verantwortlichkeiten im Einzelfall – und zwar sowohl politisch als auch rechtlich.

Vom Internet of Things zur Governance of Things

De Facto sind Algorithmen, digitale Prozesse und Entscheidungsmechanismen bereits heute schon nicht mehr rein technisch-rationale Konstrukte. Sie repräsentieren auch immer den Einfluss derjenigen, die an ihrer Entstehung beteiligt sind, sowohl politisch als auch technisch. Insofern können sie als eine Art „Amalgam“ aus Mensch und Code verstanden werden. In dieser Auffassung spiegelt sich das Grundprinzip der Denkschule des „Neuen Materialismus“ wider. Demnach erschiene es zunehmend unangebracht, zwischen Menschen und Nichtmenschen, Leben und nicht lebendiger Materie und auch zwischen Akteuren und Strukturen zu unterscheiden. Vielmehr vermischen sich Menschen und Computeralgorithmen zu „sozio-materiellen Assemblagen“ (Kim 2020), wodurch neue Handlungsfähigkeiten und daraus resultierende Wirkungsweisen entstehen.

Dem vielzitierten „Internet of Things“ müssten demnach Überlegungen zu einer Governance of Things an die Seite gestellt werden. Die menschlichen Systementwickler diktierten dabei nicht die Funktionsweise des Algorithmus, die Befähigung und Notwendigkeit von Governance entstünde aus dem Zusammenwirken von Algorithmus und Systementwicklern, explizit etwa beim menschlich induzierten Training mit KI-Daten und der daraus resultierenden autonomen Lernentwicklung des Systems. Dieser Vorgang beinhaltet laufende Interaktionen und Iterationsschleifen zwischen beiden „Parteien“ und führt damit zu einer Verselbständigung dieser „Amalgambildung“.

Governance of Things als Ende des Menschenzeitalters?

Angesichts der Bedeutung, die Algorithmen und digitale Automatismen heute in unserem Alltag einnehmen, ließe sich die Auffassung vertreten, dass damit womöglich bereits das Ende des Anthropozäns eingeläutet worden ist und wir nun am Anfang eines „posthumanen“ Zeitalters stünden. Entsprechend werden schließlich auch unter dem Aspekt der „Singularität“ die gesellschaftlichen und ökonomischen Auswirkungen diskutiert, sollten intelligente Systeme eines – nicht allzu fernen – Tages die menschliche Leistungs- und Adaptionsfähigkeit übertroffen haben (Bostrom 2014).

Jedoch solange diese Stufe noch nicht erreicht scheint, müssen wir uns im hier und jetzt mit dem menschlichen Einfluss auf menschliche Probleme und ihre potenziellen Lösungsansätze selbst befassen. Politik und gesellschaftliche Prozesse sind auch in Zeiten zunehmender Komplexität zuallererst Gegenstand zwischenmenschlicher Verhandlungen. Daher sollten wir uns der Demokratie willen dieser Verantwortung höchstpersönlich und nicht verschanzt hinter einer Mauer aus Einsen und Nullen stellen. Denn bislang bleiben die Blockchain-Adepten eine klare Antwort schuldig, wie eine digital gesteuerte Gesellschaft Konflikte und gesellschaftliche Insuffizienzen reguliert, und zwar jenseits von Marktkriterien, die letztlich nichts anderes als das Recht des Stärkeren propagieren. Die Welt ist in der Tat komplex, und eine angemessene Politik muss situativ abwägend und mit ethischer Erdung erfolgen, sie bedarf einer im doppelten Sinne „humanen“ Partizipation. In diesem Verständnis ist der traditionelle demokratische Staat eben mehr als ein störender Mittelsmann, er ist die Summe seiner Teile, ein Abbild der Gesellschaft und seiner Bürger.

Technologie spielt bereits heute in der politischen Willensbildung eine nicht zu unterschätzende Rolle. Der Zuwachs ihres Stellenwertes wird sich nicht vermeiden lassen und kann natürlich auch positive Effekte haben. Unzweifelhaft ist der Grat zwischen Utopie und Dystopie sehr schmal an dieser Stelle. Ganz entscheidend ist jedoch, dass der Mensch und damit die Menschlichkeit nicht ihren Haupteinfluss auf politische Entscheidungsbildung verlieren, auch wenn wir bereits heute einen Machtverlust zu Gunsten von Technologie zu verzeichnen haben. Daher muss für die demokratische Politik im digitalen Zeitalter gelten: “Governance by Things“ benötigt eine gute, im doppelten Sinne menschliche “Governance of (these) Things“.

Der Artikel entstand auf der Basis eines Vortrages und entsprechenden Conference Papers zum Panel „Blockchain Imaginaries: Techno-utopianism, dystopias, and the future-imagining of Web 3.0“ anlässlich der Tagung „Anthropology, AI and the Future of Human Society“ des Royal Anthropological Institutes, London.

Literatur:

Arsenault, Eric (2020): Voting Options in DAOs. In: Medium 15.12.2020.https://medium.com/daostack/voting-options-in-daos-b86e5c69a3e3

Atzori, Marcella (2015): Blockchain Technology and Decentralized Governance: Is the State still necessary? In: SSRN Electronic Journal, January 2015, S. 1-37

Bastgen, Sarah / Winkler, Katrin (2013): Liquid Democracy – Participation Model of the 21st century? in: Römmele, Andrea / Schober, Hendrik (Ed.): The Governance of Large-Scale Projects, Baden-Baden, S. 111-131.

Bostrom, Nick (2014): Superintelligence. Paths, Dangers, Strategies. Oxford.

Chohan, Usman W. (2022)., The Decentralized Autonomous Organization and Governance Issues (December 4, 2017, revised 2022). http://dx.doi.org/10.2139/ssrn.3082055

Hassan, Samer/ Filippi, Primavera de (2021): The Expansion of Algorithmic Governance: From Code is Law to Law is Code. Institut Veoli, https://tinyurl.com/24w2m6yu

Hobbes, Thomas (1909): Hobbes’s Leviathan: Reprinted from the Edition of 1651. Oxford, https://tinyurl.com/2e72z5ny

Katzenbach, Christian/ Ulbricht, Lena (2019): Algorithmic Governance. In: Internet Policy Review, Nr. 4, doi: 10.14763/2019.4.1424

Kim, Eun-Sung (2020): Deep Learning and Principal-agent Problems of Algorithmic Governance: The New Materialism Perspective. In: Technology in Society, Vol. 63, 101378, doi: 10.1016/j.techsoc.2020.101378

König, Pascal D. (2020): Dissecting the Algorithmic Leviathan: On the Socio-Political Anatomy of Algorithmic Governance. In: Philosophy & Technology, Nr. 3,467–485, doi: 10.1007/s13347-019-00363-w

Kuziemski, Maciej/ Misuraca, Gianluca (2020) AI Governance in the Public Sector: Three Tales from the Frontiers of Automated Decision-making in Democratic Settings. In: Telecommunications Policy, Nr. 6, 101976, DOI: 10.1016/j.telpol.2020.101976

Lessig, Lawrence (1999): Code and Other Laws of Cyberspace. New York.

Nitsche, Andreas (2014): Liquid Democracy – what the noise is all about, in: http://www.liquid-democracy-journal.org/issue/1/The_Liquid_Democracy_Journal-Issue001-01Liquid_Democracy.html

Owen, Taylor (2015): Disruptive Power. The Crisis of the State in the Digital Age, New York

Piscini, Eric /Guastella, Joe /Rozman, Alex /Nassim, Tom (2016): Blockchain: Democratized Trust. In: https://dupress.deloitte.com/dup-us-en/focus/tech-trends/2016/blockchain-applications-and-trust-in-a-global-economy.html

Roberts, Jeff J. (2022): How Andrew Yang Aims to Change Washington With a DAO. In: Decrypt.com, https://decrypt.co/95173/andrew-yang-decrypt-podcast-lobby-3-dao

Rubio, Diego / Lastra, Carlos (2019), European Tech Insights 2019, Madrid: Center for the Governance of Change. https://docs.ie.edu/cgc/European-Tech-Insights-2019.pdf

Rousseau, Jean-Jacques (1762): Der Gesellschaftsvertrag oder Die Grundsätze des Staatsrechtes. Amsterdam, English translation by Henry John Tozer 1895 , https://oll.libertyfund.org/title/cole-the-social-contract-and-discourses

van de Sande, Alex (2015): Ethereum in Practice: How to build a better democracy in under a 100 lines of code. In: https://blog.ethereum.org/2015/12/04/ethereum-in-practice-part-2-how-to-build-a-better-democracy-in-under-a-100-lines-of-code/

Seckelmann, Margrit (2014): Wohin schwimmt die Demokratie?, in: DÖV 2014, S. 1-13, S. 6.

Sergeenkov, Andrey (2022): Decentralized Autonomous Parties — The future of democracy. https://cointelegraph.com/news/decentralized-parties-the-future-of-on-chain-governance

De Soto . Hernando (2014): The Capitalist Cure for Terrorism. In:WSJ.com, Oct. 10. 2014, https://www.wsj.com/articles/the-capitalist-cure-for-terrorism-1412973796

Tapscott, Don / Tapscott, Alex (2016): Blockchain Revolution, New York

Tarkowski Tempelhof, Susanne (2012): To be governed by TED, in: TedxTalks 2012, https://www.youtube.com/watch?v=owrXnfEGzhs

Wagener, Andreas (2018): Politische Disruption: Die Digitalisierung der Politik und die libertäre Technologie der Blockchain. In:  Liebold, Sebastian u. a. (Ed.) Demokratie in unruhigen Zeiten. Baden-Baden, 387–396.

Wagener, Andreas (2021): KI als Staatsprinzip. Leitlinien demokratischer Legitimation von AI Governance. In: SWS-Rundschau (61.Jg.) Heft 4/2021, S. 369 – 390

Waldmann, Steve R. (2016): A parliament without a parliamentarian. In: Interfluidity.com, http://www.interfluidity.com/v2/6581.html

Woods, Tyler (2015): How the blockchain could built a better democracy, In: https://technical.ly/brooklyn/2015/12/22/blockchain-democracy/

Yeung, Karen (2018) Algorithmic Regulation: A Critical Interrogation. In: Regulation & Governance, Nr. 4, 505–523, DOI: 10.1111/rego.12158

Dieser Artikel ist die deutsche Version eines Papers und Vortrages auf der Jahrestagung des Royal Anthropological Institute 2022: Anthropology, AI and the Future of Human Society. Panel des King’s College, London: P28b: Blockchain Imaginaries: Techno-utopianism, dystopias, and the future-imagining of Web 3.0.

Die Originalversion findet sich hier.

Citation: Wagener. Andreas (2022). Governance of Things: AI & DAOs in Politics – Utopia or Dystopia? Conference Paper: The Royal Anthropological Institute, London: RAI2022: Anthropology, AI and the Future of Human Society. Panel: P28b: Blockchain Imaginaries: Techno-utopianism, dystopias, and the future-imagining of Web 3.0 https://doi.org/10.57944/1051-129

[1] als Überblick: Algorithmwatch, https://algorithmwatch.org/de/stories/

Mehr zum Thema: Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Willkommen in der Matrix! Wie KI und Blockchain in der Industrie 4.0 zusammenwachsen“:

Der neueste Vortrag von Andreas Wagener: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Governance of Things: KI und DAOs in der Politik erschien zuerst auf Nerdwärts.de.

Diskriminiert Google? Mit Autosuggest lassen sich Verzerrungen beim maschinellen Lernen eindrücklich zeigen. Das hat auch Einfluss darauf, wie wir mit Generativer KI, mit ChatGPT&Co, umgehen sollten. Ein kurzer Auszug aus der Hofer Stadtvorlesung mit Andreas Wagener.

Auszug aus dem Vortrag: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“

Mehr zum Thema: der komplette Vortrag von Prof. Dr. Andreas Wagener: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Warum Google Autosuggest keine Ostdeutschen (und Hessen) mag – und was das mit GenAI zu tun hat erschien zuerst auf Nerdwärts.de.

Indem anhand der Struktur der Kunden, ihrer Verhaltensweisen und unter Berücksichtigung anderer Faktoren, wie der Ausgestaltung der Akquisekanäle, spezifische Muster ermittelt werden, lassen sich im Abgleich mit diesen im Rahmen von Unsupervised-Learning-Verfahren „Kündiger-Cluster“ erstellen und darauf aufbauend Kündigungswahrscheinlichkeiten im Wege des Supervised-Learning kalkulieren. Die dafür notwendigen Informationen können beispielsweise auch aus dem Lead Management sowie aus den im Rahmen des Kundenservice erhobenen Daten abgeleitet werden. Zumindest bei großen Kundenbeständen ist es möglich, auf diese Weise womöglich Zusammenhänge zu identifizieren, die in der operativen Arbeit sonst nicht augenfällig waren. Vertrieb und Marketing werden damit in die Lage versetzt, frühzeitig, idealerweise bevor der Kunde selbst eine Kündigung ausspricht, entsprechende Gegenmaßnahmen einzuleiten.

Vorausgehen sollte diesem Prozess allerdings auch eine Analyse der Frage, welche Kunden es tatsächlich wert sind, sie zu halten, und welche konkreten Maßnahmen in welchen Fällen gerechtfertigt sind. Hier spielen Customer-Lifetime-Value-Betrachtungen eine wichtige Rolle, die auch die kumulierten Deckungsbeiträge je Kunde berücksichtigen. Während in vielen Fällen in der Praxis – wenn überhaupt – dabei meist nur ein Durchschnittswert über alle Kunden zugrunde gelegt wird, könnte der Einsatz von intelligenten Systemen auch zu einer feineren Granulierung führen, die im Idealfall sogar eine kundenpersonalisierte Herangehensweise erlaubt, also für jeden potenziellen Kündiger individuell Kundenwerte berechnet, die dann jeweils darauf abgestimmte Gegenmaßnahmen auslösen.

Churn Management und Rückgewinnungsmanagement

Sollte die Kündigung doch bereits erfolgt sein, setzt das Rückgewinnungsmanagement ein, um Kunden zu reaktivieren oder von der Rücknahme der Kündigung überzeugen zu können. Je nach ermitteltem Kündigertyp lassen sich auch hier wieder spezifische Angebote unterbreiten, die jeweils die höchste Wahrscheinlichkeit einer Fortführung der Kundenbeziehung aufweisen.

Kündigungsursachen analysieren Voraussetzung zielgerichteter Halte- und Rückgewinnungsmaßnahmen ist die Kenntnis und das Verständnis der Kündigungsgründe. Die Ursachen einer Kündigung sind nicht selten vielschichtig, die Trennung zwischen Auslöser und Ursache ist oft schwierig und auch mit hohem Aufwand, wie späteren Telefonbefragungen, daher nicht immer exakt zu bestimmen. Auch hier können Methoden des maschinellen Lernens hilfreich sein, um typisierte Muster oder ein komplexes Zusammenspiel verschiedener Faktoren zu erfassen. Preissensibilitäten je Kunde lassen sich dabei ebenso berücksichtigen wie lange Bearbeitungszeiten oder eine womöglich missglückte schriftliche oder mündliche Servicekommunikation, die unter anderem im Rahmen einer Sentiment-Analyse ausgewertet wird.

Trennung von Problemkunden

Kündigungen müssen allerdings auch nicht immer durch den Kunden erfolgen, auch das Unternehmen selbst hat womöglich Gründe, diese auszusprechen. Von Kunden, die mehr Kosten als Erlöse verursachen, sollte man sich in aller Regel trennen, sofern nicht andere, langfristigere Gründe, wie Prestige oder Stakeholder-Pflege, dagegensprechen. Gerade bei einer umfangreichen Kundenbasis erweist sich die Identifizierung von solchen „Problemkunden“ manchmal als schwierig. Dies gilt insbesondere dann, wenn weitere komplexe Zusammenhänge wie auch zukunftsgerichtete Faktoren, jenseits bloßer kurzfristiger Ertragsbetrachtungen, ein derartiges Verdikt beeinflussen können.

Typische Fälle hierfür finden sich im Finanzbereich, bei Versicherungen und Banken, wenn es gilt, Risikobewertungen für den Eintritt von Schadensfällen oder Kreditausfällen abzugeben. Schon seit geraumer Zeit setzt man in diesem Bereich auf statistische Analysen, Mustererkennungen und Clusterbildungen. Die Weiterentwicklung dieser Methoden durch den systematischen Einsatz maschinellen Lernens dürfte inzwischen weit verbreitet sein. Wie immer steht und fällt die Qualität solcher, ja auch gesellschaftlich sensibler, Entscheidungen stets mit der Quantität und Güte der zugrunde gelegten Daten.

Der Artikel beruht auf dem Buch von Andreas Wagener Künstliche Intelligenz im Marketing – ein Crashkurs, Haufe, Freiburg, 2019:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Weitere Informationen zum Thema „KI im Marketing“ finden Sie hier:

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Ein neues Zeitalter im Marketing: Künstliche Intelligenz, maschinelle Kreativität, virtuelle Realitäten & DNA-Targeting“:

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Empfohlene Literatur

Der Beitrag Churn Management und Kundenrückgewinnung mit KI erschien zuerst auf Nerdwärts.de.

Algorithmic Governance kann allgemein als die automatisierte Entscheidungsfindung und -ausführung von institutionellem Handeln, vor allem der Politik, auf Basis von Datenauswertungen und Algorithmen begriffen werden. Zunehmend machen Staat und Verwaltung dabei von Verfahren des maschinellen Lernens und KI Gebrauch. Dies setzt entsprechend eine fortschreitende Digitalisierung politischer Abläufe und Strukturen voraus.

Als plakatives Beispiel lässt sich hier natürlich China als Vorreiter anführen. Die Vernetzung digitaler Prozesse, insbesondere auch gesellschaftlicher Art, nimmt hier ein Ausmaß an, das sonst wohl nirgends seinesgleichen findet. Durch die enge Anbindung der marktwirtschaftlich geführten Technologiekonzerne, wie Tencent oder AliBaba, an das als autoritär einzustufende politische System entstehen „Datensynergien“, die in pluralistisch-demokratischen Systemen derzeit undenkbar wären. Weitverbreitete Social-Media-Anwendungen, wie der Messenger WeChat, der auch eine vielgenutzte Zahlungsfunktion umfasst, kooperieren eng mit den staatlichen Stellen, die auf diesem Wege eine umfassende Datensammlung über alle gesellschaftlichen Teilbereiche hinweg verfolgen.

KI in der Politik: China als Maßstab?

Genutzt werden sollen diese Daten einerseits im Rahmen des berüchtigten chinesischen Social-Scoring-Systems, welches, basierend auf einem an Gamification erinnernden Prinzip, zum Ziel hat, gesellschaftlich konformes und gewünschtes Verhalten der Bürger durch die Schaffung von positiven Anreizen wie auch von Sanktionierungen zu bewirken. Überwacht und „gemessen“ werden können die Verhaltensweisen jedes Einzelnen durch die Auswertungen der Daten aus den zur Verfügung stehenden Quellen der chinesischen Digitalkonzerne. Wer etwa seine Rechnungen immer pünktlich bezahlt, sich positiv über die gesellschaftliche Entwicklung äußert oder ein verantwortungsbewusstes Konsumverhalten an den Tag legt – zum Beispiel indem er durch den Kauf von Windeln bekundet, dass er offenbar als Elternteil mehr Leistung für die Gemeinschaft erbringt –, hat Vorteile gegenüber jenen, die sich eher als „Individualisten“ hervortun, etwa weil ihre Zahlungshistorie entsprechende Positionen für die Ausgaben von Online-Games belegt. Dieser Social Score kann dann über die Vergabe von Privilegien, etwa hinsichtlich der bevorzugten Ausspielung des eigenen Profils bei Dating-Apps bis hin zur Reisefreiheit, entscheiden.

Bußgeld in Echtzeit

Andererseits werden die geschaffenen digitalen Strukturen aber auch für die direkte staatliche Umsetzung bestehender Regeln und Gesetze genutzt. Der Fortschritt im Bereich der KI und der digitalen Gesichtserkennung ermöglicht es, Normenverstöße „ad hoc“ zu sanktionieren. Ein Überqueren der Straße bei roter Ampel kann über den flächendeckend ausgebreiteten Überwachungsapparat sofort erfasst werden, installierte Kameras mit verknüpfter Gesichtserkennung erlauben es, „Gesetzesbrecher“ umgehend zu identifizieren und die entsprechende Strafe automatisiert zu verhängen. Exekutive und Judikative agieren somit wahrhaft algorithmisch, in einer strikten binären „wenn-dann“-Verknüpfung, ohne dass eine menschliche Beteiligung zur Durchsetzung der gesellschaftlichen Normen noch notwendig wäre.

Algorithmic Governance in Demokratien

Aber auch in pluralistischen, demokratischen Systemen gibt es Überlegungen, KI und Datenökonomie für die Erfüllung staatlicher Aufgaben heranzuziehen. Estland, wie erwähnt, ein Vorreiter im Bereich der eGovernance, versucht in einem 2019 begonnenen Projekt zu eruieren, ob es, mit dem Ziel, Staatsapparat und politische Prozesse zu verschlanken, sinnvoll ist, spezifische staatliche Funktionen auf eine KI und algorithmische Verfahren auszulagern. Im Fokus steht dabei unter anderem auch die Einrichtung eines „Robo-Richters“, einer rein digitalen Anwendung, die kleinere privatrechtliche Rechtssachen mit einem Streitwert von bis zu €7.000,00 in erster Instanz autonom bearbeiten soll.

Unterstützend wird derartige Technologie auch in den USA genutzt, wenn Richter über die vorzeitige Entlassung verurteilter Straftäter auf Bewährung entscheiden sollen. Die Software COMPAS errechnet dazu aus 137 erhobenen Merkmalen die individuelle „Rückfall-Wahrscheinlichkeit“. Zwar ist der Richter immer noch frei in seiner Entscheidung, weicht er jedoch von der Empfehlung des Programms ab, so muss er dies gesondert begründen. Das Verfahren ist hochumstritten und gilt als anfällig für den sogenannten „KI-Bias“, bei dem Fehler im KI-Training – wie etwa die Verwendung einseitiger Trainingsdaten – zur Verfestigung faktischer „Vorurteile“ oder zu Verzerrungen führen. Eine Untersuchung des Nachrichtenmediums „Pro Publica“ belegt eine deutliche Diskriminierung schwarzer Amerikaner durch das System: Weiße, deren Rückfallrisiko COMPAS als niedrig einschätzte, wurden tatsächlich viel häufiger wieder straffällig als Schwarze mit niedrigem Risikowert. Eine weitere Studie des Dartmouth College belegte zudem, dass zufällig ausgewählte juristische Laien mit weniger Informationen bei einer Prognose in etwa genauso gut wie der Algorithmus lagen.

Gerechtere Entscheidungen mit KI in der Politik?

Jedoch verstummt der Ruf nach einem verstärkten Einsatz von KI und verwandter Technologien bei der Ausübung staatlicher Autoritätsfunktionen deswegen nicht. Begründet wird dies etwa mit der Vermeidung menschlicher Voreingenommenheit und der rigorosen Sachlichkeit, die digitale Systeme von vornherein mit sich bringen. Damit verknüpft sich die Hoffnung, dass der Fortschritt derartige technische „Kinderkrankheiten“ mit der Zeit eliminiert, während hingegen ein auf jeden Fall immer bestehender „menschlicher Bias“ damit umgangen werden könne.

Angewandter KI werden aber auch in der praktischen Politik erhebliche Kompetenzen zugesprochen. Gemäß einer Studie des spanischen Center of the Governance of Change würde ein Viertel der Befragten es bevorzugen, dass politische Entscheidungen eher von einer KI als von Politikern aus Fleisch und Blut getroffen werden würden. Darin mag einerseits eine allgemeine und derzeit weit verbreitete Ernüchterung gegenüber der Demokratie und ihrer traditionellen Institutionen zum Ausdruck kommen. Andererseits weist dieses Ergebnis auch auf ein sich wandelndes, zunehmend „technozentrisches“ Weltbild hin, welches jedoch zugleich eine Paradoxie enthüllt, erhoffen sich heute doch viele von der Politik gerade auch einen Schutz vor Technisierung und Disruption.

Tech-Unternehmen und KI als gesellschaftliches Steuerungsinstrument

Wille und Bereitschaft, intelligente Technologie für die Lösung gesellschaftlicher Probleme einzusetzen sind weit verbreitet. Google will KI gezielt für „gesellschaftliche Herausforderungen“nutzen, konkret etwa auch in der Arbeitsmarktpolitik, im Natur- und Landschaftsschutz oder anderen klassischerweise staatlichen Domänen. Auch in der Wirtschaftspolitik ist eine aktive Einbindung von KI Gegenstand zahlreicher Diskussionen. Durch deren immer besser werdende Prognosefähigkeit können Vorhersagen perspektivisch immer weiter, bis hin zur absoluten Verlässlichkeit perfektioniert werden, so die Argumentation. Jack Ma, Gründer von Alibaba, geht sogar so weit zu sagen, dass die Übertragung derartiger Kompetenzen an eine KI dazu führen würde, dass Marktunsicherheiten generell überwunden werden könnten und dies letztlich erlauben würde, „die Planwirtschaft zu verwirklichen“. Andrew Ng, oft als „KI-Pionier“ titulierter, ehemaliger führender Mitarbeiter der KI-Forschungsabteilungen von Google und Baidu und heute einer der maßgeblichen Tech-Investoren auf diesem Gebiet, gibt das Bildungsziel einer „KI-betriebenen Gesellschaft“ aus, die maßgeblich durch intelligente Technologie geprägt wird. Selbst von KI als einer „Friedensmaschine“ ist bei manchem, wie dem renommierten finnischen KI-Forscher Timo Holenka, die Rede sowie von dem Ziel, Demokratie durch deren Einsatz „besser zu machen“. Statt wichtige gesellschaftliche und politische Entscheidungen einigen wenigen zu überlassen, selbst wenn diese ihr Mandat aus freien und unabhängigen Wahlen beziehen, sollte der Einsatz von KI demnach die „Weisheit der Vielen“ aggregieren, wovon man sich eine höhere Stabilität der demokratischen Systeme verspricht.

Mahnende Stimmen gegen den Einsatz von KI in der Politik

Demgegenüber stehen mahnende Stimmen, wie die des französischen Präsidenten Emanuel Macron. Dieser erkennt gleichfalls an, dass die gerade stattfindende technologische Revolution in Wahrheit vor allem auch eine politische ist, weist aber auf die Bedrohungen für die Demokratie durch schlecht im System verankerte KI und deren Beteiligung an der politischen Entscheidungsfindung hin. Noch deutlicher wird der selten um visionäre Ansätze verlegene Tesla-, SpaceX- und Neuralink-Gründer Elon Musk, demzufolge der Rückgriff auf KI oder gar die Übertragung politischer Kompetenzen an diese einen „unsterblichen digitalen Diktator“ erschaffen könnte.

Tatsache ist, dass die Einbindung von KI als unterstützendes Instrument, aber auch als maßgebliche Instanz der politischen Entscheidungsfindung keine Phantasterei, sondern vielmehr eine sich bereits etablierende Realität darstellt. Der „staatliche Organismus“ wird somit auch innerhalb seines „zentralen Nervensystems“ zunehmend technologisch herausgefordert. Die immer weiter fortschreitende Entwicklung hat bereits eine gesamtgesellschaftliche technologische Transformation eingeleitet. Eine entsprechende breite Diskussion über die Folgen für das Handeln des Staates, die praktische Politik, wäre daher dringend geboten – und zwar jenseits aktueller Diskurse und Weissagungen, die aufgeregt zwischen positiven ökonomischen Zukunftsversprechungen einerseits und düsteren dystopischen Schreckensszenarien andererseits oszillieren.

KI in der Politik als „Disruptive Innovation“

Disruptive Innovationen wie der Einsatz von KI in der (politischen) Entscheidungsfindung stellen unzweifelhaft Herausforderungen für Kernfunktionen des nationalen wie auch des internationalen politischen Systems dar. Die Grundlagen der herrschenden Ordnung, Regeln, Institutionen, und damit die Machtpositionen verändern sich tiefgreifend. Digitale Technologien wie KI und maschinelles Lernen versetzen Individuen und Gruppen, die diese zu nutzen wissen, potenziell in die Lage, Dinge zu tun, die bisher Staaten und staatlichen Organisationen vorbehalten waren. Diese „digital Ermächtigten“ sind nicht im klassischen Sinne gesellschaftlich legitimiert oder prinzipiell „moralisch gebunden“. Damit stellt sich die grundsätzliche Frage nach der Existenzberechtigung des Staates. Eine ganz neue, eigene gesellschaftliche disruptive Qualität ist somit entstanden. Die Aufgabe, diesen mit einer humanen Prägung zu versehen, liegt bei uns.

Das Thema der „Algoritmic Governance“ ist Bestandteil einer 3 teiligen Reihe auf diesem Blog: zu Teil 1 – hier entlang.

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Wie der Staat mit Daten umgeht. Was ist gesellschaftlich akzeptabel?“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag KI und praktische Politik: Einsatz von KI in staatlichen Entscheidungsprozessen erschien zuerst auf Nerdwärts.de.

In den beiden vorangegangenen Beiträgen haben wir uns mit der Beschaffenheit von algorithmischen Entscheidungen und dem Problem des Einsatzes von KI in der Politik (AI Governance) (Teil 1) sowie mit den entsprechenden Einsatzfeldern (Teil 2) beschäftigt. Nachdem der Rückgriff auf diese Verfahren bereits faktisch erfolgt, gilt es dringend die Rechtmäßigkeit und Legitimität dieses Einsatzes zu hinterfragen.

Für die Akzeptanz algorithmischer Entscheidungen ist deren Nachvollziehbarkeit von großer Bedeutung. Je mehr Daten aus unterschiedlichen Datenquellen zur Verfügung stehen, umso komplexer geraten jedoch zwangsläufig die zugrundeliegenden Berechnungen. In der Praxis sind die Entscheidungspfade von KI heute oft nur durch ein aufwändiges „reverse engineering“ zu entschlüsseln. Transparenz ist allerdings wichtig, damit verständlich ist, warum eine Entscheidung auf diese Art und Weise getroffen wurde – und sich davon Betroffene gegebenenfalls mit den Mitteln des demokratischen Rechtsstaats dagegen zur Wehr setzen können. Schon seit geraumer Zeit wird daher eine Art Bürgerrecht auf die Offenlegung algorithmischer Entscheidungen diskutiert. Die Komplexität moderner, vielschichtiger „Deep Learning“-Systeme und die ihnen immanente Eigenständigkeit bei der Weiterentwicklung der Entscheidungssystematiken erschweren diese Rekonstruktion jedoch erheblich. Diesem Aspekt widmet sich das noch neue Forschungsfeld der „Explainable AI“, welches zum Ziel hat, Handreichungen für die Erklärung von KI-Entscheidungen im Alltag zu liefern – zum Beispiel warum ein Versicherungsantrag abgelehnt oder die Kreditwürdigkeit eines Schuldners herabgestuft wurde – und auch um mögliche Diskriminierungen in diesem Kontext aufzudecken.

Algorithmic Governance und Algorithmic Bias

Neben rational nachvollziehbaren Entscheidungswegen stehen hierbei auch technische Auswüchse und Fehlentwicklungen, wie der sogenannte „Algorithmic Bias“ im Fokus. Immer wieder kommt es zu einem vermeintlichen Versagen von algorithmischen Systemen, die plötzlich scheinbar irrationale, auch ethisch frag- oder verurteilungswürdige Ergebnisse produzieren. Die Ursache hierfür liegt allerdings meist nicht in der Systemstruktur, sondern im Lernprozess und ist in der Regel auf eine unausgewogene Zuführung von Trainingsdaten zurückzuführen.

Zu einer entsprechend zweifelhaften Berühmtheit brachte es ein von Google verwendeter Bilderkennungsalgorithmus, der Fotos autonom benannte und sortierte.  Eine Aufnahme, die zwei Afroamerikaner zeigte, wurde mit der Bezeichnung „Gorillas“ etikettiert und verarbeitet. Der Aufschrei vor allem in den USA war entsprechend groß. Als Ursache wurde eine unbeabsichtigte einseitige Auswahl und Verwendung von Trainingsbildmaterial identifiziert. Offenbar hatte man vorwiegend Fotos von hellhäutigen Personen für das Training der Kategorie Mensch verwendet, die Zuordnung eines Bildes eines dunkelhäutigen Menschen durch den Algorithmus erfolgte dann zwangsläufig unter großer Unsicherheit: Je nachdem welches Merkmal der Algorithmus als signifikant für die Zuordnung zu einer Kategorie identifizierte – auch Gorillas haben schwarze Haut – wurde die Sortierung entsprechend ausgeführt. Dass sich auch Facebook etliche Jahre später, im Jahr 2021, mit einer vergleichbaren Problematik konfrontiert sah – der Newsfeed-Algorithmus fragte Nutzer, die sich ein Video mit dem Titel „Weißer Mann ruft Polizei wegen schwarzen Männern am Hafen“ angesehen hatten, ob sie nun „weitere Videos über Primaten“ sehen wollten – zeigt, wie schwierig es offensichtlich ist, hier eine zufriedenstellende technische Lösung zu finden. Gerade im staatlichen Kontext wäre es aber selbstverständlich höchst problematisch, wenn Menschen nicht mehr als solche identifiziert werden.

Predictive Policing als Algorithmic Governance

Im Bereich der staatlichen Governance sorgt in diesem Zusammenhang regelmäßig das sogenannte „Predictive Policing“ für Aufsehen, das vor allem in den USA, aber auch zunehmend in Europa zum Einsatz kommt. Mit dem Ziel, die Polizeiarbeit auf diese Weise effizienter zu steuern, soll die Wahrscheinlichkeit „zukünftiger“ Straftaten oder des Eintritts anderer polizeilicher Einsatzszenarien, aus einer Vielzahl von verfügbaren Datenquellen berechnet werden. Durch die entsprechend daraus abgeleitete erhöhte Präsenz in ermittelten Problembezirken soll es gelingen, die Kriminalitätsraten erheblich zu senken. Kritiker bemängeln allerdings die damit ihrer Ansicht nach zwangsläufig einhergehende Diskriminierung, werden hier doch alle Bewohner eines Stadtteils automatisiert unter Generalverdacht gestellt, sofern die hinterlegten Algorithmen ihre Nachbarn „statistisch“ als vergleichsweise kriminell einstufen. Auch sind in den USA überwiegend afroamerikanische Gegenden von den zusätzlichen Polizeikontrollen betroffen, was dem System den Vorwurf der Ungleichbehandlung und des „Racial Profiling“ einbrachte. Die Funktionsweise der algorithmischen Entscheidungsfindung definiert somit in diesem Fall den Umgang des Staates mit seinen Angehörigen, teilt diese automatisiert in mehr- und minderprivilegierte Gruppen und wirkt mit diesem „Bias“ unweigerlich auf den Bereich der Bürgerrechte ein.

Algorithmic Governance und Transparenz

Die Gewährleistung von Transparenz verkörpert gerade in „Sachfragen“ seit jeher eine wichtige erste Bedingung zum Schutz vor Verzerrungen und Manipulationen. Gerade da, wo eine direkte politische Aufsicht durch entsprechende Institutionen nicht möglich oder nicht zweckmäßig erscheint, ist im demokratischen Staat eine Überwachung durch das öffentliche Publikum unabdingbar. Aber nur, wenn staatliches Handeln hier tatsächlich sichtbar und „durchschaubar“ wird, kann die Öffentlichkeit dieser Kontrollfunktion auch gerecht werden.

Neben der Nachvollziehbarkeit ist auch die Zuweisung von Verantwortlichkeiten von Governance-Entscheidungen und die dazugehörige Rechenschaftspflicht, also die „Accountability“, für die Funktionsweise des demokratischen Staates unerlässlich. Sofern die Abwicklung politischer Prozesse von den menschlichen Repräsentanten eines Staates gewissermaßen auf eine technische Lösung „outgesourced“ wird, so ist deren Arbeitsweise einerseits aufgrund von Effizienzerfordernissen, andererseits aber auch hinsichtlich der Vereinbarkeit der generierten Ergebnisse mit den staatlichen Zielen regelmäßig zu überprüfen. 

Verantwortung und Algorithmic Governance

Die Zurechenbarkeit politischer Handlungen ist in der Demokratie essentiell. Sie kann in diesem Kontext jedoch nur gewährleistet werden, wenn der Einsatz von Algorithmen ausdrücklich als Hilfsmittel der demokratisch legitimierten menschlichen Vertreter betrachtet wird – jedenfalls so lange es nicht möglich ist, den Algorithmus aufgrund von Unzufriedenheit mit den erbrachten Leistungen direkt selbst zu sanktionieren – also abzuwählen. Wenn diese – langfristig durchaus technisch denkbare – Option nicht besteht, bedeutet das, dass die Leistung eingesetzter Algorithmen zwingend mit den gewählten Repräsentanten des Staates, die diesen Einsatz verantworten, verknüpfbar sein muss. Dies bedeutet wiederum, dass nicht nur demokratische Kontrollinstanzen, sondern vor allem auch diejenigen, die den Einsatz von Algorithmen im Bereich der Governance verantworten, nachvollziehen und verstehen müssen, wie und warum diese auf ihre spezifische Weise funktionieren (oder eben nicht). Das kommt besonders dann zum Tragen, wenn die algorithmische Entscheidung einen hohen Automatisierungsgrad aufweist – in aller Regel bereits ab der beschriebenen Kategorie A2, in jedem Fall bei A3, im Falle „echter“ AI-Governance.

Explainable AI und Responsible AI

Der in jüngster Zeit verstärkt verwendete Begriff der „Responsible AI“ erweitert den oben genannten Terminus der „Explainable AI“. Er steht für den Übergang von Absichtserklärungen und formulierten Grundprinzipien hin zu einer Operationalisierung der Verantwortlichkeiten und Rechenschaftspflichten, auch, aber nicht ausschließlich, im Bereich der Algorithmic Governance. Gleichwohl sind diese Bestrebungen in der Umsetzung derzeit noch als recht rudimentär einzuordnen – zumindest was komplexere, KI-basierte Algorithmen betrifft. Das bedeutet, dass sich zwar alle Ansätze zur demokratischen Legitimation von Algorithmic Governance selbstverständlich am Umgang mit den beschriebenen Herausforderungen im Bereich der Transparenz und Accountability messen lassen müssen, gleichzeitig aber auch, dass dies vermutlich nur schwer mittels herkömmlicher Modelle und Vorgehensweisen gelingen wird.

Grenzen von Algorithmich Governance und ihrer demokratischen Legitimation

Man könnte die Auffassung vertreten, dass angesichts der Bedeutung, die Algorithmen heute in unserem Alltag einnehmen, vielleicht bereits das Ende des Anthropozäns eingeläutet worden ist und wir damit nun am Anfang eines „posthumanen“ Zeitalters stehen. Das gilt vor allem dann, wenn man auf die Entwicklungen im Bereich der KI und den entsprechenden Autonomiegrad solcher hoch entwickelten Systeme blickt. Entsprechend werden schließlich auch unter dem Aspekt der „Singularität“ die gesellschaftlichen und ökonomischen Auswirkungen diskutiert, sollten Algorithmen und intelligente Systeme eines – nicht allzu fernen – Tages die menschliche Leistungs- und Adaptionsfähigkeit übertroffen haben.

De Facto sind Algorithmen heute schon nicht mehr rein technisch-rationale Konstrukte. Sie repräsentieren auch immer den Einfluss derjenigen, die an ihrer Entstehung beteiligt sind, sowohl politisch als auch technisch. Insofern können sie als eine Art „Amalgam“ aus Mensch und Code verstanden werden. In dieser Auffassung spiegelt sich das Grundprinzip der Denkschule des „Neuen Materialismus“ wider. Demnach erschiene es zunehmend unangebracht, zwischen Menschen und Nichtmenschen, Leben und nicht lebendiger Materie und auch zwischen Akteuren und Strukturen zu unterscheiden. Vielmehr vermischen sich Menschen und Computeralgorithmen zu „sozio-materiellen Assemblagen“ (Kim 2020), wodurch neue Handlungsfähigkeiten und daraus resultierende Wirkungsweisen entstehen.

Von Algorithmic Governance zur Governance of Things

In Anlehnung an das vielzitierte „Internet der Dinge“ („Internet of Things“) könnte auf diese Weise dann eine „Governance of Things“ entstehen. Die menschlichen Systementwickler diktierten dabei nicht die Funktionsweise des Algorithmus, die Governance entstünde aus dem Zusammenwirken von Algorithmus und Systementwicklern, explizit etwa beim menschlich induzierten Training mit KI-Daten und der daraus resultierenden autonomen Lernentwicklung des Systems. Dieser Vorgang beinhaltet laufende Interaktionen und Iterationsschleifen zwischen beiden „Parteien“ und führt damit zu einer Verselbständigung dieser „Amalgambildung“.

Spannungsfelder von Algorithmic Governance

Die Frage ist jedoch, ob diese Betrachtungsweise der Legitimation algorithmischer politischer Entscheidungen dienen kann. Wie wir gesehen haben, bewegt sich Algorithmic Governance in einem Spannungsfeld zwischen mehreren verschiedenen Polen, was es immens erschwert, hierauf eine eindeutige Antwort zu geben:

Einerseits kann sie für politische Ergebniseffizienz sorgen, indem die das menschliche Vermögen übersteigenden Rechenleistungen zielgerichtet eingesetzt werden. Andererseits besteht die Gefahr, dass damit im Einzelfall bürgerliche Rechte eingeschränkt werden oder dies Diskriminierung zur Folge hat, wenn Effizienz das ausschlaggebende Element von Politik wird.

Einerseits sorgt der Rückgriff auf Algorithmen für eine Versachlichung politischer Entscheidungen. Andererseits kann genau dies auch zu einer Entmenschlichung führen, wenn Einzelschicksale zu Gunsten „des großen Ganzens“ in automatisierten Entscheidungssituationen keine Berücksichtigung finden können.

Einerseits ist Transparenz der Entscheidungsprozesse ein wichtiges Legitimationserfordernis. Andererseits beinhaltet dies auch eine weitgehende Transparenz des Individuums, denn anders können spezifische Entscheidungen durch Algorithmen nicht effizient getroffen werden, wodurch aber das Bürgerrecht der informationellen Selbstbestimmung tangiert wird.

Diese Spannungsfelder berühren den Kern vieler hochrelevanter gesellschaftspolitischer Themen. Es erscheint schwer vorstellbar, diese bislang in allen Demokratien der Welt immer wieder aufs Neue auszuhandelnden Fragen einem letztlich doch seelenlosen System anzuvertrauen oder ihm hier zumindest ein qualitatives „Mitspracherecht“ einzuräumen – jedenfalls solange ein posthumanes Zeitalter noch nicht eingetreten ist. Und würde nicht gerade der regelmäßige Einsatz von intelligenten Algorithmen in der Politik dessen möglichen Eintritt beschleunigen? 

Algorithmic Governance vs. AI Governance

Der Unterschied zwischen „Governance by Algorithms“ und „Governance by AI“ ist im eigenständigen Lernen und dem Autonomiegrad algorithmischer Entscheidungen zu sehen. Solange Algorithmen ein bloßes Hilfsmittel der Regierungsarbeit darstellen, die Kontrolle bei den menschlichen Entscheidern verbleibt – so wie im vorigen Artikel in dieser Reihe in der Kategorie A1 beschrieben – können diese einen wichtigen und wertvollen Beitrag zur praktischen Politik leisten, indem sie Entscheidungen tatsächlich effizienter, sachlicher und transparenter machen. Mindestens aber, wenn von „echter“ AI Governance die Rede ist, aber eigentlich schon bei der zweiten, nicht gänzlich autonomen Kategorie (A2), werden schnell die Grenzen legitimer Einsatzszenarien überschritten. Eine Legitimation nach demokratietheoretischen (humanistischen) Gesichtspunkten ist dann eigentlich nicht denkbar. Für den demokratischen Staat kann das dann aber in letzter Konsequenz nur bedeuten, dass AI Governance in sämtlichen Bereichen der staatlichen Sphäre ausgeschlossen werden sollte – mit allen Konsequenzen, die dies auch für bereits erprobte Anwendungen hat.

Solange wir davon ausgehen, dass Politik und gesellschaftliche Prozesse auch in Zeiten zunehmender Komplexität zuallererst Gegenstand zwischenmenschlicher Verhandlungen sind, sollten wir uns der Demokratie willen dieser Verantwortung höchstpersönlich und nicht verschanzt hinter einer Mauer aus Einsen und Nullen stellen.

Der Artikel erschien in überarbeiteter und deutlich erweiterter Form in der SWS-Rundschau, Andreas Wagener: Demokratische Legitimation von AI Governance, Sozialwissenschaftliche Rundschau, Heft 4/2021, 61. Jahrgang, S. 369 – 390

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Wie der Staat mit Daten umgeht. Was ist gesellschaftlich akzeptabel?“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Transparenz und Verantwortung: Das Legitimationsproblem algorithmischer Entscheidungen in der Politik erschien zuerst auf Nerdwärts.de.

Im ersten Teil der Reihe haben wir das Prinzip der Algorithmic Governance bzw. von AI Governance erläutert. Potenziell ist der Rückgriff auf Algorithmic Governance in allen Politikbereichen denkbar, und auch de facto steigt die Zahl der Anwendungen Policyfeld-übergreifend seit Jahren kontinuierlich an – innerhalb und außerhalb Europas. Typische Einsatzgebiete sind insbesondere die Arbeitsmarktpolitik, Verkehrs- und Infrastrukturpolitik, Gesundheitspolitik, Innere Sicherheit und Verteidigung.

Neben der inhaltlichen Ausrichtung lassen sich die Erscheinungsformen von Algorithmic Governance auch nach dem Grad ihrer Eigenständigkeit unterscheiden, der sich auch aus dem Maß ihrer „Anwendungsintelligenz“ ableitet. Diese steigt gleichfalls mit dem Grad der Automatisierung und der damit einhergehenden zunehmenden Unabhängigkeit von menschlichen Eingriffen. Demnach kann die Verwendung von Algorithmen im Bereich der staatlichen Governance in drei grundlegende Aufgabengebiete mit steigendem Autonomie- und Datenintelligenzgrad eingeteilt werden, die auch als aufeinander aufbauende, zeitlich versetzte Phasen zu betrachten sind.

Diese, hier als „3As“ bezeichneten Dimensionen, umfassen:

• A1 – Analyse
• A2 – Automation
• A3 – Autonomes Agieren

Der Aspekt der Analyse bezieht sich zunächst auf sämtliche Aufgaben der Datenerfassung, und Dateninterpretation. Derartige Systeme werden in erster Linie entscheidungsvorbereitend eingesetzt, d.h. sie dienen dazu, die notwendige Datenbasis zu aggregieren, welche die Grundlage einer menschlichen Entscheidung bilden. Maschinell automatisiert kann also die Datensammlung und -auswertung sein, nicht aber die Entscheidungsfindung und -ausführung.  Hierbei handelt es sich meist um klassische Wissens- und Datenmanagementsysteme.

Die Dimension der Automation baut auf der Vorarbeit der als A1 beschriebenen Systeme auf, bezieht aber auch die mechanisierte Ausführung spezifischer Aufgaben, die auf der zuvor erhobenen Datenbasis fußen, mit ein. Dies erfolgt weitgehend losgelöst von menschlichem Eingreifen, zwar grundsätzlich eigenständig, aber womöglich entlang vorab definierter Regeln, also nicht gänzlich autonom von externem menschlichen Einfluss. Meist werden Handlungsfolgen definiert, die aus dem Eintreten von bestimmten Ereignissen resultieren. Allerdings sind diese Handlungsfolgen nicht zwingend als unumstößlicher Automatismus zu sehen, der Mensch verbleibt in seiner Rolle als finale Entscheidungsinstanz. In der Praxis wird dies meist so gehandhabt, dass der Verantwortliche zwar gegen die konsekutiv-rationale Empfehlung des Systems handeln kann, dieses Abweichen aber dann dokumentiert und begründet werden muss. Ganz entscheidend ist dabei, wie hier die Interaktion zwischen System und Mensch ausgestaltet wird, also ob dem menschlichen Entscheider das System weiterhin als Hilfsmittel untergeordnet bleibt oder ob für ihn lediglich die Rolle des Vetogebers in einem ansonsten völlig autonom gestalteten Prozess als „Ultima Ratio“ vorgesehen ist. In der Regel verläuft somit hier die – aus diesem Grunde nicht immer ganz eindeutige – Grenze zwischen herkömmlicher „Algorithmic Governance“ und „AI Governance“.

Die Analyse und die Automation der Verarbeitungsprozesse bilden die Voraussetzung für die eigenständige Handlungsfähigkeit eines Systems, auch ohne eine „Rückkoppelung“ mit festgesetzten „Aktionsmaximen“. Eigenständiges Anstoßen autonomer Prozesse, ohne menschliches Zutun, echtes autonomes Agieren, stellt die Endstufe intelligenter, eigenständiger algorithmischer Systeme dar – gewissermaßen also AI Governance in Reinform. Ein mögliches menschliches Vetorecht, wie oben beschrieben, hat nurmehr den Charakter einer Qualitätskontrolle, verändert aber nicht den Charakter des Systems als im Kern eigenständige und unabhängige Intelligenz. Auch wenn derartige Anwendungen heute noch hypothetischer Natur zu sein scheinen, zeigt der technische Fortschritte auf dem Gebiet der angewandten KI deutlich, dass es sich hierbei nicht um bloße Zukunftsvision handelt, sondern, dass der Einsatz dieser Systeme schon bald sehr konkret werden könnte.

Um die Gliederung in die „3A“ zu verdeutlichen, sollen im Folgenden jeweils entsprechende Beispiele beschrieben werden:

Algorithmic Governance: A1 – Analyse

Das Sozialprognosen-System „Riscanvi“ wird von katalanischen Gefängnissen genutzt, um Bewährungsentscheidungen vorzubereiten. Insassen werden in regelmäßigen Abständen, mindestens alle 6 Monate, befragt. Aus den erfassten Erkenntnissen berechnet das Programm eine Risikoprognose, die regelmäßig evaluiert wird und gegebenenfalls zur Justierung der Systematik führt. Riscanvi bezieht dabei Informationen zu verschiedenen Risikofeldern ein, zum Beispiel Konflikte mit anderen Insassen, Rückfälle zur Gewalttätigkeit, Selbstverletzungen und Verstöße gegen die Bedingungen von Hafturlauben, aber auch Daten zur sozialen Situation wie fehlende familiäre Unterstützung oder die persönliche finanzielle Lage der Häftlinge. Methoden maschinellen Lernens kommen dabei nicht zum Einsatz, Eingriffe in die Logik des Systems erfolgen allein händisch auf Basis der Evaluationsergebnisse. Laut offiziellen Angaben besteht für die Nutzer des Systems keine Verpflichtung, den Vorschlägen zu folgen. Sie gelten als Orientierungshilfe, aber nicht als Maßgabe. Eine Begründung, warum man gegen die Empfehlung des Systems entscheidet, ist nicht notwendig.

Algorithmic Governance: A2 – Automation

Ein Beispiel für die zweite Kategorie der Algorithmen im Bereich der Governance stellt das automatisierte Steuerprüfungssystem CFVR der französischen Finanzbehörden dar. Auf Basis von Daten aus früheren Kontrollen wird versucht, aktuelle Verhaltensmuster von steuerpflichtigen Unternehmen und Privatpersonen zu analysieren und auffällige Verhaltensweisen, die auf illegale Aktivitäten und Versuche von Steuerhinterziehungen hinweisen, zu identifizieren. Verknüpft wird dies mit anderen staatlichen und privaten Datenquellen, wie Kontodaten, Informationen von Katasterämtern und ausländischen Unternehmensverzeichnissen, aber auch Daten aus den Sozialen Medien. Dabei kommen auch Netzwerkanalysen, die das Beziehungsgeflecht zu anderen Personen und Institutionen beleuchten zum Einsatz, etwa um Komplizenschaften aufzudecken. Damit entsteht ein Gesamtbild, dass sich dem Steuerfahnder im Rahmen der herkömmlichen Arbeit nur schwer erschlossen hätte. Der Algorithmus aggregiert und verdichtet die vorliegenden Informationen, um daraus konkrete Handlungsaufträge abzuleiten. Ziel ist es, jede zweite Steuerkontrolle durch den Algorithmus auszulösen. Die Steuerfahnder erhalten dazu jeweils für ihren Aufgabenbereich eine Liste der zu kontrollierenden privaten und juristischen Personen, es obliegt aber letztlich ihrer jeweiligen Entscheidung, ob diese Kontrolle tatsächlich auch durchgeführt wird. Ein eigenständiger Automatismus, der autonom die berechnete Steuerschuld eintreiben würde, existiert nicht und ist auch nicht angedacht. Gleichwohl gibt es Bestrebungen, hier eine stärkere Verpflichtung zur Betätigung für die Behörden seitens des Finanzministeriums durchzusetzen.

Algorithmic Governance: A3 – Autonomes Agieren

Auch wenn die Dimension des „Autonomen Agierens“ zunächst noch sehr zukunftsbezogen erscheint, lassen sich angesichts einiger existierender Anwendungen in der Praxis bereits verschiedene Einsatzszenarien skizzieren, wie die folgenden Beispiele zeigen:

China verfügt bereits über ein weitverzweigtes Kameranetz im öffentlichen Raum. Dieses wird nicht nur zu Überwachungszwecken und für Ziele der inneren Sicherheit genutzt, sondern dient auch der Legitimation und der Abwicklung von Transaktions- und Zahlungsprozessen, so ist es etwa an vielen Stellen möglich, mittels entsprechender Apps per Gesichtserkennung und personalisiert hinterlegter Kontoinformationen zu zahlen. Im Zuge der Bestrebungen, ein staatliches „Social Credit System“ zur wertkonformen Verhaltensbeeinflussung zu errichten, entstand auch die Idee, die öffentlichen Videosysteme dazu zu nutzen, individuelle Verfehlungen im Straßenverkehr durch eine Art „sozialen Pranger“ zu ahnden. Personen, die eine rote Fußgängerampel missachteten, wurden im Moment des Regelverstoßes, in „Echtzeit“, auf eine Videowand in der Nähe projiziert – zunächst als bloße Erziehungsmaßnahme und abschreckendes Beispiel. Diskutiert wurde jedoch in der Folge, ob man mittels der bereits verwendeten „pay per face“-Technologie und durch die entsprechende Verknüpfung der jeweiligen Datenbanken dieses Verfahren nicht dazu nutzen könne, direkt und automatisiert Bußgelder gegen die überführten Verkehrssünder zu verhängen und sofort von diesen einzuziehen. Ein menschliches Eingreifen wäre dazu dann nicht mehr notwendig, das System übernähme den kompletten Bereich der Tatbestandsermittlung, der Festlegung des Strafmaßes und der Ausführung der Strafe bzw. die zugrundeliegende finanzielle Abwicklung.

Algorithmic Governance: Autonomes Agieren im Kampfeinsatz

In anderen Bereichen der staatlichen Sphäre mit ungleich größerer Tragweite sind solche Automatismen bereits seit längerem in der Praxis etabliert. Dies gilt insbesondere für den militärischen Bereich und die autonome Kriegsführung: Für Aufsehen sorgte zuletzt ein UN-Bericht, der beschrieb, wie eine militärische Drohne in Libyen im Jahr 2020, ohne ausdrückliche menschliche Veranlassung, ein feindliches militärisches Ziel mit ihrem Waffensystem attackierte und eigenständig „Jagd machte“ auf die gegnerischen Verbände. Die selbststeuernde Drohne agierte unabhängig und ohne Datenverbindung zum menschlichen Militärpersonal. Damit entfiel hier selbst die ansonsten bei autonomen Militärschlägen mit potenziell tödlicher Wirkung vorgesehene menschliche Freigabe. Das System agierte auf Basis seiner KI völlig losgelöst. Damit würde dieser Vorfall ein nahezu reines Beispiel für Autonomes Agieren von Algorithmen im staatlichen Auftrag beschreiben. Auch wenn hierfür der Begriff der Governance womöglich eine etwas weitgehende Spreizung erfährt, markiert dies den potenziellen Handlungsrahmen und die Einsatzmöglichkeiten zukünftiger AI Governance recht eindrucksvoll.

Im nächsten Beitrag, der Fortsetzung dieser Reihe zur Algorithmic Governance, widmen wir uns der Legititmationsproblematik algorithmischer und KI-basierter Entscheidungen in der Politik.

Der Artikel erschien in überarbeiteter und deutlich erweiterter Form in der SWS-Rundschau, Andreas Wagener: Demokratische Legitimation von AI Governance, Sozialwissenschaftliche Rundschau, Heft 4/2021, 61. Jahrgang, S. 369 – 390

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Wie der Staat mit Daten umgeht. Was ist gesellschaftlich akzeptabel?“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Kategorien und Erscheinungsformen von Algorithmic Governance erschien zuerst auf Nerdwärts.de.

Der Begriff der Governance bezeichnet in den Politik- und Gesellschaftswissenschaften gewöhnlich die staatliche Aufgabe der Führung und Steuerung der Amts- bzw. Regierungsgeschäfte und dient dabei der Beschreibung der dazu notwendigen Prozesse und Strukturen. Von Algorithmic Governance ist dann meist die Rede, wenn in diesem Kontext diskutiert wird, ob menschliche politische Entscheidungen durch datenbasierte Technologie ergänzt oder vollständig ersetzt werden könnten oder sollten.

Code is Law – Wenn-Dann-Prinzip und Algorithmic Governance

In Anlehnung an Laurence Lessigs Diktum „Code is Law“  ließe sich diese Vorgehensweise als die Automatisierung der Ausführung vorab definierter (staatlicher) Regeln beschreiben. Die Anwendung des hier zugrundeliegenden, der Computerprogrammierung entlehnten „Wenn-Dann“-Prinzips („if this … then that…“, „IFTTT“) basiert auf der Annahme, dass sich zuvor definierte – und legitimierte – Entscheidungsmuster auf spätere Situationen anwenden lassen. Die nachfolgende Exekution anstehender Entscheidungen kann dann idealerweise autonom erfolgen, ohne dass es eines weiteren menschlichen Eingreifens zwingend bedürfte.

Chancen und Herausforderungen von Algorithmic Governance

Die Vorteile eines solchen Systems werden zuerst in der Effizienzsteigerung gesehen, die hierbei für die staatliche Entscheidungsfindung und -ausführung durch die Automatisierungszuwächse zu erwarten wären. Ähnliche oder identische Entscheidungsfragen müssten nicht immer wieder neu verhandelt, sondern könnten durch die einmalige Festlegung auch für die Zukunft verbindlich geregelt werden. Des Weiteren ließen sich Verwaltungsentscheidungen versachlichen, da das einmal gefundene Regelsystem für alle Betroffenen gleichermaßen zur Anwendung käme, ungeachtet möglicher persönlicher Präferenzen der Entscheider „vor Ort“. Damit ginge dieser Argumentation folgend ein Zuwachs an Fairness und Gleichberechtigung einher.

Demgegenüber ist jedoch eine potenzielle „Entmenschlichung“ politischer Entscheidungen durch eine weitergehende Automatisierung anzumerken. Gerade dann, wenn diese nicht mehr unter Berücksichtigung individueller Situationen getroffen werden, sind Verzerrungen und soziale Härten zu erwarten. Auch stellen sich Fragen nach den Verantwortlichkeiten im Einzelfall – und zwar sowohl politisch als auch rechtlich.

Die Herausforderung für Algorithmic Governance besteht demnach vor allem darin, das richtige Maß und einen Ausgleich zwischen diesen beiden Polen zu finden.

Von Algorithmic Governance zu AI Governance

Sofern in der Regierungs- und Verwaltungstätigkeit nicht nur fest programmierte Algorithmen, sondern auch intelligente, selbst lernende Systeme zum Einsatz kommen, verändert dies die Spielregeln für den Einsatz algorithmischer Verfahren und ebenso deren Bewertungsmaßstäbe grundsätzlich. Entsprechend hat sich hier inzwischen der Begriff der AI Governance (AI für Artificial Intelligence) als abgrenzende Bezeichnung etabliert.

Ganz entscheidend ist dabei: Der Einsatz von intelligenten, autonomen, selbst lernenden Systemen steht im Widerspruch zum IFTTT-Automatismus des „Code is Law“. Während herkömmliche Algorithmic Governance allein auf einem festen, menschlich definierten Regelsystem beruht, führt die Kombination mit KI potenziell zu einer Verselbständigung der Entscheidungsmuster. Begründet liegt dies in den Methoden des maschinellen Lernens, die ja gerade auf Autonomie in der Funktionsfähigkeit eines Systems zielen. Insbesondere wenn eine Anwendung eigenständig Kausalitäten identifizieren soll (wie beim Unsupervised Learning) oder eine eigene Strategieentwicklung gefordert ist (wie beim Reinforcement Learning), verwischen die Grenzen zwischen ursprünglicher menschlicher Intention und abgeleiteter Systemlogik schnell. In der Praxis kommen heute zudem immer öfter Kombinationen aus verschiedenen Verfahren zum Einsatz, was die Problematik weiter verschärft. Es ist oft schwierig, den Pfad der Entscheidungsfindung, den ein lernendes System eigenständig eingeschlagen hat, zu rekonstruieren. Damit ist aber gerade eben keine starre Festlegung von abgewogenen Entscheidungsalternativen für spezifische Situationen möglich.

AI Governance: KI und Algorithmic Governance

Während Maßnahmen auf Grundlage herkömmlicher Algorithmic Governance ihre Rechtmäßigkeit aus diesem zuvor abgestimmten, „festverdrahteten“ Regelsystem beziehen, justieren sich KI-Systeme auf Grundlage ihres Lernfortschrittes permanent eigenständig neu. Dies mag legitim erscheinen, sofern zumindest die Ziele, anhand derer dies geschieht, Ausfluss eines am Staatszweck orientierten (demokratischen) Verfahrens sind. Gleichwohl ist für die Erreichung politischer Ziele in der Demokratie auch die Art und Weise ihres Zustandekommens relevant. Zieldefinitionen, anhand derer ein lernendes System sich ausrichtet, können schließlich stets nur quantitativer Natur sein. Die Auswirkungen einer solchen politischen Zieloptimierung weisen jedoch immer auch eine qualitative Dimension auf, deren Tragweite ein Algorithmus nie erfassen kann. Beispielsweise ist es sicherlich möglich, einem System eine bestimmte „optimale“ Budgetallokation als Ziel vorzugeben, die Frage, ob diese dann im Ergebnis im Einklang mit einem wie auch immer definierten Gemeinwohl steht, ist eine ganz andere und kann weder in der Praxis technisch noch in der Theorie legitim durch eine KI beantwortet werden, sondern verbleibt zwangsläufig Gegenstand der menschlichen Domäne.

Die faktischen Erscheinungsformen von Algorithmic Governance sollen in einem folgenden Beitrag behandelt werden, bevor sich dann ein weiterer Artikel mit der Legitimation algorithmischer Entscheidungen – insbesondere auch unter Rückgriff auf Verfahren des maschinellen Lernens und KI befasst.

Der Artikel erschien in überarbeiteter und deutlich erweiterter Form in der SWS-Rundschau, Andreas Wagener: Demokratische Legitimation von AI Governance, Sozialwissenschaftliche Rundschau, Heft 4/2021, 61. Jahrgang, S. 369 – 390

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Wie der Staat mit Daten umgeht. Was ist gesellschaftlich akzeptabel?“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Algorithmic Governance – KI und Algorithmen in der Politik erschien zuerst auf Nerdwärts.de.

Erkennungszeichen Alexander Gaulands (AfD) ist die grüne Krawatte mit Jagdhundmuster. Dieses Modell „Alexander“ gibt es bei Amazon zu kaufen. Interessant ist, wer sich dafür interessiert und was Kunden gekauft haben, die auch Gaulands Krawatte kauften…

Mehr zum Thema hier:

Vortrag/Keynote von Prof. Dr. Andreas Wagener: Wie der Staat mit Daten umgeht.

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Kunden, die Alexander Gaulands Krawatte gekauft haben, haben auch… erschien zuerst auf Nerdwärts.de.

Neben der ständigen präsenten körperlichen Bedrohung durch das Virus ist das Schlimme an der Corona-Zeit vermutlich die eigene Hilflosigkeit. Nicht selten mündet das in Aggression, Negierung der Realitäten und Schuldzuweisungen. Irgendjemand muss ja schließlich verantwortlich sein für den Schlamassel. Das gilt übrigens nicht nur für einschlägig verschwörungstheoretisch vorgebildete Corona-Leugner (vulgo „Covidioten“), auch diejenigen, die sich auf der aufgeklärten, guten Seite der Gesellschaft wähnen, sind davor offenbar nicht gefeit. Und wenn schon das Virus als gewissermaßen Gott gegeben akzeptiert werden muss, dann sind neben den Maskenverweigerern doch wenigstens die staatlichen Maßnahmen unbedingt als ungeeignet einzuordnen, wahlweise als viel zu weitgehend („die Wirtschaft!“) oder als viel zu lasch („härteres Durchgreifen!“). Und, nur um das an der Stelle klar zu machen: ich nehme mich da selbst nicht aus, auch bei mir (und meinem offensichtlich trügerischen rational-aufgeklärten Selbstbild) greift immer öfter ein sofortiger emotionaler Beißreflex bei diesen Themen.

Folgt man in jüngerer Zeit ein wenig dem Geschehen in den sozialen und traditionellen Medien, so gewinnt man den Eindruck, dass die Suche nach möglichen Schuldigen an der Krise abermals einen neuen Verantwortlichen ausgemacht hat, nämlich: den Datenschutz.

Die Argumentation verläuft dabei dann in etwa entlang folgenden Musters:

„Als Anti-Covid19-Instrument haben wir diese App, und die funktioniert ja offensichtlich nicht. Warum nicht? Wegen des Datenschutzes! Die Leute lügen, geben ihre Daten, wenn sie ein positives Testergebnis erhalten, nicht ein oder installieren die Anwendung schon gleich gar nicht. Wenn das „Datenschutz-Bohei“ nicht wäre, hätten wir ein vollständiges Bild des Infektionsgeschehens, könnten nachverfolgen. In anderen Ländern ist man da nicht so zimperlich. China! Bei uns hingegen werden Menschen auf dem Altar des Datenschutzes geopfert. Für was brauchen wir den überhaupt? Ich habe nichts zu verbergen. Und außerdem Südkorea.“ (oder so ähnlich)

Datenschutz in der Corona-App auf hohem Niveau

Nun, zunächst muss man wohl wirklich konstatieren – auch als vehementer Apologet eines wirksamen Datenschutzes, zu denen ich mich selbst zähle -, dass die App die anfänglich beschworenen Datenschutzsorgen in der Tat entkräftet hat. Selten hat man in Deutschland von staatlicher Seite in digitalen Dingen soviel Sorgfalt walten lassen, wie hier. Eine absolute Datensicherheit gibt es nie, aber abgesehen von einigen Schnittstellenproblematiken (dann, wenn die Erfassung nicht mehr allein digital, in der App, möglich ist), ist, gemessen am Ziel der Anwendung, der größtmögliche Schutz der individuellen Daten gewährt worden. Sollte es tatsächlich Menschen geben, die die App aus Angst um ihre informationellen Persönlichkeitsrechte nicht nutzen – in meiner Filterblase habe ich diese bisher vergeblich gesucht -, so müssten diese wohl wirklich konsequenterweise jeglichen digitalen und elektronischen Anwendungen komplett entsagen.

Falsches Verständnis der Aufgabe der Corona-App

Ob dieser hohe Anspruch der App an den Datenschutz tatsächlich hinderlich für den Schutz vor Covid19 ist oder die Verbreitung des Virus‘ sogar befeuert, sollte dennoch differenziert betrachtet werden. Ein großes Missverständnis scheint hier bei der eigentlichen Aufgabe der App zu liegen. Deren vollständiger und korrekter Name lautet übrigens „Corona-Warn-App„. Das beschreibt die Funktion recht gut: Ziel der Anwendung ist es, individuelle (!) Risiken einer Ansteckung aufzuzeigen, die durch mögliche Begegnungen mit Infizierten entstehen. Sie dient damit als „digitale Ergänzung zu Abstandhalten, Hygiene und Alltagsmaske“. Auf diese Weise kann sie zu einer Identifizierung von Infektionssituationen beitragen. Aber: die lückenlose Erfassung von Infektionsketten gehört definitiv nicht zu ihren Aufgaben.

Man kann darüber streiten, ob die App auf diesem Gebiet hilfreich ist und ob sie nicht gegebenenfalls mit mehr Funktionen ausgestattet werden sollte. Aber sie wäre auch mit weniger Datenschutz nicht erfolgreicher. Natürlich ist die lückenlose Nachverfolgung des Infektionsgeschehens eine immens wichtige Waffe im Kampf gegen das Virus. Dies sicherzustellen ist vor allem Aufgabe der Gesundheitsämter. Die Nutzung einer Handy-App wäre dafür aber reichlich ungeeignet – und schlichtweg unfassbar unprofessionell. Denn dann würden all die, die kein Smartphone besitzen – z.B. meine Kinder oder all jene die alte, mit der App nicht kompatible Betriebssysteme auf ihren Endgeräten haben – niemals erfasst und nachverfolgt. In Deutschland sind das immer noch mehr als 30% der Bevölkerung. Die App KANN also gar nicht für die Nachvollziehung der Infektionsketten herangezogen werden – völlig unabhängig vom Datenschutz.

Das eigentliche Problem: Digitale Inkompetenz

Das Problem der Infektionsketten und dass die Nachverfolgung so schwierig ist, hat aber eine ganz andere Ursache: es geht dabei um die mangelhafte Digitalisierung der Erhebungsprozesse. Wie so oft in Deutschland ist die digitale Transformation längst nicht in alle Bereiche in der Art vorgestoßen, wie wir uns das vielleicht ausmalen. Das hat nichts mit Datenschutz und der Corona-Warn-App zu tun, sondern beruht auf der Tatsache, dass die Behörden offensichtlich kein zentrales digitales Melderegister betreiben (können) – weil die technischen Voraussetzungen fehlen. Jeder der Corona-bedingt schon mal mit dem Gesundheitsamt zu tun hatte, dürfte das am eigenen Leib erfahren haben. Informationen, so sie denn überhaupt gespeichert werden, sind offensichtlich nicht zentral verfügbar. Es gibt keine einheitliche zentrale Datenbank, zumindest keine, die entsprechend gepflegt wird. Covid19 ist eine meldepflichtige Krankheit. Der Datenschutz ist hier ohnehin schon eingeschränkt, natürlich kennen die Gesundheitsämter die Klarnamen der Infizierten, wie sollte denn sonst auch eine Nachverfolgung möglich sein. Nicht der Datenschutz, ist also das Problem, sondern stattdessen der Umstand, dass hier nach so vielen Monaten, seit diese Pandemie über uns gekommen ist, die Arbeitsweise an der Schaltstelle der Infektionsbekämpfung offensichtlich immer noch im Faxzeitalter verharrt. Das allerdings ist in der Tat nun mal etwas, worüber es sich zu echauffieren lohnen würde.

Das alles wundert um so mehr, wenn man weiß, welche Instrumente hier die Wissenschaft schon seit Jahrzehnten besitzt. In der Soziologie etwa werden schon seit langem Anwendungen zur „Sozialen Netzwerk Analyse“ eingesetzt, die einfach nur mit den bereits vorliegenden Informationen gefüttert werden müssten. Auch im digitalen Marketing kann man über diese Systeme die virale (!) Verbreitung von Botschaften messen, nachvollziehen und optimieren (oder gezielt unterbinden). Man hätte die Zeit zwischen den Corona-Wellen aber eben für die Digitalisierung der Verwaltung nutzen müssen.

Musterland Südkorea

Regelmäßig wird in diesem Kontext das Musterbeispiel Südkorea angeführt, das ja angeblich aufgrund der geringeren Betonung des Datenschutzes so viel erfolgreicher in der Pandemiebekämpfung war. In der Tat hat Südkorea einiges anders gemacht. Erstens ist die „Maskenkultur“ aufgrund der einschlägigen Vorerfahrungen mit der Vogelgrippe und anderen Infektionskrankheiten deutlich ausgeprägter. Während also hierzulande anfangs selbst Virologen und Ärzte noch skeptisch waren, griff der inzwischen wissenschaftlich vielfach bestätigte Maskenschutz in Südkorea von Beginn an.

Zum anderen weist Südkorea einen völlig anderen Digitalisierungsgrad auf als wir hier in Deutschland. Und natürlich verfügt man dann auch im staatlichen Gesundheitswesen über ganz andere Instrumente. Diese lassen jedoch nicht nur ein viel weitergehendes Tracing als bei uns zu, sondern ermöglichen eben auch eine weitaus schnellere und effizientere Datenverarbeitung.

Vor allem gilt es aber diese Systeme auch mit Daten zu füttern. Um Infektionsketten nachzuvollziehen, muss man zuerst einmal wissen, wer überhaupt infiziert ist. Kein anderes Land auf der Welt hat so früh, so effizient und so unglaublich oft getestet wie Südkorea. Nur dann lassen sich jedoch digitale Instrumente – die ja immer auf Datenverarbeitung beruhen – nutzen. Das wäre mit der entsprechenden Infrastruktur auch bei uns möglich gewesen – und zwar ohne den Datenschutz zu beschädigen.

Datenschutz oder Tod?

Dass der Ruf nach weniger Datenschutz nicht zuletzt aus der Politik selbst kommt – namentlich vor allem CDU und CSU – und die Diskussion hier befeuert wird, ist bezeichnend, verwischt man damit doch recht gut die Spuren zu den eigentlichen Wurzeln des Übels: die seit Jahren generell verschlafende Digitalisierung bei den Verwaltungsabläufen, in den Schulen, beim Netzausbau und jetzt bereits zum zweiten mal binnen weniger Monate bei der Covid19-Bekämpfung. Der Ruf zur Einschränkung des Datenschutzes, oft polemisch verbunden mit dem – nicht ansatzweise belegten – Einwand, dass damit auf irgendeine wundersame Weise Leben vor dem Virus gerettet werden könnten, offenbart neben einer äußerst partiellen Wahrnehmung auch ein sehr merkwürdiges Gesellschaftsverständnis, das kaum mit dem Grundgesetz vereinbar ist. Die Argumentationsweise versteigt sich dann oft darin, auf die angeblich bessere Funktionsweise autoritärer, nicht-demokratischer Systeme (China!) zu verweisen und vor diesem Hintergrund die Notwendigkeit zur Beschneidung verfassungsgemäßer Freiheitsrechte hervorzuheben. Das ist aus demokratischer Perspektive nicht nur extremistisch, derartige Schlussfolgerungen ähneln auch beängstigend der Rhetorik der Verschwörungstheoretiker und Corona-Leugner (womit wir wieder beim Ausgangspunkt des ersten Absatzes dieses Textes wären).

Dies geht stets einher mit einer erstaunlichen Unkenntnis der staatlichen Funktionsweisen und Aufgaben, sowie einem sehr unterentwickelten Verständnis von Technik im allgemeinen und digitalen Instrumente im besonderen. Das umgangssprachliche Krankheitsbild der „Covidiotie“ haben offensichtlich nicht nur Pandemieleugner und Maskenverweigerer als hinreichende Klassifizierung für sich gepachtet. Wenn von diesen Protagonisten bereits die Vorzüge einer freiheitlichen, demokratischen und rechtsstaatlichen Gesellschaft angezweifelt werden, ist es natürlich mühsam, sie von den grundsätzlichen Vorteilen des Datenschutzes gegenüber einer permanenten Beobachtung mittels Kameras und der Auswertung von Bezahldaten zu überzeugen. Das würde an dieser Stelle auch den Rahmen sprengen – obwohl es reichlich gute Darstellungen dazu gibt. Eine nicht ganz unvoreingenommen ausgewählte Quelle findet sich zum Beispiel hier.

Weniger Datenschutz führt nicht zu mehr Nutzen

Der Nutzen einer Absenkung der Datenschutzhürden für die bestehenden Funktionen der Corona-App dürfte sich hingegen als sehr beschränkt erweisen. Natürlich würden bei Zwangsmaßnahmen mehr Infizierte in der App als Risikofaktoren erscheinen – vorausgesetzt natürlich, sie wären zuvor auch entsprechend getestet worden. Wenn diese Personen nach einer Testung plötzlich in der App angezeigt werden, würde das allerdings auch bedeuten, dass diese wissentlich gegen Quarantäneauflagen verstoßen hätten (und trotzdem ihr Smartphone außerhalb der eigenen vier Wände mit sich führen). Und dies müsste ja eigentlich auch bei einer gewöhnlichen lückenlosen Nachverfolgung durch die Gesundheitsämter offenbar werden. Der Umstand, dass von derartigen Fällen bislang nur wenig zu hören war, und wenn, dann von einem entsprechenden Medienecho begleitet, mag daraufhinweisen, dass diese Zahl im Verhältnis zu den Gesamtinfektionen doch sehr, sehr überschaubar ist.

Sinnvolle Funktionserweiterungen der Corona-App

Unbestritten bleibt, dass man die Corona-App mit weiteren sinnvollen Funktionen ausstatten könnte. So gibt es mittlerweile auch Anwendungen, die über den Einsatz von Verfahren des maschinellen Lernens am Husten eines Nutzes erkennen sollen, ob dieser mit Covid19 infiziert ist. Auch andere Features wie individuelle Tracking-Tagebücher, eine Archivfunktion oder spezifische Informationsangebote wären es sicher wert, darüber nachzudenken. Und würden die Infektionsmeldungen auch umgehend und umfassend an zentraler Stelle digital direkt eingepflegt, aufbereitet und nachverfolgt, würde sogar deren Erfassung über die App als Ergänzung Sinn machen.

Aber um Vernunft und Abwägung scheint es in dieser Diskussion ja auch eher nicht zu gehen. Hätten wir einen eindeutig identifzierbaren Schuldigen für die ganze Misere, wäre vieles leichter.

Warum Datenschutz wichtig sein könnte: Vortrag von Prof. Dr. Andreas Wagener – Wie der Staat mit Daten umgeht

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Die Corona-App und der Datenschutz als Sündenbock erschien zuerst auf Nerdwärts.de.

Man braucht nicht unbedingt Deep Learning und Big Data, um aus Daten Ableitungen für das Marketing zu gewinnen. Was die Vorliebe für Mayonnaise oder die Haltung zur Legalisierung von Marihuana über einen Menschen aussagt:

Mehr zum Thema hier:

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Ein neues Zeitalter im Marketing: Künstliche Intelligenz, maschinelle Kreativität, virtuelle Realitäten & DNA-Targeting„:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Wie man mit nur fünf Fragen bereits ein aussagekräftiges Profil eines Menschen erstellen kann erschien zuerst auf Nerdwärts.de.