Während wir hierzulande noch über eine etwas diffus als „eGovernance“ umschriebene „Digitalisierung der Verwaltung“ sinnieren, bei der wir auch im europäischen Vergleich gegenüber Ländern wie Estland deutlich hinterherhinken, wird andernorts bereits der Einsatz intelligenter Datenauswertungsverfahren und der Rückgriff auf Algorithmen bei der Findung und Exekutive staatlicher Entscheidungen erprobt. In der internationalen akademischen Diskussion hat sich inzwischen das Forschungsfeld der „Algorithmic Governance“ etabliert, welches sich vor allem mit dem Aspekt der Ergänzung oder des vollständigen Ersatzes menschlicher politischer Entscheidungen durch datenbasierte Technologie, wie vor allem auch KI, befasst.
Algorithmic Governance kann allgemein als die automatisierte Entscheidungsfindung und -ausführung von institutionellem Handeln, vor allem der Politik, auf Basis von Datenauswertungen und Algorithmen begriffen werden. Zunehmend machen Staat und Verwaltung dabei von Verfahren des maschinellen Lernens und KI Gebrauch. Dies setzt entsprechend eine fortschreitende Digitalisierung politischer Abläufe und Strukturen voraus.
Als plakatives Beispiel lässt sich hier natürlich China als Vorreiter anführen. Die Vernetzung digitaler Prozesse, insbesondere auch gesellschaftlicher Art, nimmt hier ein Ausmaß an, das sonst wohl nirgends seinesgleichen findet. Durch die enge Anbindung der marktwirtschaftlich geführten Technologiekonzerne, wie Tencent oder AliBaba, an das als autoritär einzustufende politische System entstehen „Datensynergien“, die in pluralistisch-demokratischen Systemen derzeit undenkbar wären. Weitverbreitete Social-Media-Anwendungen, wie der Messenger WeChat, der auch eine vielgenutzte Zahlungsfunktion umfasst, kooperieren eng mit den staatlichen Stellen, die auf diesem Wege eine umfassende Datensammlung über alle gesellschaftlichen Teilbereiche hinweg verfolgen.
KI in der Politik: China als Maßstab?
Genutzt werden sollen diese Daten einerseits im Rahmen des berüchtigten chinesischen Social-Scoring-Systems, welches, basierend auf einem an Gamification erinnernden Prinzip, zum Ziel hat, gesellschaftlich konformes und gewünschtes Verhalten der Bürger durch die Schaffung von positiven Anreizen wie auch von Sanktionierungen zu bewirken. Überwacht und „gemessen“ werden können die Verhaltensweisen jedes Einzelnen durch die Auswertungen der Daten aus den zur Verfügung stehenden Quellen der chinesischen Digitalkonzerne. Wer etwa seine Rechnungen immer pünktlich bezahlt, sich positiv über die gesellschaftliche Entwicklung äußert oder ein verantwortungsbewusstes Konsumverhalten an den Tag legt – zum Beispiel indem er durch den Kauf von Windeln bekundet, dass er offenbar als Elternteil mehr Leistung für die Gemeinschaft erbringt –, hat Vorteile gegenüber jenen, die sich eher als „Individualisten“ hervortun, etwa weil ihre Zahlungshistorie entsprechende Positionen für die Ausgaben von Online-Games belegt. Dieser Social Score kann dann über die Vergabe von Privilegien, etwa hinsichtlich der bevorzugten Ausspielung des eigenen Profils bei Dating-Apps bis hin zur Reisefreiheit, entscheiden.
Bußgeld in Echtzeit
Andererseits werden die geschaffenen digitalen Strukturen aber auch für die direkte staatliche Umsetzung bestehender Regeln und Gesetze genutzt. Der Fortschritt im Bereich der KI und der digitalen Gesichtserkennung ermöglicht es, Normenverstöße „ad hoc“ zu sanktionieren. Ein Überqueren der Straße bei roter Ampel kann über den flächendeckend ausgebreiteten Überwachungsapparat sofort erfasst werden, installierte Kameras mit verknüpfter Gesichtserkennung erlauben es, „Gesetzesbrecher“ umgehend zu identifizieren und die entsprechende Strafe automatisiert zu verhängen. Exekutive und Judikative agieren somit wahrhaft algorithmisch, in einer strikten binären „wenn-dann“-Verknüpfung, ohne dass eine menschliche Beteiligung zur Durchsetzung der gesellschaftlichen Normen noch notwendig wäre.
Algorithmic Governance in Demokratien
Aber auch in pluralistischen, demokratischen Systemen gibt es Überlegungen, KI und Datenökonomie für die Erfüllung staatlicher Aufgaben heranzuziehen. Estland, wie erwähnt, ein Vorreiter im Bereich der eGovernance, versucht in einem 2019 begonnenen Projekt zu eruieren, ob es, mit dem Ziel, Staatsapparat und politische Prozesse zu verschlanken, sinnvoll ist, spezifische staatliche Funktionen auf eine KI und algorithmische Verfahren auszulagern. Im Fokus steht dabei unter anderem auch die Einrichtung eines „Robo-Richters“, einer rein digitalen Anwendung, die kleinere privatrechtliche Rechtssachen mit einem Streitwert von bis zu €7.000,00 in erster Instanz autonom bearbeiten soll.
Unterstützend wird derartige Technologie auch in den USA genutzt, wenn Richter über die vorzeitige Entlassung verurteilter Straftäter auf Bewährung entscheiden sollen. Die Software COMPAS errechnet dazu aus 137 erhobenen Merkmalen die individuelle „Rückfall-Wahrscheinlichkeit“. Zwar ist der Richter immer noch frei in seiner Entscheidung, weicht er jedoch von der Empfehlung des Programms ab, so muss er dies gesondert begründen. Das Verfahren ist hochumstritten und gilt als anfällig für den sogenannten „KI-Bias“, bei dem Fehler im KI-Training – wie etwa die Verwendung einseitiger Trainingsdaten – zur Verfestigung faktischer „Vorurteile“ oder zu Verzerrungen führen. Eine Untersuchung des Nachrichtenmediums „Pro Publica“ belegt eine deutliche Diskriminierung schwarzer Amerikaner durch das System: Weiße, deren Rückfallrisiko COMPAS als niedrig einschätzte, wurden tatsächlich viel häufiger wieder straffällig als Schwarze mit niedrigem Risikowert. Eine weitere Studie des Dartmouth College belegte zudem, dass zufällig ausgewählte juristische Laien mit weniger Informationen bei einer Prognose in etwa genauso gut wie der Algorithmus lagen.
Gerechtere Entscheidungen mit KI in der Politik?
Jedoch verstummt der Ruf nach einem verstärkten Einsatz von KI und verwandter Technologien bei der Ausübung staatlicher Autoritätsfunktionen deswegen nicht. Begründet wird dies etwa mit der Vermeidung menschlicher Voreingenommenheit und der rigorosen Sachlichkeit, die digitale Systeme von vornherein mit sich bringen. Damit verknüpft sich die Hoffnung, dass der Fortschritt derartige technische „Kinderkrankheiten“ mit der Zeit eliminiert, während hingegen ein auf jeden Fall immer bestehender „menschlicher Bias“ damit umgangen werden könne.
Angewandter KI werden aber auch in der praktischen Politik erhebliche Kompetenzen zugesprochen. Gemäß einer Studie des spanischen Center of the Governance of Change würde ein Viertel der Befragten es bevorzugen, dass politische Entscheidungen eher von einer KI als von Politikern aus Fleisch und Blut getroffen werden würden. Darin mag einerseits eine allgemeine und derzeit weit verbreitete Ernüchterung gegenüber der Demokratie und ihrer traditionellen Institutionen zum Ausdruck kommen. Andererseits weist dieses Ergebnis auch auf ein sich wandelndes, zunehmend „technozentrisches“ Weltbild hin, welches jedoch zugleich eine Paradoxie enthüllt, erhoffen sich heute doch viele von der Politik gerade auch einen Schutz vor Technisierung und Disruption.
Tech-Unternehmen und KI als gesellschaftliches Steuerungsinstrument
Wille und Bereitschaft, intelligente Technologie für die Lösung gesellschaftlicher Probleme einzusetzen sind weit verbreitet. Google will KI gezielt für „gesellschaftliche Herausforderungen“nutzen, konkret etwa auch in der Arbeitsmarktpolitik, im Natur- und Landschaftsschutz oder anderen klassischerweise staatlichen Domänen. Auch in der Wirtschaftspolitik ist eine aktive Einbindung von KI Gegenstand zahlreicher Diskussionen. Durch deren immer besser werdende Prognosefähigkeit können Vorhersagen perspektivisch immer weiter, bis hin zur absoluten Verlässlichkeit perfektioniert werden, so die Argumentation. Jack Ma, Gründer von Alibaba, geht sogar so weit zu sagen, dass die Übertragung derartiger Kompetenzen an eine KI dazu führen würde, dass Marktunsicherheiten generell überwunden werden könnten und dies letztlich erlauben würde, „die Planwirtschaft zu verwirklichen“. Andrew Ng, oft als „KI-Pionier“ titulierter, ehemaliger führender Mitarbeiter der KI-Forschungsabteilungen von Google und Baidu und heute einer der maßgeblichen Tech-Investoren auf diesem Gebiet, gibt das Bildungsziel einer „KI-betriebenen Gesellschaft“ aus, die maßgeblich durch intelligente Technologie geprägt wird. Selbst von KI als einer „Friedensmaschine“ ist bei manchem, wie dem renommierten finnischen KI-Forscher Timo Holenka, die Rede sowie von dem Ziel, Demokratie durch deren Einsatz „besser zu machen“. Statt wichtige gesellschaftliche und politische Entscheidungen einigen wenigen zu überlassen, selbst wenn diese ihr Mandat aus freien und unabhängigen Wahlen beziehen, sollte der Einsatz von KI demnach die „Weisheit der Vielen“ aggregieren, wovon man sich eine höhere Stabilität der demokratischen Systeme verspricht.
Mahnende Stimmen gegen den Einsatz von KI in der Politik
Demgegenüber stehen mahnende Stimmen, wie die des französischen Präsidenten Emanuel Macron. Dieser erkennt gleichfalls an, dass die gerade stattfindende technologische Revolution in Wahrheit vor allem auch eine politische ist, weist aber auf die Bedrohungen für die Demokratie durch schlecht im System verankerte KI und deren Beteiligung an der politischen Entscheidungsfindung hin. Noch deutlicher wird der selten um visionäre Ansätze verlegene Tesla-, SpaceX- und Neuralink-Gründer Elon Musk, demzufolge der Rückgriff auf KI oder gar die Übertragung politischer Kompetenzen an diese einen „unsterblichen digitalen Diktator“ erschaffen könnte.
Tatsache ist, dass die Einbindung von KI als unterstützendes Instrument, aber auch als maßgebliche Instanz der politischen Entscheidungsfindung keine Phantasterei, sondern vielmehr eine sich bereits etablierende Realität darstellt. Der „staatliche Organismus“ wird somit auch innerhalb seines „zentralen Nervensystems“ zunehmend technologisch herausgefordert. Die immer weiter fortschreitende Entwicklung hat bereits eine gesamtgesellschaftliche technologische Transformation eingeleitet. Eine entsprechende breite Diskussion über die Folgen für das Handeln des Staates, die praktische Politik, wäre daher dringend geboten – und zwar jenseits aktueller Diskurse und Weissagungen, die aufgeregt zwischen positiven ökonomischen Zukunftsversprechungen einerseits und düsteren dystopischen Schreckensszenarien andererseits oszillieren.
KI in der Politik als „Disruptive Innovation“
Disruptive Innovationen wie der Einsatz von KI in der (politischen) Entscheidungsfindung stellen unzweifelhaft Herausforderungen für Kernfunktionen des nationalen wie auch des internationalen politischen Systems dar. Die Grundlagen der herrschenden Ordnung, Regeln, Institutionen, und damit die Machtpositionen verändern sich tiefgreifend. Digitale Technologien wie KI und maschinelles Lernen versetzen Individuen und Gruppen, die diese zu nutzen wissen, potenziell in die Lage, Dinge zu tun, die bisher Staaten und staatlichen Organisationen vorbehalten waren. Diese „digital Ermächtigten“ sind nicht im klassischen Sinne gesellschaftlich legitimiert oder prinzipiell „moralisch gebunden“. Damit stellt sich die grundsätzliche Frage nach der Existenzberechtigung des Staates. Eine ganz neue, eigene gesellschaftliche disruptive Qualität ist somit entstanden. Die Aufgabe, diesen mit einer humanen Prägung zu versehen, liegt bei uns.
Das Thema der „Algoritmic Governance“ ist Bestandteil einer 3 teiligen Reihe auf diesem Blog: zu Teil 1 – hier entlang.
Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Wie der Staat mit Daten umgeht. Was ist gesellschaftlich akzeptabel?“:
Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023
Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.