Der Begriff der Governance bezeichnet in den Politik- und Gesellschaftswissenschaften gewöhnlich die staatliche Aufgabe der Führung und Steuerung der Amts- bzw. Regierungsgeschäfte und dient dabei der Beschreibung der dazu notwendigen Prozesse und Strukturen. Von Algorithmic Governance ist dann meist die Rede, wenn in diesem Kontext diskutiert wird, ob menschliche politische Entscheidungen durch datenbasierte Technologie ergänzt oder vollständig ersetzt werden könnten oder sollten.

Code is Law – Wenn-Dann-Prinzip und Algorithmic Governance

In Anlehnung an Laurence Lessigs Diktum „Code is Law“  ließe sich diese Vorgehensweise als die Automatisierung der Ausführung vorab definierter (staatlicher) Regeln beschreiben. Die Anwendung des hier zugrundeliegenden, der Computerprogrammierung entlehnten „Wenn-Dann“-Prinzips („if this … then that…“, „IFTTT“) basiert auf der Annahme, dass sich zuvor definierte – und legitimierte – Entscheidungsmuster auf spätere Situationen anwenden lassen. Die nachfolgende Exekution anstehender Entscheidungen kann dann idealerweise autonom erfolgen, ohne dass es eines weiteren menschlichen Eingreifens zwingend bedürfte.

Chancen und Herausforderungen von Algorithmic Governance

Die Vorteile eines solchen Systems werden zuerst in der Effizienzsteigerung gesehen, die hierbei für die staatliche Entscheidungsfindung und -ausführung durch die Automatisierungszuwächse zu erwarten wären. Ähnliche oder identische Entscheidungsfragen müssten nicht immer wieder neu verhandelt, sondern könnten durch die einmalige Festlegung auch für die Zukunft verbindlich geregelt werden. Des Weiteren ließen sich Verwaltungsentscheidungen versachlichen, da das einmal gefundene Regelsystem für alle Betroffenen gleichermaßen zur Anwendung käme, ungeachtet möglicher persönlicher Präferenzen der Entscheider „vor Ort“. Damit ginge dieser Argumentation folgend ein Zuwachs an Fairness und Gleichberechtigung einher.

Demgegenüber ist jedoch eine potenzielle „Entmenschlichung“ politischer Entscheidungen durch eine weitergehende Automatisierung anzumerken. Gerade dann, wenn diese nicht mehr unter Berücksichtigung individueller Situationen getroffen werden, sind Verzerrungen und soziale Härten zu erwarten. Auch stellen sich Fragen nach den Verantwortlichkeiten im Einzelfall – und zwar sowohl politisch als auch rechtlich.

Die Herausforderung für Algorithmic Governance besteht demnach vor allem darin, das richtige Maß und einen Ausgleich zwischen diesen beiden Polen zu finden.

Von Algorithmic Governance zu AI Governance

Sofern in der Regierungs- und Verwaltungstätigkeit nicht nur fest programmierte Algorithmen, sondern auch intelligente, selbst lernende Systeme zum Einsatz kommen, verändert dies die Spielregeln für den Einsatz algorithmischer Verfahren und ebenso deren Bewertungsmaßstäbe grundsätzlich. Entsprechend hat sich hier inzwischen der Begriff der AI Governance (AI für Artificial Intelligence) als abgrenzende Bezeichnung etabliert.

Ganz entscheidend ist dabei: Der Einsatz von intelligenten, autonomen, selbst lernenden Systemen steht im Widerspruch zum IFTTT-Automatismus des „Code is Law“. Während herkömmliche Algorithmic Governance allein auf einem festen, menschlich definierten Regelsystem beruht, führt die Kombination mit KI potenziell zu einer Verselbständigung der Entscheidungsmuster. Begründet liegt dies in den Methoden des maschinellen Lernens, die ja gerade auf Autonomie in der Funktionsfähigkeit eines Systems zielen. Insbesondere wenn eine Anwendung eigenständig Kausalitäten identifizieren soll (wie beim Unsupervised Learning) oder eine eigene Strategieentwicklung gefordert ist (wie beim Reinforcement Learning), verwischen die Grenzen zwischen ursprünglicher menschlicher Intention und abgeleiteter Systemlogik schnell. In der Praxis kommen heute zudem immer öfter Kombinationen aus verschiedenen Verfahren zum Einsatz, was die Problematik weiter verschärft. Es ist oft schwierig, den Pfad der Entscheidungsfindung, den ein lernendes System eigenständig eingeschlagen hat, zu rekonstruieren. Damit ist aber gerade eben keine starre Festlegung von abgewogenen Entscheidungsalternativen für spezifische Situationen möglich.

AI Governance: KI und Algorithmic Governance

Während Maßnahmen auf Grundlage herkömmlicher Algorithmic Governance ihre Rechtmäßigkeit aus diesem zuvor abgestimmten, „festverdrahteten“ Regelsystem beziehen, justieren sich KI-Systeme auf Grundlage ihres Lernfortschrittes permanent eigenständig neu. Dies mag legitim erscheinen, sofern zumindest die Ziele, anhand derer dies geschieht, Ausfluss eines am Staatszweck orientierten (demokratischen) Verfahrens sind. Gleichwohl ist für die Erreichung politischer Ziele in der Demokratie auch die Art und Weise ihres Zustandekommens relevant. Zieldefinitionen, anhand derer ein lernendes System sich ausrichtet, können schließlich stets nur quantitativer Natur sein. Die Auswirkungen einer solchen politischen Zieloptimierung weisen jedoch immer auch eine qualitative Dimension auf, deren Tragweite ein Algorithmus nie erfassen kann. Beispielsweise ist es sicherlich möglich, einem System eine bestimmte „optimale“ Budgetallokation als Ziel vorzugeben, die Frage, ob diese dann im Ergebnis im Einklang mit einem wie auch immer definierten Gemeinwohl steht, ist eine ganz andere und kann weder in der Praxis technisch noch in der Theorie legitim durch eine KI beantwortet werden, sondern verbleibt zwangsläufig Gegenstand der menschlichen Domäne.

Die faktischen Erscheinungsformen von Algorithmic Governance sollen in einem folgenden Beitrag behandelt werden, bevor sich dann ein weiterer Artikel mit der Legitimation algorithmischer Entscheidungen – insbesondere auch unter Rückgriff auf Verfahren des maschinellen Lernens und KI befasst.

Der Artikel erschien in überarbeiteter und deutlich erweiterter Form in der SWS-Rundschau, Andreas Wagener: Demokratische Legitimation von AI Governance, Sozialwissenschaftliche Rundschau, Heft 4/2021, 61. Jahrgang, S. 369 – 390

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Wie der Staat mit Daten umgeht. Was ist gesellschaftlich akzeptabel?“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Algorithmic Governance – KI und Algorithmen in der Politik erschien zuerst auf Nerdwärts.de.

Gerade der besondere Wert, der heute Daten zukommt, und die Möglichkeiten, die heute durch die Digitalisierung und dadurch hervorgebrachte Technologien und Ansätze wie Künstliche Intelligenz, Data Mining und Predictive Analytics geschaffen werden, um tiefgreifende Erkenntnisse und Muster abzuleiten, sind – bei allen positiven Errungenschaften, die damit ebenfalls einhergehen – potenziell geeignet, das bürgerliche Selbstbestimmungsrecht in seinem Kern erheblich einzuschränken.

In Teil 1 eines zweiteiligen Vortrags an der Hochschule Hof im Rahmen der jährlichen Vortragsreihe zur „Digitalisierung, Industrie 4.0 & das Internet der Dinge“ spricht Prof. Dr. Andreas Wagener über die Relevanz von Daten aus gesellschaftlicher und bürgerlicher Perspektive. Im folgenden 2. Teil spricht Prof. Dr. jur. Wachovius über die rechtliche Betrachtungsweise der Problematik.

Vortrag am 05.12.2018 von Prof. Dr. Andreas Wagener im Rahmen der Vortragsreihe „Digitalisierung, Industrie 4.0 & das Internet der Dinge“ der Fakultät Wirtschaft der Hochschule Hof:

„Wir der Staat mit Daten umgeht – was ist gesellschaftlich akzeptabel?“

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Wie der Staat mit Daten umgeht erschien zuerst auf Nerdwärts.de.

Der Disruptionsbegriff in den Wirtschaftswissenschaften

In der Wirtschaftswissenschaft findet für die Erklärung digitaler Veränderungsprozesse oft der Begriff der Disruption Verwendung, der in seiner weitverbreiteten und vielzitierten Konkretisierung im Management- und Technologieumfeld auf den Harvard-Professor Clayton Christensen zurückzuführen ist. Damit wurde eigentlich eine Form der unternehmerischen Innovation beschrieben, der es, ermöglicht durch neue Technologien, gelingt, neue Märkte und Marktprinzipien zu etablieren und dadurch bestehende Märkte und ihre konventionellen Regelmuster aufzubrechen. Derartige „disruptive Innovationen“ verbessern grundsätzlich unternehmerisch erbrachte Leistungen in einer von den Märkten unerwarteten Weise und verdrängen damit lange Zeit erfolgreiche und tradierte Geschäftsmodelle und -prinzipien.

Politische Disruption und gesellschaftliche Veränderungsprozesse

Inzwischen findet der Begriff jedoch nicht mehr nur allein auf ökonomische Szenarien Anwendung, sondern wird auch auf weitere Sachverhalte, auf den grundsätzlichen Wandel komplexer Systeme bezogen. Auch explizit „Politische Disruption“ wird dabei zunehmend zur Charakterisierung von gesellschaftlichen Veränderungsprozessen aufgegriffen. Wesentlicher Kern des Begriffs ist der Aspekt der Innovation und die Funktion von Technologie als Haupttreiber.

Die Digitalisierung der Politik und deren Disruption

Digitale Technologie – auf die der Disruptionsbegriff heute vornehmlich bezogen wird – ist nicht nur in der Lage, althergebrachte Spielregeln auf Märkten auszuhebeln und durch neue zu ersetzen. Sie führte unzweifelhaft ebenso zu einer Veränderung der politischen Prozesse, der politischen Meinungsbildung sowie der Verhaltensweisen politischer Akteure und auch zu einer Verschiebung des Handlungsrahmens der praktischen Politik. Das zeigt sich in vielfältigster Weise, sei es im Aufkommen von „Fake News“ und „Hatespeech“ verbreitenden Social Bots in Sozialen Netzwerken, in der tatsächlichen oder bloß behaupteten Verwendung von Profildaten als „Big Data“ für die Wählergewinnung im US-Präsidentschaftswahlkampf wie auch in Form direkt ans Staatsvolk twitternder US-Präsidenten. Doch nicht nur derartige, eher auf die Beeinflussung der Meinungsbildung gerichtete, politische Kommunikation kann digital und unter Verwendung innovativster Methoden erfolgen. Auch die eigentlichen politischen Prozesse, gewissermaßen im „Maschinenraum der Politik“, sind potenziell durch die Innovationskraft digitaler Technologien betroffen. Dies gilt sowohl für die politische Entscheidungsfindung als auch die Artikulierung und Aggregierung des Wählerwillens sowie ebenso für die Ausübung politischer Macht. Diese Technologien haben das Potenzial, gegenwärtige politische Systeme „im Kern“ zu disruptieren, indem sie alternative Spielregeln des politischen Miteinanders schaffen.

Technologietreiber Blockchain, Künstliche Intelligenz, 3D-Druck und Virtual Reality

Insbesondere die Trendthemen Blockchain und Künstliche Intelligenz, die auch im ökonomischen Umfeld den größten Veränderungsdruck bewirken, dürften auch im Politischen Treiber dieser Entwicklung sein. Politische Entscheidungen können beispielsweise unter Rückgriff auf Algorithmen getroffen werden, die entsprechenden Prozesse lassen sich im Wege von Blockchain-basierten Smart Contracts abbilden. Ähnliches Potenzial kann womöglich auch anderen Technologien wie 3D-Druck und Virtual Reality zugeschrieben werden. Politik und Technik werden in Zukunft deutlich enger miteinander verwoben – mit allen Vor- und Nachteilen. Wie immer wird es darauf ankommen, wie wir diese Zukunft gestalten. Wegducken und Ignoranz sind dabei nicht gestattet. Es handelt sich dabei um eine gesamtgsellschaftliche und somit zu tiefst politische Aufgabe.

In den kommenden Wochen werden wir an diese Stelle auf das Thema der Politischen Disruption intensiver eingehen und die einzelnen Technologien unter diesem Aspekt näher betrachten. Den Auftakt macht dabei das Blockchain- & Distributed Ledger-Verfahren. (Dazu bitte hier entlang.)

Der Text ist ein Auszug aus:

Wagener, Andreas (2018): Politische Disruption: Die Digitalisierung der Politik und die libertäre Technologie der Blockchain. In: Liebold, Sebastian / Mannewitz, Tom / Petschke, Madeleine / Thieme, Tom (Hrsg.): Demokratie in unruhigen Zeiten, Baden Baden, 2018, S. 387 – 398

Weitere Informationen zum Thema finden Sie hier:

Vortrag von Prof. Dr. Andreas Wagener, Hochschule Hof am 17.10.2018:
„Willkommen in der Matrix! Wie KI und Blockchain in der Industrie 4.0 zusammenwachsen“

Vortrag von Prof. Dr. Andreas Wagener, Hochschule Hof am 22.10.2016 Industrie 4.0, Datenökonomie und Künstliche Intelligenz: Wie Daten und Algorithmen Wirtschaft und Gesellschaft verändern:

Der Beitrag Politische Disruption: wenn Technologie Gesellschaft und politisches System revolutioniert erschien zuerst auf Nerdwärts.de.

Heißt: Man nehme einen Clip mit einem politischem Amts- oder Mandatsinhaber und lege diesem einige Worte in den Mund, die dieser so nie geäußert hat – einfach indem man diese selbst spricht. Die entsprechenden – eigenen – Lippenbewegungen werden dann so täuschend echt auf das Ursprungsvideo übertragen, dass kaum noch feststellbar ist, dass die Aussage gar nicht so gefallen ist – der perfekte Werkzeugkasten für den DIY-Verschwörungstheoretiker.

Wenn Sie also schon immer mal Frauke Petry ein überzeugtes, tränenreiches und liebevolles Bekenntnis zur Willkommenskultur in Deutschland abringen wollten, hier ist Ihr Tool:

Der Beitrag Videomanipulation: Das Werkzeug für die hausgemachte Verschwörungstheorie. erschien zuerst auf Nerdwärts.de.