Das regelmäßig schlechte und über die Jahre immer noch schlechter werdende Abschneiden der Deutschen bei internationalen Sportwettkämpfen, bei Olympia sowie bei Welt- und Europameisterschaften liegt natürlich daran, dass wir „keinen Bock mehr auf Leistung haben“, was sich ja auch in der Abschaffung des Wettkampfcharakters der Bundesjugendspiele zeigt. Oder? 

Und ja, nach einigen Messeattacken in der jüngeren Vergangenheit, erscheint es als probates Mittel, das Mitführen von Klingen mit mehr als 6cm Länge unter Strafe zu stellen. Das wird potenzielle Gewalttäter sicherlich in die Schranken weisen.

Simplifizierung führt zu Fehleinschätzungen

Vermeintlich naheliegenden Gründe werden als absolut und ausschlaggebend betrachtet. Das Problem ist dabei, dass man somit die eigentlichen Ursachen aus dem Blickfeld verliert und eine Problemlösung tatsächlich in weite Ferne rückt. Beispiel Bundesjugendspiele – ist es nicht eher ein Problem, dass die Vereinsstruktur im Sportbereich sich seit Jahren in einem Prozess der steten Auflösung befindet? Und waren nicht in der Vergangenheit die Sportvereine die eigentliche Keimzelle des Leistungssports? Während sich noch vor 30 Jahren alle in eine Vereinskultur einfügten, die regelmäßig Sport treiben wollten, boomen heute Fitnessstudios. Es wird ebenfalls immer schwieriger, Menschen insbesondere im Sportumfeld für ehrenamtliche Tätigkeiten zu gewinnen. Vor allem gut ausgebildete Trainer, die sich am Wochenende und nach Feierabend dem sportaffinen Nachwuchs annehmen, sind heute eine echte Mangelware. Die Frage, wie man die Vereinskultur und die Bereitschaft zum sportlichen Ehrenamt stärken könnte, ist allerdings deutlich schwieriger zu beantworten.

Gleichfalls erscheint es zweifelhaft zu glauben, dass jemand, der bereit ist, vorsätzlich Körperverletzung zu begehen, sich nun durch ein Messerverbot davon abhalten ließe. Das eigentlich zugrundeliegende Problem der offenbar steigenden Gewaltbereitschaft anzugehen, ist jedoch weitaus schwieriger und langwieriger.

Simplification Bias: Vereinfachung bis zur Verzerrung der Realität

Eigentlich liegt es auf der Hand, dass diese Forderungen und Ableitungen blanker Unsinn sind. Warum aber verfangen diese argumentativen Kurzschlüsse immer wieder? Das Phänomen lässt sich auch als „Simplification Bias“ bezeichnen. Damit wird die Neigung umschrieben, komplexe Sachverhalte über die Maßen zu vereinfachen, um sie auf diese Weise verarbeitbar zu machen. Grundsätzlich ist der Versuch, Komplexität zu reduzieren, ja nichts Schlechtes. Aber wenn wichtige Details und bestimmende Faktoren dabei auf der Strecke bleiben, mündet dieser Prozess in einer verzerrten Wahrnehmung der Realität.

Tatsächlich dürfte ein Großteil des gegenwärtigen gesellschaftlichen Erregungspotenzials darauf zurückzuführen sein. Der Simplification Bias führt zu Generalisierung und Stereotypisierung.  Wichtige Details werden ausgeblendet, (vermeintliche) Korrelationen werden mit Kausalitäten gleichgesetzt. Und im Zweifelsfall sind wie immer die Grünen schuld (früher Merkel).

Simplification Bias im Unternehmen

Was im gesellschaftlichen Kontext zu Verwerfungen führt, trübt in der ökonomischen Sphäre den Entscheidungshorizont. Im Managementumfeld ist immer noch ein Bild des heroischen Lotsens vorherrschend, der Situationen schnell erfasst und darauf beruhend klare, eindeutige Entscheidungen trifft. Weit verbreitet ist auch das Mantra „besser falsche Entscheidungen als gar keine Entscheidungen treffen“. Detailversessenheit und langandauernde Meinungsbildung werden als Führungsschwäche ausgelegt. Rigoroses, schnelles Entscheiden und Durchgreifen gilt hingegen als Stärke und wird als „Macherqualität“ betrachtet.

Selbst wenn es dafür heute immer noch berechtigte Argumente geben mag, trifft dieses Führungsverständnis auf eine inzwischen deutlich komplexere Umwelt als noch vor wenigen Jahren. Immer kürzere Produktzyklen stehen zunehmend unberechenbaren externen (geopolitischen) Bedingungen gegenüber. Innovationen auf allen Gebieten – nicht zuletzt im Bereich der Digitalisierung und des maschinellen Lernens – führen zu äußerst volatilen Entscheidungsszenarien. Damit werden auch die Auswirkungen von (falschen) Entscheidungen komplexer. Einerseits erschwert dies die spätere Bewertung, die unternehmerische Evaluation, und damit auch die Zuweisung von Verantwortlichkeiten sowie die Identifizierung von Ursachen, erheblich. Andererseits legt dies nahe, dass allzu simple Entscheidungen vermutlich der Komplexität des Szenarios nicht gerecht werden.

Langfristige Folgen falscher Entscheidungen in Phasen kurzer Entwicklungszyklen

Folgen könnten zu kurzfristige Orientierungen sein, dort wo stattdessen langfristige Perspektiven angebracht wären. Fehlende Flexibilität und mangelnde Anpassungsfähigkeit drohen. Und schließlich besteht die Gefahr, dass dies in einer erheblich reduzierten Innovationskraft mündet: Wer einmal den Weg in die falsche Richtung eingeschlagen hat, muss fürchten, abgehängt zu werden, weil man durch eine spätere Korrektur, angesichts der skizzierten erhöhten Entwicklungsgeschwindigkeiten der Unternehmensumwelt, nicht mehr in der Lage ist, die ursprüngliche Fehlentscheidung zu kompensieren.

Womöglich erleben wir gerade einen entsprechenden Prozess bei der deutschen Automobilindustrie. Das Festhalten am Verbrenner kann auch als Simplifizierung des Entscheidungsraumes gelesen werden, der sich zu sehr an nationalen Gegebenheiten ausrichtete und durch entsprechende inner-gesellschaftliche Strömungen sowie nationale ideologische Diskurse flankiert wurde. Im Gegenzug unterschätzte man vielleicht die Wirkungsmacht der sich rapide ändernden globalen Haltung gegenüber E-Autos sowie die enorme Innovationsfähigkeit in Asien und Amerika auf diesem Gebiet.

Wie sollte man dem Simplification Bias entgegentreten?

Wie also könnte man in diesen Zeiten in den Unternehmen dem Simplification Bias entgegenwirken? Auch darauf gibt es sicherlich keine einfache Antwort. Nicht zuletzt ist dies eine Kulturfrage. Sicherlich mit verbreiterten Entscheidungskanälen und „divers“ – im Sinne unterschiedlicher Kompetenzen – angelegter Expertise. Um diese zur Geltung zu bringen, bedarf es allerdings veränderter Entscheidungsstrukturen, die diese Kompetenzen auch angemessen integrieren. Zweifelsohne steigt mit der Erweiterung des Beteiligtenkreises die Gefahr, dringend notwendige Entscheidungen zu „zerreden“. Also müssen Instrumente und Verfahren geschaffen werden, die diesen Tendenzen entgegenwirken. Eine Etablierung einer effizienten Kultur der kritischen Reflexion und die Förderung systemischen Denkens innerhalb der Mitarbeiterschaft ist ein langfristiger Prozess, der entsprechende Führungsmodelle voraussetzt. Dieser kulturelle Wandel muss eben auch organisatorisch begleitet werden und sich in angepassten Strukturen widerspiegeln.

Datengetriebene Methoden und maschinelles Lernen gegen Simplification Bias

Zum anderen bieten aber gerade auch die aktuellen technologischen Entwicklungen Ansätze, um Simplification Bias in der Entscheidungsfindung abzubauen. Auch wenn diese bisher nur sehr selten und zögerlich aufgegriffen werden. Die Verwendung datengetriebener Methoden in der Entscheidungsfindung könnte neue Möglichkeiten eröffnen, die entstandene Komplexität beherrschbar zu gestalten. Dazu gehören Szenario-Planungen, flankiert durch virtuelle Simulationen oder die Verwendung von Predictive-Analytics-Werkzeugen in der strategischen Planung. KI könnten helfen, die Komplexität von Märkten, Kundenbedürfnissen oder operativen Prozessen sichtbar zu machen und blinde Flecken zu minimieren. Auch bei der strategischen Entscheidungsfindung ließen sich somit Produktivitätssteigerung realisieren.

Entscheidend dabei ist allerdings der richtige Umgang mit diesen technologischen Instrumenten. Zum einen muss sichergestellt sein, dass der Mensch im Fahrersitz bleibt. Das erfordert unter anderem auch eine entsprechend aufzubauende Kompetenz. Zum anderen kann gerade die falsche „Fütterung“ der KI, ebenso wie ungenaues Prompting, zu einer Verstetigung des Simplification Bias führen.

Auch wenn solche Ansätze für Managementprobleme derzeit noch kaum entwickelt sind: Datengetriebene Methoden, KI und maschinelles Lernen, könnten perspektivisch Verzerrungen reduzieren und für eine Bewältigung des Information Overflow in komplexen Entscheidungsumfeldern sorgen.

Das setzt allerdings neben dem entsprechenden Kompetenzerwerb auf Managementebene auch die Einsicht in das Kernproblem des Simplification Bias voraus: für komplexe Probleme gibt es selten einfache Lösungen.

Mehr zum Thema: Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Weiterfuehrende Literatur

Der Beitrag Wie der Simplification Bias unseren Sinn für gute Entscheidungen trübt erschien zuerst auf Nerdwärts.de.

In den beiden vorangegangenen Beiträgen haben wir uns mit der Beschaffenheit von algorithmischen Entscheidungen und dem Problem des Einsatzes von KI in der Politik (AI Governance) (Teil 1) sowie mit den entsprechenden Einsatzfeldern (Teil 2) beschäftigt. Nachdem der Rückgriff auf diese Verfahren bereits faktisch erfolgt, gilt es dringend die Rechtmäßigkeit und Legitimität dieses Einsatzes zu hinterfragen.

Für die Akzeptanz algorithmischer Entscheidungen ist deren Nachvollziehbarkeit von großer Bedeutung. Je mehr Daten aus unterschiedlichen Datenquellen zur Verfügung stehen, umso komplexer geraten jedoch zwangsläufig die zugrundeliegenden Berechnungen. In der Praxis sind die Entscheidungspfade von KI heute oft nur durch ein aufwändiges „reverse engineering“ zu entschlüsseln. Transparenz ist allerdings wichtig, damit verständlich ist, warum eine Entscheidung auf diese Art und Weise getroffen wurde – und sich davon Betroffene gegebenenfalls mit den Mitteln des demokratischen Rechtsstaats dagegen zur Wehr setzen können. Schon seit geraumer Zeit wird daher eine Art Bürgerrecht auf die Offenlegung algorithmischer Entscheidungen diskutiert. Die Komplexität moderner, vielschichtiger „Deep Learning“-Systeme und die ihnen immanente Eigenständigkeit bei der Weiterentwicklung der Entscheidungssystematiken erschweren diese Rekonstruktion jedoch erheblich. Diesem Aspekt widmet sich das noch neue Forschungsfeld der „Explainable AI“, welches zum Ziel hat, Handreichungen für die Erklärung von KI-Entscheidungen im Alltag zu liefern – zum Beispiel warum ein Versicherungsantrag abgelehnt oder die Kreditwürdigkeit eines Schuldners herabgestuft wurde – und auch um mögliche Diskriminierungen in diesem Kontext aufzudecken.

Algorithmic Governance und Algorithmic Bias

Neben rational nachvollziehbaren Entscheidungswegen stehen hierbei auch technische Auswüchse und Fehlentwicklungen, wie der sogenannte „Algorithmic Bias“ im Fokus. Immer wieder kommt es zu einem vermeintlichen Versagen von algorithmischen Systemen, die plötzlich scheinbar irrationale, auch ethisch frag- oder verurteilungswürdige Ergebnisse produzieren. Die Ursache hierfür liegt allerdings meist nicht in der Systemstruktur, sondern im Lernprozess und ist in der Regel auf eine unausgewogene Zuführung von Trainingsdaten zurückzuführen.

Zu einer entsprechend zweifelhaften Berühmtheit brachte es ein von Google verwendeter Bilderkennungsalgorithmus, der Fotos autonom benannte und sortierte.  Eine Aufnahme, die zwei Afroamerikaner zeigte, wurde mit der Bezeichnung „Gorillas“ etikettiert und verarbeitet. Der Aufschrei vor allem in den USA war entsprechend groß. Als Ursache wurde eine unbeabsichtigte einseitige Auswahl und Verwendung von Trainingsbildmaterial identifiziert. Offenbar hatte man vorwiegend Fotos von hellhäutigen Personen für das Training der Kategorie Mensch verwendet, die Zuordnung eines Bildes eines dunkelhäutigen Menschen durch den Algorithmus erfolgte dann zwangsläufig unter großer Unsicherheit: Je nachdem welches Merkmal der Algorithmus als signifikant für die Zuordnung zu einer Kategorie identifizierte – auch Gorillas haben schwarze Haut – wurde die Sortierung entsprechend ausgeführt. Dass sich auch Facebook etliche Jahre später, im Jahr 2021, mit einer vergleichbaren Problematik konfrontiert sah – der Newsfeed-Algorithmus fragte Nutzer, die sich ein Video mit dem Titel „Weißer Mann ruft Polizei wegen schwarzen Männern am Hafen“ angesehen hatten, ob sie nun „weitere Videos über Primaten“ sehen wollten – zeigt, wie schwierig es offensichtlich ist, hier eine zufriedenstellende technische Lösung zu finden. Gerade im staatlichen Kontext wäre es aber selbstverständlich höchst problematisch, wenn Menschen nicht mehr als solche identifiziert werden.

Predictive Policing als Algorithmic Governance

Im Bereich der staatlichen Governance sorgt in diesem Zusammenhang regelmäßig das sogenannte „Predictive Policing“ für Aufsehen, das vor allem in den USA, aber auch zunehmend in Europa zum Einsatz kommt. Mit dem Ziel, die Polizeiarbeit auf diese Weise effizienter zu steuern, soll die Wahrscheinlichkeit „zukünftiger“ Straftaten oder des Eintritts anderer polizeilicher Einsatzszenarien, aus einer Vielzahl von verfügbaren Datenquellen berechnet werden. Durch die entsprechend daraus abgeleitete erhöhte Präsenz in ermittelten Problembezirken soll es gelingen, die Kriminalitätsraten erheblich zu senken. Kritiker bemängeln allerdings die damit ihrer Ansicht nach zwangsläufig einhergehende Diskriminierung, werden hier doch alle Bewohner eines Stadtteils automatisiert unter Generalverdacht gestellt, sofern die hinterlegten Algorithmen ihre Nachbarn „statistisch“ als vergleichsweise kriminell einstufen. Auch sind in den USA überwiegend afroamerikanische Gegenden von den zusätzlichen Polizeikontrollen betroffen, was dem System den Vorwurf der Ungleichbehandlung und des „Racial Profiling“ einbrachte. Die Funktionsweise der algorithmischen Entscheidungsfindung definiert somit in diesem Fall den Umgang des Staates mit seinen Angehörigen, teilt diese automatisiert in mehr- und minderprivilegierte Gruppen und wirkt mit diesem „Bias“ unweigerlich auf den Bereich der Bürgerrechte ein.

Algorithmic Governance und Transparenz

Die Gewährleistung von Transparenz verkörpert gerade in „Sachfragen“ seit jeher eine wichtige erste Bedingung zum Schutz vor Verzerrungen und Manipulationen. Gerade da, wo eine direkte politische Aufsicht durch entsprechende Institutionen nicht möglich oder nicht zweckmäßig erscheint, ist im demokratischen Staat eine Überwachung durch das öffentliche Publikum unabdingbar. Aber nur, wenn staatliches Handeln hier tatsächlich sichtbar und „durchschaubar“ wird, kann die Öffentlichkeit dieser Kontrollfunktion auch gerecht werden.

Neben der Nachvollziehbarkeit ist auch die Zuweisung von Verantwortlichkeiten von Governance-Entscheidungen und die dazugehörige Rechenschaftspflicht, also die „Accountability“, für die Funktionsweise des demokratischen Staates unerlässlich. Sofern die Abwicklung politischer Prozesse von den menschlichen Repräsentanten eines Staates gewissermaßen auf eine technische Lösung „outgesourced“ wird, so ist deren Arbeitsweise einerseits aufgrund von Effizienzerfordernissen, andererseits aber auch hinsichtlich der Vereinbarkeit der generierten Ergebnisse mit den staatlichen Zielen regelmäßig zu überprüfen. 

Verantwortung und Algorithmic Governance

Die Zurechenbarkeit politischer Handlungen ist in der Demokratie essentiell. Sie kann in diesem Kontext jedoch nur gewährleistet werden, wenn der Einsatz von Algorithmen ausdrücklich als Hilfsmittel der demokratisch legitimierten menschlichen Vertreter betrachtet wird – jedenfalls so lange es nicht möglich ist, den Algorithmus aufgrund von Unzufriedenheit mit den erbrachten Leistungen direkt selbst zu sanktionieren – also abzuwählen. Wenn diese – langfristig durchaus technisch denkbare – Option nicht besteht, bedeutet das, dass die Leistung eingesetzter Algorithmen zwingend mit den gewählten Repräsentanten des Staates, die diesen Einsatz verantworten, verknüpfbar sein muss. Dies bedeutet wiederum, dass nicht nur demokratische Kontrollinstanzen, sondern vor allem auch diejenigen, die den Einsatz von Algorithmen im Bereich der Governance verantworten, nachvollziehen und verstehen müssen, wie und warum diese auf ihre spezifische Weise funktionieren (oder eben nicht). Das kommt besonders dann zum Tragen, wenn die algorithmische Entscheidung einen hohen Automatisierungsgrad aufweist – in aller Regel bereits ab der beschriebenen Kategorie A2, in jedem Fall bei A3, im Falle „echter“ AI-Governance.

Explainable AI und Responsible AI

Der in jüngster Zeit verstärkt verwendete Begriff der „Responsible AI“ erweitert den oben genannten Terminus der „Explainable AI“. Er steht für den Übergang von Absichtserklärungen und formulierten Grundprinzipien hin zu einer Operationalisierung der Verantwortlichkeiten und Rechenschaftspflichten, auch, aber nicht ausschließlich, im Bereich der Algorithmic Governance. Gleichwohl sind diese Bestrebungen in der Umsetzung derzeit noch als recht rudimentär einzuordnen – zumindest was komplexere, KI-basierte Algorithmen betrifft. Das bedeutet, dass sich zwar alle Ansätze zur demokratischen Legitimation von Algorithmic Governance selbstverständlich am Umgang mit den beschriebenen Herausforderungen im Bereich der Transparenz und Accountability messen lassen müssen, gleichzeitig aber auch, dass dies vermutlich nur schwer mittels herkömmlicher Modelle und Vorgehensweisen gelingen wird.

Grenzen von Algorithmich Governance und ihrer demokratischen Legitimation

Man könnte die Auffassung vertreten, dass angesichts der Bedeutung, die Algorithmen heute in unserem Alltag einnehmen, vielleicht bereits das Ende des Anthropozäns eingeläutet worden ist und wir damit nun am Anfang eines „posthumanen“ Zeitalters stehen. Das gilt vor allem dann, wenn man auf die Entwicklungen im Bereich der KI und den entsprechenden Autonomiegrad solcher hoch entwickelten Systeme blickt. Entsprechend werden schließlich auch unter dem Aspekt der „Singularität“ die gesellschaftlichen und ökonomischen Auswirkungen diskutiert, sollten Algorithmen und intelligente Systeme eines – nicht allzu fernen – Tages die menschliche Leistungs- und Adaptionsfähigkeit übertroffen haben.

De Facto sind Algorithmen heute schon nicht mehr rein technisch-rationale Konstrukte. Sie repräsentieren auch immer den Einfluss derjenigen, die an ihrer Entstehung beteiligt sind, sowohl politisch als auch technisch. Insofern können sie als eine Art „Amalgam“ aus Mensch und Code verstanden werden. In dieser Auffassung spiegelt sich das Grundprinzip der Denkschule des „Neuen Materialismus“ wider. Demnach erschiene es zunehmend unangebracht, zwischen Menschen und Nichtmenschen, Leben und nicht lebendiger Materie und auch zwischen Akteuren und Strukturen zu unterscheiden. Vielmehr vermischen sich Menschen und Computeralgorithmen zu „sozio-materiellen Assemblagen“ (Kim 2020), wodurch neue Handlungsfähigkeiten und daraus resultierende Wirkungsweisen entstehen.

Von Algorithmic Governance zur Governance of Things

In Anlehnung an das vielzitierte „Internet der Dinge“ („Internet of Things“) könnte auf diese Weise dann eine „Governance of Things“ entstehen. Die menschlichen Systementwickler diktierten dabei nicht die Funktionsweise des Algorithmus, die Governance entstünde aus dem Zusammenwirken von Algorithmus und Systementwicklern, explizit etwa beim menschlich induzierten Training mit KI-Daten und der daraus resultierenden autonomen Lernentwicklung des Systems. Dieser Vorgang beinhaltet laufende Interaktionen und Iterationsschleifen zwischen beiden „Parteien“ und führt damit zu einer Verselbständigung dieser „Amalgambildung“.

Spannungsfelder von Algorithmic Governance

Die Frage ist jedoch, ob diese Betrachtungsweise der Legitimation algorithmischer politischer Entscheidungen dienen kann. Wie wir gesehen haben, bewegt sich Algorithmic Governance in einem Spannungsfeld zwischen mehreren verschiedenen Polen, was es immens erschwert, hierauf eine eindeutige Antwort zu geben:

Einerseits kann sie für politische Ergebniseffizienz sorgen, indem die das menschliche Vermögen übersteigenden Rechenleistungen zielgerichtet eingesetzt werden. Andererseits besteht die Gefahr, dass damit im Einzelfall bürgerliche Rechte eingeschränkt werden oder dies Diskriminierung zur Folge hat, wenn Effizienz das ausschlaggebende Element von Politik wird.

Einerseits sorgt der Rückgriff auf Algorithmen für eine Versachlichung politischer Entscheidungen. Andererseits kann genau dies auch zu einer Entmenschlichung führen, wenn Einzelschicksale zu Gunsten „des großen Ganzens“ in automatisierten Entscheidungssituationen keine Berücksichtigung finden können.

Einerseits ist Transparenz der Entscheidungsprozesse ein wichtiges Legitimationserfordernis. Andererseits beinhaltet dies auch eine weitgehende Transparenz des Individuums, denn anders können spezifische Entscheidungen durch Algorithmen nicht effizient getroffen werden, wodurch aber das Bürgerrecht der informationellen Selbstbestimmung tangiert wird.

Diese Spannungsfelder berühren den Kern vieler hochrelevanter gesellschaftspolitischer Themen. Es erscheint schwer vorstellbar, diese bislang in allen Demokratien der Welt immer wieder aufs Neue auszuhandelnden Fragen einem letztlich doch seelenlosen System anzuvertrauen oder ihm hier zumindest ein qualitatives „Mitspracherecht“ einzuräumen – jedenfalls solange ein posthumanes Zeitalter noch nicht eingetreten ist. Und würde nicht gerade der regelmäßige Einsatz von intelligenten Algorithmen in der Politik dessen möglichen Eintritt beschleunigen? 

Algorithmic Governance vs. AI Governance

Der Unterschied zwischen „Governance by Algorithms“ und „Governance by AI“ ist im eigenständigen Lernen und dem Autonomiegrad algorithmischer Entscheidungen zu sehen. Solange Algorithmen ein bloßes Hilfsmittel der Regierungsarbeit darstellen, die Kontrolle bei den menschlichen Entscheidern verbleibt – so wie im vorigen Artikel in dieser Reihe in der Kategorie A1 beschrieben – können diese einen wichtigen und wertvollen Beitrag zur praktischen Politik leisten, indem sie Entscheidungen tatsächlich effizienter, sachlicher und transparenter machen. Mindestens aber, wenn von „echter“ AI Governance die Rede ist, aber eigentlich schon bei der zweiten, nicht gänzlich autonomen Kategorie (A2), werden schnell die Grenzen legitimer Einsatzszenarien überschritten. Eine Legitimation nach demokratietheoretischen (humanistischen) Gesichtspunkten ist dann eigentlich nicht denkbar. Für den demokratischen Staat kann das dann aber in letzter Konsequenz nur bedeuten, dass AI Governance in sämtlichen Bereichen der staatlichen Sphäre ausgeschlossen werden sollte – mit allen Konsequenzen, die dies auch für bereits erprobte Anwendungen hat.

Solange wir davon ausgehen, dass Politik und gesellschaftliche Prozesse auch in Zeiten zunehmender Komplexität zuallererst Gegenstand zwischenmenschlicher Verhandlungen sind, sollten wir uns der Demokratie willen dieser Verantwortung höchstpersönlich und nicht verschanzt hinter einer Mauer aus Einsen und Nullen stellen.

Der Artikel erschien in überarbeiteter und deutlich erweiterter Form in der SWS-Rundschau, Andreas Wagener: Demokratische Legitimation von AI Governance, Sozialwissenschaftliche Rundschau, Heft 4/2021, 61. Jahrgang, S. 369 – 390

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Wie der Staat mit Daten umgeht. Was ist gesellschaftlich akzeptabel?“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Transparenz und Verantwortung: Das Legitimationsproblem algorithmischer Entscheidungen in der Politik erschien zuerst auf Nerdwärts.de.