Artificial Intelligence Archive - Nerdwärts.de

Transparenz und Verantwortung: Das Legitimationsproblem algorithmischer Entscheidungen in der Politik

Andreas Wagener — Tue, 01 Mar 2022 10:09:47 +0000

Im Zuge von Algorithmic Governance wird zunehmend auf den Einsatz von Algorithmen und KI für Entscheidungen und deren Ausführung in der praktischen Politik zurückgegriffen. Aber wie lassen sich diese Eingriffe demokratisch legitimieren und unter gesellschaftlichen Aspekten rechtfertigen?

In den beiden vorangegangenen Beiträgen haben wir uns mit der Beschaffenheit von algorithmischen Entscheidungen und dem Problem des Einsatzes von KI in der Politik (AI Governance) (Teil 1) sowie mit den entsprechenden Einsatzfeldern (Teil 2) beschäftigt. Nachdem der Rückgriff auf diese Verfahren bereits faktisch erfolgt, gilt es dringend die Rechtmäßigkeit und Legitimität dieses Einsatzes zu hinterfragen.

Für die Akzeptanz algorithmischer Entscheidungen ist deren Nachvollziehbarkeit von großer Bedeutung. Je mehr Daten aus unterschiedlichen Datenquellen zur Verfügung stehen, umso komplexer geraten jedoch zwangsläufig die zugrundeliegenden Berechnungen. In der Praxis sind die Entscheidungspfade von KI heute oft nur durch ein aufwändiges „reverse engineering“ zu entschlüsseln. Transparenz ist allerdings wichtig, damit verständlich ist, warum eine Entscheidung auf diese Art und Weise getroffen wurde – und sich davon Betroffene gegebenenfalls mit den Mitteln des demokratischen Rechtsstaats dagegen zur Wehr setzen können. Schon seit geraumer Zeit wird daher eine Art Bürgerrecht auf die Offenlegung algorithmischer Entscheidungen diskutiert. Die Komplexität moderner, vielschichtiger „Deep Learning“-Systeme und die ihnen immanente Eigenständigkeit bei der Weiterentwicklung der Entscheidungssystematiken erschweren diese Rekonstruktion jedoch erheblich. Diesem Aspekt widmet sich das noch neue Forschungsfeld der „Explainable AI“, welches zum Ziel hat, Handreichungen für die Erklärung von KI-Entscheidungen im Alltag zu liefern – zum Beispiel warum ein Versicherungsantrag abgelehnt oder die Kreditwürdigkeit eines Schuldners herabgestuft wurde – und auch um mögliche Diskriminierungen in diesem Kontext aufzudecken.

Algorithmic Governance und Algorithmic Bias

Neben rational nachvollziehbaren Entscheidungswegen stehen hierbei auch technische Auswüchse und Fehlentwicklungen, wie der sogenannte „Algorithmic Bias“ im Fokus. Immer wieder kommt es zu einem vermeintlichen Versagen von algorithmischen Systemen, die plötzlich scheinbar irrationale, auch ethisch frag- oder verurteilungswürdige Ergebnisse produzieren. Die Ursache hierfür liegt allerdings meist nicht in der Systemstruktur, sondern im Lernprozess und ist in der Regel auf eine unausgewogene Zuführung von Trainingsdaten zurückzuführen.

Zu einer entsprechend zweifelhaften Berühmtheit brachte es ein von Google verwendeter Bilderkennungsalgorithmus, der Fotos autonom benannte und sortierte. Eine Aufnahme, die zwei Afroamerikaner zeigte, wurde mit der Bezeichnung „Gorillas“ etikettiert und verarbeitet. Der Aufschrei vor allem in den USA war entsprechend groß. Als Ursache wurde eine unbeabsichtigte einseitige Auswahl und Verwendung von Trainingsbildmaterial identifiziert. Offenbar hatte man vorwiegend Fotos von hellhäutigen Personen für das Training der Kategorie Mensch verwendet, die Zuordnung eines Bildes eines dunkelhäutigen Menschen durch den Algorithmus erfolgte dann zwangsläufig unter großer Unsicherheit: Je nachdem welches Merkmal der Algorithmus als signifikant für die Zuordnung zu einer Kategorie identifizierte – auch Gorillas haben schwarze Haut – wurde die Sortierung entsprechend ausgeführt. Dass sich auch Facebook etliche Jahre später, im Jahr 2021, mit einer vergleichbaren Problematik konfrontiert sah – der Newsfeed-Algorithmus fragte Nutzer, die sich ein Video mit dem Titel „Weißer Mann ruft Polizei wegen schwarzen Männern am Hafen“ angesehen hatten, ob sie nun „weitere Videos über Primaten“ sehen wollten – zeigt, wie schwierig es offensichtlich ist, hier eine zufriedenstellende technische Lösung zu finden. Gerade im staatlichen Kontext wäre es aber selbstverständlich höchst problematisch, wenn Menschen nicht mehr als solche identifiziert werden.

Predictive Policing als Algorithmic Governance

Im Bereich der staatlichen Governance sorgt in diesem Zusammenhang regelmäßig das sogenannte „Predictive Policing“ für Aufsehen, das vor allem in den USA, aber auch zunehmend in Europa zum Einsatz kommt. Mit dem Ziel, die Polizeiarbeit auf diese Weise effizienter zu steuern, soll die Wahrscheinlichkeit „zukünftiger“ Straftaten oder des Eintritts anderer polizeilicher Einsatzszenarien, aus einer Vielzahl von verfügbaren Datenquellen berechnet werden. Durch die entsprechend daraus abgeleitete erhöhte Präsenz in ermittelten Problembezirken soll es gelingen, die Kriminalitätsraten erheblich zu senken. Kritiker bemängeln allerdings die damit ihrer Ansicht nach zwangsläufig einhergehende Diskriminierung, werden hier doch alle Bewohner eines Stadtteils automatisiert unter Generalverdacht gestellt, sofern die hinterlegten Algorithmen ihre Nachbarn „statistisch“ als vergleichsweise kriminell einstufen. Auch sind in den USA überwiegend afroamerikanische Gegenden von den zusätzlichen Polizeikontrollen betroffen, was dem System den Vorwurf der Ungleichbehandlung und des „Racial Profiling“ einbrachte. Die Funktionsweise der algorithmischen Entscheidungsfindung definiert somit in diesem Fall den Umgang des Staates mit seinen Angehörigen, teilt diese automatisiert in mehr- und minderprivilegierte Gruppen und wirkt mit diesem „Bias“ unweigerlich auf den Bereich der Bürgerrechte ein.

Algorithmic Governance und Transparenz

Die Gewährleistung von Transparenz verkörpert gerade in „Sachfragen“ seit jeher eine wichtige erste Bedingung zum Schutz vor Verzerrungen und Manipulationen. Gerade da, wo eine direkte politische Aufsicht durch entsprechende Institutionen nicht möglich oder nicht zweckmäßig erscheint, ist im demokratischen Staat eine Überwachung durch das öffentliche Publikum unabdingbar. Aber nur, wenn staatliches Handeln hier tatsächlich sichtbar und „durchschaubar“ wird, kann die Öffentlichkeit dieser Kontrollfunktion auch gerecht werden.

Neben der Nachvollziehbarkeit ist auch die Zuweisung von Verantwortlichkeiten von Governance-Entscheidungen und die dazugehörige Rechenschaftspflicht, also die „Accountability“, für die Funktionsweise des demokratischen Staates unerlässlich. Sofern die Abwicklung politischer Prozesse von den menschlichen Repräsentanten eines Staates gewissermaßen auf eine technische Lösung „outgesourced“ wird, so ist deren Arbeitsweise einerseits aufgrund von Effizienzerfordernissen, andererseits aber auch hinsichtlich der Vereinbarkeit der generierten Ergebnisse mit den staatlichen Zielen regelmäßig zu überprüfen.

Verantwortung und Algorithmic Governance

Die Zurechenbarkeit politischer Handlungen ist in der Demokratie essentiell. Sie kann in diesem Kontext jedoch nur gewährleistet werden, wenn der Einsatz von Algorithmen ausdrücklich als Hilfsmittel der demokratisch legitimierten menschlichen Vertreter betrachtet wird – jedenfalls so lange es nicht möglich ist, den Algorithmus aufgrund von Unzufriedenheit mit den erbrachten Leistungen direkt selbst zu sanktionieren – also abzuwählen. Wenn diese – langfristig durchaus technisch denkbare – Option nicht besteht, bedeutet das, dass die Leistung eingesetzter Algorithmen zwingend mit den gewählten Repräsentanten des Staates, die diesen Einsatz verantworten, verknüpfbar sein muss. Dies bedeutet wiederum, dass nicht nur demokratische Kontrollinstanzen, sondern vor allem auch diejenigen, die den Einsatz von Algorithmen im Bereich der Governance verantworten, nachvollziehen und verstehen müssen, wie und warum diese auf ihre spezifische Weise funktionieren (oder eben nicht). Das kommt besonders dann zum Tragen, wenn die algorithmische Entscheidung einen hohen Automatisierungsgrad aufweist – in aller Regel bereits ab der beschriebenen Kategorie A2, in jedem Fall bei A3, im Falle „echter“ AI-Governance.

Explainable AI und Responsible AI

Der in jüngster Zeit verstärkt verwendete Begriff der „Responsible AI“ erweitert den oben genannten Terminus der „Explainable AI“. Er steht für den Übergang von Absichtserklärungen und formulierten Grundprinzipien hin zu einer Operationalisierung der Verantwortlichkeiten und Rechenschaftspflichten, auch, aber nicht ausschließlich, im Bereich der Algorithmic Governance. Gleichwohl sind diese Bestrebungen in der Umsetzung derzeit noch als recht rudimentär einzuordnen – zumindest was komplexere, KI-basierte Algorithmen betrifft. Das bedeutet, dass sich zwar alle Ansätze zur demokratischen Legitimation von Algorithmic Governance selbstverständlich am Umgang mit den beschriebenen Herausforderungen im Bereich der Transparenz und Accountability messen lassen müssen, gleichzeitig aber auch, dass dies vermutlich nur schwer mittels herkömmlicher Modelle und Vorgehensweisen gelingen wird.

Grenzen von Algorithmich Governance und ihrer demokratischen Legitimation

Man könnte die Auffassung vertreten, dass angesichts der Bedeutung, die Algorithmen heute in unserem Alltag einnehmen, vielleicht bereits das Ende des Anthropozäns eingeläutet worden ist und wir damit nun am Anfang eines „posthumanen“ Zeitalters stehen. Das gilt vor allem dann, wenn man auf die Entwicklungen im Bereich der KI und den entsprechenden Autonomiegrad solcher hoch entwickelten Systeme blickt. Entsprechend werden schließlich auch unter dem Aspekt der „Singularität“ die gesellschaftlichen und ökonomischen Auswirkungen diskutiert, sollten Algorithmen und intelligente Systeme eines – nicht allzu fernen – Tages die menschliche Leistungs- und Adaptionsfähigkeit übertroffen haben.

De Facto sind Algorithmen heute schon nicht mehr rein technisch-rationale Konstrukte. Sie repräsentieren auch immer den Einfluss derjenigen, die an ihrer Entstehung beteiligt sind, sowohl politisch als auch technisch. Insofern können sie als eine Art „Amalgam“ aus Mensch und Code verstanden werden. In dieser Auffassung spiegelt sich das Grundprinzip der Denkschule des „Neuen Materialismus“ wider. Demnach erschiene es zunehmend unangebracht, zwischen Menschen und Nichtmenschen, Leben und nicht lebendiger Materie und auch zwischen Akteuren und Strukturen zu unterscheiden. Vielmehr vermischen sich Menschen und Computeralgorithmen zu „sozio-materiellen Assemblagen“ (Kim 2020), wodurch neue Handlungsfähigkeiten und daraus resultierende Wirkungsweisen entstehen.

Von Algorithmic Governance zur Governance of Things

In Anlehnung an das vielzitierte „Internet der Dinge“ („Internet of Things“) könnte auf diese Weise dann eine „Governance of Things“ entstehen. Die menschlichen Systementwickler diktierten dabei nicht die Funktionsweise des Algorithmus, die Governance entstünde aus dem Zusammenwirken von Algorithmus und Systementwicklern, explizit etwa beim menschlich induzierten Training mit KI-Daten und der daraus resultierenden autonomen Lernentwicklung des Systems. Dieser Vorgang beinhaltet laufende Interaktionen und Iterationsschleifen zwischen beiden „Parteien“ und führt damit zu einer Verselbständigung dieser „Amalgambildung“.

Spannungsfelder von Algorithmic Governance

Die Frage ist jedoch, ob diese Betrachtungsweise der Legitimation algorithmischer politischer Entscheidungen dienen kann. Wie wir gesehen haben, bewegt sich Algorithmic Governance in einem Spannungsfeld zwischen mehreren verschiedenen Polen, was es immens erschwert, hierauf eine eindeutige Antwort zu geben:

Einerseits kann sie für politische Ergebniseffizienz sorgen, indem die das menschliche Vermögen übersteigenden Rechenleistungen zielgerichtet eingesetzt werden. Andererseits besteht die Gefahr, dass damit im Einzelfall bürgerliche Rechte eingeschränkt werden oder dies Diskriminierung zur Folge hat, wenn Effizienz das ausschlaggebende Element von Politik wird.

Einerseits sorgt der Rückgriff auf Algorithmen für eine Versachlichung politischer Entscheidungen. Andererseits kann genau dies auch zu einer Entmenschlichung führen, wenn Einzelschicksale zu Gunsten „des großen Ganzens“ in automatisierten Entscheidungssituationen keine Berücksichtigung finden können.

Einerseits ist Transparenz der Entscheidungsprozesse ein wichtiges Legitimationserfordernis. Andererseits beinhaltet dies auch eine weitgehende Transparenz des Individuums, denn anders können spezifische Entscheidungen durch Algorithmen nicht effizient getroffen werden, wodurch aber das Bürgerrecht der informationellen Selbstbestimmung tangiert wird.

Diese Spannungsfelder berühren den Kern vieler hochrelevanter gesellschaftspolitischer Themen. Es erscheint schwer vorstellbar, diese bislang in allen Demokratien der Welt immer wieder aufs Neue auszuhandelnden Fragen einem letztlich doch seelenlosen System anzuvertrauen oder ihm hier zumindest ein qualitatives „Mitspracherecht“ einzuräumen – jedenfalls solange ein posthumanes Zeitalter noch nicht eingetreten ist. Und würde nicht gerade der regelmäßige Einsatz von intelligenten Algorithmen in der Politik dessen möglichen Eintritt beschleunigen?

Algorithmic Governance vs. AI Governance

Der Unterschied zwischen „Governance by Algorithms“ und „Governance by AI“ ist im eigenständigen Lernen und dem Autonomiegrad algorithmischer Entscheidungen zu sehen. Solange Algorithmen ein bloßes Hilfsmittel der Regierungsarbeit darstellen, die Kontrolle bei den menschlichen Entscheidern verbleibt – so wie im vorigen Artikel in dieser Reihe in der Kategorie A1 beschrieben – können diese einen wichtigen und wertvollen Beitrag zur praktischen Politik leisten, indem sie Entscheidungen tatsächlich effizienter, sachlicher und transparenter machen. Mindestens aber, wenn von „echter“ AI Governance die Rede ist, aber eigentlich schon bei der zweiten, nicht gänzlich autonomen Kategorie (A2), werden schnell die Grenzen legitimer Einsatzszenarien überschritten. Eine Legitimation nach demokratietheoretischen (humanistischen) Gesichtspunkten ist dann eigentlich nicht denkbar. Für den demokratischen Staat kann das dann aber in letzter Konsequenz nur bedeuten, dass AI Governance in sämtlichen Bereichen der staatlichen Sphäre ausgeschlossen werden sollte – mit allen Konsequenzen, die dies auch für bereits erprobte Anwendungen hat.

Solange wir davon ausgehen, dass Politik und gesellschaftliche Prozesse auch in Zeiten zunehmender Komplexität zuallererst Gegenstand zwischenmenschlicher Verhandlungen sind, sollten wir uns der Demokratie willen dieser Verantwortung höchstpersönlich und nicht verschanzt hinter einer Mauer aus Einsen und Nullen stellen.

Der Artikel erschien in überarbeiteter und deutlich erweiterter Form in der SWS-Rundschau, Andreas Wagener: Demokratische Legitimation von AI Governance, Sozialwissenschaftliche Rundschau, Heft 4/2021, 61. Jahrgang, S. 369 – 390

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Wie der Staat mit Daten umgeht. Was ist gesellschaftlich akzeptabel?“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Transparenz und Verantwortung: Das Legitimationsproblem algorithmischer Entscheidungen in der Politik erschien zuerst auf Nerdwärts.de.

Blended Intelligence – Pimp my Brain! Die Verschmelzung von natürlicher und künstlicher Intelligenz

Andreas Wagener — Tue, 14 Feb 2017 10:34:39 +0000

Die Digitalisierung verändert unser Leben maßgeblich. Gewinnen Roboter und Computer die Oberhand oder leiten sich daraus nie dagewesene Chancen ab? Ist das menschliche „Tuning“ zu „Cyborgs“ die Antwort auf die Herausforderungen der Technisierung durch Daten, Algorithmen und Künstliche Intelligenz?

Kaum eine Diskussion um Wohl und Wehe der Digitalisierung kommt in jüngster Zeit ohne den Begriff der „Künstlichen Intelligenz“ („KI“) aus. Allerlei mögliche Szenarien werden zur Erfassung dieses Phänomens bemüht, von autonom agierenden digitalen „Chatbots“ – wie sie heute schon in sozialen Netzwerken oder als Hardware-gewordene Version in Form von Amazons „Echo“ und dem Sprachassistenten „Google Home“ Wirklichkeit sind – bis hin zur Herrschaft der Maschinen und der vollständigen Vernichtung der Menschheit.

Und was ist wirklich „Künstliche Intelligenz“?

In Wahrheit tun wir uns jedoch schwer, die tatsächliche Tragweite und Bedeutung dieser Entwicklung zu erfassen. Das liegt unter anderem daran, dass es sich bereits als schwierig erweist, ein einheitliches Verständnis von Intelligenz überhaupt zu finden. Auch eine einheitliche Definition von „Künstlicher Intelligenz“ gibt es nicht. Allerdings besteht weitgehend Einigkeit über bestimmte beschreibende Merkmale. Dazu gehören etwa die Fähigkeit, Muster und Logiken zu erkennen (etwa in Texten oder Bildern), Voraussagungen auf dieser Basis abzugeben und über geschriebene oder gesprochene Worte kommunizieren zu können. Als maßgeblich gilt jedoch die Fertigkeit zu lernen, also aus vorausgegangenen Tätigkeiten eigenständig Verbesserungen abzuleiten und autonom Kriterien zur Beurteilung von Sachverhalten aufzustellen.

Vom Automatismus der Chatbots zu „echter“ Intelligenz

Die meisten Chatbots erfüllen zumindest diese letzten Eigenschaften in der Regel nicht. Als klassisches Beispiel wird hingegen oft Googles Alpha Go angeführt, die Künstliche Intelligenz, die es geschafft hat, beim asiatischen Brettspiel „Go“ den Großmeister Lee Sedol zu bezwingen. Nun gab es in der Vergangenheit bereits mit Deep Blue einen Computer, der beim Schach den Weltmeister Gari Kasparow in die Knie zwang. Go unterscheidet sich jedoch wesentlich von Schach; es gilt als hochkompliziert und bislang als kaum für eine Computersimulation programmierbar. Anders als bei Schachsimulationen hat die KI von Google neue Spielzüge selbst gefunden und Zugkombinationen entwickelt, die man bei menschlichen Spielern so zuvor noch nie gesehen hatte. Diese maschinell erbrachte „Geistesleistung“ gilt gemeinhin als Beleg für eine Künstliche Intelligenz.

Künstliche Kreativität

Gerade diesem Feld wird derzeit eine besondere Aufmerksamkeit geschenkt, so dass hier in den nächsten Jahren von erheblichen Entwicklungssprüngen ausgegangen werden kann. Künstliche Intelligenzen werden heute bereits, aufgrund ihrer Fähigkeit, eigenständig logische Zusammenhänge zu erkennen, eingesetzt, um auf dieser Basis Entscheidungen zu treffen – ohne dass es noch eines menschlichen Eingreifens bedürfte. Selbst kreative Leistungen werden durch KI erbracht. Google etwa lässt sein lernendes System „Magenta“ Kunstwerke erstellen, sogar die Komposition von Musik oder auch das eigenständige Verfassen von Prosa wurden bereits erfolgreich erprobt.

Intelligente Robotik und selbststeuernde Drohnen

Die Firma Boston Dynamics stellt Roboter her, die Menschen in verschiedenen Situationen zur Hand gehen. Sie können im Haushalt helfen, räumen die Geschirrspülmaschine ein und schaffen es dabei, ein Glas von einer leeren Bierdose zu unterscheiden – in der Gewissheit, dass letztere nicht in den Abwasch gehört, sondern zielsicher in den Mülleimer zu sortieren ist. Diese Systeme agieren völlig unabhängig von einer menschlichen Steuerung und wirken dabei eher wie ein intelligentes mechanisches Haustier. In der Industrie sind Roboter schon lange im Einsatz, um verlässlich sich wiederholende Aufgaben zu erfüllen, nun werden diese jedoch immer mehr mit einem eigenen Handlungs- und Entscheidungsrahmen ausgestattet. Darunter können unterstützende Tätigkeiten fallen, wie etwa ein Paket von A nach B zu bringen oder bestimmte Sortierungs- und Erfassungsarbeiten zu übernehmen. Es gibt inzwischen auch schon selbst steuernde Drohnen, die eigenständig die Bestandsaufnahme des Inventars in einer Lagerhalle übernehmen. Inzwischen werden Künstliche Intelligenzen sogar als Führungskräfte eingesetzt. Hitachi greift in der Logistik auf eine KI zurück, die den Mitarbeitern Handlungsanweisungen gibt, etwa für die Pack- oder Lieferreihenfolge.

Autonome Roboter in der militärischen Nutzung

Eigentlich lag jedoch der Ursprung dieser intelligenten Roboter in der militärischen Nutzung. Als Lastenträger steuern sie sich heute bereits selbst und finden eigenhändig den Weg zum vorgegebenen Ziel, auch durch unwegsames Gelände. Im Kampfeinsatz müssen diese Roboter jedoch auch tiefergreifende Entscheidungen treffen. Als autonome Kriegssysteme werden sie inzwischen mit Waffen ausgestattet und könnten in naher Zukunft selbstständig über deren Einsatz befinden. Laut einem Arbeitspapier der US-Army will diese bis spätestens zum Jahr 2030 auf derartige autonome Systeme zur Kriegsführung zurückgreifen. Die Entscheidung über Leben und Tod wäre also dann vollständig in der Hand von Maschinen.

„Singularität“: Science Fiction oder konkrete Bedrohung?

Was wie ein klassisches Narrativ aus der Science Fiction klingt, ist damit heute greifbar nah. Ohne Zweifel drängen sich an dieser Stelle Bilder aus den Kino-Blockbustern „Terminator“ oder „Matrix“ auf, deren Geschichte darum kreist, dass in einer fernen Zukunft die Maschinen die Macht über die Menschheit ergriffen haben und diese wahlweise eliminieren (Terminator) oder unterwerfen und ausbeuten (Matrix). In der akademischen Diskussion versucht man diese Thematik mit der Frage nach der sogenannten „Singularität“ Herr zu werden. Damit wird der Zeitpunkt definiert, an dem die Maschinen und Künstliche Intelligenzen uns Menschen in der Leistungsfähigkeit, insbesondere kognitiv überholt haben werden. Es besteht dabei Uneinigkeit darüber, ob das nun eine Bedrohung oder einen Segen für die Menschheit darstellt. Auch die Frage, was wir Menschen dann mit unserer ganzen Freizeit anfangen, wenn die Maschinen uns alle Arbeit abgenommen haben, wird in diesem Kontext diskutiert, etwa im Rahmen der Überlegungen zu einem „bedingungslosen Grundeinkommen“, das vielen nach Eintritt der Singularität als unvermeidlich erscheint. Denn wenn bei der zunehmenden Intelligenz von Maschinen und Robotern diesen zunehmend mehr Arbeit übertragen wird – schlichtweg weil sie viele Tätigkeiten besser als ein Mensch erfüllen können – so bleibt letztlich immer weniger für den Menschen zu tun. Die Folgen wären weitreichende Arbeitslosigkeit und gähnende Langeweile aller Orten. Das allein stellt, auch ohne Weltuntergangsszenarien, bereits zweifelslos eine große gesellschaftliche Herausforderung dar.

Cyborgs & Kognitiver Transhumanismus

Damit rückt ein anderes, ebenfalls der Science Fiction entlehntes Szenario in den Fokus: Eine Möglichkeit wäre, die Errungenschaften der Digitalisierung zu nutzen, um den Menschen als solchen zu „verbessern“ und auf diese Weise den sich entwickelnden Maschinen entgegenzustellen. Im Prinzip bedeutet dies eine Verschmelzung von Mensch und Technik – die Schaffung von „Cyborgs“. Auch wenn manchem dabei zunächst das Bild von mit ihren Smartphones verwachsen scheinende Teenager in den Kopf kommen mag: Tatsächlich gibt es heute bereits Menschen, die sich Chips einpflanzen lassen, um ihre Fähigkeiten zu erweitern. Manche tragen Magnete unter der Haut, um einen weiteren Sinn zu gewinnen – die Fingerspitzen vibrieren, wenn man sich einem elektromagnetischen Feld nähert – andere implantieren sich RFID-Chips, mit denen eine Authentifizierung in Schließsystemen vorgenommen werden kann, zum Beispiel um einen Kopierer „freizuschalten“.

„Pimp my Brain!“: Blended Intelligence als Antwort auf die Intelligenz der Maschinen

Neben diesem eher profanen menschlichen „Tuning“ rückt zunehmend das Phänomen der „Blended Intelligence“ in den Vordergrund, welches auf die Erweiterung der kognitiven menschlichen Fähigkeiten zielt. Das menschliche Gehirn ist schon länger im Visier der einschlägigen Forschung. Bereits heute werden Epilepsie-Patienten mit einem „Gehirnschrittmacher“ ausgestattet. Die EU hat 2015 eine Milliarde Euro in das „Human Brain Project“ investiert, mit dem Ziel, einzelne Bereiche des menschlichen Gehirns durch künstliche Bestandteile wie Computerchips zu ersetzen, um auf diese Weise Krankheiten wie Parkinson zu heilen. Die Möglichkeiten sind damit jedoch nicht auf medizinische Anwendungen allein beschränkt. Das Gehirn gilt vielen als die ultimative „Schnittstelle“ der Zukunft. Eine Umfrage des Bundesforschungsministeriums im Jahr 2015 ergab, dass 51% der Deutschen sich vorstellen könnten, sich Implantate ins Gehirn einsetzen zu lassen, wenn diese zur „Steigerung der geistigen Fähigkeiten“ beitrügen, also etwa um die Konzentration oder die Gedächtnisleistung zu verbessern. Auch die Steuerung von externen Geräten und Computern, die bisher noch klassischer Eingabegeräte wie Tastatur oder PC-Maus bedürfen, soll in Zukunft direkt über das Gehirn erfolgen. Tatsächlich gibt es aktuell schon vielversprechende Versuche, die Erfassung der Gehirnströme zur Steuerung von Flug-Drohnen zu nutzen. Auch simple Gedankenübertragung von einem Menschen auf den anderen – die Übermittlung der Worte „ja“ und „nein“ – ist über die Codierung der Gehirnströme bereits erfolgreich durchgeführt worden.

Gehirnprothesen & Implantate für Gedanken?

Ein Haupttreiber dieser Entwicklungen ist die „DARPA“, gewissermaßen der akademische Arm des US-Militärs. Um kriegsversehrte Veteranen zu unterstützen hat diese maßgeblich zu den Erfolgen auf dem Gebiet der Prothesenentwicklung beigetragen. Jedoch sind Kriegsverletzungen nicht immer auf den Verlust eines Armes oder Beines beschränkt – auch solche künstlichen Extremitäten lassen sich inzwischen recht filigran „neurologisch“ steuern – die Folgen von Kampfeinsätzen sind allzu oft auch psychischer Natur. Und auch hierfür versucht man Behandlungsmöglichkeiten bereitzustellen. Selbst Gedächtnisverlust soll in Zukunft mit entsprechenden Implantaten therapiert bzw. sollen die Erinnerungen wieder im Gehirn rekonstruiert werden. Das setzte allerdings voraus, dass diese bereits vor dem Kampfeinsatz „abgespeichert“ worden sein müssten. Aus heutiger Sicht ist das noch schwer vorstellbar. Aber tatsächlich ruht ein gewichtiger Fokus der Forschung auf diesem Bereich.

Moralische Fragen: Die Macht der Algorithmen

Künstliche Intelligenz und die „transhumanistische“ Vision vom technisierten Menschen und der digitalen Erweiterung seiner geistigen Fähigkeiten zur „Blended Intelligence“ überlagern sich in einigen Bereichen. Moralische Fragen drängen sich bei beiden Entwicklungsrichtungen auf, und wie bei jeder technischen Innovation liegen Nutzen und Schrecken jeweils nah beieinander. Wir lesen und hören heute viel davon, wie man Daten und Algorithmen nutzen kann, um Menschen zu manipulieren, auch um sie hinsichtlich ihrer Stimmabgabe bei eigentlich demokratischen Wahlen zu beeinflussen. Welche Rolle kommt dann hierbei Künstlicher Intelligenz zu? Auch wenn diese in der Lage ist, eigenständig hinzuzulernen, stellt sich die Frage, auf Grundlage welches Wertesystems diese ihre Entscheidungen trifft. Die EU fordert ein Recht auf Auskunft für ihre Bürger, wenn Algorithmen bei einer Entscheidung – etwa bei der Zuordnung zu einem Versicherungstarif – im Spiel waren. Die Faktoren dieser Entscheidungsfindung müssen offengelegt und für den Betroffenen transparent gemacht werden. Bei Künstlicher Intelligenz gestaltet sich das in der Realität oft schwierig. Denn diese hat sich ja meist ihre Prüf-Kriterien selbst erarbeitet, so dass es selbst den Entwicklern von KI mitunter schwerfällt, die Gründe für eine Entscheidung nachzuvollziehen.

Kann man Menschen „hacken“?

Für Künstliche Intelligenz wie auch für das menschliche „kognitive Upgrade“, des „Cyborgs“, erweist sich die Möglichkeit eines Eingriffs von außen als problematisch. Wenn es möglich ist, Erinnerungen zu speichern und zu einem späteren Zeitpunkt wiedereinzusetzen, kann man dann diese auch abändern oder manipulieren? Erinnert man sich dann tatsächlich an das, was gewesen ist oder an etwas, was andere einen glauben lassen wollen? Für die Psychotherapie ergäben sich daraus völlig neue Möglichkeiten, allerdings liegt das Gefahrenpotenzial ebenso auf der Hand. Kann man dann einen Menschen „hacken“? Und können wir es uns auf der anderen Seite überhaupt noch leisten, uns nicht technisch aufzurüsten? Aber wo liegen dann noch die Unterschiede zwischen Mensch und Maschine?

Noch ist unklar, wie weit die Entwicklung tatsächlich reichen wird. Aber unbestreitbar ist: Nicht nur die Welt, in der wir leben, auch der Mensch selbst wird sich durch die Digitalisierung grundsätzlich verändern. Mit ihren Smartphones scheinbar verwachsene Teenager werden uns in der nun schon sehr nahen Zukunft der „Blended Intelligence“ bald wie ein Anachronismus vorkommen.

Mehr zum Thema:

Mehr zum Thema Cyborgs:

Prof. Dr. Andreas Wagener. Professur für Digitales Marketing: eCommerce & Social Media, Hochschule Hof
„Cyborg Economy Reloaded: Vom Cyborg zum Psyborg – wie die Digitalisierung das menschliche Bewusstsein, unsere Psyche sowie unsere intellektuellen Fähigkeiten verändert“ (Vortrag an der Hochschule Hof am 18.11.2015 im Rahmen der Ringvorlesung „Digitalisierung, Industrie 4.0 & das Internet der Dinge“ der Fakultät Wirtschaft an der Hochschule Hof.) #profwag

Mehr zum Thema Künstliche Intelligenz:

Prof. Dr. Andreas Wagener. Professur für Digitales Marketing: eCommerce & Social Media, Hochschule Hof
„Industrie 4.0, Datenökonomie und Künstliche Intelligenz: Wie Daten und Algorithmen Wirtschaft und Gesellschaft verändern“ (Vortrag an der Hochschule Hof am 26.10.2016 im Rahmen der Vortragsreihe „Digitale Wirtschaft, Industrie 4.0 und das ‚Internet der Dinge‘“ der Fakultät Wirtschaft der Hochschule Hof.) #profwag

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Blended Intelligence – Pimp my Brain! Die Verschmelzung von natürlicher und künstlicher Intelligenz erschien zuerst auf Nerdwärts.de.

Vortragsreihe „Digitale Wirtschaft, Industrie 4.0 und das ‚Internet der Dinge‘“

Andreas Wagener — Tue, 18 Oct 2016 13:22:57 +0000

Nach dem erfolgreichen Start im letzten Jahr geht die Vortragsreihe der Fakultät Wirtschaft an der Hochschule Hof in die zweite Runde. Die hochschulöffentliche – also für alle Interessierten offene und kostenfreie – Veranstaltung widmet sich dem Thema der Digitalisierung in Wirtschaft und Gesellschaft und richtet sich explizit auch an Unternehmen und deren Mitarbeiter. Das Trendthema „Industrie 4.0“, der Einsatz von Künstlicher Intelligenz und Big Data-Anwendungen sowie die Anpassung einzelner Wirtschaftssektoren an die Entwicklung der Digitalisierung sind in diesem Jahr prägende Inhalte.

Hochschule Hof Vortragsreihe „Digitale Ökonomie, Industrie 4.0 & das Internet der Dinge“, 2016

Wie im Vorjahr ist es das Ziel der Veranstaltungsreihe, für das Thema der Digitalisierung zu sensibilisieren und einen Beitrag zur Etablierung einer gesellschaftlichen Diskussion zu leisten. Betrachtet man die hierzulande immer noch sehr häufig zu Tage tretende Abwehrhaltung, die sich oft in einer gewissen Indifferenz gegenüber den wirtschaftlichen, aber auch politisch und gesellschaftlichen Auswirkungen, Chancen und Risiken zeigt, so scheint dies dringend angeraten. Viel zu oft werden lediglich die potenziellen Gefahren einer zunehmenden Digitalisierung beschrieben. Die Potenziale hingegen werden nicht selten immer noch, auch in Unternehmen, ignoriert oder zumindest nicht erkannt.

Die Veranstaltungen finden im Zeitraum von Oktober bis Dezember 2016 an der Hochschule Hof statt (REHAU Audimax, B023). Die Vorträge werden aufgezeichnet und können, ebenso wie weitere Unterlagen, sofern zur Verfügung gestellt, nach Veröffentlichung an dieser Stelle aufgerufen werden.

Zum Programm:

26.10.2016 Industrie 4.0, Datenökonomie und Künstliche Intelligenz: Wie Daten und Algorithmen Wirtschaft und Gesellschaft verändern

Prof. Dr. Andreas Wagener, Hochschule Hof

Beschreibung:
Der Einsatz Künstlicher Intelligenz bestimmt bereits heute schon unseren Alltag, oft ohne dass wir dies bemerken. Dieser Trend dürfte in der nahen Zukunft noch deutlich zunehmen. Daten und Algorithmen – und damit Computer, Maschinen und Roboter – werden die Bedingungen des unternehmerischen Erfolges wie auch das gesellschaftliche Miteinander maßgeblich bestimmen. Welche Chancen und welche Risiken leiten sich daraus ab? Und wie stellen wir die Weichen dafür richtig?