Diskriminiert Google? Mit Autosuggest lassen sich Verzerrungen beim maschinellen Lernen eindrücklich zeigen. Das hat auch Einfluss darauf, wie wir mit Generativer KI, mit ChatGPT&Co, umgehen sollten. Ein kurzer Auszug aus der Hofer Stadtvorlesung mit Andreas Wagener.
In vielen Branchen gilt immer noch das Paradigma, dass es deutlich kostengünstiger sei, bestehende Kunden zu binden, als neue zu gewinnen. In diesem Kontext kommt einem zielgerichteten, analytischen Churn Management eine besondere Bedeutung zu. KI und Methoden des maschinellen Lernens scheinen dafür wie geschaffen.
Während wir hierzulande noch über eine etwas diffus als „eGovernance“ umschriebene „Digitalisierung der Verwaltung“ sinnieren, bei der wir auch im europäischen Vergleich gegenüber Ländern wie Estland deutlich hinterherhinken, wird andernorts bereits der Einsatz intelligenter Datenauswertungsverfahren und der Rückgriff auf Algorithmen bei der Findung und Exekutive staatlicher Entscheidungen erprobt. In der internationalen akademischen Diskussion hat sich inzwischen das Forschungsfeld der „Algorithmic Governance“ etabliert, welches sich vor allem mit dem Aspekt der Ergänzung oder des vollständigen Ersatzes menschlicher politischer Entscheidungen durch datenbasierte Technologie, wie vor allem auch KI, befasst.
Im Zuge von Algorithmic Governance wird zunehmend auf den Einsatz von Algorithmen und KI für Entscheidungen und deren Ausführung in der praktischen Politik zurückgegriffen. Aber wie lassen sich diese Eingriffe demokratisch legitimieren und unter gesellschaftlichen Aspekten rechtfertigen?
Der Rückgriff auf Algorithmen und datenbasierte Entscheidungsmuster sowie zunehmend auch auf KI im Rahmen der „Algorithmic Governance“ verändert die praktische Politik grundlegend. Dabei unterscheiden sich die Einsatzfelder hinsichtlich ihres Autonomiegrades. Das Spektrum reicht von klassischen Analyseleistungen bis hin zu völlig autonomen politischen Entscheidungen durch KI.
Unter dem Begriff der Algorithmic Governance wird verstärkt der Einsatz von Algorithmen als Ergänzung oder auch als vollständiger Ersatz menschlicher politischer Entscheidungen diskutiert. Kommen dabei Methoden des maschinellen Lernens und KI zum Einsatz verändert dies die Rahmenbedingungen des Regierens in der Demokratie grundlegend.
Amazon’s „Kunden, die … gekauft haben, haben auch gekauft…“ ist ein Klassiker der datengetriebenen Personalisierung. Was lässt sich über die Interessenten und Käufer der Krawatte Alexander Gaulands bei Amazon aussagen? Ein Blick in die Abgründe politisch motivierten Shoppings…
Aktuell wird oft behauptet, der Datenschutz sei schuld daran, dass eine Nachverfolgung der Covid19-Infektionen nicht möglich ist – ein Irrglauben, der eher auf das Fehlen digitaler Kompetenzen und ein gestörtes Verhältnis zu individuellen Persönlichkeitsrechten hinweist.
Wir reden heute viel über Künstliche Intelligenz und Big Data und wie wichtig hierfür große Datenvolumen und die komplexe Vernetzung der Datenbestände ist. Dabei kann schon mit sehr einfachen Mitteln ein Menge über uns ausgesagt werden. Mit nur 5 Fragen und den Antworten darauf lässt sich schon recht gutes Profil eines Menschen erstellen. Oder was die Vorliebe für Mayonnaise über mich aussagt.
„Halt die Schnauze, Google“ – wenn der 8jährige Sohn seine Lieblingsmusik über Google Home abspielen will – aber dabei kläglich scheitert. Der jedenfalls hat von KI und Sprachassistenten jetzt erstmal die Nase voll. Immerhin bleibt ihm ein guter Musikgeschmack.
