Meinen Studenten und auch meinen Kindern versuche ich es schon lange schmackhaft zu machen (meist leider vergeblich): Vernünftig eingesetzt, kann KI zum ultimativen Lernbegleiter und Prüfungsvorbereiter werden. Insbesondere gilt das für Googles NotebookLM. Schon lange ist es damit möglich, Quizze und Lernkarten aus hochgeladenen Dateien (z.B. Vorlesungs-Scripte!!) zu erstellen. Fast schon legendär ist die Funktion, auch professionelle Podcasts mit wechselnden Stimmen aus umfangreichen Wissensvorlagen zu erstellen.

Übungsklausuren mit NotebookLM erstellen

In meinen Vorlesungen zum digitalen Marketing muss auch immer gerechnet werden – optimale Budgetzuweisung, Kennzahlen und die Bewertung von Werbealternativen. Das ist prüfungsrelevant, und wir üben das regelmäßig mit zahlreichen Aufgaben. Trotzdem tun sich viele Studenten in der Klausur dann schwer. Da fehlt es oft an zusätzlicher Übung, die wir während der Vorlesungszeit nicht leisten können. Aber vielen fällt es offenbar nicht leicht, sich diese Kompetenzen eigenständig auf strukturierte Art und Weise zu erschließen. Der Ruf nach „noch mehr Übungsaufgaben“ wird dann oft laut (aber wir haben schon sehr viele im Repertoire und es gibt ja -zum Glück – auch noch andere Themen als Rechnen). Im letzten Semester habe ich dann geraten, doch einfach mein Script und die gemeinsam erarbeiteten Lösungen bei NotebookLM hochzuladen und sich daraus eine Klausur erstellen zu lassen, inklusive neuer, aber ähnlicher Rechnungen – und natürlich die Lösungen gleich dazu. Das funktioniert auf Knopfdruck. Auch meine tatsächliche Klausur habe ich auf diese Weise erstellt. Die Aufgaben entsprachen genau unserem Niveau, boten Variationen der behandelten Übungen und auch die Lösungswege wurden direkt mitgeliefert. Prof und Studis standen dabei die gleichen Mittel zur Verfügung. Was mich früher doch einige Stunden gekostet hat, stand mir so gleich auch für die nächstem Jahre innerhalb von wenigen Minuten einsatzbereit zur Verfügung. Und auch für die Besucher der Vorlesung stand – sofern man dem Rat gefolgt war – damit eine optimale Prüfungsvorbereitung zur Verfügung.

Inzwischen gibt es ein neues Update. Nun werden die bisherigen Funktion noch durch weitere wie die Erstellung von Mindmaps, Studienleitfäden oder Lernkarten ergänzt. Dabei sind die Ausgabeformate „per Prompt“ individuell anpassbar und lassen sich so auf die spezifische Lernsituation zuschneiden.

Lern- und Erklärvideo aus Textvorlage mit NotebookLM

Sogar Erklärvideos lassen sich ganz einfach erstellen. Als Beispiel habe ich mal einen Artikel, den ich vor ein paar Monaten auf diesem Blog zum Thema „Simplification Bias“ veröffentlicht habe, verwendet. Ähnlich wie beim Podcast nimmt das Tool nicht einfach die hochgeladenen Inhalte und setzt sie 1:1 als Video um, etwa indem der bereitgestellte Text einfach mit ein paar Bildern unterlegt würde, sondern erstellt auf Basis der verwendeten Informationen ein eigenständiges, neues „Medienprodukt“.

Auf diese Weise entsteht aus einem 9.000 Zeichen langen Text ein kompaktes, professionelles Erklärungsvideo:

Und natürlich gibt’s das ganze auch wieder im Radio- bzw. Podcastformat – inzwischen auch standardmäßig auf Deutsch:

Unterschiedliche Lernmethoden abbilden

Das neue Update von NotebookLM erweitert die Möglichkeiten personalisierte digitale Lernmaterialen zu schaffen. Damit kann eine Bildungsumgebung geschaffen werden, die es flexibel erlaubt, auf die spezifischen Bedingungen des Einzelnen einzugehen. Wir reden viel über die Digitalisierung der Lehre und des Unterrichtens. Hierfür wurden in den vergangenen Jahren, ja sogar Jahrzehnten, Milliarden für mitunter sehr fragwürdige Projekte investiert. Richtig angewandt kann KI einen wichtigen und niedrigschwelligen Beitrag zur nachhaltigen digitalen Bildung leisten – man muss die zahlreichen verfügbaren Instrumente nur nutzen.

Mehr zum Thema: Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Empfohlene Buecher und Tools fuer KI in der Lehre

Der Beitrag NotebookLM: Lern- und Erklärvideos, Mindmaps & Lernkarten – alles per Knopfdruck erschien zuerst auf Nerdwärts.de.

Allerorten diskutieren wir derzeit, was Künstliche Intelligenz (KI) für die Bildung und unseren Kompetenzerwerb bedeutet. Das Aufkommen insbesondere von generativer KI verändert zweifelsohne auch die Erwartungen am Arbeitsmarkt. Dabei rückt die grundsätzliche Frage ins Zentrum des Interesses, welche Fähigkeiten und Fertigkeiten in Zukunft relevant sein werden und wie (und wo) sich diese am sinnvollsten vermitteln ließen.

Als Hochschullehrer bin ich tagtäglich damit konfrontiert: Als Professor für Digitales Marketing gehört es zu meinen täglichen Aufgaben, bei den ständig neu entstehenden Tools auf dem Laufenden zu bleiben, um die Aktualität meiner Lehrinhalte sicherzustellen. Natürlich nutze ich regelmäßig ChatGPT um mir Textideen zu generieren, Deepl.com ist mein steter Begleiter bei Übersetzungen, und fertige Texte jage ich immer mal wieder durch Rephraser-Tools, um mein Geschriebenes nochmal stilistisch zu hinterfragen. Definitiv hat generative KI meine tägliche Arbeit produktiver gemacht.

KI Kompetenzen an Schulen und Hochschulen

Natürlich nutzen auch meine Studenten diese und andere Werkzeuge regelmäßig. Aber wie sieht hier der richtige Umgang damit aus? Die Bildungsinstitutionen hierzulande haben dazu ein ambivalentes Verhältnis: Einerseits sieht man viele Gefahren: wie kann man noch sicher sein, dass die Haus- oder Bachelorarbeit noch vom Kandidaten selbst geschrieben wurde? Was passiert, wenn KI-Halluzinationen Eingang in Forschungsergebnisse finden? Und lernen unsere Kinder überhaupt noch etwas, wenn die Hausaufgabe zur Englisch-Übersetzung spielerisch leicht an eine Übersetzungs-KI delegiert werden kann?  Andererseits will keiner als digitaler Bremser oder „Zukunftsverweigerer“ dastehen – diese Stigmatisierung kennt man noch aus früheren Phasen der digitalen Transformation („Willst Du Teil des Problems oder Teil der Lösung sein?“). Und natürlich lassen sich immer wieder Vorteile jenseits von Produktivitätsgewinnen anführen: Kann KI nicht auch für mehr Bildungsgerechtigkeit sorgen („Ein eigener KI-Tutor für jeden!“), frühzeitig Potenziale und Schwächen von Schülern entdecken und entsprechende individualisierte Maßnahmen einleiten? 

„Wir sollten die Technologie nicht verteufeln, sondern müssen lernen damit umzugehen“ – kann als weitgehend akzeptierter Minimalkonsens abgeleitet werden. Aber wie und wo soll dieses Wissen (und von wem) vermittelt werden? Schon in der Schule? Sogar bereits in der Grundschule? Oder erst in der Berufsausbildung beziehungsweise im Studium? Oder sollte man die Verantwortung bei den Arbeitgebern in der betrieblichen Weiterbildung ansiedeln? Dabei ist allerdings in vielen Fällen zweifelhaft, ob dieses Know-How bei denjenigen, die „operativ“ ausbilden, überhaupt vorhanden ist. Bis vor kurzem hatten Lehrer hier bei uns in Bayern noch nicht mal einen Dienstcomputer. Der Lehrplan sieht teilweise zwar eine Beschäftigung mit den Gefahren der sozialen Medien oder Cyber-Mobbing vor. Aber beispielsweise verfügte der (noch eher junge) Lehrer meines Sohnes in der achten Klasse, der letztes Jahr diese Inhalte zu vermitteln hatte, selbst noch nicht mal über einen Social-Media-Account. Es erscheint schwer vorstellbar, dass mit diesem Personal die Vermittlung von KI-Kompetenzen erfolgen kann. Ein ähnliches Bild dürfte sich an den Berufsschulen zeigen, und auch in der Hochschulbildung haben manche in dieser Hinsicht sicherlich noch einen langen Weg vor sich.

Welches sind die richtigen KI Kompetenzen?

Aber es wäre zu einfach, allein dem Lehrpersonal die Schuld für die Defizite in der digitalen Bildung anzulasten. Das liegt auch an verfehlten Strategien und Zielvorstellungen der Politik. Immer noch scheint digitale Bildung an den Schulen überwiegend als ein Problem der Geräteinfrastruktur verstanden zu werden. Als ob sich digitale Kompetenzen automatisch aufbauen würden, wenn man nur genug Endgeräte bereitstellt. Und vor nicht allzu langer Zeit wurde die inzwischen ehemalige Staatsministerin für Digitalisierung, Dorothee Bär (CSU) nicht müde, allerorten zu betonen, wie wichtige der Erwerb von Programmierkenntnissen bereits in der Schule sei, um den Herausforderungen der Digitalisierung begegnen zu können. Dabei war damals schon absehbar, dass ein Großteil des Programmier-Know-Hows durch KI abgedeckt werden könnte. Heute sprechen Größen der Digitalwirtschaft wie der NVIDIA-CEO Jensen Huang bereits vom baldigen „Tod“ des Programmierens aufgrund der zunehmenden Leistungsfähigkeit von KI.

Ich erinnere mich noch gut an Diskussionen, als ich 1991 nach der Schule eine Banklehre begann. Damals ging es um die Belegung eines Schreibmaschine-Kurses. Obwohl es natürlich schon Computer gab, wurde ernsthaft darüber gestritten, ob man das Maschineschreiben nun eher auf den damals modernen elektrischen oder besser auf den herkömmlichen mechanischen Maschinen erlernen sollte. Als Killerargument für die mechanische Variante wurde deren härterer Anschlag ins Feld geführt, da man ja auf den einfacher zu bedienen elektrischen Schreibmaschinen dann auch zurechtkäme, was umgekehrt eben nicht der Fall sei. Angesichts der Entwicklung in den letzten 35 Jahren mutet diese Diskussion heute sehr komisch an, ging es hier doch um die Vermittlung von rückblickend völlig unnötigen Kompetenzen. Diese Erkenntnis erschien damals aber eben nicht so offensichtlich, wie das heute ist. Die Frage stellt sich, ob es sich mit Kompetenzen, die wir an eine KI delegieren können, in Zukunft ähnlich verhält. Warum sich selbst mit Schreiben abgeben, wenn es eine Künstliche Intelligenz besser kann?

Gar nichts mehr lernen ist auch keine Lösung

Brauchen wir dann also gar nichts mehr zu lernen? Werden sämtliche kognitiv und intellektuell fordernden, alle kreativen Leistungen in Zukunft durch KI erbracht?  Aus humanistischer Perspektive möchte man solchen Schlussfolgerungen ein deutliches „hoffentlich nicht“ entgegenschleudern. Wir würden uns wohl auf diese Weise dem Kern unserer Menschlichkeit entledigen, im Gleichschritt einhergehend mit der Realisierung aller erdenklichen Technik-Dystopien vor denen uns Science-Fiction-Autoren schon immer gewarnt haben.

Fakt ist aber, dass wir alle, insbesondere – wenn auch nicht allein – die jüngeren Generationen zunehmend selbstverständlich auf Werkzeuge der generativen KI zurückgreifen. Das ist hinsichtlich der Kompetenzvermittlung erstmal eine gute Nachricht. Denn kein Ansatz dürfte hierbei erfolgreicher sein als ständiges Ausprobieren und Neujustieren.

Aber genau hier liegt auch ein Kernproblem des Wissensaufbaus im Kontext von generativer KI: Wie beurteilen wir, ob das, was wir mit diesen Instrumenten erzeugen, gut ist oder nicht? ChatGPT und Co eignen sich hervorragend, um die eigene Kreativität und Produktivität zu befeuern. Aber um diese Werkzeuge wirklich erfolgreich und gewinnbringend zu nutzen, muss ich in der Lage sein, deren Ergebnisse einzuordnen und zu bewerten. Dazu brauche ich ein bestimmbares Ziel vor Augen, das sich an definierten Qualitätskriterien orientiert. Nur wenn ich beurteilen kann, dass ein von der KI ausgespucktes Ergebnis Verbesserung benötigt, kann ich mein Prompting justieren, um so schrittweise zu einem Optimum zu gelangen. Anders ausgedrückt: Die KI kann zwar ohne weiteres halbwegs passabel Texte schreiben, aber um wirklich gute Texte zu erhalten, muss ich selbst in der Lage sein, wirklich gut zu schreiben. Das ist eine Kernkompetenz zur Nutzung von ChatGPT und anderen Inhaltegeneratoren. Nur auf Basis dieser Fähigkeit kann ich das System in meine gewünschte Richtung steuern. Bin ich nicht dazu in der Lage, produziert die KI eben meist nur Mittelmaß.

Generative KI: Falsche Anwendung führt zu Mittelmäßigkeit

Das erlebe ich immer wieder bei meinen Studenten. Mittlerweile habe ich eine ganz gute Trefferquote, auch ohne technische Hilfsmittel, KI-erstellte Inhalte zu identifizieren. Ich ermutige zwar ausdrücklich, auf generative KI zurückzugreifen, weise aber auch auf die beschriebenen Risiken hin. Daher bekomme ich auch in aller Regel ehrliche Antworten, wenn ich danach frage, ob bei der Erschaffung eines Inhaltes ChatGPT verwendet worden ist. Diese Ergebnisse genügen meistens formalen Anforderungen, lesen sich durchaus flüssig. Aber Außergewöhnliches, gar brillantes, findet sich darunter so gut wie nie.

Der Grund hierfür liegt in der Beschaffenheit der großen Sprachmodelle. Vereinfacht ausgedrückt berechnen diese stets Wahrscheinlichkeiten für Passgenauigkeiten von Textversatzstücken. Trainiert mittels unzähliger Textvorlagen, werden typische Sprachmuster gesucht und angewendet. Das muss zwangsläufig zu – zunächst im neutralen Sinne – durchschnittlichen Ergebnissen führen, sofern man nicht durch spezifisches Prompting diesem Drang der Systeme gezielt entgegenwirkt. Diese zentrale Fähigkeit bei der Nutzung von generativer KI kann jedoch nur erwerben, wer gelernt hat, verschiedene Qualitäten beim geschriebenen Wort zu unterscheiden – also: wer viel gelesen hat und gelernt hat, gut zu schreiben. 

Ich bin hoffentlich (!!!) weit davon entfernt ein Bildungs-Konservativer zu sein oder ein elitäres Bildungsideal zu vertreten. Aber tatsächlich scheinen es diese klassischen Tugenden zu sein, die demnach maßgeblich sind für eine sinnvolle Nutzung von Werkzeugen der generativen KI.

KI Kompetenzen und Deskilling

Dann allerdings stellt sich die Frage, wie und wo diese zu vermitteln sind. Wenn man Schwierigkeiten hat, selbst Texte zu verfassen, ist es verführerisch, auf ChatGPT & Co zurückzugreifen. Wer das regelmäßig tut, bevor diese grundlegenden Sprachkompetenzen erworben worden sind, wird es allerdings nie zu einer vollendeten Kunstfertigkeit auf diesem Gebiet bringen – weder sprachlich noch bei der Anwendung generativer KI.

Befinden wir uns also wirklich auf dem Weg zu einer „Idiokratie“, weil uns durch dieses „Deskilling“ ein gesellschaftlicher Wissenskollaps droht? Wenn diese vorgelagerten sprachlichen Fähigkeiten nicht mehr flächendeckend vermittelt würden, wenn dann in der Folge Mittelmaß nicht mehr als solches erkannt werden könnte, sondern sich stattdessen als maßgebender Standard etabliert, dann spräche das zumindest für eine gesellschaftsübergreifende Degeneration.

OK, ich gebe zu, das klingt jetzt wirklich nach einem klassischen konservativen, pessimistischen Menschen- und Gesellschaftsbild, liegt vielleicht am zunehmenden Alter.

Also, dann jetzt das konstruktive Fazit:

Künstliche Intelligenz ist zweifelsohne eine großartige technologische Errungenschaft, sie wird mit Sicherheit unser Leben positiv beeinflussen. Wie immer bei bahnbrechenden Innovationen, weisen diese natürlich auch Schattenseiten auf. Es liegt aber an uns, die Anwendungsumgebungen zu gestalten. Für die zielgerichtete und sinnstiftende Nutzung insbesondere von generativer KI brauchen wir spezifische Kompetenzen. Interessanterweise sind das in diesem Fall klassische humanistische Fähigkeiten. Nur wenn wir diese beherrschen, beherrschen wir die KI – und nicht umgekehrt.

Mehr noch als bei allen anderen Phasen der digitalen Transformation kommt es hier auf die Findung und Gestaltung der „richtigen“ und „verantwortungsvolle“ Anwendungsprozesse an.  Dazu müssen wir unser Bildungskonzepte nicht komplett über den Haufen werfen, sehr wohl aber intensiv nachbessern. Wir müssen frühzeitig ein Verständnis von Algorithmen nahebringen, am besten schon beginnend in der Grundschule (ja, das geht). Dazu sollten solche Themen selbstverständlicher Gegenstand der Lehrerausbildung sein, aber auch auf die vielbemühten Quereinsteiger kann man hier zurückgreifen (mit weit weniger Schmerzen als in Fächern wie Deutsch oder Mathematik).

An der Hochschule und auch sonst wo bedarf es punktuell einer Anpassung der Prüfungsleistung, aber auch das ist keine unüberwindbare Hürde. Beispielsweise könnte man sich von rein Lehrbuchwissen-befüllten Bachelor- und Masterarbeiten verabschieden und stattdessen empirische Ansätze zu Pflichtbestandteilen erklären, die sich deutlich schwerer durch KI simulieren lassen, gegebenenfalls flankiert durch eine „Verteidigung“ der Arbeit.

Und auch die Vermittlung der richtigen Anwendungskompetenz von generativer KI etabliert sich bereits jetzt allmählich. Richtiges Prompting ist anstrengend und zeitaufwändig (was oft unterschätzt wird). Es setzt neben den sprachlichen Kompetenzen auch weitere Fähigkeiten in der digitalen Anwendung voraus.

Am besten erschließt man sich diese durch permanentes Anwenden, Ausprobieren und Hinterfragen der Ergebnisse – das gilt sowohl für die Lernenden als auch für die Lehrenden.

Und da gibt es keine Ausreden.

TL; DR? Hier der Artikel als Deepdive-Podcast:

Mehr zum Thema: Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Von Cyborgs und Digitalen Lebewesen: Wie generative KI&VR menschliches Leben (und Sterben) verändern“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Empfohlene Buecher zu diesem Thema

Der Beitrag Macht KI uns dümmer oder klüger? Welche Kompetenzen werden wir in Zukunft noch brauchen, und wie vermitteln wir diese? erschien zuerst auf Nerdwärts.de.

Der Begriff der Governance bezeichnet in den Politik- und Gesellschaftswissenschaften gewöhnlich die staatliche Aufgabe der Führung und Steuerung der Amts- bzw. Regierungsgeschäfte und dient dabei der Beschreibung der dazu notwendigen Prozesse und Strukturen. Von Algorithmic Governance ist dann meist die Rede, wenn in diesem Kontext diskutiert wird, ob menschliche politische Entscheidungen durch datenbasierte Technologie ergänzt oder vollständig ersetzt werden könnten oder sollten.

Code is Law – Wenn-Dann-Prinzip und Algorithmic Governance

In Anlehnung an Laurence Lessigs Diktum „Code is Law“  ließe sich diese Vorgehensweise als die Automatisierung der Ausführung vorab definierter (staatlicher) Regeln beschreiben. Die Anwendung des hier zugrundeliegenden, der Computerprogrammierung entlehnten „Wenn-Dann“-Prinzips („if this … then that…“, „IFTTT“) basiert auf der Annahme, dass sich zuvor definierte – und legitimierte – Entscheidungsmuster auf spätere Situationen anwenden lassen. Die nachfolgende Exekution anstehender Entscheidungen kann dann idealerweise autonom erfolgen, ohne dass es eines weiteren menschlichen Eingreifens zwingend bedürfte.

Chancen und Herausforderungen von Algorithmic Governance

Die Vorteile eines solchen Systems werden zuerst in der Effizienzsteigerung gesehen, die hierbei für die staatliche Entscheidungsfindung und -ausführung durch die Automatisierungszuwächse zu erwarten wären. Ähnliche oder identische Entscheidungsfragen müssten nicht immer wieder neu verhandelt, sondern könnten durch die einmalige Festlegung auch für die Zukunft verbindlich geregelt werden. Des Weiteren ließen sich Verwaltungsentscheidungen versachlichen, da das einmal gefundene Regelsystem für alle Betroffenen gleichermaßen zur Anwendung käme, ungeachtet möglicher persönlicher Präferenzen der Entscheider „vor Ort“. Damit ginge dieser Argumentation folgend ein Zuwachs an Fairness und Gleichberechtigung einher.

Demgegenüber ist jedoch eine potenzielle „Entmenschlichung“ politischer Entscheidungen durch eine weitergehende Automatisierung anzumerken. Gerade dann, wenn diese nicht mehr unter Berücksichtigung individueller Situationen getroffen werden, sind Verzerrungen und soziale Härten zu erwarten. Auch stellen sich Fragen nach den Verantwortlichkeiten im Einzelfall – und zwar sowohl politisch als auch rechtlich.

Die Herausforderung für Algorithmic Governance besteht demnach vor allem darin, das richtige Maß und einen Ausgleich zwischen diesen beiden Polen zu finden.

Von Algorithmic Governance zu AI Governance

Sofern in der Regierungs- und Verwaltungstätigkeit nicht nur fest programmierte Algorithmen, sondern auch intelligente, selbst lernende Systeme zum Einsatz kommen, verändert dies die Spielregeln für den Einsatz algorithmischer Verfahren und ebenso deren Bewertungsmaßstäbe grundsätzlich. Entsprechend hat sich hier inzwischen der Begriff der AI Governance (AI für Artificial Intelligence) als abgrenzende Bezeichnung etabliert.

Ganz entscheidend ist dabei: Der Einsatz von intelligenten, autonomen, selbst lernenden Systemen steht im Widerspruch zum IFTTT-Automatismus des „Code is Law“. Während herkömmliche Algorithmic Governance allein auf einem festen, menschlich definierten Regelsystem beruht, führt die Kombination mit KI potenziell zu einer Verselbständigung der Entscheidungsmuster. Begründet liegt dies in den Methoden des maschinellen Lernens, die ja gerade auf Autonomie in der Funktionsfähigkeit eines Systems zielen. Insbesondere wenn eine Anwendung eigenständig Kausalitäten identifizieren soll (wie beim Unsupervised Learning) oder eine eigene Strategieentwicklung gefordert ist (wie beim Reinforcement Learning), verwischen die Grenzen zwischen ursprünglicher menschlicher Intention und abgeleiteter Systemlogik schnell. In der Praxis kommen heute zudem immer öfter Kombinationen aus verschiedenen Verfahren zum Einsatz, was die Problematik weiter verschärft. Es ist oft schwierig, den Pfad der Entscheidungsfindung, den ein lernendes System eigenständig eingeschlagen hat, zu rekonstruieren. Damit ist aber gerade eben keine starre Festlegung von abgewogenen Entscheidungsalternativen für spezifische Situationen möglich.

AI Governance: KI und Algorithmic Governance

Während Maßnahmen auf Grundlage herkömmlicher Algorithmic Governance ihre Rechtmäßigkeit aus diesem zuvor abgestimmten, „festverdrahteten“ Regelsystem beziehen, justieren sich KI-Systeme auf Grundlage ihres Lernfortschrittes permanent eigenständig neu. Dies mag legitim erscheinen, sofern zumindest die Ziele, anhand derer dies geschieht, Ausfluss eines am Staatszweck orientierten (demokratischen) Verfahrens sind. Gleichwohl ist für die Erreichung politischer Ziele in der Demokratie auch die Art und Weise ihres Zustandekommens relevant. Zieldefinitionen, anhand derer ein lernendes System sich ausrichtet, können schließlich stets nur quantitativer Natur sein. Die Auswirkungen einer solchen politischen Zieloptimierung weisen jedoch immer auch eine qualitative Dimension auf, deren Tragweite ein Algorithmus nie erfassen kann. Beispielsweise ist es sicherlich möglich, einem System eine bestimmte „optimale“ Budgetallokation als Ziel vorzugeben, die Frage, ob diese dann im Ergebnis im Einklang mit einem wie auch immer definierten Gemeinwohl steht, ist eine ganz andere und kann weder in der Praxis technisch noch in der Theorie legitim durch eine KI beantwortet werden, sondern verbleibt zwangsläufig Gegenstand der menschlichen Domäne.

Die faktischen Erscheinungsformen von Algorithmic Governance sollen in einem folgenden Beitrag behandelt werden, bevor sich dann ein weiterer Artikel mit der Legitimation algorithmischer Entscheidungen – insbesondere auch unter Rückgriff auf Verfahren des maschinellen Lernens und KI befasst.

Der Artikel erschien in überarbeiteter und deutlich erweiterter Form in der SWS-Rundschau, Andreas Wagener: Demokratische Legitimation von AI Governance, Sozialwissenschaftliche Rundschau, Heft 4/2021, 61. Jahrgang, S. 369 – 390

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Wie der Staat mit Daten umgeht. Was ist gesellschaftlich akzeptabel?“:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Algorithmic Governance – KI und Algorithmen in der Politik erschien zuerst auf Nerdwärts.de.

Neben der ständigen präsenten körperlichen Bedrohung durch das Virus ist das Schlimme an der Corona-Zeit vermutlich die eigene Hilflosigkeit. Nicht selten mündet das in Aggression, Negierung der Realitäten und Schuldzuweisungen. Irgendjemand muss ja schließlich verantwortlich sein für den Schlamassel. Das gilt übrigens nicht nur für einschlägig verschwörungstheoretisch vorgebildete Corona-Leugner (vulgo „Covidioten“), auch diejenigen, die sich auf der aufgeklärten, guten Seite der Gesellschaft wähnen, sind davor offenbar nicht gefeit. Und wenn schon das Virus als gewissermaßen Gott gegeben akzeptiert werden muss, dann sind neben den Maskenverweigerern doch wenigstens die staatlichen Maßnahmen unbedingt als ungeeignet einzuordnen, wahlweise als viel zu weitgehend („die Wirtschaft!“) oder als viel zu lasch („härteres Durchgreifen!“). Und, nur um das an der Stelle klar zu machen: ich nehme mich da selbst nicht aus, auch bei mir (und meinem offensichtlich trügerischen rational-aufgeklärten Selbstbild) greift immer öfter ein sofortiger emotionaler Beißreflex bei diesen Themen.

Folgt man in jüngerer Zeit ein wenig dem Geschehen in den sozialen und traditionellen Medien, so gewinnt man den Eindruck, dass die Suche nach möglichen Schuldigen an der Krise abermals einen neuen Verantwortlichen ausgemacht hat, nämlich: den Datenschutz.

Die Argumentation verläuft dabei dann in etwa entlang folgenden Musters:

„Als Anti-Covid19-Instrument haben wir diese App, und die funktioniert ja offensichtlich nicht. Warum nicht? Wegen des Datenschutzes! Die Leute lügen, geben ihre Daten, wenn sie ein positives Testergebnis erhalten, nicht ein oder installieren die Anwendung schon gleich gar nicht. Wenn das „Datenschutz-Bohei“ nicht wäre, hätten wir ein vollständiges Bild des Infektionsgeschehens, könnten nachverfolgen. In anderen Ländern ist man da nicht so zimperlich. China! Bei uns hingegen werden Menschen auf dem Altar des Datenschutzes geopfert. Für was brauchen wir den überhaupt? Ich habe nichts zu verbergen. Und außerdem Südkorea.“ (oder so ähnlich)

Datenschutz in der Corona-App auf hohem Niveau

Nun, zunächst muss man wohl wirklich konstatieren – auch als vehementer Apologet eines wirksamen Datenschutzes, zu denen ich mich selbst zähle -, dass die App die anfänglich beschworenen Datenschutzsorgen in der Tat entkräftet hat. Selten hat man in Deutschland von staatlicher Seite in digitalen Dingen soviel Sorgfalt walten lassen, wie hier. Eine absolute Datensicherheit gibt es nie, aber abgesehen von einigen Schnittstellenproblematiken (dann, wenn die Erfassung nicht mehr allein digital, in der App, möglich ist), ist, gemessen am Ziel der Anwendung, der größtmögliche Schutz der individuellen Daten gewährt worden. Sollte es tatsächlich Menschen geben, die die App aus Angst um ihre informationellen Persönlichkeitsrechte nicht nutzen – in meiner Filterblase habe ich diese bisher vergeblich gesucht -, so müssten diese wohl wirklich konsequenterweise jeglichen digitalen und elektronischen Anwendungen komplett entsagen.

Falsches Verständnis der Aufgabe der Corona-App

Ob dieser hohe Anspruch der App an den Datenschutz tatsächlich hinderlich für den Schutz vor Covid19 ist oder die Verbreitung des Virus‘ sogar befeuert, sollte dennoch differenziert betrachtet werden. Ein großes Missverständnis scheint hier bei der eigentlichen Aufgabe der App zu liegen. Deren vollständiger und korrekter Name lautet übrigens „Corona-Warn-App„. Das beschreibt die Funktion recht gut: Ziel der Anwendung ist es, individuelle (!) Risiken einer Ansteckung aufzuzeigen, die durch mögliche Begegnungen mit Infizierten entstehen. Sie dient damit als „digitale Ergänzung zu Abstandhalten, Hygiene und Alltagsmaske“. Auf diese Weise kann sie zu einer Identifizierung von Infektionssituationen beitragen. Aber: die lückenlose Erfassung von Infektionsketten gehört definitiv nicht zu ihren Aufgaben.

Man kann darüber streiten, ob die App auf diesem Gebiet hilfreich ist und ob sie nicht gegebenenfalls mit mehr Funktionen ausgestattet werden sollte. Aber sie wäre auch mit weniger Datenschutz nicht erfolgreicher. Natürlich ist die lückenlose Nachverfolgung des Infektionsgeschehens eine immens wichtige Waffe im Kampf gegen das Virus. Dies sicherzustellen ist vor allem Aufgabe der Gesundheitsämter. Die Nutzung einer Handy-App wäre dafür aber reichlich ungeeignet – und schlichtweg unfassbar unprofessionell. Denn dann würden all die, die kein Smartphone besitzen – z.B. meine Kinder oder all jene die alte, mit der App nicht kompatible Betriebssysteme auf ihren Endgeräten haben – niemals erfasst und nachverfolgt. In Deutschland sind das immer noch mehr als 30% der Bevölkerung. Die App KANN also gar nicht für die Nachvollziehung der Infektionsketten herangezogen werden – völlig unabhängig vom Datenschutz.

Das eigentliche Problem: Digitale Inkompetenz

Das Problem der Infektionsketten und dass die Nachverfolgung so schwierig ist, hat aber eine ganz andere Ursache: es geht dabei um die mangelhafte Digitalisierung der Erhebungsprozesse. Wie so oft in Deutschland ist die digitale Transformation längst nicht in alle Bereiche in der Art vorgestoßen, wie wir uns das vielleicht ausmalen. Das hat nichts mit Datenschutz und der Corona-Warn-App zu tun, sondern beruht auf der Tatsache, dass die Behörden offensichtlich kein zentrales digitales Melderegister betreiben (können) – weil die technischen Voraussetzungen fehlen. Jeder der Corona-bedingt schon mal mit dem Gesundheitsamt zu tun hatte, dürfte das am eigenen Leib erfahren haben. Informationen, so sie denn überhaupt gespeichert werden, sind offensichtlich nicht zentral verfügbar. Es gibt keine einheitliche zentrale Datenbank, zumindest keine, die entsprechend gepflegt wird. Covid19 ist eine meldepflichtige Krankheit. Der Datenschutz ist hier ohnehin schon eingeschränkt, natürlich kennen die Gesundheitsämter die Klarnamen der Infizierten, wie sollte denn sonst auch eine Nachverfolgung möglich sein. Nicht der Datenschutz, ist also das Problem, sondern stattdessen der Umstand, dass hier nach so vielen Monaten, seit diese Pandemie über uns gekommen ist, die Arbeitsweise an der Schaltstelle der Infektionsbekämpfung offensichtlich immer noch im Faxzeitalter verharrt. Das allerdings ist in der Tat nun mal etwas, worüber es sich zu echauffieren lohnen würde.

Das alles wundert um so mehr, wenn man weiß, welche Instrumente hier die Wissenschaft schon seit Jahrzehnten besitzt. In der Soziologie etwa werden schon seit langem Anwendungen zur „Sozialen Netzwerk Analyse“ eingesetzt, die einfach nur mit den bereits vorliegenden Informationen gefüttert werden müssten. Auch im digitalen Marketing kann man über diese Systeme die virale (!) Verbreitung von Botschaften messen, nachvollziehen und optimieren (oder gezielt unterbinden). Man hätte die Zeit zwischen den Corona-Wellen aber eben für die Digitalisierung der Verwaltung nutzen müssen.

Musterland Südkorea

Regelmäßig wird in diesem Kontext das Musterbeispiel Südkorea angeführt, das ja angeblich aufgrund der geringeren Betonung des Datenschutzes so viel erfolgreicher in der Pandemiebekämpfung war. In der Tat hat Südkorea einiges anders gemacht. Erstens ist die „Maskenkultur“ aufgrund der einschlägigen Vorerfahrungen mit der Vogelgrippe und anderen Infektionskrankheiten deutlich ausgeprägter. Während also hierzulande anfangs selbst Virologen und Ärzte noch skeptisch waren, griff der inzwischen wissenschaftlich vielfach bestätigte Maskenschutz in Südkorea von Beginn an.

Zum anderen weist Südkorea einen völlig anderen Digitalisierungsgrad auf als wir hier in Deutschland. Und natürlich verfügt man dann auch im staatlichen Gesundheitswesen über ganz andere Instrumente. Diese lassen jedoch nicht nur ein viel weitergehendes Tracing als bei uns zu, sondern ermöglichen eben auch eine weitaus schnellere und effizientere Datenverarbeitung.

Vor allem gilt es aber diese Systeme auch mit Daten zu füttern. Um Infektionsketten nachzuvollziehen, muss man zuerst einmal wissen, wer überhaupt infiziert ist. Kein anderes Land auf der Welt hat so früh, so effizient und so unglaublich oft getestet wie Südkorea. Nur dann lassen sich jedoch digitale Instrumente – die ja immer auf Datenverarbeitung beruhen – nutzen. Das wäre mit der entsprechenden Infrastruktur auch bei uns möglich gewesen – und zwar ohne den Datenschutz zu beschädigen.

Datenschutz oder Tod?

Dass der Ruf nach weniger Datenschutz nicht zuletzt aus der Politik selbst kommt – namentlich vor allem CDU und CSU – und die Diskussion hier befeuert wird, ist bezeichnend, verwischt man damit doch recht gut die Spuren zu den eigentlichen Wurzeln des Übels: die seit Jahren generell verschlafende Digitalisierung bei den Verwaltungsabläufen, in den Schulen, beim Netzausbau und jetzt bereits zum zweiten mal binnen weniger Monate bei der Covid19-Bekämpfung. Der Ruf zur Einschränkung des Datenschutzes, oft polemisch verbunden mit dem – nicht ansatzweise belegten – Einwand, dass damit auf irgendeine wundersame Weise Leben vor dem Virus gerettet werden könnten, offenbart neben einer äußerst partiellen Wahrnehmung auch ein sehr merkwürdiges Gesellschaftsverständnis, das kaum mit dem Grundgesetz vereinbar ist. Die Argumentationsweise versteigt sich dann oft darin, auf die angeblich bessere Funktionsweise autoritärer, nicht-demokratischer Systeme (China!) zu verweisen und vor diesem Hintergrund die Notwendigkeit zur Beschneidung verfassungsgemäßer Freiheitsrechte hervorzuheben. Das ist aus demokratischer Perspektive nicht nur extremistisch, derartige Schlussfolgerungen ähneln auch beängstigend der Rhetorik der Verschwörungstheoretiker und Corona-Leugner (womit wir wieder beim Ausgangspunkt des ersten Absatzes dieses Textes wären).

Dies geht stets einher mit einer erstaunlichen Unkenntnis der staatlichen Funktionsweisen und Aufgaben, sowie einem sehr unterentwickelten Verständnis von Technik im allgemeinen und digitalen Instrumente im besonderen. Das umgangssprachliche Krankheitsbild der „Covidiotie“ haben offensichtlich nicht nur Pandemieleugner und Maskenverweigerer als hinreichende Klassifizierung für sich gepachtet. Wenn von diesen Protagonisten bereits die Vorzüge einer freiheitlichen, demokratischen und rechtsstaatlichen Gesellschaft angezweifelt werden, ist es natürlich mühsam, sie von den grundsätzlichen Vorteilen des Datenschutzes gegenüber einer permanenten Beobachtung mittels Kameras und der Auswertung von Bezahldaten zu überzeugen. Das würde an dieser Stelle auch den Rahmen sprengen – obwohl es reichlich gute Darstellungen dazu gibt. Eine nicht ganz unvoreingenommen ausgewählte Quelle findet sich zum Beispiel hier.

Weniger Datenschutz führt nicht zu mehr Nutzen

Der Nutzen einer Absenkung der Datenschutzhürden für die bestehenden Funktionen der Corona-App dürfte sich hingegen als sehr beschränkt erweisen. Natürlich würden bei Zwangsmaßnahmen mehr Infizierte in der App als Risikofaktoren erscheinen – vorausgesetzt natürlich, sie wären zuvor auch entsprechend getestet worden. Wenn diese Personen nach einer Testung plötzlich in der App angezeigt werden, würde das allerdings auch bedeuten, dass diese wissentlich gegen Quarantäneauflagen verstoßen hätten (und trotzdem ihr Smartphone außerhalb der eigenen vier Wände mit sich führen). Und dies müsste ja eigentlich auch bei einer gewöhnlichen lückenlosen Nachverfolgung durch die Gesundheitsämter offenbar werden. Der Umstand, dass von derartigen Fällen bislang nur wenig zu hören war, und wenn, dann von einem entsprechenden Medienecho begleitet, mag daraufhinweisen, dass diese Zahl im Verhältnis zu den Gesamtinfektionen doch sehr, sehr überschaubar ist.

Sinnvolle Funktionserweiterungen der Corona-App

Unbestritten bleibt, dass man die Corona-App mit weiteren sinnvollen Funktionen ausstatten könnte. So gibt es mittlerweile auch Anwendungen, die über den Einsatz von Verfahren des maschinellen Lernens am Husten eines Nutzes erkennen sollen, ob dieser mit Covid19 infiziert ist. Auch andere Features wie individuelle Tracking-Tagebücher, eine Archivfunktion oder spezifische Informationsangebote wären es sicher wert, darüber nachzudenken. Und würden die Infektionsmeldungen auch umgehend und umfassend an zentraler Stelle digital direkt eingepflegt, aufbereitet und nachverfolgt, würde sogar deren Erfassung über die App als Ergänzung Sinn machen.

Aber um Vernunft und Abwägung scheint es in dieser Diskussion ja auch eher nicht zu gehen. Hätten wir einen eindeutig identifzierbaren Schuldigen für die ganze Misere, wäre vieles leichter.

Warum Datenschutz wichtig sein könnte: Vortrag von Prof. Dr. Andreas Wagener – Wie der Staat mit Daten umgeht

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Die Corona-App und der Datenschutz als Sündenbock erschien zuerst auf Nerdwärts.de.

Die digitale Früherziehung ist ja ein heikles Thema. Vermutlich ist eine schrittweise Konfrontation mit den Gerätschaften der Digitalisierung eine sinnvolle Herangehensweise. Dazu gehört auch die frühe Auseinandersetzung mit digitalen Hürden zum Aufbau der Frustrationstoleranz. Ein Experiment im familiären Rahmen:

#RockDenKasper
#profwag macht
#DigitaleExperimenteMitKindern

Mehr zum Thema KI und Sprachassistenten finden Sie hier:

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Ein neues Zeitalter im Marketing: Künstliche Intelligenz, maschinelle Kreativität, virtuelle Realitäten & DNA-Targeting„:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag 8jähriger vs. Google Home erschien zuerst auf Nerdwärts.de.

Der berühmte „Target“-Case oder was unser Kaufverhalten über uns aussagt.

Mehr zum Thema hier:

Vortrag/Keynote von Prof. Dr. Andreas Wagener: „Ein neues Zeitalter im Marketing: Künstliche Intelligenz, maschinelle Kreativität, virtuelle Realitäten & DNA-Targeting„:

Mehr Informationen zum Thema KI im Marketing finden Sie im Buch von Andreas Wagener Künstliche Intelligenz im Marketing, Haufe, Freiburg, 2023

Mehr zu Themen wie Industrie 4.0, Big Data, Künstliche Intelligenz, Digital Commerce und Digitaler Ökonomie finden Sie auf unserer Newsseite auf XING sowie auf Facebook.

Der Beitrag Die Schwangere im Supermarkt… und was Daten über uns aussagen erschien zuerst auf Nerdwärts.de.

Vermittlung „medientechnischer Verantwortung“ per Handyverbot

Interessant ist dabei die Motivation für dieses Vorgehen: Denn begründet wird die Maßnahme „mit dem Ziel, die Schülerinnen und Schüler an unserem Gymnasium zu medientechnisch verantwortungsvollen Persönlichkeiten zu erziehen“.

Die Schulleitung beruft sich dabei in einem entsprechenden Schreiben an die Eltern auf Art. 56 Abs.(5) des bayerischen Gesetz über das Erziehungs- und Unterrichtswesen (BayEuG):

Im Schulgebäude und auf dem Schulgelände sind Mobilfunktelefone und sonstige digitale Speichermedien, die nicht zu Unterrichtszwecken verwendet werden, auszuschalten. Die unterrichtende oder die außerhalb des Unterrichts Aufsicht führende Lehrkraft kann Ausnahmen gestatten. Bei Zuwiderhandlung kann ein Mobilfunktelefon oder ein sonstiges digitales Speichermedium vorübergehend einbehalten werden.

Für mich leiten sich daraus zwei Fragen ab:

1.) Wie glaubt eigentlich der bayerische Gesetzgeber, dass Medienkompetenz erworben wird?

Und 2.): Wie will eine Schule ernsthaft „medientechnisch verantwortungsvolle Persönlichkeiten“ bilden, wenn das Einzige, was ihr zur Medientechnik einfällt, ist, diese auszuschalten?

Verantwortung lernen ohne eigenes Handeln?

Natürlich, wer selbst Kinder im „Anwenderalter“ hat, weiß oft zur Genüge von exzessivem Smartphonegebrauch und daraus womöglich resultierenden kleineren und größeren Familiendramen zu berichten. Aber ist ein Abschalten ernsthaft eine Lösung? Wäre es nicht die primäre pädagogische Aufgabe, sich aktiv und intensiv damit auseinanderzusetzen? Verantwortung kann nur übernehmen wer auch handeln und das heißt in diesem Fall anwenden darf – zunächst zum Beispiel unter Anleitung und dann Schritt für Schritt selbständiger.

Verbote statt Kompetenzaufbau

Das setzt natürlich auch voraus, dass diejenigen, die Anleitung geben sollen, dazu auch die Kompetenz besitzen. Und vermutlich liegt hier das Problem: Snapchat, Instagram, Twitter kennen die meisten Eltern und Lehrer bestenfalls vom Hörensagen. Dann ist es natürlich schwierig, hier einwirken zu können. Also wird alles Digitale pauschal dämonisiert. Man versteckt sich hinter angewandter Verbotsautorität. Die eigentlich zu lösenden Aufgaben und Probleme werden auf außerhalb der erzieherischen Sphäre verlegt. Dabei wäre Bildung genau hier so unendlich wichtig. Es gäbe eine Menge zu vermitteln: nicht nur aus ökonomischen Gesichtspunkten, sondern auch etwa bei Fragen nach einer selbstbestimmten „Datenidentität“ oder Verhaltenskodizes im Netz.

Damit – und nicht mit pauschalen Verboten – würde man Kinder zu „medientechnisch verantwortungsvollen Persönlichkeiten“ erziehen.

Aber so wie in Bayern, am Würzburger Matthias-Grünewald-Gymnasium, überlässt man die Beantwortung dieser wichtigen Fragen lieber sich selbst – das entspricht einer pädagogischen und bildungspolitischen Bankrotterklärung.

Der Beitrag Digitale Kompetenzen mit Handyverbot vermitteln? erschien zuerst auf Nerdwärts.de.

42% der Unternehmen gaben dabei an, dass sie nicht über die erforderlichen Mitarbeiter im Unternehmen verfügen, um die Digitalisierung voranzutreiben.

Bitkom: Unternehmen nutzen häufiger Faxgeräte als Soziale Netzwerke

Quelle: Bitkom

Der Beitrag Unternehmen in Deutschland: lieber Fax als Social Media erschien zuerst auf Nerdwärts.de.

Um die digitale Kompetenz der Deutschen ist es weiterhin nicht gut bestellt. Jüngstes Beispiel: Im Rahmen einer repräsentativen Befragung zu Begrifflichkeiten aus dem Digitalumfeld konnten nur 13% etwas mit dem Begriff Wearables anfangen. Nur 5% konnten auch erklären, was sich dahinter verbirgt. Auch die weiteren Ergebnisse lassen nichts Gutes für Deutschlands digitale Zukunft erhoffen.

Bekanntheit digitaler Begriffe in Deutschland (TNS infratest)

Quelle: TNS Infratest

Der Beitrag Nur 5% der Deutschen wissen was Wearables sind, 77% kennen „Industrie 4.0“ nicht erschien zuerst auf Nerdwärts.de.

6-Jährige mit Computer-Erfahrung:
JPN 13%
DEU 23%
CHE 23%
AUT 25%
DNK 57%#Digitalnativeshttps://t.co/5Rekh5NzOT pic.twitter.com/19cCgQHaIA

— OECD Bessere Politik für ein besseres Leben (@OECDaufDeutsch) February 5, 2016

Der Beitrag Digitale Bildung und Nutzung von Computern: Deutschlands Kinder liegen deutlich hinter OECD-Schnitt erschien zuerst auf Nerdwärts.de.