Künstliche Intelligenz: AI und ihre Tücken – Bilderkennung mit Microsofts CaptionBot

Das Thema „Künstliche Intelligenz“  ist derzeit in aller Munde. Vor allem die großen Technologie-Unternehmen aus den USA, wie Google, Facebook und Amazon arbeiten derzeit fieberhaft an neuen Anwendungen auf diesem Feld. Microsoft hat vor einigen Wochen ein neues AI-Experiment mit seiner automatischen Bilderkennungssoftware, dem CaptionBot, begonnen. Über die frei zugängliche Website ist es jedermann möglich, Fotos hochzuladen, die dann umgehend analysiert werden. Auf dieser Grundlage versucht die Artifizielle Intelligenz des Systems, die abgebildeten Inhalte und Motive zu benennen. Das führt mitunter zu äußerst denk- und merkwürdigen Ergebnissen.

Microsoft Bilderkennung: Captionbot

Microsoft Bilderkennung: Captionbot

Microsoft hatte sich bereits vor einigen Wochen mit seinem AI-Bot „Tay“ gewaltig in die Nesseln gesetzt, als sich der „selbstlernende“ Algorithmus in kürzester Zeit durch entsprechendes Anfüttern der trollenden Community von einer freundlichen Smalltalk-Plaudertasche in einen handfesten und hasserfüllt geifernden Nazi entwickelte – was Microsoft bereits nach kurzer Zeit zwang, den Bot vom Netz zu nehmen.

Mit seinem CaptionBot beschreitet Microsoft erneut das schwierige Pflaster der „Artifiziellen Intelligenz“. Nutzer können auf www.captionbot.ai ein Foto aus ihrem eigenen Fundus hochladen und analysieren lassen. Nach meist nur wenigen Sekunden meldet sich der Bot mit dem Ergebnis, der Beschreibung des bereitgestellten Bildes, zurück. Der User wird dabei nicht nur als Übermittler des „Übungsmaterials“ eingespannt, sondern zudem aufgefordert, die Resultate per Click und „Sternvergabe“ zu bewerten. Diese Rückmeldungen fließen in die Fütterung des Algorithmus‘ ein, der sich auf diese Weise selbst verbessern, also auf Grundlage der Nutzerfeedbacks hinzulernen soll.

 

Das funktioniert teilweise ganz gut, wie die beiden folgenden Beispiele zeigen…

captionbotwineglassescaptionbotcity

 

…und manchmal weniger gut, wie bei unserem Bild zum „Urban Gardening“ in Berlin:

Captionbot Urban Gardening

 

Spaßeshalber haben wir mal unser Logo durch den Bot gejagt – das Nerdwärts.de-Logo wird als Gruppe von Bäumen erkannt – naja.

CaptionbotNWLogo

 

Interessant auch das Ergebnis für mein Social Media Profilfoto: Immerhin vermutet CaptionBot richtigerweise mich als Motiv. Angeblich sehe ich aber zu 54% so aus wie der britische Late-Night-Talker John Oliver – ich bin mir noch nicht sicher, ob ich mich da geschmeichelt fühlen soll…

captionbot #profwag JohnOliver

Andere Nutzer durften sich über noch extremere Ergebnisse freuen:

 

Auch das legendäre „blaue“ Kleid, das es zu Beginn des Jahres zum viralen Hit schaffte bereitet dem CaptionBot erhebliche Probleme:

 

…fairerweise sollten man von AI allerdings auch nicht erwarten, dass sie Dinge versteht, die zu begreifen uns Menschen schon Probleme bereiten… 😉

 

Künstliche Intelligenz: Potenzial und Grenzen

Das Beispiel des CaptionBot zeigt, dass Künstliche Intelligenz einerseits, trotz der beschriebenen Mängel, schon recht weit ist. Andererseits wird hieran auch deutlich, wo die Limitierungen und damit auch die vieldiskutierten Gefahren von AI liegen. Wenn Künstliche Intelligenz zur Entscheidungsfindung herangezogen wird, etwa in Fragen der Kreditwürdigkeit oder bei der Unterstützung der Personenfahndung, so müssen derartige Ausfälle absolut ausgeschlossen sein. Geschieht dies nicht, ist digitale Diskriminierung zwangsläufig die Folge.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.