KI-Systeme schlauer als befürchtet

Schummeln und Künstliche Intelligenz

Die KI-Algorithmen setzen ihren Siegeszug fort, analysieren Tomographie-Aufnahmen oder andere Bilder, um Gefahren frühzeitig abwehren zu können. Dabei glichen die Prozesse innerhalb der Softwarepakete bisher einer dunklen Wolke. Die Ergebnisse erinnerten selbst Fachleute an Zauberei.

So haben sich Wissenschaftler hingesetzt, die Algorithmen zu entzaubern - Stichwort "explainable AI" oder "erklärbare Künstliche Intelligenz". Haben verschiedene Systeme untersucht, neueste und altbekannte, je nachdem was nicht schnell genug davon gelaufen ist - auch eine Frage von Intelligenz - und haben entdeckt, dass diese Algorithmen - im speziellen Fall Fotos - alle nutzbaren Informationen, wie Dateinamen und Metadaten in ihre Analyse einbeziehen. Sprich wo Wasser drauf steht, kann auch ein Schiff drin sein. Schließlich wird hier eine gewisse (hohe) Wahrscheinlichkeit dafür sprechen.

Warum sollte die Software bei einer Wasser-Datei mit einem Auto oder Satelliten anfangen? Sie würden auch nicht in einem IKEA-Katalog nach Büchern schauen.

Dumm nur, wenn auf dem Wasserbild ein Tiger in einem Rettungsboot abgebildet ist. Oder in der Tomographie-Aufnahme eine Handgranate(ohne Splint).

Für weitere Informationen siehe folgende Stichworte:

• 'künstliche intteligenz schummeln heise'