Computer sind doof

"Dies Mal funktioniert Alles!"

- die Gedanken laufen zurück in die frühen 80er, als Spliff sich mit der durch Abwesenheit glänzenden Intelligenz von 'Silizium'-basierten Technik-Produkten auseinander setzte.

Heute schwelgen die Techniker von den Möglichkeiten lernfähiger Computersysteme: selbst fahrende Autos und autonome Assistenzsysteme wie Siri oder Alexa. Ganz zu schweigen von video-gestützter Überwachungssoftware oder Systemen zur proaktiven Verbrechensbekämpfung.

Und dann stolpert der unbedarfte Leser über einen Artikel im Spiegel(Ausgabe 6/18 S. 106). Thema: Austricksen von KI-Programmen.

Mittels speziell konstruierter Pixelwolke erkennt die Software auf Bildern nur noch Toaster oder Schildkröte. Man stelle sich vor, das KI-Programm erkenne tausende Steine werfende BundeskanzlerInnen oder Bundesinnenminister bei Demonstrationen gegen den Weltwirtschaftsgipfel auf den Überwachungsbildern - oder Max Mustermann, obwohl der zeitgleich im Krankenhaus liegt. Aber aus irgend einem Grund wird er wohl von der Software erkannt worden sein...

Denn wenn in einem Konzept keine Fehler vorgesehen sind, werden auch keine Fehler gemacht.

Jedenfalls werden die Forscher ihre Lernprozeduren überdenken und die Software wird Resistent gegen Pixelwolken die Toastern, Schildkröten, Innenministern, Bundeskanzlern und - vielleicht - Max Mustermann vorgaukeln. Aber war der Mustermann nicht ein überführter tausendfacher Steinewerfer?