Dass man auch zu schnell bloggen kann, hat die vergangene Woche bewiesen, als die Abgas-Manipulationen bei Volkswagen noch als Verdacht im Raum standen, bei Erscheinen des Blogs aber schon längst vom Wolfsburger Konzern eingestanden worden waren. Zwar geben auch die drohenden Milliardenstrafen keinen Anlass, daran zu zweifeln, dass Volkswagen wie auch die anderen Automobilhersteller mit der Digitalisierung unseres Lebens – ob nun in der industriellen Produktion oder im total vernetzten Leben – den „Erfolg wagen“ werden und alle Chancen für den Wettlauf um die Zukunft haben. Aber die Gegenwart ist für den deutschen Automobilbau und die Marke „Made in Germany“ doch deutlich düsterer. Soviel dazu.
Aber wie steht es um die Reputation der Software-Industrie? Welches Zutrauen dürfen wir in von Menschen veranlasstem und erstelltem Code haben, der unser Leben beeinflusst? Welche Sicherheit haben wir, dass Analysen, die sich auf Algorithmen stützen, auch tatsächlich stimmen?
Dass also nach dem VW-GAU die Zukunft ganz allgemein nicht mehr ganz so strahlend erscheint, liegt an diesem schleichenden Verdacht über den Realitätsbezug virtueller Welten – und von einem Algorithmus wiedergegebene Wirklichkeiten sind immer virtuell. Sie sind bereits interpretiert – und wie wir jetzt sehen können, mitunter auch manipuliert.
Denn was die – immerhin schon satte zehn Jahre alte – Software am Auspuff eines VW Diesel vortäuschen konnte, kann vom Grundsatz her jede Analysesoftware, wenn sie zugleich mit der Absicht konzipiert wurde, die wahren Ergebnisse im Sinne des Erfinders zu beeinflussen. Wenn also die Qualität eines Produkts während eines Tests im Sinne des Herstellers korrigiert werden kann, warum dann nicht auch während eines Fertigungsprozesses? Weniger Ausschuss? – Kein Problem, wir messen einfach unter bestimmten Bedingungen weniger genau!
Mehr Kranke? Kein Problem, wir messen einfach weniger genau und schreiben falsche Werte in die Gesundheitskarte!
Oder der umgekehrte Fall: bessere vermeintliche Wirkung der Therapie. Die EU hatte unlängst unzählige Medikamente vom Markt genommen, weil sich die für ihre Zulassung von einem indischen Unternehmen gefertigten klinischen Studien als gefälscht herausstellten. Wenn hier auch Datenmaterial per Hand manipuliert wurde, ist eine gefälschte Messmethode in ähnlich gelagerten Fällen doch durchaus denkbar.
Läuft der Reaktor heiß? Wer´s nicht weiß, dem wird’s nicht heiß.
Können wir wirklich sicher sein, dass die Überwachungsvereine und Qualitätsmanager tatsächlich jeden Test- und Versagensfall ausgeschlossen haben, wenn eine Software in den produktiven Betrieb geht?
Und selbst wenn: Die Börsencrashs der Vergangenheit haben gezeigt, dass auch Softwaresysteme, die genau das tun, was sie sollen, gerade dadurch, dass alle Broker auf ihre Empfehlungen vertrauen, die gleiche Aktion starten und damit den Crash in Millisekunden sogar noch beschleunigen. Nicht erst der derzeit anhängende Fall zum Schwarzen Montag wirft diese Frage auf.
Wir müssen in immer komplexeren Zusammenhängen denken und Entscheidungen treffen. Dies können wir meist nur, wenn uns Softwaresysteme dabei helfen, die Komplexität zu meistern sowie Zusammenhänge und Konsequenzen zu erkennen. Doch die Ergebnisse, die Softwaresysteme ausspucken, sind immer nur virtuelle Welten, also Abbilder der Wirklichkeit, die wir durch einen Filter sehen, den wir selbst geschaffen haben. Womit und zu welchem Zweck ist uns beim Benutzen dieser Software-Lupen nicht immer klar.
Die folgende Liste ist eine kleine Übersicht von softwareinduzierten Ausfällen und Fehlleistungen der letzten zwei Wochen:
25. September: Sparkassenautomaten lahmgelegt. Angeblicher Grund: Softwarefehler.
14. September: OB-Auszählung in Herne verzögert. Angeblicher Grund: Softwarefehler.
13. September: Falsche Elterngeldbescheide in Pankow verschickt. Angeblicher Grund: Softwarefehler.
Die Liste kann nur unter Vorbehalt gelten, denn ihr liegt eine Google-Auswertung zugrunde. Und ob die vollständig oder ungefiltert ist, dafür mag wohl niemand seine Hand ins Feuer legen.
Der VW-GAU ist nicht allein ein Sündenfall der Automobilindustrie. Er zeigt vielmehr auf, wie anfällig unsere digitale, unsere virtuelle Welt für Manipulationen sein kann. Wir müssen gewarnt sein, sonst stinkt nicht nur der Abgas-Skandal zum Himmel.