„Unterschätze nie die menschliche Dummheit“, schreibt ganz pauschal Lazarus Long im gleichnamigen Science-Fiction-Klassiker von Robert A. Heinlein in sein fiktives Tagebuch. Das war in der Mitte des 20. Jahrhunderts. Im Jahr 2018 verteidigt der zurzeit wohl angesagteste Historiker Youval Noah Harari in seinen (nicht fiktiven) „21 Lektionen für das 21. Jahrhundert“ die Entwicklungen und Perspektiven der künstlichen Intelligenz gegen die menschliche Dummheit: KI-Systeme müssten nicht besser sein als die besten Spezialisten, es reiche vollkommen aus, wenn sie besser sind als die meisten Menschen, beispielsweise Ärzte, Autofahrer oder Anwendungsentwickler.
Viel scheint sich also in den vergangenen 70 Jahren nicht getan zu haben in der Einschätzung der menschlichen Einsichtsfähigkeit. Und in der Tat erscheint die gegenwärtige Debatte über Auswüchse und Grenzen der künstlichen Intelligenz eher eine Debatte über die Grenzen der menschlichen Einsicht und die unbegrenzte menschliche Bosheit zu sein. Denn während sich lernende Maschinen in den Grenzen der von Menschen vorgegebenen Regeln halten, sind es die Regeln, in denen die Auswüchse unbemerkt verborgen sind. Zum Beispiel, wenn ein KI-System in Auswahlverfahren nach rassistischen Gesichtspunkten urteilt.
Das ist der Grund, warum sich KI-Pionier IBM jetzt davon verabschiedet hat, sein System Watson für Gesichtserkennung weiter zu optimieren. Und auch Microsoft hat den Verkauf von Gesichtserkennungssoftware an die Polizeibehörden in den USA unterbrochen. In einem Gespräch mit der Washington Post sagte Microsoft-Vorstand Brad Smith, das Unternehmen habe beschlossen, „dass wir die Gesichtserkennung nicht an Polizeidienststellen in den USA verkaufen werden, bis wir ein nationales, auf den Menschenrechten basierendes Gesetz haben, das diese Technologie regelt.“ Problematische Beispiele gibt es genug: KI-Systeme in Polizeidiensten haben nachweislich nicht weiße Personen pauschal als gefährlicher eingestuft. Und bei Amazon hat eine Recruiting-Software konsequent männliche Bewerber bevorzugt. Schon im vergangenen Jahr hat das OpenAI-Institute, mit dem sowohl IBM als auch Microsoft zusammenarbeiten, einen klaren Zusammenhang zwischen menschlicher Voreingenommenheit und dem Regelwerk, nach dem KI-Systeme schließlich urteilen, herausgestellt. Und bereits 2017 urteilte der Hightech-Verband Bitkom, dass die Fehler in KI-Systemen im Nachhinein immer offensichtlich seien, während die initiale Formulierung der Kriterien aber versteckt in menschlichen Vorurteilen liegt.
Die Abhängigkeit von der Funktionsfähigkeit der KI-Systeme und der Qualifikation der Menschen, die sie entwickeln und betreuen, hat Microsoft jetzt in einer umfassenden Studie unter 12.000 Fachverantwortlichen in Unternehmen aus 20 Ländern untersucht und dabei unterstrichen: wer in KI-Algorithmen investiert, ohne dabei die Qualifikation der Mitarbeiter auszubauen, schöpft nicht den optimalen Nutzen aus der Technologie. Pointiert formuliert heißt das: „Menschen brauchen Maschinen und Maschinen brauchen Menschen.“
Daraus den Schluss zu ziehen, auf KI-Algorithmen zu verzichten, wäre freilich rückwärtsgewandte Bilderstürmerei. Die Studie kommt zu drei miteinander verknüpften Einsichten. Erstens: Die KI-Zukunft hat längst begonnen – wer jetzt noch darauf verzichtet, verliert den Anschluss an die Spitze. Zweitens: Wer in dieser Zukunft mitmischen will, sollte insbesondere in sein „Humankapital“ investieren. Und drittens: Unternehmen benötigen eine Kultur der Ethik und Offenheit, um die qualifizierten Mitarbeiter auch langfristig zu halten. Denn schlussendlich wandert mit den qualifizierten Mitarbeitern auch die Qualifizierung der KI-Systeme ab.
In einer zweiten Studie, die Microsoft Deutschland zusammen mit den Analysten von techconsult durchgeführt hat, zeigt sich, dass diese Botschaft während der Corona-Krise ganz offensichtlich im deutschen Mittelstand angekommen ist. Für jedes fünfte Unternehmen sind demnach KI und das Internet of Things wichtiger denn je, um aus den Auswirkungen des Lockdowns herauszufinden. Und weitere 45,2 Prozent der Befragten bezeichnen diese Technologien als „unverändert wichtig“. Spannend ist dabei, dass kleinere Unternehmen mit bis zu 20 Mitarbeitern den Wert von KI und IoT höher schätzen als Unternehmen zwischen 20 und 400 Mitarbeitern. Dabei werden auch hier die Grenzen der künstlichen Intelligenz deutlich: „innovative Produktentwicklung“ und „Neuausrichtung des Geschäftsmodells“ gehören zu den am meisten angekreuzten Zielsetzungen – hinter „Sicherung der Liquidität“.
Denn genau diese Innovationsprozesse können KI-Systeme nur unterstützen – nicht leisten. Deshalb sind auch hier die qualifizierten Mitarbeiter das wichtigste Element. Und gleichzeitig ist es entscheidend, diese Qualifizierung auch kulturell abzufedern. Sonst sind die KI-Systeme so voreingenommen, wie die Menschen, die die Regeln für die Zukunft formulieren. Künstliche Intelligenz rangiert eben doch immer nur im Rahmen der menschlichen Dummheit.