Rasanter Fortschritt ohne Regeln

FELDKIRCH „Es ist seltsam, die Pharmaindustrie gibt 97 Prozent ihres Geldes aus, um ethische Bedenken gegenüber ihren Produkten in den Griff zu bekommen, die Industrie für die Künstliche Intelligenz hingegen nur zwei Prozent. Und für die KI-Produkte gibt es auch keine Zulassungsprozesse. Gar keine!“, sagte kürzlich Moderator Thomas Matt, Kurator anlässlich des Vortrags von Niklas Keller „Herr oder Sklave – Wie gestalten wir das Verhältnis zwischen Mensch und KI?“ Er zitierte auch den kanadischen Wissenschaftler Joshua Bengio, einen der „Väter“ der KI, der – wie viele seiner Kollegen – warne, dass sich die Technologie eines Tages der menschlichen Kontrolle entziehen könne. Die Aura voller magischer Verheißung, die der KI anhafte, fordere zum Nachdenken auf: „Weil der Mensch in dieser Erzählung ja kaum mehr vorkommt. Dabei stehen menschliche Entscheidungen von äußerster Tragweite an.“

Algorithmen als Entscheidungshilfen

Niloas Keller ist Entscheidungsforscher und Organisationspsychologe. Im Rahmen seiner Tätigkeit als assoziierter Wissenschaftler der Charité Universitätsmedizin Berlin, des Harding Zentrums für Risikokompetenz und der Technischen Universität Berlin liegt sein Arbeits- und Forschungsschwerpunkt in der Entscheidungsfindung unter Ungewissheit.In seiner Arbeit an der Charité schuf er unter anderem datengetriebene, aber einfache Entscheidungsregeln für die Zuweisung von Patienten und Patientinnen auf die Intensivstation. „Ich bin kein IT-Profi oder Machine Learning Experte und ich arbeite auch nicht im Silicon Valley. In meiner Arbeit beschäftige ich mich damit, Algorithmen zu entwickeln, die Menschen helfen sollen, bessere Entscheidungen zu fällen“, erläuterte er. Ein zukunftsweisender Ansatz, denn die Investitionen in die generative Form der KI sei vom vorletzten auf das letzte Jahr um das Achtfache gestiegen.

Künstliche versus menschliche Intelligenz

Künstliche Intelligenz nutze riesige Datenmengen in sehr kurzer Zeit und lege Korrelationen über diese Daten, Menschen hingegen seien es gewohnt, in einer Umwelt von eher weniger Daten zu agieren: „Es völlig unterschiedliche Prozesse, die da ablaufen. Menschen können mit wenig Daten relativ schnell kausale Narrative bauen, eine KI kann das nicht. Die Idee, dass die KI einmal besser sein wird als die menschliche Intelligenz ist ein wenig falsch, weil das tatsächlich zwei verschiedene Arten der Informationsverarbeitung und der Navigierung der Welt sind.“ Die Entwicklung der KIs sei mit viel Hoffnung, aber auch Ängsten verbunden. Grundlegend unterschied er zwischen prädikativer und generativer KI. Während erstere versuche, zukünftige Zustände vorherzusagen und sehr erfolgreich beispielsweise in der Erkennung früher Krebsarten, in der Wettervorhersage oder in der Kreditwürdigkeit einer Person sei, produzierte die generative KI neuen Content, also Inhalt. „Lange Zeit dominierte die Idee, je mehr Daten zur Verführung stehen und je komplexer das Modell ist, desto besser lassen sich Voraussagen treffen. Das stimmt jedoch nicht, denn diese Prozesse sind selbst von Experten kaum mehr nachvollziehbar.“

Gefahr der Manipulation

In der nachfolgenden Diskussion plädierte er ein weiteres Mal für deutlich mehr Regulatorien: „Das Wichtigste ist, dass man zwischen dem Output von Menschen und dem von einer generativen KI differenzieren kann, was immer schwieriger wird. Es ist eine deutlich andere Technologie, als wir sie bisher hatten, und eine extrem disruptive Technologie. Ich denke, man kann hier mit innovativen Steuersystemen arbeiten, es sind ja letztlich wertschöpfende Systeme. Und ich kann mir auch vorstellen, dass man algorithmische Multiplikatoren und Effekte wie menschliche Arbeit besteuert.“ Außerdem sehe er eine Manipulationsgefahr: „Wenn wir in einer Welt sind, in der wir nicht erkennen können, was KI ist und was Mensch, in der die KI überzeugender wahrgenommen wird als der Mensch, wie wir das in Studien gesehen haben, und in der mächtige Individuen die Möglichkeit haben, Content in einem noch nie dagewesenen Maß zu generieren, dann sind wir diejenigen, die verzerrt werden.“ BI