KI zu gefährlich oder alles nur Selbstmarketing? – Das sagen Vorarlberger Experten
Martin Nigsch und Marco Moosbrugger sehen die Warnungen teilweise mit Vorbehalt. Auf die leichte Schulter nehmen sie die aktuellen Entwicklungen jedoch nicht.
Schwarzach In letzter Zeit sorgt die künstliche Intelligenz (KI) immer wieder für Schlagzeilen: Sie reichen von Fällen, in denen sie Quellen fälscht oder aus Versuchsumgebungen ausbricht, bis hin zu Warnungen vor Kontrollverlust und der Möglichkeit, dass sie die Menschheit auslöschen könnte. Die zwei Vorarlberger KI-Experten Martin Nigsch, Geschäftsführer der Firma feld.ai, und Marco Moosbrugger, Mitgründer von CoreVision Systems, vermuten dahinter einerseits eine Marketingmasche. Andererseits sehen sie durchaus konkrete Gefahren.
Tatsächliche Gefahr?
Sam Altman, Chef des ChatGPT-Entwicklers OpenAI, unterstützte zuletzt Vorschläge, die Entwicklung der KI zu verlangsamen und sie stärker zu regulieren. “Bereits 2019 wurde GPT-2 von OpenAI ‚zurückgehalten‘, da es ihrer Ansicht nach zu umfangreich und gut war”, sagt Moosbrugger (31) aus Dornbirn. Führende KI-Firmen würden aktuell vor einem Börsengang stehen und versuchen, “ganz gezielt durch Marketingaussagen auf die Stärke ihrer Modelle aufmerksam zu machen”. Das bestätigt auch Nigsch (49) aus Feldkirch.
Reale Gefahren sehen die beiden dennoch. Nigsch denkt dabei nicht an Untergangsszenarien – etwa daran, dass die KI Stromversorgungseinrichtungen wie jene der illwerke vkw hackt, dadurch großflächige Stromausfälle verursacht und anarchistische Zustände ausbrechen könnten. Dass KI die Menschheit auslöschen könnte, hält er für äußerst unwahrscheinlich. Weitaus besorgniserregender seien aus seiner Sicht die wirtschaftlichen Folgen und die Gefahr von Cyberangriffen.
“Cyberangriffe sind nichts Neues, aber sie werden durch die KI viel zugänglicher gemacht”, erklärt er. Viele Firmen hätten zahlreiche Sicherheitslücken, wodurch sie gehackt und dann erpresst werden könnten. Nigsch kenne zumindest eine Vorarlberger Firma, der das erst kürzlich passiert sei.
Menschliche Fehler
Moosbrugger ist der Ansicht, dass die in den Medien bekannten Fälle von Kontrollverlust über KI-Systeme nicht passiert wären, wenn die entsprechenden Umgebungen ausreichend abgesichert gewesen wären. Auch Nigsch macht vor allem menschliche Fehler dafür verantwortlich. Gleichzeitig seien menschengemachte Systeme nie hundertprozentig fehlerfrei.
Für Nigsch ist das “Terminator-Szenario” mit menschenähnlichen Robotern zwar noch Zukunftsmusik, jedoch werde es kommen. Auch dabei gilt sein größtes Misstrauen nicht den Maschinen oder der KI, sondern den Menschen. “Die Welt verändert sich. Was genau erwartet werden kann, weiß niemand”, meint er.
Ruf nach Regeln
Die beiden Experten sprechen sich für eine umfangreichere Regulierung der KI aus. “In dem Bereich ist es aber aktuell wie im Wilden Westen”, verbildlicht Nigsch. Momentan arbeite der Staatssekretär für Digitalisierung, Alexander Pröll, an einer neuen KI-Strategie für Österreich. Die aktuelle Strategie stamme aus dem Jahr 2021 und damit aus einer Zeit vor ChatGPT, erklärt Bundeskanzler Christian Stocker (beide ÖVP) den Aktualisierungsbedarf. “Ich bin prinzipiell ein Fan davon, dass Pröll die Richtlinien auf den neuesten Stand bringt”, betont Moosbrugger.
Während er es befürwortet, dass es einen globalen Stopp oder eine Verlangsamung der KI-Entwicklung gäbe, vermutet Nigsch, dass die Verlangsamung schon eingetreten sei: “Die Haftungsrisiken werden größer und die Fortschritte kleiner. Schlussendlich ist jedes exponentielle Wachstum eine S-Kurve.” Worüber sich die beiden jedoch wieder einig sind: dass der bisher erreichte Fortschritt noch ausreichend aufgearbeitet werden muss, um den aktuellen technischen Stand im alltäglichen Leben umzusetzen.