Keine Angst vor Büroklammern

Kennt ihr noch den Zauberlehrling aus Disney, wo dieser Besen völlig pflichtbewusst Wasser schleppt, bis irgendwann alles aus dem Ruder läuft?

Ich bin kürzlich wieder über diese Geschichte gestolpert und hatte sofort Goethes Ballade aus dem Jahr 1797 im Kopf, in der der Zauberlehrling zwar ziemlich genau weiß, was er erreichen möchte, aber eben nicht mehr so genau, wie er den einmal in Gang gesetzten Prozess wieder stoppen kann.

Und je länger ich darüber nachgedacht habe, desto aktueller kam mir diese alte Geschichte plötzlich vor. Denn auch bei KI geht es längst nicht mehr nur darum, einem Chatbot eine Frage zu stellen und eine Antwort zu bekommen. Inzwischen gibt es KI-Agenten, die Aufgaben selbstständig weiterbearbeiten, innerhalb eines vorgegebenen Ziels Entscheidungen treffen und dafür unterschiedliche Werkzeuge nutzen können, und genau da wird es spannend: Je mehr wir ihnen zutrauen, desto genauer sollten wir wissen, was wir eigentlich wollen, wo die Grenzen liegen und wann Schluss sein soll.

Noch spannender wird die Sache beim „Paperclip Maximizer“, einem Gedankenexperiment des Philosophen Nick Bostrom: Eine hochentwickelte KI bekommt den harmlosen Auftrag, möglichst viele Büroklammern herzustellen. Das Problem dabei: Sie versteht ihren Auftrag nicht falsch, ganz im Gegenteil, sie nimmt ihn so ernst, dass irgendwann alles andere diesem einen Ziel untergeordnet wird. Da ist Goethes Besen plötzlich gar nicht mehr so weit weg.
Natürlich werden wir morgen nicht zwischen Büroklammerbergen sitzen. Aber das Gedankenexperiment zeigt ziemlich gut, was wir gerade lernen: Je leistungsfähiger unsere Werkzeuge werden, desto wichtiger werden Menschen, die nicht nur wissen, wie man sie benutzt, sondern auch verstehen, was man ihnen aufträgt, Ergebnisse einordnen und Verantwortung übernehmen.

Gleichzeitig macht FOBO die Runde, „Fear of Becoming Obsolete“, also die Sorge, dass unsere eigenen Skills durch KI irgendwann nicht mehr gefragt sind. FOMO war offenbar nicht genug.

Vielleicht sollten wir aber genau hier unseren Blickwinkel ändern, denn wenn Systeme leistungsfähiger und komplexer werden, brauchen wir nicht weniger Menschen. Sondern Menschen, die verstehen, was passiert, gute Fragen stellen, Widersprüche bemerken, Verantwortung übernehmen und manchmal auch sagen: Moment, das ergibt doch keinen Sinn.

Solche Fähigkeiten lassen sich erstaunlich schwer in einen Prompt packen.
Technisches Wissen wird damit nicht unwichtiger, ganz im Gegenteil. Aber vielleicht sollten wir gerade jetzt den menschlichen Fähigkeiten mehr Aufmerksamkeit schenken, weil sie in einer zunehmend von KI geprägten Welt immer wichtiger werden.
Vielleicht hätte der Zauberlehrling seinen Besen damit besser im Griff gehabt.