Erkennt man schädliche Innovation?

Vor einigen Woc hen hat der Risikokapitelgeber Marc Andreessen das „Techno-Optimist Manifest“ veröffentlich. Es besteht aus fünfzehn pathetischen Abschnitten, die sich auf einen einzigen Satz herunterbrechen lassen: Technik ist die Lösung. Immer und für alles. Sollte Technologie Probleme bereiten, dann löst weitere Technik diese Probleme.

Andreessens Manifest kommt zu einem Zeitpunkt, an dem wir mehr denn ja über die Risiken von Technologien sprechen. Besonders Künstliche Intelligenz wird entweder als ewiger Heilsbringer oder Sargnagel der Menschheit gehandelt, der Streit darum spaltet Regierungen und Firmen.

Sollten wir Technologien verbieten, die sich als schädlich herausstellen könnten?

Das Problem mit dem Vorsorgeprinzip

Im Umweltrecht ist das „Vorsorgeprinzip“ seit Jahrzehnten gelernt. Es besagt, dass man bei drohenden Schäden Vorsichtsmaßnehmen ergreifen sollte, auch wenn die Risiken nicht hundertprozentig absehbar sind. Vorsehen ist besser als nachsehen, denn einige Schäden sind langfristig oder sogar dauerhaft.

Auf dem Papier klingt dieses Prinzip sinnvoll. Wenn nach jetzigem Stand der Wissenschaft Risiken existieren, dann ergreifen wir auch jetzt Gegenmaßnahmen. Und Innovationen, deren Nachteile überwiegen, verbieten wir lieber ganz.

Doch gerade bei technischen Innovationen ist das nicht so einfach, und das aus drei Gründen:

1️) Die negativen Auswirkungen einer Innovation sind kaum vorherzusehen

1733 erfand John Kay einen verbesserten Webstuhl, der Stoffe schneller und effizienter verarbeiten konnte, weil er den sogenannten Schussfaden automatisch einzog. Kay hat sicher gehofft, dass sein Schnellwebstuhl ein Erfolg wird, aber er hätte nicht vorhersehen können …

• dass seine Erfindung die Industrielle Revolution begründete und der Menschheit nie gekannte Wohlfahrt bescherte,
• dass diese Industrielle Revolution die Rolle der Landwirtschaft veränderte, was zur Bauernbefreiung führte und den Adel irrelevant machte,
• dass die Bauernbefreiung aber auch zu mehr Elend, Siechtum und Kinderarbeit führte
• dass diese „soziale Frage“ zu den ersten Sozialgesetzen führte (Fabrikgesetz von 1833)

Niemand hätte den gedanklichen Sprung vom Webstuhl zum ersten Gesetz gegen Kinderarbeit machen können. Solche Folge-Folge-Abschätzungen sind einfach unmöglich, weil wir sie nicht aus der Gegenwart ableiten können. Apropos Gegenwart …

2) Wir verstehen kaum die Gegenwart

„Wir reden so viel über die Zukunft“, schreibt die Journalistin Kathrin Passig, „dabei ist die Gegenwart schon unbekannt genug.“

Auch 20 Jahre nach dem Launch von Facebook gibt es keinen Konsenz darüber, ob Social Media eine Ursache für die steigende Depressionsrate bei Teenagern ist oder nicht. Auch der Bezug zur Polarisierung der Gesellschaft ist ungeklärt. Die Fachpresse klingt da oft eindeutiger, gelinde gesagt, und das liegt an einem Phänomen, dass der Plattformexperte Mark Weiß „Extrapolationen aus dem Bauchgefühl heraus“ nennt: „Besonders Fachleute „glauben zu wissen, was Technologie X für die Gesellschaft(!) in Y Jahren bedeuten wird (in der Regel Dystopien), zeigen in Gesprächen aber nicht einmal rudimentäres Grundwissen über die Dinge, die heute passieren.“

Das ist kein neues Phänomen. Als das Fahrrad erfolgreich wurde, behaupteten „Experten“, es führe zu weniger Vermählungen und Buchverkäufen, dafür aber zu mehr Blinddarmentzündungen und. tausend anderen Übeln. Was sie nicht erkannten war, dass das Fahrrad zum wichtigsten Symbol der frühen Frauenbewegung geworden war.

Mit dem gleichen unbegründeten Selbstbewusstsein reden wir heute über die Auswirkungen von Coworking-Spaces, selbstfahrenden Autos und E-Scootern, obwohl die Datenlage überschaubar ist. Und viele der Experten kritisieren Dinge, die sie niemals selbst ausprobiert haben.¹

3) Die Zukunft ist nicht die fortgeführte Gegenwart

Selbst wenn wir die Gegenwart sehr genau verstehen, heißt das noch lange nicht, dass wir daraus die Zukunft ableiten können. Die Science-Fiction Autorin Ursula K. Le Guin schrieb einmal: „Wenn man etwas bis zum logischen Extrem treibt, dann wird so ziemlich alles deprimierend, wenn nicht krebsbildend“. ² Das ist der Grund, warum Science-Fiction-Geschichten, die einen bestimmten Trend einfach „fortschreiben“, fast immer dystopisch sind. Die Zukunft besteht selten aus Trends, die sich einfach logisch fortsetzen. Wir reagieren auf die Gegenwart. Diese konstante Mischung aus Trend und Reaktion ergibt eine Zukunft, die wir nur schwer vorhersehen können.

Unbegrenzte Innovation mit klarer Richtung

Der Autor Andrew McAffee beschreibt die beiden Pole, zwischen denen sich die Debatte um Regulierung abspielt, als „unbegrenzte Innovation“ versus „vorgelagerte Kontrolle“.

Technik-Optimisten sind ganz eindeutig im Lager der erlaubnisfreien Innovation. Ihr Argument kennen wir aus Hollywood-Filmen: hätte die Menschheit immer auf Bedenkenträger gehört, wäre jede große Erfindung, auf denen unser Wohlstand beruht, niemals zustande gekommen.

Ich stimme grundsätzlich zu. Regulierung muss einschreiten, sobald Probleme auftreten, und zwar rigoros und konsequent – aber nicht vorher. Gleichzeitig halte ich mich an Paulus: „Alles ist erlaubt, nicht alles ist nützlich.“ Auch wenn Innovation im Jahr 2023 alles darf, muss sie sich doch an zwei Prinzipien orientieren:

Nachhaltigkeit schlägt Skalierung³: Wenn wir keine Idee haben, wie wir den Stromverbrauch oder die Zuverlässigkeit einer Technologie in den Griff bekommen, dann müssen wir vor allem an diesem Problem arbeiten – statt die Technolgoie weiter zu skalieren.

Skalierierung schlägt Neuerfindung: Die meisten Technologien, die die Klimatransformation der nächsten Jahrzehnte tragen werden, sind heute am Markt verfügbar. Dass wir jetzt im Labor nach einer neuen „Wundertechnologie“ suchen ist theoretisch denkbar, aber praktisch und moralisch falsch. Wir haben keine Zeit dafür.

Braucht es eindeutige Verbote, um Innovation in diese Richtung zu lenken? Möglicherweise. Ein großes Missverständnis von Verboten ist, dass sie die höchste Art der Freiheitsbeschränkung darstellen. Doch Gebote schränken die Freiheit wesentlich deutlicher ein, denn sie befehlen Unternehmen und Personen genau, was sie zu tun haben. Verbote schaffen einen Rahmen von Möglichkeiten. In einem festen Rahmen entstehen mehr Ideen als im endlosen Raum – das lehren uns Mathematik, Erfahrung, und die Tatsache, dass nichts auf diesem Planet endlos vorhanden ist.

Wir können uns keine Technikfeindlichkeit leisten

Das Gegenteil von Technik-Optimismus ist, aus Sicht von Andreesen, eine „Demoralisierungs-Kampagne“, die in verschiedenen Verpackungen daherkommt – unter anderem „Nachhaltigkeit“ und dem „Vorsorgeprinzip“. Diese Prinzipien sind nicht falsch (und das behauptet Andreesen auch nicht), aber bei manchen ihrer Befürworter sind sie nur ein Scheinargument für eine Technikfeindlichkeit, die wir uns einfach nicht leisten können.

Die Folgen einer Innovation lassen sich nur schwer vorh tersehen. Das entbindet uns aber nicht von der Pflicht, an dem zu arbeiten, was richtig ist.