Sollten wir das bauen?

Wenn du mit deinem Team an einem innovativen Produkt oder Service arbeitest, treiben euch vor allen Dingen zwei Fragen um:

  1. Können wir es bauen
  2. Wird es jemand benutzen?

Wenn ihr allerdings bei diesen Fragen aufhört, lasst ihr einen wichtigen Aspekt aus, nämlich den ethischen. Solltet ihr das Produkt überhaupt bauen?

In manchen Branchen stellen sich diese ethischen Fragen automatisch, zum Beispiel in der Biotechnologie, bei autonomen Autos oder Überwachungssoftware. Aber auch wenn dein Team ein ganz „normales“ digitales Produkt aufbaut oder ihr bestehende Technik weiterentwickelt – die Verantwortung, Technologie zu bauen, die dem Menschen dient, entfällt damit nicht. Hier sind 9 Leitfragen, die euch dabei helfen, innezuhalten und zu überprüfen, ob ihr in die richtige Richtung läuft:

1) Ist diese Technologie für alle Nutzer zugänglich?

Echte Inklusion berücksichtigt nicht nur die Stimmen, die normalerweise überhört werden, sondern verstärkt sie. Adressiert euer Produkt eine gesellschaftliche Randgruppe? Und wenn nicht, könnte es das tun?

Digitale Produkte schließen zum Beispiel häufig Menschen aus, die technisch weniger versiert ist. Manchmal ist das unumgänglich, aber nicht immer. Dass nur Profis Google richtig benutzen können und ChatGPT-Prompts eine Kunst sind, ist keine Selbstverständlichkeit. Was könnt ihr tun, um jeden abzuholen?

2) Hilft unser Produkt den Nutzern, ihre Ziele zu erreichen?

Was möchten die Nutzer eurer Erfindung wirklich erreichen? Die Antwort darauf widerspricht manchmal wirtschaftlichen Interessen, aber noch häufiger ist sie unklar – selbst den Nutzern selbst. Wir Menschen tun vieles, weil wir es schon immer getan haben. Als Innovatoren wollen wir jedoch die Welt verbessern, nicht nur elektrifizieren. Welche menschlichen Bedürfnisse stillt eure Erfindung?

Dark Patterns

Niemas sollten ein Produkte seine Nutzer gezielt zu Aktionen verleiten, die ihren Interessen widersprechen. Manche Apps verstecken die Uhrzeit, damit die Nutzer nicht merken, wie lange sie bereits online sind oder tarnen Anzeigen als redaktionelle Inhalte. Enthält euer Produkt solche „Dark Patterns“?

3) Verschlechtert diese Erfindung das Leben einiger Menschen?

Welche Art von Arbeit automatisiert ihr mit eurem Produkt? Und was bedeutet das für die Menschen, die diesen Job gerade ausüben? Es ist nicht eure Aufgabe, Arbeitsplätze künstlich am Leben zu erhalten. Häufig werden die Betroffenen dann nämlich zu niedrigen Löhnen „geparkt“, statt dass sie der Arbeitswelt zur Verfügung stehen. Trotzdem: Seid ihr euch sicher, dass die Auswirkungen unterm Strich positiv sind? Wer gewinnt besonders, wer verliert besonders?

4) Wie verändert diese Erfindung das menschliche Miteinander?

Heutige Technologien vernetzen Menschen häufig, aber das führt sie nicht zwangsläufig zusammen. Es kann sogar den gegenteiligen Effekt haben. Wenn eine Bürosoftware beispielsweise allen Nutzern die gleichen Informationen anzeigt, kann das einerseits die Zusammenarbeit erleichtern, aber dem Chef auch die ungefragte Kontrolle seiner Mitarbeiter ermöglichen. Welche Arbeitskultur fördert euer Tool?

Menschen sind keine Maschinen

Nutzer sind keine rational agierende Maschinen oder Agenten, manche Produktemacher tun aber so. Die Cryptoszene sieht menschliches Vertrauen als „Systemfehler“, viele Tools versuchen, menschliche Interaktionen zu reduzieren. Welches Menschenbild steckt hinter eurer Technologie?

5) Nutzen wir die bestmögliche Technologie?

Welche Technologie ihr nutzt, hängt von vielen Faktoren ab: eurem Unternehmen, eurer Erfahrung, eurem Budget. Trotzdem lohnt sich die Frage, ob es nicht eine bessere, einfachere Lösung gibt. Innovation benötigt nicht zwingend die neuste Technik – tatsächlich ist „Low Tech“ oft die bessere Wahl, weil viele Nachteile komplizierter und neuster Lösungen entfallen. Welche Alternativen habt ihr euch angeschaut?

6) Was passiert, wenn unsere Erfindung sehr erfolgreich ist?

Nehmt einmal an, dass euer Produkt kolossal erfolgreich ist und vom Großteil der Bevölkerung genutzt wird. Was würde das mit unserer Gesellschaft machen? Der Natur? Unserem Planeten?

Diese Denkübung hilft auch, Probleme zu antizipieren, die zunächst wie eine exotische Ausnahme wirken. Uber zum Beispiel hat das Teilen der Route mit Freunden erst nach mehreren Fällen sexuellen Missbrauchs eingeführt. Welche Probleme können regelmäßig auftreten, wenn eure Erfindung im Massenmarkt angekommen ist?

**7) Welchen gesellschaftlichen Trend fördern wir?

Erfolgreiche Start-ups setzen auf einen Trend auf, wie zum Beispiel wachsende Märkte oder Technologien, die gerade alltäglicher werden. Das lässt sich auch auf ethische Trends übertragen, zum Beispiel Nachhaltigkeit, Fairness und Transparenz.

Eine Strategie dafür ist, der Regulierung immer einen Schritt vorauszusein. Der Autohersteller Volvo erfand zum Beispiel den Sicherheitsgurt und positionierte sich als Hersteller von sicheren Autos, während andere Autobauer Sicherheitsgurte erst mit der Gurtpflicht einführten.

8) Können Nutzer die Technologie kontrollieren?

Der Mensch kontrolliert die Maschine, nicht andersherum. Wer bei diesem Satz nur an außer Kontrolle geratene Roboter denkt, übersieht, dass „kontrollieren“ zuallererst „verstehen“ bedeutet. Das ist besonders durch Generative KI herausfordernd geworden. Bei Antworten von ChatGPT ist nicht nachvollziehbar, wie sie entstehen und auch nicht, ob sie wahr sind. Verstehen eure Nutzer immer, was sie gerade tun und was sie gerade bekommen?

Kontrolle heißt auch, dass den Nutzern die Auswirkungen ihrer Entscheidungen klar sind. Der deutsche Waschmittelhersteller Everdrop bietet zum Beispiel auf seine Webseite die Möglichkeit, anhand der Postleitzahl den Härtegrad des Wassers zu erfahren, sodass Kunden das umweltfreundlichste Produkt kaufen können (weicheres Wasser erfordert weniger schädliche Substanzen).

9) Dient diese Erfindung dem Menschen?

Unterstützt deine Erfindung Menschen auf dem Weg zu einem glücklichen Leben? Das ist am Ende das Ziel jeder Innovation. Nicht alles auf dieser Welt muss automatisiert werden. Beispielsweise kochen viele Menschen sehr gerne, aber Lieferdienste und Küchenmaschinen sehen die Essenszubereitung als Problem, dass es zu lösen gilt. Das muss nicht unbedingt ein Widerspruch sein: Lieferando und der Themomix können dabei helfen, wieder häufiger Zeit für bewusstes und gemeinsames Kochen zu finden. Was nimmt deine Erfindung den Menschen weg, was gibt sie ihnen?