Die größte Lüge, die sich Tech-Leute – und der Rest von uns – einreden

Sie sehen Gesichtserkennung, intelligente Windeln und Überwachungsgeräte als unvermeidliche Entwicklungen an. Das sind sie nicht.

Stellen Sie sich vor, Sie besuchen einen Online-Wirtschaftskurs, bei dem Sie sich Videovorlesungen ansehen und am Ende Fragen beantworten. Aber dies ist kein normaler Kurs, und Sie sehen sich nicht nur die Vorlesungen an: Sie beobachten dich auch. Jedes Mal, wenn das Gesichtserkennungssystem feststellt, dass Sie gelangweilt, abgelenkt oder unkonzentriert aussehen, macht es eine Notiz. Und nach jeder Vorlesung befragt es Sie nur zu den Inhalten dieser Momente.

Dies ist kein hypothetisches System, sondern ein echtes, das von einer Firma namens Nestor eingesetzt wird. Und wenn Ihnen der Klang nicht gefällt, sind Sie nicht allein. Die Schüler selbst auch nicht.

Als ich den Mann hinter dem System, den französischen Erfinder Marcel Saucet, fragte, wie sich die Schüler in diesen Klassen fühlen, wenn sie beobachtet werden, gab er zu, dass es ihnen nicht gefällt. Sie fühlten sich verletzt und überwacht, sagte er, aber er wies jede Andeutung zurück, dass es seine Schuld sei. “Jeder macht das”, sagte er mir. “Es ist wirklich früh und schockierend, aber wir können nicht gegen die natürlichen Gesetze der Evolution verstoßen.

ls Reporter, der über Technologie und Zukunft berichtet, höre ich ständig Variationen dieses Satzes, wenn Technologen versuchen, die Theorie, die Charles Darwin in der Biologie berühmt gemacht hat, auf ihre eigene Arbeit anzuwenden. Man sagt mir, dass es eine Entwicklung der Technologie gibt, eine Bewegung, die größer ist als jeder einzelne Erfinder oder CEO. Sie sagen, dass sie einfach von einer Flut erfasst werden, von einer Strömung mitgerissen werden, gegen die sie nichts ausrichten können. Sie sagen, er führe unweigerlich zur Gesichtserkennung (die jetzt sogar bei Kindern eingesetzt wird), zu intelligenten Lautsprechern, die Ihre intimen Gespräche aufzeichnen, und zu Türklingeln, die Ihre Nachbarn ausspionieren. Sie sagen, dass wir diese Unternehmen nicht für die Aushöhlung der Privatsphäre oder der Demokratie oder des Vertrauens in öffentliche Institutionen verantwortlich machen können – das musste alles früher oder später passieren.

“Wann ist es uns jemals gelungen, den Geist in der Flasche zu halten?”, fragen sie. Außerdem, so argumentieren sie, kaufen die Menschen dieses Zeug, also müssen sie es auch wollen. Die Unternehmen reagieren einfach auf die “natürliche Selektion” der Verbraucher. Daran hat niemand Schuld, sagen sie. Es ist so natürlich wie die Schwerkraft.

Vielleicht bringt niemand diese Überzeugung deutlicher zum Ausdruck als der Erfinder und Futurist Ray Kurzweil in seinem 2005 erschienenen Buch The Singularity Is Near: “Die ständige Beschleunigung der Technologie ist die Konsequenz und das unvermeidliche Ergebnis dessen, was ich das Gesetz der sich beschleunigenden Erträge nenne, das die Beschleunigung des Tempos und das exponentielle Wachstum der Produkte eines evolutionären Prozesses beschreibt.”

In der Tat wird unsere Welt von Menschen gestaltet, die Entscheidungen treffen, und Technologieunternehmen sind da nicht anders.

Die Behauptung, diese Geräte seien das Ergebnis eines sich ständig verbessernden natürlichen Prozesses, verkennt nicht nur die Funktionsweise der Evolution, sondern suggeriert auch, dass alles, von biologischen Waffen über betrügerische Start-ups wie Theranos bis hin zu Juicero (die 400-Dollar-Maschine, die Saft aus Paketen presste), notwendig und natürlich ist.

Obwohl diese “Innovationen” von gefährlich bis albern reichen, haben sie eines gemeinsam: Nichts an ihnen ist “natürlich”. Kein natürlicher Prozess bringt eine “intelligente” Haarbürste oder einen “intelligenten” Flip-Flop oder ein “intelligentes” Kondom hervor. Oder ein Bluetooth-fähiger Toaster, eine Kryptowährung von einer Fotofirma oder ein mit dem Internet verbundener Lufterfrischer.

Die Evolution ist eine schreckliche Metapher für die Technologie:-

Das Bestreben der Technologen, eine Parallele zur Evolution zu ziehen, ist von Grund auf fehlerhaft. Die Evolution wird durch zufällige Mutation angetrieben – durch Fehler, nicht durch Pläne. (Und während einige Erfindungen tatsächlich das Ergebnis von Missgeschicken sein können, ist die Entscheidung eines Unternehmens, diese Erfindungen zu patentieren, zu produzieren und zu vermarkten, keine solche). Die Evolution hat keine Sitzungen über den Markt, die Umwelt oder den Kundenstamm. Evolution patentiert keine Dinge oder führt Fokusgruppen durch. Die Evolution gibt keine Millionen von Dollar für Lobbyarbeit im Kongress aus, um sicherzustellen, dass ihre Pläne ungehindert umgesetzt werden können.

Auch wenn wir einen technologischen Geist nicht buchstäblich zurück in die Flasche stecken können, können wir in manchen Situationen künstlich eingreifen, um sicherzustellen, dass der Geist nach bestimmten Regeln spielt.

Es gibt klare Gesetze darüber, was Unternehmen im Bereich der biologischen Waffen tun dürfen und was nicht. Die FDA stellt sicher, dass Medikamente auf ihre Wirksamkeit und Sicherheit getestet werden, bevor sie verkauft werden. Das USDA sorgt dafür, dass die Erforschung neuer Lebensmittel mit Sorgfalt erfolgt. Wir lassen nicht zu, dass irgendjemand Fracking betreibt oder nach Öl bohrt oder Kernkraftwerke baut, wo immer er will. Wir lassen nicht zu, dass irgendjemand Autos, Flugzeuge oder Waffen herstellt und verkauft.

ie Behauptung, dass Technologieunternehmen unmöglich im Interesse der Öffentlichkeit geformt oder gezügelt werden können, bedeutet, dass sie sich grundlegend von jeder anderen Branche unterscheiden. Das sind sie nicht.

Diese Vorstellung hält sich zum Teil deshalb, weil die Amerikaner der Verlockung des “Fortschritts” nicht widerstehen können:-

In vielerlei Hinsicht ist der amerikanische Tech-Mogul, der einen unsichtbaren Bogen der Innovation für seine Entscheidungen verantwortlich macht, einfach ein Echo des Ethos, das Amerika gegründet hat: Fortschritt um jeden Preis. Die Männer und Frauen, die Amerika kolonisierten, sahen den Fortschritt weitgehend als einen Marsch, einen kontinuierlichen, geraden Weg, immer vorwärts, der niemals in Frage gestellt oder verlangsamt werden darf. Benjamin Franklin (selbst ein Erfinder) schrieb einmal: “Der schnelle Fortschritt, den die wahre Wissenschaft jetzt macht, veranlasst mich manchmal zu bedauern, dass ich so früh geboren wurde. Es ist unmöglich, sich die Höhe vorzustellen, zu der die Macht des Menschen über die Materie in tausend Jahren getragen werden kann.”

Eine Verlangsamung – oder vielleicht sogar (Gott bewahre) eine Umkehrung – vorzuschlagen, scheint also im Widerspruch zur Struktur Amerikas zu stehen. Wenn der ehemalige Uber-Ingenieur Anthony Levandowski sagt: “Was bereits geschehen ist, spielt keine Rolle mehr. Man muss die Geschichte nicht kennen, um auf dem aufzubauen, was sie geschaffen haben.