Wird die Digitalisierung von Politik und Wirtschaftsverbänden gerne als unvermeidlicher Selbstläufer gesehen, dem nur die Widerspenstigkeit überholter Systeme (z.B. Schule) oder einzelner Individuen entgegenstehen, so sendet auf einmal Silicon Valley erstaunliche Signale aus.

In meiner Wahrnehmung fing es mit einem Presseartikel über die Mitarbeiter von Google an. In einer Meldung auf verschiedenen Online-Medien war zu lesen, dass sich Google, auf Drängen von Mitarbeitern, aus einem Drohnen-Projekt des US-Militärs zurückzieht. (welt.de, 2018) Entwickler bei Google hatten sogar aus ethischen Gründen ihre Kündigung eingereicht, da sie bei der KI-Entwicklung intelligenter Algorithmen zur Erkennung und Unterscheidung von Menschen durch Kampfdrohnen nicht mitarbeiten wollten.

Am 16. Juli lese ich online in der Süddeutschen Zeitung, dass sich der ehemalige Google-Entwickler Max Hawkins dagegen wehrt, dass die Sortier- und Empfehlungsalgorithmen der Tech-Branche über sein Leben bestimmen. (Süddeutsche Zeitung – Michael Moorstedt, 2018) Gegen dieses Vorschlagswesen jeder größeren Website programmierte er für sich den Zufall neu unter dem Titel “Randomized Living”. Nun sorgt sein Programm für Überraschungen in seinem analogen und digitalen Leben indem es ihn aktiv in unvorhergesehen Situationen bringt oder zumindest vorschlägt. Auf dem Blog von https://www.npr.org findet sich ein Bericht seines Lebens mit seiner App im Zeitraum von zwei Jahren. Die App, so erfährt man, hat er wieder deaktiviert und er nimmt somit eine Auszeit vom Zufall. Nun kann man sich fragen, ob dies nur ein Gag eines begabten EDV-Nerds war oder eine persönliche Kunstaktion. Oder nimmt sich die digitale Intelligenz hier gewollt oder ungewollt selber auf den Arm, indem sie zunächst eine neue Wirklichkeit erschafft von der sie sich dann mit den selben Mitteln wieder zu befreien sucht. Was ihr und ihrem Vertreter Max Hawkins in meinem Denken einen Platz für die Anwärter auf den Orden „Wider den tierischen Ernst“ einbringt.

Und schon einen Tag später am 17. Juli folgt die nächste Überraschung, die ich ebenfalls in der Süddeutschen Online lese (Süddeutsche Zeitung – Bernd Graff, 2018). Brad Smith, der Chef-Jurist von Microsoft, äußert sich besorgt zum Einsatz einer von künstlicher Intelligenz (KI) betriebenen Gesichtserkennung. Plötzlich scheint eine moralische Dimension in der unbegrenzten Machbarkeit des Digitalen auf, wenn er schreibt. „All tools can be used for good or ill.“ (Microsoft Brad Smith, 2018) Das ist nun nicht wirklich neu, kann aber wohl nicht häufig genug in der Menschheitsgeschichte wiederholt werden, um nicht dann doch wieder zu dieser immer wiederkehrenden Erkenntnis zu gelangen.

Interessant ist mithin, dass Smith nicht nur auf andere zeigt, sondern sein Unternehmen miteinschließt. „A wide variety of tech companies, Microsoft included, have utilized this technology…“ Was bringt nun Smith zu dem Gedanken. hier könne etwas entstehen oder schon entstanden sein, unter Mithilfe seines Unternehmens, das die Grenzen des technisch Beherrschbaren sprengt. Es ist Technik selber, ihre rasante Entwicklung, ihr Potenzial, die die Gesellschaft auf diesen Punkt zusteuern lässt. „Advanced technology no longer stands apart from society; it is becoming deeply infused in our personal and professional lives.“ Hier könnte man Smith und seinem Unternehmen ein kaum glaubbares Unschuldsgebaren vorwerfen. Denn Technologie steht nicht wirklich „abseits“ und wird immer innerhalb einer Gesellschaft entwickelt und gepusht oder verhindert. Nichtsdestotrotz stellt er eine entscheidende Frage „what role do we want this type of technology to play in everyday society?“ (ebd.) auch wenn sie vielleicht zu spät kommt in einer durch Endkunden definierten Welt, die jahrelang auf das Mantra eingestimmt wurden „Jedes Ding, das dich erfreu‘ sei technisch und stets neu!“

Zwei Parteien sind laut Smith gefordert. Zum einen die Politik in Form der gesetzgebenden Regierung. Ihm selbst ist die Kuriosität bewusst, dass hier ein Unternehmen den staatlich legislativen Eingriff zur Nutzung seiner Produkte fordert. Ist dies der Ruf des Zauberlehrlings nach dem Zaubermeister? Kaum, denn dieser entwickelt selber in sicherheitspolitischen und militärischen Angelegenheiten Begehrlichkeiten, die selbst gewinnorientierten Unternehmen zu weit gehen (siehe Google weiter oben aber auch Projekte von Microsoft, wie sie Smith in seinem Artikel erwähnt.) Es muss also auch auf der Seite der Produzenten etwas geschehen, um selber mit der Politik und der Öffentlichkeit aufklärend und verantwortlich umzugehen. Smith spricht hier von „Tech sector responsibilities“, von der ethischen Verantwortung der Unternehmen. Woher diese kommen sollen, woraus sich ableiten, wenn nicht letztlich von den Aktionären, bleibt im Vagen. Eine solche Wertediskussion lässt sich aber schwerlich Unternehmen alleine anlasten. Für Microsoft und den Tech Sector sieht er aber vier Arbeitsschwerpunkte:
Erstens, die Verbesserung der Technik, damit sie, wenn sie reguliert zum Einsatz kommt, zuverlässig arbeitet.
Zweitens, Transparenz der eigenen Entwicklungstätigkeit soll gesteigert werden und die Kompatibilität zu den eigenen ethischen Normen sicherstellen.
Drittens, und das ist ein für mich schon spannender Punkt, schreibt Smith „we recognize the importance of going more slowly when it comes to the deployment of the full range of facial recognition technology.“ Diese Art der Entschleunigung wirft ein neues Licht auf den FDP-Slogan der vergangenen Bundestagswahl „Digital First – Bedenken Second“ – Auch wenn hier sicherlich von unterschiedlichen Gegenständen in dem Universum der Digitalisierung gesprochen wird.
Viertens, knüpft nochmals an den zweiten Punkt der Transparenz an, bezieht sich hier aber explizit auf die politische und gesellschaftliche Öffentlichkeit und auf die Erkenntnis, dass der bisherige Glaube, technologische Entwicklung sei wertfrei und könne fröhlich „apart from society“ betrieben werden, so nicht stimmt.

Werden wir hier Zeuge eines Saulus-zu-Paulus Erlebnisses? Wohl kaum. Eher ein Erschrecken im Spiegel am nächsten Morgen nach einer Party, der aber eine andere wieder folgen wird. Wohlgemerkt Smith hat, und das ist sicher richtig und legitim einen klaren Fokus, die KI-gesteuerte Gesichtserkennung. Ob er in seinen Reflektionen eine Blaupause für weitere technologische Entwicklungen sieht, lässt sich nicht erkennen und wäre wohl ein ähnlich frommer Wunsch wie die Wandlung vom Saulus zum Paulus.