Bei der Diskussion um die
künstliche Intelligenz (KI) weiss man nie so recht, ob wir nun auf ein
irdisches Paradies hinsteuern – oder in die Hölle. Wie sehen Sie das?
Es
gibt verschiedenste Risiken, und für diese Risiken gibt es sehr
unterschiedliche Vorhersagehorizonte. Superintelligenz beispielsweise ist
gleichzeitig ein Versprechen und eine Bedrohung, aber es ist auch noch Science Fiction, weil es noch in weiter
Ferne liegt.
Bleiben wir zunächst in der
Gegenwart und der nahen Zukunft. Was können wir da von KI erwarten?
Da
gibt es sicher die berechtigte Angst, dass KI im grossen Stil Arbeitsplätze
vernichten wird. Es gibt Studien, die besagen, dass bis 2030 rund die Hälfte
aller amerikanischen Arbeitsplätze gefährdet sind. Doch man muss auch verstehen,
dass KI keine einheitliche Technologie ist, sondern eine Meta-Technologie, eine
Technologie also, die andere Technologien
intelligenter macht.
Woran denken Sie konkret?
An
das Gesundheitswesen, an den Transport, an die Wissenschaft. Wo uns KI am
meisten nützen wird, können wir heute noch nicht abschätzen. Sicher ist, dass
KI eine Industrie geworden ist, mit der sehr viel Geld verdient wird.
Sie sind Philosoph. Wie sind
Sie auf die KI gekommen?
Ich
arbeite seit 35 Jahren mit Neuro- und Kognitionswissenschaftlern zusammen.
Jetzt haben wir plötzlich diesen Hype, alle sind ganz aufgeregt. Alle sprechen
nun von KI und «Digitalisierung» – was immer das eigentlich genau bedeuten soll.
In Deutschland wurde einiges verschlafen, und jetzt soll alles über Nacht nachgeholt
werden. Aber wie? Heisst das, dass überall Glaskabel hinmüssen? Das schaffen
wir nicht, das ist wie mit dem Berliner Flughafen. Oder brauchen wir autonome
Waffensysteme für das Militär? Viel eher geht es darum, ein KI-Wettrüsten
zwischen Trumpistan und China vielleicht doch noch irgendwie zu verhindern. Oder
müssen wir dafür sorgen, dass unsere eigene Industrie noch möglichst viel
verkaufen kann? Kurz: Alle sprechen von Digitalisierung, aber niemand weiss,
was damit gemeint ist.
Für den Durchschnittsbürger
heisst es beispielsweise: Er kann sich jetzt mit seinem Smartphone unterhalten.
Oder er kann mit seinem digitalen Assistenten wie Alexa oder Siri online
einkaufen und Restauranttische oder Kinokarten reservieren.
Das
Schöne am Beruf des Hochschullehrers ist, dass man sieht, wie junge
Generationen heranwachsen. Was heute auffällt, ist die Tatsache, dass viele Studenten
nicht mehr so gut lesen und schreiben können. An den Universitäten bekommen wir
heute junge Menschen, die ein Abitur in der Tasche haben, die aber eigentlich
die «Hochschulreife» nicht besitzen, weil sie keinen korrekten deutschen Satz
mehr formulieren können, weil sie die ganze Zeit nur per SMS oder WhatsApp getextet
haben.
Ist das nicht eine bekannte
Klage nicht mehr ganz junger Professoren über die Jugend?
Nein,
nur zum Teil. Auch ich finde es phantastisch, wie viele Sprachfehler beispielsweise
Google zulässt und trotzdem die richtige Antwort findet. Doch wir verlieren
auch elementare Fähigkeiten wie beispielsweise das Lesen von Karten – oder dicken
philosophischen Büchern ohne bunte Bilder und Videos. Das Neue ist gut, aber
wir müssen die alten Kulturtechniken bewahren und pflegen.
Teilen Sie die These, wonach
die neuen Medien auch physiologisch das Gehirn der Menschen verändert? Dass,
wer sich nur noch am Smartphone oder am Bildschirm informiert, gar nicht mehr
in der Lage ist, eine Zeitung oder ein Buch zu verstehen?
Die
Wochenzeitung «Zeit» zum Beispiel war einst ein Blatt der Professoren und der
Intellektuellen, in dem wichtige Debatten geführt wurden. Mittlerweile ist sie
zu einer Kirchenzeitung verkommen, in der es hauptsächlich um kultivierte
Selbstgefälligkeit und gehobenes virtue
signalling geht. Ich habe mir abgewöhnt, meine Studenten zu fragen: Habt Ihr
letzten Donnerstag in der «Zeit» das und das gelesen? Da werde ich angestarrt,
als wäre ich ein Auto. In der «Zeit» schreiben alte, eitle Professoren,
Kirchenvertreter, und Leute, die sich gerne «Intellektuelle» nennen –
überwiegend für sich selbst. Von den Jungen, selbst von den bestens
informierten Doktoranden, hat anscheinend niemand mehr das Gefühl, das sei für
sie relevant. Liegt das jetzt an der «Zeit» oder am Internet?
Beunruhigt Sie das?
Ja.
Die jungen Leute werden mit grossen Krisen konfrontiert werden: mit Schuldenkrise,
Klimawandel, globaler Migration, usw. Ich glaube nicht, dass sie dafür gerüstet
sind.
Warum nicht?
Sie
haben vielleicht gelernt, dass sie mit den Smartphone jederzeit in eine
virtuelle Welt flüchten können, wenn sie in der realen auf etwas Unangenehmes
treffen. Wenn es im Tram langweilig ist oder ein hässlicher Penner
gegenübersitzt, dann können sie ein Game anklicken – und schon sieht die Welt
wieder rosig aus. Wir alle können viel leichter dissoziieren.
Glücklichsein wird zur
Pflicht. Inzwischen gibt es sogar einen Happimeter, eine Smartwatch, die
permanent misst, ob wir glücklich sind oder nicht.
In
China gibt es eine verschärfte Variante davon, die «social credit points».
Damit wird ihr soziales Verhalten mit Hilfe von KI permanent überwacht. In
diesem System wird politischer Widerstand zunehmend unmöglich.
Andererseits könnte man ja
das System so programmieren, dass die Menschen gezwungen werden, sich tolerant
und altruistisch zu verhalten.
Im
Prinzip kann man sich eine Gesellschaft vorstellen, die von einem KI-System
optimiert wird. Und es ist ja auch wichtig, dass wir die Demokratie nicht
einfach nur schützen, sondern dass wir sie weiterentwickeln und an veränderte
Umstände anpassen. Als oberster Wert könnte man eingeben: Leiden vermindern,
sei es bei Menschen oder Tieren. Ein solches System würde vielleicht zu
überraschenden Ergebnissen kommen. Es würde aber auch unser liberales
Verständnis der individuellen Freiheit auf den Kopf stellen.
Wir dürften auch nicht mehr unglücklich sein.
Warum
muss ich auf Teufel komm raus nach Freiheit und Glück streben? Auf der Suche
nach dem Glück greifen Expertensysteme immer häufiger in unser Leben ein,
beispielsweise in der Partnerwahl. KI hilft uns, den idealen Partner zu finden.
Aber was mache ich, wenn ich mich unsterblich in eine Frau verliebe, mir die KI
jedoch sagt, dass bei dieser Partnerin das Scheidungsrisiko bei 68 Prozent
liegt? Sage ich dann als Mensch noch: Das ist mir ganz egal?
Wird das Leben nicht ein
bisschen langweilig, wenn wir keine Risiken mehr eingehen?
Die
Gehirnforschung lehrt uns, dass alles, was wir machen, im Grunde genommen
Risikominimierung ist. Menschen mögen keine Unsicherheit. Am Leben bleiben
heisst, sich in nicht überraschende Zustände zu begeben. Für die Gruppe mag es
allerdings gut sein, wenn es ein paar junge Männer mit hohem Testosteronspiegel
gibt, die verrückte Dinge tun und das Risiko suchen, die sich beispielsweise im
Krieg opfern.
Wird eine extreme
Risikoverminderung dank KI nicht irgendwann kontraproduktiv?
Ich
sage seit 25 Jahren: Das Internet wird uns immer weiter verändern, mehr noch,
als wir uns das heute vorstellen können.
Die Entwicklung geht ja immer weiter, sie endet nicht bei der
Smartphone-Sucht. Irgendwann betrachten wir auch das Smartphone so, wie wir
heute einen Schwarz-Weiss-Fernseher betrachten. Ich habe viel mit virtueller
Realität zu tun. In fünf bis zehn Jahren werden diese virtuellen Realitäten gut
und hoch auflösend sein, wie werden uns in Avatare einbetten. Telefonieren oder
Skypen wird man dann vielleicht gar nicht mehr wollen.
Kann man – überspitzt
formuliert sagen –, die KI macht die Menschen dumm?
Das
wäre etwas billig. Wir sind ja jetzt schon dumm, und was kann die arme KI
dafür? Schon Plato hat sich vor 2000 Jahren strikt gegen die Einführung der
Schrift gewehrt. Er argumentierte, das sei ganz gefährlich, weil dadurch der
Mensch seine Gedächtnisfähigkeit verlieren werde. Das würden wir heute nicht
mehr so sehen. Aber wenn wir heute alle unsere Erinnerungen auslagern und keine
Bücher mehr haben, dann könnte das zu einem Problem werden. Wir könnten ja auch
einmal offline sein.
In den klassischen
Religionen ist das irdische Leben ein Jammertal, das vom Menschen erlitten
werden muss, um dann im Jenseits erlöst zu werden. Die KI will das ändern und
die Erde in ein Schlaraffenland verwandeln. Geht das?
Die
KI will gar nichts, sie ist keine Person. Es gibt aber bereits eine KI-Kirche. Sie befindet sich
selbstverständlich in Kalifornien. Gegründet wurde sie von einem
Ex-Apple-Vorstandsmitglied. Die Idee der Kirche lautet: Es gibt keinen Gott.
Wir stehen fest im wissenschaftlichen Weltbild. Aber es wird ein Gott
entstehen. Die KI wird unser Gott sein. Will heissen: Wir Menschen werden
selbst ein altruistisches, allwissendes Wesen schaffen, das uns in allen Dinge
beraten wird. Die richtige Beziehung, die wir zur Superintelligenz der Zukunft
aufbauen werden, ist eine religiöse. Marketing und Religion vermischen sich in
dieser Vorstellung. In der Techno-Szene gibt es unter anderem diesen spezifisch
amerikanisch-calvinistischen Wahn, wonach Reichtum ein Zeichen der
Auserwähltheit von Gott ist.
Es gibt ja auch Ray
Kurzweil, der davon träumt, dass sich KI und biologische Intelligenz
verschmelzen und der Mensch dadurch unsterblich wird.
Das
ist natürlich Unsinn, aber solche Fantasien verleihen der Szene sehr viel
Dynamik. Kurzweil & Co. verkaufen im Grunde genommen ein Produkt, das
früher die Kirchen verkauft haben. Ich nenne das Sterblichkeitsverleugnung, und
das bieten sie sehr erfolgreich zusammen mit dem technischen Produkt an.
Sprechen wir über die
Superintelligenz. Ihr Philosophen-Kollege Nick Bostrom warnt davor, dass eine
solche Superintelligenz zur Ausrottung der Menschheit führen könnte. Wie sehen
Sie das?
IBM
hat ein Expertensystem namens Watson entwickelt. Wir könnten ein solches System
für folgendes Experiment benutzen: Sie müssen auf einer Webseite 80-100 Fragen
beantworten. Darin formulieren wir unsere Wünsche für einen Zeitraum, sagen wir
die nächsten 5, 10, 50, 100 Jahre. Wir sagen auch, ob wir eher Kantianer oder
Utilitaristen sein wollen, wie wir Tiere behandeln möchten, wessen Rechte
berücksichtigt werden müssen, ob wir grundsätzlich eine Demokratie wollen, etc.
Das Expertensystem könnte dann diese Vorgaben mit einer riesigen Datenbasis aus
allen möglichen Wissenschaften und Statistiken abgleichen. Dann würde es sagen:
Okay, wenn Sie das wollen, dann müssen Sie ab morgen so und so leben. Das könnte
beispielsweise heissen: Sie müssen alles Geld, das über dem komfortablen Existenzminimum
liegt, verschenken. Oder: Sie dürfen keine Kinder haben, sondern müssen sie aus
Bangladesch adoptieren. Oder: Sie müssen sofort Veganer werden und ihr Auto
verschrotten. Mit anderen Worten, dieser Ethik-Assistent würde ihnen fundiert
sagen: Wenn du das willst, musst du so leben. Ich glaube, wir würden uns alle
sehr wundern, was da herauskäme.
Bostrom meint mit
Superintelligenz etwas anderes. Er warnt davor, dass ein superintelligenter
Roboter wie die Zauberlehrlinge im Märchen die Welt vernichten könnten, weil sie
den Auftrag erhalten haben, Büroklammern herzustellen – und dann alles diesem
Ziel unterordnen würden, auch das Überleben der Menschheit.
Wie
können wir sicherstellen, dass ein superintelligentes Wesen immer nur unsere
Ziele verfolgt? Diese Frage stellt Bostrom – und natürlich könnte eine
Superintelligenz ihre Ethik-Firmware leicht selbst knacken. Büroklammern sind an
sich harmlos. Aber es könnte eine Katastrophe passieren, wenn ein System alle
Ressourcen dafür einsetzt. Es könnte auch zu einer Katastrophe führen, wenn die
Chinesen mit ihren sozialen Kreditpunkten eine wirklich tolle Gesellschaft
bauen wollen.
China will jedoch
erklärtermassen die führende KI-Nation der Welt werden. Ist das eine Gefahr?
Immer
wenn ich mich wieder über die
amerikanische Aussenpolitik aufrege, sagt meine Frau: Willst du lieber, dass die
Chinesen die Welt dominieren? Was denken Sie?
Was ist mit den Russen?
Die
sind wirtschaftlich zu schwach. Weder die Chinesen noch die Russen teilen
unsere Ansichten über die Menschenrechte. Aber die Amerikaner tun es auch
nicht – oder nicht mehr. Dabei waren es die Amerikaner, die uns Deutschen nach
dem Zweiten Weltkrieg die Demokratie gebracht, ja geradezu aufgezwungen haben.
Jetzt liegen die Amerikaner selbst am Boden, und ich glaube nicht, dass sie so
schnell wieder zurückkommen werden. Es gibt nur noch 19 wirklich stabile
Demokratien auf der Welt, es kann sein, dass wir den historischen Übergang noch
nicht ganz begriffen haben.
Es zeichnet sich ein
KI-Wettrüsten zwischen den USA und China ab. Wie gefährlich ist das?
Wir
geben unsere Autonomie in kleinen Schritten an digitale Assistenten ab. Das ist
beim Autofahren so, das ist aber auch bei den Militärs so. Jeder dieser kleinen
Schritte ist vernünftig. Bei militärischen Anwendungen führt dies allmählich dazu, dass die
Reaktionszeiten so klein werden, dass es zu gefährlich wird, überhaupt noch
Menschen einzuschalten. Es ist wie bei den automatisierten Börsensystemen, die
in Sekundenbruchteilen ohne menschliche Einwirkung Entscheidungen fällen. 2010
hat es an der amerikanischen Börse deswegen den Flash Crash gegeben. Wenn man
sich einen militärischen Flash Crash vorstellt, dann wird es wirklich
unheimlich. Der liesse sich vielleicht nicht mehr rückgängig machen.
Warum stoppt man diese
KI-Systeme nicht im allgemeinen Interesse der Menschheit?
Wir
sind ja noch nicht einmal in der Lage, Plastiktüten zu verbieten. Stellen Sie
sich vor, die Top-Experten in China sagen ihrer Regierung: Wir haben das
Wettrennen gewonnen und jetzt eine sehr erfolgreiche Erstschlag-Kapazität gegen
die USA entwickelt. Sie wird etwa 18 Monate halten. In diesem Zeitfenster
können sich die Amerikaner nicht effektiv wehren. Überlegt Euch, was Ihr macht.
Vielleicht wird die chinesische Regierung sich diese Chance nicht entgehen
lassen – KI macht die Kriegseintrittsschwelle niedrig.
Es gibt auch die These, wonach
die autonomen Waffensysteme den Krieg humanisieren würden, so paradox dies auch
klingen mag.
Man
könnte mit moderner Technik sogenannte intelligente «chirurgische» Schläge
führen, welche die Zahl der zivilen Opfer minimiert. Mir fällt diese Vorstellung sehr schwer, denn ich komme aus
der Friedensbewegung der Siebzigerjahre. Ich habe jedoch gelernt, dass
Pazifismus auch unethisch sein kann. In gewissen Fällen muss man ganz einfach rational
und evidenz-basiert reagieren, um Leid optimal zu minimieren – sonst drückt man
sich.
Was schlussfolgern Sie
daraus?
Eine
Demokratie könnte sich mit intelligenten KI-Waffen gegen autoritäre Systeme
verteidigen. Man könnte diese Technologie auch zum Schutze der Menschenrechte
verwenden. Nur ist die Realität eine andere. Deutschland ist der fünftgrösste
Waffenexporteur der Welt. Über Umwege und durch Lizenzierungstricks gelangen
diese Waffen gewollt oder ungewollt auch zu diktatorischen Regimes. Und es ist
nicht sehr realistisch zu glauben, dass dies bei KI-Waffen anders wäre.
Was heisst das nun: Stehen
wir am Anfang einer superintelligenten Welt – oder am Ende der Menschheit?
Superintelligenz
und diese Sachen –, das werden wir alle nicht mehr erleben. Die kommen, wenn
überhaupt, erst am Ende dieses Jahrhunderts. In der Gegenwart haben wir ganz
andere Probleme.
Nämlich?
Wenn
KI zu Produktivitätsgewinnen in der Wirtschaft führt, dann müssen sie gerecht
verteilt werden, auch an diejenigen, die über keine KI verfügen, also auch an
Menschen im Sudan oder in Ägypten. Gelingt dies nicht, dann wird die bereits
bestehende grosse Ungleichheit noch extremer werden. Mit anderen Worten: Die
Reichen werden noch reicher –, und die Armen arbeitslos. Ich denke auch, dass –
vielleicht so etwa 2040 – irgendwann die allgemeine Bevölkerung verstehen wird,
dass das mit dem Klimawandel eben doch alles wahr war und auch, dass es jetzt
zu spät ist. Das könnte zu starker Unruhe auf dem Planeten führen.
Schlittern wir also in eine
dystopische Welt?
Alarmismus
ist fehl am Platz. KI wird uns viele Dinge bescheren, die sehr, sehr gut sind,
sei es in der Medizin oder in der wissenschaftlichen Forschung. Auch dass KI
uns Menschen vor mühsamer Arbeit befreit, ist positiv, wenn wir intelligent
damit umgehen.
Was ist mit der weit
verbreiteten Angst vor dem Big Brother?
Der
Skandal um Cambridge Analytica hat uns gelehrt: Wir sollten ein eigenes
europäisches Facebook haben. Wir müssen den Prozess der politischen
Willensbildung aktiv schützen. Wir sollten ein eigenes europäisches
Betriebssystem haben, eine Art Euro-Linux. Und viele freie, von Steuergeldern
finanzierte Anwendungen. Wir haben doch jetzt mit dem Trump-Phänomen erlebt, wie
schnell sich die politische Situation ändern kann. Wir stehen völlig nackt vor
den amerikanischen Geheimdiensten da, wahrscheinlich könnten die im Ernstfall
die Schweiz oder Deutschland einfach abschalten. Wir Deutschen lieben Frau
Merkel unendlich dafür, dass sie immer so schön tut, als «wäre gar nichts» – ich fürchte jedoch, wir werden uns jetzt doch einmal bewegen müssen im alten
Europa. Wir müssen unsere sozialen Standards in einer unsicheren globalen
Situation aktiv schützen, wir brauchen exzellente angewandte Ethik und wirklich
gute Technikfolgenabschätzung. Wir müssen dafür sorgen, dass die Meta-Technologie KI den Menschen nützt,
die Lebensqualität tatsächlich erhöht – und die geistige Freiheit und unsere Sozialsysteme
schützt.