Welche Technik haben Sie derzeit speziell im Auge?

Armin Grunwald: Ich beschäftige mich intensiv mit der digitalen Abhängigkeit unserer gesamten Infrastruktur, in der Arbeit für den Deutschen Bundestag gerade der Wasserversorgung. Was passiert bei einem grossflächigen Hackerangriff? Das andere Thema, das mich stark umtreibt, sind sogenannte ADM-Technologien: Automated Decision-Making-Systeme.

Also Künstliche Intelligenz, die für uns Entscheidungen trifft.

Richtig. Selbstfahrende Autos zum Beispiel tun das andauernd. Die Frage ist nur: Wer übernimmt die Verantwortung, wenn etwas passiert? Der Programmierer? Eine Ethikkommission? Das sind keine neuen Fragen, aber sie sind brisant.

Ein grosses Forschungsthema im Bereich KI sind Systeme, die menschliche Gefühle erkennen oder simulieren. Was sind hier mögliche Technikfolgen?

Algorithmen, die unsere Emotionen erfassen, haben ganz klar das Potenzial, Persönlichkeits- oder sogar Menschenrechte zu verletzen. Manipulation beim Shopping oder Missachtung der Privatsphäre durch Gesichtserkennung sind hier nur der Anfang.

Emotionserkennung bietet auch riesige Chancen. Mehr dazu hier: KI mit EQ

Was ist das Ende?

Würden KI-basierte Lügendetektoren vor Gericht zugelassen, wäre das fatal. Womöglich treffen die Systeme unfaire Entscheidungen oder versagen anderweitig; trotzdem drohten Menschen deswegen rechtliche Konsequenzen. Ebenfalls fatal wäre die Bedrohung der Gedankenfreiheit.

Wie könnte das passieren?

Noch ist emotionale KI nicht in der Lage, Menschen in den Kopf zu schauen. Sie erkennt lediglich die gezeigten Emotionen, die wir ja bis zu einem bestimmten Grad unter Kontrolle haben. Wir können Freude auch einfach nur vortäuschen. Das würde sich allerdings ändern, wenn KI eines Tages unsere Gedanken lesen könnte.

Und wie zuverlässig sind heutige Emotionserkennungs-Systeme aus Ihrer Sicht?

Wie gesagt: Noch nimmt KI lediglich die Gefühle wahr, die wir zeigen. Ob eine Emotion echt ist, weiss sie nicht. Allerdings: Auch wir Menschen deuten die Emotionen unserer Mitmenschen nicht immer richtig. Bei den Emotionen von Maschinen dürften wir jedoch erheblich grössere Probleme haben.

Also bei Robotern, die emotionale Nähe simulieren.

Genau. Stellen Sie sich vor, eine hoch charismatische KI gerät in die falschen Hände, um uns zu betrügen. Bei einem Menschen sind wir vielleicht in der Lage, ihn über ein verräterisches Signal, das wir kennen, zu entlarven. Ein Roboter kann solche Signale womöglich perfekt verstecken oder hat sie gar nicht.

«Demente oder auch sehr einsame Menschen allerdings könnten die Gefühle für real halten oder die Systeme mindestens vermenschlichen.»

Aber immerhin wissen wir: Seine Emotionen sind nicht echt.

Die meisten von uns wissen, dass die Emotionen bloss programmiert sind, ja. Demente oder auch sehr einsame Menschen allerdings könnten die Gefühle für real halten oder die Systeme mindestens vermenschlichen.

Welche Probleme ergeben sich daraus?

Es ist eine zentrale ethische Frage, ob wir zum Beispiel Pepper-Roboter, die Emotionen wahrnehmen und angemessen darauf reagieren, auf Demenzstationen einsetzen wollen. Aus nutzenethischer Sicht kann das durchaus legitim sein, weil damit allen geholfen ist: dem Patienten oder der Patientin und dem System, das mit Pflegenotstand kämpft. Aus Sicht der Menschenwürde ist es wiederum problematisch, die Kranken mit Robotern abzuspeisen. Sie haben das Recht auf einen menschlichen Gefährten.

Stiehlt sich die Gesellschaft hier aus der Verantwortung und überlässt Robotern das Feld?

Die Gefahr besteht. Es ist ein alter Mechanismus: Wenn es ein Problem gibt, ruft man nach Technik, statt das Verhalten zu überdenken.

Zum Schluss noch etwas allgemeiner: Welche Technik wird unser Leben am meisten verändern?

Natürlich sind die digitalen Technologien noch lange nicht ausgereizt. Trotzdem werden es nicht Entwicklungen in einzelnen Bereichen wie der Robotik, der digital unterstützten Biotechnik oder der KI sein, die die grössten Veränderungen bringen.

Sondern?

Wir haben die Digitalisierung als gesellschaftlichen Prozess noch gar nicht richtig verstanden. Unsere gesamte Gesellschaftsstruktur und sogar das menschliche Selbstverständnis stehen in Frage. Deshalb sollten wir endlich proaktiv werden. Zum Beispiel müssen wir dringend damit anfangen, neue Technologien grosser Konzerne frühzeitig zu regulieren.