Am stärksten wird sich die KI auf die menschliche Autonomie auswirken — auf die Art und Weise, wie wir in der Lage sind, unsere Entscheidungen selbst zu treffen, unsere Präferenzen zu gestalten, über unsere Zukunft zu entscheiden und dabei auch gelegentlich Fehler zu machen, aus denen wir lernen können. Die Aushöhlung der menschlichen Autonomie halte ich für ein wirklich großes Risiko, und wenn jemand schuld an dieser Entwicklung ist, dann wir selbst: so wie wir auch schuld sind, wenn wir das Auto nehmen, statt zu Fuß zu gehen, oder zu viel essen, statt auf unsere Ernährung zu achten.
 
Ich denke, die KI wird uns dazu verleiten, Entscheidungen zu delegieren und sie auf andere Menschen anzuwenden, um sicherzustellen, dass sie sich so verhalten, wie man selbst es sich wünscht. Sei es im Alltag oder in der Politik, oder wenn es darum geht, menschliche Präferenzen und Entscheidungen im wirtschaftlichen Umfeld zu beeinflussen. Und das ist ein großes Risiko – das Kant’sche Risiko besteht darin, die menschliche Autonomie zu untergraben und zu vergessen, dass wir Menschen niemals als Mittel zum Zweck benutzen sollten. Wenn wir das tun, ist das nicht die Schuld irgendeiner Technologie. Es wird unsere eigene Unfähigkeit sein, eine sehr mächtige Technologie zum Wohle der Gesellschaft und der Umwelt zu steuern.
 
Meines Erachtens müssen wir mehr und besser das tun, was wir ohnehin schon tun, nämlich eine solide Gesetzgebung entwickeln, insbesondere in Europa, und sicherstellen, dass Menschen, Unternehmen, Einzelpersonen, Organisationen sich an dieses Recht halten — ich beziehe mich auf die bevorstehende europäische Gesetzgebung zur KI.  Zugleich müssen wir genau das weiterentwickeln, was wir schon seit einiger Zeit entwickeln: ethische Rahmenbedingungen, ein ethisches Verständnis, eine ethische Sensibilität. Das heißt, Bildung. Die Gesellschaft hat Probleme immer schon durch Recht — das Normative (nomos) — und Bildung — paideia — bewältigt, also durch die Fähigkeit, das Richtige zu tun, die Herausforderungen richtig zu verstehen und gut mit ihnen umzugehen.
  
Ich glaube, dass wir als Individuen viel mehr erreichen können, wenn wir erkennen, dass diese digitale Revolution etwas hervorhebt, was wir in der Vergangenheit nicht ganz erfasst haben, nämlich die Bedeutung von Beziehungen. Wir müssen die Herausforderungen gemeinsam bewältigen. Es geht immer um das Ich. Das Individuum ist wichtig, aber der Individualismus im Stil von Margaret Thatcher hat ausgedient. In einer zunehmend vernetzten, wechselseitig abhängigen Welt wird uns langsam, aber hoffentlich nachdrücklich bewusst, dass es um das uns Verbindende geht. Das können unsere Freundschaften sein, unsere Staatsbürgerschaft. Es kann eine Geschäftsbeziehung sein. Es könnte eine familiäre Beziehung sein. Wenn wir die richtigen Beziehungen unter ethischen Gesichtspunkten aufbauen, dann haben wir eine bessere Chance, die technologischen wie die ökologischen und gesellschaftlichen Herausforderungen zu bewältigen, mit denen wir konfrontiert sind.