Blog

GesellschaftProf. Luciano Floridi

Prof. Luciano Floridi

Professor of Cognitive Science and Founding Director of the Center for Digital Ethics at Yale

Am stärksten wird sich die KI auf die menschliche Autonomie auswirken auf die Art und Weise, wie wir in der Lage sind, unsere Entscheidungen selbst zu treffen, unsere Präferenzen zu gestalten, über unsere Zukunft zu entscheiden und dabei auch gelegentlich Fehler zu machen, aus denen wir lernen können. Die Aushöhlung der menschlichen Autonomie halte ich für ein wirklich großes Risiko, und wenn jemand schuld an dieser Entwicklung ist, dann wir selbst: so wie wir auch schuld sind, wenn wir das Auto nehmen, statt zu Fuß zu gehen, oder zu viel essen, statt auf unsere Ernährung zu achten.
 
Ich denke, die KI wird uns dazu verleiten, Entscheidungen zu delegieren und sie auf andere Menschen anzuwenden, um sicherzustellen, dass sie sich so verhalten, wie man selbst es sich wünscht. Sei es im Alltag oder in der Politik, oder wenn es darum geht, menschliche Präferenzen und Entscheidungen im wirtschaftlichen Umfeld zu beeinflussen. Und das ist ein großes Risiko – das Kant’sche Risiko besteht darin, die menschliche Autonomie zu untergraben und zu vergessen, dass wir Menschen niemals als Mittel zum Zweck benutzen sollten. Wenn wir das tun, ist das nicht die Schuld irgendeiner Technologie. Es wird unsere eigene Unfähigkeit sein, eine sehr mächtige Technologie zum Wohle der Gesellschaft und der Umwelt zu steuern.
 
Meines Erachtens müssen wir mehr und besser das tun, was wir ohnehin schon tun, nämlich eine solide Gesetzgebung entwickeln, insbesondere in Europa, und sicherstellen, dass Menschen, Unternehmen, Einzelpersonen, Organisationen sich an dieses Recht halten ich beziehe mich auf die bevorstehende europäische Gesetzgebung zur KI.  Zugleich müssen wir genau das weiterentwickeln, was wir schon seit einiger Zeit entwickeln: ethische Rahmenbedingungen, ein ethisches Verständnis, eine ethische Sensibilität. Das heißt, Bildung. Die Gesellschaft hat Probleme immer schon durch Recht das Normative (nomos) und Bildung paideia bewältigt, also durch die Fähigkeit, das Richtige zu tun, die Herausforderungen richtig zu verstehen und gut mit ihnen umzugehen.
  
Ich glaube, dass wir als Individuen viel mehr erreichen können, wenn wir erkennen, dass diese digitale Revolution etwas hervorhebt, was wir in der Vergangenheit nicht ganz erfasst haben, nämlich die Bedeutung von Beziehungen. Wir müssen die Herausforderungen gemeinsam bewältigen. Es geht immer um das Ich. Das Individuum ist wichtig, aber der Individualismus im Stil von Margaret Thatcher hat ausgedient. In einer zunehmend vernetzten, wechselseitig abhängigen Welt wird uns langsam, aber hoffentlich nachdrücklich bewusst, dass es um das uns Verbindende geht. Das können unsere Freundschaften sein, unsere Staatsbürgerschaft. Es kann eine Geschäftsbeziehung sein. Es könnte eine familiäre Beziehung sein. Wenn wir die richtigen Beziehungen unter ethischen Gesichtspunkten aufbauen, dann haben wir eine bessere Chance, die technologischen wie die ökologischen und gesellschaftlichen Herausforderungen zu bewältigen, mit denen wir konfrontiert sind.

EN Original:


It seems to me that the most profound impact of AI will be on human autonomy, on how we are able to determine our choices, shape our preferences, decide about our future, including making occasional mistakes that can teach us a lesson. The erosion of human autonomy I think is a really big risk and it will be our own fault in the same way as it it is our own fault if we take the car instead of walking, for example, or we eat too much instead of being more careful about our diet.
 
If anyone is guilty that will be humanity, not AI. I think AI will tempt us to delegate decisions, or use AI itself on other human beings to make sure that they perform as we wish, to nudge people, to shape their preferences and choices in any business or economic environment, in politics and everyday life.
And this is a huge risk the Kantian risk of undermining human autonomy and forgetting that we should never ever use humans as means to an end. If we will do that, it will not be the fault of any technology, it will be our fault. It will be our own incapacity to manage a very powerful technology for the good of society and the environment.
We need to do more and better what we are already doing, which is develop robust legislation, especially in Europe, make sure that the law in Europe is respected, that people, companies, individuals, organizations comply I’m referring to the forthcoming European legislation on AI.
At the same time, we must develop exactly what we’ve been developing for some time: ethical frameworks, ethical understanding and ethical sensitivities. That means education. Society has always coped with problems through law and education. So the normative (nomos) and the education (paideia), the ability to do the right thing, understand properly what the challenges are and cope with them.
Individually, I think we can do much better and much more by realizing that all this digital revolution is stressing something that in the past we haven’t fully captured, which is the importance of relations. We need to cope with challenges together. It’s always about the I, the individual, which is important, but the individualism in the style of Margaret Thatcher has done its course. In a world that is increasingly connected, dependent on each other, we are realizing slowly, but I hope firmly, that it is about what links us that makes a difference. It could be our friendship, our citizenship. It could be a business relation. It could be a family relation. If we build the right relations ethically, then we have a better chance to deal also with the technological, the environmental, the societal challenges that we are facing.

Back To Top

human ist das Leitmedium für strategische Entscheider:innen und alle, die mit KI arbeiten und leben werden. Wir stellen den Menschen in den Mittelpunkt. Für eine lebenswerte Zukunft aller.

Folgen Sie unserer Einladung zum Dialog – werden Sie Teil einer spannenden Reise…

Social