Maschinenethik und autonome Systeme

Die Maschinenethik befasst sich mit der Frage, ob und wie künstliche Systeme moralisch handeln können und wie die Verantwortung für die Handlungen autonomer Maschinen wie selbstfahrender Autos und autonomer Waffen zugewiesen werden sollte.

Definition

Die Untersuchung moralischer Handlungsfähigkeit und Verantwortung in künstlichen autonomen Systemen, einschließlich der Bemühungen, Maschinen zu bauen, die zu moralischer Entscheidungsfindung fähig sind.

Scope

Dieses Thema behandelt die Aussicht, „künstliche moralische Agenten“ zu entwerfen, die Unterscheidung zwischen Systemen, die ethischen Regeln folgen, und solchen mit umfassenderer moralischer Handlungsfähigkeit, die „Verantwortungslücke“, die entstehen kann, wenn Lernsysteme unvorhersehbar handeln, sowie angewandte Fälle wie autonome Fahrzeuge und tödliche autonome Waffen. Es werden die philosophischen Positionen und die dahinter stehende Argumentation untersucht, wobei die Debatte beschrieben wird, anstatt vorzuschreiben, wie solche Systeme gebaut oder eingesetzt werden sollten.

Core questions

• Kann eine Maschine ein moralischer Akteur sein oder nur ein Werkzeug, für das die Benutzer verantwortlich sind?
• Wie sollte ethisches Denken, wenn überhaupt, in autonomen Systemen implementiert werden?
• Wer ist verantwortlich, wenn ein autonomes System Schaden verursacht, den niemand beabsichtigt hat?
• Gibt es Handlungen, wie z. B. tödliche Gewalt, die niemals an Maschinen delegiert werden sollten?

Key theories

Künstliche moralische Agenten

Wallach und Allen unterscheiden Grade der moralischen Kapazität von Maschinen – von der „operationalen“ bis zur „funktionalen“ Moral – und untersuchen Top-Down- (regelbasierte) und Bottom-Up-Ansätze (lernbasierte) zum Bau von Systemen, die ethisch handeln.

Die Verantwortungslücke

Andreas Matthias argumentiert, dass, wenn Maschinen auf Weisen lernen und handeln, die ihre Hersteller nicht vollständig vorhersagen oder kontrollieren können, traditionelle Verantwortungszuschreibungen möglicherweise auf niemanden zutreffen, wodurch eine Lücke entsteht.

History

Die Maschinenethik nahm in den 2000er Jahren Gestalt an, wobei Wallach und Allens Moral Machines (2009) eine wichtige Synthese lieferten. Matthias' „Verantwortungslücke“ von 2004 und Sparrows Analyse autonomer Waffen von 2007 prägten dauerhafte Debatten, die sich mit den Fortschritten in der Robotik und bei autonomen Fahrzeugen intensivierten.

Debates

Verantwortung für autonome Waffen

Sparrow argumentiert, dass niemand zu Recht für die Tötungsentscheidungen vollautonomer Waffen verantwortlich gemacht werden kann, was er als Grund gegen deren Einsatz ansieht; andere bestreiten, ob die Verantwortungslücke echt oder unüberbrückbar ist.

Key figures

• Wendell Wallach
• Colin Allen
• Andreas Matthias
• Robert Sparrow

Seminal works

• wallach2009
• matthias2004

Frequently asked questions

Können Maschinen wirklich moralische Akteure sein?

Dies ist umstritten. Einige argumentieren, dass Maschinen höchstens ethischen Regeln folgen können ('funktionale Moral') ohne echte Handlungsfähigkeit oder Rechenschaftspflicht, während andere stärkere Bedeutungen erforschen; die Debatte dreht sich darum, was moralische Handlungsfähigkeit erfordert.

Was ist die 'Verantwortungslücke'?

Es ist die Sorge, dass, wenn autonome Lernsysteme auf Weisen handeln, die niemand vorhersagen oder kontrollieren konnte, weder die Designer, Betreiber noch die Maschine fair für die daraus resultierenden Schäden verantwortlich gemacht werden können.