Zou je ethische beslissingen aan machines over mogen laten? Anders dan mensen laten computers zich niet afleiden, raken ze niet vermoeid, voelen ze geen irritatie, angst of zelfs haat en hebben ze geen last van alle menselijke denkfouten waar wij wel last van hebben. Maar toch….. Tijdens mijn lezingen krijg ik vaak vragen over dit onderwerp.
ethiek
Een ethische kunstmatige intelligentie kan (althans in principe) zo worden geprogrammeerd dat deze volledig de normen en waarden van de ideale morele beoordelaar reflecteert. En vrij van alle menselijke beperkingen zou zo’n machine dan betere ethische beslissingen kunnen nemen dan wij. En toch blijkt alleen al het idee dat zo’n machine autonoom ethische beslissingen kan gaan nemen velen van ons te verontrusten.
ratio of gevoel?
Hoe komt dat toch? Ik heb het idee dat te maken heeft met onze weerstand tegen al te rationele besluitvorming. Uit psychologisch onderzoek blijkt keer op keer dat wij mensen wantrouwen die in ethische kwesties meer vertrouwen op hun ratio dan op hun gevoel.
wie rijd ik dood?
Bijvoorbeeld in de beroemde ‘trolley’ experimenten. Hierbij moeten de deelnemers keuzes maken in moeilijke ethische dilemma’s. Bijvoorbeeld of zij bereid zijn om iemand voor de trein te gooien als zij daarmee de levens van vijf mensen verderop langs het spoor kunnen redden. Het blijkt dat de meeste mensen zich bij zo’n moeilijke keuze, toch vooral door hun gevoel laten leiden. Zij schrikken er voor terug om één leven op te offeren, ook al weten zij dat ze daardoor vijf andere mensen een zekere dood tegemoet laten gaan.
gevoel betrouwbaarder?
Mensen die zich hierbij baseren op hun gevoel en dus niet die afweging maken, worden doorgaans als betrouwbaarder gezien, dan mensen die hun besluit nemen op basis van de afweging van de uiteindelijke uitkomsten. Daar zit overigens ook een zekere logica in. Je moet er toch niet aan denken dat je metgezel voortdurend de voor- en nadelen afweegt van liegen en bedriegen of zelfs van het opofferen van jouw leven in naam van het algemeen belang.
metgezel
Wat heeft dit nou met algoritmes, kunstmatige intelligentie en bots te maken? Algoritmes laten zich niet leiden door gevoelens. Zij nemen besluiten op basis van een rationele afweging van de mogelijke gevolgen van hun keuzes. En wij vertrouwen dat niet. Wij hebben liever een metgezel die besluiten neemt op basis van intuïtie en gevoel dan op basis van koele berekeningen.
psychologica
Zo lang machines dat nog doen, zullen we ethische autonome machines met achterdocht blijven bejegenen. Of zou het zo zijn dat het probleem niet zo zeer in de machines ligt maar in onze psychologica?
Peter van der Wel © 12017
PS: Vond u deze blog nuttig of interessant? Deel hem dan met uw Linkedin relaties, Twitter volgers, of mail hem door naar uw beste klanten, collega’s of vrienden. Naar iedereen die u volgens u de geweldige kansen moet benutten die de toekomst ons biedt.
PPS: Meer blogs? Maandelijks stuur ik een blog zoals deze rond. Geef u hier op voor gratis toezending
