Zondag om 14u30 debatteer ik in Technopolis met VUB-professor Bram Vanderborght over robo-ethiek. Ik werd hiertoe uitgenodigd omdat ik in augustus 2009 op Facebook enige kritiek formuleerde op twee opiniestukken die Vanderborght samen met Philippe De Backer publiceerde in De Morgen. Bij nader inzien heb ik die kritiek toen enkel op Facebook gepubliceerd, en niet op mijn blog. Daarom publiceer ik hier alsnog mijn kritisch stukje dat op 1 augustus 2009 op Facebook verscheen. In een vervolgstuk zal ik enkele ideeën hieromtrent nader uitwerken.

In De Morgen van 6 juni jongstleden schreven Philippe De Backer en Bram Vanderborght een interessant artikel over robo-ethiek. Mijn handen jeukten al enkele weken om hier een repliek op te schrijven, en ik maak dan ook van de vakantieluwte gebruik om enkele bedenkingen te spuien.

De column vertrekt vanuit anekdotische situaties: een film over een oorlog tussen robots en mensen, gehandicapten met robotische prothesen die verbonden zijn met hun zenuwstelsel, en een professor die een chip liet inplanten in zijn arm.

Vanuit die anekdotische opsomming concluderen de auteurs dat er nood is aan een robo-ethiek. Het opiniestuk stelt enigszins teleur, omdat het niet aangeeft hoe die robo-ethiek er dan wel zou moeten uitzien. In het artikel ontbreekt daartoe een aanzet. Misschien moeten we die tussen de regels lezen, want daar ontwaar ik een ondertoon die mij verontrust.



Als de auteurs het over Kevin Warwick hebben die een chip in zijn arm liet inplanten, is hun reactie dat "door dit toe te laten" de kloof groter wordt tussen wie zich dit kan veroorloven en wie niet. Ten eerste wekt dit de indruk dat de auteurs vinden dat wat niet uitdrukkelijk toegelaten is, verboden blijft. Terwijl de werkelijkheid is dat alles wat niet uitdrukkelijk verboden is, toegelaten is. Minstens één van de auteurs staat bekend als liberaal mandataris, en van zo iemand zouden we toch een houding mogen verwachten die vertrekt van het primaat van het zelfbeschikkingsrecht van de mens. Het laten inplanten van een chip lijkt mij te situeren binnen dit zelfbeschikkingsrecht, maar volgens de auteurs zou de stunt van Warwick in België waarschijnlijk repressief beteugeld moeten worden zolang er geen wetgeving bestaat die dit expliciet reguleert.

Ten tweede kan de angst om een kloof tussen have's en have-nots te creëren, elke vorm van vooruitgang tegenhouden of vertragen. Elke technologie die een hefboomeffect vormt voor de menselijke mogelijkheden, kan de natuurlijke ongelijkheid inzake capaciteiten zowel versterken als uitvlakken. De twee fundamentele maatschappijvisies die daarin vaak tegenover elkaar komen te staan, zijn enerzijds het zelfbeschikkingsrecht van de mens en anderzijds de voorrang van de gemeenschap op het individu. Het bedroeft mij dan ook dat liberalen als De Backer (in dit geval) en Vankrunkelsven (in vele andere kwesties) egalitarisme belangrijker lijken te vinden dan het zelfbeschikkingsrecht.

Om de hele kwestie wat gestructureerder aan te pakken zou ik onderscheid maken tussen twee soorten robotica:

1) Robots die een uitbreiding vormen van het menselijke actievermogen. De verantwoordelijkheid voor de handelingen van deze robots ligt bij de mensen die de instructies geven. Als een onbemande Predator een Hellfire-raket afvuurt op een terroristenkamp in Pakistan, dan is dat robotvliegtuigje slechts een elektromechanische extensie van de militair die in een kantoorruimte aan de andere kant van de planeet de videosignalen bekijkt en op de knop om te vuren drukt. Tussen de vuursteen van de holbewoners en het gesofisticeerde onbemande vliegtuig is er fundamenteel geen verschil. Er is voor dergelijke toepassingen dan ook geen sprake van een nieuw paradigma noch nood aan een bijzondere nieuwe ethiek.

2) Een heel andere kwestie wordt het wanneer robots uitgerust worden met kunstmatige intelligentie die hen in staat stelt om autonoom beslissingen te nemen en handelingen te stellen. De Australische onderzoeker Hugo de Garis, die een tijdlang mijn collega-assistent was aan de K.U.Leuven, voorziet nog deze eeuw een oorlog tussen robots en mensen. Hij meent dat de mens de evolutie van hogere levensvormen, waartoe hij super-intelligente robots rekent, niet in de weg mag staan. Een standpunt waar ik het niet mee eens ben: het overleven van de menselijke soort lijkt mij één van de belangrijkste doelstellingen te zijn waar een ethisch stelsel oog voor moet hebben.

Robo-ethiek mag mijns inziens geen middel zijn om verantwoordelijkheden of aansprakelijkheden af te schuiven van mensen naar machines, zolang de mens nog "de vinger aan de trekker" of "de zenuw aan de chip" houdt. Robo-ethiek wordt wel noodzakelijk wanneer robots autonome actoren worden.

Om de discussie wat concreter te maken, formuleer ik tot slot nog enkele vragen waarop ik ook niet onmiddellijk een antwoord kan geven:

1) Als een autonoom handelende robot plichten en verantwoordelijkheden heeft en zich aan bepaalde verbodsbepalingen moet houden, heeft hij dan ook bepaalde rechten?

2) Dient er steeds een mens de burgerrechtelijke aansprakelijkheid en de juridische verantwoordelijkheid op te nemen voor de handelingen van robots, zoals de ouders juridisch aansprakelijk zijn voor de handelingen van minderjarige kinderen? Zo ja, zijn robots zonder "verantwoordelijke mens" dan vogelvrije robots waarop naar believen jacht kan worden gemaakt?

Ik las ook het eerdere opiniestuk van Vanderborght en De Backer, waarin zij het specifiek hebben over een nood aan ethiek voor militaire robots. Een specifieke repliek op dat artikel zou mij nu te ver voeren, maar eeuwen geleden zal er ook wel iemand geweest zijn die bij de overgang van zwaarden naar vuurwapens pleitte voor een "ethiek voor vuurwapens".