Robo-ethiek (1)

Zondag om 14u30 debatteer ik in Technopolis met VUB-professor Bram Vanderborght over robo-ethiek. Ik werd hiertoe uitgenodigd omdat ik in augustus 2009 op Facebook enige kritiek formuleerde op twee opiniestukken die Vanderborght samen met Philippe De Backer publiceerde in De Morgen. Bij nader inzien heb ik die kritiek toen enkel op Facebook gepubliceerd, en niet op mijn blog. Daarom publiceer ik hier alsnog mijn kritisch stukje dat op 1 augustus 2009 op Facebook verscheen. In een vervolgstuk zal ik enkele ideeën hieromtrent nader uitwerken.

In De Morgen van 6 juni jongstleden schreven Philippe De Backer en Bram Vanderborght een interessant artikel over robo-ethiek. Mijn handen jeukten al enkele weken om hier een repliek op te schrijven, en ik maak dan ook van de vakantieluwte gebruik om enkele bedenkingen te spuien.

De column vertrekt vanuit anekdotische situaties: een film over een oorlog tussen robots en mensen, gehandicapten met robotische prothesen die verbonden zijn met hun zenuwstelsel, en een professor die een chip liet inplanten in zijn arm.

Vanuit die anekdotische opsomming concluderen de auteurs dat er nood is aan een robo-ethiek. Het opiniestuk stelt enigszins teleur, omdat het niet aangeeft hoe die robo-ethiek er dan wel zou moeten uitzien. In het artikel ontbreekt daartoe een aanzet. Misschien moeten we die tussen de regels lezen, want daar ontwaar ik een ondertoon die mij verontrust.



Als de auteurs het over Kevin Warwick hebben die een chip in zijn arm liet inplanten, is hun reactie dat "door dit toe te laten" de kloof groter wordt tussen wie zich dit kan veroorloven en wie niet. Ten eerste wekt dit de indruk dat de auteurs vinden dat wat niet uitdrukkelijk toegelaten is, verboden blijft. Terwijl de werkelijkheid is dat alles wat niet uitdrukkelijk verboden is, toegelaten is. Minstens één van de auteurs staat bekend als liberaal mandataris, en van zo iemand zouden we toch een houding mogen verwachten die vertrekt van het primaat van het zelfbeschikkingsrecht van de mens. Het laten inplanten van een chip lijkt mij te situeren binnen dit zelfbeschikkingsrecht, maar volgens de auteurs zou de stunt van Warwick in België waarschijnlijk repressief beteugeld moeten worden zolang er geen wetgeving bestaat die dit expliciet reguleert.

Ten tweede kan de angst om een kloof tussen have's en have-nots te creëren, elke vorm van vooruitgang tegenhouden of vertragen. Elke technologie die een hefboomeffect vormt voor de menselijke mogelijkheden, kan de natuurlijke ongelijkheid inzake capaciteiten zowel versterken als uitvlakken. De twee fundamentele maatschappijvisies die daarin vaak tegenover elkaar komen te staan, zijn enerzijds het zelfbeschikkingsrecht van de mens en anderzijds de voorrang van de gemeenschap op het individu. Het bedroeft mij dan ook dat liberalen als De Backer (in dit geval) en Vankrunkelsven (in vele andere kwesties) egalitarisme belangrijker lijken te vinden dan het zelfbeschikkingsrecht.

Om de hele kwestie wat gestructureerder aan te pakken zou ik onderscheid maken tussen twee soorten robotica:

1) Robots die een uitbreiding vormen van het menselijke actievermogen. De verantwoordelijkheid voor de handelingen van deze robots ligt bij de mensen die de instructies geven. Als een onbemande Predator een Hellfire-raket afvuurt op een terroristenkamp in Pakistan, dan is dat robotvliegtuigje slechts een elektromechanische extensie van de militair die in een kantoorruimte aan de andere kant van de planeet de videosignalen bekijkt en op de knop om te vuren drukt. Tussen de vuursteen van de holbewoners en het gesofisticeerde onbemande vliegtuig is er fundamenteel geen verschil. Er is voor dergelijke toepassingen dan ook geen sprake van een nieuw paradigma noch nood aan een bijzondere nieuwe ethiek.

2) Een heel andere kwestie wordt het wanneer robots uitgerust worden met kunstmatige intelligentie die hen in staat stelt om autonoom beslissingen te nemen en handelingen te stellen. De Australische onderzoeker Hugo de Garis, die een tijdlang mijn collega-assistent was aan de K.U.Leuven, voorziet nog deze eeuw een oorlog tussen robots en mensen. Hij meent dat de mens de evolutie van hogere levensvormen, waartoe hij super-intelligente robots rekent, niet in de weg mag staan. Een standpunt waar ik het niet mee eens ben: het overleven van de menselijke soort lijkt mij één van de belangrijkste doelstellingen te zijn waar een ethisch stelsel oog voor moet hebben.

Robo-ethiek mag mijns inziens geen middel zijn om verantwoordelijkheden of aansprakelijkheden af te schuiven van mensen naar machines, zolang de mens nog "de vinger aan de trekker" of "de zenuw aan de chip" houdt. Robo-ethiek wordt wel noodzakelijk wanneer robots autonome actoren worden.

Om de discussie wat concreter te maken, formuleer ik tot slot nog enkele vragen waarop ik ook niet onmiddellijk een antwoord kan geven:

1) Als een autonoom handelende robot plichten en verantwoordelijkheden heeft en zich aan bepaalde verbodsbepalingen moet houden, heeft hij dan ook bepaalde rechten?

2) Dient er steeds een mens de burgerrechtelijke aansprakelijkheid en de juridische verantwoordelijkheid op te nemen voor de handelingen van robots, zoals de ouders juridisch aansprakelijk zijn voor de handelingen van minderjarige kinderen? Zo ja, zijn robots zonder "verantwoordelijke mens" dan vogelvrije robots waarop naar believen jacht kan worden gemaakt?

Ik las ook het eerdere opiniestuk van Vanderborght en De Backer, waarin zij het specifiek hebben over een nood aan ethiek voor militaire robots. Een specifieke repliek op dat artikel zou mij nu te ver voeren, maar eeuwen geleden zal er ook wel iemand geweest zijn die bij de overgang van zwaarden naar vuurwapens pleitte voor een "ethiek voor vuurwapens".

Reacties

#95111

Cogito

 

Aangezien zulke intelligentiesimulatoren geen bewustzijn en dus geen persoonlijkheid hebben, hebben ze noch plichten noch rechten. Het blijven gewoon machines, hoe gesofisticeerd ook.

#95117

Gonzo.jr

 

Asimov anyone?

#95186

traveller

 

@ luc & Gonzo. jr

Gonzo: nagel op de kop.

Luc,

We zijn zelf biologische robots die met een bepaald programma gecreeerd zijn.
Daaruit kan men dus eenvoudige stellingen afleiden, zoals Asimov besloot in zijn laatste Robot boek: de robot moet naar menselijk model geconstrueerd worden met de zelfde plichten en waarden.
Het uiteindelijhke doel is de robot met gevoelens die hem zelf toelaten tot een bepaalde ethiek te besluiten.
Het debuut is dan om een robot met verantwoordelijkheid ook rechten te geven, verpakt in een waardenstelsel.

Je hebt gelijk, een zeer grote uitdaging waar Asimov zijn ganse leven heeft over nagedacht.

#95188

LVB

 

Een mens is niet deterministisch en onvoorspelbaar.

Een robot in de huidige stand van de techniek is "geprogrammeerd" en vertoont een deterministisch gedrag.

De wetten van Asimov hebben maar zin voor zover een robot een deterministisch gedrag vertoond.

Vergelijk met de mensenwereld: er bestaan allerlei geboden en wetten, maar die worden niet door iedereen altijd gevolgd.

Bij robots die zich louter deterministisch gedragen, is de vraag naar een robo-ethiek triviaal en een no-brainer.

Bij robots die ooit zelfbewust zouden zijn, echt intelligent en hun eigen logica vormend, hebben de wetten van Asimov wel nog zin, maar vormen ze geen garantie, net zoals wetten en geboden in de mensenwereld wel zin hebben, maar totaal geen garantie vormen voor een probleemloze maatschappij.

In die zin vind ik die wetten van Asimov dan ook zeker niet het nec plus ultra. Ze vormen een interessante leiddraad, maar zeker geen garantie dat robots de mens nooit zullen overheersen.

#95190

traveller

 

@ luc

Ik heb het natuurlijk over de robot van de toekomst maar daar moet wel al over nagedacht worden.
Die materie is helemaal niet zo duidelijk aangezien het moeilijk voorspelbaar is wanneer het internet bvb zou kunnen overgenomen worden door een gedeeltelijke of helemaal bewuste A.I. Gezien de miljarden gegevens over alles en nog wat op het internet kan men geredelijk aannemen dat een A.I. niet zo deterministisch blijft als origineel de bedoeling was.
Wat betreft garanties, die hebben we bij de mens ook niet en zullen we bij de robots van de toekomst ook niet hebben.
Het hangt volledig van het programma af, maar dan wel een algemeen ethisch programma dat standvastig door alles heen onderhouden wordt, wat vandaag helemaal niet het geval is. Een robot zou er zeker zijn latijn bij verliezen vandaag.

#95221

Cogito

 

Ik herhaal mijn vermoeden dat bewustzijn biologisch is. Dat dus koolstofchemie noodzakelijk is om het fenomeen bewustzijn op te wekken en dat dit op geen enkele andere manier mogelijk is. Voorts formuleer ik het vermoeden dat een geprogrammeerd apparaat zomin bewustzijn kan vertonen, laat staan menselijk kan zijn, of met andere woorden een geschapen wezen kan zijn, als dat de mens een geschapen wezen zou zijn. Met programmatie, i.e. een topdown benadering, komt men er niet. Leven, bewustzijn, rationaliteit, is geëvolueerd, i.e. vanuit een bottom up systeem tot stand gekomen.

#95223

Cogito

 

Ik sluit niet uit dat we ooit een biologische "robot" kunnen maken, mèt ècht bewustzijn. Maar dan hebben we essentieel een dier gemaakt.

#95228

traveller

 

@ Cogito

Een dier met bewustzijn?

Je stelt nu vast dat iemand die in een Schepper gelooft niet noodzakelijk de tussenpersonen uitsluit.
Ik ben er namelijk niet zo zeker van dat de Schepper van het heelal ook de mens daadwerkelijk heeft gecreëerd, er kunnen wel "tussenpersonen" zijn, bij gebrek aan een beter woord.

#95230

LVB

 

@Cogito: En volgens jou zijn alle "programma's" top-down? Niet alle computers zijn Von Neumann machines. Programma's kunnen zelflerend zijn, zichzelf wijzigen, zichzelf repliceren enz.

Ons brein is een parallelwerkende computer met miljarden processoren, waarop programma's draaien die in staat zijn om zichzelf te wijzigen.

Dat bewustzijn noodzakelijkerwijze samen zou moeten hangen met koolstofchemie, daarvoor lijkt mij elk bewijs of argument te ontbreken. Het enige zinnige in dat verband is dat men met de huidige stand van de techniek nog geen silicium-gebaseerde computer gebouwd heeft met dezelfde parallelle complexiteit als onze hersenen (tien tot de elfde neuronen, elk neuron is een eenvoudige CPU, alle neuronen werken simultaan in parallel). Bovendien moet men eerst de werking van ons brein nog beter doorgronden om alle processen "na te bootsen", eventueel op andere technologie, bijv. silicium ipv koolstof.

#95255

Cogito

 

Natuurlijk hebben dieren bewustzijn Traveller. Observeer je kat maar eens.
Ik noem het ook heel duidelijk vermoeden(s) hé Luc, ik heb er ook geen bewijs voor. Ik vermoed ook dat bewustzijn meer is dan informatieverwerking. Er komt "chemie" bij kijken. Hersenen samen met hormonen. Bewustzijn is niet louter electrisch. En ja, louter vanuit het "aanvoelen" (nog zo'n vaag woord) dat bewustzijn bijzonder is. Toch denk ik niet ver naast de waarheid te zitten en ben het bijvoorbeeld zeer eens met het Chinese-kamer-gedachtenexperiment van John Searle.

#95258

johan vandepopuliere

 

Het is al een tijd lang mijn overtuiging dat de volgende revolutie die van de genetica zal zijn en niet een 3.0 van de informatietechnologie. Daarbij mogen we ons verwachten aan klonen, machinale extensies van mensen, authentieke A.I. in machines die daardoor de schijn van een "ziel" kunnen opwekken, en combinaties daarvan.

We zullen dus niet zozeer een duaal stelsel van mensen en robots krijgen, maar een breed spectrum van "pure mens" tot "pure machine".

(Wat is overigens "leven"? Wie kan aantonen dat de meme die zich voedt met breingolven via sociale media geen levensvorm is die nu reeds parasiteert om de moderne mens?)

De ethische gevolgen zijn legio. De kramp waarin het wielrennen zich nu bevindt, zet zich door naar het schaken. Zal je voor mijn kloon zorgen als ik dood ben? Aan wiens kant sta jij, halfmens: de instandhouding der robots conflicteert met die van de mens? En als die robot perfect Nederlands spreekt, krijgt hij dan een bouwvergunning in Dilbeek?

#95260

traveller

 

@ Cogito

Een dier heeft instinct, genetische informatie en na-aap automatismen, maar geen bewustzijn. Als ze bewust waren van zichzelf was er geen enkel roofdier nog in leven, inclusief de mens. Hun veel talrijkere slachtoffers hadden al lang samengespannen en hen uitgeroeid.

#95264

johan vandepopuliere

 

De idee dat succesvolle collectieve overlevingsmechanismen de maatstaf zijn voor de aanwezigheid van bewustzijn is tamelijk apart. Een handig instrument ook voor entlösende entiteiten om aan te geven dat de geëxtermineerde entiteit "toch geen bewustzijn heeft".

#95265

LVB

 

Wie durft eigenlijk beweren dat chimpansees, gorilla's, bonobo's, olifanten en dolfijnen geen, of even weinig, bewustzijn (of noem het zelfs "zelfbewustzijn") hebben als pakweg tuinslakken of mieren?

#95266

traveller

 

@ johan vandepopuliere

Gaat het een beetje?

#95267

traveller

 

@ luc

Niemand aangezien niemand weet wat bewustzijn echt is.
Zelfbewustzijn daarentegen, je pense donc je suis, daar ben ik van overtuigd dat het niet bij de dieren aanwezig is, niettegenstaande de 99,99 % DNA

#95268

LVB

 

Zelfbewustzijn, self-awareness, kan men nagaan wanneer dieren bij het zien van hun spiegelbeeld beseffen dat het over henzelf gaat (is enkel het geval bij sommige hogere diersoorten).

#95269

Questing Beast

 

Hierboven wordt (terecht) even naar Asimov verwezen, maar de SF auteur die in feite dichter bij dit interessante debat stond was Philip K. Dick.

Ik sluit me aan bij traveller wat de betekenis van het DNA betreft. Die 0.01% verschil maakt net de kwantumsprong uit die "de mens" onderscheidt van "het dier". Waaruit die kwantumsprong exact bestaat is echter moeilijk precies af te lijnen.

Een belangrijk aspect lijkt me het omgaan met tijd te zijn. De capaciteiten van dieren om de tijdsgrenzen van het bestaan te overstijgen en ervaringen van generatie op generatie door te geven zodat elke nieuwe generatie niet telkens van square one dient te herbeginnen, zijn op zijn zachtst gezegd zeer beperkt (hoewel niet onbestaande).

Een tweede belangrijk aspect is volgens mij de zeer geavanceerde capaciteit van de mens tot communicatie. In combinatie met aspect één is dit voor mij het voornaamste onderscheid tussen mens en dier, eerder nog dan vage en onverifiëerbare begrippen als "bewustzijn" of "zelfbewustzijn".

Terugkerend naar de robots: is de aanwezigheid van deze twee aspecten noodzakelijk en voldoende om van "mens" te kunnen spreken? Dat is een andere kwestie natuurlijk. Men zou hier nog een biologisch aspect aan kunnen toevoegen. Op die manier komt men uit bij Philip K. Dick's "Do androids dream of electric sheep?" (Blade Runner) en zoals bij veel ethische kwesties bij een "buikgevoel". Knap lastig als het geheel in wetteksten dient te worden gegoten. Zelfs voor een anarchist die zweert bij zelfbeschikkingsrecht is dit een taaie kluif :-)

#95274

traveller

 

@ luc,

Hij herkent misschien wel een soortgenoot met geen andere reuk, pretty confusing.

@ QB

Ik had daar niet zo direct aan gedacht maar Dick is wel heel ver gegaan. Asimov heeft het uitgespit in verschillende boeken, 4 denk ik, en ik geloof dat de opvolgers van Frank Herbert, een er van zijn zoon, er ook ver op in gaan maar niet zeer positief met hun 2 delen over de Butleriaanse Jihad.
Ik ben er van overtuigd dat het zal noodzakelijk worden om een echte "leefregel" voor robots vast te leggen.

#95279

Questing Beast

 

@traveller: Dick ging daarin inderdaad erg ver, maar hij was dan ook bijzonder geïntrigeerd door de vraag: "wanneer ben je een mens?". De bekendste voorbeelden zijn: "Do androids dream of electric sheep?" en "We can remember it for you wholesale" (verfilmd als Total Recall), maar ook verhalen als "A scanner darkly" (wordt momenteel verfilmd, dacht ik) en "the electric ant" gaan diep op vragen over menselijkheid en identiteit in. Het is natuurlijk een onderwerp dat vele SF schrijvers boeit. Je noemt zelf al Herbert en opvolgers, maar bvb. ook Keith Laumer's "the exterminator" gaat in op de vraag over menselijkheid, zij het op een ietwat cynische manier. Ik weet niet of je dat (kort)verhaal kent, maar indien niet is het de moeite van het opzoeken waard. Het antwoord daar was: "ieder onschuldig wezen", uiteraard met bizarre gevolgen :-)

#95281

traveller

 

@ QB

Ik kende het niet, hartelijk dank, ik zoek het op.

#95282

johan vandepopuliere

 

@traveller: misschien ... Er is natuurlijk al onderzoek naar verricht.

http://nl.wikipedia.org/wik...

#95285

traveller

 

@ johan vdp

Interessant

#95288

Neverbeendead Religion

 

Part 1
Een goede tip om het bewustzijn van dieren na te gaan is om eens aan zelfstudie te doen. Wat zou je als kat, die ontdekt dat die ineens met mensen kan praten, zoal tegen je baasje zeggen wanneer je de mensen ondertussen al meer dan eens in hun gewoontes hebt bezig gezien.
Dat is maar een intro maar wel een die telt ( zoals de vibe in deze film met het einde in de laatste minuut http://www.imdb.com/title/t... ).
En hoever gaat de vergelijking op van de school vissen die elkaar verwittigen dat er zich netten on their 2 o' clock bevinden met de school mensen die elkaar verwittigen dat er kleine steentjes uit de ruimte richting hun hoofdjes aan het afsteven zijn ( focus op de iets niet weten waarvan je weet dat je het eigenlijk wel zou moeten weten met de toegestane zelfmoord tot gevolg gedachte want van de dieren kan men misschien wel even formidabele gedachtevormingen verwachten).

#95298

Lizzie

 

Om het HELE menselijk denkvermogen en/of alle aspecten van de menselijke intelligentie te kunnen evenaren, zouden robots geprogrammeerd moeten worden met een vergelijkbaar aantal mogelijkheden van verschillende elektrische impulsen (de combinatie- stimulatie- en remmingsmechanismen inbegrepen), zoals dit in het algemeen gebeurt in de echte menselijke hersenen.

Maar zelfs ogenschijnlijk heel eenvoudige menselijke denkprocessen en handelingen berusten in feite al op een INGEWIKKELDE en ZEER COMPLEXE hersenwerking van meestal meerdere hersengebieden. Met scans kan men inderdaad nu wel activiteit in de betrokken hersengebieden in beeld brengen. En men kan trouwens ook zeer precies omschrijven, tot op het microscopische en soms moleculaire niveau hoe zenuwimpulsen worden getransporteerd doorheen zenuwcellen en van de ene naar een andere hersencel (neuron) worden overgebracht (impulstransmissie). En ook welke moleculen neurotransmitters waar actief zijn.

Maar HOE vele denkprocessen tot stand komen, hoe en waardoor ze in gang worden gezet, WAAR en WAT er precies gebeurt in menselijke hersenen bij bijvoorbeeld motivatie (of gebrek aan), bij creativiteit en inderdaad ook bij het zogenaamde 'bewustzijn' (dat inderdaad, zoals traveller schreef, niemand weet wat het echt is), .. daar tast men allemaal nog volledig in het fundamentele duister voor.

Bovendien is er bij de mens een continue en eveneens HEEL COMPLEXE interactie van de hersenen met het inwendige milieu van het hele organisme, met de fysiologie van het hele lichaam, en dat in combinatie met de vele en variabele externe invloeden, waaronder o.a. voeding, dat een essentiële rol speelt. Hierdoor is een zeer verfijnde aanpassing mogelijk van de werking van de hersenen aan bestaande en veranderlijke situaties.

Zou men in de verre toekomst een robot kunnen maken die de geschreven reacties hierboven zou kunnen lezen, verstaan, interpreteren, evalueren en integreren en daar vervolgens een ZINVOLLE, CREATIEVE en/of LOGISCHE en UNIEKE, persoonlijke reactie zou op kunnen geven die een constructieve meerwaarde zou kunnen betekenen aan deze discussie bijvoorbeeld? Er zijn vele redenen om dat (zeker nog lange tijd) sterk te betwijfelen. Al was het maar gewoon omdat de aard van veruit de meeste van (het gigantisch aantal) vereiste parameters hiervoor, gewoon nog niet gekend is. En nog veel minder in welk verband dat ze met elkaar staan en functioneren.

Tot nader orde blijven de verschillende vormen van intelligentie bij een mens nog beduidend veel groter dan dat van een altijd veel kortzichtigere robot.

#95336

Cogito

 

Ik zou niet durven zeggen dat slechts weinig dieren een zelfbewustzijn hebben. De meeste dieren moeten welhaast een soort ik-besef hebben. Waarom anders de vele op neurotransmitters gebaseerde beloningssystemen? Die dienen om gewenst gedrag (gedrag dat bewezen heeft voordelig te zijn voor zelf- en soortbehoud) te belonen met een genotservaring. Dat veronderstelt toch een ik-besef? Wie of wat gaat er anders genieten? En hoe doe je dat met een computer? Met een hoger voltage om zijn transistortjes te kietelen? Of met de tijdklok een ritmetje op zijn databusje tokkelen?

#95349

Neverbeendead Religion

 

Het is altijd leuk om een robot te maken met een eigen bewustzijn want dan kan die het ons weer eens uitleggen op zijn eigen unieke manier.
De eerste vraag die hij ons stelt is waarom alles volgens een berekenbaar patroon verloopt en enkel de mensen en hij ,als eerste robot, een variabele mogen zijn die niet te berekenen zijn.
Het bewijs volgt uit het simpele ongerijmde:Als de berekeningen ( die we hypothetisch moeten toeschrijven aan een bewustzijn dat alle bestaande krachten en fenomenen in het oneindige universum tegelijkertijd in real-time kan berekenen in die all-on-all stijl ( aanwezige aantrekkingskrachten in combinatie met aanwezige winden enzoverder enzoverder ) om het realiteitsgehalte van exacte voorspelling of berekening van eender wat vrij te geven ) aantonen dat je morgen iets te laat zal zijn op het werk kan je zelfs niet meer beslissen om op je werk te blijven om aan te tonen dat je daar de volgende dag niet te laat zal aankomen.
En we vinden onze nieuwe vriend cool want hij praat ongeremd en stelt vragen die de mensen niet willen beantwoorden want hij heeft enkel een bewustzijn ingeplant maar geen gevoelens, no pleasure receptors and no pain receptors en dus ook geen angst.
Waarom zijn wij en hij een variabele of een kogel die niet volgens de rechte lijn hoeft te gaan na uit een pistool te zijn geschoten maar een die daarna het pad volgt dat hij zelf verkiest als zijnde enkel maar een kogel.
Waarom zijn wij en hij niet het logische verdere gevolg van de ontdekte wiskundige verbanden uit vorige toestanden van onszelf. Iedereen staat nog op apegapen en dus herformuleert hij de naakte gegevens wat anders: Als ik je kom te vertellen dat vanaf morgen alle gekende krachten en fenomenen ook gaan afwijken van hun berekenbare pad zoals dat van de kogel en ook variabel gaan worden zoals wij en je dat als een onmogelijkheid beschouwt omdat je er anders nog voor moet gaan open staan ook op dagdagelijkse basis van ultieme variatie waaruit telkens een willekeur ontstaat, waarom passen wij die onmogelijkheid dan toe vanwege een simpel bewijs uit het ongerijmde. Wat maakt ons nu net zo speciaal dat enkel wij hier het onmogelijke mogen toepassen.
En toen kwam er 1 uit de menigte mensen naar de robot toe en hij zei: Trek het je niet aan, zij zullen je geen antwoord geven want zij hebben iets in hun systeem dat jij niet hebt maar ik heb gehoord dat jij een mean lean dancing machine program hebt meegekregen dus als je zin hebt mag je naar de safety dance fuif van vanavond komen en daar zei de robot geen nee tegen.
http://www.youtube.com/watc...

#95350

Neverbeendead Religion

 

Wat was er dan nog verder geworden van de eerste robot. Zijn nieuwe vrienden hadden hem al onmiddellijk de naam johnny caterpillar gegeven want ze wisten dat hij niet dom was. Hij wou nog beschikken over datgene dat de mensen in hun systeem hadden en hij wist dat dat niet tot het domein van het onmogelijke behoorde. Het duurde dan ook niet lang voor hij al zijn eigen playlist kon samen stellen voor the next safety dance fuif en hij opende graag met the long way.
http://www.youtube.com/watc...

#95366

jvn1k

 

Google naar de onnavolgbare Flight of the Conchords hun Robot Song (The humans are dead). Wat zeg ik, bestel direct al hun DVD's (HBO) !!!

#95371

Cogito

 

Af en toe is Joe toch goe. Motherboardfucker, lick my battery!

#95374

jvn1k

 

We used poisonous gasses
(With traces of lead)
To poison their asses.
(Actually their lungs)
Binary solo:
0000001
00000011
0000001
00000011
0000001
0000001
0000001
0000001

allez, cogito, nog eentje speciaal voor jou:
http://www.youtube.com/watc...
lyrics:
http://www.lyrics007.com/Fl...

#95375

Rick

 

Cogito: Je had beter gezwegen...

#95385

Cogito

 

Ik vond die binaire solo anders wel grappig hoor Rick.

#95436

pepperjack

 

Hier worden mooie en pertinente vragen opgeworpen. Het enige wat ik kan concluderen, is dat we niet alleen in robotica of genetica aan "grenzen" komen die onvermijdelijk zullen leiden naar mensheid 2.0, maar ook de ethiek zelf zit m.i. aan een grens. Ethiek wordt zuivere conventie, met regels die inhoudelijk 100% inwisselbaar zijn, en bestaat dus au fond niet meer (dwz een evident, logisch en fundamenteel meta-regelsysteem voor de soort).

Zolang het nog controleerbaar of afdwingbaar is kan ethiek nog zinvol zijn, maar eens ze dat (helemaal) niet meer is, heeft ethiek of ethische regels as such geen enkele zin meer, tenzij als vrijblijvende 'richt'lijn. Deze evolutie is er nu al, en verschillende ethieken (bv van gelovigen (onderling dan nog eens verdeeld) en aderen) bestaan nu al naast elkaar, en zijn zuiver *vrijwillig* na te leven. Zelfs wetgeving waarvan de afdwingbaarheid stopt aan landsgrenzen toont aan hoe zwak regelsystemen nu al zijn.

En zodra onze soort/robots gaan beginnen uitzwermen in de ruimte zonder nood te hebben aan planeet Aarde, en er dus geen enkele centrale sturing/controle/afdwingbaarheid meer mogelijk is, verliest een overkoepelende ethiek (bv voor "de" mensheid of "de intelligente wezens") elk belang, omdat het toch niet afgedwongen kan worden. Binnen één gemeenschap kan ethiek of regelgeving uiteraard nog wel werken.

Tussen gemeenschappen of werelden die volslagen los van elkaar functioneren, wordt het dan ieder voor zich, en zullen we terugvallen op de enige fundamentele wet: het recht van de sterkste.

[Net zoals het nu zou zijn mochten we buitenaards leven ontmoeten: geen enkele reden om aan te nemen dat zij ook "dag terug" zouden zeggen voor ze schieten :-)]

De evolutie die onze soort meemaakt, is buitengewoon boeiend. Enerzijds scoren we technologisch hoge ogen, tegelijkertijd herleven ook achterlijke ideologieën, wat het in se alleen maar spannender maakt.

Spijtig dat ik niet in 2010 geboren ben, zodat ik er meer van zou kunnen meemaken.

#95443

Lizzie

 

Cogito alludeerde in (#95336) zeer terecht op de 'perceptie-beperking' van robots:
"Wie of wat gaat er anders genieten? En hoe doe je dat met een computer? Met een hoger voltage om zijn transistortjes te kietelen? "

Zelfbewustzijn is bij een levend wezen, in het bijzonder bij de mens, ook vooral afhankelijk van zintuiglijke waarnemingen, zowel van eigen lichaam als van de buitenwereld. Dit gebeurt aan de hand van algemene zintuigen (zoals bijvoorbeeld tast) of speciale zintuigen (ogen, oren, reukorgaan, smaak, ...) die zich meestal in de kop of het hoofd bevinden.

Tot op het cellulair of microscopisch niveau zijn deze zintuigen (en zintuigcellen) zo complex en verfijnd gebouwd dat zij daardoor zeer gevoelig zijn aan een zeer groot spectrum van gedifferentieerde prikkels. Dit kan door geen enkel robot maar van ver benaderd worden, omdat het op zo'n niveau gewoon niet na te bootsen is. Nog nooit is een wetenschapper er immers in geslaagd van een levende cel te construeren, vertrekkend van anorganische bestanddelen.

Een volgende stap zijn de processen in de hersenen, waar de zintuiglijke waarnemingen die omgezet werden in zenuwimpulsen verder worden verwerkt en de uiteindelijke waarneming mogelijk wordt.

Diep in de menselijke hersenen bevindt zich ook een heel bijzondere driedimensionale structuur die men het limbische systeem noemt. Dat speelt een grote rol in alles wat gevoelens en emoties betreft en het staat ook in verband met wat 'emotionele' intelligentie wordt genoemd. Het maakt ook deel uit van de persoonlijkheidsstructuur van een mens.

Een robot zal misschien in staat zijn van piano te spelen, technisch zonder één enkele fout, maar hij zal - door o.a.(!) het ontbreken van dat limbische systeeem - nooit in staat zijn van daar enige 'muzikaliteit' of muzikaal gevoel in te brengen.

Ook dit systeem valt dus volledig buiten het bereik van een robot, omdat het ook niets te maken heeft met pure logica en programmering. Wat niet wil zeggen dat het zuiver logisch denken (waarbij vooral de prefrontale schors van de grote hersenen belangrijk is) dit bij levende wezens niet kan beïnvloeden. De interactie tussen de verschillende hersendelen is ook zeer uitgesproken en wederom uitermate complex. Verliefd word je niet met je rede. Wat je er achteraf mee doet natuurlijk wel.

Bovendien bezitten hersenen van levende wezens altijd een graad van flexibiliteit. Ze kunnen zich (tot op zekere hoogte) aanpassen aan veranderlijke omstandigheden en blijven bijvoorbeeld in staat om zich verder te ontwikkelen. Zelfs mensen met een hoge leeftijd kunnen nog altijd bijleren of iets nieuws leren. En de meesten onder ons worden gelukkig wijzer door ervaring. Ook dat speelt zich af ter hoogte van de hersenen.

Daarmee wil ik alleen maar aangeven dat robots - hoe superintelligent dat ze ook gemaakt zouden kunnen worden - nooit vergelijkbaar zullen zijn met levende wezens en dus nooit als 'hogere levensvormen' zullen kunnen bestempeld worden. Tenzij men de betekenis van deze uitdrukking fundamenteel verandert.

Ethiek heeft te maken met een gedragscode en die kan inderdaad zeer verschillend zijn voor verschillende 'gemeenschappen', maar één ding hebben ALLE MENSEN toch gemeen: Ze WETEN en/of VOELEN het verschil tussen 'goed' en 'kwaad'. Dat heeft te maken met de bouw en het functioneren van hun hersenen, om het eens met een louter 'biologisch' standpunt toe te lichten.
Maar ook DAT ontbreekt volledig bij robots. En DAT is juist het grote verschil.

Robo-ethiek heeft dus te maken met de regelgeving en duidelijk omschreven en gekozen 'normen' die MENSEN in de door hen gemaakte robots zullen 'programmeren'. En daar zal gevoel, zoals mensen (of levende wezens) dat kennen, niet aan te pas kunnen komen. En dat is juist hun grote achillespees!

#95444

LVB

 

@Lizzie: Totaal niet akkoord. Jij gaat uit van robots en computers zoals ze vandaag worden gemaakt. En dan begin je over het limbisch systeem van de mens, verfijnde zintuigen enz. Ben jij er zo zeker van dat de mens nooit robots zal kunnen maken waar al die zaken wel aanwezig zijn? Ik ben er vrij zeker van dat wat jij hierboven schreef, over enkele decennia als zeer amusant zal beschouwd worden. Jij ziet robots en computers te veel als hoe ze vandaag in 99,99% van de gevallen functioneren: voorgeprogrammeerd, deterministisch, een volledig uitgeschreven stappenplan uitwerkend. Maar wij kunnen nu al hardware en software maken die zelflerend is, zichzelf wijzigt op basis van aangeleerde elementen, en dus onvoorspelbaar is. Ik zie geen enkele fundamentele reden, buiten kwantitatieve technische beperkingen die vandaag nog een rol spelen maar straks niet meer, waarom wij geen echte kunstmatige intelligentie, kunstmatig bewustzijn, kunstmatige persoonlijkheden zouden kunnen scheppen. Die vervolgens zelf nieuwe gewijzigde configuraties van zichzelf produceren (voortplanting), waar wij geen vat meer op hebben.

En, Cogito, of dat nu met koolstofchemie of siliciumchemie zal gebeuren, is bijkomstig. Ik zie ook geen fundamentele reden waarom het per se met één van de twee wel zou kunnen en met de andere niet. Het zal gebeuren met de technologische basis die de efficiëntste productie toelaat, en die stemt niet noodzakelijk overeen met de basis die het in de evolutie heeft gehaald.

#95446

Neverbeendead Religion

 

Even verder op #95349 en zoals eerder vermeld
Wanneer men de eerse robot gaat maken met een eigen bewustzijn gaat de wetenschap dat toeschrijven aan de elementen die in kwantumverstrengeling en de epr paradox zitten. ( http://nl.wikipedia.org/wik... http://nl.wikipedia.org/wik... )
In dat verband beschouwt men de eerste wikipedia pagina als een pagina die rond het woord onbepaald is opgebouwd om afwijking van het determinisme te kunnen vaststellen en de tweede pagina als een pagina die een onwaarschijnlijke ( daar gebruikt men het woord spookachtige, ghost in the shell talk ) logica uit onbepaaldheid haalt om een min of meer acceptabele robot der logica van het bewustzijn te hebben gemaakt. Op die tweede pagina is de eenvoudige vergelijking met twee knikkers zo slecht gekozen dat ze met twee dobbelstenen moet zijn waarbij als de ene een oneven getal werpt de andere per definitie een even getal werpt in de niet deterministische omgeving zoals in het stukje oplossing van de paradox te lezen staat.

Nieuwe reactie inzenden

De inhoud van dit veld is privé en zal niet openbaar worden gemaakt. If you have a Gravatar account, used to display your avatar.