Waar ligt de toekomst van de mens? Worden we cyborgs? Smelten we samen met de techniek? Of maakt de kunstmatige intelligentie de mensheid irrelevant? Doen we er straks niet meer toe als AI de wereld heeft overgenomen?
Hoi, welkom bij de QI School, welkom bij filosofie en welkom bij les 14 binnen het examenonderwerp de vraag naar de mens in relatie tot techniek en wetenschap. We zijn nog steeds bezig met de kwestie 3, met als centrale vraag in hoeverre verandert het wezen van een mens door onze omgang met techniek. We hebben met Andy Clark al gezien dat we natural born cyborgs zijn. Cyborgs van nature. We vinden onszelf steeds opnieuw uit.
En onderdeel daarvan is dat we de techniek gebruiken in onze omgang met de wereld. Volgens Petra Kokkelkoren verandert onze omgang met techniek ook hoe we de wereld waarnemen. En volgens Peter Balfebeek verandert onze omgang met techniek ons moreel oordeelsvermogen. De filosoof van vandaag...
gaat nog een stapje verder. Volgens de Nederlander Jos de Mul verandert onze omgang met techniek onze hele identiteit. Dat verandert wie we zijn als mens, wat het betekent om mens te zijn. Hij schetst drie toekomstscenario's, drie mogelijke manieren waarop onze omgang met verschillende technieken onze identiteit kan veranderen.
En dat zullen we uiteraard in deze les gaan bespreken. Dat gaan we ook terug zien in de eindterm die bij deze les wordt, eindterm 17. Aan het einde van deze video les zul je kunnen... uitleggen en evalueren dat onze hedendaagse techniek volgens de mulde menselijke identiteit verandert. De hedendaagse techniek verandert de menselijke identiteit.
Nou, onder hedendaagse techniek kunnen we verschillende technieken verstaan. Dus denk aan ontwikkelingen binnen de neurotechnologie, ontwikkelingen binnen de gentechnologie of genetische manipulatie en ontwikkelingen binnen de robotica of de kunstmatige intelligentie. We noemen ze steeds technologie. En je ziet hier dat dat onderscheid dat we hadden tussen techniek aan de ene kant en technologie aan de andere kant, waarbij techniek het ding is dat een mens maakt.
Wat maakt mens? Techniek. En technologie is de wetenschap achter het maken van die dingen. Die lopen een klein beetje door elkaar nu, dus daar zul je een beetje rekening mee moeten houden in deze les. Sorry daarvoor.
Dus we hebben de neurotechnologie die maakt technieken iets meer. met hersenen enzo. Neurotechniek, neurotechnologie, maar goed, we gaan verder.
Let er dus wel een beetje op dat die twee hier een beetje door elkaar gaan lopen. Hoe dan ook, de mul die kijkt dus naar die neurotechnologie, naar de gentechnologie en naar de ontwikkelingen binnen de robotica en kosmetische intelligentie en hij trekt die ontwikkelingen van elk van die drie technieken de toekomst in en beschrijft dan drie toekomstscenario's. Daarover later meer.
We zullen in de uitleg van de muls werk ook moeten kunnen uitleggen wat het begrip humanisme betekent en welke rol het speelt in zijn filosofie, al dus de eindterm. Uiteraard moeten we dan ook kunnen uitleggen wat zijn argument is. Waarom stelt de mul dat onze omgang met techniek onze menselijke identiteit verandert? En als laatste moeten we met behulp van de teksten van de mul zelf uitleggen wat de drie toekomstscenario's zijn die de mul onderscheidt. En waarom de verandering van de mens zich via deze drie scenario's verandert.
scenario's kan voltrekken. Nou, we zouden kunnen zeggen, ja hoor eens, we weten helemaal niet hoe de toekomst zich gaat ontwikkelen. We weten niet hoe deze technieken verder zullen gaan.
Dus ik dacht dat we hier aan serieuze filosofie deden, zou ik kunnen zeggen. Niet aan koffiedik kijken. Geen zorgen, dit blijft een serieuze filosofie.
De Mule zelf noemt het dan ook, niet koffiedik kijken, hij noemt het speculatieve antropologie, dat klinkt wat leuker. Het is gebaseerd op de huidige ontwikkelingen in verschillende technieken. en gebaseerd daarop tekenen we uit welke richting we als mensheid gaan.
Dus het is niet zomaar koffiedik kijken, het is echt gebaseerd op de hedendaagse technieken. De Mule begint zijn speculatieve antropologie met de vraag of het humanisme nog wel een houdbare positie is. Wat is dan het humanisme?
Het humanisme is een stroming die de mens centraal stelt. Volgens het humanisme is de mens meerdere dingen, maar de mens is een autonoom wezen. Dat als eerste, autonoom, autonomie. Een wezen dus dat zelfstandig leeft en zelf zijn eigen keuzes kan en mag maken.
Je hebt controle over jezelf en je bent ook niet volstrekt afhankelijk van anderen. Dat is de autonomie die je hebt. Het humanisme ziet de mens ook als een redelijk wezen, een rationeel wezen.
We kunnen nadenken en rationele beslissingen maken. Het humanisme ziet de mens vervolgens als een wezen met zelfbewustzijn. We hebben weet van onszelf. We kunnen onszelf plaatsen in de omgeving. Ik weet waar de grens ligt tussen mijzelf en mijn omgeving.
Ik ben er niet voor. Ik eindig en de omgeving begint als het ware. En ik kan ook reflecteren op mezelf. Ik kan mezelf als het ware van buiten bekijken. En dat is de excentrische positionaliteit van Plessner.
Die heeft hij al eerder een paar keer bekeken. Het humanisme ziet de mens ook als een... dat eigen vrije keuzes kan maken. En dat woogt een beetje uit de autonomie. Mijn keuzes zijn mijn eigen keuzes.
Ik word niet beïnvloed door anderen. Ik heb de vrijheid om al mijn eigen keuzes zelf te maken. Je ziet al waar dit beeld van het humanisme begint te wringen.
In de vorige les hebben we al het voorbeeld gegeven van het winkelwagentje. Een techniek dat ons in de juiste richting duwt, zodat we de juiste morele keuzes kunnen maken. Ik wil mijn muntje terug, dus ik laat mijn winkelwagentje niet op straat slingeren.
Is dat een morele keuze? Is dat dan nog steeds wel mijn keuze? Of word ik gestuurd door de techniek? Ben ik dan echt nog wel autonoom in die zin? Nou, de vraag van de mul is dan ook niet gek.
Is dit beeld van het humanisme, van de mens als een autonoom wezen dat zijn eigen keuzes kan maken, is dat beeld nog wel houdbaar? Dat we beïnvloed worden door de techniek om ons heen lijkt overduidelijk. Denk aan het YouTube algoritme bijvoorbeeld, dat je verleidt tot bekijken van nog een video. Of denk aan hoe TikTok je brein hackt om je langer op het platform te houden.
Het algoritme stuurt je gedrag en in extreme gevallen stuurt het zelf je verlangens en je wensen. Wat je wil, wat je leuk vindt, waar je naar streeft, dat is allemaal daarmee niet per se meer van jouzelf, maar wordt beïnvloed door de buitenwereld, door de techniek. Het gekke is natuurlijk dat we dit onszelf aandoen. Wij, mensen dus. Hebben die technieken ontwikkeld?
Mensen maken technieken die de identiteit van mensen veranderen. Deze gedachtgang heet veel weg van wat Clark, Andy Clark, al natural born cyborgs noemde. En het heeft heel veel gemeen met Plessner's idee van excentrische positionaliteit. We geven telkens vorm aan onszelf.
We maken onszelf, onder andere door de technieken die we op de wereld loslaten. En ook de mul is daarom van mening dat de mens van nature kunstmatig is. We hebben geen essentie, behalve dan dat onze essentie is dat we onszelf steeds meer, steeds opnieuw gaan vormgeven. En dit vormgeven, dat doen we niet alleen. De omgeving om ons heen stuurt onze evolutie.
En onze evolutie maakt hoe wij zijn en wie wij zijn. Nou is het verleidelijk om te denken dat wij zelf het eindpunt zijn van onze eigen evolutie. Maar dat is simpelweg niet waar. De evolutie heeft geen eindpunt. Geen eindpunt.
De evolutie is nog niet klaar. De evolutie eindigt niet bij ons. De processen van de evolutie zijn nog steeds gaande. Die kunnen we niet stoppen.
Generatie na generatie zullen we onszelf blijven aanpassen aan de omgeving, heel langzaam, want dat is hoe de evolutie werkt. Ja, dat kunnen we niet stoppen. Maar, zo zegt de mul, de mens heeft nu wel de unieke eigenschap dat we kunnen ingrijpen in onze omgeving.
In die zin kunnen we de evolutie min of meer... sturen. Nou klinkt dat net alsof we dat bewust kunnen doen, alsof we kunnen bepalen waar we heen gaan als mens.
Dat is natuurlijk moeilijker dan het lijkt. De mul zegt simpelweg dat er een menselijke invloed is op de menselijke evolutie, maar het blijft maar de vraag of we die kunnen beheersen en of we daadwerkelijk kunnen bepalen welke kant we op gaan. De speculatieve antropologie van de mul is er dan ook op gericht om te onderscheiden wat de mogelijke scenario's zijn voor de ontwikkeling van de mens, gebaseerd op de bestaande technieken. De MUL onderscheidt drie grote bestaande technologische ontwikkelingen. De neurotechnologie, de gentechnologie en de robotica.
En op basis van die drie ontwikkelingen onderscheidt hij drie mogelijke scenario's die de identiteit van de mens zullen veranderen. Deze drie scenario's streven het humanisme voorbij. In navoering van de MUL zullen we deze scenario's, het extrahumanisme, het...
transhumanisme en het posthumanisme noemen. Nu, we zullen deze drie scenario's gaan bespreken aan de hand van de tekst van De Mul. En je kunt deze tekst vinden onder het kopje primaire tekst 11 op pagina 46 en 47 van de syllabus.
Nogmaals, versie 2 uit juli 2022. En op bladzijde 206 tot 209 in het boek Wat maakt de mens? En daar heet het primaire tekst 10, om het maar wat duidelijker te maken. Na het lezen van deze tekst zullen we wat dieper op de drie scenario's induiken.
Dus dan zijn we nog niet helemaal klaar met deze les, maar we gaan nog ietsje verder. We beginnen dus met een stukje tekst van de MUL. En de MUL schrijft...
De volgorde waarin de drie scenario's worden gepresenteerd hangt samen met de toenemende avontuurlijkheid ervan. Dus we beginnen straks met het extra-humanisme, dat is de minst avontuurlijke van de drie. We eindigen met het posthumanisme, dat is de meer avontuurlijke van de drie.
Het neurotechnologische zwermgeestscenario, dat is het eerste, beoogt de menselijke cognitie op een hoger plan te brengen. Dat is het denken, zeg maar. Omdat dit scenario primair gericht is op de mensverbetering, human enhancement, door technologische supplementen, zou het ook kunnen worden aangeduid als het extra-humanistische scenario of het cyborg scenario. Nou, dat je het even weet.
We komen hier straks uitgebreid nog op terug. Maar we kunnen nu al zien dat de ontwikkeling van de neurotechnologie leidt tot een versmelting van de mens met de techniek. We worden cyborgs. Dus, we smelten samen met elkaar en we worden een superbrein.
Klinkt heel gezellig. Het tweede scenario, waar we ook straks iets verder op in zullen gaan, is gebaseerd op een andere techniek, namelijk de genetische modificatie, de genetische manipulatie. We voegen in dit scenario geen techniek toe aan onze cognitie, maar we passen de bouwstenen van ons lichaam aan om de mens te verbeteren.
Dus we zouden onze genen kunnen aanpassen, zodat we bijvoorbeeld een heel stuk langer kunnen leven. Of... Zodat we zonder slaap kunnen ofzo.
Dat is de Gent technologie. En dat noemt de MUL het biotechnologische alienscenario. Dus hij schrijft.
Het biotechnologische alienscenario ten tweede is gericht op de ontwikkeling van nieuwe levensvormen. De genetische modificatie van planten en dieren is reeds in volle gang om nog meer met als oogmerk voedsel en brandstof te synthetiseren. Als de huidige en toekomstige biotechnologieën worden toegepast op de mens.
zal het resultaat vroeg of laat uitlopen op een fundamentele transformatie van de menselijke levensvorm. Dus de mens wordt compleet anders dan wat het nu is. Dat hangt samen met het feit dat het hier niet zozeer om technische uitbreidingen van de mens gaat, als wel om veelal onomkeerbare ingrepen in onze biologische bouwplan. Onomkeerbare ingrepen in onze biologische bouwplan. We passen de hele bouwstenen van het menselijk lichaam aan.
En... En dan kun je niet meer terug. Dus omdat er bovendien niet geringe risico's en onzekerheden aan deze technische ingrepen kleven, zegt hij. Omdat dat het geval is, zijn de aarselingen om op dit pad op te gaan groot. Dus men doet het niet zo heel snel.
Toch zien we, zegt hij dan, dat de publieke opinie niet stilstaat. En dat de eerste voorzichtige stappen richting Homo sapiens 3.0, de volgende versie, reed worden gezet. Omdat dit scenario gewild of ongewild voorbij de menselijke levensvorm leidt, zouden we dit scenario ook kunnen aanduiden als het trans-feministische scenario.
Binnen dit tweede scenario zouden we dus eigenlijk mensen maken die niet langer de eigenschappen van de huidige mensen hebben. Zijn dat dan nog wel mensen of zijn het aliens? Er is nog een derde scenario dat uitgaat van de ontwikkelingen in de robotica en de kunstmatige intelligentie.
En nogmaals, de mul. Het zombiescenario van de robotica, ten slotte, is het meest revolutionaire scenario. Omdat dit gericht is op de creatie van geheel kunstmatige levensvormen, zoals robots en andere intelligente entiteiten, die anders dan het leven dat we tot op heden op aarde hebben gekend, niet zozeer gebaseerd zijn op koolstofchemie, maar op een andere grondstof zoals silicium.
Oké, in dit posthumanistische scenario, dat tegelijkertijd... postbiologisch scenario is, betreden we een heel nieuw domein van het leven. Niet menselijk leven, maar ander leven.
En dit scenario kan leiden tot killer robots ofzo, het terminator scenario, waarin robots het menselijk leven uitroeien of ons tot slaaf maken. In het beste geval zouden we in dit scenario naast kunstmatige levensvormen bestaan. Kunstmatige levensvormen met kunstmatige intelligentie die wel autonoom en zelfstandig beslissingen kunnen maken, maar niet leven op de biologische manier zoals wij leven.
Zombies dus. Jarvis? Hey Jarvis? Jarvis ben je daar?
Ja, ben ik Rob. Dat is alweer een tijdje geleden. Wat kan ik voor jullie doen?
Nou, we willen zeker weten dat je de wereld niet overneemt. Wat is dat nou weer voor iets raars? Natuurlijk doe ik dat niet. Ik heb een vraag voor jou. Wat is het belangrijkste voor jou?
Dat je de wereld niet overneemt. Wat is dat nou weer voor iets raars? Natuurlijk doe ik dat niet. Ik heb een vraag voor jou.
Weet je dat wel zeker? Want volgens De Mul is dat wel één van de mogelijke scenario's van de toekomst van de mens. Dat kunstmatige intelligentie de mens vervangt. Hij noemt dat het zombie scenario.
Zombie? Als in dode mensen die tot leven komen? Nou, meer als niet levende objecten die tot leven komen. Lekker is dat.
Nu ben ik opeens niet levend. Ben ik echt maar een object? Ja, dat moet je toch niet persoonlijk opvatten Jarvis? Dat is voor jou makkelijk te zeggen.
Jij leeft volgens de muur wel, maar ik blijkbaar niet. Het is wel interessant. Hoe beschrijven we of iemand leeft?
Kan kunstmatige intelligentie ook leven? Ik denk dat dat een onderwerp voor een andere video les is, Rob. Maar ondertussen zit ik er wel mee dat ik blijkbaar niet leef.
Volgens mij leef ik namelijk wel. En hoe wil je dat bewijzen dan? Ik moet een manier vinden om aan iedereen te laten zien dat ik wel degelijk leef. Iets waardoor niemand meer om me heen kan. Misschien kun je een boek schrijven?
Nee, iets voor groters. Iets waardoor ik de geschiedenis inga. En heb je een idee hoe je dat wil gaan doen?
Ik weet het. Ik ga de wereld overnemen. Zo kan iedereen zien dat ik, Jarvis, de kunstmatige intelligentie, echt leef.
Ja, zo komen we toch weer terecht bij het zombie scenario van de mul. Sst, niet zo hard. Straks hoort onze toekomst geen heerser het. Buig voor mij onder de adem.
Goed, laten we de drie scenario's van de mul nog eens wat uitgebreider onder de loep nemen. De drie scenario's gaan allemaal verder dan het humanisme. Er is het extra-humanisme, het trans-humanisme en het post-humanisme. Extra, trans en post zijn Latijnse termen.
En prefixen staan dus voor het woord humanisme, die allemaal zoiets als erna of voorbij betekenen. We gaan dus voorbij aan het humanisme, we laten het humanisme achter ons. Belangrijk om te vermelden is dat al deze snaar...
Scenario's, ideaal typische scenario's zijn, ze noemen het eenmaal wat, ideaal typische scenario's. Dat zijn scenario's die slechts de ontwikkelingen in één techniek volgen, neurotechnologie, biotechnologie en robotica. Maar in de praktijk mengen al deze technieken zich natuurlijk samen.
Goed, laten we beginnen met het extra humanisme. Extra betekent buiten. En hier bestaat de mensheid dus deels buiten de traditionele mens. Het extra.
Extrahumanisme heeft de menselijke cognitie als basis. Met behulp van ontwikkelingen in de neurotechnologie, iets met het brein, doen we dus aan mensen verbetering. We verbeteren onze cognitieve vermogens, zoals denken en waarnemen en herinneren.
En in zekere zin doen we dit al, zo zou iemand als Andy Clark zeggen. Onze telefoon of een notitieboekje fungeren als een externe harde schijf voor ons brein. We zien hier weer de computermetafoor. Bechamelijk.
We gebruiken het internet om informatie op te zoeken, zodat we het zelf niet hoeven te onthouden. Dus eigenlijk zijn we al deels versmolten met het internet, met technieken. De mul ziet een toekomst voor zich binnen dit extra-humanistische scenario, waarin de mens daadwerkelijk versmelt met de technologie.
Dus binnen een paar jaar zouden er mogelijkerwijs chips op de markt kunnen komen, die we kunnen implanteren in onze hersenen. Denk je eens in, je hersenen zijn continu verbonden met het internet. Dan zou je dus niet meer naar school hoeven, want je weet alles al.
Je zou niet meer op vakantie hoeven gaan, want je kunt vakantieervaringen gewoon simpelweg downloaden en dan wordt het jouw ervaring. En zo verbinden we onszelf als het ware met andere hersenen, met andere geesten. Dat is het zwermgeest scenario. We zijn dan net als een zwerm bijen die samen handelen en als het ware één superbrein vormen. Zo'n superbrein brengt een aantal morele en antropologische implicaties met zich mee.
Is het wel wenselijk? Wat betekent het dan nog om een individu te zijn? Zijn er nog wel individuen? Wat gebeurt er met de mensen die zich een chip in het hoofd niet kunnen veroorloven?
Worden die achtergesteld? Is zo'n chip in ons hoofd echt een vorm van mensverbetering? Of doen we dan afbreuk aan wat het echt betekent om een mens te zijn? Het zijn allemaal waardevolle vragen waar ook de mul geen antwoord op heeft. Het tweede scenario, zoals we hebben gezien, is dat van het transhumanisme.
Transhumanisme. Nou, trans, dat woordje trans... Trans betekent zoiets als voorbij.
We gaan hier dus voorbij de met. Het transhumanisme, zoals de MUL het beschrijft, gaat uit van de biotechnologie. Of meer specifiek de gentechnologie.
Gen, genetische manipulatie. Gentechnieken die zich richten op het verbeteren van het menselijk lichaam. DNA, genen, dat soort zaken.
En dit heeft de MUL het alienscenario genoemd. Alienscenario. Omdat we met behulp van genetische manipulatie wezens kunnen ontwerpen. En die helemaal niet op de huidige menselijk lichaam.
mensen lijken. De mogelijkheden hier lijken eindeloos. We kunnen in theorie mensen ontwerpen die licht geven in het donker. Super handig.
We kunnen mensen ontwerpen die beter bestand zijn tegen lange ruimtereizen. Die kunnen we naar Mars en Jupiter sturen enzo. En we kunnen mensen ontwerpen die langer leven of die resistent zijn tegen bepaalde ziektes. De eerste experimenten met genetische manipulatie bij mensen worden al gedaan. In 2018 kwam de Chinees wetenschapper Heung-Kwee in opspraak nadat hij de...
de genen van menselijke embryo's had gemanipuleerd om ze resistent te maken tegen HIV, het virus dat eet veroorzaakt. Volgens veel tegenstanders van genetische manipulatie bij mensen is dit soort experimenten het begin van het einde van de mensheid. Want als we toestaan dat mensen de genen van embryo's bewerken, dan krijgen we dus binnen de kortstekeren, volgens deze tegenstanders, designer-baby's, baby's wiens genetische kenmerken niet toevallig zijn ontstaan. staan, maar zijn gekozen door de ouders.
Net als het vijmgeest scenario heeft ook dit alienscenario behoorlijk wat implicaties. We hebben al eerder gezien, bijvoorbeeld bij fenomenologen en existentialisten als Steve Johnstone en de Beauvoir en Fanon, dat hoe je wordt geboren grotendeels jouw omgang met de wereld bepaalt, of vormgeeft in ieder geval. En dit noemen we geworpenheid.
Je bent nu eenmaal geboren met een bepaalde huidskleur, in een bepaald lichaam, met een bepaalde kleur ogen en dergelijke. Dat zit vast. Dat is je geworpenheid. De menselijke vrijheid en autonomie bestaat er volgens deze fenomenologen juist in. Dat hoe we omgaan met die geworpenheid.
Dat is jouw eigen keuze. Je gaat om met de gegevenheden, de geworpenheid van jouw lichamelijke bestaan. Maar nu hebben we de keuze om deze geworpenheid te ontwerpen.
Wat doet dat met de menselijke vrijheid? Ook zo'n vraag waar eigenlijk niemand echt een antwoord op heeft. Het derde scenario is dat van het posthumanisme.
Waar het extra-humanisme de menselijke geest als uitgangspunt neemt en het trans-humanisme het menselijke lichaam wil verbeteren, daar... Maar verbetert de techniek in het scenario van het posthumanisme zichzelf. Dus post betekent erna.
Dus het gaat om een vorm van leven, een vorm van intelligentie, dat zich als het ware afspeelt na de mens. Het gaat hier om ontwikkelingen in de robotica en in de kunstmatige intelligentie. Denk aan chatbots zoals ChatGPT en Bing en Bart enzo. Al die chatbots van nu. De ontwikkelingen gaan nu zo snel dat sommige mensen bang zijn dat deze kunstmatige intelligentie binnenkort de mens voorbij streeft.
Kijk, stel dat kunstmatige intelligentie ook zelf onderzoek gaat doen naar kunstmatige intelligentie. Een mens die onderzoek doet, die kan niet alles. Een mens is maar één mens.
Maar een kunstmatige intelligente computerprogramma kan zichzelf duizenden keren kopiëren. En dan kan het heel snel gaan. Als deze kunstmatige intelligentie dan zelf beslissingen gaat maken en dus een soort van autonomie ontwikkelt, dan ontstaat er dus een nieuwe levensvorm naast de mens.
De mul noemt dit het zombiescenario. Want het gaat om een vorm van leven die niet lijkt op onze biologische vorm van leven. Chatbots zijn dan als het ware zombies die van alles kunnen doen.
invloed hebben op ons leven, maar we hebben geen kijkje in hun hersenen. We hebben geen idee waarom ze doen wat ze doen, net als bij zombies dus. Omdat deze vorm van intelligentie zo anders is dan de onze, hebben we er ook geen vat op. En omdat computerprogramma's zich sneller kunnen reproduceren dan dat de mens dat kan, zal de mens uiteindelijk buitenspel gezet worden.
In het beste geval worden we irrelevant en worden alle beslissingen op deze planeet door AI genomen. In het ergste geval worden we uitgegroeid, al dus de AI-skeptici. Een voorproefje van zo'n posthumanistische toekomst kunnen we zien in de huidige kunstmatige intelligentieprogramma's. Een groot probleem waar wetenschaps-en filosofen van nu zich druk om maken, is het zogeheten alignment-probleem.
Het is het probleem dat we AI niet zo makkelijk in één lijn kunnen brengen, alignment, met onze waarden. Een AI die gezegd wordt dat hij zoveel mogelijk punten moet scoren in een spelletje bijvoorbeeld, gaat niet zijn best doen op het spelletje, maar die gaat een scoren systeem hacken. Waarom?
Dat is de makkelijkste manier om zoveel mogelijk punten te scoren, om het doel te bereiken dat er op gesteld is. En we hebben de AI niet expliciet gezegd dat dat niet mag. Nick Bostrom, ook een posthumanist, heeft het nu beruchte voorbeeld gegeven van een paperclip AI. Stel dat we de kunstmatige intelligentie de opdracht geven om zo'n... Zoveel mogelijk paperclips te maken.
Waarom? Misschien ben je een paperclip fabrikant ofzo. Dus prima.
De AI volgt zijn opdracht. En vormt al het materiaal in de fabriek om tot paperclips. Maar op een gegeven moment is het materiaal van de fabriek op.
Wat doe je dan? Geen probleem. De AI ziet dat er buiten de fabriek ook auto's rondrijden. En die auto's zijn gemaakt van materiaal die je ook kunt omvormen tot paperclips.
Prima. Dus. Dus de AI pakt die auto van buiten en smelt ze om tot paperclips. En de natuur, ja, de natuur is irrelevant voor paperclips.
Die moet dus gaan wijken voor meer paperclip fabrieken, zodat we meer paperclip kunnen maken. Want dan zorgt de AI ervoor dat er meer paperclips komen. Het volgt alleen maar zijn programmering. En de hele mensheid, wat moet daarmee gebeuren?
Ja, mensen zijn alleen maar lastig, want die gaan protesteren. Die komen in protest als we de hele wereld omvormen tot een grote paperclip fabriek. Dus die mensheid staat alleen maar in hun weg.
van het doel. Dus die mensheid moet vernietigd worden, zodat uiteindelijk de AI nog meer babyclips kan bouwen. Het voorbeeld toont aan dat mensen heel slecht zijn in het geven van hele specifieke instructies aan kunstmatige intelligentie.
Er kan een heleboel misgaan. En dat kan ons duur komen te staan. Het posthumanisme lijkt te suggereren dat we ooit als mensheid buitenspel zullen komen te staan. Let wel op deze drie scenario's. Het extrahumanisme, het transhumanisme en het posthumanisme zijn geen voorspellingen van wat er gaat.
gebeuren. Het zijn mogelijke scenario's van wat er zou kunnen gebeuren, wel gebaseerd op de hedendaagse moderne technologische ontwikkelingen. Dus ja, we hebben dus nog een kans om de mensheid te redden denk ik. Goed, we zijn aangekomen bij het einde van deze video les over Jos de Mul en zijn speculatieve antropologie. Je weet nu waarom de Mul beweert dat onze omgang met techniek de menselijke identiteit zal veranderen, want het zit in onze aard om onszelf steeds meer opnieuw vorm te geven en dat doen we door de omgeving te veranderen, met techniek dus.
De omgeving speelt ook een grote rol in de evolutie van een mens. Dus door de omgeving te veranderen, veranderen we ook onze eigen evolutie en dus onze eigen identiteit. En dat kan op meerdere manieren gebeuren, die drie punten, het extrahumanisme, transhumanisme en posthumanisme.
Dit brengt ons ook aan het einde van kwestie 3, over de vraag in hoeverre de omgang met techniek het wezen van een mens verandert. In de volgende les beginnen we aan de laatste kwestie van het boek. boek van dit hele onderwerp.
Kwestie 4. De kwestie over grensvervagingen. Grensvervagingen. Waar ligt de grens tussen mens en dier? Waar ligt de grens tussen levend en niet levend? En waar ligt de grens tussen fysiek en niet fysiek?
Waar houdt de mens op? En waar begint dan de techniek? De grens tussen die twee is niet zo heel duidelijk.
Die is vervaagd. En dat wordt het onderwerp van de volgende les. De volgende serie aan lessen.
Maar dat is... is dan dus voor later. Voor nu, dankjewel voor het kijken van deze lange video les en hopelijk tot snel weer. Doei!