Wat leveren we in bij een volgende stap in de ontwikkeling van de techniek? Wat winnen we ermee, maar vooral: wat verliezen we met een volgende stap. Techniek en zijn ontwikkeling is daarom een moreel dilemma. We wonnen efficiëntie met de komst van de kettingzaag. Maar we verloren krachtige schouders, een existentiële natuurervaring en de geur van vers gekapt hout. Daarom loop ik tegenwoordig met de vraag rond waarom we niet allemaal vechten tegen AI. Als ons dat daadwerkelijk ontmenst, waar is onze woede dan? Of zijn we al zo doorgeslagen dat transhumanisme ons enige toekomstperspectief is geworden?
Goede vragen, en ik heb er geen compleet antwoord op. Ik deel de zorg over ontmenselijking in ieder geval wel.
Het lastige van het vechten tegen ontmenselijking is dat de geschiedenis meerdere keren laat zien dat het relativeren van de speciale of unieke positie van de mens in haar omgeving (t.o.v. dieren bijvoorbeeld, denk aan Darwin) ons simpelweg meer leert over de wereld. Wat het is om mens te zijn, daar worden we steeds bescheidener in.
Het mooie van de ontwikkelingen in de AI-techniek is dat het ons (verwacht ik) meer gaat leren over wat het is om te 'denken', te 'begrijpen'. Desondanks dreigt AI ons een spiegel voor te houden die invloed gaat hebben op ons denken over geest, moraliteit, samenleven, kortom; op ons wereldbeeld. Dat hoeft niet te betekenen dat we het transhumanistisch ideaal moeten overnemen, maar dwingt ons eerder tot bezinning over hoe we te midden van dit leerproces onze waarden, menselijkheid en idealen kunnen behouden.
Ik denk dat ontmenselijking een proces is van nu. Je voorbeeld van Darwin en onze positie als mens tov haar wereld heeft ons inderdaad bescheidenheid geleerd. Maar ik denk niet dat er gevochten werd tegen ontmenselijking. Wel tegen verandering en het 'nieuwe', maar dat kwam voort uit angst. Maar in de balans van wat je wint en wat je verliest schieten we in de tegenwoordige tijd door in veel menselijkheid verliezen/inleveren voor een klein beetje winst in efficiëntie. Bagatelliseren we de ontwikkeling van AI en het transhumanistisch ideaal niet teveel? We blijven morele wezens en daarom denk ik dat het goed mogelijk kan zijn dat we teveel aan het inleveren zijn. Want hoe kunnen we 'te midden van dit leerproces' oog hebben voor waarden, menselijkheid en idealen als die al ingeleverd zijn? Deze substack van de ongelooflijke gaat over de zoektocht naar het Ware, het Schone en het Goede: bij uitstek een zoektocht waarin er misschien wel gevochten moet worden tegen onze huidige technologische ontwikkelingen. Zijn we namelijk niet al te veel gereduceerd tot rationele wezens?
Bedankt voor je reactie, ik ben het deels met je eens!
De gevaren van ontwikkeling en implementatie van AI en het achterliggende transhumanistisch ideaal moeten we zeker niet bagatelliseren. Ja, waar waarden, menselijkheid en idealen worden ingeleverd moeten we in opstand komen. Sterker nog, AI-systemen volgens huidige vorm en ontwikkeling vergroten sociale, economische en culturele ongelijkheid wereldwijd (wie/welke taalsprekers hebben toegang, wie niet?). Daarbij zijn LLMs gestoeld op het grootschalig stelen van copyrighted data, het uitbuiten van goedkope arbeiders in Azië en Amerika (RLHF proces) en het beschadigen van het klimaat. Dat moeten we tenminste doordenken wanneer we er voor kiezen om deze systemen in te zetten.
Ik bedoelde vooral een andere vorm van ontmenselijking; een disruptieve verandering in ons begrip van wat ‘mens-zijn’ ten diepste is. Darwin noemde ik, omdat hij, waar het unieke mens-zijn voorheen wel werd gelegd in het ‘niet-dier’ zijn, ons terugplaatste in het dierenrijk. Je noemt inderdaad de reductie tot rationele en morele wezens, en ik ben bang dat precies die omschrijving door AI geschaad gaat worden. Wat is nu werkelijk ‘mens-zijn’ meer dan een materieel samenraapsel waarvan de cognitieve capaciteiten als computationeel en algoritmisch proces kunnen worden ontleed? Wat als AI aantoont dat ‘rationeel zijn’, ‘denken’, ‘zelf-bewust zijn’, ‘wijs zijn’, ‘moreel goed zijn’ niet slechts aan de mens voorbehouden is? Ik zeg niet dat dit kan of enigszins realistisch is, maar ik zie wel dat Silicon Valley dat gelooft. Hoe verdedigen we dualisme, moreel realisme, transcendentie en het bestaan van een ‘lichaamsloze geest’ (God) als we daadwerkelijk een stoffelijke geest ‘creëren’? Het protest tegen deze vorm van ontmenselijking is geen ontwikkelings-stop, geen technisch probleem, noch een zaak van wet- of regelgeving; dit vraagt om filosofische en theologische bezinning.
Ja ik denk dat ik 'em vat. En ik denk dat ik er grotendeels zo ook over denk. De eerdere vorm van ontmenselijking die ik benoemde is mijns inziens meer een voorstadium van de vorm van ontmenselijking die jij omschrijft; datgene waar AI naar toe opbouwt (een trans-humanistisch ideaal). Mij lijkt een disruptieve verandering in ons begrip van mens-zijn juist iets waar we tegen moeten ageren/protesteren. Niet vanuit een angstgedachte, 'bang voor het nieuwe', maar juist omdat de technologische ontwikkelingen ons aantoonbaar 'ontmenst'. Er staat echt wat op het spel. Maar ik lijk uit jouw woorden te halen dat je er wel een open, verwachtingsvolle houding tegenover hebt. Klopt dat? En zo ja, wat maakt dat je zoveel vertrouwen in de filosofische en theologische bezinning hebt? (In het kader van de spiegel die AI ons gaat voorhouden).
Een andere interessante denker, al wil ik wel benadrukken dat ik niet doel op het Marxistische karakter van de stroming waartoe de denker behoort, maar het feit dat zijn kritiek op de moderniteit vooral gericht is dat er een soort verzaking van de ziel plaatsvindt door een massacultuur gebaseerd op beeld. Guy Debord - Samenleving van het Spektakel, 1976 uitgeverij SUN (Nijmegen)
Als jij jouw eigen verantwoordelijkheid bij Silicon Valley neer wil leggen is dat prima toch? Mensen in mijn omgeving zitten niet de hele dag doom te scrollen.
Dat zou betekenen dat je zelf grip hebt op de keuze om op je telefoon te gaan zitten. Maar dat is dus juist de 'Grote Uitvinding' van Sillicon Valley: jou als gebruiker tot hun product maken, want door alle technologische trucjes ben je niet meer in staat tot zelfbeheersing.
Eens, maar is er ook een mogelijkheid om in te zien dat het middel sterker (gemaakt) is dan de discipline? Dan kun je zoveel verantwoordelijkheid nemen als je maar wilt, maar ben je alsnog slachtoffer van het middel.
Wat leveren we in bij een volgende stap in de ontwikkeling van de techniek? Wat winnen we ermee, maar vooral: wat verliezen we met een volgende stap. Techniek en zijn ontwikkeling is daarom een moreel dilemma. We wonnen efficiëntie met de komst van de kettingzaag. Maar we verloren krachtige schouders, een existentiële natuurervaring en de geur van vers gekapt hout. Daarom loop ik tegenwoordig met de vraag rond waarom we niet allemaal vechten tegen AI. Als ons dat daadwerkelijk ontmenst, waar is onze woede dan? Of zijn we al zo doorgeslagen dat transhumanisme ons enige toekomstperspectief is geworden?
Goede vragen, en ik heb er geen compleet antwoord op. Ik deel de zorg over ontmenselijking in ieder geval wel.
Het lastige van het vechten tegen ontmenselijking is dat de geschiedenis meerdere keren laat zien dat het relativeren van de speciale of unieke positie van de mens in haar omgeving (t.o.v. dieren bijvoorbeeld, denk aan Darwin) ons simpelweg meer leert over de wereld. Wat het is om mens te zijn, daar worden we steeds bescheidener in.
Het mooie van de ontwikkelingen in de AI-techniek is dat het ons (verwacht ik) meer gaat leren over wat het is om te 'denken', te 'begrijpen'. Desondanks dreigt AI ons een spiegel voor te houden die invloed gaat hebben op ons denken over geest, moraliteit, samenleven, kortom; op ons wereldbeeld. Dat hoeft niet te betekenen dat we het transhumanistisch ideaal moeten overnemen, maar dwingt ons eerder tot bezinning over hoe we te midden van dit leerproces onze waarden, menselijkheid en idealen kunnen behouden.
Ik denk dat ontmenselijking een proces is van nu. Je voorbeeld van Darwin en onze positie als mens tov haar wereld heeft ons inderdaad bescheidenheid geleerd. Maar ik denk niet dat er gevochten werd tegen ontmenselijking. Wel tegen verandering en het 'nieuwe', maar dat kwam voort uit angst. Maar in de balans van wat je wint en wat je verliest schieten we in de tegenwoordige tijd door in veel menselijkheid verliezen/inleveren voor een klein beetje winst in efficiëntie. Bagatelliseren we de ontwikkeling van AI en het transhumanistisch ideaal niet teveel? We blijven morele wezens en daarom denk ik dat het goed mogelijk kan zijn dat we teveel aan het inleveren zijn. Want hoe kunnen we 'te midden van dit leerproces' oog hebben voor waarden, menselijkheid en idealen als die al ingeleverd zijn? Deze substack van de ongelooflijke gaat over de zoektocht naar het Ware, het Schone en het Goede: bij uitstek een zoektocht waarin er misschien wel gevochten moet worden tegen onze huidige technologische ontwikkelingen. Zijn we namelijk niet al te veel gereduceerd tot rationele wezens?
Ha Marc, Ik ben benieuwd wat je van mijn reactie denkt. Deel je mijn zorg, of zie jij toch vooral andere vormen van ontmenselijking?
Bedankt voor je reactie, ik ben het deels met je eens!
De gevaren van ontwikkeling en implementatie van AI en het achterliggende transhumanistisch ideaal moeten we zeker niet bagatelliseren. Ja, waar waarden, menselijkheid en idealen worden ingeleverd moeten we in opstand komen. Sterker nog, AI-systemen volgens huidige vorm en ontwikkeling vergroten sociale, economische en culturele ongelijkheid wereldwijd (wie/welke taalsprekers hebben toegang, wie niet?). Daarbij zijn LLMs gestoeld op het grootschalig stelen van copyrighted data, het uitbuiten van goedkope arbeiders in Azië en Amerika (RLHF proces) en het beschadigen van het klimaat. Dat moeten we tenminste doordenken wanneer we er voor kiezen om deze systemen in te zetten.
Ik bedoelde vooral een andere vorm van ontmenselijking; een disruptieve verandering in ons begrip van wat ‘mens-zijn’ ten diepste is. Darwin noemde ik, omdat hij, waar het unieke mens-zijn voorheen wel werd gelegd in het ‘niet-dier’ zijn, ons terugplaatste in het dierenrijk. Je noemt inderdaad de reductie tot rationele en morele wezens, en ik ben bang dat precies die omschrijving door AI geschaad gaat worden. Wat is nu werkelijk ‘mens-zijn’ meer dan een materieel samenraapsel waarvan de cognitieve capaciteiten als computationeel en algoritmisch proces kunnen worden ontleed? Wat als AI aantoont dat ‘rationeel zijn’, ‘denken’, ‘zelf-bewust zijn’, ‘wijs zijn’, ‘moreel goed zijn’ niet slechts aan de mens voorbehouden is? Ik zeg niet dat dit kan of enigszins realistisch is, maar ik zie wel dat Silicon Valley dat gelooft. Hoe verdedigen we dualisme, moreel realisme, transcendentie en het bestaan van een ‘lichaamsloze geest’ (God) als we daadwerkelijk een stoffelijke geest ‘creëren’? Het protest tegen deze vorm van ontmenselijking is geen ontwikkelings-stop, geen technisch probleem, noch een zaak van wet- of regelgeving; dit vraagt om filosofische en theologische bezinning.
Sam Altman (CEO Open AI) hees de witte vlag, door zijn menselijkheid zelf op te geven: “i am a stochastic parrot, and so r u” https://x.com/sama/status/1599471830255177728
Ja ik denk dat ik 'em vat. En ik denk dat ik er grotendeels zo ook over denk. De eerdere vorm van ontmenselijking die ik benoemde is mijns inziens meer een voorstadium van de vorm van ontmenselijking die jij omschrijft; datgene waar AI naar toe opbouwt (een trans-humanistisch ideaal). Mij lijkt een disruptieve verandering in ons begrip van mens-zijn juist iets waar we tegen moeten ageren/protesteren. Niet vanuit een angstgedachte, 'bang voor het nieuwe', maar juist omdat de technologische ontwikkelingen ons aantoonbaar 'ontmenst'. Er staat echt wat op het spel. Maar ik lijk uit jouw woorden te halen dat je er wel een open, verwachtingsvolle houding tegenover hebt. Klopt dat? En zo ja, wat maakt dat je zoveel vertrouwen in de filosofische en theologische bezinning hebt? (In het kader van de spiegel die AI ons gaat voorhouden).
Onlangs heb ik hier een reactie geplaatst, maar volgens mij is deze onverhoopt verwijderd.
Ik heb even geen tijd voor inhoudelijke reactie, maar ergens in de afgelopen tijd kwam ik een interessante lecture tegen die ik graag even met u deel:
https://www.youtube.com/watch?v=4_OIsLN-iVE (What makes us human in the age of AI, Christopher Watkin)
Daarnaast een draft voor een artikel van mijn hand over een mystieke benadering á la Martin Buber over mensbeeld&AI.
https://docs.google.com/document/d/1-k5JZhVCWENVqBppLitnxpa-e4CF54S5A1a1Rbm54MU/edit?usp=sharing
Een andere interessante denker, al wil ik wel benadrukken dat ik niet doel op het Marxistische karakter van de stroming waartoe de denker behoort, maar het feit dat zijn kritiek op de moderniteit vooral gericht is dat er een soort verzaking van de ziel plaatsvindt door een massacultuur gebaseerd op beeld. Guy Debord - Samenleving van het Spektakel, 1976 uitgeverij SUN (Nijmegen)
Interessant, dank voor de tip!
Vóór het computertijdperk werkten we volgens het principe: "Binnen de fouten, ligt de oplossing"
Nu is dat: "Binnen de fouten, ligt de boete"
klinkt een beetje als reinventing the 80s/90s, waarin mensen als Schuurman en Achterhuis al waarschuwden voor de Maat van de Techniek.
Als jij jouw eigen verantwoordelijkheid bij Silicon Valley neer wil leggen is dat prima toch? Mensen in mijn omgeving zitten niet de hele dag doom te scrollen.
Geen zelfbeheersing is de oorzaak. Wie zegt dat je 16 uur op jouw smartphone moet zitten?
Dat zou betekenen dat je zelf grip hebt op de keuze om op je telefoon te gaan zitten. Maar dat is dus juist de 'Grote Uitvinding' van Sillicon Valley: jou als gebruiker tot hun product maken, want door alle technologische trucjes ben je niet meer in staat tot zelfbeheersing.
Jij bent dus precies hun doelgroep. Succes er mee.
Kun je daar wat meer woorden aan geven?
Je moet jouw eigen verantwoordelijkheid niet bij andere mensen (silicon valley) neer leggen.
Eens, maar is er ook een mogelijkheid om in te zien dat het middel sterker (gemaakt) is dan de discipline? Dan kun je zoveel verantwoordelijkheid nemen als je maar wilt, maar ben je alsnog slachtoffer van het middel.
Het is wel een sterk middel inderdaad.
Nee, koop een telefoon zoals de Nokia 2760, doe de rest van de dingen op jouw computer ( zoals internet bankieren bijv.)
Wat jij zegt is vergelijkbaar met: heroïne is zo een sterk middel laat ze maar niet afkicken.