Wat bedreigt de mensheid met de automatisering van ons hele leven?

2024 Auteur: Seth Attwood | [email protected]. Laatst gewijzigd: 2023-12-16 16:13

Smartphones, robots en computers maken ons leven makkelijker, maar misschien verliezen we hierin iets? De verslaggever sprak met de Amerikaanse schrijver Nicholas Carr over de gevaren en zelfs dreigingen van overautomatisering.

Er wordt algemeen aangenomen dat de automatisering van alles en iedereen de kwaliteit van ons leven verbetert. Computers helpen ons om topprestaties te bereiken. Softwaretoepassingen maken taken sneller en gemakkelijker. Robots nemen het vervelende en harde werk op zich. De constante stroom van innovaties uit Silicon Valley versterkt alleen maar de overtuiging van mensen dat nieuwe technologieën het leven beter maken.

Er is echter een andere mening. De schrijver Nicholas Carr onderwerpt de postulaten van de moderne digitale wereld aan een onpartijdige analyse. Zijn essay "Does Google Make Us Stupid?", gepubliceerd in Atlantic in 2008, is nog steeds controversieel, evenals zijn bestseller uit 2010, The Shallows.

Voorstanders van de theorie dat technologie onze wereld zal redden, zien Carr als een van hun machtigste tegenstanders. En degenen die op hun hoede zijn voor de gevolgen van technologische vooruitgang voor de mensheid respecteren het vanwege zijn evenwichtige argumentatie.

Nu is Carr geïnteresseerd in een nieuwe vraag: moeten we bang zijn dat er geleidelijk aan geen moeilijke taken voor ons in de wereld zullen zijn? Wordt ons leven te efficiënt dankzij nieuwe technologieën?

Ik ontmoette de schrijver een tijdje terug om te praten over zijn nieuwe boek, The Glass Cage: Automation and Us, en wat hem ertoe bracht het te schrijven.

1. De belangrijkste mythe over nieuwe technologieën ontkrachten

Tom Chatfield:Als ik het goed begrijp, probeer je in het boek "The Glass Cage" de mythe te ontkrachten dat de vereenvoudiging van ons leven dankzij technologische vooruitgang noodzakelijkerwijs een positief fenomeen is.

Nicolaas Carr:Op zowel persoonlijk als institutioneel niveau zijn we gewend te denken dat efficiëntie en comfort standaard goed zijn, en het maximaliseren ervan is zeker een waardig doel. Het lijkt mij dat deze benadering van technologie in al haar vormen, vooral in de vorm van computerautomatisering, nogal naïef is. Dit geldt ook voor onze eigen verlangens en het echte leven in de moderne wereld.

Zullen computers ooit mensen vervangen?

T. K.:En toch houden de meeste aanhangers van technologische vooruitgang vast aan het utilitaire standpunt, volgens welke de grootste fouten die we maken te wijten zijn aan verwaarlozing van efficiëntie en logica, en in feite weten we zelf niet wat goed voor ons is. Daarom is het, vanuit hun oogpunt, de taak van technologische vooruitgang om de tekortkomingen van het menselijk denken te identificeren en vervolgens systemen te creëren die deze tekortkomingen zouden compenseren. Is deze mening fout?

NK: Enerzijds hebben veel innovaties in de ontwikkeling van computertechnologie en de ontwikkeling van geautomatiseerde systemen niets te maken met de wijdverbreide bewering dat mensen zeer onvolmaakt zijn in vergelijking met computers. Ja, een computer kan worden geprogrammeerd om bepaalde bewerkingen voor onbepaalde tijd met constante kwaliteit uit te voeren. En het is waar dat een mens tot zoiets niet in staat is.

Maar sommigen gaan zelfs nog verder en beweren dat mensen te onvolmaakt zijn, dat hun rol zo veel mogelijk moet worden beperkt en dat computers verantwoordelijk moeten zijn voor alle basistaken. Dit gaat niet alleen over het proberen te compenseren voor menselijke tekortkomingen - het idee is om de menselijke factor helemaal te verwijderen, waardoor, zo wordt beweerd, ons leven veel beter zal worden.

T. K.: Het lijkt erop dat dit niet het beste idee is. Is er een optimaal niveau van automatisering?

NK: Naar mijn mening is de vraag niet of we deze of die complexe taak moeten automatiseren. De vraag is hoe we automatisering gebruiken, hoe we computers precies kunnen gebruiken om menselijke kennis en vaardigheden aan te vullen, tekortkomingen in menselijk denken en gedrag te compenseren, en ook om mensen te stimuleren om het beste uit hun eigen ervaring te halen om nieuwe hoogten te bereiken.

We veranderen in computermonitorwatchers

Overmatig vertrouwen op software kan van ons computermonitorwachters en procesflowoperators maken. Computers kunnen een zeer belangrijke rol spelen omdat we ook maar mensen zijn - we kunnen ten prooi vallen aan vooroordelen of belangrijke informatie mislopen. Maar het gevaar is dat het te gemakkelijk is om al onze functies uit te besteden aan computers, wat naar mijn mening een verkeerde beslissing zou zijn.

2. Moet je het echte leven dichter bij het scenario van een videogame brengen?

T. K.: Het deed me genoegen dat u in uw boek videogames aanhaalt als een voorbeeld van mens-machine-interactie, waarbij het gaat om het overwinnen van moeilijkheden, niet om ze te vermijden. De meest populaire spellen zijn een soort werk dat de speler een gevoel van voldoening geeft. We kunnen alleen maar klagen dat het werk dat velen van ons elke dag moeten doen veel minder vaardigheid vereist en ons veel minder plezier geeft.

Videogames stimuleren de gamer om extra moeite te doen en de hersenen zoveel mogelijk te gebruiken

NK: Videogames zijn interessant omdat hun concept indruist tegen de algemeen aanvaarde principes van het maken van software. Het doel van computerspellen is helemaal niet om de gebruiker van het ongemak te verlossen. Integendeel, ze stimuleren de speler om extra inspanning te leveren en de hersenen zoveel mogelijk te gebruiken. We genieten van videogames, juist omdat ze ons uitdagen met steeds grotere uitdagingen. We bevinden ons voortdurend in moeilijke situaties - maar niet in situaties die wanhoop veroorzaken. Door elk nieuw niveau te overwinnen, worden onze vaardigheden alleen maar aangescherpt.

Dit proces lijkt erg op hoe een persoon levenservaring opdoet in het echte leven. Zoals we weten, moet een persoon voor de ontwikkeling van vaardigheden steeds weer serieuze obstakels tegenkomen en deze keer op keer overwinnen, met gebruikmaking van al zijn kennis en vaardigheden. Geleidelijk bereikt een persoon een nieuw niveau, waarna de complexiteit van de obstakels toeneemt.

Ik denk dat mensen van videogames houden om dezelfde reden dat ze voldoening halen uit het opdoen van nieuwe ervaringen en het overwinnen van obstakels. De oplossing van een moeilijke taak, waarbij nieuwe kennis wordt verworven, die nodig is om nieuwe, nog complexere moeilijkheden te overwinnen, geeft een persoon veel plezier.

Totale onderwerping aan de computer zal ons leiden naar een leven waarin er weinig ruimte is voor zelfrealisatie

Een van de belangrijkste zorgen die ik in het boek uitdruk, is dat onze houding ten opzichte van vooruitgang wordt geassocieerd met de wens om het oplossen van moeilijke problemen zoveel mogelijk te vermijden. Het lijkt mij dat dit gezichtspunt in tegenspraak is met het concept van tevredenheid met het leven en zelfrealisatie.

3. Zullen computers de behoefte aan mensen wegnemen?

T. K.: In tegenstelling tot videogames wordt hard werken in de echte wereld niet per se beloond. De echte wereld is oneerlijk en onevenwichtig. Misschien wel de meest verontrustende trend hier is dat de belangen van het individu (psychisch, persoonlijk en zelfs in termen van overleving) steeds meer niet meer in lijn raken met de opvattingen van bedrijven en overheden over opportuniteit. Ben je bang dat computers eindelijk de mens zullen vervangen?

Veel spellen zijn moeilijk te spelen en vereisen ongebruikelijke vaardigheden en vindingrijkheid van gamers. Dus waarom zou de rest van de technologie ons leven alleen maar gemakkelijker maken?

NK: Toen ik materiaal voor het boek aan het verzamelen was, schrok ik enorm van een artikel (citaten waaruit ik in de tekst citeer), geschreven door een specialist in militaire strategie. Volgens hem is er, gezien de groeiende schaal van het gebruik van computertechnologieën op het slagveld, heel binnenkort misschien gewoon geen ruimte voor een persoon in militaire aangelegenheden. De snelheid van besluitvorming is zo gegroeid dat mensen de computers gewoon niet bij kunnen houden. We evolueren onvermijdelijk naar volledig geautomatiseerde oorlogsvoering: onbemande luchtvaartuigen beslissen zelf wanneer ze raketten op doelen afvuren, en robotsoldaten op de grond zullen zelf beslissen wanneer ze moeten vuren.

Naar mijn mening wordt deze situatie niet alleen waargenomen in militaire aangelegenheden, maar ook op veel andere gebieden - bijvoorbeeld in de financiële wereld. Mensen houden computers gewoon niet bij als ze bijvoorbeeld in financiële instrumenten handelen.

Wat staat ons te wachten? We verliezen misschien niet alleen het vermogen dat ons onderscheidt van computers voor het kritisch beoordelen van onze eigen acties - misschien zullen we dergelijke systemen gedachteloos implementeren, in de overtuiging dat het belangrijkste de snelheid van besluitvorming is. En dan, als we ervan overtuigd zijn dat we het bij het verkeerde eind hadden, zullen we ontdekken dat er geen weg meer terug is. Heel vaak blijkt het onmogelijk om een persoon te integreren in een systeem dat oorspronkelijk op computertechnologie is gebouwd.

T. K.: Ik was ook geschokt toen ik een passage in uw boek las over geautomatiseerde oorlogsvoering. Ik kreeg het gevoel dat het proces dat ons naar volledig autonome gevechtssystemen zal leiden niet te stoppen is. Een deel van mijn afschuw komt van de herinneringen aan de financiële crisis van 2008, die vrijwel triljoenen dollars heeft weggevaagd. Nu zijn mensen in ieder geval meer verantwoordelijk voor hun financiën. Maar als dit op militair gebied gebeurt, zullen geen dollars worden vernietigd, maar mensenlevens.

Een toekomst zonder mensen?

NK: Het is niet alleen zo dat nieuwe technologieën, vooral softwaretechnologieën, tegenwoordig zeer snel kunnen worden gerepliceerd en gedistribueerd. Het punt is dat al deze processen plaatsvinden in een concurrerende omgeving. Of we het nu hebben over een wapenwedloop of een zakelijke competitie, zodra een van de rivalen een kortetermijnvoordeel behaalt ten koste van de ene of de andere technologie, wordt deze technologie waar mogelijk onmiddellijk geïntroduceerd - omdat niemand op een nadeel.

Ik denk dat het in deze situatie te gemakkelijk is om uit het oog te verliezen dat we in wezen dieren zijn. Mensen hebben millennia lang een evolutionair pad doorlopen om te kunnen leven en overleven. De rol van de mensheid, evenals onze gevoelens van voldoening en zelfrealisatie, zijn nauw verbonden met onze ervaring van het leven in een wereld die ons gebruikelijke tempo bepaalt.

Daarom, wanneer we een persoon, met al zijn fysieke voor- en nadelen, verzetten tegen een snelle en nauwkeurige computer, is er een verlangen om ons hele leven aan computers op te geven. We vergeten echter dat totale onderwerping aan de computer ons naar een leven zal leiden waarin er weinig ruimte is voor zelfrealisatie.

4. Hoe automatiseren we de wereld?

T. K.: Ik geloof dat we kritisch moeten zijn over nieuwe technologieën, maar ik maak me zorgen over mensen die onnodige moeilijkheden en antitechnologische "authenticiteit" in een fetisj veranderen. Er is zo'n moderne denkrichting die zware lichamelijke arbeid prijst en stelt dat alles wat we doen ambachtelijk en authentiek moet zijn. Naar mijn mening riekt zo'n standpunt naar snobisme en wordt geen rekening gehouden met het enorme aantal positieve prestaties dat de democratisering van de technologische vooruitgang met zich mee heeft gebracht.

NK: Ik ben het helemaal met je eens. In een interview werd mij gevraagd hoe mijn voorzichtige houding ten opzichte van vooruitgang bijvoorbeeld mensen zou helpen die onder barre omstandigheden in vleesverwerkingsbedrijven werken. Ik antwoordde dat er natuurlijk altijd een plaats zal zijn voor de automatisering van de productie waar de arbeidsomstandigheden van mensen moeten worden verbeterd. Het is gewoon dat je slim kunt innoveren, of je kunt het gedachteloos doen; we kunnen een manier vinden om rekening te houden met de waarde van menselijke ervaring en het belang van zelfrealisatie, of we kunnen eenvoudigweg de mogelijkheden van computers verheerlijken. De juiste keuze maken is niet eenvoudig. Als we deze taak uitsluitend in zwart-wit waarnemen - ofwel staan we blindelings op voor zware, uitputtende fysieke arbeid in elke situatie, of, omgekeerd, zien we de zin van het leven in sybarisme - dat zal de zaak niet helpen.

Het moeilijkste en meest veeleisende precisiewerk kunt u het beste aan machines overlaten

Mensen zijn voortdurend bezig met het maken en gebruiken van tools. Sinds onheuglijke tijden moeten we beslissingen nemen met betrekking tot de taakverdeling, met de verdeling van de hoeveelheid werk tussen een persoon en de tools die tot zijn beschikking staan. En het lijkt mij dat de verbazingwekkende efficiëntie van computers bij het uitvoeren van een breed scala aan taken het proces van het nemen van dergelijke beslissingen alleen maar bemoeilijkt.

5. Wat staat ons te wachten?

T. K.: Is de mensheid op weg naar succes?

NK: Natuurhistorisch historicus Thomas Hughes, die vorig jaar overleed, stelde het concept voor van een 'technologisch momentum'. Hij geloofde dat technologieën die ingebed zijn in sociale structuren en processen zich vanzelf beginnen te ontwikkelen en de samenleving met zich meeslepen. Het is goed mogelijk dat onze koers al is uitgezet en dat we op onze huidige weg doorgaan, zonder dat we ons afvragen of we op de goede weg zijn. Ik weet echt niet wat er gaat gebeuren. Het beste wat ik kan doen is proberen om over deze echt moeilijke vragen zo goed mogelijk te redeneren.

Ik hoop dat wij, als individuen en als leden van de samenleving, in staat zullen zijn om een bepaald niveau van begrip te behouden van wat er met ons gebeurt, evenals een zekere mate van nieuwsgierigheid, en beslissingen zullen nemen op basis van onze langetermijnbelangen, en niet op basis van onze gebruikelijke begrippen gemak, snelheid, nauwkeurigheid en efficiëntie.

De dag zal komen en robots zullen ons van alle moeilijkheden verlossen. Hebben we het nodig?

Het lijkt mij dat we ernaar moeten streven dat computers onze levenservaring verrijken en nieuwe kansen voor ons openen, en ons niet veranderen in passieve waarnemers van beeldschermen. Ik denk nog steeds dat als we meer uit nieuwe technologieën halen, ze in staat zullen zijn om te doen wat technologie en hulpmiddelen in de menselijke geschiedenis hebben gedaan: een interessantere wereld om ons heen creëren en ons helpen zelf beter te worden. Uiteindelijk hangt alles van onszelf af.