Hoe de Verenigde Staten in de jaren 80 probeerden Skynet te creëren

2024 Auteur: Seth Attwood | [email protected]. Laatst gewijzigd: 2023-12-16 16:13

Dertig jaar geleden probeerden de Verenigde Staten de grenzen van computers, kunstmatige intelligentie en robotica te verleggen. Ze wilden iets nieuws creëren, dat erg doet denken aan de dystopische toekomst uit de Terminator-films, oftewel Skynet.

Van 1983 tot 1993 besteedde het Defense Advanced Research Projects Agency (DARPA) meer dan een miljard dollar aan een programma dat het Strategic Computing Initiative heette. Het doel van DARPA was om de grenzen van computers, kunstmatige intelligentie en robotica te verleggen en iets te creëren dat erg lijkt op de dystopische toekomst uit de Terminator-films. Het wilde Skynet creëren.

Net als het Star Wars-programma van Ronald Reagan, bleek het SKI-idee te futuristisch voor zijn tijd. Maar vandaag, wanneer we verbazingwekkende vooruitgang zien in de creatie van kunstmatige intelligentie en onafhankelijke robots door het leger, is het logisch om terug te keren naar dit halfvergeten programma en onszelf de vraag te stellen: zijn we klaar om te leven in een wereld van moordende machines die onderling verbonden zijn door elektronische hersenen? En nog een, mogelijk nutteloze vraag. Als we dit willen stoppen, zijn we dan te laat met ons verlangen?

De mogelijkheden zijn werkelijk verbluffend…

Dit is een fragment uit een weinig bekend document dat in oktober 1983 aan het Congres werd voorgelegd. Het beschrijft de doelstellingen van het nieuwe Strategic Computing Initiative. En net als al het andere dat DARPA eerder en daarna heeft gedaan, is dit programma buitengewoon ambitieus gebleken.

Het concept van het Strategic Computer Initiative was belichaamd in een volledig nieuw systeem, waarvan de ontwikkeling werd geleid door Robert Kahn, toen hoofd Information Processing Techniques bij DARPA. Zoals gemeld in zijn boek Strategic Computing uit 2002, was Kahn niet de eerste die een idee kreeg van het systeem, maar hij was de eerste die het concept en de structuur van het toekomstige Strategic Computing Initiative schetste. Hij startte dit project en definieerde al vroeg de inhoud ervan. SKI ging een eigen leven leiden, geleid door andere mensen, maar behield de invloed van Kahn."

Dit systeem moest een wereld creëren waarin onafhankelijke voertuigen niet alleen verkenningsgegevens verzamelen over de vijand over de hele wereld, maar ook de mogelijkheid hebben om met dodelijke precisie toe te slaan vanaf land, zee en lucht. SKI zou een wereldwijd netwerk worden dat alle aspecten van het militair-technische potentieel van de VS met elkaar verbindt - een potentieel gebaseerd op nieuwe en ongelooflijk snelle computers.

Maar dit netwerk was niet alleen bedoeld voor koude en onpartijdige geautomatiseerde verwerking van informatie. Nee, het nieuwe systeem moest zien, horen, handelen en reageren. En het belangrijkste was dat ze het moest begrijpen, en zonder enige aansporing van een persoon.

Economische wapenwedloop

De oorsprong van SQI wordt vaak geassocieerd met technologische concurrentie die begin jaren tachtig ontstond tussen de Verenigde Staten en Japan. De Japanners wilden een nieuwe generatie supercomputers creëren, die de basis zouden vormen van het kunstmatige intelligentiesysteem. Door de economische macht van de Japanse staat te combineren met de nieuwe mogelijkheden van de micro-elektronica- en computerindustrie van het land, begonnen ze een computersysteem van de vijfde generatie te creëren om hun doel te bereiken.

Het doel was om ongelooflijk snelle computers te ontwikkelen waarmee Japan zich zou kunnen losmaken van andere landen (in de eerste plaats van de Verenigde Staten en van de "Silicon Valley" die daar opkwam) in de race om technologische superioriteit. De Japanners gaven zichzelf 10 jaar om deze taak te voltooien. Maar hoe ze hun auto's ook versnelden, ze konden, net als de Amerikanen, computers niet 'slimmer' maken ten koste van krachtige kunstmatige intelligentie.

Japanse aspiraties maakten veel Amerikanen bang. Ze waren bang dat Amerika zijn technologische voorsprong zou verliezen. Deze angsten werden grotendeels aangewakkerd door The Fifth Generation: Artificial Intelligence and Japan's Computer Challenge to the World, gepubliceerd in 1983 door Edward A. Feigenbaum en Pamela McCorduck. challenge to the world), die verplichte literatuur is geworden over Capitol Hill.

Om de ideeën van SKI populair te maken bij het Amerikaanse volk en het bedrijfsleven, drong DARPA erop aan dat het doel van het initiatief vanaf het begin alleen was om de economische belangen van het land te bevorderen. De spin-offs van deze technologie zouden nieuwe prikkels voor de Amerikaanse economie moeten hebben gecreëerd, zoals gerapporteerd in het DARPA-planningsdocument:

Het beroep op de particuliere sector en op het universitaire systeem moest ook de slimste en meest getalenteerde helpen bij het vervullen van de taken van het programma van het Office of Advanced Research and Development:

En wat is de conclusie? De overheid gaf garanties aan de particuliere sector dat de ontwikkelde technologieën niet zouden worden overgedragen aan concurrerende bedrijven.

Maar de economische concurrentie met de Japanners, zij het een belangrijke drijvende kracht, veroorzaakte bij politici die verstrikt waren in de perikelen van de Koude Oorlog slechts bijzaak. De GOP-haviken waren het meest bezig met militaire opbouw en militaire opbouw. Velen van hen geloofden dat het belangrijkste de militaire dreiging van de Sovjet-Unie was. En het Strategic Computer Initiative moest deze dreiging elimineren.

Star Wars-verbinding

De lancering van het SKI-programma en het mandaat van DARPA, dat in 1983 en 1984 verscheen, leidde tot een verhit debat in de wetenschappelijke gemeenschap - degene die uiteindelijk profiteerde van de financiering van dit project. Iemand uitte zijn twijfels over de mogelijkheid om ambitieuze plannen uit te voeren om een geavanceerde kunstmatige intelligentie te creëren. Iemand maakte zich zorgen dat de creatie van kunstmatige intelligentie voor militaire doeleinden een verschrikkelijk tijdperk van onafhankelijke robotlegers zou beginnen.

En het was een gegronde zorg. Als het doel van Star Wars (de populaire naam voor het Strategic Defense Initiative van Ronald Reagan en het populaire politieke voetbal van die tijd) een automatische of semi-automatische reactie is op een nucleaire raketdreiging van de Sovjets, dan zou het gewoon belachelijk zijn om het niet op te nemen in een groter systeem van werkelijk intelligente machines. De doelstellingen van de twee projecten, om nog maar te zwijgen van de instellingen die ze ontwikkelden, overlapten en overlapten te veel om louter toeval te zijn, hoewel elk erop stond dat het toeval was.

Uit het werk van Chris Hables Gray, geschreven in 1988:

Als je iemand vraagt die in het leiderschap van het SKI-programma heeft gewerkt, zal je voortdurend worden verteld dat het Strategic Computer Initiative niets te maken had met Reagans Star Wars-droom. Maar vanaf het prille begin van de implementatie van SKI legden mensen de link tussen het en SDI. Deze associaties zijn gedeeltelijk ontstaan vanwege de gelijkenis in namen en vanwege het feit dat deze namen werden gegeven door één persoon - Robert Cooper, die van 1981 tot 1985 directeur was van het Advanced Research and Development Directorate van het Amerikaanse ministerie van Defensie. Of misschien zagen mensen het verband doordat de voor SKI ontwikkelde computerinterfacesystemen logischerwijs geschikt waren als toepassing voor een ruimte-antiraketverdedigingsstrategie.

Het gebruik van strategische computertechnologie op land, ter zee en in de lucht

In een algemene schets van de SQI die in 1983 werd opgesteld, werd de doelstelling van dit initiatief uiteengezet. Het doel was duidelijk en begrijpelijk: het ontwikkelen van een enorme basis van kunstmatige-intelligentietechnologieën om de nationale veiligheid en economische macht te versterken. Maar om dit te bereiken, moesten het Congres en die militaire afdelingen die geacht werden de SKI en zijn voordelen in de toekomst te gebruiken, dit systeem in actie zien.

SKI had drie hardwareversies die zijn gevechtspotentieel moesten bewijzen, hoewel het de bedoeling was om tegen het einde van de jaren tachtig nog meer van dergelijke systemen te ontwikkelen. In de voorhoede van de technische ontwikkelingen van SKI waren het ALV autonome grondvoertuig, de pilootassistent en het gevechtscontrolesysteem van het vliegdekschip.

Het was de bedoeling dat deze tools zouden worden uitgerust met ongelooflijk geavanceerde computers, ontworpen door het bedrijf BBN uit Cambridge, vooral bekend om zijn werk aan de eerste versie van internet. Computers maakten het mogelijk om baanbrekende vorderingen te maken op gebieden als zichtsystemen, taalbegrip en navigatie. En dit zijn de belangrijkste instrumenten voor het creëren van een geïntegreerde mens-machine militaire macht.

Auto zonder chauffeur - 1985

Het meest onheilspellende product dat uit de ingewanden van SKI tevoorschijn kwam, was het ALV autonome grondvoertuig. Dit voertuig met acht wielen zonder bestuurder was drie meter hoog en vier meter lang. Het was uitgerust met een camera en sensoren die op het dak waren gemonteerd en de beweging van de auto bestuurden, zijnde zijn "ogen".

Martin Marietta, die in 1995 fuseerde met de Lockheed Corporation om Lockheed Martin te creëren, won in de zomer van 1984 een aanbesteding om een experimenteel autonoom grondvoertuig te bouwen. Over de drie en een half jaar van het SKI-programma zou het 10,6 miljoen dollar moeten hebben ontvangen (gecorrigeerd voor inflatie is dit 24 miljoen), plus nog eens 6 miljoen als het project aan bepaalde benchmarks voldoet.

In het oktobernummer van Popular Science van oktober 1985 stond een artikel over de tests die werden uitgevoerd op het geheime Martin Marietta-oefenterrein ten zuidwesten van Denver.

De auteur van het artikel, Jim Schefter, beschreef de testscène op het proefterrein als volgt:

DARPA heeft de krachten gebundeld met Martin Marietta en de Universiteit van Maryland, die uitstekend werk heeft verricht door een visiesysteem te creëren. Een dergelijke combinatie leek essentieel om het succes van de ontwikkeling van landvoertuigen te verzekeren.

Het bouwen van een videosysteem voor een autonoom voertuig is ongelooflijk moeilijk gebleken. Ze kan worden misleid door licht en schaduwen, en daarom was ze niet betrouwbaar genoeg. Overdag vond ze de berm zonder problemen, maar door de avondschaduwen bij zonsondergang kon ze goed de sloot in glijden.

Elke verandering in de omgeving (bijvoorbeeld vuil van de wielen van een andere auto) bracht ook het zichtsysteem in de war. Dit was zelfs onder testomstandigheden op het testterrein onaanvaardbaar. Als de machine zulke eenvoudige obstakels niet aankan, hoe zal ze dan handelen in moeilijke en onvoorspelbare gevechtsomstandigheden met talloze variabele factoren?

In november 1987 was het autonome grondvoertuig aanzienlijk verbeterd, maar tegen het einde van het jaar werd het feitelijk verlaten. Hoewel het voertuig nogal primitief was, vonden sommigen bij DARPA dat het te snel was weggestuurd.

Als gevolg hiervan was ze niet in staat haar onvoorbereidheid voor de strijd te overwinnen. Zoals Alex Roland opmerkt in zijn boek Strategic Computing: "Een officier die de bedoeling van het ALV-programma helemaal niet begreep, klaagde dat de machine militair nutteloos was: erg traag en wit, waardoor het een gemakkelijk doelwit was op het slagveld." In april 1988 stopte het Office for Advanced Research and Development officieel met de werkzaamheden eraan.

R2-D2, maar dan in het echt

De tweede praktische belichaming van het Strategisch Computerinitiatief was de Pilotenassistent. De ontwikkelaars zagen het als een onzichtbare R2-D2-robot - een intelligente satelliet die de eenvoudige taal van de piloot begrijpt. Deze assistent zou bijvoorbeeld een vijandelijk doel kunnen detecteren en de piloot vragen of het nodig is om het te vernietigen. Zoiets als "The best shooter" in het gezelschap van de persoonlijke assistent Siri van de iPhone.

In dit scenario bleef de uiteindelijke beslissing bij de piloot. Maar zijn assistent moest slim genoeg worden, niet alleen om te weten wie de vragen stelde, wat hij vroeg en hoe hij de vragen zelf stelde. Hij moest begrijpen waarom.

Dit zijn de regels uit het SKI-planningsdocument:

En het was hier dat het Directoraat Geavanceerd Onderzoek en Ontwikkeling besloot dat het zijn eigen Skynet nodig had. Nieuwe kenmerken van gevechtsoperaties in verband met de snelle ontwikkeling van militaire technologieën vereisten een duidelijke interactie tussen een machine en een persoon - en dit werd de sleutel tot succes in de strijd. De piloot drukte nog steeds op de knoppen, maar deze computers moesten minstens de helft voor hem denken. Als de mensheid geen tijd heeft, is het noodzakelijk om machines aan te sluiten op het werk.

Het assistentieprogramma van de piloot werd niet in dezelfde mate behandeld in de Amerikaanse pers als het autonome grondvoertuig. Waarschijnlijk was dit te wijten aan het feit dat het veel moeilijker was om het voor te stellen dan een enorme tank die zonder chauffeur over de weg reed. Maar als je kijkt naar de huidige spraakherkenningstechnologieën, wordt duidelijk waar al dit onderzoek naar de 'pilotenassistent' toe heeft geleid.

Onzichtbare robotadviseur

Het gevechtscontrolesysteem is de derde praktische belichaming van het SKI-programma geworden, ontworpen om de haalbaarheid ervan te bewijzen.

Roland schrijft hierover in zijn boek Strategic Computing:

Het commando- en controlesysteem was in wezen het brein van de hele operatie en werd daarom, in tegenstelling tot de ALV, geheim gehouden. Een robot die zonder chauffeur over de weg rijdt, kan velen afschrikken. Een onzichtbare robot met een onzichtbare vinger op een nucleaire knop? Nou, bijna niemand wil persberichten over dit onderwerp publiceren.

Het gevechtscontrolesysteem is speciaal voor de marine ontworpen als softwaretoepassing. (Er is speciaal voor de grondtroepen een autonoom grondvoertuig gemaakt en een 'assistentpiloot' voor de luchtmacht.) Maar in werkelijkheid was het slechts een dekmantel voor een veelzijdiger systeem. Al deze technologieën waren gepland om in de toekomst te worden gebruikt waar ze het meest nodig zijn. Het spraakherkenningsprogramma dat is ontwikkeld voor de "pilootassistent" zou in alle takken van de strijdkrachten worden gebruikt, niet alleen bij de luchtmacht. En het commando- en controlesysteem moest voor iedereen geschikt zijn - behalve natuurlijk voor de vijand.

Skynet in elkaar zetten

Alle verschillende componenten van het Strategic Computer Initiative maakten deel uit van een groter hypothetisch systeem dat de aard van oorlog in de 21e eeuw radicaal zou kunnen veranderen.

Stel je een wereldwijd draadloos netwerk voor dat vele andere ondergeschikte netwerken in het Amerikaanse leger bestuurt. Stel je legers van robottanks voor die praten met zwermen drones in de lucht en onbemande onderzeeërs op zee - en de interactie tussen hen is veel sneller dan welke menselijke commandant dan ook. Stel je nu voor dat dit alles veel gecompliceerder is en met nucleaire raketten in afwachting van lancering in de ruimte.

Het concept van het Strategic Computer Initiative was ongelooflijk gedurfd, en toch een beetje ongewoon als je bedenkt hoe ver het ons zou kunnen brengen. De logica van de verdere ontwikkeling van artificiële intelligentie en het wereldwijde netwerk van killer machines is goed voor te stellen, al was het maar omdat we het al ontelbare keren hebben gezien in boeken en films.

De toekomst van oorlog en vrede

Het strategische computerinitiatief in de vroege jaren 90 werd uiteindelijk vernietigd door het besef dat het simpelweg onmogelijk was om krachtige kunstmatige intelligentie te creëren zoals degene die DARPA voor ogen had. Maar als al deze technologieën en technische innovaties die in de jaren tachtig zijn ontwikkeld ons vreemd bekend voorkomen, komt dat omdat ze aan het begin van de 21e eeuw in de media praten en schrijven.

Visiesystemen van een autonoom grondvoertuig hebben hun belichaming gevonden in Atlas-robots van Boston Dynamics. We kunnen zien dat een spraakherkenningssysteem zoals Siri van de "pilotenassistent" wordt gebruikt in de Amerikaanse luchtmacht. En autonome auto's worden getest door Google, samen met vele andere bedrijven. Dit zijn allemaal technologieën voor de oorlogen van de toekomst. En als je Google gelooft, dan is dit ook de technologie van de wereld van de toekomst.

Google kocht onlangs Boston Dynamics, wat degenen die zich zorgen maakten over een toekomst met legers van onafhankelijke robots verraste. Google zegt dat Boston Dynamics al zijn oude contracten met militaire klanten zal nakomen, maar geen nieuwe zal aangaan.

Maar of Google nu wel of niet orders van het leger accepteert (wat heel goed mogelijk is, aangezien ze het in het geheim kunnen doen, met geld uit hun "zwarte" budget), het lijdt geen twijfel dat de grens tussen civiele en militaire technologie altijd vervaagd is geweest. Als Boston Dynamics nooit meer samenwerkt met organisaties als DARPA, maar Google profiteert van door het leger gefinancierd onderzoek, dan kan waarschijnlijk worden gezegd dat het systeem werkt.

Het leger kreeg wat ze wilden door robotica-onderzoek door een particulier bedrijf te duwen. En nu zullen de resultaten van deze militaire technologieën merkbaar worden in ons dagelijkse burgerleven - evenals in vele andere technologieën, waaronder internet.

In werkelijkheid is dit artikel slechts een druppel op een gloeiende plaat van de ideeën die de Advanced Research and Development Directorate in het kader van SKI heeft uitgebroed. Laten we hopen dat door door te gaan met het verkennen van de perspectiefconcepten van gisteren, we wat historische ervaring kunnen opdoen en beter kunnen begrijpen dat onze nieuwe prestaties niet uit de lucht komen vallen. Ook dat zijn niet altijd innovaties te noemen. Dit is het resultaat van jarenlang onderzoek en miljarden dollars aan kredieten die zijn beheerd door honderden organisaties, zowel openbare als particuliere.

Uiteindelijk is het Strategic Computing Initiative niet ontmanteld uit angst voor wat het onze wereld zou kunnen brengen. Het is alleen zo dat de technologieën voor de implementatie zich niet snel genoeg ontwikkelden - dit geldt voor kunstmatige intelligentie en autonome voertuigen. Maar in de twintig jaar sinds de stopzetting van SKI zijn al deze ontwikkelingen op het gebied van slimme machines doorgegaan.

Een toekomst met zeer intelligente en onderling verbonden robots is bijna reëel. We hoeven niet van hem te houden, maar we kunnen niet zeggen dat niemand ons voor hem heeft gewaarschuwd.