Perspectieven van "iskin" in het beheer van de mensheid

2024 Auteur: Seth Attwood | [email protected]. Laatst gewijzigd: 2023-12-16 16:13

Wat gebeurt er als je kunstmatige intelligentie vertrouwt om mensen te controleren? In onze wetgeving spreken 99% van de wetten elkaar tegen. Logischerwijs zou er een ineenstorting van de macht moeten zijn en een stop van het besturingssysteem …

Laten we nu eens nadenken over de plaats waar kunstmatige intelligentie(hierna - iskin) zal ons leven innemen wanneer (indien) het wordt uitgevonden en toegepast. Ik stel voor om niet te discussiëren over de innerlijke aard ervan. Laat het gewoon een zeer geavanceerd algoritme zijn dat met Big Data kan werken en op dezelfde manier de gedragspatronen van echte mensen kan kopiëren. Maar als je wilt, laat wat er wordt besproken een echte man zijn, zoals je het zelf begrijpt.

De belangrijkste vraag hier is deze. Waar passen we deze Hamer van Thor toe zodra we hem hebben ontvangen? En in principe lijdt het geen twijfel dat het kan worden gemaakt. We kunnen digitale grinders doen, ook zelflerende algoritmen, grote data verzameld - alles is aanwezig.

Zegt u bij het beheer van technische systemen bijvoorbeeld individuele transporteenheden? - Nou, kamon … Waarom een slim en complex systeem maken om het toe te vertrouwen met wat het paard aankan? Er zal genoeg zijn en een primitief algoritme op een processor voor 10 dollar per emmer, het probleem met transportbeheer zit alleen in het verkrijgen van gegevens en in ethische kwesties. Wat dan? Denk ongeveer vijftien seconden na.

Volgens mij is er maar één het echte werk voor een iskin is het managen van mensen … Om precies te zijn de processen waar mensen deel van uitmaken. Om een aantal redenen heeft het geen zin om voor minder te ruilen. Iedereen is klaar om mensen te managen zonder enige speciale training. We vertrouwen er bijvoorbeeld volledig op dat iedereen de leiding heeft over onze eigen kinderen. Ook had bijna iedereen in de teams op zijn minst enige managementervaring. In ieder geval op het niveau "gooi nog een schop in de brancard, en we zullen het dragen." Als iedereen een mens is in principe in staat om mensen te managen, dan moet een AI dit kunnen, anders is het een verstandelijk gehandicapt intellect.

De resultaten van het managen van mensen zijn echter verre van ideaal. Elke echte controle is een reeks fouten en onnauwkeurigheden. Bovendien is het aantal fouten bijna niet afhankelijk van het niveau van de manager, het is een zekere constante. Alleen maakt de voorman van de beladers kleine fouten en krijgt de gouverneur het recht om fouten te maken die ernstige gevolgen hebben. Wij begrijpen dit. "We hadden verkeerd moeten doen" is het belangrijkste resultaat van de reflectie van de omringende wereld, inclusief onszelf.

En nu, in onze handen, is een AI die verondersteld wordt dit te doen. En we gaan het meteen toepassen, want het probleem dat het theoretisch kan oplossen is het belangrijkste. En Jamshut met drie onderwijsklassen kan ook een vrachtwagen besturen.

Als u het hierin met mij eens bent, laten we dan doorgaan met het presenteren van de functionaliteit van de kunstmatige huid die bedoeld is om te beheren. Wiens functies moet hij vervullen, wie moet hij vervangen of op zijn minst versterken met zijn beslissingen?

Het is duidelijk dat dit ambtenaren zullen zijn (zowel in het openbaar bestuur als in het bedrijfsleven). Ambtenaren nemen beslissingen. Ambtenaren worden aanvaard op alle competentieniveaus. Ambtenaren zijn tegenwoordig belangrijk en nodig, omdat beslissingen niet vanzelf worden genomen. Maar er is één punt.

Laten we elke manager (dat wil zeggen, elke ambtenaar) bekijken vanuit het oogpunt van de letterlijke inhoud van zijn praktische activiteiten. Maar niet in de zin van zijn drijfveren - het archetype van drijfveren zou dat als het ware niet moeten zijn. Een functionaris keurt transacties goed of annuleert transacties die door een andere functionaris zijn goedgekeurd.

In een ideale machine moeten alle transacties onvoorwaardelijk worden goedgekeurd en kunnen er geen transacties worden geannuleerd omdat ze eerder wettelijk zijn goedgekeurd. Belangrijk in dit systeem is dat transacties vanuit de "black box" ter overweging aan de functionaris worden voorgelegd. Hij krijgt geen uitleg waarom een dergelijke transactie moet worden uitgevoerd of waarom deze is goedgekeurd door een andere functionaris. Het besturingssysteem is als volgt opgebouwd. Hierboven komt een opdracht in de vorm van een opdracht om een aantal transacties uit te voeren.

Merk op dat de ideologische structuur van een dergelijk systeem helemaal niet de mogelijkheid inhoudt om een van bovenaf ontvangen transactie uit de "black box" te annuleren (niet goed te keuren). Maar in de praktijk bestaat zo'n mogelijkheid altijd. En zij is het die voorziet in twee belangrijkste dingen: de macht van een ambtenaar en de inperking van die macht.

Laat me uitleggen dat elke fout (we zeiden hierboven dat ze onvermijdelijk en permanent zijn) kan worden opgelost in de oppositie van de onderliggende bureaucratische massa's, dan kunnen de gevolgen van de fout worden geminimaliseerd.

In een theoretisch ideaal managementsysteem zouden er echter geen fouten mogen zijn, daarom wordt de rol van een ambtenaar gereduceerd tot de formele goedkeuring van transacties, die hij niet anders kan dan goedkeuren, omdat ze correct zijn. Dat wil zeggen, het is niet nodig. De vraag komt dus neer op het initiële managementsignaal. Als het juist is, heeft het geen zin in alle lagere niveaus.

Dus in theorie zou de geconsolideerde begroting van de staat moeten werken. Wanneer het wordt geaccepteerd, betekent dit dat al zijn fractale essentie wordt onthuld. Elke capillair moet het toegewezen deel van het bloed ontvangen, en als reactie daarop - het beoogde resultaat. Ja, helemaal onderaan zijn er "maar we hebben het beton niet op tijd geleverd, en daarom …" Maar neem me niet kwalijk, dit staat helemaal onderaan en het controleapparaat bestaat uit vele niveaus die het beton niet raken ze werken in ieder geval met transacties. Ik begrijp dat op de middelste niveaus "beton is niet geleverd" er anders uitziet, zoals "de vice-president van de cosmodrome-constructie heeft 100 miljoen gestolen, en daarom …" Ik heb het hier over een ideaal schema.

Laten we teruggaan naar onze ideale huid. In deze taak moet hij immers dezelfde problemen oplossen - goedkeuring of verbod op transacties. En dat kan hij! Alleen nu kan hij alleen alle managementniveaus tegelijk vervangen. Immers, als hij ter vervanging van de minister een grote transactie op ministerieel niveau goedkeurt, moet zijn beslissing als correct worden erkend. En het omvat de analyse van de volledige verdere distributie van een grote transactie tot aan de betaling van IP Pupkin om de veranda van het psychiatrisch ziekenhuis in Kineshma te repareren.

Dus de hele keten van ambtenaren die verplicht zijn om transacties van lagere niveaus goed te keuren die op de eerste volgen, kan veilig worden vervangen door hetzelfde AI-algoritme. Het probleem is al opgelost, tot op de bodem. Onze AI hoeft niet eens gebruikt te worden om de hele keten te vervangen, de AI maakt het simpelweg overbodig. Zijn besluit is waar omdat het juist is. En het bevat meteen oplossingen voor de hele fractal.

Opmerking. Elke ondergeschikte ambtenaar in onze echte wereld kan slimmer zijn dan een hogere. Dan zal hij de beslissingen van de baas saboteren, en dan zal hij hem helpen. Dit is altijd het geval. Alle bestaande functionarissen nemen de plaatsen in van hun voormalige superieuren, behalve het startniveau. Maar van concurrentie is in dit geval geen sprake. De ene iskin beslist alles in de hele keten zelf, hij kan zichzelf niet tegenspreken.

Bovendien. In ons bestuurssysteem zijn er rechtbanken die we de bevoegdheid hebben gegeven om al onze transacties te annuleren en hun eigen transacties uit te voeren, ongeacht onze mening daarover. (Een moordenaar in de gevangenis zetten is ook een regelgebonden transactie. De rechter is hier een ambtenaar die een transactie goedkeurt of annuleert die naar hem toekomt zoals voorgeschreven uit de zwarte doos.) Als onze idioot goed is, dan is hij beter dan ambtenaren, omdat we hem de goedkeuring of annulering van transacties voor hen (voor ons) hebben toevertrouwd. Dus dan is hij beter dan de rechters. Anders blijkt dat de beslissingen van de iskin door mensen kunnen worden aangevochten en geannuleerd. En als mensen dit accepteren, dan zullen ze toegeven dat de AI erger is dan mensen. Op welke basis vervangt hij dan ambtenaren?

Gevolgtrekking. Iskin wordt ook niet beoordeeld. Nog een keer. Als jullie mensen je beste algoritme schreven, het zo goed herkenden dat je het macht over jezelf gaf, dan kun je geen nog beter algoritme schrijven zodat het de beslissingen van het eerste beoordeelt. Je zet je beste algoritme in, zowel als manager als als rechter. Om precies te zijn, de rechters zullen gewoon verdwijnen. Je zult deze AI volledige macht over je moeten geven.

Overigens kan ook de originele black box, van waaruit de initiële gegevens voor de besturing naar de ISK komen, worden gedigitaliseerd. En moet zelfs gedigitaliseerd worden. De geconsolideerde begroting moet het beste passen. En hij doet het ook.

Nog even. Of misschien een persoon boven de persoon stellen die zijn beslissingen zou controleren, zodat de fouten die kunnen optreden als gevolg van zijn onmenselijkheid, bijvoorbeeld niet gebeuren? - Dan behouden alle ambtenaren hun positie en hun macht. Ze krijgen ook het recht om door de ISK goedgekeurde transacties te annuleren of geannuleerde transacties goed te keuren. Helaas, het ziet er niet echt uit. Iskin zal een afdruk geven van de redenering achter zijn beslissing. En een persoon zal de formele logica niet kunnen weerleggen met zijn gevoelens of interesses. Zelfs in dit geval, als een levende functionaris gehecht is aan elke manifestatie van een (in feite een enkele) handeling, zullen ze hem niet kunnen weerstaan.

Sorry voor de verwarring, er zijn veel gedachten en de lengte van de tekst wordt onherstelbaar groter.

Wanneer de ISK is ingeschakeld, zal een volledige ineenstorting plaatsvinden. Nee, ik begrijp dat ze hem eerst in teststand rijden. Maar dit zal een ontheiliging zijn, want dan zal het nodig zijn om de hele samenleving, met al haar verbindingen als geheel, na te bootsen, geen vereenvoudigd model, maar digitale dorsmachines kunnen dit niet.

Daarna wordt het gelanceerd in een beperkte modus, in het voorwaardelijke Perm Territory. Bugs, debuggen, nieuwe release en productie?

Maar vroeg of laat wordt het rode lint doorgeknipt en kunnen mensen de auto op vol vermogen (met een hand op de schakelaar) besturen.

En weet je wat er gaat gebeuren? Iskin beëindigt alle transacties volledig. De "als-dan"-logica zal botsen met miljoenen regelgevende normen in de huidige wetgeving, die elkaar tienduizenden keren tegenspreken. Finita. Onze treinen stoppen, de betaling voor een blikje makreel in de supermarkt werkt niet. Iedereen zal onmiddellijk worden beschuldigd van een heleboel strafbare feiten en misdaden die naar de autoriteiten kunnen worden gestuurd, maar alle mensen in de autoriteiten zullen worden onderworpen aan onmiddellijk ontslag en berechting. De rechterlijke uitspraken zullen de vordering onmiddellijk afgeven. Big date, alles staat over jou geschreven. Oké, dit zijn de kleine dingen. Maar ze kunnen je salaris ook niet overmaken, omdat het kantoor belasting verschuldigd is en de wagen je een boete oplegt.

overdrijven? Nee. De eerste lancering (met een hand op de schakelaar) zal worden gecontroleerd, test twee, test tweeëntwintig … En op een dag zal het volledig worden ingeschakeld, alsof het de volledige testcyclus heeft doorstaan. En dan… En we zullen de ambtenaren ontslaan, vrijwilligers zullen de situatie redden.

Is het mogelijk om zulke trieste gevolgen te vermijden? - Natuurlijk kun je het proberen. Hiervoor moeten een aantal dingen gebeuren. Vernietig 99% van de wetgeving, recycle de resterende 1% zonder de baby met water uit te gieten. (Zulke dingen worden meestal gedaan na een volwaardige revolutie met een volwaardige burgeroorlog. Hoe dat in vredestijd te doen - ik heb geen idee.) Bovendien moet de moraliteit worden herwerkt. In termen van het stelen van een pak papier van het kantoor (of het bedriegen van zijn vrouw), het is ofwel volkomen acceptabel (weerspiegeld in de wet), of het brengt een volledige tijdslimiet met zich mee. Deze moraliteit moet in de hoofden van de samenleving worden herzien. Anders begint het de optische kabels door te snijden, wat goedkoop, eenvoudig en effectief is tegen AI. Een andere optie is om deze iskin naar een waarschijnlijke partner te gooien, hem in zijn eigen handen te laten snijden. En natuurlijk mogen de hogere klassen niet ongemakkelijk worden. Als ze dat niet kunnen, gebruiken ze het als een laatste kans.

Ik probeer je niet te overtuigen om computers te laten crashen. We gaan nergens heen vanaf de iskin. Hij zal ons inhalen, we zullen met hem moeten onderhandelen. Laten we proberen te begrijpen met wat (met wie) we de strijd aan moeten gaan met ons lot.