Perspektiewe van "iskin" in die bestuur van die mensdom

2024 Outeur: Seth Attwood | [email protected]. Laas verander: 2023-12-16 15:56

Wat gebeur as jy kunsmatige intelligensie vertrou om mense te beheer? In ons wetgewing weerspreek 99% van wette mekaar. Logies moet daar 'n ineenstorting van krag wees en 'n stop van die beheerstelsel …

Kom ons dink nou aan die plek wat kunsmatige intelligensie(hierna - iskin) sal in ons lewe neem wanneer (indien) dit uitgevind en toegepas word. Ek stel voor om nie oor die innerlike aard daarvan te stry nie. Laat dit net 'n baie gevorderde algoritme wees wat die vermoë het om met Big Data te werk, en in staat is om op soortgelyke wyse die gedragspatrone van regte mense te kopieer. Maar, as jy wil, laat dit wat bespreek word 'n regte man wees, soos jy dit self verstaan.

Die hoofvraag hier is dit. Waar pas ons hierdie Hammer of Thor toe sodra ons dit ontvang het? En in beginsel is daar geen twyfel dat dit gemaak kan word nie. Ons kan digitale slypmasjiene doen, selflerende algoritmes ook, groot datum opgehoop - alles is daar.

Sê, in die bestuur van tegniese stelsels, byvoorbeeld, individuele vervoer-eenhede? - Wel, kamon … Hoekom 'n slim en komplekse stelsel maak om dit toe te vertrou wat die perd kan hanteer? Daar sal genoeg en 'n primitiewe algoritme op 'n verwerker wees vir 10 dollar per emmer, die probleem met vervoerbestuur is slegs in die verkryging van data en in etiese kwessies. Wat dan? Dink aan vyftien sekondes.

Na my mening is daar net een die regte ding vir 'n iskin is om mense te bestuur … Meer presies, die prosesse waarin mense deel is. Dit is om 'n aantal redes geen sin om vir minder te ruil nie. Elke persoon is gereed om mense te bestuur sonder enige spesiale opleiding. Byvoorbeeld, ons vertrou almal heeltemal om ons eie kinders te bestuur. Byna almal in die spanne het ook ten minste 'n mate van bestuurservaring gehad. Ten minste op die vlak "gooi nog een graaf in die draagbaar, en ons sal dit dra." As almal 'n persoon is in beginsel in staat om mense te bestuur, dan moet 'n KI dit kan doen, anders is dit 'n verstandelik gestremde intellek.

Die resultate van die bestuur van mense is egter ver van ideaal. Enige werklike beheer is 'n reeks foute en onakkuraathede. Boonop hang die aantal foute amper nie af van die vlak van die bestuurder nie; dit is 'n sekere konstante. Dis net dat die voorman van die laaiers geringe foute maak, en die goewerneur kry die reg om foute te maak wat ernstige gevolge inhou. Ons verstaan dit. "Ons moes verkeerd gedoen het" is die hoofresultaat van die weerspieëling van die omringende wêreld, insluitend onsself.

En nou, in ons hande is 'n KI wat veronderstel is om dit te "doen". En ons sal dit dadelik toepas, want die probleem wat dit teoreties kan oplos, is die belangrikste een. En Jamshut met drie klasse van onderwys is ook in staat om 'n vragmotor te bestuur.

As jy met my saamstem hieroor, laat ons dan voortgaan om die funksionaliteit van die kunsmatige vel wat bedoel is om te bestuur, aan te bied. Wie se funksies moet hy verrig, wie moet hy vervang of ten minste versterk met sy besluite?

Dit is duidelik dat dit amptenare sal wees (beide in openbare administrasie en in besigheid). Amptenare neem besluite. Amptenare word op alle vlakke van bevoegdheid aanvaar. Amptenare is vandag belangrik en nodig, want besluite sal nie vanself neem nie. Maar daar is een punt.

Kom ons kyk na elke bestuurder (dit is elke amptenaar) vanuit die oogpunt van die letterlike inhoud van sy praktiese aktiwiteite. Maar nie in die sin van sy motiverings nie – die argetipe van motiverings behoort as 't ware nie te wees nie.’n Amptenaar keur óf transaksies goed óf kanselleer transaksies wat deur’n ander amptenaar goedgekeur is.

In 'n ideale masjien moet alle transaksies onvoorwaardelik goedgekeur word en geen transaksies kan gekanselleer word nie omdat dit voorheen wetlik goedgekeur is. 'n Belangrike faktor in hierdie stelsel is dat transaksies vanuit die "swart boks" aan die amptenaar voorgelê word vir oorweging. Hy word nie 'n verduideliking gegee oor hoekom so 'n transaksie uitgevoer moet word of waarom dit deur 'n ander amptenaar goedgekeur is nie. Die beheerstelsel is soos volg gebou. Hierbo kom 'n bevel in die vorm van 'n opdrag om 'n aantal transaksies uit te voer.

Let daarop dat die ideologiese struktuur van so 'n stelsel glad nie die moontlikheid impliseer om 'n transaksie wat van bo ontvang is, uit die "swart boks" te kanselleer (nie goed te keur nie). Maar in die praktyk bestaan so 'n moontlikheid altyd. En dit is sy wat twee belangrikste dinge verskaf: die mag van enige amptenaar en die inperking van sodanige mag.

Laat ek verduidelik dat enige fout (ons het hierbo gesê dat dit onvermydelik en permanent is) opgelos kan word in die opposisie van die onderliggende burokratiese massas, dan kan die gevolge van die fout tot die minimum beperk word.

In 'n teoretiese ideale bestuurstelsel behoort daar egter geen foute te wees nie, om hierdie rede word die rol van 'n amptenaar gereduseer tot die formele goedkeuring van transaksies, wat hy nie anders kan as om goed te keur nie, want dit is korrek. Dit wil sê, dit is nie nodig nie. Die vraag kom dus neer op die aanvanklike bestuursein. As dit korrek is, dan is daar geen sin in al die laer vlakke nie.

Dus, in teorie, behoort die gekonsolideerde begroting van die staat te werk. Wanneer dit aanvaar word, beteken dit dat al sy fraktale wese geopenbaar word. Elke kapillêre moet die toegewese gedeelte bloed ontvang, en in reaksie - die beoogde resultaat. Ja, heel onder is daar “maar ons het nie beton betyds afgelewer nie, en daarom …” Maar verskoon my, dit is heel onder, en die beheerapparaat bestaan uit baie vlakke wat nie aan die beton raak nie. enigsins, hulle werk met transaksies. Ek verstaan dat op die middelvlakke "beton is nie afgelewer nie" anders lyk, soos "die vise-president van die kosmodroom konstruksie het 100 miljoen gesteel, en daarom …" Ek praat hier van 'n ideale skema.

Kom ons gaan terug na ons ideale vel. Na alles, in hierdie taak moet hy dieselfde kwessies oplos - goedkeuring of verbod op transaksies. En hy kan dit doen! Nou eers sal hy alleen alle bestuursvlakke op een slag kan vervang. Immers, as hy, ter vervanging van die minister, 'n groot ministeriële vlak transaksie goedkeur, dan moet sy besluit as korrek erken word. En dit sluit in die ontleding van die hele verdere verspreiding van 'n groot transaksie tot en met die betaling van IP Pupkin om die stoep van die psigiatriese hospitaal in Kineshma te herstel.

So die hele ketting van amptenare wat verplig is om transaksies van laer vlakke wat volg vanaf die eerste goed te keur, kan veilig met dieselfde KI-algoritme vervang word. Die probleem is reeds opgelos, tot onder. Ons KI hoef nie eers gebruik te word om die hele ketting te vervang nie, die KI kanselleer eenvoudig die behoefte daaraan. Sy besluit is waar, want dit is reg. En dit bevat onmiddellik oplossings vir die hele fraktaal.

Opmerking. Enige ondergeskikte amptenaar in ons regte wêreld kan slimmer wees as 'n hoër een. Dan sal hy die besluite van die baas saboteer, en dan sal hy hom help. Dit is altyd die geval. Alle bestaande amptenare neem die plekke van hul voormalige meerderes in, behalwe die beginvlak. Maar in hierdie geval is mededinging nie ter sprake nie. Een iskin besluit alles langs die hele ketting self, hy kan homself nie weerspreek nie.

Bowendien. In ons stelsel van bestuur is daar howe wat ons die magtiging gegee het om enige van ons transaksies te kanselleer en hul eie uit te voer, ongeag ons mening daaroor. (Om 'n moordenaar in die tronk te sit, is ook 'n reëlgebonde transaksie. Die regter hier is 'n amptenaar wat 'n transaksie goedkeur of kanselleer wat na hom toe kom soos voorgeskryf uit die swart boks.) As ons idioot goed is, dan is hy beter as amptenare, want ons het aan hom die goedkeuring of kansellasie van transaksies vir hulle (vir ons) toevertrou. So dan is hy beter as die beoordelaars. Andersins blyk dit dat die besluite van die iskin deur mense uitgedaag en gekanselleer kan word. En as mense dit aanvaar, sal hulle erken dat die KI erger is as mense. Op watter grondslag vervang hy dan amptenare?

Afsluiting. Iskin sal ook nie beoordeel word nie. Weereens. As julle mense julle beste algoritme geskryf het, dit so goed herken het dat julle dit mag oor julleself gegee het, dan kan julle nie 'n nog beter algoritme skryf sodat dit die besluite van die eerste beoordeel nie. Jy sal jou beste algoritme plaas as 'n bestuurder en as 'n beoordelaar. Meer presies, die beoordelaars sal eenvoudig verdwyn. Jy sal hierdie KI volledige mag oor jou moet gee.

Terloops, die oorspronklike swart boks, van waar die aanvanklike data vir beheer na die ISK kom, kan ook gedigitaliseer word. En moet selfs gedigitaliseer word. Die gekonsolideerde begroting behoort die beste te pas. En hy doen dit ook.

Nog 'n oomblik. Of dalk iemand oor die persoon plaas wat sy besluite sou beheer sodat die foute wat byvoorbeeld weens sy onmenslikheid kan voorkom nie gebeur nie? - Dan sal alle amptenare hul posisies en hul mag behou. Hulle sal ook die reg kry om transaksies wat deur die ISK goedgekeur is te kanselleer of om gekanselleerdes goed te keur. Ai, dit lyk nie eg nie. Iskin sal 'n drukstuk verskaf van die redenasie agter sy besluit. En 'n persoon sal nie formele logika met sy gevoelens of belangstellings kan weerlê nie. Selfs in hierdie geval, as 'n lewende amptenaar geheg is aan elke manifestasie van 'n (in werklikheid, 'n enkele) daad, sal hulle hom nie kan weerstaan nie.

Jammer vir die verwarring, daar is baie gedagtes, en die lengte van die teks groei onherstelbaar.

Wanneer die ISK aangeskakel word, sal 'n volledige ineenstorting plaasvind. Nee, ek verstaan dat hulle hom eers in toetsmodus bestuur. Maar dit sal 'n profanasie wees, want dan sal dit nodig wees om die hele samelewing na te boots, met al sy verbindings as 'n geheel, nie 'n vereenvoudigde model nie, maar digitale dorsers kan dit nie doen nie.

Dan sal dit in 'n beperkte modus bekendgestel word, in die voorwaardelike Perm-gebied. Foute, ontfouting, nuwe vrystelling en produksie?

Maar vroeër of later sal die rooi lint geknip word en mense sal die motor op volle krag (met 'n hand op die skakelaar) kan beheer.

En weet jy wat gaan gebeur? Iskin sal alle transaksies heeltemal beëindig. Die “as-dan”-logika sal bots met miljoene regulatoriese norme in huidige wetgewing, wat mekaar tienduisende kere weerspreek. Finita. Ons treine sal stop, die betaling vir 'n blikkie sous in die supermark sal nie werk nie. Almal sal onmiddellik aangekla word van 'n klomp oortredings en misdade wat na die owerhede gestuur kan word, maar alle mense in die owerhede sal onderhewig wees aan onmiddellike afdanking en verhoor. Die hofuitsprake sal die eis onmiddellik uitreik. Groot afspraak, alles word oor jou geskryf. Goed, dit is die klein dingetjies. Maar hulle sal ook nie jou salaris kan oordra nie, want die kantoor skuld belasting, en die wa beboet jou.

Oordryf? Nope. Die eerste bekendstelling (met 'n hand op die skakelaar) sal beheer word, toets twee, toets twee en twintig … En eendag sal dit ten volle aangeskakel word, asof dit die volle siklus van toetse geslaag het. En dan … En ons sal die amptenare ontslaan, vrywilligers sal die situasie red.

Is dit moontlik om sulke hartseer gevolge te vermy? - Natuurlik kan jy probeer. Om dit te doen, moet 'n aantal dinge gedoen word. Vernietig 99% van die wetgewing, herwin die oorblywende 1% sonder om die baba met water uit te gooi. (Sulke dinge word gewoonlik gedoen na 'n volwaardige rewolusie met 'n volwaardige burgeroorlog. Hoe om dit in vredestyd te doen - ek het geen idee nie.) Boonop moet moraliteit herwerk word. In terme van die steel van 'n pakkie papier uit die kantoor (of om sy vrou te verneuk), is dit óf heeltemal aanvaarbaar (weerspieël in die wet), óf dit hou heeltemal 'n tydsbeperking in. Hierdie moraliteit moet in die gedagtes van die samelewing oorgedoen word. Andersins sal dit die optiese kabels begin sny, wat goedkoop, eenvoudig en effektief teen KI is. Nog 'n opsie is om hierdie iskin na 'n waarskynlike maat te gooi, laat hom sy eie hande sny. En natuurlik moet die hoër klasse nie ongerieflik raak nie. As hulle nie in staat is nie, sal hulle dit as 'n laaste kans gebruik.

Ek probeer jou nie oortuig om rekenaars te laat crash nie. Ons sal nêrens van die iskin af gaan nie. Hy sal ons inhaal, ons sal met hom moet inskakel. Kom ons probeer begryp met wat (met wie) ons in die stryd met ons lot moet tree.