„Iskin“perspektyvos valdant žmoniją

2024 Autorius: Seth Attwood | [email protected]. Paskutinį kartą keistas: 2023-12-16 16:11

Kas atsitiks, jei dirbtiniu intelektu patikėsite valdyti žmones? Mūsų teisės aktuose 99% įstatymų prieštarauja vienas kitam. Logiškai mąstant, turėtų įvykti galios žlugimas ir valdymo sistemos sustojimas …

Dabar pagalvokime apie vietą, kuri dirbtinis intelektas(toliau – iskin) paims į mūsų gyvenimą, kai (jei) bus sugalvotas ir pritaikytas. Siūlau nesiginčyti dėl jo vidinės prigimties. Tebūnie tai tik labai pažangus algoritmas, gebantis dirbti su Big Data ir galintis panašiai kopijuoti tikrų žmonių elgesio modelius. Bet jei nori, tegul apie ką kalbama būna tikras vyras, kaip tu pats supranti.

Pagrindinis klausimas čia yra toks. Kur pritaikysime šį Thoro plaktuką, kai jį gausime? Ir iš principo nekyla abejonių, kad tai galima padaryti. Galime padaryti skaitmeninius šlifuoklius, savarankiško mokymosi algoritmus, sukaupta didelė data - viskas yra.

Tarkime, valdant technines sistemas, pavyzdžiui, atskirus transporto vienetus? - Na, kamon… Kam kurti protingą ir sudėtingą sistemą, kad jai būtų patikėta tai, ką gali žirgas? Užteks ir primityvaus procesoriaus algoritmo už 10 dolerių už kibirą, transporto valdymo problema yra tik duomenų gavimu ir etikos klausimais. Kas tada? Pagalvokite apie penkiolika sekundžių.

Mano nuomone, yra tik vienas tikras dalykas iskin yra valdyti žmones … Tiksliau, procesai, kurių dalis yra žmonės. Nėra prasmės keistis į mažesnę kainą dėl kelių priežasčių. Kiekvienas žmogus yra pasirengęs valdyti žmones be jokio specialaus išsilavinimo. Pavyzdžiui, mes visiškai patikime, kad kiekvienas tvarkys savo vaikus. Be to, beveik visi komandose turėjo bent šiek tiek vadovavimo patirties. Bent jau lygiu „įmesk dar vieną kastuvą į neštuvus, ir mes nešime“. Jei visi žmogus iš principo sugeba valdyti žmones, tada dirbtinis intelektas turi sugebėti tai padaryti, antraip tai yra psichiškai sutrikęs intelektas.

Tačiau žmonių valdymo rezultatai toli gražu nėra idealūs. Bet kokia tikra kontrolė yra klaidų ir netikslumų serija. Be to, klaidų skaičius beveik nepriklauso nuo vadovo lygio, tai yra tam tikra konstanta. Tiesiog krautuvų meistras daro smulkias klaidas, o valdytojui suteikiama teisė daryti klaidas, kurios sukelia rimtų pasekmių. Mes tai suprantame. „Turėjome pasielgti neteisingai“– tai pagrindinis supančio pasaulio, įskaitant mus pačius, atspindžio rezultatas.

Ir dabar mūsų rankose yra AI, kuris turėtų „tai padaryti“. Ir tuoj pat pritaikysime, nes problema, kurią teoriškai gali išspręsti, yra pati svarbiausia. O Jamshutas su trijų klasių išsilavinimu taip pat moka vairuoti sunkvežimį.

Jei sutinkate su manimi šiuo klausimu, toliau pristatykime dirbtinės odos, skirtos valdyti, funkcionalumą. Kieno funkcijas jis turėtų atlikti, ką pakeisti ar bent sustiprinti savo sprendimais?

Aišku, kad tai bus pareigūnai (tiek viešojo administravimo, tiek verslo srityse). Pareigūnai priima sprendimus. Pareigūnai priimami visų lygių kompetencija. Pareigūnai šiandien svarbūs ir reikalingi, nes sprendimai nepriims patys. Bet yra vienas dalykas.

Pažvelkime į kiekvieną vadovą (tai yra į kiekvieną pareigūną) pažodinio jo praktinės veiklos turinio požiūriu. Bet ne jo motyvų prasme – motyvų archetipo, kaip sakant, neturėtų būti. Pareigūnas arba patvirtina sandorius, arba atšaukia kito pareigūno patvirtintus sandorius.

Idealioje mašinoje visi sandoriai turi būti besąlygiškai patvirtinti ir jokių operacijų negalima atšaukti, nes jos anksčiau buvo teisiškai patvirtintos. Šioje sistemoje svarbus veiksnys, kad sandoriai pareigūnui pateikiami svarstyti iš „juodosios dėžės“. Jam neteikiamas paaiškinimas, kodėl toks sandoris turi būti atliktas, kodėl jam pritarė kitas pareigūnas. Valdymo sistema sukonstruota taip. Aukščiau pateikiamas nurodymas atlikti keletą operacijų.

Atkreipkite dėmesį, kad tokios sistemos ideologinė struktūra visiškai nereiškia galimybės atšaukti (nepatvirtinti) iš viršaus, iš „juodosios dėžės“gautą sandorį. Tačiau praktikoje tokia galimybė visada egzistuoja. Ir būtent ji suteikia du svarbiausius dalykus: bet kurio pareigūno galią ir tokios galios sulaikymą.

Leiskite paaiškinti, kad bet kokios klaidos (minėjome aukščiau, kad jos yra neišvengiamos ir nuolatinės) gali būti ištirpintos opozicijoje esančioms biurokratinėms masėms, tada klaidos pasekmės gali būti sumažintos.

Tačiau teorinėje idealaus valdymo sistemoje klaidų neturėtų būti, dėl šios priežasties pareigūno vaidmuo susiaurinamas iki formalaus sandorių patvirtinimo, kuriam jis negali nepritarti, nes jie yra teisingi. Tai yra, to nereikia. Taigi klausimas susiveda į pradinį valdymo signalą. Jei tai teisinga, tai nėra prasmės visuose žemesniuose lygiuose.

Taigi teoriškai konsoliduotas valstybės biudžetas turėtų veikti. Kai jis priimamas, tai reiškia, kad atsiskleidžia visa jo fraktalinė esmė. Kiekvienas kapiliaras turi gauti paskirtą kraujo porciją, o atsakant – numatytą rezultatą. Taip, pačioje apačioje yra „bet mes nepristatėme betono laiku, todėl…“Bet atsiprašau, tai yra pačiame apačioje, o valdymo aparatas susideda iš daugybės lygių, kurie neliečia betono. iš viso jie operuoja su sandoriais. Suprantu, kad viduriniuose lygiuose "betonas nebuvo pristatytas" atrodo kitaip, pavyzdžiui, "kosmodromo statybos viceprezidentas pavogė 100 milijonų, todėl…" Aš čia apie idealią schemą.

Grįžkime prie savo idealios odos. Juk šioje užduotyje jis turi spręsti tuos pačius klausimus – sandorių tvirtinimo ar uždraudimo. Ir jis gali tai padaryti! Tik dabar jis vienas galės vienu metu pakeisti visus valdymo lygius. Juk jeigu jis, pakeisdamas ministrą, pritaria dideliam ministro lygio sandoriui, tai jo sprendimas turėtų būti pripažintas teisingu. Tai apima viso tolimesnio didelio sandorio paskirstymo iki IP Pupkin sumokėjimo, skirto Kineshmos psichiatrijos ligoninės verandos remontui, analizę.

Taigi visą grandinę pareigūnų, kurie privalo patvirtinti žemesnio lygio sandorius po pirmojo, galima saugiai pakeisti tuo pačiu AI algoritmu. Problema jau išspręsta iki pat apačios. Mūsų AI net nereikia naudoti norint pakeisti visą grandinę, AI tiesiog panaikina jos poreikį. Jo sprendimas yra teisingas, nes jis teisingas. Ir iš karto apima viso fraktalo sprendimus.

Pastaba. Bet kuris pavaldus valdininkas mūsų realiame pasaulyje gali būti protingesnis už aukštesnįjį. Tada jis sabotuos viršininko sprendimus, o tada jam padės. Taip yra visada. Visi esami pareigūnai užima buvusių vadovų vietas, išskyrus pradinį lygį. Tačiau šiuo atveju konkurencija nekalbama. Vienas iskinas pats nulemia viska visoje grandineje, negali sau prieštarauti.

Be to. Mūsų valdymo sistemoje yra teismai, kuriems suteikėme įgaliojimus atšaukti bet kokius mūsų sandorius ir atlikti savo sandorius, nepaisant mūsų nuomonės apie juos. (Žudiko pasodinimas į kalėjimą taip pat yra taisyklėmis susietas sandoris. Teisėjas čia yra pareigūnas, kuris patvirtina arba atšaukia jam pateiktą sandorį, kaip nurodyta iš juodosios dėžės.) Jeigu mūsų idiotas geras, tai jis geresnis už valdininkus, nes jam patikėjome už juos (mums) sandorių patvirtinimą ar atšaukimą. Taigi jis yra geresnis už teisėjus. Priešingu atveju paaiškėja, kad iskino sprendimus žmonės gali užginčyti ir atšaukti. Ir jei žmonės tai priims, tada jie pripažins, kad AI yra blogesnis už žmones. Tada kuo remdamasis jis pakeičia pareigūnus?

Išvada. Iskinas taip pat nebus teisiamas. Vėlgi. Jei jūs, žmonės, surašėte savo geriausią algoritmą, atpažinote jį taip gerai, kad suteikėte jam galią prieš save, tada negalite parašyti dar geresnio algoritmo, kad jis spręstų pirmojo sprendimus. Pateiksite geriausią savo algoritmą ir kaip vadovas, ir kaip teisėjas. Tiksliau, teisėjai tiesiog išnyks. Turėsite suteikti šiam AI visišką galią jums.

Beje, originalią juodąją dėžę, iš kurios į ISK ateina pirminiai duomenys valdymui, galima ir skaitmeninti. Ir netgi turi būti skaitmenizuotas. Konsoliduotas biudžetas turėtų būti tinkamiausias. Ir jis taip pat tai daro.

Dar akimirka. O gal pasodinti žmogų virš žmogaus, kuris kontroliuotų jo sprendimus, kad, pavyzdžiui, neįvyktų klaidos, kurios gali atsirasti dėl jo nežmoniškumo? – Tada visi pareigūnai išsaugos savo pareigas ir valdžią. Jiems taip pat bus suteikta teisė anuliuoti ISK patvirtintas operacijas arba patvirtinti atšauktas. Deja, tai neatrodo tikroviška. Iskinas pateiks savo sprendimo motyvų atspaudą. O formalios logikos žmogus negalės paneigti savo jausmais ar interesais. Net ir šiuo atveju, jei gyvas valdininkas prisirišęs prie kiekvienos (tiesą sakant, vieno) poelgio apraiškos, jis negalės jam atsispirti.

Atsiprašau už sumaištį, minčių daug, o teksto ilgis nepataisomai auga.

Įjungus ISK, įvyks visiškas kolapsas. Ne, aš suprantu, kad iš pradžių jie vairuoja jį bandomuoju režimu. Bet tai bus profanacija, nes tada reikės mėgdžioti visą visuomenę su visomis jos jungtimis kaip visumą, o ne supaprastintą modelį, o skaitmeniniai kūlėjai to negali padaryti.

Tada jis bus paleistas ribotu režimu sąlyginėje Permės teritorijoje. Klaidos, derinimas, naujas leidimas ir gamyba?

Tačiau anksčiau ar vėliau raudonas kaspinas bus perkirptas ir žmonės galės valdyti automobilį visu galingumu (ranka ant jungiklio).

Ir ar žinai, kas bus? „Iskin“visiškai nutrauks visas operacijas. Logika „jei-tada“susidurs su milijonais galiojančių teisės aktų reguliavimo normų, kurios viena kitai prieštarauja dešimtis tūkstančių kartų. Finita. Mūsų traukiniai sustos, atsiskaitymas už skardinę saury prekybos centre neveiks. Visi bus nedelsiant apkaltinti daugybe nusikaltimų ir nusikaltimų, kurie gali būti išsiųsti valdžios institucijoms, tačiau visi valdžios institucijose esantys žmonės bus nedelsiant atleisti ir teisiami. Teismo nutartimis ieškinys bus paskelbtas nedelsiant. Didelis pasimatymas, viskas parašyta apie tave. Gerai, tai smulkmenos. Bet atlyginimo irgi negalės pervesti, nes kontorai skolingi mokesčiai, o vagonas tau skiria baudas.

Perdedu? Ne. Pirmas paleidimas (su ranka ant jungiklio) bus valdomas, išbandyk du, išbandys dvidešimt du… Ir vieną dieną jis bus įjungtas iki galo, tarsi būtų praėjęs visą bandymų ciklą. O tada… Ir pareigūnus atleisime, situaciją išgelbės savanoriai.

Ar įmanoma tokių liūdnų pasekmių išvengti? – Žinoma, galite pabandyti. Norint tai padaryti, reikia atlikti keletą dalykų. Sunaikinti 99% teisės aktų, likusį 1% perdirbti, neišpilant kūdikio vandeniu. (Tokie dalykai dažniausiai daromi po visavertės revoliucijos su visaverčiu pilietiniu karu. Kaip tai padaryti taikos metu – neįsivaizduoju.) Be to, moralę reikėtų atidirbti. Kalbant apie popieriaus pakelio vagystę iš biuro (arba žmonos apgaudinėjimą), tai arba visiškai priimtina (atspindi įstatyme), arba visiškai apriboja laiką. Ši moralė turi būti pertvarkyta visuomenės galvose. Priešingu atveju jis pradės kirpti optinius kabelius, o tai yra pigu, paprasta ir veiksminga prieš AI. Kitas variantas – mesti šį iskiną tikėtinam partneriui, leisti jam pačiam susipjauti rankas. Ir, žinoma, aukštesnės klasės neturėtų tapti nepatogios. Jei jie negali, jie pasinaudos ja kaip paskutine galimybe.

Aš nesistengiu įtikinti jūsų, kad sugadintumėte kompiuterius. Iš iskino niekur neisime. Jis mus aplenks, mes turėsime su juo susidoroti. Pabandykime suvokti, su kuo (su kuo) turime stoti į kovą su savo likimu.