"Iskini" perspektiivid inimkonna juhtimisel

2024 Autor: Seth Attwood | [email protected]. Viimati modifitseeritud: 2023-12-16 16:03

Mis juhtub, kui usaldate inimeste kontrolli tehisintellekti? Meie seadusandluses on 99% seadustest üksteisega vastuolus. Loogiliselt võttes peaks toimuma võimsuse kokkuvarisemine ja juhtimissüsteemi seiskumine …

Mõelgem nüüd selle koha peale, mis tehisintellekt(edaspidi - iskin) võtab meie ellu siis, kui (kui) see leiutatakse ja rakendatakse. Soovitan selle sisemise olemuse üle mitte vaielda. Olgu see lihtsalt väga arenenud algoritm, mis suudab töötada Big Dataga ja suudab samamoodi kopeerida päris inimeste käitumismustreid. Aga kui tahad, siis olgu arutatav tõeline mees, nagu sa ise aru saad.

Põhiküsimus on siin see. Kuhu me seda Thori vasarat pärast kättesaamist rakendame? Ja põhimõtteliselt pole kahtlustki, et seda saab teha. Saame teha digitaalseid lihvijaid, iseõppivaid algoritme ka, suur kuupäev kogunenud - kõik on olemas.

Ütleme tehnosüsteemide, näiteks üksikute transpordiüksuste haldamisel? - Noh, kamon … Miks teha nutikat ja keerulist süsteemi, et usaldada sellele, mis hobune hakkama saab? Protsessoril jätkub primitiivset algoritmi 10 taala koppa kohta, transpordihalduse probleem on ainult andmete hankimises ja eetilistes küsimustes. Mis siis? Mõelge umbes viisteist sekundit.

Minu arvates on ainult üks tõeline asi iskini jaoks on inimeste juhtimine … Täpsemalt protsessid, milles inimesed on osalised. Vähema vastu pole mõtet vahetada mitmel põhjusel. Iga inimene on valmis inimesi juhtima ilma eriväljaõppeta. Näiteks usaldame me täielikult kõiki oma lastega ise hakkama saama. Samuti oli peaaegu kõigil meeskondades vähemalt mõningane juhtimiskogemus. Vähemalt tasemel "viska veel üks labidas kanderaamile ja me kanname seda." Kui kõik inimene on põhimõtteliselt võimeline inimesi juhtima, siis tehisintellekt peab seda suutma, vastasel juhul on tegemist vaimse puudega intellektiga.

Inimeste juhtimise tulemused pole aga kaugeltki ideaalsed. Igasugune tõeline kontroll on vigade ja ebatäpsuste jada. Veelgi enam, vigade arv peaaegu ei sõltu juhi tasemest, see on teatud konstant. Lihtsalt laadurite töödejuhataja teeb väiksemaid vigu ja kubernerile antakse õigus teha vigu, mis toovad kaasa tõsiseid tagajärgi. Me mõistame seda. "Me oleksime pidanud valesti tegema" on ümbritseva maailma, sealhulgas meie enda peegelduse peamine tulemus.

Ja nüüd on meie käes AI, mis peaks seda tegema. Ja me rakendame seda kohe, sest probleem, mida see teoreetiliselt lahendada saab, on kõige olulisem. Ja kolme klassi haridusega Jamshut oskab ka veoautot juhtida.

Kui olete minuga selles osas nõus, siis jätkame majandamiseks mõeldud kunstnaha funktsionaalsuse tutvustamist. Kelle funktsioone ta peaks täitma, keda asendama või vähemalt oma otsustega tugevdama?

On selge, et tegemist on ametnikega (nii avalikus halduses kui ka ettevõtluses). Ametnikud teevad otsuseid. Ametnikke võetakse vastu kõigil pädevustasanditel. Ametnikud on täna olulised ja vajalikud, sest otsused ei lange iseenesest. Kuid on üks punkt.

Vaatame iga juhti (ehk iga ametnikku) tema praktilise tegevuse sõnasõnalise sisu seisukohalt. Aga mitte tema motivatsioonide mõttes – motivatsioonide arhetüüpi justkui ei tohiks olla. Ametnik kas kinnitab tehingud või tühistab teise ametniku poolt kinnitatud tehingud.

Ideaalses masinas peavad kõik tehingud olema tingimusteta kinnitatud ja ühtegi tehingut ei saa tühistada, kuna need olid eelnevalt seaduslikult kinnitatud. Oluline tegur selles süsteemis on see, et tehingud esitatakse ametnikule "mustast kastist" kaalumiseks. Talle ei anta selgitust, miks selline tehing peaks toimuma või miks selle heaks kiitis mõni teine ametnik. Juhtimissüsteem on üles ehitatud järgmiselt. Eespool on korraldus korralduse vormis mitmete tehingute tegemiseks.

Pange tähele, et sellise süsteemi ideoloogiline ülesehitus ei tähenda sugugi võimalust ülalt, "mustast kastist" saadud tehing tühistada (mitte kinnitada). Kuid praktikas on selline võimalus alati olemas. Ja just tema annab kaks kõige olulisemat asja: iga ametniku võimu ja sellise võimu ohjeldamise.

Lubage mul selgitada, et iga vea (meie eespool ütlesime, et need on vältimatud ja püsivad) saab lahustada aluseks oleva bürokraatliku massi vastandumisel, siis saab vea tagajärgi minimeerida.

Teoreetilises ideaalses juhtimissüsteemis ei tohiks aga vigu olla, seetõttu taandub ametniku roll tehingute formaalsele kinnitamisele, mida ta ei saa jätta heaks kiitmata, sest need on õiged. See tähendab, et selleks pole vajadust. Seega taandub küsimus esialgsele juhtimissignaalile. Kui see on õige, siis pole kõigil madalamatel tasemetel mõtet.

Nii et teoreetiliselt peaks riigi koondeelarve toimima. Kui see on vastu võetud, tähendab see, et kogu selle fraktaalsisu paljastatakse. Iga kapillaar peab saama määratud osa verd ja vastuseks - soovitud tulemuse. Jah, päris allosas on "aga me ei tarninud betooni õigel ajal ja seetõttu …" Aga vabandust, see on kõige põhjas ja juhtimisaparaat koosneb paljudest tasanditest, mis betooni ei puuduta. üldse tegutsevad nad tehingutega. Ma saan aru, et keskmistel tasanditel näeb "betooni tarnimata" välja teistsugune, nagu "kosmodroomi ehituse asepresident varastas 100 miljonit ja seetõttu …" Ma räägin siin ideaalsest skeemist.

Lähme tagasi oma ideaalse naha juurde. Lõppude lõpuks peab ta selles ülesandes lahendama samu küsimusi - tehingute kinnitamist või keelamist. Ja ta saab seda teha! Alles nüüd suudab ta üksi asendada korraga kõik juhtimistasandid. Kui ta ministrit asendades kiidab heaks suure ministritaseme tehingu, siis tuleks tema otsust õigeks tunnistada. Ja see hõlmab suure tehingu kogu edasise levitamise analüüsi kuni IP Pupkini tasumiseni Kineshma psühhiaatriahaigla veranda remontimiseks.

Seega võib terve ametnike ahela, kes on kohustatud esimesest peale heaks kiitma madalama taseme tehinguid, turvaliselt asendada sama tehisintellekti algoritmiga. Probleem on juba lahendatud, kuni põhjani. Meie AI-d ei pea isegi kasutama kogu ahela asendamiseks, AI lihtsalt tühistab selle vajaduse. Tema otsus on tõsi, sest see on õige. Ja see sisaldab kohe lahendusi kogu fraktaali jaoks.

Märkus. Iga alluv ametnik meie pärismaailmas võib olla targem kui kõrgem. Siis saboteerib ta ülemuse otsuseid ja siis aitab teda. See on alati nii. Kõik olemasolevad ametnikud asuvad endiste ülemuste kohtadele, välja arvatud algtase. Kuid sel juhul ei tule konkurents kõne allagi. Üks iskin otsustab kogu ahela ulatuses kõik ise, ta ei saa iseendaga vastuollu minna.

Enamgi veel. Meie valitsemissüsteemis on kohtud, kellele oleme andnud volitused kõik meie tehingud tühistada ja teha oma tehinguid, olenemata meie arvamusest nende kohta. (Mõrvari vanglasse panemine on samuti reeglitega seotud tehing. Kohtunik on siin ametnik, kes kiidab heaks või tühistab talle saabuva tehingu, nagu mustast kastist ette nähtud.) Kui meie idioot on hea, siis ta on parem kui ametnikud, sest temale usaldasime nende (meie jaoks) tehingute kinnitamise või tühistamise. Nii et siis on ta parem kui kohtunikud. Vastasel juhul selgub, et iskini otsuseid saavad inimesed vaidlustada ja tühistada. Ja kui inimesed sellega nõustuvad, tunnistavad nad, et AI on inimestest hullem. Mille alusel ta siis ametnikke välja vahetab?

Järeldus. Iskinit ka kohut ei mõisteta. Jällegi. Kui teie, inimesed, kirjutasite oma parima algoritmi, tundsite selle nii heaks, et andsite sellele võimu enda üle, siis ei saa te kirjutada veel paremat algoritmi, et see hindaks esimese otsuseid. Paned oma parima algoritmi nii juhi kui ka kohtunikuna. Täpsemalt öeldes kaovad kohtunikud lihtsalt ära. Peate andma sellele tehisintellektile täieliku võimu enda üle.

Muide, originaalset musta kasti, kust tulevad kontrolli algandmed ISK-sse, saab ka digitaliseerida. Ja isegi tuleb digitaliseerida. Konsolideeritud eelarve peaks kõige paremini sobima. Ja ta teeb seda ka.

Veel üks hetk. Või äkki panna inimene üle inimese, kes tema otsuseid kontrolliks, et ei juhtuks näiteks tema ebainimlikkusest tulenevaid vigu? - Siis säilitavad kõik ametnikud oma ametikohad ja võimu. Samuti antakse neile õigus tühistada ISK poolt kinnitatud tehinguid või kinnitada tühistatud tehinguid. Paraku ei näe see päris välja. Iskin väljastab oma otsuse põhjendused. Ja formaalset loogikat ei saa inimene oma tunnete ega huvidega ümber lükata. Isegi sel juhul, kui elav ametnik on kiindunud iga (tegelikult ühe) teo ilmingu külge, ei suuda nad talle vastu seista.

Vabandan segaduse pärast, mõtteid on palju ja teksti pikkus kasvab pöördumatult.

Kui ISK on sisse lülitatud, toimub täielik kokkuvarisemine. Ei, ma saan aru, et alguses sõidavad nad temaga testrežiimis. Kuid see on rüvetamine, sest siis on vaja jäljendada kogu ühiskonda koos kõigi selle seostega tervikuna, mitte lihtsustatud mudelit, kuid digitaalsed viljapeksjad ei saa seda teha.

Seejärel käivitatakse see piiratud režiimis tingimuslikul Permi territooriumil. Vead, silumine, uus väljalase ja tootmine?

Aga varem või hiljem lõigatakse punane lint läbi ja inimesed saavad autot täisvõimsusel (käega lülitil) juhtida.

Ja kas sa tead, mis juhtuma hakkab? Iskin lõpetab kõik tehingud üldse. “Kui-siis” loogika põrkab kokku miljonite kehtiva seadusandluse regulatiivsete normidega, mis on üksteisele kümneid tuhandeid kordi vastuolus. Finita. Meie rongid peatuvad, supermarketis saurypurgi eest tasumine ei toimi. Kõigile esitatakse koheselt süüdistus hunnikus süütegudes ja kuritegudes, mis võidakse saata võimudele, kuid kõik võimuesindajad kuuluvad koheselt vallandamisele ja kohtu alla andmisele. Kohtumäärustega antakse nõue välja kohe. Suur kohting, sinust on kõik kirjutatud. Olgu, need on väikesed asjad. Aga nad ei saa ka sinu palka üle kanda, sest kontor on maksuvõlgu ja vagun trahvib sind.

Liialdades? Ei. Esimest käivitamist (käega lülitil) juhitakse, katsetatakse kahte, testitakse kakskümmend kaks … Ja ühel päeval lülitatakse see täielikult sisse, nagu oleks see läbinud kogu katsetsükli. Ja siis … Ja me vallandame ametnikud, vabatahtlikud päästavad olukorra.

Kas selliseid kurbi tagajärgi on võimalik vältida? - Muidugi võid proovida. Selleks tuleb teha mitmeid asju. Hävitage 99% seadustest, ülejäänud 1% taaskasutage ilma last veega välja valamata. (Tavaliselt tehakse selliseid asju pärast täieõiguslikku revolutsiooni koos täieõigusliku kodusõjaga. Kuidas rahuajal – pole õrna aimugi.) Lisaks tuleks moraal ümber töötada. Kontorist paberipaki varastamise (või naise petmise) mõttes on see kas täiesti vastuvõetav (see kajastub seaduses) või kaasneb sellega täiesti ajaline piirang. See moraal tuleb ühiskonna mõtetes ümber teha. Vastasel juhul hakkab see optilisi kaableid lõikama, mis on odav, lihtne ja tõhus AI vastu. Teine võimalus on visata see iskin tõenäolisele partnerile, lasta tal endal käed lõigata. Ja loomulikult ei tohiks kõrgemad klassid ebamugavaks muutuda. Kui nad seda ei suuda, kasutavad nad seda viimase võimalusena.

Ma ei ürita teid veenda arvutite kokkujooksmises. Iskinist me kuhugi ei lähe. Ta saab meist mööda, me peame temaga suhtlema. Püüdkem aru saada, millega (kellega) peame oma saatusega lahingusse astuma.