Insoniyatni boshqarishda "iskin" istiqbollari

2024 Muallif: Seth Attwood | [email protected]. Oxirgi o'zgartirilgan: 2023-12-16 16:19

Odamlarni boshqarish uchun sun'iy intellektga ishonsangiz nima bo'ladi? Qonunchiligimizda qonunlarning 99 foizi bir-biriga zid. Mantiqan, hokimiyatning qulashi va boshqaruv tizimining to'xtashi kerak …

Endi bu joy haqida o'ylab ko'raylik sun'iy intellekt(keyingi o'rinlarda - iskin) ixtiro qilingan va qo'llanilganda (agar) hayotimizga kiradi. Men uning ichki tabiati haqida bahslashmaslikni taklif qilaman. Bu Big Data bilan ishlash qobiliyatiga ega bo'lgan va haqiqiy odamlarning xatti-harakatlarini xuddi shunday nusxalashga qodir bo'lgan juda ilg'or algoritm bo'lsin. Ammo, agar xohlasangiz, muhokama qilinayotgan narsa o'zingiz tushunganingizdek, haqiqiy erkak bo'lsin.

Bu erda asosiy savol shu. Ushbu Hammer of Thor uni olganimizdan keyin qayerda qo'llaymiz? Va printsipial jihatdan, buni amalga oshirish mumkinligiga shubha yo'q. Biz raqamli maydalagichlarni, o'z-o'zini o'rganish algoritmlarini ham qila olamiz, to'plangan katta sana - hamma narsa mavjud.

Aytaylik, texnik tizimlarni boshqarishda, masalan, alohida transport birliklari? - Xo'sh, kamon … Nima uchun otning qo'lidan kelganini ishonib topshirish uchun aqlli va murakkab tizim qilish kerak? Bir chelak uchun 10 dollar uchun protsessorda etarli va ibtidoiy algoritm bo'ladi, transportni boshqarish bilan bog'liq muammo faqat ma'lumotlarni olishda va axloqiy masalalarda. Keyin nima? O'n besh soniya o'ylab ko'ring.

Menimcha, faqat bitta iskin uchun haqiqiy narsa odamlarni boshqarishdir … Aniqroq aytganda, odamlar ishtirok etadigan jarayonlar. Bir qator sabablarga ko'ra kamroq narsaga almashtirishning ma'nosi yo'q. Har bir inson hech qanday maxsus tayyorgarliksiz odamlarni boshqarishga tayyor. Misol uchun, biz hammaga o'z farzandlarimizni boshqarishiga to'liq ishonamiz. Bundan tashqari, jamoalardagi deyarli har bir kishi kamida boshqaruv tajribasiga ega edi. Hech bo'lmaganda "nosilkaga yana bitta belkurak tashlang, biz uni olib ketamiz". Agar hamma inson printsipial jihatdan odamlarni boshqarishga qodir, keyin AI buni qila olishi kerak, aks holda bu aqliy zaiflashgan intellektdir.

Biroq, odamlarni boshqarish natijalari idealdan uzoqdir. Har qanday haqiqiy nazorat bir qator xatolar va noaniqliklardir. Bundan tashqari, xatolar soni deyarli menejer darajasiga bog'liq emas, bu ma'lum bir doimiydir. Shunchaki, yuk ko'taruvchilar brigadiri kichik xatolarga yo'l qo'yadi va hokimga jiddiy oqibatlarga olib keladigan xatolarga yo'l qo'yish huquqi beriladi. Biz buni tushunamiz. "Biz noto'g'ri qilishimiz kerak edi" - bu atrofdagi dunyoni, shu jumladan o'zimizni aks ettirishning asosiy natijasidir.

Va endi, bizning qo'limizda "shunday qilish" kerak bo'lgan AI. Va biz uni darhol qo'llaymiz, chunki u nazariy jihatdan hal qila oladigan muammo eng muhimi. Uch sinf ma’lumotli Jamshut esa yuk mashinasini haydashga ham qodir.

Agar siz bu borada men bilan rozi bo'lsangiz, keling, boshqarish uchun mo'ljallangan sun'iy terining funksionalligini taqdim etishda davom etaylik. U kimning funktsiyalarini bajarishi, kimni almashtirishi yoki hech bo'lmaganda o'z qarorlari bilan kuchaytirishi kerak?

Bular (davlat boshqaruvida ham, biznesda ham) mansabdor shaxslar bo'lishi aniq. Rasmiylar qaror qabul qiladi. Vakillar barcha vakolat darajalarida qabul qilinadi. Rasmiylar bugungi kunda muhim va zarurdir, chunki qarorlar o'z-o'zidan qabul qilinmaydi. Lekin bir nuqta bor.

Har bir rahbar (ya’ni har bir mansabdor shaxs)ga uning amaliy faoliyatining tom ma’nodagi mazmuni nuqtai nazaridan qaraylik. Ammo uning motivlari ma'nosida emas - motivlar arxetipi, go'yo bo'lmasligi kerak. Mansabdor shaxs bitimlarni tasdiqlaydi yoki boshqa mansabdor shaxs tomonidan tasdiqlangan bitimlarni bekor qiladi.

Ideal mashinada barcha tranzaktsiyalar so'zsiz tasdiqlanishi kerak va hech qanday bitimlar bekor qilinishi mumkin emas, chunki ular ilgari qonuniy ravishda tasdiqlangan. Bu tizimdagi muhim omil shundan iboratki, bitimlar mansabdor shaxsga ko‘rib chiqish uchun “qora quti”dan taqdim etiladi. Unga nima uchun bunday bitimni amalga oshirish kerakligi va nima uchun boshqa mansabdor shaxs tomonidan tasdiqlanganligi haqida tushuntirish berilmaydi. Nazorat tizimi quyidagicha qurilgan. Yuqorida bir qator operatsiyalarni amalga oshirish bo'yicha ko'rsatma shaklida buyruq keladi.

E'tibor bering, bunday tizimning mafkuraviy tuzilishi yuqoridan, "qora quti" dan olingan bitimni bekor qilish (tasdiqlamaslik) imkoniyatini umuman anglatmaydi. Ammo amalda bunday imkoniyat doimo mavjud. Va u ikkita eng muhim narsani ta'minlaydi: har qanday mansabdor shaxsning kuchi va bunday hokimiyatni ushlab turish.

Tushuntirishga ijozat bering, har qanday xato (yuqorida ular muqarrar va doimiy ekanligini aytdik) uning tagida yotgan byurokratik ommaning qarama-qarshiligida eritilishi mumkin, shunda xatoning oqibatlarini minimallashtirish mumkin.

Biroq, nazariy ideal boshqaruv tizimida hech qanday xato bo'lmasligi kerak, shuning uchun mansabdor shaxsning roli bitimlarni rasmiy tasdiqlashga qisqartiriladi, u ma'qullay olmaydi, chunki ular to'g'ri. Ya'ni, bunga hojat yo'q. Shunday qilib, savol dastlabki boshqaruv signaliga tushadi. Agar u to'g'ri bo'lsa, unda barcha quyi darajalarda hech qanday ma'no yo'q.

Demak, nazariy jihatdan davlatning konsolidatsiyalangan byudjeti ishlashi kerak. Qabul qilinganda, bu uning barcha fraktal mohiyati ochilganligini anglatadi. Har bir kapillyar qonning belgilangan qismini olishi kerak va bunga javoban - kutilgan natija. Ha, eng pastki qismida "lekin biz betonni o'z vaqtida etkazib bermadik, shuning uchun …" bor, lekin kechirasiz, bu eng pastda va boshqaruv apparati betonga tegmaydigan ko'p darajalardan iborat. umuman olganda, ular tranzaktsiyalar bilan ishlaydi. Tushundimki, o‘rta bo‘g‘inlarda “beton yetkazib berilmadi” boshqacha ko‘rinadi, masalan, “kosmodrom qurilishi vitse-prezidenti 100 millionni o‘g‘irladi, shuning uchun…” Men bu yerda ideal sxema haqida gapiryapman.

Keling, ideal terimizga qaytaylik. Axir, bu vazifada u bir xil masalalarni hal qilishi kerak - bitimlarni tasdiqlash yoki taqiqlash. Va u buni qila oladi! Faqat endigina u bir vaqtning o'zida boshqaruvning barcha darajalarini almashtira oladi. Axir, agar vazirni almashtirib, vazirlik darajasidagi yirik bitimni ma'qullasa, uning qarori to'g'ri deb tan olinishi kerak. Va u Kineshmadagi psixiatriya shifoxonasining ayvonini ta'mirlash uchun IP Pupkin to'lovigacha bo'lgan yirik bitimning keyingi taqsimlanishini tahlil qilishni o'z ichiga oladi.

Shunday qilib, birinchidan keyingi past darajadagi operatsiyalarni tasdiqlashi shart bo'lgan mansabdor shaxslarning butun zanjiri bir xil AI algoritmi bilan xavfsiz almashtirilishi mumkin. Muammo allaqachon tubdan hal qilingan. Bizning AI-ni butun zanjirni almashtirish uchun ishlatish shart emas, AI shunchaki unga bo'lgan ehtiyojni bekor qiladi. Uning qarori to'g'ri, chunki bu to'g'ri. Va u darhol butun fraktal uchun echimlarni o'z ichiga oladi.

Izoh. Bizning haqiqiy dunyomizdagi har qanday bo'ysunuvchi amaldor yuqoriroqdan aqlliroq bo'lishi mumkin. Keyin u boshliqning qarorlarini buzadi, keyin esa unga yordam beradi. Bu har doim shunday bo'ladi. Barcha mavjud amaldorlar o'zlarining sobiq rahbarlarining o'rnini egallashadi, boshlang'ich darajadan tashqari. Ammo bu holatda raqobat haqida gap bo'lishi mumkin emas. Bitta iskin butun zanjir bo'ylab hamma narsani o'zi hal qiladi, u o'ziga qarshi chiqa olmaydi.

Bundan tashqari. Bizning boshqaruv tizimimizda sudlar mavjud bo'lib, ular haqidagi fikrimizdan qat'i nazar, biz har qanday bitimimizni bekor qilish va o'z bitimlarini amalga oshirish vakolatini berganmiz. (Qotilni qamoqqa tashlash ham qoidaga bog'liq bitimdir. Bu erda sudya qora qutida ko'rsatilganidek, unga kelgan bitimni tasdiqlaydigan yoki bekor qiladigan mansabdor shaxsdir.) Agar bizning ahmoq yaxshi bo'lsa, demak, u amaldorlardan yaxshiroqdir, chunki biz unga ular uchun bitimlarni tasdiqlash yoki bekor qilishni ishonib topshirdik (biz uchun). Demak, u hakamlardan yaxshiroq. Aks holda, iskin qarorlari odamlar tomonidan e'tiroz va bekor qilinishi mumkinligi ma'lum bo'ldi. Va agar odamlar buni qabul qilsalar, ular AI odamlardan ham yomonroq ekanligini tan olishadi. Keyin u mansabdor shaxslarni nimaga asoslanib almashtiradi?

Xulosa. Ishkin ham hukm qilinmaydi. Yana bir marta. Agar siz odamlar o'zingizning eng yaxshi algoritmingizni yozgan bo'lsangiz, uni shunchalik yaxshi tan olgan bo'lsangiz, unga o'zingiz ustidan hokimiyat bergan bo'lsangiz, unda siz birinchisining qarorlarini hukm qilish uchun undan ham yaxshiroq algoritm yozolmaysiz. Siz o'zingizning eng yaxshi algoritmingizni menejer sifatida ham, sudya sifatida ham qo'yasiz. Aniqrog'i, hakamlar shunchaki yo'q bo'lib ketishadi. Ushbu AIga sizning ustingizda to'liq kuch berishingiz kerak bo'ladi.

Aytgancha, nazorat qilish uchun dastlabki ma'lumotlar ISKga tushadigan asl qora quti ham raqamlashtirilishi mumkin. Va hatto raqamlashtirilgan bo'lishi kerak. Konsolidatsiyalangan byudjet eng mos bo'lishi kerak. Va u ham qiladi.

Yana bir lahza. Yoki, masalan, uning g'ayriinsoniyligi tufayli sodir bo'lishi mumkin bo'lgan xatolar sodir bo'lmasligi uchun, ehtimol, uning qarorlarini nazorat qiladigan odamdan ustun qo'yish mumkinmi? - Shunda barcha mansabdor shaxslar o‘z lavozimlari va hokimiyatini saqlab qoladilar. Shuningdek, ularga ISK tomonidan tasdiqlangan operatsiyalarni bekor qilish yoki bekor qilinganlarini tasdiqlash huquqi beriladi. Afsuski, bu haqiqiy emas. Ishkin o'z qarorining sababini chop etishni ta'minlaydi. Va inson o'z his-tuyg'ulari yoki manfaatlari bilan rasmiy mantiqni rad eta olmaydi. Bunday holatda ham, agar tirik amaldor biron bir (aslida bitta) harakatning har bir ko'rinishiga bog'langan bo'lsa, ular unga qarshilik ko'rsata olmaydilar.

Chalkashlik uchun uzr so'raymiz, fikrlar juda ko'p va matn uzunligi tuzatib bo'lmaydigan darajada o'sib bormoqda.

ISK yoqilganda, to'liq qulash sodir bo'ladi. Yo'q, avvaliga ular uni sinov rejimida haydashlarini tushunaman. Ammo bu profanatsiya bo'ladi, chunki u holda soddalashtirilgan modelga emas, balki butun jamiyatga, uning barcha aloqalari bilan taqlid qilish kerak bo'ladi, ammo raqamli xirmonlar buni qila olmaydi.

Keyin u cheklangan rejimda, shartli Perm o'lkasida ishga tushiriladi. Xatolar, disk raskadrovka, yangi nashr va ishlab chiqarish?

Ammo ertami-kechmi qizil lenta kesiladi va odamlar mashinani to'liq quvvatda (qo'lni kalitda) boshqarishi mumkin bo'ladi.

Va nima bo'lishini bilasizmi? Ishkin barcha operatsiyalarni butunlay bekor qiladi. "Agar - keyin" mantig'i amaldagi qonunchilikdagi bir-biriga o'n minglab marta zid bo'lgan millionlab tartibga soluvchi me'yorlar bilan to'qnashadi. Finita. Poyezdlarimiz to‘xtaydi, supermarketda bir banka saur uchun to‘lov ishlamaydi. Har bir inson darhol hokimiyatga yuborilishi mumkin bo'lgan bir qator jinoyatlar va jinoyatlarda ayblanadi, ammo hokimiyatdagi barcha odamlar darhol ishdan bo'shatilishi va sudga tortilishi kerak. Sud qarorlari da'voni darhol chiqaradi. Katta sana, hamma narsa siz haqingizda yozilgan. OK, bu kichik narsalar. Lekin ular ham maoshingizni o'tkaza olmaydilar, chunki idora soliqdan qarzdor, vagon esa jarima soladi.

Mubolag'asizmi? Yoq. Birinchi ishga tushirish (qo'l tugmasi bilan) nazorat qilinadi, ikkita sinovdan o'tkaziladi, yigirma ikkita sinovdan o'tkaziladi … Va bir kun u to'liq sinovdan o'tgandek, to'liq yoqiladi. Va keyin … Va biz amaldorlarni ishdan bo'shatamiz, ko'ngillilar vaziyatni saqlab qolishadi.

Bunday ayanchli oqibatlardan qochish mumkinmi? - Albatta, sinab ko'rishingiz mumkin. Buning uchun bir qator ishlarni bajarish kerak. Qonunchilikning 99% ni yo'q qiling, qolgan 1% chaqaloqni suv bilan to'kib tashlamasdan qayta ishlang. (Bunday ishlar, odatda, to‘laqonli fuqarolar urushi bilan to‘laqonli inqilobdan keyin amalga oshiriladi. Tinchlik davrida buni qanday qilish kerak - menda hech qanday tasavvur yo‘q.) Bundan tashqari, axloqni qayta ishlash kerak. Ofisdan bir paket qog'ozni o'g'irlash (yoki xotinini aldash) nuqtai nazaridan, bu mutlaqo qabul qilinadi (qonunda aks ettirilgan) yoki bu butunlay vaqt chegarasini talab qiladi. Bu axloqni jamiyat ongida qayta tiklash kerak. Aks holda, u AIga qarshi arzon, oddiy va samarali bo'lgan optik kabellarni kesishni boshlaydi. Yana bir variant - bu iskinni ehtimoliy sherikga tashlash, u o'z qo'llarini kesib tashlasin. Va, albatta, yuqori sinflar noqulay bo'lmasligi kerak. Agar ular buni qila olmasalar, ular buni oxirgi imkoniyat sifatida ishlatishadi.

Men sizni kompyuterlarni ishdan chiqarishga ishontirmoqchi emasman. Biz iskindan hech qayerga bormaymiz. U bizdan o'tib ketadi, biz u bilan shug'ullanishimiz kerak. Keling, taqdirimiz bilan jangga nima bilan (kim bilan) kirishimiz kerakligini tushunishga harakat qilaylik.