Robotlarning rivojlanishi xavfi haqiqatmi yoki afsona?

2024 Muallif: Seth Attwood | [email protected]. Oxirgi o'zgartirilgan: 2023-12-16 16:19

Robotlar odamlarning o'rnini bosa olmaydi, chunki ularda insoniy hech narsa yo'q deganda, biz umuman insonning mantiqsiz yaratish yoki harakat qilishdagi istisno qobiliyatini nazarda tutmaymiz. Bir kun kelib robotlar ham buni qila oladi. Ammo ulardan qo'rqish shunchaki ma'nosiz. Nima uchun - Andrey Sebrant, Yandex kompaniyasining strategik marketing bo'yicha direktori tushuntiradi.

Qanday qilib Tin Woodman Terminatorga aylandi

Buyuk yozuvchi Artur Klark uchta qonunni ishlab chiqdi, ulardan birida shunday deyilgan: "Har qanday etarli darajada ilg'or texnologiyani sehrdan ajratib bo'lmaydi". Ushbu formula bizning yuqori texnologiyalarga bo'lgan munosabatimizni aniq tasvirlaydi. Ammo televidenie va Facebook rivojlangan media asrida sehrgar bo'lish tobora qiyinlashib bormoqda.

Sun'iy intellektga Elli (yoki Doroti) do'st bo'lgan va shirin suhbatlar o'tkazgan Tin Vudmenni misol qilib keltirish mumkin. Qaysi vaqtda va nima uchun u birdan Terminatorga aylandi? Bu sof media hikoyasi: qo'rquv yaxshi sotiladi - shunchalik ko'pki, robotlar bilan bog'liq masala ma'ruza sarlavhasiga kiritilishi kerak.

Va bu haqiqatan ham jamoatchilik ongida sodir bo'layotgan narsalarni aks ettiradi. Yaqinda HSE robotning sub'ektivligi qanchalik katta bo'lsa, odamlar u sub'ekt sifatida ularga yomon narsa qilishidan qo'rqishini ko'rsatadigan so'rov o'tkazdi. Robot faqat uy yumushlarini bajarayotganda yoki do'kondan tovarlar olib kelganda, bundan hech kim qo'rqmaydi. Ammo hamshiralar, shifokorlar, o'qituvchilar va o'z-o'zidan boshqariladigan mashinalar haqida gap ketganda, ko'pchilik odamlar o'z atrofida juda noqulay bo'lishlarini ta'kidlaydilar. Shu bilan birga, bir million kilometr bosib o'tgan baxtsiz hodisalar statistikasi dronlarning avtohalokatga tushish ehtimoli kamroq ekanligini ko'rsatadi. Albatta, baribir, odamlar yo'l-transport hodisalariga duchor bo'lishadi, lekin ular kamroq o'lishadi - bir yarim million o'rniga 300 ming kishi. Million esa yashaydi, chunki haydovchi mast emas, balki nomukammal avtopilot edi.

Nima uchun robotlardan tushuntirish talab qilmaslik kerak

Fizika bo'yicha Nobel mukofoti sovrindori Richard Feynmanning aytishicha, hech bir fizik kvant fizikasini tushunmaydi. Afsuski yoki xayriyatki, bugungi kunda odam tushuntirib bera olmaydigan narsa sodir bo'layotgan boshqa ko'plab sohalar mavjud.

Robotlardan izoh talab qilish befoyda (nega bunday qaror qabul qilindi, nima uchun mashina sekinlashdi va hokazo). Qolaversa, tariximizga nazar tashlasangiz, bu mutlaqo mantiqsiz.

Misol uchun, 1853 yilda sintez qilingan va 19-asrning oxirida Aspirin savdo belgisi ostida ro'yxatga olingan atsetilsalitsil kislotasi bugungi kunda juda katta miqdorda - yiliga 120 milliard tabletka iste'mol qilinadi. Biroq, uning ta'siri, masalan, yurak kasalliklarida foydalanish bilan bog'liq, u tibbiyotda keng qo'llanila boshlanganidan 70 yil o'tgach, ko'proq yoki kamroq tushuntirilgan.

Zamonaviy farmakologlarning ta'kidlashicha, hech kim og'ir kasalliklar uchun zamonaviy dori-darmonlar qanday ishlashini bilmaydi. Qizig'i shundaki, o'zini o'zi boshqaradigan mashinaga o'tirishdan qo'rqqan qancha odam 90% hollarda tejaydigan dori bilan davolanishni rad etadi, ammo biz uning ta'sir qilish mexanizmlari haqida deyarli hech narsa bilmaymiz?

Shunday qilib, hatto kundalik hayotda ham, biz atrofimizda sodir bo'layotgan hamma narsani tushunmaymiz. Mashina o'rganishni keng joriy etishdan oldin robotlardan o'z harakatlarini tushuntirishni talab qilish juda sodda. Biz hozirgi algoritmlardan bunga erishishga intilsak, kvant kompyuterlari keladi va umuman tushunishga umid bo'lmaydi. Shuning uchun, tushuna olmaydigan narsani qabul qilishni o'rganish yaxshidir. Bu robotlar bizga nima qiladi degan savolga javob emas. Yoningizda robotlar bo'lsa, qanday qilib topganingizni psixoanalitiklarga sarflamaslik kerakligi haqidagi savolga javob shu.

Sun'iy intellekt yordamida qanday yaratish kerak

Robotlar bilan birga yashash haqidagi navbatdagi hikoya har qanday ijodkor tushuna oladigan g'oyaga bag'ishlangan - birga yaratish ajoyib bo'ladigan odamni topish qanchalik qiyinligini. Mashhur rus rassomi va san'at nazariyotchisi Dmitriy Bulatov buni yanada qattiqroq shaklda ifodalaydi: "Yangi me'yor shunday: agar biz dunyoni san'at bilan yuqtirmoqchi bo'lsak, oqsilli shovinizmimizga chek qo'yishimiz kerak".

Biz (Yandeks. - T&P notasida) 2017 yilda neyron tarmoqlar tomonidan yozilgan musiqa bilan zavqlana boshladik, - biz yaratgan musiqa original bastakor va Skryabin ijodi bo'yicha mutaxassis Mariya Chernova sifatida e'tirof etildi. Ivan Yamshchikov ta'kidlaganidek, agar neyron tarmoq bir xil notani to'rt daqiqa davomida o'ynashni yoqtirsa-chi? O'ylaymanki, bu kulgidan boshqa hech narsaga sabab bo'lmaydi ("stsenariy qotib qolgan"). Va agar biz buni inson tomonidan ixtiro qilingan deb hisoblasak, darhol ko'plab tarjimonlar yugurib kelishadi, ular bu chuqur fikr ekanligini tushuntirishni boshlaydilar, biz yashayotgan dahshatli turg'unlik g'oyasini ifodalaydi va hokazo. Bu asarning o'zini emas, balki bizga berilgan kontekstni talqin qilish masalasidir.

Bugungi kunda, hatto tarix tomonidan qo'llab-quvvatlanadigan Variatsion takroriy avtomatik kodlovchi bilan musiqa avlodi matematik maqolasining kirish qismida ham uning mualliflari intuitiv yoki ijodiy yondashuvni o'z ichiga olgan vazifalar uzoq vaqtdan beri faqat insoniy deb hisoblanganligini, ammo endi tobora ko'proq algoritmlar mavjud bo'lib borayotganini va musiqa birgina misol, bu kabi vazifalar.

Ikki yil o'tgach, biz eng yirik musiqachi Yuriy Bashmet uchun musiqa yozdik (Yandeks tomonidan yaratilgan neyron tarmoq bastakor Kuzma Bodrov bilan hamkorlikda viola va orkestr uchun asar yaratdi. - T&P noti). Odamlarga bu voqea haqida gapirganda, ular shunday munosabatda bo'lishadi: “Oh, tushunamiz! Aytishlaricha, neyron tarmoqlar odatiy vazifalarni yaxshi bajaradi, shuning uchun bastakor o'sha ohangni, asarning ajoyib g'oyasini yaratadi va neyron tarmoq orkestrning qolgan qismini bajarishni o'rgangan bo'lishi mumkin. Buning aksi haqiqatdir. Bastakor Kuzma Bodrovning ta'kidlashicha, neyron tarmoq uning to'liq huquqli hammuallifiga aylandi va aynan u eng qiyin narsani, asl nusxani yaratdi, keyinchalik u boshqa narsaga aylandi. Men har doim yangi va kutilmagan narsalarni yaratishga qodir, charchamasdan va tushkunlikka tushmaydigan hammuallifga ega bo'lishni xohlayman.

Neyron tarmoqlari va jismoniyligi

Strugatskiyning "Dushanba shanba kuni boshlanadi" kitobida juftlik deb ataladigan narsalar tasvirlangan: diktant, lekin buni qanday qilishni yaxshi biladi. […] Haqiqiy ustalar juda murakkab, ko'p dasturli, o'z-o'zini o'rganishni yaratishi mumkin. Roman qahramonlaridan biri boshqa qahramon o‘rniga shunday suratni mashinada yuborgan. Dublyor “Moskvich”ni ajoyib tarzda boshqardi, “uni chivin chaqqanda qasam ichdi va xorda zavqlanib kuyladi”. Bizning "Elis" hali buni qilmayapti, lekin yana bitta hakathon boshlanadi. Aqlli adaptiv tizimlar 1965 yilda tasvirlangan. Endi ular haqiqatan ham mavjud - dublikatlar sifatida, ular qog'oz parchalarini saralashda, yangi ohanglarni yaratishda, media rejalashtirishni amalga oshirishda va hokazolarda yaxshiroq. Va bu hali boshlanishi.

Kevin Kellining "Muqarrar" kitobida shunday go'zal ibora bor: "Eng muhim fikrlash mashinalari odamlardan tezroq va yaxshiroq o'ylay oladiganlar emas, balki odamlar hech qachon qila olmaydigan tarzda fikrlashni o'rganadiganlar bo'ladi". Go'yo biz butun umrimiz davomida parvoz qilish g'oyasini amalga oshirgandek, qanotli qushni yaratish va yaxshilash, faqat ularni kattalashtirish va zamonaviy materiallardan foydalanish. Bizni qanotlari foydasiz bo'lgan kosmosga olib chiqadigan raketa g'oyasi shunchaki paydo bo'lmagan bo'lar edi, chunki u hammasi boshlangan joydan butunlay boshqacha. Va bu hali oldinda - bu orada bizning ajoyib hammualliflarimiz bor.

Biz sun'iy intellekt haqida gapirganda va mashina bizning o'rnimizni egallashidan qo'rqqanimizda, biz doimo inson va aql deyarli sinonimlar, o'zaro almashtiriladigan mohiyatlar ekanligiga ishonamiz. Bu unday emas. Men yana Strugatskixdan iqtibos keltiraman: "Men hali ham odamman va butun hayvon men uchun begona emas". Hatto neyron tarmoqlar yordamida biz ekranlarda chiroyli raqsga tushishni o'rgansak ham, bu bizni raqsdan haqiqiy hayajonga ega bo'ladigan odamlarga aylantirmaydi. Jismoniylik aql kabi muhimdir. Va hozircha biz algoritmik narsani qanday qilishni tushunmayapmiz, xuddi biz kabi, butun hayvonga begona bo'lmaydi.