Chuqur soxta narsalar: Neuroset ovoz va video soxtalarini yaratishga o'rgatilgan

2024 Muallif: Seth Attwood | [email protected]. Oxirgi o'zgartirilgan: 2023-12-16 16:19

Har birimiz uchun "individual" yangilik rasmini yaratish va unda tanlangan OAV xabarlarini soxtalashtirish uchun bugungi kunda bitta dasturchining harakatlari etarli. Bu haqda “Izvestiya”ga sun’iy intellekt va kiberxavfsizlik bo‘yicha mutaxassislar ma’lum qildi.

Yaqinda ular buning uchun bir nechta jamoalarning ishini talab qilishini taxmin qilishdi. Bunday tezlashtirish neyron tarmoqlarga hujum qilish texnologiyalarini ishlab chiqish va "chuqur soxtalar" yaratish dasturlari yordamida audio va video soxta narsalarni yaratish orqali mumkin bo'ldi. Yaqinda "Izvestiya" gazetasi ham xuddi shunday hujumga uchragan edi, o'shanda Liviyaning uchta axborot portali bir vaqtning o'zida nashrlarning birida paydo bo'lgan xabarni e'lon qilgan edi. Mutaxassislarning fikriga ko'ra, 3-5 yil ichida biz robot-manipulyatorlarning kirib kelishini kutishimiz mumkin, ular avtomatik ravishda juda ko'p soxta narsalarni yaratishga qodir.

Jasur yangi dunyo

Axborot tasvirini aniq foydalanuvchilarning idrokiga moslashtiradigan ko'proq loyihalar mavjud. Ularning ishiga misol qilib, 20-noyabr kuni “Izvestiya” nashrida e’lon qilingan xabarni e’lon qilgan uchta Liviya portalining yaqinda qilgan harakati misol bo‘ldi. Soxta ijodkorlar gazetaning birinchi sahifasini o‘zgartirib, unda feldmarshal Xalifa Xaftar va Milliy kelishuv hukumati (PNS) bosh vaziri Fayiz Sarraj o‘rtasidagi muzokaralar haqida xabar joylashtirdi. “Izvestiya” shriftidagi soxta shriftga ikki davlat rahbarining 2017-yil may oyida tushgan surati hamroh bo‘lgan. Nashr logotipi tushirilgan yorliq 20-noyabrdagi haqiqiy nashrdan, sahifadagi boshqa barcha matnlar esa 23-oktabr sonidan kesilgan.

Mutaxassislar nuqtai nazaridan, yaqin kelajakda bunday soxtalashtirishlar avtomatik ravishda amalga oshirilishi mumkin.

"Sun'iy intellekt texnologiyalari endi butunlay ochiq, ma'lumotlarni qabul qilish va qayta ishlash qurilmalari esa kichrayib, arzonlashmoqda", - dedi Yuriy Vilsiter, fizika-matematika fanlari doktori, Rossiya Fanlar akademiyasining professori, FSUE "GosNIIAS" kafedrasi mudiri. - dedi Izvestiya. - Shunday ekan, yaqin kelajakda hatto davlat va yirik korporatsiyalar ham emas, oddiygina xususiy shaxslar ham bizni tinglash va josuslik qilish, shuningdek, voqelikni manipulyatsiya qilish imkoniyatiga ega bo‘lishi ehtimoli katta. Kelgusi yillarda foydalanuvchining xohish-istaklarini tahlil qilish orqali unga yangiliklar lentalari va juda aqlli soxta narsalar orqali ta'sir o'tkazish mumkin bo'ladi.

Yuriy Vilsiterning so'zlariga ko'ra, ruhiy muhitga bunday aralashuv uchun qo'llanilishi mumkin bo'lgan texnologiyalar allaqachon mavjud. Nazariy jihatdan, robot-botlar bosqinini bir necha yildan keyin kutish mumkin, dedi u. Bu erda cheklovchi nuqta uzoq muddatli oqibatlarni kuzatish bilan haqiqiy odamlarning sun'iy ogohlantirishlarga bo'lgan munosabati misollarining katta ma'lumotlar bazalarini to'plash zarurati bo'lishi mumkin. Maqsadli hujumlar doimiy ravishda olinishidan oldin bunday kuzatuv, ehtimol, yana bir necha yillik tadqiqotlarni talab qiladi.

Ko'rish hujumi

SearchInform tahlil bo'limi boshlig'i Aleksey Parfentiev ham Yuriy Vilsiterning fikriga qo'shiladi. Uning so'zlariga ko'ra, mutaxassislar neyron tarmoqlarga hujumlarni allaqachon bashorat qilmoqdalar, garchi hozirda bunday misollar deyarli yo'q.

- Gartner tadqiqotchilarining fikricha, 2022 yilga borib barcha kiberhujumlarning 30 foizi neyron tarmog‘i o‘qitilgan ma’lumotlarni buzish va mashinani o‘rganishning tayyor modellarini o‘g‘irlashga qaratilgan bo‘ladi. Keyin, masalan, uchuvchisiz transport vositalari to'satdan piyodalarni boshqa narsalar bilan adashtira boshlaydi. Va biz moliyaviy yoki obro'li xavf haqida emas, balki oddiy odamlarning hayoti va sog'lig'i haqida gapiramiz, deb hisoblaydi ekspert.

Hozirda tadqiqot doirasida kompyuter ko'rish tizimlariga hujumlar amalga oshirilmoqda. Bunday hujumlarning maqsadi neyron tarmoqni tasvirda mavjud bo'lmagan narsani aniqlashga majbur qilishdir. Yoki, aksincha, rejalashtirilgan narsalarni ko'rmaslik uchun.

Kasperskiy laboratoriyasining veb-tahlilchisi Vladislav Tushkanov: "Neyron tarmoqlarni o'qitish sohasidagi faol rivojlanayotgan mavzulardan biri bu raqib hujumlaridir (" raqib hujumlari. - "Izvestiya"). - Aksariyat hollarda ular kompyuter ko'rish tizimlariga qaratilgan. Bunday hujumni amalga oshirish uchun ko'p hollarda siz neyron tarmoqqa (oq quti hujumlari deb ataladigan) yoki uning ish natijalariga (qora quti hujumlari) to'liq kirishga ega bo'lishingiz kerak. 100% hollarda har qanday kompyuter ko'rish tizimini aldab qo'yadigan usullar mavjud emas. Bundan tashqari, neyron tarmoqlarni raqib hujumlariga chidamliligini tekshirish va ularning qarshiligini oshirish imkonini beruvchi vositalar allaqachon yaratilgan.

Bunday hujum paytida tajovuzkor neyron tarmoq ishlamasligi uchun tan olingan tasvirni qandaydir tarzda o'zgartirishga harakat qiladi. Ko'pincha, shovqin kam yoritilgan xonada suratga olish paytida paydo bo'ladiganga o'xshash suratga tushadi. Odam odatda bunday aralashuvni yaxshi sezmaydi, lekin neyron tarmoq noto'g'ri ishlay boshlaydi. Ammo bunday hujumni amalga oshirish uchun tajovuzkor algoritmga kirish huquqiga ega bo'lishi kerak.

Neuroset Ashmanov bosh direktori Stanislav Ashmanovning so'zlariga ko'ra, hozirda bu muammoni hal qilishning usullari yo'q. Bundan tashqari, ushbu texnologiya hamma uchun mavjud: oddiy dasturchi Github xizmatidan kerakli ochiq kodli dasturiy ta'minotni yuklab olish orqali foydalanishi mumkin.

- Neyron tarmoqqa hujum - bu neyron tarmoqni aldash texnikasi va algoritmlari bo'lib, u noto'g'ri natijalar beradi va aslida uni eshik qulfi kabi buzadi, - deb hisoblaydi Ashmanov. - Masalan, endi yuzni tanish tizimini siz emas, balki uning oldida Arnold Shvartsenegger deb o'ylash juda oson - bu neyron tarmoqqa kelayotgan ma'lumotlarga inson ko'ziga sezilmaydigan qo'shimchalarni aralashtirish orqali amalga oshiriladi. Xuddi shu hujumlar nutqni aniqlash va tahlil qilish tizimlari uchun ham mumkin.

Mutaxassisning ishonchi komilki, bu faqat yomonlashadi - bu texnologiyalar ommaga o'tdi, firibgarlar allaqachon ulardan foydalanmoqda va ulardan himoya yo'q. Video va audio qalbakilashtirishning avtomatlashtirilgan yaratilishidan himoyalanmaganligi sababli.

Chuqur soxta narsalar

Deep Learning (neyron tarmoqlarni chuqur o'rganish texnologiyalari. - Izvestiya) asosidagi Deepfake texnologiyalari allaqachon haqiqiy xavf tug'dirmoqda. Video yoki audio soxtalari go'yoki kerakli matnni talaffuz qiladigan va syujetda kerakli rolni o'ynaydigan taniqli odamlarning yuzlarini tahrirlash yoki qoplash orqali yaratiladi.

"Deepfake lablar harakati va inson nutqini video bilan almashtirishga imkon beradi, bu esa sodir bo'layotgan voqealarning realizm hissini yaratadi", deydi Andrey Busargin, Group-IB innovatsion brendni himoya qilish va intellektual mulk departamenti direktori. - Soxta mashhurlar ijtimoiy tarmoqlardagi foydalanuvchilarga qimmatbaho sovg‘alar (smartfonlar, avtomobillar, pul so‘mlari) o‘yinida ishtirok etishni “taklif qiladi”. Bunday video nashrlarning havolalari ko'pincha firibgar va fishing saytlariga olib keladi, bu erda foydalanuvchilardan shaxsiy ma'lumotlarni, jumladan, bank kartasi ma'lumotlarini kiritish so'raladi. Bunday sxemalar oddiy foydalanuvchilar uchun ham, reklama roliklarida tilga olingan jamoat arboblari uchun ham xavf tug'diradi. Bunday firibgarlik taniqli shaxslarning suratlarini firibgarlik yoki reklama qilingan mahsulotlar bilan bog‘lashni boshlaydi va biz shaxsiy brendga zarar yetkazamiz, deydi u.

Yana bir tahdid telefon firibgarligi uchun "soxta ovozlar" dan foydalanish bilan bog'liq. Misol uchun, Germaniyada kiberjinoyatchilar Buyuk Britaniyadan bo'lgan sho''ba korxona rahbarini telefon orqali o'zini kompaniya menejeri sifatida ko'rsatib, zudlik bilan 220 000 evro o'tkazish uchun ovozli deepfake ishlatgan.vengriyalik yetkazib beruvchining hisobiga. Britaniya firmasi rahbari o‘zining “xo‘jayini” ikkinchi pul o‘tkazmasini so‘raganida hiyla-nayrangdan shubhalangan, biroq qo‘ng‘iroq avstriyalik raqamdan kelgan. Bu vaqtga kelib, birinchi transh allaqachon Vengriyadagi hisob raqamiga o'tkazilgan, u erdan pul Meksikaga olib ketilgan.

Ma'lum bo'lishicha, hozirgi texnologiyalar yolg'on yangiliklar bilan to'ldirilgan individual yangilik rasmini yaratishga imkon beradi. Bundan tashqari, tez orada soxtalarni haqiqiy video va audiodan faqat apparat vositalari orqali ajratish mumkin bo'ladi. Mutaxassislarning fikricha, neyron tarmoqlarni rivojlantirishni taqiqlovchi chora-tadbirlar samarali bo'lishi dargumon. Shuning uchun, tez orada biz doimo hamma narsani qayta tekshirish kerak bo'lgan dunyoda yashaymiz.

"Biz bunga tayyorgarlik ko'rishimiz kerak va buni qabul qilish kerak", deb ta'kidladi Yuriy Vilsiter. - Insoniyat bir haqiqatdan ikkinchisiga birinchi marta o'tayotgani yo'q. Bizning dunyomiz, turmush tarzimiz va qadriyatlarimiz ajdodlarimiz bundan 60 000, 5 000, 2 000 va hatto 200-100 yil oldin yashagan dunyodan tubdan farq qiladi. Yaqin kelajakda inson asosan shaxsiy hayotdan mahrum bo'ladi va shuning uchun hech narsani yashirmaslik va halollik bilan harakat qilishga majbur bo'ladi. Shu bilan birga, atrofdagi voqelikda va o'z shaxsiyatida hech narsa e'tiqodga ega bo'lmaydi, hamma narsani so'roq qilish va doimiy ravishda tekshirish kerak bo'ladi. Ammo bu kelajakdagi haqiqat dahshatli bo'ladimi? Yo'q. Bu shunchaki butunlay boshqacha bo'ladi.