हलिउडमा स्थापित हुन संघर्षरत रहँदा मर्लिन मुनरोले एक जना फोटोग्राफरलाई दुई फरक पोजमा फोटो सुटको अनुमति दिइन्। जर्ज ब्यारिसको पुस्तक ‘मर्लिनः हर लाइफ इन हर ओन वर्डस्’ मा उल्लेख छ- ‘प्लेबोय’ म्यागेजिनले आफ्नो पहिलो अंकमा तिनै मोडल तथा अभिनेत्रीको फोटो प्रथम पृष्ठमा प्रकाशित गर्‍यो । जुन फोटो मुनरोले ‘प्लेबोय’का लागि भनेर सुट गरेकी थिइनन्। सन् १९४९ मा टम केलीले खिचेको त्यो नग्न फोटो अनुमतिबिनै ‘प्लेबोय’लाई बेचियो।

त्यो घटना भएको ७५ वर्षयता फोटो खिच्ने, सम्पादन गर्ने र प्रकाशन गर्ने प्रविधिमा ठूलो परिवर्तन आइसकेको छ। तर, एउटा कुरा भने ‘ज्यूँका त्यूँ’ छ। त्यो हो, फोटोमा हुने तोडमोड ।

यतिबेला डीपफेक प्रविधि र उन्नत मिडिया सफ्टवेयरका कारण एक क्लिकमै फोटो तोडमोड हुनसक्ने स्थिति छ। ‘प्लेबोय’भन्दा फरक र अझ कुत्सित तरिकाले राजनीतिक नेता, सामाजिक अभियन्ता तथा कलाकारको फोटो स्वीकृतिबिना यौनजन्य क्रियाकलापमा बदलेर इन्टरनेटमा प्रकाशित गर्ने अवैध व्यापार फैलिइरहेको छ। प्रविधि दुरुपयोगको यो खेलमा सबैभन्दा धेरै निशानामा परेका छन्, महिलाहरू।

समाज ध्रुवीकरण गराउन डीपफेक सामग्री नेपालमा समेत प्रयोग हुन थालेका छन्। सात वर्षअघि धरानमा गोरु काटेर मासु खाएको घटनापछि गाई खान पाउनुपर्छ र गाई काटेमा प्रतिकार गर्छौं भन्ने दुई समूहले सामाजिक सञ्जालमा डीपफेक कन्टेन्ट भाइरल बनाए।

सन् २०२३ अक्टोबरमा अमेरिकाको न्युजर्सीस्थित मनि हाइस्कुलमा अध्ययनरत छात्रहरूले एआई सफ्टवेयर प्रयोग गर्दै आफूसँगै पढ्ने एक किशोरीको पहिचान खुल्ने गरी नग्न तस्बिर बनाए। तस्बिर नक्कली भए पनि सक्कलीझैँ देखिन्थ्यो। यो घटनामा कक्षा १० मा अध्ययनरत १४ वर्षीया फ्रान्चेस्कासहित उनका साथीहरूले स्कुल प्रशासनसमक्ष उजुरी दर्ता गराए । उनीहरूको प्रयासपछि अमेरिकामा ‘डीपन्युड इमेज’ को विषयलाई लिएर बहस नै सुरु भयो।

न्युजर्सीका ती छात्रहरूको कुकृत्य स्कुलभित्र मात्र सीमित भएन । सोसल मिडियामार्फत अमेरिकाभरि फैलिएको थियो ।

अमेरिकी सरकारले घटनाको तुरुन्त संज्ञान लियो र  २०२४ मै कडा नियम बनायो । अहिले अमेरिकी सरकारले एआईबाट बालबालिकाको यौनजन्य सामग्री बनाउने कार्यलाई गम्भीर अपराधको श्रेणीमा राखेको छ।

‘कम्प्युटर उत्पादित बाल यौन दुर्व्यवहार सामग्री वितरण गर्नु गैरकानुनी हो। एआईबाट नाबालिकका वास्तविक जस्तो लाग्ने इमेज उत्पादन तथा फैलाउने कार्य दण्डनीय अपराध हो,’ नयाँ नियममा भनिएको छ।

दुरुस्तै अनुहार, उस्तै आवाज

कम्प्युटर, इलेक्ट्रोनिक फरम्याट तथा एआई प्रयोग गरेर बनाइएको नक्कली तस्बिर, भिडियो वा अडियोलाई डीपफेक भनिन्छ। यसले एउटाको अनुहार वा आवाजलाई स्माटफोनबाट रूपान्तरण गर्दै अर्कै व्यक्तिको अनुहार बनाउने गर्छ। जुन दुरुस्त लाग्छ। डीपफेक बनाउन अतिरिक्त तालिमको आवश्यकता पर्दैन।

हालको ‘ट्रेन्ड’ हेर्दा डिपफेक सामग्री दुई ‘अल्गोरिदम’ उपयोग गरी बनाउने गरेको देखिन्छ। एउटा डिकोडर र अर्को इन्कोडर। कन्टेन्ट वास्तविक हो कि नक्कली, त्यो डिकोडरले पहिचान गर्छ। डिकोडरले असली र नक्कलीको पहिचान गरेपछि इन्कोडरलाई पठाउँछ। ‘मेसिन लर्निङ टेक्नोलोजी’ मा काम गर्ने प्राविधिज्ञ भन्छन्, ‘प्रविधि यति विकसित भइसकेको छ कि भिडियो वा अडियो वास्तविक जस्तो बनाउनु ठूलो कुरै रहेन ।’

कहिल्यै नबोलेका कुरा बोल्ने, कहिल्यै नगरेका काम गरेको देखाउने ।  वास्तविक व्यक्तिको अडियो र भिडियो सिर्जना गर्ने काम सहजै भइरहेका छन्। नामुद हस्तीका आवाज बदल्न ‘भोइस स्क्रिन’ वा ‘भोइस क्लोन’ को प्रयोग गर्न थालिएको छ।

के छ फरक ?

अमेरिको राष्ट्रपति चुनावमा कमला ह्यारिस डेमोक्र्याटिक पार्टीको उम्मेदवारका रूपमा चर्चामा थिइन्। केही दिनपछि ‘एक्स’मा एउटा भिडियो भाइरल भयो, ह्यारिस वेश्यावृत्तिमा संलग्न भएको। जसमा लेखिएको थियो, ‘प्रतिलिपि अधिकार दाबी गर्नुअघि छिटो सेयर गर्नुहोस् ।’

कमलालाई यौनकर्मीका रूपमा चित्रण गरिएको त्यो भिडियो विपक्षीले छिनभरमै लाखौं मतदाताको ‘टाइम लाइन’ मा पोस्ट गरे । डिपफेकले पारेको फरक यही थियो । टेक्नोलोजी दुरुपयोगले इन्टरनेटमा बढाइरहेको डढेलोको एउटा नमुना यही हो।

चिया पिउनेभन्दा पोर्न हेर्ने धेरै

पछिल्ला अनुसन्धानले देखाएका छन्- लिङ्ग, धर्म र राष्ट्रियताको ध्रुवीकरणभन्दा ‘पोर्न कन्टेन्ट’ निर्माण गरी महिलाको दुष्प्रचार गर्ने, इज्जत धुलिसात पार्ने, सास्ती दिने र फिरौतीसमेत असुल्ने अपराधका लागि डिपन्युड एप प्रयोग भएका छन्। डरलाग्दो कुरा यो छ कि डिपफेकले बनाएको बालबालिकाका ‘पोर्न कन्टेन्ट’को मोलमोलाइ डार्कवेब ग्रुपमा बढेको छ।

यो सामग्री पढ्न तपाईंले गुगल क्रोम, मोजिला, सफारी, ओपेरा, प्लेमुन, एआइ वा इड्ज जस्ता ब्राउजरबाट इन्टरनेट चलाइरहनुभएको होला। तपाईंले अहिले प्रयोग गरिरहेको इन्टरनेट सर्फेस वेब हो। यसलाई इन्टरनेटको सर्च इन्जिनले सहजै भेट्छ। सर्च इन्जिनको खोजी दायरामा नपर्ने इन्टरनेटको अर्को पाटो डार्कवेब हो। साइबर सुरक्षा अधिकारी यसलाई आपराधिक गतिविधिको साझा मञ्च पनि भन्छन्।

डिपफेक भिडियोले व्यक्तित्व धूलो पार्ने मात्र होइन, चुनावमा जितहारको सम्भावनामा पनि असर पार्न सक्छ। डीपफेकको ज्वालामुखी विस्फोट हुनेतिर समाज दौडिरहे पनि हाम्रो सरकारले यसलाई सिधा छुने नियम–कानुन बनाएको छैन।

हुन त डार्कवेब आपराधिक गतिविधिको चौतारो मात्र होइन। सरकारले प्रतिबन्ध लगाएका कतिपय सिर्जनशील सामग्री आमजनताको पहुँचमा पुर्‍याउने ठाउँ पनि हो। जस्तो : ब्राड पिटले अभिनय गरेको ‘सेभेन एयर्स इन टिबेट’ फिल्म चीनमा प्रतिबन्धित छ। तर, यो फिल्म डार्कवेबबाट चीनमा सहजै हेर्न सकिन्छ।

अनुसन्धान संस्थाका अनुसार डिपफेक सामग्री उत्पादनको रफ्तार करिब आठ वर्षयता तीव्र भएको हो। ओपन एआई विकसित भएपछि डिपफेकको बाढीले सामाजिक मूल्य-मान्यताका बाँधहरू तोड्न थालेको छ ।

डीपटेस नेदरल्यान्ड्सको आम्सटर्डममा रहेको साइबर सेक्युरिटी कम्पनी हो। यो कम्पनीको ‘द स्टेट अफ डिपफेक रिपोर्ट’ अनुसार सन् २०१८ को तुलनामा २०१९ मा इन्टरनेटमा डिपफेक कन्टेन्ट ८४ प्रतिशतले बढेका थिए। त्यही वर्षदेखि डिपफेकनिर्मित सामग्रीले समाजलाई गहिरोसँग नकारात्मक असर पार्न थालेको हो।

ओपन एआई फैलिन थालेपछि डीपफेक पोर्न सामग्री उत्पादनको वृद्धि दिमाग हल्लिने किसिमले बढेको देखिन्छ। विश्वमा चिया पिउने उपभोक्ताको वृद्धिदरभन्दा पोर्न कन्टेन्टका उपभोक्ताको वृद्धि धेरै देखिन्छ। साटिस्टा जर्मनीको ‘डेटा ग्यादरिङ’ तथा ‘भिजुअलाइजेसन’ गर्ने कम्पनी हो। स्टाटिस्टाको टि-मार्केट रिपोर्ट-२०२३ अनुसार सन् २०१९ देखि २०२३ सम्म चियाको खपत विश्वमा करिब ६.३ प्रतिशतले बढेको देखिन्छ। पत्याउन गाह्रो पर्छ तर अनुसन्धानमा देखिएको छ- सन् २०२३ मा १० वटा डिपफेक पोर्न साइटको मासिक ट्राफिक ३ करोड ४८ लाख ३६ हजार पाइएको थियो।

डिपफेकले के गर्ला?

पहिला पनि तस्बिरलाई तोडमोड गरिन्थ्यो। तर त्यो थाहा हुन्थ्यो। अहिले एआईका माध्यमबाट डीपफेक गरिएको सामग्री उत्कृष्ट हुन्छन्। सक्कली वा नक्कली छुट्याउन गाह्रो पर्छ। कसैको शालीन व्यक्तित्वलाई तत्कालै ध्वस्त पार्न यसले तोपको काम गर्छ। हुन त सामान्य कम्प्युटरमा गजबको डीपफेक बनाउन गाह्रो पर्छ। ग्राफिक्स कार्डको उपयोग गरिएको उच्च स्तरको डेस्कटपबाट ‘हाइ रेजलुसन’को फोटो तथा डिपफेक कन्टेन्ट सहजै बन्छ।

नेपालमा अहिले डीपफेक फैलिइसकेको छैन तर यसको झिल्को देखिन थालेका छन्।

‘कता हिँडेकी बिजुली बालेर… हट भएर…, पट भएर…’ भन्ने गीतमा एमाले अध्यक्ष केपी शर्मा ओली, कांग्रेस सभापति शेरबहादुर देउवाले डान्स गरेको भिडियो तपाईंको ‘टाइम लाइन’ मा आइपुगेको हुन सक्छ। गगन थापा, ओली र देउवाले पप गीतमा नाचेको देख्नुभएकै होला।

डिपफेक भिडियोले व्यक्तित्व धूलो पार्ने मात्र होइन, चुनावमा जितहारको सम्भावनामा पनि असर पार्न सक्छ। डीपफेकको ज्वालामुखी विस्फोट हुनेतिर समाज दौडिरहे पनि हाम्रो सरकारले यसलाई सिधा छुने नियम–कानुन बनाएको छैन। अहिले डिजिटल अपराधविरुद्ध काम गर्नेका लागि यो अर्को टाउको दुःखाइको विषय हो। यसका लागि कडा कानुनको जरुरी पर्छ। डीपफेकबाट जघन्य अपराध भए पनि २०६३ सालको विद्युतीय कारोबार ऐन एवं २०१६ सालको गाली बेइज्जती ऐनबाट कानुनी कारबाही गर्नुपर्ने अवस्था छ।

विद्युतीय कारोबार ऐन, २०६३ को व्यवस्था, डीपफेक कसुर गर्नेलाई यो कानुन लाग्नसक्छ।

डीपफेक निर्मित नग्नता, अश्लील तथा कसैको मान-प्रतिष्ठामा नोक्सान पुर्‍याउने सामग्री कुनै पनि प्लेटफर्ममा राखेमा त्यसलाई तत्काल हटाउन निर्देशन दिँदै लेख्ने संयन्त्र छैन। भारतले भने डीपफेकसँग सम्बन्धित अपराधका मामिलामा सजाय गर्ने आईटी कानुन ल्याएको छ। यसमा कुनै व्यक्तिको डिपफेक तस्बिर प्रकाशित गर्नु तथा प्रसारित गर्नु नितान्त निजताको उल्लंघन हो। कोही व्यक्तिले यसो गरेको पाइएमा आईटी कानुनअनुसार तीन वर्षको जेल सजाय वा दुई लाख रुपैयाँसम्म जरिवाना गर्ने प्रावधान छ।

के फेक, के ओरिजिनल?

फेक हो कि ओरिजिनल भन्ने कसरी थाहा पाउने? भिडियोमा आँखा र ओठ कहीँ नचलमलाइ बस्छ वा भिडियोको मान्छेले आँखा झिम्काउँदैन भने बुझ्नुहोस्, त्यो डीपफेक हो। रंगबाट पनि थाहा पाउन सकिन्छ, डीपफेकलाई। फोटो वा भिडियोको रंग तोडमोड गरिएको हुन्छ। कपाल हेरेर पनि डीपफेक थाहा पाउन सकिन्छ। कपालको स्टाइलसँग सम्बन्धित परिवर्तन देखाउन पनि मुस्किल नै पर्छ।  दाँतलाई हेरेर पनि थाहा पाउन सकिन्छ कि भिडियो डीपफेक हो कि हैन।

नेपाल प्रहरीले आफ्नो संगठनको एउटा इकाइका रूपमा साइबर अपराध अनुसन्धान गर्छ। साइबर ब्युरो नाम दिइएको इकाइमा डिजिटल अपराधका उजुरी थुप्रै दर्ता छन्। साइबर ब्युरोका प्रवक्ता दीपकराज अवस्थी भन्छन्, “टेक्नोलोजी दुरुपयोग गरेका उजुरी धेरै छन्। फोटो बिगारेर व्यक्तिको प्रतिष्ठा ध्वस्त पार्न सामाजिक सञ्जालमा पोस्ट गर्ने पनि पक्राउ परेका छन्।” नेपालभित्रबाट डीपफेकबाट गैरकानुनी क्रियाकलाप गरेको भेटिए कारबाही गरिने उनी बताउँछन्। साइबर ब्युरोको रेकर्डमा हालसम्म यस किसिमका उजुरी खासै परेका छैनन्।

वैचारिक अन्तर्क्रिया विचार उत्पादनका लागि एउटा माध्यम हो। सोसल मिडिया टाइम लाइनमा आइपुग्ने सामग्रीले हाम्रो वौद्धिक चेतसँग तीतो तरिकाले तीव्र अन्तर्क्रिया गर्छ। डीपफेक प्रविधिले विचार क्षयका लागि सत्य तोडमोड गर्न सघाइरहेको छ। वास्तविकतामाथिको विश्वास भत्काएर चेतनालाई उल्टो दिशातर्फ डोर्‍याइरहेको हुन्छ। कतिपय अवस्थामा यसले लोकतन्त्र र राष्ट्रिय सुरक्षाको पक्षलाई पनि असर पार्छ।

समाज ध्रुवीकरण गराउन डीपफेक सामग्री नेपालमा समेत प्रयोग हुन थालेका छन्। सात वर्षअघि धरानमा गोरु काटेर मासु खाएको घटनापछि गाई खान पाउनुपर्छ र गाई काटेमा प्रतिकार गर्छौं भन्ने दुई समूहले सामाजिक सञ्जालमा डीपफेक कन्टेन्ट भाइरल बनाए। समाजलाई दुई ध्रुवमा विभाजित गराए। प्रशासनले कर्फ्यु लगाएर बल्लतल्ल स्थिति नियन्त्रणमा लियो। नेपालगञ्जमा भएको हिन्दु-मुस्लिम विवादबारे पनि सामाजिक सञ्जालमा ‘डीपफेक कन्टेन्ट’ भाइरल बनाइएको थियो।

राम्रो पक्ष

भ्रामक र मित्थ्या सूचना फैलाउने र सार्वजनिक व्यक्तित्वको इज्जत ध्वस्त पार्ने र समाज ध्रुवीकरण गर्ने काम नयाँ होइन। अहिले इन्टरनेटले धेरै छिटो र ठूलो समूहलाई एकैसाथ सूचना पुर्‍याउन सम्भव बनाइदिएको मात्र हो। एक निमेषमा ‘डीपफेक कन्टेन्ट’ करोडौं मान्छेसम्म पुर्‍याउन र एक सेकेन्डमा लाखौंलाई प्रभाव पार्न सम्भव बनाइदिएको हो।

डीपफेकको अर्को पाटो पनि छ। यो प्रविधिले ऐतिहासिक तथ्यलाई प्रभावकारी रूपमा एनिमेसन गर्न सक्छ। शैक्षिक सामग्री अझ आकर्षक तथा अन्तर्क्रियात्मक बनाउन पनि मद्दत गर्न सक्छ। व्यक्तित्वको डीपफेक सामग्री निर्माण गरी ऐतिहासिक घटनालाई जस्ताको त्यस्तै प्रस्तुत गर्न पनि सक्छ।

राम्रो पक्ष केलाउनु पर्दा डीपफेकले मान्छेलाई सहज हुने गरी ‘भर्चुअल ट्युटर’ उत्पादनको काम गर्न पनि सक्छ। यो भनेको व्यक्तिगत शिक्षण शैली तथा आफ्नो प्राथमिकता तय गरेर अध्ययन गर्न सजिलो बनाइदिनु हो।

(द न्युयोर्क टाइम्स, द गार्डियन, बीबीसी, द वायरका रिपोर्टमा आधारित)