काठमाडौँ
००:००:००
९ असार २०८३, मंगलवार
आवरण
मानिसहरूको डिजिटल व्यवहारमा नियन्त्रण जमाएर एल्गोरिदमले गरिरहेको शासन
१९ चैतको प्रतिनिधिसभा बैठकमा नेकपा (एमाले)का कार्यवाहक अध्यक्ष रामबहादुर थापा (बादल)ले २१ फागुनको निर्वाचनमा राष्ट्रिय स्वतन्त्र पार्टी (रास्वपा)लाई जादुमय रूपमा विजय गराउन नेपाली सेना, कर्मचारीतन्त्रदेखि एआई र एल्गोरिदमसम्मको भूमिका रहेको अभिव्यक्ति दिए।
थापाले रास्वपाको जितका लागि बाह्य दृष्टिले कस कसले निर्णायक भूमिका खेले भनेर प्रश्न उठाउँदै जवाफ आफैँ दिए, ‘असंख्य तथ्यहरूले के स्पष्ट गर्दछन् भने अदृश्य शक्तिहरू, टीओबी, एआई, एल्गोरिदम, गोयबल्सहरू, जसले राष्ट्रियता, लोकतन्त्र, गणतन्त्र, संघीयता, शान्ति र समृद्धिका नायकहरूलाई खुंखार खलनायक र हत्याराका रूपमा स्थापित गरे।’
उनको भनाइ विवादास्पद भयो। एमालेकै नेताहरूले समेत उनको अभिव्यक्ति पार्टीको आधिकारिक धारणाविपरीत भएको भन्दै आपत्ति प्रकट गरे।
त्यसो त २३-२४ भदौको जेन-जी आन्दोलनको छानबिन गर्न गठित पूर्वन्यायाधीश गौरीबहादुर कार्की नेतृत्वको जाँचबुझ आयोगको प्रतिवेदनले पनि जेन-जी आन्दोलन र चुनावमा एल्गोरिदमले ठूलो भूमिका खेलेको औँल्याएको छ। चुनावलगत्तै २४ फागुनमा तत्कालीन प्रधानमन्त्री सुशीला कार्कीलाई बुझाइएको प्रतिवेदनमा लेखिएको छ, ‘नेपालमा भएको जेन-जी आन्दोलन मात्र नभई देशको अहिले चुनावी माहोलमा यो दुइटा प्राविधिक अवधारणा (फिल्टर बबल र इको च्याम्बर)ले सबैभन्दा ठूलो भूमिका खेलेको थियो र खेल्दै छ।’
एआईसिर्जित तस्बिर र कार्की आयोगको प्रतिवेदनमा एल्गोरिदमबारे उल्लेख गरिएको एक अंश।
सरकारले सार्वजनिक नगर्दै ११ फागुनमा सञ्चारमाध्यमबाट प्रतिवेदन सार्वजनिक भयो। त्यसपछि एमाले नेता शंकर पोखरेलले आयोगप्रति नै प्रश्न उठाए। कार्की आयोग र आमनिर्वाचन २०८२ एल्गोरिदममार्फत नेपाली समाजमा परेको प्रभावलाई राजनीतिक र कानुनी वैधता दिने प्रयास रहेको तथा सोहीअनुसार निर्वाचन परिणाम र आयोगको प्रतिवेदन आएको टिप्पणी गरे। उनले १२ चैतमा सामाजिक सञ्जालमा लेखे, ‘एल्गोरिदमको प्रयोगबाट लोकप्रियतावाद, अराजकतावाद र अवसरवादको मिश्रणबाट नयाँ शक्तिको उदय भएको छ। अबको बाटो सजिलो नहुन सक्छ। राष्ट्र र लोकतन्त्र दुवैले केही समय चुनौतीको सामना गर्नुपर्ने देखिन्छ।’
एमाले उपाध्यक्ष थापाले चुनावमा रास्वपाको झन्डै दुईतिहाइ सिट आउनुमा एल्गोरिदमको हात देखे। कार्की आयोगले जेन-जी आन्दोलन र चुनावी माहोल दुवैमा एल्गोरिदमको ठूलो भूमिका देख्यो। यता, एमाले नेता पोखरेलले भने कार्की आयोग नै एल्गोरिदमको प्रभावलाई वैधता दिन लागिपरेको आरोप लगाए।
माथि औँल्याइए जस्तै एल्गोरिदमले नेपालको राजनीतिक तथा सामाजिक क्षेत्रमा ठूलो प्रभाव पारिरहेको छ। आन्दोलन, चुनाव जस्ता राजनीतिक घटनाक्रममा प्रभावित पार्न मात्र होइन, जुनसुकै सामाजिक विषयवस्तुलाई धेरै मानिससम्म पुर्याउन, मानिसहरूलाई भावनात्मक रूपमा एकोहोर्याउन वा कुनै व्यक्तिलाई रातारात नायक वा खलनायक बनाउन पनि एल्गोरिदमको प्रयोग भइरहेको छ।
वसन्तपुरमा मतदान गर्न लाम लागेका मानिस। तस्बिर : बिक्रम राई
२१ फागुनको निर्वाचनअघिका केही साता सामाजिक सञ्जालमा अन्य राजनीतिक दलका उम्मेदवारहरूको तुलनामा रास्वपाका उम्मेदवारसम्बन्धी प्रचार सामग्री धेरै देखिन्थे। चुनावका लागि प्रायः सबै दलले सामाजिक सञ्जालमा प्रचारप्रसारका लागि टिम नै बनाएर खटाएका थिए। कतिपय दल र उम्मेदवारले डिजिटल प्रचारको ठेक्का दिएका थिए।
तर, अन्य दलको डिजिटल प्रचार प्रभावकारी थिएन, जति रास्वपाको थियो। किनभने, रास्वपासँग एल्गोरिदम बुझ्ने प्राविधिक टोली थियो। ११ फागुनमा द काठमान्डु पोस्टले प्रकाशन गरेको विश्लेषणात्मक रिपोर्टले एल्गोरिदमले रास्वपालाई अन्य दलभन्दा अगाडि देखाएको थियो। धेरै फलोअर्स भएका २४ वटा फेसबुक पेजमा ८ पुसदेखि ८ माघसम्मको एक महिनामा पोस्ट भएका चार हजार ७५४ सामग्रीको विश्लेषणअनुसार रास्वपासम्बन्धी पोष्ट ५४.१ प्रतिशत थिए। कांग्रेस र एमाले दुवैको जोड्दा पनि रास्वपाको पोस्ट दोब्बर थियो।
जेन-जीहरूले सुरुमा नेताका छोराछोरीको विलासी जीवनशैलीलाई लक्षित गर्दै ‘नेपो बेबी’, ‘नेपो किड्स’ जस्ता ह्यासट्याग ट्रेन्ड चलाएका थिए। धेरैले यो ह्यासट्याग प्रयोग गरेर सञ्जालमा पोस्ट गरेपछि एल्गोरिदमले यसलाई अझै धेरैमाझ फैलाइदियो। जेन-जी आन्दोलनको पृष्ठभूमि त्यसैले तयार पारेको थियो।
प्रतिनिधिसभा निर्वाचन हुनुभन्दा सात दिनअघि १४ फागुनमा नेपालन्युजसँग कुरा गर्दै सूचना-प्रविधिविज्ञ राजीव सुब्बाले भनेका थिए, “सामाजिक सञ्जालमा देखिएको एउटा दलको वर्चस्वमा एल्गोरिदमको प्रभाव देखिन्छ। यसले मतदाताको दिमागमा एल्गोरिदमले कसरी राज गरिरहेको छ भन्ने बुझ्न सकिन्छ।”
सुब्बाले भने जस्तै चुनावअघि सामाजिक सञ्जालमा एल्गोरिदमको जस्तो प्रभाव देखायो, चुनावी परिणाम पनि त्यस्तै आयो।
जेन-जी आन्दोलनमा पनि एल्गोरिदमको ठूलो प्रभाव रहेको कार्की आयोगको प्रतिवेदनले औँल्याएको छ। सरकारले फेसबुक, इन्स्टाग्रामलगायत सामाजिक सञ्जाल बन्द गरेको समयमा टिकटकदेखि डिस्कर्डसम्मका सञ्जालबाटै जेन-जी आन्दोलनको तयारी भएको थियो। जेन-जीहरूले सुरुमा नेताका छोराछोरीको विलासी जीवनशैलीलाई लक्षित गर्दै ‘नेपो बेबी’, ‘नेपो किड्स’ जस्ता ह्यासट्याग ट्रेन्ड चलाएका थिए। धेरैले यो ह्यासट्याग प्रयोग गरेर सञ्जालमा पोस्ट गरेपछि एल्गोरिदमले यसलाई अझै धेरैमाझ फैलाइदियो। जेन-जी आन्दोलनको पृष्ठभूमि त्यसैले तयार पारेको थियो।
आन्दोलनका क्रममा सरकारी संरचनामा आगो लगाउन पेट्रोल बम बनाउन, ठूला नेताको घर पहिचान गरेर आगो लगाउन सञ्जालबाटै सिकाइएको थियो। यस्ता तरिका चाँडै फैलाउन पनि एल्गोरिदमले सहयोग पुर्याएको थियो।
यस घटनाबाट पनि एल्गोरिदमले कस्तो प्रभाव पारिरहेको छ भन्ने बुझ्न सकिन्छ। कार्की आयोगको प्रतिवेदनमा एल्गोरिदमका कारण हालको अवस्थामा हरेक व्यक्तिको विचार नै युद्धमैदान बनेको उल्लेख छ। लेखिएको छ, ‘यस युद्धको मुख्य कारक तत्त्व वा यसको प्रधानसेनापति एल्गोरिदम हो, जसले नेपाललाई अदृश्य जेलमा बन्द गर्ने प्रयास गरिरहेको छ।’
संसारकै नयाँ समस्या
नेपालमा मात्र होइन, अहिले संसारभर नै एल्गोरिदमको प्रभावबारे बहस भइरहेको छ। सन् २०१६ को अमेरिकी राष्ट्रपति निर्वाचनमा डोनाल्ड ट्रम्पले मतदातालाई प्रभावित बनाउन एल्गोरिदमको प्रयोग गरेको भनेर विवाद उत्पन्न भएको थियो। अमेरिकी कम्पनी क्याम्ब्रिज एनालिटिकाले फेसबुकमा रहेका व्यक्तिगत डेटा अनुमतिविना संकलन गरी एल्गोरिदममार्फत मनोवैज्ञानिक रूपमा प्रभाव पार्न खोजेको भनिएको यस विवादले विश्वमै नयाँ बहस सिर्जना गरेको थियो।
एल्गोरिदम प्रणाली सुरु हुनुअघि सामाजिक सञ्जालमा आफूनजिकका मान्छेले गरेको पोस्ट पहिला देखिन्थ्यो। त्यसपछि साथीहरूले गरेका पोस्ट तथा उनीहरूले कमेन्ट र लाइक गरेका सामग्री अगाडि आउँथे।
सन् २०१० पछि एल्गोरिदमले काम गर्न थाल्यो। यो मुख्यतः लर्निङ मेसिनमा आधारित प्रणाली हो। यस प्रणालीमा मान्छेले निर्देशन दिइरहनु पर्दैन, कम्प्युटरले आफैँ पुराना तथ्यांक र अनुभवका आधारमा सिक्दै काम गर्छ। तर, प्रविधि बुझेका मान्छेले आफूअनुकूलका तथ्यांकहरू नै धेरैभन्दा धेरै उत्पादन गर्ने र आफ्नो सञ्जालमार्फत फैलाउने गर्न सक्छन्। त्यसलाई लर्निङ मेसिनले धेरै मान्छेले मन पराएको रूपमा बुझ्छ र अझ फैलाइदिन्छ। यसरी एल्गोरिदमको दुरुपयोग पछिल्लो समय संसारकै नयाँ समस्याका रूपमा देखा परेको छ।
सामग्री सही वा गलत जे पनि हुन सक्छन्, तर धेरैले हेरेका, कमेन्ट गरेका सामग्री सामाजिक सञ्जालमा चाँडै फैलिन्छन्। एल्गोरिदमलाई दुरुपयोग गर्नेहरूले सामाजिक सञ्जालहरूमा नक्कली नाममा धेरैभन्दा धेरै खाता खोलेर आफूले प्रचार गर्न चाहेका सामग्रीमा लाइक, कमेन्ट र सेयर गर्छन्। एल्गोरिदमले त्यसलाई ‘पपुलर’ सामग्री बुझेर अझ धेरैसम्म पुर्याइदिन्छ।
कार्की आयोगको प्रतिवेदनले एल्गोरिदमको दुरुपयोगलाई सूचनाको विष फैलाउने कार्य भनेर उल्लेख गरेको छ। प्रतिवेदनको पृष्ठ ६३३ मा लेखिएको छ, ‘सामाजिक सञ्जालका करोडौँ प्रयोगकर्ताहरूको माझ यो एक शक्तिशाली र घातक यन्त्र हो। यसले झुठ मात्र नभई ध्यान भड्काउने, एकआपसमा घृणा बढाउने र आपसी विश्वास तोड्ने काम गर्दछ।’
फेसबुक, युट्युब, टिकटक, इन्स्टाग्राम जस्ता सामाजिक सञ्जालमा प्रयोगकर्ताको व्यवहार पहिचान गरेर उसका रुचिअनुसारका सामग्री अगाडि ल्याइदिने काम एल्गोरिदमले गर्छ। उदाहरणका लागि, हामीले सामाजिक सञ्जालमा कुनै भिडिओ, फोटो वा कुनै सामग्री दोहोर्याएर हेर्यौँ, लाइक, कमेन्ट गर्यौँ भने त्यसपछि त्यस्तै किसिमका सामग्रीहरू हाम्रो स्क्रिनमा देखा पर्छन्। किनभने, एल्गोरिदमले सामाजिक सञ्जाल प्लेटफर्ममा रहेका व्यक्तिहरूका डेटाको विश्लेषण गरेर उनीहरूका रुचि पत्ता लगाउँछ र सोहीअनुसारका सामग्री उनीहरूसम्म पुर्याउँछ। एकातिर, सामाजिक सञ्जाल प्रयोगकर्ताले एकैप्रकारको सामग्री दोहोर्याएर हेरेमा एल्गोरिदमले अरू पनि त्यस्तै प्रकृतिका सामग्री पस्किदिन्छ। अर्कातिर, धेरै जनाले लाइक, कमेन्ट तथा सेयर गरेका सामग्रीलाई एल्गोरिदमले ‘पपुलर’ मान्छ र त्यसैका आधारमा त्यस्ता सामग्री अझ धेरैसम्म पुर्याइदिन्छ।
एल्गोरिदमले प्रयोगकर्ताको डिजिटल व्यवहार अध्ययन गर्छ, त्यसपछि उसलाई मन पर्ने, चासो राख्ने सामग्री पठाउँछ। यसलाई ‘फिल्टर बबल’ भनिन्छ, जहाँ प्रयोगकर्ताको रुचि र सोचविचारसँग मिल्ने कुरा मात्र पुग्छ। यस्तो अवस्थामा प्रयोगकर्ताले आफ्नो विचारसँग मिल्ने प्रतिध्वनि मात्र सुन्ने भएकाले यसलाई ‘इको च्याम्बर’ पनि भनिन्छ। यसरी एल्गोरिदमले गलत कुरालाई पनि सही जस्तो पारेर भ्रम फैलाउन सक्छ। एआईविज्ञ दोभान राई भ्रामक कुरा फैलाउन पनि एल्गोरिदमको प्रयोग भइरहेकाले डिजिटल माध्यम खतरनाक बन्न सक्ने बताउँछिन्। भन्छिन्, “यस्तो प्रचार गर्ने कार्य अपारदर्शी वा लुकिछिपी रूपमा हुन्छ। यसबाट प्रेरणा दिनेभन्दा पनि मान्छेलाई म्यानिपुलेसन गरेको देखिन्छ।”
सामग्री सही वा गलत जे पनि हुन सक्छन्, तर धेरैले हेरेका, कमेन्ट गरेका सामग्री सामाजिक सञ्जालमा चाँडै फैलिन्छन्। एल्गोरिदमलाई दुरुपयोग गर्नेहरूले सामाजिक सञ्जालहरूमा नक्कली नाममा धेरैभन्दा धेरै खाता खोलेर आफूले प्रचार गर्न चाहेका सामग्रीमा लाइक, कमेन्ट र सेयर गर्छन्। एल्गोरिदमले त्यसलाई ‘पपुलर’ सामग्री बुझेर अझ धेरैसम्म पुर्याइदिन्छ।
एल्गोरिदमले मान्छेले प्रयोग गरेका डिभाइस र सामाजिक सञ्जालमा उपलब्ध डेटा अध्ययन गर्छ र प्रयोगकर्ताको रुचिलाई पहिचान गर्छ। यसको दुरुपयोग गर्नेहरूले सही कुरालाई गलत र गलतलाई असल बनाएर धेरै मान्छेसम्म पुर्याउन सक्ने सूचना-प्रविधिविज्ञ सुब्बा बताउँछन्। एल्गोरिदमको प्रयोग गरेर डेटा जेनेरेट गर्ने र त्यसको आधारमा मान्छेलाई भ्रम सिर्जना गर्ने प्रवृत्ति खतरनाक रूपमा बढिरहेको उनी बताउँछन्। भन्छन्, “भावनात्मक कुरालाई एल्गोरिदमबाट फैलाउनु मान्छेको साइकोलोजिकल ह्याकिङ हो। यसले समाजमा धेरै ठूलो प्रभाव पार्न सक्छ।”
पारदर्शितामा प्रश्न
२१ फागुनको निर्वाचनमा राजनीतिक दल तथा उम्मेदवारहरूले मतदातालाई मनोवैज्ञानिक प्रभाव पार्न एल्गोरिदमको प्रयोग गरेका थिए।
विगतका चुनावमा दलहरूले प्रसारका लागि पम्प्लेट, मोटर र्याली, सञ्चारमाध्यममा विज्ञापन, माइकिङ र आमसभा गर्थे। परम्परागत तरिकाले गरिने यस्ता प्रचारप्रसार कसले गरेको बुझ्न सहज हुन्थ्यो। सरकारी निकायले पनि त्यस्ता कार्यमा कति खर्च भयो भनेर हिसाब निकाल्न सक्थे। त्यसैले दल र उम्मेदवारहरूलाई जवाफदेह र पारदर्शी हुन कर लाग्थ्यो।
तर, पछिल्लो चुनावमा सामाजिक सञ्जाल र इन्टरनेटको माध्यमबाट भव्य प्रचारप्रसार भयो। यस्ता सामग्री मान्छेको भावनालाई प्रभाव पार्ने र प्रलोभन देखाउने गरी तयार गरिएको हुन्छ। यस्ता प्रचारमा कसले लगानी गरेको छ भन्ने पत्ता लगाउन गाह्रो हुन्छ।
एल्गोरिदमको पारदर्शिताबारे संसारमै बहस भइरहेको छ। अमेरिकामा विशेष कानुन बनाउनुपर्ने आवाज उठिरहेको छ। युरोपियन युनियनले सन् २०२४ मा ‘एआई एक्ट’ ल्याएको छ, जसमा एल्गोरिदमको पारदर्शिता हुनुपर्ने व्यवस्था गरिएको छ। त्यसबाहेक विश्वका कतिपय देशहरूले यस विषयमा ऐन बनाउने काम गरिरहेका छन्।
एल्गोरिदमको पारदर्शिताबारे प्रश्न उठ्न थाले पनि यसबारे सरकारले ध्यान दिएको छैन। चुनाव प्रचारप्रसारमा आर्थिक पारदर्शिताका लागि कडाइ गर्ने गरेको निर्वाचन आयोगले समेत एल्गोरिदमको दुरुपयोग गरेर मतदाता प्रभावित गर्ने दल वा उम्मेदवारलाई एल्गोरिदमको पारदर्शिताबारे प्रश्न उठाएको देखिएन। चुनावमा एल्गोरिदमको दुरुपयोग गरेर वास्तविकताभन्दा भ्रम फैलाउने काम भएको तर यसबारे सरकारले वास्ता नगरेको विज्ञहरूको भनाइ छ। एल्गोरिदमको पारदर्शिताका लागि दलहरूले डिजिटल लगानी प्रस्ट पार्नुपर्ने, सामाजिक सञ्जालमा प्रयोग गरिएका प्रम्प्ट कोडहरू प्रिन्ट गरेर निर्वाचन आयोगमा बुझाउने व्यवस्था गर्न सकिने सूचना-प्रविधिविज्ञ सुब्बा बताउँछन्।
तर, निर्वाचन आयोगका सूचना अधिकारी सुमन घिमिरे दलहरूलाई सबै कुरामा पारदर्शी बनाउन आयोगले धेरै अगाडिदेखि अभ्यास गरिरहेको बताउँछन्। आर्थिक पारदर्शिताका लागि कानुनी व्यवस्था गरिएको र सामाजिक सञ्जालमा भएका प्रचारबारे पनि आयोगले सूक्ष्म रूपमा निगरानी गरेको उनको भनाइ छ। उनी भन्छन्, “सबै कुरा पारदर्शी बनाउन आयोगको एक्लो प्रयासले मात्र सम्भव हुँदैन। त्यसका लागि स्टेकहोल्डरहरू पनि त्यसमा प्रतिबद्ध हुन जरुरी हुन्छ।”
एल्गोरिदमको पारदर्शिताबारे संसारमै बहस भइरहेको छ। अमेरिकामा विशेष कानुन बनाउनुपर्ने आवाज उठिरहेको छ। युरोपियन युनियनले सन् २०२४ मा ‘एआई एक्ट’ ल्याएको छ, जसमा एल्गोरिदमको पारदर्शिता हुनुपर्ने व्यवस्था गरिएको छ। त्यसबाहेक विश्वका कतिपय देशहरूले यस विषयमा ऐन बनाउने काम गरिरहेका छन्। नेपालमा भने हालसम्म यसबारे बहस नै हुन नसकेको सूचना-प्रविधिविज्ञ सुब्बा बताउँछन्। भन्छन्, “राजनीतिक दल वा अरू कसैले एल्गोरिदम कसरी प्रयोग गरिरहेका छन् भन्ने पारदर्शिता हुनु जरुरी छ।”
जेन-जी आन्दोलनको पहिलो दिन माइतीघरमा प्रदर्शन गर्दै। तस्बिर : बिक्रम राई
कार्की आयोगको प्रतिवेदनले एल्गोरिदमलाई ‘मित्रजस्तो देखिने शत्रु’ का रूपमा परिभाषित गरेको छ। संसारमा प्रविधिको विकास द्रुत रूपमा भइरहेकाले नेपालमा पनि प्रविधिसम्बद्ध कम्पनी र एल्गोरिदमको प्रभाव सबै क्षेत्रमा परिसकेको उल्लेख गर्दै प्रतिवेदनमा लेखिएको छ, ‘जसका कारण राज्यशक्ति बिस्तारै टेक शक्तिहरूको हातमा सर्दै छ।’
चुनावमा एल्गोरिदमकै प्रयोग गरेको रास्वपा अहिले सरकारमा छ। हालका प्रधानमन्त्री बालेन्द्र शाह र्यापर हुँदैदेखि डिजिटल दुनियाँमा अभ्यस्त छन्। २९ चैतमा सार्वजनिक उनको सम्पत्ति विवरणमा सामाजिक सञ्जालबाट एक करोड ४६ लाख रुपैयाँ कमाइ गरेको उल्लेख छ। त्यसो त बालेन्द्र नेतृत्वको सरकारले डिजिटल शासनलाई प्राथमिकता दिइरहेको छ। तर, एल्गोरिदमको दुरुपयोग र यसलाई कसरी पारदर्शी बनाउने भन्नेबारे सरकार पनि स्पष्ट छैन।
एआईविज्ञ राई एल्गोरिदमको पारदर्शिताका लागि कानुनी व्यवस्था गर्न ढिलाइ गर्न नहुने बताउँछिन्। एल्गोरिदमको पारदर्शितामा सरकारले ध्यान दिनुपर्ने उनको भनाइ छ।
डेटा संरक्षण नीतिको पक्षमा आवाज उठाइरहेका अधिवक्ता बाबुराम अर्याल एल्गोरिदमको दुरुपयोग रोक्न र यसलाई पारदर्शी बनाउन सरकारले डेटा संरक्षण ऐन ल्याउनु जरुरी देख्छन्। भन्छन्, “डेटा संरक्षणका लागि छुट्टै कानुन चाहिन्छ भनेर पटक पटक कुरा उठिरहेको छ। नागरिकका डेटा सुरक्षित गर्नदेखि एल्गोरिदमबाट फैलिने गलत सूचना नियन्त्रण गर्न पनि छुट्टै कानुनको आवश्यकता छ।”
