छात्राहरूमाथिको यौन दुर्व्यवहार: एआई बन्दै नयाँ कारण

विद्यालयहरूमा अचेल नयाँ समस्या देखा परिरहेछन्। हालै संयुक्त राज्य अमेरिकाको बेवलीहिल, क्यालिफोर्नियाको एक हाईस्कूलका छात्रहरूले ‘एआई’ आर्टिफिसियल इन्टिलिजेन्स् (Artificial Intelligence) प्रविधि प्रयोग गरेर नग्न तस्वीरमा आफ्ना सहपाठी छात्राहरूको अनुहार जोडेर ‘डिपफेक’ (deepfake) बनाएर ‘भाइरल’ गराएको पाइयो। (डिपफेकः एआईको प्रयोग मार्फत अर्कैको आवाज वा अनुहार जोडेर बनाइएका तस्वीर/भिडिओ।)

स्कूल तहका छात्राहरूले यस्ता खालका दुव्र्यवहार भोगेको अरू घटना पनि मैले सुनेकी छु। ती साह्रै भयानक छन्। तर, विद्यालय जस्तो सुरक्षित महसूस हुनुपर्ने ठाउँमा आफ्नै सहपाठी साथीहरूले सहजै हटाउन नसकिने र संसारैभर फैलिन सक्ने तस्वीर र भिडियो क्लिप यसरी बनाइरहेछन् भन्ने थाहा पाउँदा मेरो मन विचलित भएको छ। 

म प्रविधिद्वेषी होइन, तर पनि सामाजिक सञ्जालले खासगरी किशोरीहरूमा पार्ने दुष्प्रभावलाई लिएर चिन्तित हुने गर्छु। यो विषय जटिल छ। अनुसन्धानहरूले सधैं सामाजिक सञ्जालले पार्ने मानसिक असरहरू मात्रै देखाएका छैनन् भन्ने जान्दाजान्दै पनि एआई प्रविधिको प्रयोगले धेरै खालका समस्या सिर्जना गर्न सक्ने सम्भावनाप्रति पनि म सचेत छु। खासगरी के गर्दा केसम्म असर पर्न सक्छ भन्ने थाहा नभएका किशोर-किशोरीहरूले यो प्रविधि प्रयोग गर्दा जोखिम बढी हुन्छ।

हाईस्कूल पढ्ने केटाहरूले त्यो हदसम्मको काम गरे भन्ने थाहा पाउँदा शुरूमा मलाई निकै रिस उठ्यो। म ती केटाहरूको अनुहार कुच्याउन चाहन्थें । तर, मैले किशोरकिशोरीबारे अनुभव भएका र किशोरकालीन सम्बन्ध एवं गोप्यता र प्रविधिका जानकारको धारणा सुन्ने निधो गरें। त्यसैले ‘ग्रोइङ अप इन पब्लिकः कमिङ अफ एज इन अ डिजिटल वल्र्ड’ (Growing up in Public Coming of Age in a Digital World) की लेखक डेभोराह हाइटनरलाई फोन गरें।

हाइटनरले मलाई एआईले बालबालिकाको सिकाइमा नयाँ आयाम थपे पनि केही वर्षदेखि यो प्रविधिको दुरुपयोग गरेर कैयौं केटाहरूले विना अनुमति सहपाठी केटीहरूका अश्लील तस्वीर र भिडियो प्रसार गरिरहेको बताइन्। ‘अमेरिकन मेडिकल एशोसिएसन’ले प्रकाशन गर्ने जर्नल ‘जामा पेडियाट्रिक्स’ (JMM Pediatrics) ले सन् २०१८ मा १२ देखि १७ वर्षका बालबालिकामा गरेको अध्ययन अनुसार विना अनुमति अश्लील सन्देश पठाउने दर त्यो उमेर समूहमा १२ प्रतिशत थियो भने विना अनुमति त्यस्ता सामग्री ग्रहण गर्ने दर ८.४ प्रतिशत थियो।

हाइटनरले आफ्नो पुस्तकमा ८ कक्षाकी एक छात्राले भोगेको दुव्र्यवहारको प्रसंग उल्लेख गरेकी छन्। ती बालिकाले आफ्नो केटा साथीलाई टपलेश फोटो पठाएकी थिइन् । उसले भने उनलाई थाहै नदिई त्यो फोटो अरू केटाहरूलाई पठायो । उनीहरूको ब्रेकअप भएपछि पनि त्यो फोटो एक जनाबाट अर्कोमा प्रसारित भइरह्यो । एकदिन उनले आफ्नो स्कूलको इमेल खोल्दा त आफ्नो फोटोमा पोर्न भिडिओको आवाज मिलाएर अश्लील सामग्री नै बनाइएको पाइन्।

पहिलेदेखि नै अभ्यासमा रहेका यस्ता अवैध अभ्यासलाई एआई मार्फत नक्कली नग्न तस्वीरको निर्माणले झनै बढाइदिएको छ। माथि उल्लेख गरेको घटनामा सो स्कूलका केटाहरूले आफ्ना सहपाठी छात्रा साथीको नक्कली तस्वीर मात्र बनाएनन्, आफ्ना केटा साथीहरूलाई पठाउने काम पनि गरे, जसले पीडामाथि पीडा थपिदियो।

“कुनै पनि व्यक्तिको सहमति विना नक्कली वा सक्कली जस्तो भए पनि तस्वीर बनाउनु र प्रचार गर्नु उक्त व्यक्तिको गोप्यता र सुरक्षा सम्बन्धी विशेषाधिकारको उल्लंघन गर्नु हो”, हाइटनर भन्छिन् । यसरी नक्कली तस्वीर अथवा विना अनुमति सक्कली नै तस्वीर बनाउँदा पनि केटीहरूले आफ्नो सामाजिक मर्यादा गुमेको महसूस गर्छन्। आफ्नो कुन चाहिं साथीले आफ्नो त्यस्तो तस्वीर देखेको छ वा छैन भन्ने थाहा नहुने भएकाले उनीहरूले एकदमै अपमान अनुभव गरिरहेका हुन्छन् । हाइटनरले आफ्नो पुस्तकमा यो अवस्था जटिल बन्दै गएपछि केटीहरू कसरी विद्यालय नै जान छोड्छन् भनेर व्याख्या गरेकी छन्।

तर, हाइटनरले बालक वा कम उमेरका पीडकहरूलाई बढी सजाय दिन नहुनेतर्फ पनि सावधान बनाएकी छन्। “१२/१३ वर्षका केटाहरू वयस्कहरूभन्दा निकै फरक हुन्छन् भन्ने बुझनु जरूरी छ”, उनी भन्छिन् । उनीहरूका कारण पीडितले पीडकलाई आफू वरिपरि देख्न नचाहेको हकमा एउटा विद्यालयबाट निष्काशन गरेर अर्कोमा लैजानु उचित हुन्छ तर विद्यालय र समाजबाटै बहिष्कार गर्नु गलत हुन्छ । उनीहरू सुधारिन सक्छन् । उनीहरू सच्चिएर असल वयस्क बन्न सक्छन् ।

प्राथमिक तहदेखि नै बालबालिकालाई प्रविधि र अनुमतिबारे शिक्षा दिनुपर्छ । प्राथमिक तह त निकै छिटो हुन्छ भन्ने लाग्छ भने नबिर्सनुस् अहिले ११, १२ वर्षको उमेरमा नै बच्चाहरूले मोबाइल फोन बोक्न थालेका छन्। र, धेरै बच्चाहरू त्योभन्दा पहिले नै परिवारमा रहेका फोन, ट्याब्लेट जस्ता सामग्रीमा तस्वीर बनाउन र अरूलाई पठाउन जान्ने भइसकेका हुन्छन् । त्यसैले त हाइटनर आफ्नो पुस्तकमा लेख्छिन्– “कसैको अनुमति विना फोटो र मेसेज पठाउनु गलत हो भनेर आफ्ना बच्चाहरूलाई सिकाउनुहोस्। आफूसँग कतैबाट त्यस्ता फोटो वा मेसेज आइहाले पनि अरूलाई पठाउनु अनैतिक र अवैध हो भनेर बारम्बार सम्झइरहनुहोस् ।”

अहिले विद्यमान कानून मूलतः वास्तविक तस्वीरका हकमा लागू हुन्छ । ‘डिपफेक’– पीडितका सम्बन्धमा कानूनको अभाव छ । (नेपालको हकमा त सामाजिक सञ्जालहरूमा राज्यको पहुँच नै कमजोर छ, जसले गर्दा कसले कहाँबाट दुरुपयोग गरिरहेछ भन्ने थाहा पाउन गाह्रो हुन्छ ।) यससँग सम्बन्धित कानून बनाउन ढिला भइसकेको छ। 

हाइटनर यस्ता समस्याको जरासम्मै पुग्नुपर्नेमा जोड दिन्छिन्। “हामीले बालबालिकालाई समभाव र अरूको सम्मान गर्न सिकाउनुपर्छ । साथै समाजमा रहेको नारीद्वेष ९mष्कयनथलथ० र समलिंगी–भय ९जयmयउजयदष्ब० बारे पनि ध्यान दिनुपर्छ जसले बालबालिकालाई अर्कोको शरीरलाई लिएर उत्पीडन गर्न प्रोत्साहित गर्छ”, उनी भन्छिन्।

धेरै मानिसहरू भन्छन्, “कतिपय हकमा केटाहरूले भन्दा पनि राम्रो कलेजमा पढ्न पाएका र गतिला डिग्री हासिल गर्न सक्षम भएका महिलाले पनि आफूलाई कमजोर ठान्छन् ।” तर, यस्तो ठान्नु खासै अनौठो होइन । केटीहरूलाई थाहा छ– “अधिकांश केटाहरू केटीहरू अपमानित हुन योग्य छन् भन्ने मान्यता राख्छन् र समाजको एक हिस्साले उनीहरूलाई वस्तुका रूपमा बुझछ ।” त्यसैले उनीहरू आफूलाई कमजोर ठान्छन् । यो अपमानकोे बोझ् बोकेर उनीहरू हिंडिरहेका हुन्छन् । त्यो बोझ् निकाल्न सघाउने जिम्मेवारी हामी सबैको हो । 

(‘द न्यू योर्क टाइम्स’ मा २ मार्च २०२४ मा प्रकाशित लेखको संक्षेपीकृत नेपाली अनुवाद ।)
अनुवादः लक्ष्मण श्रेष्ठ