इन्डोनेसियाले एआईबाट उत्पन्न हुने अश्लील सामग्रीसम्बन्धी गम्भीर चिन्तालाई मध्यनजर गर्दै एलन मस्कको स्वामित्वमा रहेको एआई च्याटबट ग्रोकलाई अस्थायी रूपमा निलम्बन गरेको छ। देशका सञ्चार तथा डिजिटल मामिलामन्त्री मेउत्या हफिदले शनिबार यसबारे जानकारी दिएका हुन्।

ग्रोकको छवि निर्माण सुविधाले साधारण पाठ निर्देशनमार्फत महिला र बालबालिकाको तस्बिरलाई यौनिक रूपमा प्रस्तुत गर्न सकिने खुलासा भएपछि विश्वव्यापी आलोचना सुरु भएको थियो। यही पृष्ठभूमिमा इन्डोनेसिया ग्रोकमा पूर्ण पहुँच रोक्ने पहिलो देश बनेको हो। यसअघि अन्य मुलुकहरूमा भने प्रतिक्रिया स्वरूप यो सुविधा भुक्तान गर्ने प्रयोगकर्ताहरूमा मात्र सीमित गरिएको थियो।

मन्त्री हफिदले जारी गरेको विज्ञप्तिमा सरकारले महिला, बालबालिका र आम नागरिकलाई एआई प्रविधिबाट उत्पन्न नक्कली अश्लील सामग्रीको जोखिमबाट जोगाउन यस्तो निर्णय गरेको स्पष्ट पारेका छन्। उनले ‘आर्टिफिसियल इन्टेलिजेन्स (एआई) प्रयोग गरी बनाइने गैर–सहमति डिपफेक सामग्री मानव अधिकार, मानवीय गरिमा र डिजिटल क्षेत्रमा नागरिकको सुरक्षामाथि गम्भीर आक्रमण हो’ भन्दै सरकार यस्ता अभ्यासप्रति शून्य सहनशीलतामा रहेको बताएका छन्।

मन्त्रालयले यस विषयमा थप स्पष्टीकरणका लागि सामाजिक सञ्जाल प्लेटफर्म एक्सका प्रतिनिधिहरूलाई पनि बोलाएको जनाएको छ। इन्डोनेसियाली अधिकारीहरूले डिजिटल प्लेटफर्महरूले प्रयोगकर्ताको सुरक्षालाई प्राथमिकतामा राख्नुपर्ने र कानुनी तथा नैतिक दायित्व पूरा गर्नुपर्नेमा जोड दिएका छन्।

जकार्तामा रहेका एएफपी संवाददाताहरूका अनुसार शनिबार साँझसम्म ग्रोकको एक्स खाता भने सक्रिय नै देखिएको थियो। च्याटबटले बहासा इन्डोनेसियासहित विभिन्न भाषामा सोधिएका प्रश्नहरूको उत्तर दिइरहेको पाइएको छ। यद्यपि सरकारी निलम्बनपछि इन्डोनेसियामा ग्रोक अनुप्रयोगमार्फत सीधा पहुँच अवरुद्ध गरिएको छ।

ग्रोक विकास गर्ने मस्कको स्वामित्वमा रहेको स्टार्टअप एक्सएआईले यस विषयमा तत्काल कुनै औपचारिक प्रतिक्रिया दिएको छैन। युरोपेली अधिकारीहरू र प्राविधिक अधिकारकर्मीहरूले भने यौनिक रूपमा स्पष्ट डिपफेक सामग्रीको जोखिमलाई पर्याप्त रूपमा सम्बोधन गर्न नसकेको भन्दै ग्रोकका सुविधाहरू केवल भुक्तान गर्ने प्रयोगकर्तामा सीमित गर्ने कदमको आलोचना गर्दै आएका छन्।

यसैबीच, एलोन मस्कले गत हप्ता सामाजिक सञ्जालमा स्पष्ट छविहरू सम्बन्धी एक पोस्टको प्रतिक्रियामा टिप्पणी गर्दै अवैध सामग्री बनाउन ग्रोक प्रयोग गर्ने व्यक्तिले त्यस्तै अवैध सामग्री अपलोड गरेसरह नै कानुनी परिणाम भोग्नुपर्ने बताएका थिए।

इन्डोनेसियाको यो निर्णयले एआई प्रविधिको दुरुपयोग, विशेषगरी अश्लील र डिपफेक सामग्रीको नियन्त्रणमा सरकारहरूको कडा भूमिकाबारे अन्तर्राष्ट्रिय बहसलाई थप तीव्र बनाउने अपेक्षा गरिएको छ।