विचार

एआई नियामक प्राधिकरणको आवश्यकता

वैज्ञानिक तथा प्रविधि विशेषज्ञले पछिल्ला वर्षमा कृत्रिम बौद्धिकताको तीव्र विकासको विषयमा चेतावनी दिँदै आएका छन्। आणविक युगको सुरुवातताका प्रविधिको विषयमा जुन प्रकारको चिन्ता व्यक्त गरिएको थियो, त्योभन्दा गंभीर हिसाबले अहिले यस्तो चेतावनी विश्वभर गुञ्जिन थालेको छ।

उदाहरणका लागि एलन मस्कले भनेका छन्, ‘एआई आणविक हतियारभन्दा झन् बढी खतरनाक छ।’ यति धेरै गंभीर विषयमा नियमन प्रणाली नहुनुलाई मस्क ‘पाखण्डपन’ भन्छन्। स्टेफन हकिन्सले पनि समान धारणा राखेका थिए। ‘सम्भावित जोखिमलाई सम्बोधन गर्न तयार नभएमा र जोखिमबाट बच्ने उपाय अवलम्बन नगरेमा एआर्र्ई इतिहासको डरलाग्दो घटना हुनेछ। यसले शक्तिशाली र स्वचालित हतियारको खतरा निम्ताउनेछ र सीमित व्यक्तिले धेरैलाई दमन गर्ने अवसर दिनेछ’, उनले भनेका थिए।  

नियन्त्रणभन्दा बाहिर रहेको एआर्र्ईले निम्त्याउने संभावित विनाशकारी प्रभावलाई सम्बोधन गर्न अन्तर्राष्ट्रिय नियमन आवश्यक छ। यसले यो उदीयमान प्रविधि अर्थात् डेटामा आधारित प्रणालीलाई आमसर्वसाधारणको हितमा राख्न सुनिश्चित गर्छ। विशेषगरी विश्वव्यापीरूपमा अनलाइन र मानव अधिकारको सुरक्षाको विषय पनि यसैसँग जोडिन्छ। यो उद्देश्य प्राप्तिका लागि सरकारहरूले डेटामा आधारित प्रणालीको नियमन गर्दा शक्तिमा रहेकाले कमजोर र आवाजबिहीनको मानव अधिकारको सुरक्षा सुनिश्चता गर्नुपर्दछ।

एआर्र्ईको डिजाइन, विकास, उत्पादन, वितरण तथा प्रयोगसमेत गरी यो प्रविधिको समस्त जीवनचक्रमा यो सुरक्षा आवश्यक छ। यो प्रयोजनका लागि संयुक्त राष्ट्रसंघले तुरुन्तै अन्तर्राष्ट्रिय स्तरको डेटामा आधारित प्रणाली एजेन्सी (आइडिए) स्थापना गर्नुपर्छ। यसरी विश्वव्यापी एआर्र्ई निगरानी गर्ने व्यवस्थाले प्रविधिहरूको सुरक्षित, दिगो र शान्तिपूर्ण प्रयोगलाई प्रवर्धन गर्न सहयोग गर्नेछ। मानव अधिकारको सम्मान गर्न तथा आपसी सहयोगलाई बढावा दिन पनि यो उत्तिकै आवश्यक छ। यसैगरी एआर्र्ईका उत्पादनहरूका लागि बजार स्वीकृति दिन पनि यसप्रकारको नियामक प्राधिकरण आवश्यक छ।

डेटा–आधारित प्रणालीहरू र आणविक प्रविधिहरूबीचको समानतालाई ध्यानमा राख्दै, अन्तर्राष्ट्रिय आणविक ऊर्जा एजेन्सी (आइएइए) जस्तो संस्था यसका लागि उचित मोडेल हुन सक्छ। सयुक्त राष्ट्र संघका प्रभावकारी निकायमध्ये एक हो। आइएइएको सफलताले दिएको सन्देश के हो भने मानवता तथा पृथ्वीको भविष्य खतरामा परेका बेला हामी प्राविधिक विकासको अन्धाधुन्द प्रयासबाट सावधान रहन र त्यसलाई निषेध गर्न सक्छौँ।

हिरोसिमा र नागासाकीको आणविक युद्धको विनाशकारी मानवीय क्षतिलाई मुखरित गरेपछि यसप्रकारको प्रविधिको विकासको क्षेत्रमा अनुसन्धान र विकासमा कटौती गरिएको थियो। यसले भविष्यमा आउन सक्ने झन ठूलो खतरा टारेको थियो। आइएइएको अन्तर्राष्ट्रिय नियमनको बलियो कार्यान्वयन संयन्त्रले यो सम्भव भएको हो । यही सन्दर्भमा विश्वका कैयन् विज्ञले एआर्र्ईलाई नियमन गर्न आइडिए स्थापनाको माग गर्दै आएका छन्। मानव अधिकारको सुनिश्चिततासहितको तथ्यांकमा आधारित प्रणाली स्थापनमा उनीहरूको जोड छ। नेल्सन मन्डेलाद्वारा स्थापित विश्वव्यापी नेताहरूको स्वतन्त्र समूह ‘इल्डर्स’ ले पनि एआर्र्ईका ठूला जोखिम आकलन गर्दै आइएइए जस्तै अन्तर्राष्ट्रिय एजेन्सीको आवश्यकतालाई जोड दिएको छ।

यो निकायले शक्तिशाली प्रविधिहरूलाई बलियो सुरक्षा प्रोटोकलको घेरामा व्यवस्थापन गर्न र अन्तर्राष्ट्रिय कानुन र मानव अधिकार सन्धिहरूसँग सुसंगत राख्न सघाउ पुर्‍याउनेछ। यो सन्दर्भमा इल्डर्सले संयुक्त राष्ट्रसंघीय महासभालाई यसप्रकारको अनुरोध गर्न सम्बद्ध देशलाई आह्वान गरेको छ। महासभाले अन्तर्राष्ट्रिय कानुन आयोगलाई यसप्रकारको अन्तर्राष्ट्रिय सन्धिको मस्यौदा तयार गर्न निर्देश गर्नुपर्ने उक्त समूहको सुझाव छ। यसप्रकारको कानुनी व्यवस्थाको आवश्यकतालाई समर्थन गर्नेमा ओपन एआर्र्ईका प्रमुख कार्यकारी साम अल्टमन जस्ता प्रभावकारी व्यक्तिसमेत रहेका छन्।

सन् २०२२ को अन्तताका ओपन एआर्र्ई सार्वजनिक भएयता विश्वमा एआर्र्ईको क्षेत्रमा प्रतिस्पर्धा सुरु भएको हो।

गत वर्ष अल्टमनले प्रविधिको निरीक्षण र अडिट गर्न तथा आवश्यक सबैखाले सुरक्षाको प्रत्याभूति अन्तर्राष्ट्रिय निकायको स्थापना गर्नुपर्नेमा जोड दिएका थिए । पोप फ्रान्सिसले समेत यो प्रविधिको नैतिक पक्षलाई नियमन गर्न बहुपक्षीय निकाय आवश्यक रहेको बताएका छन्।

सयुक्त राष्ट्रसंघले पनि डेटामा आधारित प्रणालीले मानव अधिकारको सुरक्षा गर्नुपर्नेमा जोड दिएको छ।

सन् २०२३ को जुलाइमा संयुक्त राष्ट्रसंघीय मानव अधिकार नियोगले ‘नयाँ र उदीयमान डिजिटल प्रविधि र मानव अधिकार’ विषयमा एक प्रस्ताव अनुमोदन गरेको छ। यो प्रस्तावमा प्रविधिको आवश्यक नियमनकारी व्यवस्था नभएको वर्तमान अवस्थामा यसप्रकारको व्यवस्था गर्न र मानव अधिकारको सुरक्षा प्रत्याभूत गर्नुपर्नेमा जोड दिइएको छ। प्रभावकारी उपचारको व्यवस्था तथा निरीक्षण र कानुनी जवाफदेहिता सुनिश्चित गर्नसमेत उक्त प्रस्तावमा जोड दिइएको छ।

गत मार्चमा राष्ट्रसंघीय महासभाको पूर्ण बहुमतले सुरक्षित तथा विश्वासिलो एवं दिगो एआर्र्र्ई प्रणाली निर्माण गर्ने सम्बन्धमा अर्काे प्रस्ताव पारित गरेको छ। यो ऐतिहासिक निर्णयले एआर्र्र्ई समग्र जीवनचक्रमा सर्वसाधारणको हित ग्यारेन्टी गर्न जोड दिइएको छ। समग्र अन्तर्राष्ट्रिय समुदायले डेटा प्रणालीले आमसर्वसाधारणको मानव अधिकारको सुरक्षा गर्ने प्रतिबद्धता व्यक्त गरेको सन्दर्भमा राष्ट्रसंघले तत्काल आइडिए स्थापनका लागि पहल गर्नुपर्छ।

-रिर्चलागर स्विजरल्यान्डको इन्स्टिच्युट अफ सोसल इथिक्सका निर्देशक हुन्। (प्रोजेक्ट सिन्डिकेट)

प्रकाशित: १४ वैशाख २०८१ ०६:३९ शुक्रबार

वैज्ञानिक प्रविधि विशेषज्ञ कृत्रिम बौद्धिकता तीव्र विकास चेतावनी एलन मस्क एआई आणविक हतियार