कृत्रिम बुद्धिमत्ता (एआई) मानव सभ्यताको सबैभन्दा शक्तिशाली प्रविधिमध्ये एक बनेको छ। रोग पहिचानदेखि शिक्षा, अनुसन्धान, उत्पादन र सञ्चारसम्म यसले अभूतपूर्व सम्भावना खोलिरहेको छ। पछिल्ला दिनमा एआईकै विकासमा संलग्न वैज्ञानिक तथा कम्पनीका अधिकारीहरूबाट आएको चेतावनीले कतै मानिसले बनाएको प्रविधि मानिसकै नियन्त्रणबाहिर जाने त होइन ? भन्ने गम्भीर प्रश्न उठेको छ।

वर्तमान बहस काल्पनिक विज्ञानकथाको विषयमा सीमित देखिँदैन। एआई कम्पनी एन्थ्रोपिकका अनुसन्धानकर्ता ज्याकब कोक्सनले कम्पनी छाड्दै एआईको तीव्र विकासप्रति गम्भीर चिन्ता व्यक्त गरेपछि बहस चर्किएको हो।

एन्थ्रोपिकका अर्का अनुसन्धानकर्ताले पनि आगामी दशकमा एआईबाट मानव अस्तित्वमा पर्न सक्ने जोखिमबारे चिन्ता व्यक्त गरेका छन्। त्यसपछि एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोडेईले सबै एआई कम्पनीलाई विकासको गति केही सुस्त बनाउन, स्वतन्त्र सुरक्षा परीक्षकको व्यवस्था गर्न तथा अन्तर्राष्ट्रिय सहकार्यमा सुरक्षा मापदण्ड र नियन्त्रणका उपाय बनाउन आह्वान गरेका छन्।

ओपनएआई, स्पेसएक्स र गुगल डिपमाइन्डका प्रमुखहरूले पनि यस्तो चिन्ताप्रति सहमति जनाएका छन्। केही आलोचक र प्रतिस्पर्धीले भने अग्रणी एआई कम्पनीहरूबिचको यस्तो एकता बजार र प्रभावमाथि आफ्नो नियन्त्रण कायम गर्ने रणनीति पनि हुन सक्ने तर्क गरेका छन्।

यस विषयमा सबै विज्ञ एउटै निष्कर्षमा छैनन्। केही विज्ञले मानव विलुप्तिको सम्भावनाबारे गरिएका दाबी अहिले पनि धेरै हदसम्म अनुमानमा आधारित रहेको बताएका छन्। अर्कातर्फ एआईको दुरुपयोगबाट साइबर हमला, ठगी, गलत सूचना, निगरानी र जैविक हतियार निर्माणजस्ता जोखिम भने अहिले नै देखिन थालेका छन्। त्यसैले वर्तमान बहसलाई ‘एआईले मानव जाति नष्ट गर्छ कि गर्दैन’ भन्ने दुई ध्रुवीय प्रश्नमा सीमित गर्नु उचित हुँदैन। वास्तविक प्रश्न भनेको ‘एआई कति शक्तिशाली हुनुपर्छ, त्यसलाई कसले र कसरी नियन्त्रण गर्ने र गल्ती वा दुरुपयोग भए त्यसको जिम्मेवारी कसले लिने? भन्ने हो।

एआईको विकास र नियमनबारे अहिले भइरहेको सार्वजनिक बहस आवश्यक र समयसापेक्ष छ। चिन्तालाई आतंकमा बदल्नु पनि समाधान होइन। एआईका सम्भावित जोखिमलाई गम्भीरतापूर्वक लिनुपर्छ तर मानव सभ्यताको अन्त्य अवश्यम्भावी छ भन्ने प्रलयवादी सोचलाई तथ्यकै रूपमा स्वीकार गर्नु उचित हुँदैन। जोखिमबारे सचेत हुनु र भविष्यको विनाश निश्चित छ भनेर निष्कर्ष निकाल्नु दुई फरक कुरा हुन्।

एआईबारे अर्को महत्त्वपूर्ण प्रश्न भनेको ‘के हामी प्रविधिको क्षमतालाई आवश्यकताभन्दा बढी मानवीय गुण दिइरहेका छौं ?’ भन्ने हो। यस सन्दर्भमा विशेष चिन्ता सैन्य, जैविक र साइबर क्षेत्रमा शक्तिशाली एआई प्रणालीको प्रयोगलाई लिएर पनि छ। गलत हातमा पुगेमा वा पर्याप्त परीक्षणबिना प्रयोग गरिएमा यस्ता प्रणालीले ठुलो क्षति पुर्‍याउन सक्छन्। त्यसैले ‘मानव नियन्त्रण’को प्रश्न एआईको भविष्यको बहसको केन्द्रमा हुनुपर्छ।  विशेषतः जीवन–मरण, युद्ध, स्वास्थ्य, न्याय र सार्वजनिक सुरक्षासँग सम्बन्धित निर्णयमा अन्तिम जिम्मेवारी मानिसकै हुनुपर्छ।

अबको बाटो एआईको विकास रोक्नु वा त्यसलाई अनियन्त्रित रूपमा अघि बढाउनु होइन, सुरक्षित र जिम्मेवार विकासको स्पष्ट सीमा तय गर्नु हो। स्वतन्त्र सुरक्षा परीक्षण, पारदर्शिता, जवाफदेहिता, मानव निगरानी र अन्तर्राष्ट्रिय सहकार्यलाई एआई विकासको अनिवार्य हिस्सा बनाउनुपर्छ। सरकारहरूले न्यूनतम सुरक्षा मापदण्ड तय गर्नुपर्छ भने कम्पनीहरू आफ्ना प्रविधिका जोखिम र कमजोरीबारे सार्वजनिक रूपमा जवाफदेही हुनुपर्छ। विश्वका प्रमुख एआई विकासकर्ता देशहरूबिच साझा सुरक्षा मापदण्ड निर्माण आवश्यक छ।

नेपालले पनि यस बहसलाई टाढाको विषय ठान्नुहुँदैन। शिक्षा, स्वास्थ्य, सञ्चार, सरकारी सेवा र रोजगारीमा एआईको प्रयोग विस्तार हुँदै जाँदा डेटा सुरक्षा, गोपनीयता, गलत सूचना, डिजिटल साक्षरता र रोजगारीमा पर्ने प्रभावबारे स्पष्ट नीति आवश्यक छ। प्रविधि आयात गर्ने मात्र होइन, त्यसको सुरक्षित र जिम्मेवार प्रयोग सुनिश्चित गर्ने क्षमता पनि विकास गर्नुपर्छ।

एआईबाट डराएर भविष्यबाट भाग्न सकिँदैन। सम्भावित जोखिमलाई बेवास्ता गरेर अघि बढ्नु पनि बुद्धिमानी होइन। अबको आवश्यकता न प्रविधिगत अन्धउत्साह हो, न मानव विनाशको अनिवार्य भविष्यवाणी गर्ने प्रलयवादी सोच। अहिलेको आवश्यकता वैज्ञानिक सावधानी, आलोचनात्मक सोच, पारदर्शी नियमन र अन्तर्राष्ट्रिय सहकार्य हो।

एआईले हाम्रो भविष्य निर्धारण गर्ने होइन,  त्यसको विकास, प्रयोग र सीमाबारे गरिने मानवीय निर्णयले भविष्यको दिशा तय गर्नेछ। मानवले प्रविधि निर्माण गरेको हो भने त्यसलाई मानव हितमा प्रयोग गर्ने अन्तिम जिम्मेवारी पनि मानिसकै हो। त्यसैले एआईको भविष्यबारे सबैभन्दा महत्त्वपूर्ण प्रश्न ‘मेसिनले हामीलाई नियन्त्रण गर्ला कि नगर्ला?’ भन्ने होइन, ‘हामीले आफ्नै सिर्जनालाई कति जिम्मेवारीपूर्वक नियन्त्रण गर्न सक्छौं ?’ भन्ने हो।