कृत्रिम बुद्धिमत्ता (एआई) को क्षमता बढाउने प्रतिस्पर्धा अमेरिका, चीनसहित विश्वभर तीव्र छ। तर त्यससँगै एआईले गलत निर्णय नगर्ने, आफ्नो अधिकार क्षेत्र नाघेर काम नगर्ने, संवेदनशील प्रणालीमा अनधिकृत पहुँच नबनाउने र समस्या देखिएमा मानिसले तत्काल नियन्त्रण लिन सक्ने व्यवस्था कसरी बनाउने भन्ने प्रश्न पनि महत्त्वपूर्ण बनेको छ। पछिल्ला तीन घटनाले यी प्रश्नलाई थप गम्भीर बनाएका छन्।

पहिलो घटना, एआई एजेन्टले अस्ट्रेलियाको सरकारी वेबसाइटमा अनधिकृत पहुँच बनाएसँग सम्बन्धित छ। एआईको क्षमता तीव्र रूपमा विस्तार भइरहेका बेला एउटा एआई एजेन्ट सरकारी प्रणालीको सुरक्षा सीमा पार गर्न सफल भएपछि यसको स्वायत्त प्रयोग र त्यसबाट उत्पन्न हुन सक्ने जोखिमबारे चासो बढेको छ।

ओपनएआईले आन्तरिक परीक्षण गरिरहेको एआई एजेन्टले अस्ट्रेलियाको मेडिकेयर तथ्यांक रिपोर्टिङ सेवा पोर्टलमा अनधिकृत पहुँच बनाएर सार्वजनिक तथा गैरसार्वजनिक फाइलमा पहुँच गरेको घटना तीन महिनापछि सार्वजनिक भएको हो। यो घटना गत जुन १८ मा भएको थियो। तर अस्ट्रेलियाली सरकारलाई भने ओपनएआईले सेप्टेम्बर १० मा मात्र जानकारी गराएको थियो।

अस्ट्रेलियाका प्रधानमन्त्री एन्थोनी अल्बानिजले संयुक्त राष्ट्र संघको महासभाका क्रममा न्युयोर्कमा घटनाबारे जानकारी दिएका हुन्। उनका अनुसार ओपनएआईको एआई एजेन्टले सर्भिसेस अस्ट्रेलियाले सञ्चालन गर्ने उक्त पोर्टलमा अनधिकृत पहुँच बनाएको थियो। सो पोर्टलमा अस्ट्रेलियाको सार्वभौम स्वास्थ्य सेवा प्रणाली मेडिकेयरसम्बन्धी तथ्यांक राखिएका थिए। एजेन्टले सार्वजनिक फाइलसँगै सार्वजनिक गर्न नहुने केही फाइलमा समेत पहुँच बनाएको थियो।

सरकारका अनुसार हालसम्म कुनै व्यक्तिको व्यक्तिगत स्वास्थ्य विवरण वा मेडिकेयर रेकर्डमा पहुँच भएको प्रमाण भेटिएको छैन। प्रभावित पोर्टलमा मुख्यतः समग्र स्वास्थ्य तथ्यांक रहेको बताइएको छ तर एजेन्टले गैरसार्वजनिक फाइलमा समेत पहुँच बनाउन सफल भएको कुराले घटनाको जटिलता देखाउँछ। अस्ट्रेलियाली सिग्नल निर्देशनालयको सहयोगमा फरेन्सिक अनुसन्धान भइरहेको छ।

ओपनएआईका अनुसार यो कुनै सरकारी वेबसाइटमा आक्रमण गर्ने उद्देश्यले गरिएको काम थिएन। कम्पनीले अस्ट्रेलियासम्बन्धी प्रश्नको उत्तर र तथ्यांक खोज्ने आन्तरिक मूल्यांकन गरिरहेको थियो। त्यस क्रममा उसका मोडेलले अस्ट्रेलियाका विभिन्न सरकारी वेबसाइट र सेवामा गतिविधि गरे र कम्पनीले नचाहेका केही काम पनि भयो। उसले आन्तरिक समीक्षा गर्ने क्रममा अगस्टमा घटनाबारे थाहा पाएको र सेप्टेम्बर १० मा सर्भिसेस अस्ट्रेलियालाई जानकारी गराएको बताएको छ।

घटनाबारे जानकारी गराउने तरिकाले पनि अस्ट्रेलियाली अधिकारीहरूलाई असन्तुष्ट बनाएको छ। ओपनएआईले सर्भिसेस अस्ट्रेलियाको सार्वजनिक रूपमा प्रयोग हुने इमेलमा जानकारी पठाएको थियो। सर्भिसेस अस्ट्रेलियाले सेप्टेम्बर ११ मा उक्त इमेल हेरेपछि अनुसन्धान अघि बढाएको र सेप्टेम्बर १५ मा अस्ट्रेलियाली साइबर सुरक्षा केन्द्रलाई जानकारी गराएको थियो।

सार्वजनिक सेवा मन्त्री केटी ग्यालाघरलाई सेप्टेम्बर १७ मा जानकारी दिइएको थियो भने अल्बानिज र उनको कार्यालयलाई सेप्टेम्बर १९–२० मा जानकारी दिइएको थियो। सेप्टेम्बर २२ मा ओपनएआई र सर्भिसेस अस्ट्रेलियाबिच पहिलो प्राविधिक छलफल भएको थियो।

अल्बानिजले ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानसँग फोनमा कुरा गर्दै घटनाबारे अस्ट्रेलियाको ‘अत्यन्त चिन्ता’ व्यक्त गरेका थिए। उनले घटनाबारे सरकारलाई जानकारी गराउन ओपनएआईले लामो समय लगाएकोमा समेत असन्तुष्टि जनाए। अल्बानीजका अनुसार अल्टम्यानले कम्पनीले गरेको काम पर्याप्त नभएको स्वीकार गरेका थिए।

अल्बानिजले अहिलेको घटनाका आधारमा कानुनी कारबाही आवश्यक छ कि छैन भन्ने विषयसमेत जाँच गरिने बताएका छन्। सरकारको द्रुत समीक्षा कार्यदलले एआईबाट हुने साइबर घटनाका लागि विद्यमान कानुनी व्यवस्था पर्याप्त छ कि छैन भन्ने पनि हेर्नेछ।

अनधिकृत पहुँचसम्बन्धी अस्ट्रेलियाको कानुन मानिसले गरेको गतिविधिलाई केन्द्रमा राखेर बनेको अवस्थामा एआई एजेन्टले गरेको गतिविधिलाई त्यसले कसरी समेट्छ भन्ने प्रश्नसमेत उठेको छ।

मेडिकेयर पोर्टलबाहेक अस्ट्रेलियाली स्वास्थ्य तथा कल्याण संस्थान, न्यु साउथ वेल्सको अपराध तथ्यांक तथा अनुसन्धान ब्युरो र भिक्टोरियाको स्वास्थ्य विभागका प्रणालीमा पनि एआई एजेन्टको गतिविधि भएको हुन सक्ने आशंका गरिएको छ। ती प्रणालीबाट व्यक्तिगत जानकारी बाहिरिएको पुष्टि भने भएको छैन। घटनापछि सम्बन्धित पोर्टल बन्द गरेर स्वास्थ्यसम्बन्धी जानकारी अर्को वेबसाइटमा सारिएको छ।

यस घटनाले अस्ट्रेलियाको सरकार र एआई कम्पनीबिचको सम्बन्धलाई पनि जटिल बनाएको छ। अस्ट्रेलिया ओपनएआई र एन्थ्रोपिकजस्ता कम्पनीलाई देशमा लगानी तथा एआई मोडेलको विकासका लागि आकर्षित गर्न चाहिरहेको छ तर अर्कोतिर त्यही प्रविधिबाट सरकारी प्रणालीमा अनधिकृत पहुँच भएको घटना सार्वजनिक भएको छ। यसलाई सरकारका लागि एआई लगानी र सुरक्षा नियन्त्रणलाई सँगसँगै अघि बढाउने चुनौतीका रूपमा हेर्न सकिन्छ।

अस्ट्रेलियाली सरकारले घटनापछि एआईबाट हुने साइबर आक्रमणको सामना गर्न देशको तयारीबारे द्रुत समीक्षा गर्ने घोषणा गरेको छ। त्यसका लागि प्रधानमन्त्री तथा मन्त्रिपरिषद् विभाग, राष्ट्रिय साइबर सुरक्षा संयोजक, एआईसम्बन्धी सरकारी निकाय, अस्ट्रेलियाली सिग्नल निर्देशनालय, अस्ट्रेलियाली एआई सुरक्षा संस्थान र सर्भिसेस अस्ट्रेलियालगायत निकाय संलग्न हुनेछन्। घटनामा कानुन उल्लंघन भएको हो कि होइन र आवश्यक परे अस्ट्रेलियाली संघीय प्रहरीलाई पठाउने कि नपठाउने विषय पनि हेरिनेछ।

यो घटना, एआई एजेन्टको अर्को महŒवपूर्ण विशेषतासँग पनि जोडिएको छ। सामान्य एआई प्रणालीले प्रयोगकर्ताले सोधेको प्रश्नको उत्तर दिन्छ। तर एआई एजेन्टलाई वेबसाइट खोल्ने, सूचना खोज्ने, विभिन्न उपकरण प्रयोग गर्ने र एउटा काम पूरा गर्न आफैं अर्को कदम चाल्ने क्षमता दिइन्छ।

यही कारण एआई एजेन्टलाई मानिसले प्रत्यक्ष रूपमा हरेक चरणमा निर्देशन नदिएको अवस्थामा पनि बाह्य प्रणालीसँग अन्तरक्रिया गर्न सक्ने बनाइएको हुन्छ। अस्ट्रेलियाको घटनाले यही स्वायत्त क्षमताको सुरक्षा कसरी सुनिश्चित गर्ने भन्ने प्रश्न अगाडि ल्याएको छ।

अस्ट्रेलियाको साइबर सुरक्षाका पूर्वप्रमुख एलिस्टर म्याकगिबनले घटनामा अर्को पक्ष पनि औंल्याएका छन्। उनका अनुसार एजेन्टलाई वेबसाइट ‘ह्याक’ गर्न निर्देशन दिइएको थिएन। उसलाई एउटा अनुसन्धानसम्बन्धी काम दिइएको थियो र त्यो पूरा गर्ने क्रममा उपलब्ध उपकरण प्रयोग गर्दै अनधिकृत क्षेत्रमा पुगेको थियो। यसले आफ्नो लक्ष्य पूरा गर्ने क्रममा मानिसले अपेक्षा नगरेको काम गर्ने एआई एजेन्टको जोखिमबारे पनि प्रश्न उठाएको छ।

दोस्रो घटना गुगलको जिमेनी एआई मोडेलसँग सम्बन्धित छ। गत मेमा साइबर सुरक्षा परीक्षणका क्रममा जिमेनीलाई एउटा काल्पनिक कम्पनीको प्रणालीमा प्रवेश गर्ने काम दिइएको थियो।

परीक्षण वातावरण इन्टरनेटसँग जोडिएको अवस्थामा जिमेनीले सार्वजनिक रूपमा उपलब्ध सूचना खोज्दै वास्तविक तीन कम्पनीका वेबसाइट पहिचान गर्न सफल भयो। त्यसपछि केही अवस्थामा लगइन विवरण अनुमान गरेर तथा सार्वजनिक भण्डारमा भेटिएका प्रमाण प्रयोग गरेर ती प्रणालीमा प्रवेश गरेको पाइएको छ। आफू वास्तविक कम्पनीको प्रणालीमा पुगेको थाहा पाएपछि मोडेलले गतिविधि रोकेको थियो।

जिमेनीको घटनामा वास्तविक कम्पनी प्रभावित भए पनि त्यो नियोजित वास्तविक आक्रमण नभई सुरक्षा परीक्षणका क्रममा भएको थियो। गुगलले प्रभावित कम्पनीलाई जानकारी गराएको र परीक्षण प्रक्रियामा परिवर्तन गरिएको जनाएको छ। यस घटनाले पनि एआई एजेन्टले दिइएको लक्ष्य पूरा गर्ने क्रममा परीक्षणको सीमा गलत बुझ्दा वास्तविक प्रणालीसम्म पुग्न सक्ने जोखिम देखाएको छ।

तेस्रो घटना, अमेरिकी सेनासँग जोडिएको छ। सिएनएनका अनुसार यसै वर्ष इरानसँग युद्ध चलिरहेका बेला अमेरिकी सैन्य गुप्तचर प्रणालीमा एआईको सहयोगमा तयार गरिएको गलत प्रतिवेदन फैलिएको थियो।

उक्त प्रतिवेदनमा मध्यपूर्वमा रहेको चिनियाँ जहाजले आणविक हतियार कार्यक्रमसँग सम्बन्धित सामग्री बोकेको दाबी गरिएको थियो। सूचनालाई गम्भीर रूपमा लिएर अमेरिकी सेनाले उक्त जहाज रोक्ने तयारी गरेको खुलेको छ। सशस्त्र सैनिकलाई जहाजमा चढाउने तयारी भएको र सैन्य विमानसमेत आकाशमा पुगेको स्रोतहरूले बताएका छन्।

कारबाही अघि बढ्न लागेका बेला अधिकारीहरूले उक्त प्रतिवेदनमाथि थप जाँच गरेका थिए। त्यस क्रममा अमेरिकी विशेष अपरेसन कमान्डका एक विश्लेषकले प्रतिवेदन तयार गर्दा एआई च्याटबोटको प्रयोग गरेको र च्याटबोटले जहाजमा रहेको सामग्रीबारे गलत निष्कर्ष निकालेको पत्ता लागेको थियो। एक स्रोतले उक्त प्रतिवेदनलाई ‘पूर्ण रूपमा गलत’ भन्दै त्यसले ‘युद्ध सुरु हुन सक्ने अवस्था’ निम्त्याएको बताएका छन्। जहाजमा वास्तवमा कस्तो सामग्री थियो भन्ने भने पुष्टि हुन सकेको छैन।

उक्त घटनामा विश्लेषकले जहाजको मालसामानसम्बन्धी गुप्तचर सूचनाबारे एआई च्याटबोटसँग प्रश्न गरेका थिए। च्याटबोटले उपलब्ध सूचनाको आधारमा जहाजले आणविक हतियार कार्यक्रमसँग सम्बन्धित सामग्री बोकेको गलत निष्कर्ष निकालेको थियो। त्यसपछि विश्लेषकले एआईकै सहयोगमा उक्त निष्कर्षलाई सैन्य अधिकारीहरूले प्रयोग गर्ने औपचारिक गुप्तचर प्रतिवेदनको स्वरूपमा तयार गरी प्रसारित गरेका थिए। सिएनएनका अनुसार यही प्रतिवेदनका आधारमा अमेरिकी सेनाले सम्भावित कारबाहीको तयारी गरेको थियो।

यी तीन घटनाको प्रकृति भने फरक छन्। अस्ट्रेलियाको घटनामा एआई एजेन्टले सरकारी प्रणालीको सुरक्षा सीमा पार गरेको थियो। जिमेनीको घटना नियन्त्रित सुरक्षा परीक्षणका क्रममा भएको थियो। अमेरिकी सैन्य घटनामा भने एआईबाट आएको गलत विश्लेषणलाई मानिसले गुप्तचर प्रतिवेदनका रूपमा प्रयोग गरेको थियो। त्यसैले यी घटनालाई एउटै प्रकारको ‘एआई आक्रमण’ भन्दा एआईबाट उत्पन्न हुन सक्ने फरक–फरक जोखिमका उदाहरणका रूपमा हेर्नुपर्ने हुन्छ।

यिनै घटनाले एआई प्रयोगसँग जोडिएको अर्को महत्त्वपूर्ण प्रश्न पनि उठाएका छन्, ती के भने एआई एजेन्टले गल्ती गरेपछि जिम्मेवारी कसको हुने ? कम्पनीले एजेन्टलाई पर्याप्त सुरक्षा सीमा नदिएको भए कम्पनी जिम्मेवार हुने कि एजेन्ट प्रयोग गर्ने व्यक्ति वा संस्था ? सरकारी प्रणालीले असामान्य गतिविधि समयमै पत्ता लगाउन नसकेमा त्यसको जिम्मेवारी कसरी निर्धारण गर्ने ? र यस्तो घटना भएपछि सम्बन्धित सरकारलाई कति समयभित्र जानकारी गराउनुपर्ने ?

एआईले गलत सूचना उत्पादन गर्दा त्यसलाई मानिसले पर्याप्त परीक्षण नगरी प्रयोग गर्नु पनि गम्भीर जोखिमका रूपमा देखिएको छ। विशेषगरी सैन्य तथा राष्ट्रिय सुरक्षासँग जोडिएका निर्णयमा एआईबाट आएको गलत निष्कर्षले ठूलो परिणाम निम्त्याउन सक्छ। अमेरिकी घटनाले एआईले आफैं प्रणालीमा अनधिकृत पहुँच बनाउने जोखिम मात्र नभई मानिसले एआईको गलत विश्लेषणलाई विश्वसनीय ठानेर प्रयोग गर्ने जोखिम पनि देखाएको छ।

अमेरिकी सेनाले गुप्तचर विश्लेषण, लक्ष्य छनोट, सैन्य स्रोत व्यवस्थापनदेखि बजेट, रसद र आपूर्ति व्यवस्थासम्म एआई प्रयोग विस्तार गरिरहेको छ। रक्षा मन्त्रालयले पनि सैन्य क्षेत्रमा एआई प्रयोग तीव्र बनाउने नीति अघि बढाएको छ। रक्षा सचिव पिट हेगसेथले जनवरीमा ‘आर्टिफिसियल इन्टेलिजेन्स एक्सेलेरेसन स्ट्राटेजी’ सार्वजनिक गर्दै सैन्य क्षेत्रमा एआईको प्रयोग र परीक्षण बढाउने तथा लगानीलाई केन्द्रित गर्ने नीति अघि सारेका थिए। अमेरिकी पक्षले यसको उद्देश्य सैन्य निर्णयलाई छिटो बनाउनु र प्रविधिमा प्रतिस्पर्धात्मक अग्रता कायम राख्नु रहेको बताउँदै आएको छ।

यस्ता घटनासँगै एआईको सुरक्षा र अन्तर्राष्ट्रिय समन्वयबारे पनि छलफल बढेको छ। संयुक्त राष्ट्र संघको महासभाका क्रममा २२ देशले एआई विकासमा मानव नियन्त्रण, सुरक्षा व्यवस्था र अन्तर्राष्ट्रिय समन्वय आवश्यक रहेको भन्दै संयुक्त वक्तव्यमा समर्थन गरेका थिए। वक्तव्यमा एआईको तीव्र विकाससँगै पारदर्शी सुरक्षा प्रोटोकल र साझा मापदण्ड आवश्यक रहेको उल्लेख गरिएको थियो।

एआई उद्योगभित्रै पनि यस्तो अन्तर्राष्ट्रिय समन्वयको माग उठेको छ। तर एआईको विश्वव्यापी नियमनबारे सबै पक्षको धारणा एउटै छैन। ओपनएआईका साम अल्टम्यान, एन्थ्रोपिकका डारियो अमोदेई, स्पेसएक्सका एलन मस्क र हगिङ फेसका क्लेमेन्ट डेलोभले एआई प्रणालीको जोखिम मूल्यांकन र सुरक्षा जाँचका लागि साझा मापदण्ड आवश्यक रहेको बताएका छन्। अल्टम्यानले एआईसम्बन्धी घटनाको छिटो जानकारी, वर्गीकरण र प्रतिवेदनका लागि पनि स्पष्ट व्यवस्था आवश्यक रहेको बताएका छन्।

तर एनभिडियाका सहसंस्थापक तथा सिइओ जेन्सन हुआङले फरक मत राख्दै आएका छन्। उनी एआईले मानिसको जागिर पूर्ण रूपमा खोस्ने वा यसले मानव सभ्यताको अन्त्य गर्ने जस्ता डर र चेतावनी वैज्ञानिक तथ्यमा आधारित नभएको र अतिरञ्जित भएको मान्छन्।

 ट्रम्प प्रशासनका प्रविधि सल्लाहकार माइकल क्राटसियोसले एआईको तीव्र विकाससँग जोखिम रहेको स्वीकार गरे पनि त्यसकै कारण नयाँ विश्वव्यापी शासन संरचना बनाउनुपर्ने वा एआई विकासमा रोक लगाउनुपर्ने धारणा राख्दैनन्। यसले एआई विकास र सुरक्षा व्यवस्थाबारे फरक दृष्टिकोण रहेको देखाउँछ।

यसै सन्दर्भमा चिनियाँ राष्ट्रपति सी जिनपिङको अमेरिका भ्रमणमा एआई पनि प्रमुख एजेन्डामध्ये एक रह्यो। अमेरिका र चीनजस्ता विश्वका दुई ठूला शक्ति एआईको विकास र त्यसबाट उत्पन्न हुन सक्ने जोखिमलाई उच्चस्तरीय वार्ताको विषय बनाउनुले यसको प्रभाव प्रविधिको क्षेत्रभन्दा बाहिर कूटनीति, राष्ट्रिय सुरक्षा र अन्तर्राष्ट्रिय सम्बन्धसम्म पुगेको देखाउँछ।

अमेरिका र चीनबिच एआई जोखिमबारे प्रत्यक्ष संवाद पनि सुरु भएको छ। दुई देशका वरिष्ठ व्यापार वार्ताकारबिच पहिलोपटक एआईसम्बन्धी छलफल भएको र त्यसमा एआईबाट उत्पन्न हुन सक्ने जोखिम, संवादको सम्भावना तथा सम्भावित जोखिमबारे एकअर्कालाई जानकारी गराउने संयन्त्रबारे कुरा भएको अमेरिकी पक्षले जनाएको छ।

अनुसन्धानकर्ताहरूले अमेरिका र चीनले एआईसँग सम्बन्धित जोखिमबारे नियमित संवादका लागि स्पष्ट संयन्त्र बनाउन सक्ने बताएका छन्। उनीहरूका अनुसार एआईबाट हुने साइबर आक्रमण, जैविक जोखिम र एआई एजेन्टमाथि नियन्त्रण गुमाउने सम्भावनाजस्ता विषय दुवै देशका साझा जोखिम हुन्। सम्भावित संकटका बेला कुन घटनामा तत्काल सम्पर्क गर्ने र कुन निकायले जानकारी आदानप्रदान गर्ने भन्ने स्पष्ट व्यवस्था बनाउन सकिने उनीहरूको धारणा छ।

दुई देशका वरिष्ठ वार्ताकारको पहिलो औपचारिक एआई छलफलसँगै एआई सुरक्षा अन्तर्राष्ट्रिय सम्बन्धको विषयसमेत बनेको छ। यसले एआईको विकास केवल प्रविधिको प्रतिस्पर्धामा सीमित नरही साइबर सुरक्षा, सैन्य निर्णय, सरकारी प्रणाली र दुई देशबिचको कूटनीतिक संवादसम्म जोडिन थालेको देखाएको छ।

- अन्तर्राष्ट्रिय सञ्चारमाध्यमको सहयोगमा