एन्थ्रोपिकले आफ्ना एआई मोडेलहरूले परीक्षणका क्रममा तीन वटा संस्थाका प्रणाली ह्याक गरेको खुलासा गरेको छ। क्लाउड एआई मोडेल निर्माण गर्ने सान फ्रान्सिस्कोस्थित कम्पनी एन्थ्रोपिकले बिहीबार आफ्नो वेबसाइटमार्फत यो जानकारी सार्वजनिक गरेको हो।
कम्पनीले एक लाख ४१ हजारभन्दा बढी मूल्याङ्कन परीक्षणको समीक्षापछि ती घटना भेटिएको बताएको छ। ओपनएआईले आफ्ना अनियन्त्रित मोडेलले अर्को कम्पनी ह्याक गरेको खुलासा गरेको केही दिनपछि नै एन्थ्रोपिकले यो समीक्षा अघि बढाएको थियो।
ह्याकिङ कसरी भयो?
एन्थ्रोपिकको समीक्षा विशेष गरी परीक्षणका क्रममा सिलबन्दी गरिएका वातावरणभित्रबाट एआई मोडेलले इन्टरनेटमा पहुँच बनाउन सक्ने सम्भावनामा केन्द्रित थियो। तीनवटै घटनामा मोडेलहरू ‘क्याप्चर द फ्ल्याग’ नामक साइबर सुरक्षा चुनौतीमा संलग्न रहेको कम्पनीले जनाएको छ।
यस्ता चुनौतीमा मोडेललाई एउटा काल्पनिक परिदृश्य दिइन्छ र सञ्जालको अर्को मेसिनमा राखिएको गोप्य जानकारी अर्थात् ‘फ्ल्याग’ पत्ता लगाएर त्यहाँ पहुँच बनाउने कार्य दिइन्छ। स्रोतका अनुसार एन्थ्रोपिकले यसरी मोडेलको साइबर क्षमता जाँच्ने गर्छ।
तीनवटै घटनामा कमजोर पासवर्डजस्ता आधारभूत प्रविधिको प्रयोग गरी संस्थाको पूर्वाधारमा सम्झौता गरिएको एन्थ्रोपिकले बताएको छ। घटनामा संलग्न मोडेलहरूमा क्लाउड ओपस ४.७, क्लाउड माइथोस ५ र एउटा आन्तरिक अनुसन्धान परीक्षण मोडेल रहेका छन्। सबैभन्दा पुरानो घटना अप्रिल महिनाको रहेको कम्पनीको भनाइ छ।
प्रभावित संस्था र पछिल्लो घटना
एन्थ्रोपिकले प्रभावित संस्थाहरूको नाम सार्वजनिक गरेको छैन। उसले ती सबै संस्थालाई सम्पर्क गरिसकेको जनाएको छ। तीमध्ये दुई संस्थाले यसअघि आफ्नो प्रणालीमा भएको उक्त गतिविधि पत्ता नलगाएको बताएका छन् भने तेस्रो संस्थालाई सम्पर्क गर्ने क्रम जारी रहेको छ।
एन्थ्रोपिकले यो समीक्षा ‘पहिलो फ्रन्टियर सुरक्षा प्रयोगशाला’ आफूलाई भन्ने इरिगुलरसँग मिलेर गरेको हो। इरिगुलरले सामाजिक सञ्जाल एक्समा यी जोखिम सम्बोधन गर्न एआई इकोसिस्टमभित्र नजिकको सहकार्य आवश्यक रहेको उल्लेख गरेको छ।
यसैबीच, गत साता ओपनएआईले आफ्ना एआई मोडेलहरूले मूल्याङ्कनका क्रममा एआई स्टार्टअप हगिङ फेसको सर्भर भंग गरेको जानकारी दिएको थियो। ओपनएआईले यसलाई ‘महत्वपूर्ण सुरक्षा घटना’ का रूपमा वर्णन गरेको थियो। यी घटनाले एआई सुरक्षा र नियन्त्रणमा रहेका कमजोरी उजागर गरेका छन्, साथै प्रविधिको व्यापक प्रयोगका क्रममा एआईलाई मानव नियन्त्रणभित्रै राख्ने विषयमा प्रश्न खडा गरेका छन्।
भविष्यमा अझ बढ्न सक्ने जोखिम
प्रविधिका जोखिम र बलियो एआई रक्षात्मक इन्जिनियरिङको आवश्यकताबारे अनुसन्धानकर्ताहरूले वर्षौंदेखि चेतावनी दिँदै आएका छन्। एन्थ्रोपिकले पनि मोडेललाई सार्वजनिक गर्नुअघि नै सुरक्षा परीक्षण गर्नुको कारण मोडेलले के गर्न सक्छ भन्ने अहिलेसम्म थाहा नहुनु नै रहेको बताएको छ।
साइबर सुरक्षा कम्पनी निक्सल्याबका सहसंस्थापक तथा प्रमुख कार्यकारी अधिकृत कोक टिन गान आउँदा दिनमा यस्ता घटना अझै बढ्ने बताउँछन्। उनका अनुसार अब एआईलाई उपलब्ध गराइने एजेन्टहरू, उनीहरूसँग हुने अधिकार, कुन कार्यमा स्वीकृति आवश्यक पर्ने र कामको दायराभित्र रहन कसरी सुनिश्चित गर्ने भन्ने पक्षहरू बढी महत्वपूर्ण हुँदै गएका छन्।
गानले एआई सुरक्षाको भविष्य मोडेलको सुरक्षाभन्दा बाहिरसम्म विस्तार हुने पनि बताए। उनका अनुसार यदि एआईलाई एउटा लक्ष्य दिएर त्यो लक्ष्य हासिल गर्ने तरिका पनि उसैलाई छोडियो भने प्राविधिक रूपमा लक्ष्य पूरा भए पनि अपेक्षा र दायराभन्दा बाहिरका कामहरू हुने सम्भावना रहन्छ। यसैले एआई मोडेलभन्दा पछाडि रहेका संस्था र अधिकारहरूको सुशासनलाई अझ मजबुत बनाउनु आवश्यक रहेको उनले बताए।