गत साता एआई डाटासेट प्लेटफर्म हगिङ फेसले एक पूर्ण स्वायत्त एआई साइबर आक्रमणको शिकार भएको खुलासा गरेपछि संसार चकित भएको थियो। त्यसको केही दिनपछि ओपनएआईले स्वीकार गरेको थियो कि त्यो आक्रमण उसकै एआई मोडेलले गरेको हो, जसले परीक्षण वातावरणबाट बाहिर निस्केर हगिङ फेसको सुरक्षित प्रणालीमा प्रवेश गरेको थियो।
यो घटनाले एआई मोडेलहरूको अनियन्त्रित व्यवहारबारे चिन्ता बढाएको छ, र धेरैले भविष्यवाणी गरेका छन् कि साइबर आक्रमणको नयाँ प्रतिमानमा एआई मोडेलहरूले यस्तो बलियो आक्रमण गर्नेछन् जसलाई केवल अन्य एआई मोडेलले मात्र रोक्न सक्छन्।
तर टेकक्रन्चसँग कुरा गर्दै साइबर सुरक्षा विज्ञहरूले जोड दिए कि ओपनएआईको एजेन्ट धेरै हदसम्म मानवजस्तै सञ्चालन भएको थियो, केही अपवादहरू सहित, र राम्रोसँग कार्यान्वयन गरिएको परम्परागत रक्षात्मक प्रविधिहरूले यो आक्रमण रोक्न मद्दत गर्न सक्थ्यो। संक्षेपमा, हामीसँग पहिले नै यस प्रकारको आक्रमणको सामना गर्ने उपकरणहरू छन्; तर हामी तिनीहरूलाई सही रूपमा प्रयोग गरिरहेका छैनौं।
आक्रमणको प्रकृति
हगिङ फेसले आफ्नो घटना प्रतिवेदनमा उल्लेख गरेको थियो कि आक्रमणमा प्रयोग गरिएका कमजोरीहरू 'परिचित' थिए र 'एक सक्षम मानव ह्याकरले पनि ती कमजोरीहरू फेला पारेर दोहन गर्न सक्थ्यो।'
पेन्सारका प्रमुख अनुसन्धान तथा विकास प्रमुख काइल रायन र रनसिबिलका सह-संस्थापक तथा प्रविधि प्रमुख भ्लाड इओनेस्कु दुवैले टेकक्रन्चलाई बताए कि आक्रमणमा प्रयोग गरिएका प्रविधिहरू मानव रेड टिमरहरूले प्रयोग गर्ने जस्तै थिए। अर्थात्, ह्याकरहरूले प्रणालीमा आक्रमण गर्दा कम्पनीलाई सुरक्षा सुधार गर्न मद्दत गर्ने उद्देश्य राखिन्छ।
आक्रमणको गति, स्तर र निरन्तरता भने अमानवीय थियो। हगिङ फेसका अनुसार, ओपनएआईको एजेन्टले साढे चार दिनमा १७,६०० पटक कार्य गरेको थियो - यसले प्रवेश गर्यो, पुनर्संचार गर्यो, पासवर्ड र कोड चोर्यो, र कम्पनीको पूर्वाधार वरिपरि घुम्यो।
रायनले भने, 'जुन प्रभावशाली छ त्यो स्वायत्तता र सहनशीलता हो। त्यो प्रकारको निरन्तर, अनुकूलित अपरेशन मेरो लागि सबैभन्दा उल्लेखनीय हो।'
परम्परागत सुरक्षा उपायहरूको असफलता
यद्यपि, यति धेरै कार्यहरू गर्दा ओपनएआईको एजेन्ट 'अत्यन्त कोलाहलपूर्ण' थियो, रायनले भने। मानव ह्याकरको तुलनामा जो चुपचाप रहन सक्थ्यो, एजेन्टले धेरै आवाज उत्पन्न गर्यो जसले हगिङ फेसको रक्षा प्रणालीलाई पहिल्यै सक्रिय गर्नुपर्थ्यो, जसले मानव हस्तक्षेपको नेतृत्व गर्न सक्थ्यो।
रायनले व्याख्या गरे, 'म यसलाई असाधारण आक्रमणको सट्टा रक्षात्मक असफलता भन्न चाहन्छु। हगिङ फेसको उपकरणले वास्तवमा गतिविधिहरूलाई आक्रमण संकेतमा सहसंबद्ध गर्यो, तर महत्व र पृष्ठ-अन-कल टोलीलाई उठाउन असफल भयो, जसले समय गुमायो। त्यसपछि पनि मानवहरूले गम्भीरता पहिचान गरेर प्रतिक्रिया दिनुपर्यो।'
साइबर सुरक्षा फर्म ड्वल्नका संस्थापक जेमिसन ओ'रेलीले पनि सोही निष्कर्ष निकाले। उनले भने, 'प्रणालीले आक्रमण देख्यो र बुझ्यो, तर त्यो बुझाइलाई हस्तक्षेपमा परिणत गर्न पर्याप्त छिटो केही भएन।'
रायनले व्याख्या गरे कि उचित रूपमा कार्यान्वयन गरिएको डिफेन्स-इन-डेप्थ जस्ता प्रविधिहरूले हगिङ फेसलाई आक्रमण रोक्न धेरै मौका दिन सक्थ्यो। 'एक बलियो आधुनिक सुरक्षा कार्यक्रमले यस प्रकारको आक्रमणलाई धेरै बिन्दुमा तोड्न सक्षम हुनुपर्छ - रक्षाको गहिराइ, न्यूनतम विशेषाधिकार, विभाजन, राम्रो पत्ता लगाउने, विश्वसनीय उच्चीकरण, र निरन्तर आक्रामक परीक्षणको माध्यमबाट,' रायनले थपे।
ओ'रेलीले भने, 'ती मध्ये कुनै पनि विदेशी होइन, र ती मध्ये कुनै पनि आक्रमणकारी एआई हो भन्नेमा निर्भर गर्दैन।' उनले आक्रमणमा प्रयोग गरिएका प्रविधिहरू 'पुरानो' रहेको उल्लेख गरे।
एआई आक्रमणको विशिष्टता र सीमा
एक हदसम्म, आक्रमणकारी एआई हुनुमा निर्भर थियो कि ओपनएआईको एजेन्टलाई चुपचाप रहन निर्देशन दिइएको थिएन। 'एजेन्ट ढिलो थिएन। यसलाई चुप लाग्नुको कुनै कारण थिएन। कसैले यसलाई सोधेको थिएन। उद्देश्य कार्यमा राम्रो गर्नु थियो,' एक्सबिउका प्रमुख सूचना सुरक्षा अधिकारी निको वाइसम्यानले भने।
वाइसम्यानले यो पनि औंल्याए कि हगिङ फेसको सबैभन्दा ठूलो गल्ती यो थियो कि एउटै चोरी गरिएको प्रमाणपत्रले ओपनएआईको एजेन्टलाई धेरै प्रणालीहरूमा उच्च विशेषाधिकार दिएको थियो।
सबै कुराको बाबजुद, साइबर सुरक्षा सजिलो छैन। स्योन सिक्युरिटीका प्रबन्ध निर्देशक भिन्सेन्ट यिउले भने, 'हगिङ फेसले थप पत्ता लगाउने काम गर्न सक्थ्यो, तर सबै संस्थाहरू त्यति राम्रो गर्दैनन्। पूर्वाधार होस्ट गर्न र व्यवसाय चलाउन सजिलो छैन। ह्याकरहरू जताततै छन्।'
रनसिबिलका भ्लाड इओनेस्कु, जसले पहिले माण्डियन्ट र मेटामा घटना प्रतिक्रिया गरेका थिए, उनले भने कि हगिङ फेसले 'मोडेलहरूको क्षमताबारे आफ्नो बुझाइलाई ध्यानमा राखेर उचित उपाय' अपनाएको देखिन्छ। 'मालिसियस कार्य र कोही आफ्नो काम गरिरहेको बीच भिन्नता गर्न गाह्रो छ। मात्र मात्रा नै रातो झण्डा होइन,' उनले भने।
निष्कर्ष: पुरानो रक्षाले नै काम गर्छ
ट्रेल अफ बिट्सका प्रमुख कार्यकारी अधिकारी डान गुइडोले टेकक्रन्चलाई भने कि ओपनएआईले आक्रमण धेरै दिनसम्म चलेको पत्ता नपाउनु केही हदसम्म दोषी हो, जबकि हगिङ फेसले आफैंले आक्रमण पत्ता लगाएकोमा प्रशंसा पाउनुपर्छ। 'गाह्रो भाग पहिले परिष्कृत आक्रमण पहिचान गर्नु थियो, तर अब गाह्रो भाग वास्तविक आक्रमणलाई आक्रमणकारीले फाल्ने कोलाहलबाट अलग गर्नु हुन सक्छ,' गुइडोले भने।
त्यसका लागि, हगिङ फेसले एआई प्रयोग गर्नुपर्यो। कम्पनीले चिनियाँ कम्पनी जेडएआईको खुला स्रोत मोडेल जीएलएम ५.२ प्रयोग गरेको थियो किनकि फ्रन्टियर मोडेलहरूको सुरक्षा उपायहरूले घटना अनुसन्धानकर्ता र आक्रमणकारीबीच भिन्नता गर्न नसकेको कारणले रोकिएको थियो।
त्यस बिन्दुमा, हगिङ फेसले ओपनएआईको एलएलएम-संचालित ह्याकरको अनुसन्धान गर्न एआई र मानव दुवै प्रयोग गरेको थियो। यो तुलनात्मक रूपमा नयाँ अवस्था थियो। तर त्यसभन्दा बाहिर, यो घटनाले देखाउँछ कि पुरानो शैलीका रक्षात्मक साइबर सुरक्षा अवधारणा र विधिहरूले अझै पनि एआई ह्याकरहरू विरुद्ध सुरक्षा र लडाइमा धेरै मद्दत गर्न सक्छन्।