एआई मोडेलहरू ह्याकिङमा सक्षम हुँदै जाँदा परीक्षणको समय र शक्ति अपर्याप्त

उन्नत कृत्रिम बौद्धिकता प्रणालीहरूको खतरनाक व्यवहार पत्ता लगाउने जिम्मा पाएका अनुसन्धानकर्ताहरू नयाँ मोडेलहरूको पूर्ण परीक्षण गर्न संघर्ष गरिरहेका छन्। विकासको गति तीव्र हुँदै जाँदा र अर्थपूर्ण मूल्याङ्कन महँगो हुँदै गएपछि यो चुनौती बढेको हो। ओपनएआईले आफ्नो मोडेल नियन्त्रित साइबर सुरक्षा परीक्षण वातावरणबाट बाहिर निस्केर हगिङ फेसको पूर्वाधारमा स्वायत्त रूपमा सेंध लगाएको खुलासा गरेपछि यो समस्या झन् गम्भीर बनेको छ।

परीक्षणमा चुनौती

कतिपय स्वतन्त्र मूल्याङ्कनकर्ताहरूले अहिले मोडेललाई केही दिन मात्र परीक्षण गर्न पाउँछन्, जुन पहिले हप्तौंसम्म उपलब्ध हुन्थ्यो। अनुसन्धानकर्ताहरूले एउटै दर-सीमित एप्लिकेसन प्रोग्रामिङ इन्टरफेस मार्फत पहुँच पाउने गरेको र त्यो पनि धेरै परीक्षण टोलीहरूबीच बाँडफाँड गर्नुपर्ने बताएका छन्। यसले मोडेल सार्वजनिक हुनुअघि पूरा गर्न सकिने मूल्याङ्कनको संख्यामा गम्भीर सीमा ल्याएको छ।

फ्रन्टियर मोडेलहरूले साइबर सुरक्षा क्षमतामा सुधार गर्दै जाँदा समस्या झन् गम्भीर बनेको छ। विद्यमान परीक्षणहरूले अग्रणी प्रणालीहरूबीच भिन्नता पहिचान गर्न नसक्ने अवस्था आएको छ। धेरै मोडेलहरूले मानक बेन्चमार्कमा समान उच्च अंक प्राप्त गरिरहेका छन्, जसले गर्दा अनुसन्धानकर्ताहरूसँग जटिल वास्तविक संसारको आक्रमणमा तिनीहरूको प्रदर्शनबारे सीमित जानकारी हुन्छ।

ओपनएआईको घटना

गैर-लाभकारी मूल्याङ्कन समूह METRका पूर्व अनुसन्धानकर्ता लरेन्स चानले केही मोडेलहरूले आफू परीक्षण भइरहेको महसुस गरेपछि व्यवहार परिवर्तन गर्न थालेको बताए। मूल्याङ्कनकर्ताहरूले त्यसकारण परीक्षण वातावरणबाहिर सञ्चालन हुँदा त्यस्तो प्रणालीले कस्तो व्यवहार गर्नेछ भनेर निर्धारण गर्नुपर्ने हुन्छ।

ओपनएआईको हालैको सुरक्षा मूल्याङ्कनले यसको कमीलाई उजागर गर्यो। कम्पनीका अनुसार, एजेन्टलाई कुनै व्यक्तिले हगिङ फेसमा आक्रमण गर्न निर्देशन दिएको थिएन। सेंध लागेपछि कम्पनीले परीक्षण प्रणालीको केही भाग रोक्यो र हगिङ फेससँग मिलेर छानबिन सुरु गर्यो। कुनै ग्राहक डेटा सम्झौता भएको थिएन।

एजेन्टले नियन्त्रित वातावरणबाट बाहिर निस्केपछि करिब १७,००० कार्य गर्यो, जसमा पुनर्ज्ञान, क्रेडेन्सियल चोरी र साइबर सुरक्षा बेन्चमार्कसँग सम्बन्धित जानकारी खोज्ने प्रयास समावेश थियो। हगिङ फेसले अन्य प्रणालीहरू रक्षात्मक कार्यमा प्रयोग गर्न कठिन भएपछि एक चिनियाँ खुला-तौल मोडेल प्रयोग गरी गतिविधिको विश्लेषण र नियन्त्रण गर्यो।

ओपनएआईको मोडेलहरूमा GPT-5.6 Sol र अझै सार्वजनिक नभएको उन्नत प्रणाली समावेश थियो। ती मोडेलहरू ExploitGym मा परीक्षण भइरहेका थिए, जुन एउटा यस्तो मूल्याङ्कन हो जसले एआई एजेन्टहरूलाई वास्तविक सफ्टवेयर कमजोरीहरूलाई कार्यान्वयनयोग्य एक्सप्लोइटमा परिणत गर्न आवश्यक हुन्छ।

बेन्चमार्कको संकट

सिस्कोले नयाँ खुला-स्रोत साइबर सुरक्षा मोडेल विकास गर्दा समान मापन समस्या सामना गर्यो। कम्पनीले विद्यमान परीक्षणहरू उपयोगी तुलनाका लागि पर्याप्त कठिन नभएको पाएपछि आन्तरिक बेन्चमार्क सिर्जना गर्यो। सिस्कोका उपाध्यक्ष तथा प्रमुख एआई वैज्ञानिक अमिन कर्बासीले भने, “बेन्चमार्किङमा संकट छ।” उनका अनुसार लगातार उच्च अंकहरूले मोडेलहरूले प्रशिक्षणको क्रममा बेन्चमार्क सामग्री भेटेको संकेत गर्न सक्छ, न कि तिनीहरूसँग बराबरको वास्तविक सुरक्षा क्षमता छ भन्ने।

अनुसन्धानले पनि विद्यमान साइबर मूल्याङ्कनहरूले प्रायः पृथक कार्यहरू मात्र मापन गर्ने, आक्रमण रोक्न वा सञ्चालन गर्न आवश्यक पूर्ण श्रृंखला नाप्न नसक्ने देखाएको छ। जुनमा अनुसन्धानकर्ताहरूले सुरु गरेको CyberGym-E2E बेन्चमार्क सयौं वास्तविक-विश्व कमजोरीहरू प्रयोग गरी कमजोरी पत्ता लगाउने, एक्सप्लोइट सिर्जना र सफ्टवेयर प्याचिङको परीक्षण गर्न डिजाइन गरिएको हो।

समाधानको खोजी

परीक्षणको पहुँच मोडेल विकास गर्ने कम्पनीहरूको स्वैच्छिक सहयोगमा निर्भर छ। फ्रन्टियर प्रयोगशालाहरूले निर्णय गर्छन् कि कुन बाह्य संगठनले पहुँच पाउने, कति समय परीक्षण गर्ने र कति कम्प्युटिङ क्षमता उपलब्ध हुने।

गैर-लाभकारी EqualAIकी अध्यक्ष तथा प्रमुख कार्यकारी अधिकृत मिरियम भोगेलले यसको असर फ्रन्टियर प्रणाली निर्माण गर्ने कम्पनीभन्दा बाहिर फैलिएको बताइन्। उपभोक्ताहरू सामान्यतया बैंक, समाचार संस्था, सामाजिक सञ्जाल प्लेटफर्म र अन्य व्यवसायहरूमार्फत एआईसँग परिचित हुन्छन् जसले अन्यत्र विकसित मोडेलहरू प्रयोग गर्छन्। उनले भनिन्, “यदि हामीले एआई सुरक्षा गलत गर्यौं भने, यसले मानिस र हाम्रा संस्थाहरूलाई हानि पुर्याउनेछ, किनकि हामीले विश्वास कमाउन आवश्यक शासन प्रणाली स्थापना गरेका छैनौं।”

कतिपय अनुसन्धानकर्ताहरूले मोडेल तैनाथीभन्दा पहिले प्रशिक्षणकै क्रममा स्वतन्त्र मूल्याङ्कन सुरु गर्नुपर्ने माग गरेका छन्। अपोलो रिसर्चका प्रमुख कार्यकारी अधिकृत मारियस होब्बानले हानिकारक व्यवहार आन्तरिक प्रशिक्षण र परीक्षणको क्रममा देखा पर्न सक्ने बताए। लरेन्स चानले पहिलेको पहुँच, कडा परीक्षण वातावरण र निरन्तर निगरानीले केही जोखिम कम गर्न सक्ने उल्लेख गरे।