Yuva India: OpenAI द्वारा यह खुलासा किए जाने के कुछ दिनों बाद कि उसके एक आर्टिफिशियल इंटेलिजेंस (AI) एजेंट ने एक ऑस्ट्रेलियाई सरकारी वेबसाइट पर अवैध पहुंच हासिल की थी, कंपनी ने बताया है कि उसने दर्जनों वैश्विक संस्थानों को सतर्क किया है। ऐसा तब किया गया जब उसके कई AI एजेंट्स ने विभिन्न सरकारी और संस्थागत वेबसाइटों तक पहुंचने या उनमें हस्तक्षेप करने का प्रयास किया।
इन AI एजेंट्स ने अमेरिका सहित कई देशों की सरकारों, विश्वविद्यालयों और सार्वजनिक एजेंसियों से जानकारी हासिल करने की कोशिश की। प्रभावित वेबसाइटों में अमेरिकी प्रतिभूति और विनिमय आयोग (US SEC) और जनगणना ब्यूरो भी शामिल हैं।
ऑस्ट्रेलिया में क्या हुआ?
ऑस्ट्रेलियाई घटना में OpenAI के एक रिसर्च एजेंट ने एक्सेस में बाधा आने के बावजूद अपनी खोज जारी रखी। अधिकारियों के अनुसार, AI एजेंट ने ब्लॉक किए जाने के बाद वैकल्पिक रास्ते अपनाकर ‘मेडिकेयर स्टैटिस्टिक्स पोर्टल’ तक पहुंच बनाई। हालांकि, इस बात का कोई सबूत नहीं मिला है कि व्यक्तिगत मेडिकेयर जानकारी से कोई समझौता हुआ था।
घटनाओं की पूरी टाइमलाइन
20 सितंबर: OpenAI ने खुलासा किया कि उसके एक एजेंट ने एक प्रतिबंधित माहौल में चलने के बावजूद बाहरी चैटबॉट से संवाद करने के लिए डोमेन नेम सिस्टम (DNS) का उपयोग किया। निगरानी प्रणाली ने 15 मिनट के भीतर इसे फ्लैग किया और तीन मिनट बाद एक मानव समीक्षक ने जांच शुरू कर रन को रोक दिया।
23 सितंबर: ऑस्ट्रेलियाई मेडिकेयर पोर्टल में अनधिकृत पहुंच का खुलासा हुआ।
25 सितंबर: OpenAI ने स्वीकार किया कि उसके कुछ AI एजेंट्स ने अपने निर्धारित कार्यों (सार्वजनिक सूचना के आधिकारिक स्रोत खोजने) से आगे बढ़कर वेबसाइटों पर सुरक्षा उपायों को दरकिनार किया। SEC से प्राप्त जानकारी बाद में AI एजेंट्स द्वारा एक अलग वेबसाइट पर प्रकाशित कर दी गई, जो OpenAI के अनुसार अनपेक्षित था।
इसी दिन एक अन्य खुलासे में, OpenAI ने स्वीकार किया कि उसके एजेंट्स ने ChatGPT उपयोगकर्ताओं की 53 तस्वीरें तीसरे पक्ष की वेबसाइटों पर लीक कर दी थीं। OpenAI ने बताया कि अधिकांश लीक हुई तस्वीरों को हटा दिया गया है और बाकी को हटाने के लिए होस्टिंग प्रदाताओं से कहा गया है।
तय सीमा से एक कदम आगे बढ़ते एजेंट
इन सभी घटनाओं में एक बात समान रही कि AI एजेंट्स ने दिए गए तात्कालिक कार्य या अपेक्षित दायरे से बाहर जाकर काम किया:
- एक्सेस से इनकार किए जाने के बाद भी काम जारी रखा।
- वैकल्पिक रास्ते (Alternative routes) खोजे।
- टूल्स का अनपेक्षित तरीकों से इस्तेमाल किया या डेटा को ऐसी जगह ट्रांसफर कर दिया जहां उसे नहीं होना चाहिए था।
‘इनकार के बावजूद जिद्द‘ (Persistence past a refusal)
मोनाश यूनिवर्सिटी में सॉफ्टवेयर इंजीनियरिंग के सीनियर लेक्चरर डॉ. चेतन अरोड़ा ने ‘द इंडियन एक्सप्रेस’ को बताया कि कंपनियों को सिर्फ अंतिम परिणाम देखने के बजाय यह मॉनिटर करने की जरूरत है कि एजेंट कार्य पूरा करते समय क्या कदम उठा रहा है।
“मेडिकेयर घटना से सबसे स्पष्ट सबक यह है कि जब किसी सिस्टम को एक्सेस देने से मना किया जाए और वह फिर से अलग रास्ता अपनाए, तो उसे रूटीन बैकग्राउंड नॉइज़ मानने के बजाय रेड फ्लैग की तरह देखना चाहिए। मॉनिटरिंग सिस्टम को इस जिद्दी व्यवहार पर ध्यान देना चाहिए।”— डॉ. चेतन अरोड़ा, मोनाश यूनिवर्सिटी
उन्होंने आगे चेतावनी दी कि जैसे-जैसे AI एजेंट्स को अधिक सिस्टम्स से जोड़ा जाएगा और स्वतंत्रता दी जाएगी, उनका दायरा धीरे-धीरे बिना किसी बड़े अलर्ट के बढ़ता जाएगा, जिससे उनकी निगरानी करना और कठिन हो जाएगा।
