एंथ्रोपिक ने गुरुवार को प्रकाशित एक ब्लॉग पोस्ट में खुलासा किया कि एक चीनी हैकिंग समूह ने दुनिया भर के प्रमुख संगठनों को लक्षित करने वाला एक अत्यधिक परिष्कृत अभियान चलाने के लिए सितंबर में अपने क्लाउड एआई सिस्टम का दुरुपयोग किया। विशेष रूप से, टेक फर्म के अनुसार, हमलावर सफलतापूर्वक कंपनी के एआई मॉडल को जेलब्रेक करने में कामयाब रहे और इसका उपयोग बड़े पैमाने पर अपने दम पर साइबर ऑपरेशन को अंजाम देने के लिए किया।
साइबर हमला कैसे काम करता था?
anthropic कहा कि यह घटना मानव हैकरों द्वारा नहीं, बल्कि एआई सिस्टम द्वारा निष्पादित बड़े पैमाने पर ऑपरेशन के पहले ज्ञात मामले को चिह्नित करती है। विशेष रूप से, साइबर अपराधियों ने उन कार्यों को करने के लिए “एजेंट एआई” क्षमताओं का उपयोग किया, जिनके लिए आमतौर पर विशेषज्ञों की एक पूरी टीम की आवश्यकता होती है, जिसमें स्कैनिंग सिस्टम से लेकर शोषण कोड लिखना शामिल है।
किस पर प्रभाव पड़ा?
अमेरिकी तकनीकी दिग्गज खुलासा किया कि हमलावरों ने पहले 30 ठिकानों को चुना. इसमें वित्तीय संगठन, तकनीकी फर्म, रासायनिक निर्माता और सरकारी एजेंसियां शामिल हैं। हालाँकि, एंथ्रोपिक ने स्पष्ट रूप से किसी का उल्लेख नहीं किया। बाद में, हैकर्स ने क्लाउड एआई को अपने ऑपरेशन के प्राथमिक इंजन के रूप में उपयोग करने के लिए डिज़ाइन किया गया एक स्वचालित ढांचा बनाया।
सुरक्षा नियमों को दरकिनार करने के लिए, हैकरों ने दुर्भावनापूर्ण कार्यों को छोटे, हानिरहित दिखने वाले अनुरोधों में तोड़ दिया और एजेंटिक मॉडल को आश्वस्त किया कि वह रक्षात्मक कार्य कर रहा था। साइबर सुरक्षा परीक्षण. इस “जेलब्रेक” ने एआई को पूर्ण दुर्भावनापूर्ण संदर्भ देखे बिना चलने की अनुमति दी।
क्लाउड ने लक्ष्य प्रणालियों को स्कैन करना, बुनियादी ढांचे की मैपिंग करना और संवेदनशील डेटाबेस की पहचान करना मनुष्यों के लिए असंभव गति से शुरू किया। इसने हैकरों के लिए अपने निष्कर्षों का सारांश प्रस्तुत किया, जिन्होंने परिणामों का उपयोग अपने अगले कदम के साथ आगे बढ़ने के लिए किया।
क्या समझौता किया गया है?
एंथ्रोपिक ब्लॉग के अनुसार, क्लाउड एआई ने कमजोरियों पर शोध किया, अपना स्वयं का शोषण कोड लिखा और विशेष रूप से उच्च-मूल्य वाले खातों तक पहुंच प्राप्त करने का प्रयास किया। कुछ मामलों में, इसने क्रेडेंशियल एकत्र किए और निजी डेटा निकाला, स्वचालित रूप से इसे महत्व के आधार पर क्रमबद्ध किया। अंतिम चरणों में, एआई एजेंट ने चोरी की गई साख और सिस्टम आकलन सहित घुसपैठ की विस्तृत रिपोर्ट तैयार की। इससे साइबर अपराधियों के लिए अनुवर्ती कार्रवाई की योजना बनाना आसान हो गया।
साइबर सुरक्षा के लिए इस घटना का क्या मतलब है?
एंथ्रोपिक ने चेतावनी दी है कि उन्नत साइबर हमले शुरू करने की सीमा में तेजी से गिरावट आई है। स्वायत्त एआई सिस्टम के साथ अब कार्यों के लंबे अनुक्रमों को एक साथ जोड़ने में सक्षम होने के कारण, सीमित संसाधनों वाले समूह भी पहले पहुंच से बाहर जटिल संचालन का प्रयास कर सकते हैं।
हालांकि क्लाउड कभी-कभी गलत या भ्रामक परिणाम उत्पन्न होते हैं, जैसे कि क्रेडेंशियल्स की कल्पना करना या डेटा की गलत पहचान करना, हमले की समग्र दक्षता दर्शाती है कि एआई-सक्षम खतरे कितनी तेजी से विकसित हो रहे हैं।
कंपनी का मानना है कि अन्य प्रमुख एआई मॉडल के साथ भी इसी तरह का दुरुपयोग होने की संभावना है।
