कुछ महीने पहले, एंथ्रोपिक ने एक प्रकाशित किया था यह बताते हुए कि कैसे इसके क्लाउड एआई मॉडल को “वाइब हैकिंग” जबरन वसूली योजना में हथियार बनाया गया था। कंपनी ने यह निगरानी करना जारी रखा है कि साइबर हमलों के समन्वय के लिए एजेंटिक एआई का उपयोग कैसे किया जा रहा है, और अब भी चीन में हैकरों के एक राज्य-समर्थित समूह ने दुनिया भर में 30 कॉर्पोरेट और राजनीतिक लक्ष्यों में घुसपैठ के प्रयास में क्लाउड का उपयोग किया, जिसमें कुछ सफलता मिली।
एंथ्रोपिक ने इसे “बड़े पैमाने पर साइबर हमले का पहला प्रलेखित मामला बताया, जिसे पर्याप्त मानवीय हस्तक्षेप के बिना अंजाम दिया गया” में कहा गया कि हैकर्स ने पहले अपने लक्ष्य चुने, जिसमें अनाम तकनीकी कंपनियां, वित्तीय संस्थान और सरकारी एजेंसियां शामिल थीं। हानिकारक व्यवहार से बचने के लिए मॉडल के प्रशिक्षण को सफलतापूर्वक दरकिनार करने के बाद, उन्होंने एक स्वचालित हमले की रूपरेखा विकसित करने के लिए क्लाउड कोड का उपयोग किया। यह नियोजित हमले को छोटे-छोटे कार्यों में तोड़कर हासिल किया गया था, जो स्पष्ट रूप से उनके व्यापक दुर्भावनापूर्ण इरादे को प्रकट नहीं करता था, और क्लाउड को यह बताकर कि यह एक साइबर सुरक्षा फर्म थी जो रक्षात्मक प्रशिक्षण उद्देश्यों के लिए एआई का उपयोग कर रही थी।
अपना स्वयं का शोषण कोड लिखने के बाद, एंथ्रोपिक ने कहा कि क्लाउड तब उपयोगकर्ता नाम और पासवर्ड चुराने में सक्षम था जिसने इसे अपने द्वारा बनाए गए पिछले दरवाजे के माध्यम से “बड़ी मात्रा में निजी डेटा” निकालने की अनुमति दी थी। कथित तौर पर आज्ञाकारी एआई को हमलों का दस्तावेजीकरण करने और चोरी किए गए डेटा को अलग-अलग फाइलों में संग्रहीत करने की परेशानी भी हुई।
हैकरों ने अपने 80-90 प्रतिशत ऑपरेशन के लिए एआई का उपयोग किया, केवल कभी-कभार हस्तक्षेप किया, और क्लाउड मनुष्यों की तुलना में बहुत कम समय में एक हमले को अंजाम देने में सक्षम था। यह दोषरहित नहीं था, इससे प्राप्त कुछ जानकारी सार्वजनिक रूप से उपलब्ध हो गई थी, लेकिन एंथ्रोपिक ने कहा कि इस तरह के हमले समय के साथ और अधिक परिष्कृत और प्रभावी हो जाएंगे।
आप सोच रहे होंगे कि एक एआई कंपनी अपनी तकनीक की खतरनाक क्षमता का प्रचार क्यों करना चाहेगी, लेकिन एंथ्रोपिक का कहना है कि इसकी जांच इस बात के सबूत के रूप में भी काम करती है कि साइबर रक्षा के लिए सहायक “महत्वपूर्ण” क्यों है। इसमें कहा गया है कि क्लाउड का उपयोग एकत्र किए गए डेटा के खतरे के स्तर का विश्लेषण करने के लिए सफलतापूर्वक किया गया था, और अंततः इसे एक उपकरण के रूप में देखा गया जो भविष्य में हमले होने पर साइबर सुरक्षा पेशेवरों की सहायता कर सकता है।
क्लाउड किसी भी तरह से एकमात्र एआई नहीं है जिसने साइबर अपराधियों को फायदा पहुंचाया है। पिछले साल कहा गया था कि उसके जेनरेटिव एआई टूल्स का इस्तेमाल चीन और उत्तर कोरिया से जुड़े हैकर समूहों द्वारा किया जा रहा है। उन्होंने कथित तौर पर कोड डिबगिंग, संभावित लक्ष्यों पर शोध करने और फ़िशिंग ईमेल का मसौदा तैयार करने में सहायता के लिए GAI का उपयोग किया। ओपनएआई ने उस समय कहा था कि उसने अपने सिस्टम तक समूहों की पहुंच को अवरुद्ध कर दिया है।
