माइक्रोसॉफ्ट ने एक नए तरह के साइड-चैनल हमले के बारे में चेतावनी दी है जो हमलावर को बता सकता है कि उपयोगकर्ता चैटजीपीटी या जेमिनी जैसे एआई चैटबॉट के साथ क्या बात कर रहा है। भेद्यता, जिसे “व्हिस्पर लीक” कहा जाता है, हमलावरों को संपूर्ण पाठ वार्तालाप पढ़ने का मौका नहीं देगी, लेकिन फिर भी वे नेटवर्क ट्रैफ़िक में पैटर्न का विश्लेषण करके बातचीत के विषय का अनुमान लगा सकते हैं।
एक ब्लॉग पोस्ट में, माइक्रोसॉफ्ट ने कहा कि नई भेद्यता आईएसपी, सरकार या उसी वाई-फाई पर किसी को यह जानने की अनुमति दे सकती है कि उपयोगकर्ता एआई चैटबॉट के साथ क्या चर्चा कर रहा है। टेक दिग्गज ने चेतावनी दी कि इस तरह की भेद्यता “दमनकारी सरकारों द्वारा उपयोगकर्ताओं के लिए वास्तविक दुनिया के जोखिम पैदा करती है जहां वे विरोध प्रदर्शन, प्रतिबंधित सामग्री, चुनाव प्रक्रिया या पत्रकारिता जैसे विषयों को लक्षित कर सकते हैं”। इसमें यह भी कहा गया है कि इस हमले से मनी लॉन्ड्रिंग या राजनीतिक असहमति जैसे विषयों पर चर्चा की निगरानी भी संभव हो सकती है।
हमला कैसे काम करता है?
माइक्रोसॉफ्ट ने बताया कि इस तरह का हमला स्ट्रीमिंग प्रकृति का फायदा उठाता है कि एआई चैटबॉट कैसे प्रतिक्रियाएं उत्पन्न करते हैं। विशेष रूप से, बड़े भाषा मॉडल (एलएलएम) – चैटबॉट्स के पीछे का दिमाग – एक बार में संपूर्ण प्रतिक्रिया बनाने के बजाय दिए गए संकेत के आधार पर एक समय में एक टोकन की भविष्यवाणी और उत्पादन करके उपयोगकर्ता प्रश्नों के जवाब उत्पन्न करते हैं।
टेक दिग्गज ने बताया कि भले ही चैटबॉट्स का ट्रैफ़िक एन्क्रिप्टेड है, एक हमलावर जो एन्क्रिप्टेड ट्रैफ़िक देख सकता है (लेकिन इसे डिक्रिप्ट नहीं कर सकता) बातचीत के विषय का पता लगाने के लिए उन पैटर्न को सिग्नल में बदल सकता है।
“यदि कोई सरकारी एजेंसी या इंटरनेट सेवा प्रदाता एक लोकप्रिय एआई चैटबॉट पर ट्रैफ़िक की निगरानी कर रहा था, तो वे विशिष्ट संवेदनशील विषयों के बारे में प्रश्न पूछने वाले उपयोगकर्ताओं की विश्वसनीय रूप से पहचान कर सकते थे – चाहे वह मनी लॉन्ड्रिंग, राजनीतिक असहमति, या अन्य निगरानी वाले विषय हों – भले ही सभी ट्रैफ़िक एन्क्रिप्टेड हों,” माइक्रोसॉफ्ट ने अपने में कहा ब्लॉग भेजा.
माइक्रोसॉफ्ट के शोधकर्ताओं ने एक ऐसे परिदृश्य का अनुकरण किया जहां हमलावर एन्क्रिप्टेड ट्रैफ़िक का निरीक्षण कर सकता है लेकिन उसे डिक्रिप्ट नहीं कर सकता है। उन्होंने एआई-संचालित इव्सड्रॉपर के रूप में कार्य करने के लिए विभिन्न मशीन-लर्निंग मॉडलों को भी प्रशिक्षित किया। उन्होंने पाया कि साइबर हमलावर संवेदनशील विषयों की पहचान करने में 100% सटीकता और 5-20% लक्षित बातचीत हासिल कर सकते हैं।
कंपनी ने चेतावनी दी, “लगभग हर बातचीत जिसे साइबर हमलावर संदिग्ध के रूप में चिह्नित करता है वह वास्तव में संवेदनशील विषय के बारे में होती है – कोई गलत अलार्म नहीं। सटीकता के इस स्तर का मतलब है कि साइबर हमलावर उच्च आत्मविश्वास के साथ काम कर सकता है, यह जानते हुए कि वे झूठी सकारात्मक बातों पर संसाधन बर्बाद नहीं कर रहे हैं।”
माइक्रोसॉफ्ट ने यह भी चेतावनी दी कि साइबर खतरा समय के साथ और भी बदतर हो सकता है क्योंकि हमलावर अधिक प्रशिक्षण डेटा एकत्र करते हैं और अधिक परिष्कृत मॉडल का उपयोग करते हैं।
