जबकि एंथ्रोपिक दुनिया में अग्रणी एआई निर्माताओं में से एक है, शायद ओपनएआई और गूगल के बाद, कंपनी प्रौद्योगिकी के बारे में चिंताओं को उठाने में सबसे मुखर रही है। एंथ्रोपिक के सीईओ डारियो अमोदेई ने बार-बार एआई से होने वाली नौकरी के नुकसान के बारे में चेतावनी दी है, जबकि कंपनी ने साल की शुरुआत में यह भी साझा किया था कि कैसे एक नया क्लाउड एआई मॉडल अपने अस्तित्व को सुनिश्चित करने के लिए ब्लैकमेल का भी सहारा लेगा।
अब हमारे पास एंथ्रोपिक के सह-संस्थापक जैक क्लार्क हैं जिन्होंने कहा है कि वह एआई सिस्टम की तीव्र, अप्रत्याशित प्रगति के बारे में ‘गहरा डर’ और ‘थोड़ा भयभीत’ हैं। क्लार्क उस काल्पनिक भविष्य के बारे में चिंतित नहीं हैं जहां एआई संवेदनशील हो सकता है, इसके बजाय क्योंकि एआई मॉडल पहले से ही “स्थितिजन्य जागरूकता” प्रदर्शित कर रहे हैं जिसे न तो पूरी तरह से समझाया जा सकता है और न ही नियंत्रित किया जा सकता है।
विषय पर एक विस्तृत निबंध में, क्लार्क ने लिखा, “जितना बड़ा और अधिक जटिल आप इन प्रणालियों को बनाते हैं, उतना ही अधिक वे जागरूकता प्रदर्शित करते प्रतीत होते हैं कि वे चीजें हैं। यह ऐसा है जैसे आप एक हथौड़ा कारखाने में हथौड़े बना रहे हैं और एक दिन जो हथौड़ा लाइन से बाहर आता है वह कहता है, “मैं एक हथौड़ा हूं, कितना दिलचस्प है!” ये बहुत ही असामान्य है.
क्लार्क ने यह भी चेतावनी दी कि कुछ लोग जनता को यह समझाने के लिए ‘भारी मात्रा में पैसा’ खर्च कर रहे हैं कि एआई ‘सिर्फ एक उपकरण है जिसे हमारी अर्थव्यवस्था में काम में लाया जाएगा।’
हालाँकि, वह इस विचार के प्रति आगाह करते हैं, “कोई गलती न करें: हम जिसके साथ काम कर रहे हैं वह एक वास्तविक और रहस्यमय प्राणी है, कोई सरल और पूर्वानुमानित मशीन नहीं।”
क्लार्क, जिन्होंने ओपनएआई और अंततः एंथ्रोपिक के लिए काम करने से पहले एक प्रौद्योगिकी पत्रकार के रूप में काम किया था, स्वीकार करते हैं कि वह ‘संदेहवाद से ग्रस्त’ हैं।
हालाँकि, वह एआई टूल की क्षमता के बारे में सावधान करते हैं और कहते हैं कि यह नई तकनीक किसी ऐसी चीज़ के समान है जो बनाई जाने के बजाय विकसित की गई है।
उन्होंने आगे कहा, “हम बेहद शक्तिशाली सिस्टम विकसित कर रहे हैं जिन्हें हम पूरी तरह से समझ नहीं पाते हैं…आप इन सिस्टम को जितना बड़ा और अधिक जटिल बनाते हैं, वे उतना ही अधिक जागरूकता प्रदर्शित करते हैं कि वे चीजें हैं।”
उन्होंने उन रास्तों के बारे में भी चेतावनी दी जो उन्हें इन एआई सिस्टम के ‘अपने उत्तराधिकारियों को डिजाइन करने के लिए शुरू करने’ के लिए दिखते हैं।
क्लार्क की समस्या का समाधान एआई बहस के लोकतंत्रीकरण के आसपास केंद्रित है। उनका कहना है कि एआई पर बातचीत तेजी से संभ्रांत लोगों के बीच की बातचीत से व्यापक जनता के बीच जा रही है और लोगों को एआई के खतरों के बारे में सूचित करने, उनकी प्रतिक्रिया लेने और फिर ‘इसमें से कुछ नीति समाधान तैयार करने’ की जरूरत है।
