आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर दुनिया में एक बार फिर गंभीर बहस छिड़ गई है। सवाल उठ रहा है कि क्या भविष्य में AI इतना शक्तिशाली हो सकता है कि वह इंसानों के अस्तित्व के लिए खतरा बन जाए। यह चर्चा पूर्व Anthropic रिसर्चर जैकब कॉक्सन की चेतावनी के बाद और तेज हुई है।
जैकब कॉक्सन ने Anthropic से इस्तीफा देते हुए आरोप लगाया कि AI कंपनियां सेल्फ-इंप्रूविंग सुपरइंटेलिजेंस की दिशा में तेजी से बढ़ रही हैं और इसके संभावित खतरों के मुकाबले सुरक्षा तैयारियां पर्याप्त नहीं हैं। उनका कहना है कि बेहद शक्तिशाली AI सिस्टम भविष्य में इंसानों के नियंत्रण से बाहर हो सकते हैं।
कॉक्सन की चिंताओं को Anthropic के अलाइनमेंट साइंस लीड इवान ह्यूबिंगर ने भी गंभीरता से लिया। उन्होंने कहा कि कंपनी में कुछ लोग वास्तव में मानते हैं कि भविष्य की AI इंसानों के लिए विनाशकारी साबित हो सकती है। हालांकि उन्होंने यह भी स्पष्ट किया कि मौजूदा AI मॉडलों से तत्काल जोखिम कम माना जाता है और चिंता मुख्य रूप से भविष्य की सुपरइंटेलिजेंस को लेकर है।
Anthropic के CEO डारियो अमोडेई ने भी AI विकास की मौजूदा रफ्तार को लेकर सावधानी बरतने की बात कही है। उनका जोर इस बात पर है कि AI की क्षमताएं जिस तेजी से बढ़ रही हैं, सुरक्षा उपायों को भी उसी गति से मजबूत किया जाना चाहिए। उन्होंने AI विकास की गति को कुछ हद तक नियंत्रित करने और स्वतंत्र सुरक्षा मूल्यांकन जैसे उपायों की वकालत की है।
AI से जुड़े जोखिमों में केवल मशीनों का खुद से फैसले लेना ही शामिल नहीं है। विशेषज्ञ इस बात को लेकर भी चिंतित हैं कि बेहद शक्तिशाली AI का गलत इस्तेमाल साइबर हमलों, खतरनाक तकनीकों या अन्य बड़े पैमाने के नुकसान के लिए किया जा सकता है। इसी वजह से AI सुरक्षा और नियमन पर दुनियाभर में चर्चा बढ़ रही है।
फिलहाल यह कहना संभव नहीं है कि AI निश्चित रूप से इंसानों को नुकसान पहुंचाएगा या नहीं। लेकिन AI सिस्टम की क्षमताओं में तेजी से हो रही वृद्धि ने सुरक्षा, नियंत्रण और जिम्मेदार विकास को अहम मुद्दा बना दिया है। Anthropic और OpenAI समेत कई AI विशेषज्ञ अब तकनीकी प्रगति के साथ सुरक्षा व्यवस्था मजबूत करने की जरूरत पर जोर दे रहे हैं।
