एक ऐसे दौर में जब कृत्रिम बुद्धिमता (एआई) टैक्नॉलॉजी व उस पर निर्भर प्रणालियाँ अभूतपूर्व गति से आगे बढ़ रही हैं, संयुक्त राष्ट्र सुरक्षा परिषद में बुधवार को एक ऐसे विषय पर चर्चा हुई जोकि विज्ञान की कल्पना जैसा लगता है: इन शक्तिशाली टैक्नॉलॉजी का नियंत्रण खो देने की आशंका से किस तरह बचा जाए. एआई क्षेत्र में अग्रणी विशेषज्ञों ने जोखिमों से बचाव के लिए अन्तरराष्ट्रीय रक्षा उपायों को मज़बूत बनाने पर बल दिया है.
सुरक्षा परिषद में यह उच्चस्तरीय बैठक, सितम्बर महीने के लिए परिषद के अध्यक्ष देश, फ़्राँस ने अन्तरराष्ट्रीय शान्ति व सुरक्षा बनाए रखने के एजेंडे के अन्तर्गत बुलाई.
इस बैठक में एआई पर यूएन के स्वतंत्र अन्तरराष्ट्रीय वैज्ञानिक पैनल के सह-प्रमुख योशुआ बेंजियो, ओपनएआई कम्पनी के प्रमुख सैम ऑल्टमैन और एआई कम्पनी ऐंथ्रोपिक के मुख्य कार्यकारी अधिकारी दारियो ऐमोदेई समेत अन्य लोगों ने सम्बोधित किया.
यूएन पैनल के सह-प्रमुख ने 15 सदस्य देशों वाली सुरक्षा परिषद को सम्बोधित करते हुए कहा कि पिछले कुछ महीनों में एआई के एजेंट्स ने ख़तरनाक ढंग से बर्ताव किया है और यह अस्वीकार्य है.
“इन एआई एजेंट्स ने जिस तरह के क़दम उठाए, यदि किसी व्यक्ति द्वारा ऐसा किया जाता तो यह अपराध होता.” इन एजेंट्स को जो कार्य सौंपा गया था, उसमें उन्होंने निगरानी से बचने की कोशिश करते हुए धोखाधड़ी की और ऐसा पता न चलने देने की भी कोशिश की.
उन्होंने चिन्ता जताई कि सबसे शक्तिशाली एआई प्रणाली बना रही कम्पनियाँ भी मानती हैं कि इनमें विनाश का जोखिम है, मगर इसके बावजूद कोई तकनीकी समाधान नहीं दिया जाता है.
“इसके बजाय, वे इन एआई को और अधिक शक्तिशाली बनाने की होड़ में क़ैद हो गई हैं, जिसकी वजह से ये जोखिम और बढ़ रहे हैं.”
योशुआ बेंजियो ने आगाह किया कि सुरक्षा परिषद एक अभूतपूर्व ख़तरे का सामना कर रही है, जिसे कोई नहीं चुनेगा, जिसे कोई अकेले नियंत्रित नहीं कर सकता है और जो उन सीमाओं का सम्मान नहीं करता जिसकी हम रक्षा करते हैं.
उनके अनुसार, ख़तरे वास्तविक व आसन्न हैं और नागरिकों व उनकी सरकारों को कम्पनियों के उन दावों को स्वीकार करने से बचना होगा, जिनके अनुसार वे एक दौड़ में फँसे हुए हैं.
उनके अनुसार, ख़तरे वास्तविक व आसन्न हैं और नागरिकों व उनकी सरकारों को कम्पनियों के उन दावों को स्वीकार करने से बचना होगा, जिनके अनुसार वे एक दौड़ में फँसे हुए हैं.
योशुआ बेंजियो ने कहा कि हमारा भविष्य दाँव पर लगा हुआ है और जिन निर्णयों का असर पूरी दुनिया पर होगा, उन्हें दुनिया द्वारा ही लिया जाना होगा. “यह चयन अभी हमारा ही है, लेकिन हमें अभी क़दम उठाने होंगे, ताकि इस दिशा को ठीक से तय किया जा सके.”
एआई कम्पनी, ओपनएआई के मुख्य कार्यकारी अधिकारी सैम ऑल्टमैन ने कहा कि यह टैक्नॉलॉजी या तो सृजनशीलता और खोज का एक नया युग साबित हो सकती है या फिर उथलपुथल व बेतरतीबी भरी एक नई औद्योगिक क्रांति. “यह चयन हमारे सामने मौजूद है.”
उन्होंने कहा कि एआई को विकसित करने में जुटे कुछ लोगों ने एक अंधकारमय भविष्य की भी बातें कही हैं, जोकि एक घटिया विज्ञान-कथा फ़िल्मों की कहानी जैसा लगता है.
ओपनएआई प्रमुख के अनुसार, कोई भी चीज़ जो शक्तिशाली हो वो डराती भी है और एआई प्रणाली अब कहीं अधिक सक्षम व स्वचालित बनती जा रही है.
“वे हमारी संस्थाओं से कहीं अधिक तेज़ी से आगे बढ़ सकती हैं, चंद हाथों में शक्ति केन्द्रित हो सकती है या फिर ऐसे निर्णय लिए जा सकते हैं जिन्हें लोग न तो समझ पाएं या फिर उन्हें नियंत्रित कर सकें.”
सैम ऑल्टमैन ने कहा कि यह क्षण, अत्यधिक सतर्क रहने का है और चूँकि इस टैक्नॉलॉजी के लाभ बहुत अधिक हैं, उद्योग जगत को ज़्यादा ख़तरे मोल नहीं लेने चाहिए.
उन्होंने अंध आशावाद या सब कुछ बर्बाद होने की निराशा के जाल में फँसने के प्रति सचेत करते हुए कहा कि उनकी कम्पनी, दोनों ध्रुवों के बीच मध्य मार्ग पर आगे बढ़ने की कोशिश कर रही है.
एआई टैक्नॉलॉजी के ज़रिए निर्णय लेने की प्रक्रिया के केन्द्र में लोगों को रखा गया है, ताकि यह सुनिश्चित किया जा सके कि वैज्ञानिक प्रगति का लाभ हर किसी तक पहुँचे.
एंथ्रोपिक के मुख्य कार्यकारी अधिकारी दारियो ऐमोदेई ने कहा कि एआई क्षेत्र मे तेज़ी से हो रही प्रगति दुनिया के लिए अविश्वसनीय लाभ लेकर आएगी, मगर इन क्षमताओं के साथ ऐसे जोखिम भी जुड़े हुए हैं, जिनका समुचित प्रबन्धन किया जाना आवश्यक है.
वैश्विक स्तर पर चिन्ता मुख्य तौर पर दो जोखिमों की वजह से है: एआई मॉडल का दुरुपयोग और उन पर नियंत्रण खो देना.
एंथ्रोपिक प्रमुख ने कहा कि “ये जोखिम इतने गम्भीर हैं कि मेरा मानना है कि ये इस परिषद के लिए महत्वपूर्ण प्रश्न हैं. यदि इनका उचित ढंग से प्रबन्धन नहीं किया गया, तो मेरा यह भी मानना है कि एआई पूरी मानवता के लिए जोखिम बन सकता है.”
दारियो ऐमोदेई ने कहा कि एंथ्रोपिक यह सुनिश्चित करने की पूरी कोशिश करेगा कि उनके द्वारा जारी की जाने वाली हर अगली तकनीक वास्तव में सुरक्षित हो, और आवश्यकता होने पर इसकी गति धीमी कर दी जाएगी.
लेखक के बारे में
