तकनीकी परिभाषाओं की चिंता करने के बजाय जोर इस बात पर हो कि मानव अपनी मशीनों पर नियंत्रण कैसे बनाए रख सकता है

जैसे ही ‘किलर रोबॉट’ शब्द इस्तेमाल किया जाता है तो हमारे दिमाग में कैसी तस्वीरें कौंधने लगती हैं? पगलाए हुए टर्मिनेटर दौड़ रहे हैं; लोगों को बेरहमी से मारा जा रहा है; दुनिया खत्म हो रही है। लेकिन वास्तव में यह शब्द ऑटोनॉमस हथियार प्रणालियों (एडब्ल्यूएस) के लिए या उन हथियारों के लिए इस्तेमाल होता है, जिनमें कृत्रिम मेधा (एआई) यानी खुद सोचने की क्षमता होती है। अमेरिका के हथियारबंद प्रीडेटर ड्रोन्स के बारे में सोचें या गाजा सीमा पर गश्त लगाने वाले इजरायल के मानवरहित जमीनी वाहन गार्डियम की तस्वीर देेखें या पानी के नीचे काम करने वाले परमाणु क्षमता संपन्न मानवरहित वाहन पोसायडन की बात करें, जिसे रूस तैयार कर रहा है। ऑटोनॉमी यानी अपनी मर्जी से काम करने के विचार (धनुष-बाण भी एक हद तक खुद ही काम करते हैं) के बारे में आपकी जो भी समझ है, उसके हिसाब से एडब्ल्यूएस में तमाम तरह की रक्षा प्रणालियां आ जाती हैं, जिनमें से कुछ का दशकों से जंग में इस्तेमाल हो रहा है मसलन ड्रोन। किलर रोबॉट जैसे एडब्ल्यूएस की तो कल्पना भी हमें नहीं होगी।

इस बुनियादी दिक्कत की वजह से हैरत नहीं होती कि संयुक्त राष्ट्र में देशों को ऐसी प्रणालियों पर काबू करने की ठोस योजना तैयार करने में ही कड़ी माथापच्ची करनी पड़ रही है, प्रतिबंध लगाने की बात तो छोड़ ही दीजिए। नवंबर 2019 में भी देश इस बात पर सहमति बनाने में नाकाम रहे कि ऑटोनॉमस हथियारों के विकास एवं तैनाती पर नियंत्रण लगाने वाला कानूनी तरीका खोज निकालने के लिए औपचारिक विचार-विमर्श शुरू किया जाए या नहीं। कुछ निश्चित परंपरागत हथियारों पर संयुक्त राष्ट्र संधि (सीसीडब्ल्यू) पर हस्ताक्षर कर चुके देशों ने लगातार पांचवें वर्ष इस मसले पर चर्चा की थी और 2020 तथा उसके अगले वर्ष भी चर्चा करने की बात वे तय कर चुके हैं।

नवंबर की बैठक में देशों ने ऑटोनॉमस हथियारों के लिए निर्देशक सिद्धांतों का एक सेट स्वीकार किया - वे इस बात पर राजी हो गए कि ऑटोनॉमस हथियारों के लिए पहले मनुष्य की जिम्मेदारी तय करनी चाहिए और उन्हें अंतरराष्ट्रीय मानवीय कानून के दायरे में रहकर ही चलाया जाएगा। लेकिन समझौते की दिशा में वे मामूली ही बढ़ पाए। इससे भी बुरी बात यह है कि कई कारणों से यह दलील दी जा सकती है कि अंतरराष्ट्रीय समुदाय इस बिंदु पर तभी तक टिकेगा, जब तक मामला चर्चा के मौजूदा ढांचे में रहता है।

ऑटोनॉमस हथियारों पर मौजूदा चर्चा 2012 में शुरू हुई, जब अमेरिका के एक एडवोकेसी समूह ह्यूमन राइट्स वाच और हार्वर्ड लॉ स्कूल के इंटरनेशनल ह्यूमन राइट्स क्लिनिक ने एक रिपोर्ट प्रकाशित कर पूरी तरह ऑटोनॉमस हथियारों पर पूर्ण प्रतिबंध लगाने की वकालत की। रिपोर्ट काफी प्रचारित हुई और उसके संदेश को कैंपेन टु स्टॉप किलर रोबॉट्स ने बहुत बढ़ाया। दो वर्ष के भीतर संयुक्त राष्ट्र ने सीसीडब्ल्यू के तहत अनौपचारिक बातचीत शुरू कर दी।

शुरुआती जोर ऑटोनॉमस हथियारों पर पूरी तरह प्रतिबंध लगाने पर था मगर शुक्र है कि उसे छोड़ दिया गया। इन हथियारों में इस्तेमाल तकनीक बहुत प्रचलित है और जैसा कि एसएमयू डेडमैन स्कूल ऑफ लॉ के क्रिस जेंक्स कहते हैं, तकनीक इतनी आसानी से उपलब्ध है कि प्रतिबंध सफल ही नहीं हो सकता। इसीलिए अब नियमन या नियंत्रण पर जोर दिया जा रहा है। हालांकि सभी पक्ष ऑटोनॉमस हथियारों को इस्तेमाल करने बुनियादी सिद्धांतों पर एकमत हो गए हैं मगर सबकी रजामंदी बनने में अभी वक्त लगेगा।

पहली बात तो यह है कि इन तकनीकों और हथियार प्रणालियों का विकास करने में अव्वल देश जैसे अमेरिका, रूस और चीन तथा भारी रक्षा तकनीकी उद्योगों वाले देश्ज्ञ जैसे इजरायल या तो नियंत्रण का विरोध करते हैं या चिंता जता चुके हैं कि नियंत्रण से नई ईजाद रुक सकती हैं। साथ ही देश अभी ऑटोनॉमस हथियारों की किसी एक परिभाषा पर एकमत नहीं हो पाए हैं। यह बात भी ठीक से स्पष्ट नहीं हुई है कि ऑटोनॉमस शस्त्र प्रणाली के समूचे जीवन चक्र पर ‘सार्थक मानवीय नियंत्रण’ का विचार कैसा होना चाहिए। यह अलग बात है कि ऊपर बताए गए निर्देशक सिद्धांतों के मूल में यही विचार है।

ऐसी बेशुमार बाधाओं - कुछ राजनीतिक, कुछ वैचारिक और कुछ सैद्धांतिक - के कारण ऑटोनॉमस हथियारों के नियंत्रण की सीसीडब्ल्यू प्रक्रिया पर पटरी से उतरने का खतरा मंडराने लगा है। अपना रास्ता बदलने के लिए उसे कुछ कदम पीछे जाना होगा और बेहद बुनियादी सवाल पूछना होगाः ऑटोनॉमस हथियारों को नियंत्रण की क्या जरूरत है? जवाब सीधा हैः ऑटोनॉमस हथियारों पर नियंत्रण होना चाहिए ताकि उनके इस्तेमाल से अंतरराष्ट्रीय मानवीय कानून के स्थापित सिद्धांतों का उल्लंघन नहीं हो। इसके लिए जरूरी है कि मशीनों पर मानव का नियंत्रण रहे। यदि मानव का नियंत्रण होगा तो कानून के अंतर्गत प्रमुख समस्या - ऑटोनॉमस हथियारों के कार्यों की जवाबदेही - हल हो जाएगी।

जबदेही ऑटोनॉमी या स्वायत्तता से एकदम उलट है। यूनिवर्सिटी ऑफ रिचमंड की रेबेका क्रूटॉफ समझाती हैं कि हथियार प्रणाली जितनी ऑटोनॉमस होगी, उसके कार्यों की जवाबदेही मनुष्य पर डालना उतना ही मुश्किल हो जाएगा। स्थिति तब और पेचीदा हो जाती है, जब जॉर्ज वाशिंगटन यूनिवर्सिटी की लॉरा डिकिंसन बताती हैं कि खुफिया जानकारी हासिल करने, निशाना तय करने और हथियार तैनात करने के लिए कई लोग हथियार का इस्तेमाल करते हैं, जिसके कारण निर्णय लेने की प्रक्रिया का दायरा बहुत बढ़ जाता है। लेकिन यदि हथियार पर उचित मानवीय नियंत्रण हो तो नाकामी की सूरत में उसे चलाने वाले मनुष्य को जवाबदेह ठहराया जा सकता है।

विशेषज्ञों का कहना है कि सीसीडब्ल्यू को इसी बिंदु पर ध्यान देना चाहिए। पिछले महीने ऑटोनॉमस हथियारों पर संयुक्त राष्ट्र के साथ काम कर रहे स्वतंत्र समूह इंटरनेशनल पैनल ऑन रेग्युलेशन ऑफ ऑटोनॉमस वीपंस ने एक रिपोर्ट प्रकाशित की, जिसमें यह सिफारिश की गई थी कि मानव नियंत्रण के सिद्धांत को अधिक ठोस नियम के रूप में लागू किया जा सकता है। रिपोर्ट में तीन चरण बताए गएः “(1) ऑटोनॉमस हथियार प्रणाली की तकनीकी परिभाषा पर ध्यान भटकाने वाली बहस छोड़ दी जाएं, (2) मानवीय पहलू (जैसे मानवीय नियंत्रण) पर ध्यान दिया जाए, और (3) परिचालन के संदर्भ के प्रभाव को मानवीय माहौल के आवश्यक स्तर पर आंका जाए।” कुछ मामलों में ये सुझाव शानदार वैचारिक ढांचा तैयार करते हैं। विचार तकनीक से पक्षपात नहीं करता और आगे जाकर पुराना नहीं पड़ेगा। मानवीय नियंत्रण पर जोर का अर्थ है कि ढांचे को हथियार के रूप से नहीं उसके काम से मतलब है। यूएनसीसीडब्ल्यू के सदस्य देश अगर इन सुझावों पर गंभीरता से विचार करते हैं तो अच्छा होगा।

संदर्भः

1. घातक ऑटोनॉमस शस्त्र प्रणालियों के क्षेत्र में उभरती तकनीकों पर सरकारी विशेषज्ञों के समूह की 2019 की बैठक की रिपोर्ट। https://undocs.org/en/CCW/GGE.1/2019/3 पर उपलब्ध।
2. आर क्रूटॉफ (2016); “वॉर टॉट्सः अकाउंटेबिलिटी फॉर ऑटोनॉमस वीपंस”, यूनिवर्सिटी ऑफ पेनसिल्वेनिया लॉ रिव्यू 1347-402
3. एल डिकिंसन (2018); ड्रोन्स, ऑटोमेटेड वीपंस एंड प्राइवेट मिलिटरी कॉण्ट्रैक्टर्स; एम लैंड एवं जे अरॉनसन संपादित न्यू टेक्टनोलॉजीज फॉर ह्यूमन राइट्स लॉ एंड प्रैक्टिस (पृष्ठ 93-12), कैंब्रिजः कैंब्रिज यूनिवर्सिटी प्रेस, डीओआईः 10.1017/9781316838952.005
4. ह्यूमन राइट्स वॉच एवं हार्वर्ड लॉ स्कूल इंटरनेशनल ह्यूमन राइट्स क्लिनिक (आईएचसीआर); “लूजिंग ह्यूमैनिटीः द केस अगेंस्ट किलर रोबॉट्स”, ह्यूमन राइट्स वॉच, नवंबर 2012, https://bit.ly/2ZLqwkV पर उपलब्ध।
5. आईपीआरएडब्ल्यू (2020); अ पाथ टुवड्स रेग्युलेशन ऑफ लॉज, https://www.ipraw.org/wp-content/uploads/2020/05/iPRAW-Briefing_Path-to-Regulation_May2020.pdf
6. सी जेंक्स (2016); फाल्स रूबिकॉन्स, मॉरल पैनिक, कंसेप्चुअल कल-डी-सैक्सः क्रिटिकिंग रिफार्मिंग द कॉल टु बैन लीथल ऑटोनॉमस वीपंस, पेपरडाइन लॉ रिव्यू, 44 (1), 1-70

(The paper is the author’s individual scholastic articulation. The author certifies that the article/paper is original in content, unpublished and it has not been submitted for publication/web upload elsewhere, and that the facts and figures quoted are duly referenced, as needed, and are believed to be correct). (The paper does not necessarily represent the organisational stance... More >>