इंसान का बनाया एआई अब इंसान पर हुकूमत कर रहा है। हमारी दुनिया एक ऐसी दुनिया है जहां भाग्य का निर्धारण अल्गोरिदम के हाथ में आ चुका है। आज की दुनिया में एआई चालित ड्रोन युद्ध को नया रूप दे रहे हैं।
ऐसे में युद्ध में स्वायत्तता यानि स्वयं निर्णय लेने वाले हथियारबन्द वाहनों के प्रयोग पर नैतिक प्रश्न उठाए रहे हैं। वहीँ अन्तरराष्ट्रीय नीति-निर्माता, आधारभूत नियम निर्धारित करने के लिए संघर्ष कर रहे हैं। एआई की तेज़ी से विकसित हो रही इस तकनीक पर लगाम लगाने के लिए दबाव भी बढ़ रहे हैं।
ह्यूमन राइट्स वॉच में शस्त्र विभाग की पैरोकार निदेशक मैरी वेयरहम, चेतावनी देते हुए कहती हैं- “बड़े संसाधनों वाले कई देश, भूमि और समुद्र आधारित स्वायत्त हथियार प्रणालियों को विकसित करने के लिए, कृत्रिम बुद्धिमत्ता और सम्बन्धित तकनीकों में भारी निवेश कर रहे हैं। यह एक तथ्य है।”
“इसमें संयुक्त राज्य अमरीका सबसे आगे है मगर, रूस, चीन, इसराइल और दक्षिण कोरिया जैसे अन्य प्रमुख देश भी, स्वायत्त हथियार प्रणालियों में भारी निवेश कर रहे हैं।”
“मशीनों का उपयोग, पूरी तरह से सौंप दी गई शक्ति के साथ करना, मानव जीवन को ख़त्म देने का निर्णय लेना नैतिक रूप से घृणित है।” संयुक्त राष्ट्र महासचिव
ऑनलाइन कुकी स्वीकार करते हुए या फिर र्च इंजन का उपयोग करते समय हम हर बार स्वेच्छा से मशीनों को अपने बारे में जानकारी देते हैं। ऐसा करते समय हमें एह्साह ही नहीं होता कि हमारा डेटा किस तरह बेचा या इस्तेमाल किया जाता है।
अपनी मर्जी के पेज पर जाने में “सहमत” पर क्लिक करते समय भी बहुत लोगों को इस बात का एहसास होता है कि इसका इस्तेमाल हमें उपभोक्ता के रूप में लक्षित करने और कुछ ऐसा ख़रीदने के लिए लक्षित किया जाएगा जिसकी हमें ज़रूरत नहीं।
लेकिन क्या होगा, अगर मशीनें डेटा का इस्तेमाल यह तय करने के लिए कर रही हों कि किसे दुश्मनों के रूप में लक्षित किया जाए, जिन्हें मार दिए जाने की ज़रूरत है?
संयुक्त राष्ट्र सहित कई ग़ैर-सरकारी संगठनों के एक समूह को चिन्ता है कि यह सोच या परिदृश्य अब वास्तविकता बनने के निकट है। वे घातक स्वायत्त हथियारों (LAWS) के अन्तरराष्ट्रीय विनियमन उन पर क़ानूनी पकड़ मज़बूत करने की मांग कर रहे हैं, ताकि निकट भविष्य में मशीनों द्वारा जीवन-मृत्यु के विकल्पों को तय करने से बचा जा सके।
संयुक्त राष्ट्र के निरस्त्रीकरण मामलों के कार्यालय के प्रमुख इज़ूमी नाकामित्सु कहती हैं- “महासचिव ने हमेशा कहा है कि मशीनों का उपयोग, पूरी तरह से सौंप दी गई शक्ति के साथ करना, मानव जीवन को ख़त्म देने का निर्णय लेना नैतिक रूप से घृणित है।”
आगे उनका कहना है- “इसकी अनुमति नहीं दी जानी चाहिए। वास्तव में, इसे अन्तरराष्ट्रीय क़ानून द्वारा प्रतिबन्धित किया जाना चाहिए। यही संयुक्त राष्ट्र की स्थिति है।”
एक अन्तरराष्ट्रीय ग़ैर सरकारी मानवाधिकार संगठन – Human Rights Watch (HRW) ने कहा है कि स्वायत्त हथियारों का उपयोग “डिजिटल अमानवीयकरण” करने का नवीनतम, सबसे गम्भीर उदाहरण होगा। इसके तहत, मनुष्यों को प्रभावित करने वाले एआई पुलिसिंग, क़ानून प्रवर्तन और सीमा नियंत्रण जैसे मामलों पर, जीवन बदलने वाले कई अहम व गम्भीर निर्णय लेती है।
LAWS को विनियमित करने और प्रतिबन्धित करने के प्रयास नए नहीं हैं। संयुक्त राष्ट्र ने 2014 में जिनीवा में राजनयिकों की पहली बैठक आयोजित की जिसें LAWS को “अभी निरस्त्रीकरण एजेंडे पर एक चुनौतीपूर्ण उभरता हुआ मुद्दा” बताया गया।
अलबत्ता, उस समय युद्धों व टकरावों में कोई स्वायत्त हथियार प्रणाली इस्तेमाल नहीं की जा रही थी। अब 11 साल बाद भी, वार्ता जारी है, लेकिन स्वायत्त हथियारों की परिभाषा पर अभी तक कोई आम सहमति नहीं है, उनके प्रयोग पर सहमत विनियमन यानि क़ानूनी नियंत्रण की तो बात तो छोड़ ही दें।
फिर भी, ग़ैर सरकारी संगठन और संयुक्त राष्ट्र, आशावादी हैं कि अन्तरराषट्रीय समुदाय, प्रमुख मुद्दों पर आम समझ की ओर धीरे-धीरे बढ़ रहे हैं।
