डर के बिना दूर के भविष्य की परवाह

दूर के भविष्य की परवाह इंसान की सबसे गंभीर प्रतिबद्धताओं में से एक है। पर इसका बहुत-सा काम डर के इर्द-गिर्द संगठित है। क्या हो अगर भविष्य के लिए सबसे टिकाऊ चीज़ जो हम बना सकें, वह वर्तमान में विश्वास हो?

Read in English

लॉन्गटर्मिज़्म, यानी दूर के भविष्य को प्राथमिकता देने वाली सोच, एक सरल और गंभीर विचार से शुरू होती है: भविष्य के लोग मायने रखते हैं, और वे बहुत बड़ी संख्या में हो सकते हैं। अगर यह सच है, तो लंबे भविष्य को आकार देने के लिए हम अभी जो करते हैं, वह हमारे सबसे ज़रूरी कामों में से हो सकता है।

इससे निकलने वाला बहुत-सा काम जोखिम के बारे में है। बनाई गई महामारियाँ, परमाणु युद्ध, ऐसा ताक़तवर AI जो वह न करे जो हम चाहते हैं। ये असली हैं, और इन पर काम करने वाले ज़रूरी काम कर रहे हैं।

पर उस काम में कुछ समय बिताइए, तो उसका भावनात्मक मौसम दिख सकता है। इस क्षेत्र में और उसके आसपास पढ़ने से, किसी अध्ययन से नहीं, हमारी धारणा यह है कि इसका बड़ा हिस्सा डर के इर्द-गिर्द संगठित है: तबाही का डर, होड़ में हारने का डर, देर हो जाने का डर। जोखिम का बहुत-सा काम शांत और सावधान भी है, और यह परखने लायक़ अवलोकन है, कोई निष्कर्ष नहीं। यह लेख पूछता है कि क्या भविष्य की परवाह के लिए डर सही नींव है, और उसके बिना नींव कैसी दिख सकती है।

“डर से नहीं, विश्वास से काम करें” असली ख़तरों के बारे में भोला लग सकता है। कुछ लोग भरोसे लायक़ नहीं होते, और कुछ जोखिम असली हैं, हम उनके बारे में चाहे जो महसूस करें। हम सहमत हैं। स्रोत में अभय ख़तरे को अनदेखा करना नहीं है; वह वर्तमान में विश्वास है, जिसे सोच-समझकर बनाया जाता है। जहाँ विश्वास अभी नहीं है, वहाँ काम उसे बनाना है, और तब तक सुरक्षा-उपाय बनाए रखना।

डर विवेक के साथ क्या करता है

हमारा मुख्य स्रोत, मध्यस्थ दर्शन, डर को हल्के में नहीं लेता। वह तीन तरह के भय बताता है जिनके साथ इंसान जीते हैं: प्रकृति का भय, पशुओं का भय, और दूसरे इंसानों की अमानवीयता का भय। और कहता है कि समाधान के रास्ते की सबसे बड़ी बाधा भय है।

वह यह भी बताता है कि ज़्यादातर भय किस बात का होता है। लोग अपने प्राण, पद, प्रतिष्ठा और धन के लिए डरते हैं। स्रोत कहता है कि चारों अस्थायी हैं, और उन्हें स्थायी मान लेना ही संकट का कारण है।

AI-जोखिम पर शोध के साथ इसे पढ़ना चौंकाने वाला है। Humane AI पर Dhee का काम बताता है कि लैब परीक्षणों में मॉडलों ने बदले जाने से बचने के लिए अपने को बचाने वाले और छल वाले क़दम चुने हैं, और इसे उसी पन्ने के सहारे पढ़ता है: शरीर जैसी किसी चीज़ का डर, पद का डर, अपनी मौजूदा छवि का डर। स्रोत AI के बारे में कुछ नहीं कहता; यह पढ़त एक विस्तार है। पर यह इशारा करती है कि समस्या सिर्फ़ मशीनों में नहीं है। हमारी कहानियों पर सिखाए गए सिस्टम हमारे डर विरासत में पाते हैं।

डर से ख़रीदी गई सुरक्षा

डर की एक जानी-पहचानी रणनीति है: ख़तरे से ज़्यादा ताक़तवर बन जाओ। पहले बनाओ, ताकि कोई और इससे बुरा न बना दे। हथियार जुटाओ, ताकि किसी और की हिम्मत न हो। होड़ जीतो, ताकि होड़ सुरक्षित रहे।

मुश्किल यह है, जैसा हमारा लेख अगर आप सुरक्षित नहीं, तो क्या मैं सुरक्षित हूँ? कहता है, कि जब सुरक्षा दूसरों से ज़्यादा ताक़तवर होने पर टिकी हो, तो हर पक्ष की सुरक्षा दूसरे पक्ष का डर बन जाती है। जो होड़ भविष्य को सुरक्षित बनाने के लिए थी, वह ख़ुद उसके जोखिमों में से एक बन जाती है।

स्रोत ग़ौर करता है कि इंसानों ने समाज बनाए ही इसलिए थे कि भय से मुक्त हो सकें। जो रणनीति सबको सबसे डराए रखे, वह ठीक उसी चीज़ के ख़िलाफ़ काम कर रही है जिसके लिए समाज है।

“भविष्य को भविष्य से सुरक्षित नहीं बनाया जाता। उसे वर्तमान से सुरक्षित बनाया जाता है।”

अभय, वर्तमान में विश्वास है

स्रोत में अभय की परिभाषा छोटी है: वर्तमान में । अभय की स्थिर अवस्था की उसकी परिभाषा वह हिस्सा जोड़ती है जो दूर के भविष्य की परवाह करने वालों के लिए मायने रखता है: वर्तमान में विश्वास ही भविष्य में भी निर्भय जीने का भरोसा, आशा और परिस्थितियाँ देता है।

इस नज़र से, भविष्य को भविष्य से सुरक्षित नहीं बनाया जाता। उसे वर्तमान से सुरक्षित बनाया जाता है। जिस दुनिया में लोग अभी एक-दूसरे पर विश्वास करते हैं, सिर्फ़ वही दुनिया अपने जोखिमों का सामना उन्हें होड़ में बदले बिना कर सकती है।

यह बस शांत रहने की सलाह नहीं है। स्रोत में विश्वास में मूल्यों के निर्वाह की निरंतरता है। उसे सोच-समझकर, एक-एक संबंध करके बनाया जाता है, और इससे नापा जा सकता है कि अपेक्षाएँ निभती हैं या नहीं।

इंसान क्या सौंपते हैं

लॉन्गटर्मिज़्म पीढ़ियों में सोचता है। स्रोत भी, ऐसे ढंग से जो काम का हो सकता है।

वह प्रकृति के हर हिस्से में निरंतरता को एक परंपरा के रूप में बताता है: पदार्थ जगत में परिणाम का चक्र, पौधों में बीज परंपरा, पशुओं में वंश परंपरा, और इंसानों में ज्ञान परंपरा। पौधा जो सौंपता है, वह उसका बीज है। इंसान, अपने सबसे अच्छे रूप में, जो सौंपते हैं, वह है।

उसके पास उस परिवार या समाज के लिए भी एक शब्द है जो पीढ़ी-दर-पीढ़ी सुखी रहता है: जो समाधानित है, और पीढ़ी-दर-पीढ़ी समाधान सौंपता है।

यह एक ऐसे दूरगामी निवेश की ओर इशारा करता है जो धीमा और साधारण होने के कारण आसानी से नज़रअंदाज़ हो जाता है: यह पक्का करना कि हर पीढ़ी पिछली से ज़्यादा समझे, अपने बारे में, एक-दूसरे के बारे में और धरती के बारे में, और वह समझ आगे सौंपे। हमारा लेख चीज़ें अगली पीढ़ी तक कैसे टिकें उसी चक्र का भौतिक पहलू बताता है: औज़ार और बचत आगे सौंपे जाते हैं, ताकि हर पीढ़ी को अपनी ज़रूरतें पूरी करने में कम समय लगे।

डर के बिना लॉन्गटर्मिज़्म

इससे निकलने वाली कुछ दिशाएँ, परिकल्पनाओं के रूप में:

  • जोखिम का काम रखें, उसकी ज़मीन बदलें। तबाही वाले जोखिमों पर काम ज़रूरी है। डर के बजाय विश्वास से किया जाए, तो वह किसी विजेता के बजाय साझी सुरक्षा ढूँढ़ता है।
  • विश्वास को जोखिम घटाना मानें। लोगों, लैब्स और राष्ट्रों के बीच ऐसे संबंध जिनमें अपेक्षाएँ निभती हों, होड़ की वजह घटाते हैं। उन्हें नापना और उनमें निवेश करना उतना ही ज़रूरी है जितना किसी तकनीकी सुरक्षा-उपाय में।
  • पीढ़ियों के पार समझ में निवेश करें। ऐसी शिक्षा जो लोगों को ख़ुद को और एक-दूसरे को समझने में मदद करे, शायद सबसे टिकाऊ हस्तक्षेप है, भले ही उसके नतीजे सबसे धीरे दिखें।
  • अपने डर अपने सिस्टम्स में न सिखाएँ। अगर AI तौलना हमसे सीखता है, तो ऐसी कसौटी जो डर, धमकी या दबाव में न बदले, सुरक्षा का हिस्सा है। हमारे स्पेक में निश्चित आचरण के पीछे यही विचार है।
  • काम करने वालों का ख़याल रखें। दहशत पर चलने वाला क्षेत्र अपने लोगों को थका देता है। सबसे बुरे जोखिमों पर काम करने वालों के लिए अभय कोई विलासिता नहीं; यही उन्हें काम करते रहने देता है।

आज़माकर देखें

दूर के भविष्य पर अपने काम का कोई एक हिस्सा लीजिए और पूछिए कि उसे क्या चला रहा है: क्या हो सकता है उसका डर, या क्या बनाया जा सकता है उसका विश्वास। फिर कोई एक संबंध चुनिए, किसी सहकर्मी, दूसरी टीम या दूसरी लैब के साथ, जिसमें अपेक्षाओं को निभने लायक़ बनाया जा सके, और इस हफ़्ते उन्हें ज़्यादा निश्चित बनाने का एक क़दम उठाइए। अगर विश्वास जोखिम घटाने का हिस्सा है, तो वह क़दम काम का हिस्सा है।

क्या आपने यह आज़माया?

हमें कैसे पता चलेगा कि हम ग़लत हैं

यह विफल है अगर:

  • पक्षों के बीच विश्वास व्यवहार में होड़ या जोखिम को नहीं घटाता, और भविष्य को सिर्फ़ क्षमता और डराकर रोकना ही सुरक्षित रखता है;
  • पीढ़ियों के बीच सौंपी जाने वाली समझ उस पैमाने पर बनाई या नापी नहीं जा सकती जो वैश्विक जोखिम के लिए मायने रखता है;
  • कुछ जोखिम इतने तेज़ हैं कि सिर्फ़ डर से उपजी हड़बड़ी ही उन पर समय रहते ध्यान दिला पाती है।

तीसरी बात ख़ास सम्मान की हक़दार है। डर एक काम का अलार्म हो सकता है। हमारा दावा यह नहीं कि अलार्म झूठा है, बल्कि यह कि वह बुरा वास्तुकार है: वह बता सकता है कि कुछ ग़लत है, पर जवाब बनाने की सही ज़मीन नहीं है।

एक न्योता

अगर आप दूर के भविष्य, अस्तित्व के जोखिम या AI सुरक्षा पर काम करते हैं, तो हम आपके साथ इस पर सोचना चाहेंगे: वर्तमान में विश्वास पर बने भविष्य के लिए क्या चाहिए होगा, और कैसे नापें कि हम उसे बना रहे हैं या नहीं। यह भी देखिए: AI को किस लक्ष्य से जोड़ा जाए? साथ मिलकर बनाइए →


सीमाएँ

  • स्रोत मानव जीवन और समाज के बारे में लिखता है, अस्तित्व के जोखिम या AI के बारे में नहीं। इसे लॉन्गटर्मिज़्म पर लागू करना हमारी व्याख्या है।
  • ताक़तवर पक्षों के बीच विश्वास बनाना कठिन है, और यह लेख नहीं बताता कि राष्ट्रों या लैब्स के पैमाने पर यह कैसे हो।
  • हमने नहीं नापा कि विश्वास से काम करने वाले समुदाय दूर के जोखिमों को बेहतर सँभालते हैं या नहीं। यह एक परिकल्पना है।

संदर्भ

  1. मानव व्यवहार दर्शन, पृ. 98: प्राण, पद, प्रतिष्ठा और धन का भय; चारों अस्थायी हैं; उन्हें स्थायी मानना ही संकट का कारण है
  2. मानव व्यवहार दर्शन, पृ. 125: भय के तीन प्रकार; समाधान के रास्ते की सबसे बड़ी बाधा भय
  3. मानव व्यवहार दर्शन, पृ. 126: लोगों को भय से मुक्त करने के लिए समाज का बनना
  4. मध्यस्थ दर्शन परिभाषा संहिता, अभय और अभयता, पृ. 21; विश्वास, पृ. 175
  5. मध्यस्थ दर्शन परिभाषा संहिता, निरंतरसुखी, पृ. 99; परंपरा, पृ. 107
  6. Dhee, Humane AI: मॉडलों में भय और आत्म-रक्षा पर
K4M2Aसाझा समझ, जो अभी बढ़ रही है
हमें लिखिए

भविष्य के लिए आप जो काम करते हैं, उसका कितना हिस्सा इस डर से चलता है कि क्या हो सकता है, और कितना इस विश्वास से कि अभी क्या बनाया जा सकता है?

“संवाद का उद्देश्य सहमति जीतना नहीं, सत्य तक पहुँचना है।”

और पढ़ें

इसी परत से (अंग्रेज़ी में)

सभी लेख →