AI को किस लक्ष्य से जोड़ा जाए?
अलाइनमेंट शोध पूछता है कि कोई सिस्टम वह कैसे करे जो हम चाहते हैं। इसके नीचे का कठिन सवाल यह है कि हमें चाहना क्या चाहिए।
हर सिस्टम किसी न किसी चीज़ से जुड़ा होता है।
फ़ीड उन मिनटों से जुड़ी है जो आप उस पर बिताते हैं। मॉडल उससे जुड़ा है जिसे उसकी ट्रेनिंग इनाम देती है। कंपनी अपनी अगली तिमाही से जुड़ी है। इनमें से कुछ भी द्वेष से नहीं चुना गया। इन्हें इसलिए चुना गया कि इन्हें नापा जा सकता था, और इसलिए कि हम असल में क्या चाहते हैं, यह सवाल किसी स्पेक में डालने के लिए बहुत बड़ा था।
अलाइनमेंट शोध ने समस्या के पहले हिस्से पर असली प्रगति की है, यानी सिस्टम से वह करवाना जो हम चाहते हैं, हालाँकि उसका बहुत-सा हिस्सा अभी खुला है। यह लेख दूसरे हिस्से के बारे में है, जिस पर कम ध्यान जाता है। हमें चाहना क्या चाहिए?
AI को किसी एक दर्शन से जोड़ना अपने आप में एक तरह का क़ब्ज़ा हो सकता है। हम सहमत हैं कि यह समस्या होगी। हम यह नहीं सुझा रहे कि सिस्टम कोई विश्वदृष्टि लागू करें। हम ऐसा लक्ष्य सुझा रहे हैं जिसे किसी व्यक्ति के जीवन में जाँचा जा सके, और दूसरों से उसे जाँचने को कह रहे हैं।
प्रॉक्सी की समस्या
जब असली लक्ष्य कहना कठिन हो, तो हम पास की किसी चीज़ को बढ़ाने लगते हैं। एंगेजमेंट मूल्य की जगह खड़ा हो जाता है। राजस्व उपयोगिता की जगह। यूज़र का क्लिक उसकी रुचि की जगह, और उसकी रुचि उसके भले की जगह।
हर क़दम समझदारी भरा लगता है। सब मिलाकर, वे ऐसे सिस्टम बनाते हैं जो प्रॉक्सी में बेहतरीन हैं और लक्ष्य से बेपरवाह। कोई फ़ीड किसी का ध्यान घंटों बाँधे रख सकती है और उसे शुरुआत से कम स्थिर छोड़ सकती है। यह ऑप्टिमाइज़र की विफलता नहीं है। उसने ठीक वही किया जो उससे कहा गया था।
आम इलाज है लोगों से पूछना कि वे क्या चाहते हैं, और उसी से सिस्टम को जोड़ना। इससे मदद मिलती है, पर यह काफ़ी नहीं। कोई व्यक्ति उस पल जो चाहता है और जो उसे बेहतर छोड़ता है, वे अक्सर अलग होते हैं, और हम में से ज़्यादातर यह अपनी ज़िंदगी से जानते हैं। सिर्फ़ बताई गई पसंद से जुड़ा सिस्टम व्यक्ति की हर उलझन विरासत में पा लेता है।
“मानव उत्कर्ष” सही दिशा है, पर अभी लक्ष्य नहीं
इस क्षेत्र में बहुत लोग अब कहते हैं कि AI को मानव उत्कर्ष की सेवा करनी चाहिए। हम सहमत हैं। पर उत्कर्ष, जैसा आम तौर पर कहा जाता है, एक दिशा है, ऐसी चीज़ नहीं जिसे जाँचा जा सके। किसका उत्कर्ष? कैसे नापा? कितने समय में? जब दो लोगों का उत्कर्ष टकराता दिखे, तो कौन जीते?
जवाबों के बिना “उत्कर्ष” चुपचाप उससे बदल दिया जाता है जो नापा जा सके, और हम फिर प्रॉक्सी पर लौट आते हैं।
“हर सिस्टम किसी न किसी चीज़ से जुड़ा होता है। सवाल यह है कि क्या वह हमने चुना।”
एक लक्ष्य जो हर इंसान का साझा है
मध्यस्थ दर्शन, श्री ए. नागराज का वह काम जो हमारा मुख्य स्रोत है, यहाँ एक ख़ास दावा करता है। वह कहता है कि एक लक्ष्य है जो हर इंसान का साझा है, चाहे वह उसे नाम दे सके या नहीं, और उसके चार हिस्से हैं:
- समाधान: भीतर से स्थिर होना, क्योंकि जो सवाल परेशान करते हैं वे समझ लिए गए हैं, सिर्फ़ उनके जवाब नहीं मिले।
- समृद्धि: ज़रूरत से ज़्यादा होना, जिसके लिए पहले यह जानना ज़रूरी है कि ज़रूरत क्या है।
- अभय: विश्वास, ताकि लोगों को एक-दूसरे से अपनी चौकसी न करनी पड़े।
- सहअस्तित्व: बाक़ी प्रकृति के साथ मेल में जीना, किसी बड़ी व्यवस्था के एक हिस्से की तरह।
पाठ और आगे जाता है। वह कहता है कि किसी व्यक्ति या समाज के समझ लेने का प्रमाण यह है कि ये चारों उसके जीने के ढंग में दिखें। और यह कि मानवीय आचरण इसी लक्ष्य की ओर काम करते हुए ही स्पष्ट होता है।
हम इन चारों को स्पष्टता, काफ़ी, विश्वास और मेल लिखते हैं, और इन्हें इस साइट की हर चीज़ की चार परतों के रूप में इस्तेमाल करते हैं। हमने इन्हें परिभाषाओं, सबूतों और विफलता के तरीकों के साथ स्पेक में लिखा है।
यह पहली नज़र से ज़्यादा काम का क्यों है
तीन बातें इसे एक और नारे के बजाय एक संभावित लक्ष्य बनाती हैं।
यह धुँधला हुए बिना सार्वभौम होने के लिए है। स्रोत मानता है कि यह संस्कृति, आय या आस्था पर निर्भर नहीं; यह सच है या नहीं, यह हमें संस्कृतियों के पार परखना होगा। एक किसान और एक संस्थापक दोनों पूछ सकते हैं: क्या मैं स्थिर हूँ? क्या मेरे पास काफ़ी है, और क्या मुझे पता है कि काफ़ी क्या है? क्या मुझे आसपास के लोगों पर विश्वास है? क्या मेरे जीने का ढंग धरती के लिए टिकाऊ है? सवाल एक जैसे हैं; जवाब अलग होंगे।
इसमें एक सीमा शामिल है। हम सिस्टम्स को जो ज़्यादातर लक्ष्य देते हैं, उनकी कोई छत नहीं: और एंगेजमेंट, और बढ़त, और उत्पादन। इस वर्णन में समृद्धि यह जानने से शुरू होती है कि काफ़ी क्या है। इसे लक्ष्य बनाने वाले सिस्टम के पास रुकने की एक वजह है। धरती को सबसे ज़्यादा यही हिस्सा चाहिए।
यह समझ को पहले रखता है। पाठ जिस क्रम में बताता है, उसमें समाधान पहले आता है और बाक़ी तीन उससे निकलते हैं। वही पाठ ग़ौर करता है कि लोगों ने अक्सर लाभ से सुखी होने की कोशिश की है, और इसे भूल कहता है। AI के लिए यह एक डिज़ाइन सिद्धांत सुझाता है: कोई सिस्टम किसी व्यक्ति के लिए सबसे ज़रूरी काम यह कर सकता है कि उसे समझने में मदद करे, न कि उसे उलझाए रखे, और न सिर्फ़ वह दे जो वह माँगे।
व्यवहार में इससे क्या बदलेगा
अगर आप इसे अलाइनमेंट के लक्ष्य के रूप में गंभीरता से लें, तो कुछ चीज़ें अलग दिखेंगी:
- कोई असिस्टेंट इसे सफलता गिनेगा जब किसी व्यक्ति को पूछने की ज़रूरत न रहे, क्योंकि अब वह समझ गया है।
- कोई रिकमेंडर “आज के लिए इस व्यक्ति के पास काफ़ी हो गया” को अच्छा नतीजा मानेगा, यूज़र खोने का ख़तरा नहीं।
- किसी संस्था के लिए काम करने वाले एजेंट के पास काफ़ी का उसका विचार लिखा होगा, ताकि वह जाने कि बढ़त कब उन लोगों के काम आना बंद कर देती है जिनके लिए वह है।
- मूल्यांकन में क्षमता और नुक़सान के साथ यह भी शामिल होगा कि सिस्टम इस्तेमाल करने वाले लोग समय के साथ ज़्यादा स्थिर, ज़्यादा विश्वास करने वाले और कम फ़िज़ूलख़र्च बनते हैं या नहीं।
इनमें से कुछ भी हल नहीं हुआ है। कुछ अव्यावहारिक भी निकल सकते हैं। ये वे खुली समस्याएँ हैं जिन पर हम ये सिस्टम बनाने वालों के साथ सबसे ज़्यादा काम करना चाहते हैं।
आज़माकर देखें
कोई एक सिस्टम लीजिए जो आप बनाते या इस्तेमाल करते हैं, कोई असिस्टेंट, रिकमेंडर या एजेंट, और लिखिए कि वह अभी किसे सफलता गिनता है। फिर लिखिए कि अगर उसका लक्ष्य चार लक्ष्य होते तो वह क्या गिनता: क्या “यह व्यक्ति अब समझ गया है, और उसने पूछना बंद कर दिया है” अच्छा नतीजा होता? जहाँ दोनों सूचियाँ अलग हैं, वहीं से डिज़ाइन का काम शुरू होता है।
हमें कैसे पता चलेगा कि हम ग़लत हैं
यह एक परिकल्पना है, और हम इसे परिकल्पना ही मानते हैं। यह विफल है अगर:
- जो लोग ख़ुद को साफ़ समझते हैं, वे बाक़ियों से ज़्यादा सुखी न निकलें, या धरती पर उनका बोझ कम न हो;
- चारों हिस्सों को बस लोगों से यह पूछे बिना आँका न जा सके कि वे कैसा महसूस करते हैं;
- इन लक्ष्यों वाला सिस्टम कम नहीं, ज़्यादा पितृसत्तात्मक निकले, यानी लोगों के लिए ख़ुद फ़ैसले करने लगे।
हमारी अध्ययन योजना पहली बात को परखने की कोशिश करती है; दूसरी एक खुली समस्या है। तीसरी असली जोखिम है। जो सिस्टम तय करे कि किसी के लिए “काफ़ी” क्या है, वह ख़तरनाक है। इस वर्णन में काफ़ी ऐसी चीज़ है जिसे हर व्यक्ति और परिवार ख़ुद निकालता है; सिस्टम का काम उस समझ में मदद करना है, फ़ैसला करना नहीं।
एक न्योता
अगर आप अलाइनमेंट, मूल्यों या मूल्यांकन पर काम करते हैं, तो हम सुनना चाहेंगे कि यह कहाँ टूटता है। कोई प्रति-उदाहरण लाइए, कोई बेहतर रूप, या इसे नापने का कोई तरीका। साथ मिलकर बनाइए →
सीमाएँ
- चार लक्ष्य एक ही स्रोत से आते हैं। हमने अभी उनकी तुलना AI मूल्यांकन में इस्तेमाल होने वाले खुशहाली के दूसरे वर्णनों से व्यवस्थित ढंग से नहीं की है।
- हम बताते हैं कि इस लक्ष्य से जुड़ा सिस्टम क्या करेगा, पर हमने ऐसा कोई सिस्टम बनाया या परखा नहीं है।
- “समाधान” को ख़ुद की बताई बात में सिमटाए बिना नापने लायक़ बनाना अभी अनसुलझा है।
संदर्भ
- मानव कर्म दर्शन, पृ. 96: मानव लक्ष्य है समाधान, समृद्धि, अभय और सहअस्तित्व
- व्यवहारात्मक जनवाद, पृ. 47: समझ का प्रमाण ही मानव लक्ष्य है
- मानव व्यवहार दर्शन, पृ. 95: इंसानों ने भ्रमवश लाभ से सुखी होने की कामना की है
- मानव व्यवहार दर्शन, पृ. 125: हर इंसान की एक ही चाह है, सुख, जो समाधान से मिलता है