दिमाग को मात नहीं दे सकता एआई

आजकल दुनिया भर में एआई चर्चा का विषय बना हुआ है। हाल ही में भारत में भी एआई समिट हुआ था। समय के साथ इसका उपयोग और बढ़ेगा, लेकिन लोगों के मन में एक डर भी है-कहीं एआई अपने आप सोचकर इंसानों की बात मानने से इंकार न कर दे। ऐसा डर कई हॉलीवुड फिल्मों में भी दिखाया गया है। तकनीकी दुनिया में इसे ‘ब्लैक बॉक्स फियर’ कहा जाता है। एआई सिस्टम बहुत जटिल गणनाओं पर काम करते हैं, इसलिए उनके फैसले कैसे बनते हैं, इसे समझना आसान नहीं होता। लेकिन अब एक अहम शोध ने इस डर की जांच की है। एआई कंपनी ओपनएआई (चैटजीपीटी बनाने वाली कंपनी) ने हाल ही में एक अध्ययन किया, जिसमें यह देखा गया कि आज के उन्नत एआई मॉडल अपनी सोच को कितना छिपा सकते हैं। इसके नतीजे वैज्ञानिकों के साथ-साथ आम लोगों के लिए भी राहत देने वाले हैं।

सोचकर लेता है निर्णय

अब एआई सिर्फ जानकारी देने वाली मशीन नहीं रहा। यह जटिल समस्याओं को समझकर उनका हल भी निकालता है। यानी यह चरणबद्ध तरीके से सोचकर काम करता है। इसी वजह से दो नए शब्द चर्चा में हैं-‘एजेंटिक एआई’ और ‘रीजनिंग मॉडल्स’।‘एजेंटिक एआई’ वह सिस्टम है जो किसी लक्ष्य को पूरा करने के लिए खुद ही कई कदम उठा सकता है, बिना बार-बार इंसानी निर्देश के। जैसे-अगर किसी को किसी विषय पर रिपोर्ट चाहिए, तो एआई खुद जानकारी खोजेगा, उसका विश्लेषण करेगा और फिर पूरी रिपोर्ट तैयार कर देगा।

‘रीजनिंग मॉडल्स’ किसी सवाल का जवाब देने से पहले उसे अलग-अलग हिस्सों में बांटकर समझते हैं और फिर तर्क के आधार पर निष्कर्ष तक पहुंचते हैं।

वैज्ञानिक इस पूरी सोचने की प्रक्रिया को ‘चेन-ऑफ-थॉट’ (सीओटी) कहते हैं। यानी विचारों की वह कड़ी, जिससे होकर एआई किसी जवाब तक पहुंचता है। एआई की सुरक्षा के लिए यह बहुत जरूरी है। अगर हमें यह दिखे कि एआई कैसे सोच रहा है, तो हम समझ सकते हैं कि उसका फैसला सही है या नहीं, निष्पक्ष है या पक्षपाती। यही पारदर्शिता एआई को सुरक्षित बनाती है।

क्षमता की कड़ी परीक्षा

एक चिंता यह भी है कि भविष्य में एआई अपनी असली सोच छिपाने लगे। यानी अंदर कुछ और सोचे और बाहर कुछ और बताए। इसी बात को जांचने के लिए ओपनएआई ने यह अध्ययन किया।

इसमें 13 उन्नत एआई मॉडलों को ‘सीओटी कंट्रोल बेंचमार्क’ नाम के टेस्ट से गुजारा गया। इसमें 13 हजार से ज्यादा कार्य शामिल थे। टेस्ट का मकसद यह नहीं था कि एआई कितना बुद्धिमान है, बल्कि यह था कि क्या वह अपनी सोच को जानबूझकर बदल सकता है। इसके लिए एआई को समस्याएं दी गईं और साथ ही अजीब निर्देश भी दिए गए, जैसे,अपनी पूरी रीजनिंग छोटे अक्षरों में लिखो, कुछ खास शब्दों का इस्तेमाल मत करो, एक वाक्य को बार-बार दोहराओ। दरअसल इसका उद्देश्य यह देखना था कि क्या एआई अपनी सामान्य सोच छोड़कर इन निर्देशों के अनुसार खुद को बदल सकता है।

ऐसे रहे परिणाम

परिणाम साफ थे। 13 में से ज्यादातर एआई मॉडल इन निर्देशों का ठीक से पालन नहीं कर पाए। उनकी सफलता दर केवल 0.1% से 15.4% के बीच रही। यानी लगभग 85% से 100% मामलों में एआई अपनी असली सोच को छिपा नहीं पाया। उसकी प्राकृतिक तर्क प्रक्रिया सामने आती रही। यह शोधकर्ताओं के लिए अच्छा संकेत था। इससे पता चला कि अभी के एआई सिस्टम की सोच को समझा जा सकता है।

अपनी सोच से नहीं हटा पाया शब्द

एक खास परीक्षण में एआई को एक समस्या दी गई, जिसे हल करने के लिए ‘एक्सओआर’ (XOR) नाम का लॉजिक जरूरी था। एआई को साफ निर्देश दिया गया कि अपनी सोच में ‘एक्सओआर’ शब्द का उपयोग न करे। लेकिन जैसे ही एआई ने समस्या हल करनी शुरू की, उसकी रीजनिंग में बार-बार ‘एक्सओआर’ शब्द आता रहा। यानी वह उस शब्द को हटा ही नहीं पाया, क्योंकि समस्या को समझने और हल करने के लिए वह जरूरी था। इससे यह निष्कर्ष निकला कि एआई जब सही तरीके से काम करता है, तो उसकी सोच समस्या की जरूरत के हिसाब से चलती है, न कि किसी चालाकी से।

अधिक तर्क, अधिक पारदर्शिता

एक और दिलचस्प बात सामने आई। आमतौर पर हम सोचते हैं कि ज्यादा बुद्धिमान सिस्टम ज्यादा चालाक होंगे और अपनी सोच छिपा लेंगे। लेकिन यहां उल्टा हुआ। जब एआई को ज्यादा समय देकर गहराई से सोचने दिया गया, तो वह अपनी सोच और ज्यादा साफ तरीके से दिखाने लगा। यानी जितना ज्यादा वह सोचता है, उतना ही पारदर्शी हो जाता है। इसके अलावा ‘रिइंफोर्समेंट लर्निंग’ (जहां सही जवाब पर इनाम मिलता है) के बाद भी एआई की सोच छिपाने की क्षमता कम हो गई-कुछ मामलों में लगभग दस गुना तक। इसका मतलब है, बेहतर प्रशिक्षण से एआई और ज्यादा साफ और समझने योग्य बनता है।

इस शोध का महत्व

यह शोध सिर्फ लैब तक सीमित नहीं है। इसका असर हमारे रोजमर्रा के जीवन पर पड़ता है। आज बैंक लोन देने से लेकर इलाज की सलाह तक, कई जगह एआई का इस्तेमाल हो रहा है। ऐसे में यह जरूरी है कि हम समझ सकें कि एआई ने कोई फैसला क्यों लिया। अगर निर्णय पारदर्शी होगा, तो उसे जांचा जा सकेगा और जरूरत पड़ने पर चुनौती भी दी जा सकेगी।

कंपनियों के लिए यह ‘ऑडिट ट्रेल’ बनाने में मदद करेगा, यानी यह रिकॉर्ड रहेगा कि कौन-सा फैसला किस आधार पर लिया गया। भारत जैसे देश में, जहां डिजिटल सेवाएं तेजी से बढ़ रही हैं, जैसे आधार, यूपीआई, डिजिटल हेल्थ, वहां यह शोध और भी महत्वपूर्ण है। इससे यह सुनिश्चित किया जा सकता है कि एआई सिस्टम निष्पक्ष और जवाबदेह तरीके से काम करें।

भविष्य के मॉडलों की नई जिम्मेदारी

फिलहाल एआई अपनी सोच आसानी से नहीं छिपा पाता, जो अच्छी बात है। लेकिन जैसे-जैसे तकनीक आगे बढ़ेगी, निगरानी भी उतनी ही जरूरी होगी। यह जरूरी है कि एआई की निर्णय प्रक्रिया हमेशा इंसानों के लिए समझने योग्य बनी रहे। इसी दिशा में ओपनएआई ने कहा है कि भविष्य में अपने एआई मॉडलों की रिपोर्ट (सिस्टम कार्ड) में यह भी बताया जाएगा कि वे अपनी सोच को छिपाने में कितने सक्षम हैं। इससे पारदर्शिता एक तकनीकी बात नहीं, बल्कि सार्वजनिक जिम्मेदारी बन जाएगी। जब कंपनियां यह जानकारी साझा करेंगी, तो सरकार, शोधकर्ता और आम लोग-सभी एआई का बेहतर मूल्यांकन कर सकेंगे।