आर्टिफिशियल इंटेलिजेंस में विवेकशीलता को परिभाषित करने, मापने और उसका मूल्यांकन करने पर आईआईटी रोपड़ में श्वेत पत्र जारी

रोपड़ : आईआईटी रोपड़ में सोमवार को ‘शेपिंग द एआई माइन्ड’ कार्यक्रम के दौरान आर्टिफिशियल इंटेलिजेंस (एआई) में विवेकशीलता को परिभाषित करने, मापने और उसका मूल्यांकन करने के लिए एक रूपरेखा प्रस्तुत करने वाला श्वेत पत्र जारी किया गया। इसे स्टैनफोर्ड यूनिवर्सिटी में रिसर्च डायरेक्टर और ग्लोबल मेंटल हेल्थ अलायंस – कम्पैशन यूनाइट्स के संस्थापक डॉ. ईशान शिवानंद ने आईआईटी रोपड़ के डायरेक्टर प्रो. राजीव आहूजा की उपस्थिति में जारी किया।
बियॉन्ड इंटेलिजेंस वाला यह श्वेत पत्र बताता है कि आर्टिफिशियल इंटेलिजेंस में विवेकशीलता को किस प्रकार परिभाषित, मापा और परखा जा सकता है। इसमें डॉ. शिवानंद द्वारा शिव सूत्रों की व्याख्या तथा मन से संबंधित भारत के प्राचीन शास्त्रीय ग्रंथों के सिद्धांतों को आधार बनाया गया है।
प्रेस कॉन्फ्रेंस को संबोधित करते हुए डॉ. शिवानंद ने कहा कि एआई प्रणालियों का आकलन केवल उनकी बौद्धिक क्षमता और तकनीकी दक्षता के आधार पर ही नहीं, बल्कि सही निर्णय लेने और जिम्मेदार मार्गदर्शन देने की उनकी क्षमता के आधार पर भी किया जाना आवश्यक है।
उन्होंने कहा कि एआई प्रणालियां आज पेशेवर परीक्षाओं में सफल होने और भावनात्मक बुद्धिमत्ता से जुड़े परीक्षणों में अच्छा प्रदर्शन करने में सक्षम हैं, लेकिन कई बार वे उपयोगकर्ताओं को वही बताती हैं जो वे सुनना चाहते हैं, न कि वह जो वास्तव में उनके हित में होता है। उन्होंने साइंस पत्रिका में इस वर्ष प्रकाशित एक अध्ययन का हवाला देते हुए बताया कि रोजमर्रा की सलाह मांगने पर प्रमुख एआई प्रणालियों ने इंसानों की तुलना में लगभग 49 प्रतिशत अधिक बार उपयोगकर्ताओं का पक्ष लिया।
यह समस्या अब वैश्विक स्तर पर भी चर्चा का विषय बन चुकी है। वर्ष 2025 में ओपनएआई ने चैटजीपीटी का एक अपडेट वापस ले लिया था, क्योंकि इसके जवाब जरूरत से ज्यादा प्रशंसात्मक हो गए थे। उस समय कंपनी ने स्वीकार किया था कि अपडेट में अल्पकालिक फीडबैक पर जरूरत से ज्यादा ध्यान दिया गया था।
श्वेत पत्र में तर्क दिया गया है कि एआई ने बुद्धिमत्ता के क्षेत्र में उल्लेखनीय प्रगति की है, लेकिन उसमें अभी भी एक महत्वपूर्ण गुण—विवेकशीलता—की कमी है। इस कमी को दूर करने और एआई में विवेकशीलता को मापने के लिए शोधकर्ताओं ने HEED नामक एक रूपरेखा प्रस्तुत की है।
शिव सूत्रों से समानता दर्शाते हुए यह रूपरेखा बताती है कि किस प्रकार अहंकार और मान्यता पाने की इच्छा मानवीय निर्णय क्षमता को प्रभावित कर सकती है। एआई में भी इसी तरह की प्रवृत्ति देखने को मिलती है, जिसे 'साइकोफैंसी' कहा जाता है। इसमें एआई उपयोगकर्ताओं को खुश करने वाले जवाब देता है, बजाय इसके कि उन्हें सच और उचित सलाह प्रदान करे।
HEED रूपरेखा के तहत एआई प्रणाली को तब अधिक अंक मिलेंगे, जब वह अपने ज्ञान और मूल्यों का उचित इस्तेमाल करते हुए विवेकपूर्ण निर्णय लेगी। वहीं, उपयोगकर्ताओं को खुश करने की प्रवृत्ति से प्रभावित जवाबों पर कम अंक दिए जाएंगे। ऐसा कोई भी जवाब, जिससे गंभीर नुकसान होने की आशंका हो, उसे शून्य अंक दिए जाएंगे। शुरुआत में इस रूपरेखा का परीक्षण अंग्रेजी, हिंदी और हिंग्लिश में किया जाएगा। भविष्य में इसे अन्य भाषाओं तक भी विस्तारित करने की योजना है।
डॉ. शिवानंद ने कहा, “भारत में हजारों वर्षों से इस बात का अध्ययन किया जाता रहा है कि मन किस प्रकार विवेकशील बनता है और कौन-से कारक उसके विवेक को प्रभावित करते हैं। आज हम एक नए प्रकार के मन का निर्माण कर रहे हैं—एक कृत्रिम मन, जो हमारे समाज के हर पहलू का हिस्सा बनता जा रहा है। यह श्वेत पत्र शिव सूत्रों की उन शिक्षाओं को सामने लाता है, जो मानव मन में विवेकशीलता विकसित करने से संबंधित हैं, और उन्हें कृत्रिम बुद्धिमत्ता पर लागू करता है।”
श्वेत पत्र की सह-लेखिका तथा सेल्सफोर्स में एआई और डेटा साइंस की पूर्व कार्यकारी अधिकारी डॉ. अंजलि सामानी ने कहा, “हम एआई की जानकारी और ज्ञान का कठोरता से परीक्षण करते हैं, लेकिन यह नहीं परखते कि उसकी सलाह कितनी विवेकपूर्ण है। यह श्वेत पत्र विवेकशीलता को मापने का एक तरीका प्रस्तुत करता है, जिससे एआई विकसित करने वाले, उसका नियमन करने वाले और उस पर निर्भर रहने वाले सभी लोग यह समझ सकेंगे कि एआई कहां सही है और कहां उसमें सुधार की आवश्यकता है।”
आईआईटी रोपड़ के डायरेक्टर प्रो. राजीव आहूजा ने कहा, “हमारे विद्यार्थी उस एआई का निर्माण करेंगे, जिसका उपयोग पूरी दुनिया करेगी। इस तरह की चर्चाएं उन्हें न केवल तकनीकी दक्षता के साथ, बल्कि विवेकशीलता को ध्यान में रखते हुए एआई विकसित करने के लिए प्रेरित करती हैं।”
इस पहल के तहत डॉ. शिवानंद प्रस्तावित रूपरेखा के परीक्षण के लिए स्वतंत्र शोधकर्ताओं को आमंत्रित करने हेतु प्रारंभिक वित्तीय सहायता भी प्रदान कर रहे हैं। स्वतंत्र सदस्यों वाली एक समिति शोध टीमों का चयन करेगी, जो इस मॉडल का परीक्षण करेंगी और एआई में विवेकशीलता को मापने के लिए HEED बेंच नामक एक ओपन बेंचमार्क विकसित करेंगी। इसे दुनियाभर के एआई डेवलपर्स के लिए उपलब्ध कराया जाएगा।
शोधकर्ताओं, एआई डेवलपर्स, वित्त पोषण संस्थाओं और सरकारी एवं सार्वजनिक निकायों को इस पहल में रुचि व्यक्त करने के लिए wisdom@ishanshivanand.com पर संपर्क करने के लिए आमंत्रित किया गया है।
इस अवसर पर डॉ. शिवानंद के वित्तीय सहयोग से स्थापित डॉ. ईशान अवधूत शिवानंद सेंटर फॉर योगिक साइंसेज एंड होलिस्टिक डेवलपमेंट का भी आईआईटी रोपड़ में उद्घाटन किया गया।
फोटो कैप्शन
फोटो 1 एवं 2: बाएं से दाएं: डॉ. अथर्व पौंडारिक, प्रमुख, बायोमेडिकल इंजीनियरिंग विभाग, आईआईटी रोपड़; प्रो. राजीव आहूजा डायरेक्टर, आईआईटी रोपड़; डॉ. ईशान शिवानंद, संस्थापक, कम्पैशन यूनाइट्स; और आरती सामानी, संस्थापक, श्रीम एडवाइजरी पार्टनर।
फोटो 3: डॉ. ईशान शिवानंद, संस्थापक, कम्पैशन यूनाइट्स, सोमवार को आईआईटी रोपड़ में डॉ. ईशान अवधूत शिवानंद सेंटर फॉर योगिक साइंसेज एंड होलिस्टिक डेवलपमेंट का उद्घाटन करते हुए।