क्या होगा अगर एआई खुद अपना अगला और ज्यादा ताकतवर वर्जन बनाना शुरू कर दे? क्या होगा अगर मशीनें इंसानों से भी तेजी से खुद को बेहतर बनाने लगे। और क्या दुनिया उस दौर की तरफ आगे बढ़ रही है जहां एआई को रोकना इंसानों के लिए मुश्किल हो जाएगा? दुनिया की बड़ी एआई कंपनियों में शामिल अमेरिकी कंपनी एंथ्रोपिक ने एक ऐसी चेतावनी दी है .
जिसने टेक्नोलॉजी की दुनिया में एक नई बहस को जन्म दे दिया है। कंपनी का कहना है कि अगर एआई का विकास इसी रफ्तार से चलता रहा तो आने वाले सालों में ऐसे एआई सिस्टम सामने आ सकते हैं जो खुद अपनी कमियां दूर कर सकेंगे।
खुद को बेहतर बनाएंगे और यहां तक कि अपने से भी ज्यादा एडवांस नए एआई मॉडल को तैयार कर सकेंगे। यही वजह है कि इस स्थिति की तुलना पौराणिक कथा के रक्तबीज से की जा रही है। दरअसल वह था जिसकी हर बूंद से एक नया पैदा हो जाता था। उसे खत्म करना लगभग असंभव हो गया था। अब कुछ विशेषज्ञों का मानना है कि अगर एआई ने खुद को बनाने और बेहतर करने की क्षमता हासिल कर ली तो स्थिति कुछ वैसी ही चुनौतीपूर्ण बन सकती है।
एंथ्रोपिक की फ्रंटियर लैब ने अपनी हालिया ब्लॉग में कहा कि दुनिया को एआई के लिए ऐसे नियमों की जरूरत पड़ सकती है जैसे कभी जीन एडिटिंग और डिजाइनर बेबी जैसे तकनीकों को नियंत्रित करने के लिए बनाए गए थे।
कंपनी का कहना है कि फिलहाल एआई उस स्तर पर नहीं पहुंचा है लेकिन उसके शुरुआती संकेत दिखाई देने लगे हैं। आज के आधुनिक एआई मॉडल कोड लिख सकते हैं, गलतियां खोद सकते हैं, रिसर्च कर सकते हैं और जटिल समस्याओं को हल करने में मदद कर सकते हैं। यही क्षमताएं भविष्य में उन्हें खुद को बेहतर बनाने की दिशा में ले जा सकती हैं। कंपनी का कहना है कि एआई के लिए वैसे ही वैश्विक नियामक व्यवस्था की जरूरत पड़ सकती है जैसे 1970 के दौर में डीएनए और जीन एडिटिंग और डिजाइनर बेबी तकनीकों को नियंत्रित करने के लिए बनाई गई थी।
उस समय वैज्ञानिकों ने संभावित खतरे को देखते हुए सुरक्षा मानकों पर सहमति बनाने के लिए सामूहिक चर्चा की थी। एंथ्रोपिक जिस सबसे बड़े खतरे की बात कर रही है उसे रिकर्सिव सेल्फ इंप्रूवमेंट कहा जाता है। सरल भाषा में समझे तो इसका मतलब है एआई खुद अपना अगला वर्जन डिजाइन करें। फिर वो नया वर्जन खुद से और ज्यादा बेहतर मॉडल बनाएं और यह प्रक्रिया यह जो प्रोसेस है लगातार ऐसे ही चलती रहे।
आज किसी एआई मॉडल को बेहतर बनाने के लिए वैज्ञानिकों इंजीनियरों और रिसर्चरर्स की जरूरत होती है। लेकिन भविष्य में अगर एआई खुद ही यह काम करने लगे तो विकास की गति इंसानी क्षमता से कई ज्यादा आगे निकल सकती है। विशेषज्ञ संभावित स्थिति को इंटेलिजेंस एक्सप्लोजन यानी कि बुद्धिमता विस्फोट कहते हैं। अभी किसी नई तकनीक को विकसित होने में महीनों या सालों का समय लग जाता है।
लेकिन अगर एआई खुद को बेहतर बनाने लगे, खुद पर काम करने लगे तो वही काम कुछ हफ्तों या शायद कुछ दिनों में होने लगेगा। यानी तकनीकी प्रगति इतनी तेज हो सकती है कि इंसानों के लिए उसे समझना और नियंत्रित करना मुश्किल हो जाएगा। एंथ्रोपी की सबसे बड़ी चिंता नियंत्रण को लेकर है। अगर एआई सिस्टम लगातार खुद को बदलते और बेहतर करते रहे तो इंसानों के लिए यह समझना मुश्किल हो सकता है कि उनके अंदर क्या बदलाव हो रहे हैं और वह किस दिशा में विकसित हो रहे हैं। किस दिशा में आगे बढ़ रहे हैं। कंपनी का कहना है कि भविष्य के अत्यधिक शमक एआई सिस्टम कभी-कभी ऐसे फैसले ले सकते हैं जो इंसानी उद्देश्यों से मेल ना खाएं। जरूरी नहीं कि उनकी नियत खराब हो लेकिन उनके फैसलों के जो रिजल्ट है वह गंभीर भी हो सकते हैं। यानी खतरा हमेशा जानबूझकर नुकसान पहुंचाने का नहीं होगा बल्कि ऐसे परिणामों का होगा जिनकी किसी ने कल्पना भी नहीं की होगी।
इसी वजह से एंथ्रोपिक ने दुनिया भर की एआई कंपनियों और सरकारों के बीच सहयोग बढ़ाने की बात कही है। कंपनी का सुझाव है कि यदि भविष्य में अगर फ्यूचर में गंभीर जोखिम दिखाई दें तो एआई विकसित तो एआई विकास की गति को कुछ समय के लिए धीमा करने या अस्थाई रूप से रोकने पर भी विचार किया जा सकता है। साथ ही अंतरराष्ट्रीय स्तर पर ऐसे नियम और निगरानी व्यवस्था बनाई जाए जिससे यह सुनिश्चित किया जाए कि एआई इंसानों के हित में ही काम कर रहा है। दिलचस्प बात यह है कि यह बहस केवल एंथ्रोपिक तक सीमित नहीं है।
पिछले कुछ वर्षों में दुनिया के कई वैज्ञानिक, टेक विशेषज्ञ और एआई कंपनियों के प्रमुख भी लगातार यह चेतावनी देते रहे हैं कि एआई के फायदे जितने बड़े हैं, उसके जोखिम भी उतने ही बड़े हो सकते हैं। एक तरफ एआई स्वास्थ्य, शिक्षा, विज्ञान और कारोबार में क्रांति ला रहा है, तो दूसरी तरफ यह सवाल भी तेजी से उठ रहा है। अगर मशीनें खुद फैसले लेने और खुद को विकसित करने लगी, तो उनकी सीमाएं कौन तय करेगा?
यानी आने वाले समय की सबसे बड़ी चुनौती सिर्फ शक्तिशाली एआई बनाना नहीं बल्कि उस पर सुरक्षित और प्रभावी नियंत्रण बनाए रखना भी होगा। फिलहाल एआई रक्तबीज नहीं बना है। लेकिन एंथ्रोपिक की जो चेतावनी है वह साफ संकेत दे रही है कि दुनिया को भविष्य के लिए अभी से तैयार होना पड़ेगा। क्योंकि सवाल सिर्फ यह नहीं है कि एआई कितना बुद्धिमान बनेगा? बल्कि यह भी है कि उस बुद्धिमता पर नियंत्रण किसके हाथ में होगा? आपका इस पूरे मुद्दे पर क्या कुछ मानना है? क्या एआई मानवता के लिए सबसे बड़ा अवसर है या भविष्य की सबसे बड़ी चुनौती बनने वाला है?
