स्टार ट्रेक टुडे: मैनकाइंड सुपर-इंटेलिजेंट आर्टिफिशियल इंटेलिजेंस को नियंत्रित करने में सक्षम नहीं हो सकता है?

मानवता सुपर-बुद्धिमान कृत्रिम बुद्धि (एआई) को नियंत्रित करने में सक्षम नहीं हो सकती है, हाल ही के सैद्धांतिक अध्ययन के लेखकों का मानना ​​है। इसके अलावा, हम यह भी नहीं जान सकते हैं कि हमारे पास इस तरह का है एआई (कृत्रिम बुद्धिमत्ता) तैयार हो चुका है।
आर्टिफिशियल इंटेलिजेंस एल्गोरिदम की तीव्र प्रगति हमारी आंखों के सामने हो रही है। मशीनों को मनुष्यों के खिलाफ जीत और पोकर मिलता है, हवाई लड़ाई में अनुभवी लड़ाकू पायलटों को हराते हैं, परीक्षण और त्रुटि के माध्यम से जमीन से सीखते हैं, चिकित्सा और जीवन विज्ञान में एक महान क्रांति, निदान करते हैं और साथ ही डॉक्टरों और पक्षियों के बीच अंतर कर सकते हैं। मनुष्यों की तुलना में। इससे पता चलता है कि कई क्षेत्रों में कितनी तेजी से प्रगति हो रही है।

छवि स्रोत: पिक्साबे

इस प्रगति से इस बात की चिंता होती है कि क्या हम कृत्रिम बुद्धिमत्ता को नियंत्रित कर पाएंगे। कम से कम कई दशकों से जो चिंताएँ उठ रही हैं। हमने 1942 से प्रसिद्ध तीनों को जाना है रोबोट के कानूनजिन्होंने लेखक का हौसला बढ़ाया है इसहाक Asimov उनकी लघु कहानी "द गेम ऑफ़ टैग" में उल्लिखित:

1) एक रोबोट को किसी व्यक्ति को नुकसान नहीं पहुंचाना चाहिए या निष्क्रियता से, किसी व्यक्ति को होने वाले नुकसान की अनुमति दें,

2) एक रोबोट को मानव की आज्ञाओं का पालन करना चाहिए, बशर्ते कि वे पहले कानून का उल्लंघन न करें, और

3) एक रोबोट को तब तक अपनी सुरक्षा करनी होगी जब तक वह पहला या दूसरा कानून नहीं तोड़ देता।

बाद में जोड़ा गया असिमोव एक अतिव्यापी कानून 0 जोड़ा गया है: रोबोट को मानव जाति को नुकसान नहीं पहुंचाना चाहिए या चूक से नुकसान नहीं उठाना चाहिए2014 में, ऑक्सफोर्ड यूनिवर्सिटी में इंस्टीट्यूट फॉर द फ्यूचर ऑफ ह्यूमैनिटी के निदेशक दार्शनिक निक बोस्सोम ने अध्ययन किया कि सुपर-बुद्धिमान एआई हमें कैसे नष्ट कर सकता है, हम इसे कैसे नियंत्रित कर सकते हैं, और नियंत्रण के विभिन्न तरीके क्यों काम नहीं कर सकते हैं। बोस्रोम ने AI को नियंत्रित करने के साथ दो समस्याओं की पहचान की। पहला नियंत्रण है कि AI क्या कर सकता है। उदाहरण के लिए, हम नियंत्रित कर सकते हैं कि यह इंटरनेट से कनेक्ट होना चाहिए या नहीं। दूसरा इस पर नियंत्रण है कि वह क्या करना चाहता है। उदाहरण के लिए, उसे नियंत्रित करने के लिए हमें उसे मनुष्यों के साथ शांतिपूर्ण सह-अस्तित्व के सिद्धांतों को सिखाना होगा। जैसा कि बॉस्सरोम ने कहा, एक सुपर-बुद्धिमान AI संभवतः किसी भी सीमा को पार करने में सक्षम होगा जो हम उस पर डाल सकते हैं जो वह कर सकता है। दूसरी समस्या के रूप में, बॉस्क्रोम संदेह हम हैं अति बुद्धिमान AI कुछ भी सिखा सकता था।

अब यूनिवर्सिडोन ऑटोनोमा डे मैड्रिड के मैनुअल अल्फोंसेका और उनकी टीम ने कृत्रिम बुद्धि को नियंत्रित करने की समस्या से निपटने का फैसला किया है। उन्होंने अपने काम के परिणामों का वर्णन किया आर्टिफिशियल इंटेलिजेंस रिसर्च जर्नल.

Spaniards ध्यान दें कि कोई भी एल्गोरिथ्म जो यह सुनिश्चित करने के लिए माना जाता है कि AI लोगों को नुकसान नहीं पहुंचाता है, उन्हें पहले ऐसे व्यवहार का अनुकरण करना चाहिए जिससे किसी व्यक्ति को नुकसान हो सकता है ताकि मशीन उसे पहचान सके और उसे रोक सके। हालांकि, शोधकर्ताओं के अनुसार, कोई भी एल्गोरिथ्म कृत्रिम बुद्धिमत्ता के व्यवहार का अनुकरण करने और पूर्ण निश्चितता के साथ निर्धारित करने में सक्षम नहीं होगा कि क्या एक निश्चित कार्रवाई से मनुष्यों को नुकसान होने की संभावना है। यह पहले ही साबित हो चुका है कि असिमोव का पहला कानून एक समस्या है जिसकी गणना नहीं की जा सकती है।
इसके अलावा, हम यह भी नहीं जानते हैं कि हमने एक सुपर-बुद्धिमान मशीन बनाई है, शोधकर्ताओं ने निष्कर्ष निकाला है। कारण यह है कि चावल की प्रमेय, जो कहता है कि आप केवल इसके कोड को देखकर कंप्यूटर प्रोग्राम के परिणाम का अनुमान नहीं लगा सकते।

लेकिन अल्फोंसेका और उनके सहयोगियों के लिए भी अच्छी खबर है। खैर, अब हमें यह चिंता करने की ज़रूरत नहीं है कि सुपर-स्मार्ट AI क्या करने जा रहा है। वास्तव में, Spaniards के अनुसंधान के प्रकार पर तीन मुख्य प्रतिबंध हैं। सबसे पहले, इस तरह के सुपर-बुद्धिमान एआई केवल 200 वर्षों में उभरेंगे। दूसरा, यह ज्ञात नहीं है कि क्या इस प्रकार की कृत्रिम बुद्धिमत्ता बनाना भी संभव है, अर्थात् ऐसी मशीन जो मानव के रूप में कई क्षेत्रों में बुद्धिमान है। और तीसरा, भले ही हम सुपर-इंटेलिजेंट एआई को नियंत्रित करने में सक्षम न हों, फिर भी कृत्रिम बुद्धि को नियंत्रित करना संभव है जो संकीर्ण सीमा के भीतर सुपर-बुद्धिमान है।