चॅटजीपीटी-मेकर ओपनएआय म्हणते की एआयला ‘गोइंग रॉग’पासून रोखण्यासाठी ते दुप्पट होत आहे

AI चे संभाव्य धोके हे दोन्ही AI संशोधकांसाठी सर्वात महत्त्वाचे आहेत.

ChatGPT चे निर्माते OpenAI ची महत्त्वपूर्ण संसाधने गुंतवण्याची आणि एक नवीन संशोधन कार्यसंघ तयार करण्याची योजना आहे जी त्याची कृत्रिम बुद्धिमत्ता मानवांसाठी सुरक्षित राहते हे सुनिश्चित करण्यासाठी अखेरीस AI चा वापर करून स्वतःचे निरीक्षण करेल, असे बुधवारी म्हटले आहे.

ChatGPT चे निर्माते OpenAI ची महत्त्वपूर्ण संसाधने गुंतवण्याची आणि एक नवीन संशोधन कार्यसंघ तयार करण्याची योजना आहे जी त्याची कृत्रिम बुद्धिमत्ता मानवांसाठी सुरक्षित राहते याची खात्री करेल – अखेरीस स्वतःचे पर्यवेक्षण करण्यासाठी AI वापरते, असे बुधवारी म्हटले आहे.

ओपनएआयचे सह-संस्थापक इल्या सुत्स्केव्हर आणि अलाइनमेंटचे प्रमुख जॅन लीके यांनी एका ब्लॉग पोस्टमध्ये लिहिले आहे की, “सुपर इंटेलिजन्सची अफाट शक्ती … मानवतेच्या अशक्तीकरणास किंवा अगदी मानवी विलोपनास कारणीभूत ठरू शकते. “सध्या, आमच्याकडे संभाव्य सुपरइंटेलिजंट एआयला सुकाणू किंवा नियंत्रित करण्यासाठी आणि ते खराब होण्यापासून रोखण्यासाठी उपाय नाही.”

सुपरइंटेलिजंट एआय – मानवांपेक्षा अधिक बुद्धिमान प्रणाली – या दशकात येऊ शकतात, ब्लॉग पोस्टच्या लेखकांनी भाकीत केले आहे. सुपरइंटेलिजेंट एआय नियंत्रित करण्यासाठी मानवांना सध्या उपलब्ध असलेल्या अधिक चांगल्या तंत्रांची आवश्यकता असेल, त्यामुळे तथाकथित “संरेखन संशोधन” मध्ये प्रगतीची आवश्यकता आहे, जे लेखकांच्या मते AI मानवांसाठी फायदेशीर राहतील याची खात्री करण्यावर लक्ष केंद्रित करते.

ओपनएआय, मायक्रोसॉफ्टच्या पाठिंब्याने, या समस्येचे निराकरण करण्यासाठी पुढील चार वर्षांत मिळालेल्या 20% संगणक शक्ती समर्पित करत आहे, त्यांनी लिहिले. याव्यतिरिक्त, कंपनी एक नवीन कार्यसंघ तयार करत आहे जी या प्रयत्नांभोवती आयोजित करेल, ज्याला सुपरअलाइनमेंट टीम म्हणतात.

एक “मानवी-स्तरीय” AI संरेखन संशोधक तयार करणे आणि नंतर मोठ्या प्रमाणात संगणकीय शक्तीद्वारे ते मोजणे हे संघाचे ध्येय आहे. OpenAI म्हणते की ते मानवी अभिप्राय वापरून AI प्रणालींना प्रशिक्षित करतील, AI प्रणालींना सहाय्यक मानवी मूल्यमापनासाठी प्रशिक्षित करतील आणि नंतर शेवटी AI प्रणालींना प्रत्यक्षात संरेखन संशोधन करण्यासाठी प्रशिक्षित करतील.

एआय सुरक्षा अधिवक्ता कॉनर लेही म्हणाले की ही योजना मूलभूतपणे सदोष होती कारण प्रारंभिक मानवी-स्तरीय AI AI सुरक्षा समस्या सोडविण्यास भाग पाडण्यापूर्वी ते गोंधळून जाऊ शकते आणि विनाश घडवू शकते.

“तुम्ही मानवी स्तरावरील बुद्धिमत्ता तयार करण्यापूर्वी तुम्हाला संरेखन सोडवावे लागेल, अन्यथा डीफॉल्टनुसार तुम्ही त्यावर नियंत्रण ठेवणार नाही,” तो एका मुलाखतीत म्हणाला. “मला वैयक्तिकरित्या वाटत नाही की ही विशेषतः चांगली किंवा सुरक्षित योजना आहे.”

AI चे संभाव्य धोके AI संशोधक आणि सामान्य लोक या दोघांच्याही मनावर आहेत. एप्रिलमध्ये, AI उद्योगातील नेत्यांच्या आणि तज्ञांच्या गटाने ओपनएआयच्या GPT-4 पेक्षा अधिक सामर्थ्यवान प्रणाली विकसित करण्यासाठी सहा महिन्यांच्या विरामाची मागणी करणाऱ्या एका खुल्या पत्रावर स्वाक्षरी केली, समाजासाठी संभाव्य जोखीम नमूद केली. मे रॉयटर्स/इप्सॉसच्या सर्वेक्षणात असे आढळून आले आहे की दोन तृतीयांश पेक्षा जास्त अमेरिकन लोक एआयच्या संभाव्य नकारात्मक प्रभावांबद्दल चिंतित आहेत आणि 61% लोकांचा असा विश्वास आहे की यामुळे सभ्यता धोक्यात येऊ शकते.

(ही कथा न्यूज 18 कर्मचार्‍यांनी संपादित केलेली नाही आणि सिंडिकेटेड न्यूज एजन्सी फीडमधून प्रकाशित केली आहे – रॉयटर्स)

भरत उपाध्याय

भरत उपाध्याय, न्यूज18 टेकचे वरिष्ठ उपसंपादक, तंत्रज्ञान आणि ग्राहक गॅझेट्सबद्दल लिहितात. सहाहून अधिक काळापासून तो तंत्रज्ञानाचा मारा कव्हर करत आहे…पुढे वाचा

Web Title – चॅटजीपीटी-मेकर ओपनएआय म्हणते की एआयला ‘गोइंग रॉग’पासून रोखण्यासाठी ते दुप्पट होत आहे