एआई की मनमानी पर लगेगा ब्रेक:ट्रंप के साथ टेक दिग्गजों ने किया मंथन, कितने स्तर पर होगी सुरक्षा निगरानी? – Reining In Ai Unchecked Run Tech Giants Hold Talks With Trump At How Many Levels Safety Monitoring Take Place

यह समिट क्यों बुलाई गई थी? 

‘फ्रंटियर जिम्मेदारियों पर संयुक्त प्रतिबद्धता’ नाम का यह दस्तावेज व्हाइट हाउस में हुई एक हाई-लेवल समिट के बाद जारी किया गया। यह समिट प्रशासन की ओर से औपचारिक रूप से सुपर इंटेलिजेंस नाम दिए गए विषय पर बुलाई गई थी। यह समिट टेक कंपनियों के प्रमुखों के उन सुझावों के बाद हुई जिनमें उन्होंने फ्रंटियर एआई के विकास की गति धीमी करने या नियंत्रण खोने के जोखिम की बात कही थी।

समझौते में कौन-कौन शामिल है? 

इस समझौते पर राष्ट्रपति डोनाल्ड ट्रंप के साथ-साथ प्रमुख टेक डेवलपर्स के प्रमुखों के भी निजी हस्ताक्षर हैं। इसमें गूगल के सुंदर पिचाई, एंथ्रोपिक के डारियो अमोदेई, मेटा के मार्क जुकरबर्ग, ओपनएआई के ग्रेग ब्रॉकमैन, एक्सएआई के एलन मस्क और एनवीडिया के जेन्सेन हुआंग।

संयुक्त घोषणा मे ंक्या कहा गया है?

संयुक्त घोषणा में कहा गया है, ‘अमेरिकी लोगों और दुनिया के लिए एक बेहतर भविष्य बनाने के लिए हमारा मानना है कि हर कंपनी की यह जिम्मेदारी है कि वह अपनी टेक्नोलॉजी को सुरक्षित तरीके से विकसित करे। ऐसा करे जिससे ग्राहकों और आम जनता का भरोसा बढ़े।’ इसके साथ ही, इसमें यह भी कहा गया है कि जो कंपनियां ‘फ्रंटियर मॉडल’ (अत्याधुनिक मॉडल) को ट्रेन और डिप्लॉय (लागू) कर रही हैं, उन्हें समस्याओं को तुरंत सुलझाने के लिए मजबूत प्रक्रियाएं अपनानी होंगी।

इसे हासिल करने के लिए, दस्तावेज में यह जरूरी किया गया है कि हर शामिल कंपनी कंट्रोल और ऑडिट के चार खास स्तर लागू करे।

• पहले स्तर के तौर पर, कंपनियों के लिए जरूरी है कि वे ट्रेनिंग और डिप्लॉयमेंट के दौरान अपने मॉडल की क्षमताओं और अलाइनमेंट (तालमेल) पर नजर रखने के लिए मजबूत इंटरनल कंट्रोल लागू करें। इसमें साइबर सिक्योरिटी, बायो-सिक्योरिटी और केमिकल खतरों जैसे क्षेत्रों पर ध्यान देना शामिल है। यह पक्का करना है कि उनके मॉडल अनजाने तरीकों से टेक्निकल सिस्टम को हैक न करें या उन तक पहुंच न बनाएं




• दूसरी स्तर के तहत, कंपनियों को एक इंटरनल टीम को अधिकार देना होगा ताकि यह पक्का किया जा सके कि सभी कंट्रोल, मॉनिटरिंग और डिटेक्शन सिस्टम ठीक से काम कर रहे हैं, और किसी भी समस्या को ठीक किया जा सके।




• तीसरे स्तर में स्वतंत्र बाहरी जांच की व्यवस्था है। जिसके तहत टेक कंपनियों को एक स्वतंत्र बाहरी ऑडिटर या मूल्यांकनकर्ता के साथ मिलकर यह जांच करनी होगी कि कंट्रोल, मॉनिटरिंग और डिटेक्शन सिस्टम ठीक से काम कर रहे हैं या नहीं।




• चौथे स्तर पर, समझौते में बोर्ड ऑफ डायरेक्टर्स की एक स्वतंत्र समिति बनाने की बात कही गई है। यह समिति कंट्रोल चलाने वाली टीमों और इंटरनल व बाहरी ऑडिटरों और मूल्यांकनकर्ताओं के काम की निगरानी करेगी। उनसे रिपोर्ट लेगी और यह पक्का करेगी कि पहचानी गई किसी भी समस्या को ठीक किया जाए।

इस घोषणा में इस बात पर जोर दिया गया है कि कंट्रोल और ऑडिट की ये चारों लेयर्स मिलकर हर कंपनी, उसके ग्राहकों और आम जनता को यह भरोसा दिलाएंगी कि टेक्नोलॉजी ठीक से काम कर रही है।

इसमें शामिल टेक्नोलॉजी कंपनियों ने यह भी तय किया कि वे नियमित रूप से मिलेंगी ताकि मॉडल की क्षमताएं बढ़ने के साथ-साथ नए सुरक्षा मानक और बेहतरीन तरीके (बेस्ट प्रैक्टिस) तय किए जा सकें।

खास बात यह है कि हालांकि यह समझौता स्वेच्छा से खुद नियम बनाने (सेल्फ-रेगुलेशन) की प्रतिबद्धता है, लेकिन हस्ताक्षर करने वाली कंपनियों ने औपचारिक रूप से माना कि ये उपाय भविष्य में अनिवार्य संघीय कानूनों में बदल सकते हैं।