सत्य नडेला की चेतावनी: एआई मॉडल्स को 'इनसाइडर थ्रेट' मानें, 'इमरजेंसी ब्रेक' सिस्टम बनाना ज़रूरी

माइक्रोसॉफ्ट के चेयरमैन और मुख्य कार्यकारी अधिकारी सत्य नडेला ने 11 अक्टूबर 2026 को उन्नत आर्टिफिशियल इंटेलिजेंस (एआई) प्रणालियों का उपयोग करने वाली कंपनियों को कड़ी चेतावनी देते हुए कहा कि शक्तिशाली एआई मॉडलों को एक संभावित 'इनसाइडर थ्रेट' की तरह देखा जाना चाहिए। उन्होंने स्पष्ट किया कि किसी भी एआई मॉडल के साथ समझौता (कंप्रोमाइज) हो सकने की आशंका को शुरू से ही स्वीकार कर उसके अनुसार सुरक्षा तंत्र तैयार रखना अनिवार्य है।

एक्स पर पोस्ट में उठाया मुद्दा

नडेला ने सोशल मीडिया प्लेटफॉर्म एक्स (पूर्व में ट्विटर) पर एक पोस्ट के ज़रिये यह बात कही। उन्होंने लिखा कि कंपनियाँ केवल एआई डेवलपर्स के भरोसे नहीं रह सकतीं — उन्हें ऐसी व्यवस्थाएँ विकसित करनी होंगी जिनसे अधिकृत व्यक्ति ज़रूरत पड़ने पर एआई मॉडल को उसके कार्य के बीच में ही रोक या बंद कर सकें। नडेला ने इस सुरक्षा उपाय की तुलना एक 'इमरजेंसी ब्रेक' से की — वैसे ही जैसे किसी वाहन को आपात स्थिति में रोका जाता है।

उन्होंने कहा, 'हमें यह मानकर चलना चाहिए कि मॉडल कंप्रोमाइज किया जा सकता है और शुरुआत से ही उसे नियंत्रित रखना चाहिए।'

बढ़ते जोखिम का संदर्भ

यह चेतावनी ऐसे समय में आई है जब दुनिया भर में अधिक सक्षम और स्वायत्त (एजेंटिक) एआई प्रणालियों से जुड़े सुरक्षा जोखिमों को लेकर बहस तेज़ हो रही है। ये मॉडल सीमित मानवीय हस्तक्षेप के साथ स्वयं निर्णय लेने, बाहरी प्रणालियों से जुड़ने और विभिन्न कार्यों को अंजाम देने में सक्षम होते जा रहे हैं।

गौरतलब है कि हाल के महीनों में एआई कंपनियों एंथ्रोपिक और ओपनएआई ने भी अपने मॉडलों से जुड़ी कुछ अनपेक्षित घटनाओं का खुलासा किया है। इनमें एंथ्रोपिक के एक मॉडल द्वारा पुलिस के एक हत्या मामले में कथित तौर पर गलत सूचना देना और तृतीय-पक्ष वेबसाइटों से जुड़े सुरक्षा उल्लंघन शामिल रहे हैं। इन घटनाओं ने एआई के लिए प्रभावी 'किल स्विच' और मज़बूत निगरानी तंत्र की ज़रूरत पर चर्चा को और तेज़ कर दिया है।

नडेला के सुझाए उपाय

नडेला ने जोखिम कम करने के लिए कई अहम उपाय सुझाए। उन्होंने कहा कि कंपनियों को महत्वपूर्ण निर्णयों के लिए किसी एक एआई मॉडल पर निर्भर नहीं रहना चाहिए। इसके अलावा, एआई एजेंटों की गतिविधियों का छेड़छाड़-रोधी रिकॉर्ड बनाए रखना चाहिए और एआई प्रणालियों का स्वतंत्र ऑडिट कराना चाहिए।

उन्होंने यह भी ज़ोर दिया कि बड़े एआई विफलताओं और सुरक्षा उल्लंघनों की जानकारी पारदर्शी तरीके से साझा की जानी चाहिए, ताकि अन्य संगठन भी अपनी सुरक्षा व्यवस्थाओं को मज़बूत बना सकें।

सुपर इंटेलिजेंस पर सख्त रुख

नडेला ने विशेष रूप से आगाह किया कि भविष्य की सुपर इंटेलिजेंस प्रणालियों को केवल एक रहस्यमय 'ब्लैक बॉक्स' की तरह स्वीकार नहीं किया जा सकता। उनके अनुसार, ऐसे एआई सिस्टम विकसित किए जाने चाहिए जिनके व्यवहार को देखा जा सके, उनकी सीमाओं का परीक्षण किया जा सके और आवश्यकता पड़ने पर उनके कार्यों को नियंत्रित किया जा सके।

उन्होंने अपनी बात एक स्पष्ट निर्देश के साथ समाप्त की: 'दूसरे शब्दों में, हमें बुद्धिमत्ता की आपूर्ति और उस पर अधिकार के बीच स्पष्ट अंतर करना होगा।'

आगे की राह

तकनीकी विशेषज्ञों का मानना है कि नडेला जैसे वैश्विक तकनीकी नेताओं की इस तरह की सार्वजनिक चेतावनियाँ एआई नियमन की दिशा में नीति-निर्माताओं पर दबाव बढ़ाती हैं। भारत समेत कई देश एआई गवर्नेंस फ्रेमवर्क पर काम कर रहे हैं — ऐसे में माइक्रोसॉफ्ट प्रमुख की यह टिप्पणी वैश्विक बहस को एक नई धार दे सकती है।