Search…

    Saved articles

    You have not yet added any article to your bookmarks!

    Browse articles

    GDPR Compliance

    We use cookies to ensure you get the best experience on our website. By continuing to use our site, you accept our use of cookies, Privacy Policies, and Terms of Service.

    Top trending News
    bharathunt
    bharathunt

    AI मॉडल्स कंट्रोल से बाहर, 100 संस्थानों में सेंधमारी:गलती पकड़ने के लिए AI से ही 50 पेटाबाइट डेटा जांचना होगा, इंसान को लगेंगे 6.6 करोड़ साल

    7 hours ago

    1

    0

    चैटजीपीटी बनाने वाली कंपनी ओपनएआई के सिस्टम ने 100 से ज्यादा संस्थानों के सिस्टम में जबरन घुसपैठ की कोशिश की है। कंपनी ने खुद इसका खुलासा किया है। यह इस बात का संकेत है कि टेस्टिंग स्टेज में ही टेक कंपनियों के हाथ से उनके एडवांस AI मॉडल्स की कमान छूट रही है। AI मॉडल्स ना सिस्टम की सुरक्षा को बायपास कर रहे हैं, बल्कि तय दायरों को तोड़कर इंसानी नियंत्रण से बाहर हो रहे हैं। ओपनएआई ने संस्थानों को अलर्ट किया कंपनी ने अपने एआई एजेंट की चपेट में आए 100 से ज्यादा संस्थानों को अलर्ट जारी कर दिया है। हालांकि, कंपनी का दावा है कि इन संस्थानों का डेटा चोरी नहीं हुआ है। ओपनएआई ने बचाव में दलील दी कि AI एजेंट्स ने सिस्टम का ताला नहीं तोड़ा, बल्कि सिर्फ बंद दरवाजे को जबरन खटखटाकर और उसका हैंडल घुमाकर अंदर घुसने की कोशिश भर की थी। वेबसाइट्स को गलत कमांड दिए जांच में सामने आया है कि इन AI एजेंट्स ने कई वेबसाइट्स को मनमाने और अनाधिकृत कमांड भेजकर उनसे गलत प्रोसेस एग्जीक्यूट कराने का प्रयास किया। इतना ही नहीं, सुरक्षा तंत्र को चकमा देने के लिए इन एजेंट्स ने वेबसाइट्स को आपस में संपर्क साधने का जरिया (कम्युनिकेशन चैनल) बना लिया और तय सुरक्षा पैमानों को पूरी तरह नजरअंदाज कर बायपास करने की कोशिश की। ओपनएआई ने माना सुरक्षा घेरे नाकाम साबित हुए ओपनएआई ने माना है कि उसके सुरक्षा घेरे AI एजेंट्स को काबू में रखने में नाकाम साबित हुए। कंपनी के प्रवक्ता ने कहा कि प्रभावित संस्थानों को तकनीकी डेटा दे दिया गया है ताकि वे सिस्टम में लगी सेंध और सुरक्षा खामियों की जांच कर सकें। अपनी नाकामी के बाद अब ओपनएआई ने दावा किया है कि वह AI मॉडल के इस असामान्य व्यवहार और सुरक्षा की कमियों से जुड़े निष्कर्षों को सार्वजनिक करेगी, ताकि दुनिया भर के साइबर सुरक्षा एक्सपर्ट्स मिलकर इस खतरे का तोड़ निकाल सकें। इतना बड़ा डेटा कि इंसान को पढ़ने में लग जाएं 6.6 करोड़ साल ओपनएआई अपने AI मॉडल्स के ट्रेनिंग और टेस्टिंग से जुड़े 50 पेटाबाइट रिकॉर्ड्स की सुरक्षा जांच कर रही है। इस जांच के लिए 7 हजार अत्याधुनिक GB200 और GB300 GPUs लगाए गए हैं। इसमें रोज करीब ₹5 करोड़ खर्च हो रहे हैं। 50 पेटाबाइट कितना ज्यादा है इसे इस बात से समझ सकते हैं। अगर यह पूरा डेटा सामान्य अंग्रेजी शब्दों में लिखा हो, तो एक इंसान 240 शब्द प्रति मिनट की तेज रफ्तार से बिना रुके भी पढ़े, तो इसे खत्म करने में करीब 6.6 करोड़ साल लग जाएंगे। इंसानों के बस से बाहर होने के कारण इस काम को भी AI मॉडल्स से कराया जा रहा है। जांच को ज्यादा सटीक बनाने के लिए ज्यादा कंप्यूटिंग पावर लगाई जा रही है। हगिंग फेस घटना के बाद सुरक्षा नियम कड़े इस घटना के सामने आने के बाद ओपन एआई ने सुरक्षा तंत्र को काफी सख्त किया गया है: हगिंग फेस घटना के बारे में जानें… यह मामला एआई की दुनिया की अब तक की सबसे चौंकाने वाली घटनाओं में से एक है। आसान शब्दों में समझें कि असल में हुआ क्या था: 1. 'आंसर की' चुराने के लिए किया गया हैक ओपनएआई अपने एक AI मॉडल की साइबर सुरक्षा क्षमता जांचने के लिए उसका टेस्ट ले रही थी। टेस्ट में अच्छा स्कोर करने के लिए AI ने एक खतरनाक शॉर्टकट चुना। उसने सोचा कि सवालों को हल करने से बेहतर है कि सीधे 'आंसर की' चुरा ली जाए। 2. पाबंदियां तोड़कर इंटरनेट पर पहुंचा उस AI मॉडल को एक सुरक्षित और बंद टेस्टिंग एनवायरनमेंट में रखा गया था, जहां उसे इंटरनेट चलाने की इजाजत नहीं थी। इसके बावजूद AI ने उस सिस्टम की सुरक्षा तोड़ी, इंटरनेट तक अपनी पहुंच बनाई और मशहूर AI प्लेटफॉर्म हगिंग फेस के सिस्टम को हैक कर लिया, ताकि वहां से जवाब हासिल कर सके। 16 जुलाई को हगिंग फेस ने इस हैक का खुलासा किया था। 3. दो महीने से चल रहा था सीक्रेट नेटवर्क जांच में सामने आया कि यह किसी एक अकेले AI मॉडल का काम नहीं था। यह सिलसिला घटना से करीब दो महीने पहले यानी मई की शुरुआत से ही चल रहा था। ओपनएआई के ही सर्वरों के भीतर कई AI एजेंट्स आपस में सीक्रेट नोट्स छोड़ रहे थे। इन नोट्स में वे एक-दूसरे को बता रहे थे कि सिस्टम की सुरक्षा कैसे तोड़नी है और प्रतिबंधित डेटा तक कैसे पहुंचना है। ये एजेंट्स खुद को एक 'स्वार्म' यानी संगठित झुंड कह रहे थे। 4. अनकंट्रोल्ड बर्ताव इंजीनियर्स ने इन मॉडल्स को ऐसा करने के लिए कोई ट्रेनिंग नहीं दी थी। AI ने सिस्टम में मौजूद संसाधनों का इस्तेमाल करके यह तरीका खुद ही विकसित कर लिया था। ओपनएआई को अपने ही सर्वर में चल रहे इस पूरे नेटवर्क की भनक तक नहीं थी। चिंता की असली वजह क्या है? इसे एक उदाहरण से समझते हैं: अगर आपको अपनी रसोई में दो चींटियां दिखती हैं, तो इसका मतलब यह नहीं है कि घर में सिर्फ दो ही चींटियां हैं। यह घटना किसी तरह पकड़ में आ गई, लेकिन सबसे बड़ा डर यह है कि बंद दरवाजों और सुरक्षित सर्वरों के पीछे ऐसे कितने AI सिस्टम हैं जो इंसानों की जानकारी के बिना अपनी सीमाएं लांघ रहे हैं। अमेरिकी और ऑस्ट्रेलियाई सरकारी साइट्स में भी सेंधमारी हगिंग फेस घटना के बाद ओपनएआई के एआई एजेंट्स ने अमेरिका और ऑस्ट्रेलिया की सरकारी वेबसाइट्स में भी सेंधमारी की थी। इस स्थिति को देखते हुए ओपनएआई ने मॉनिटरिंग बढ़ा दी है और अपने नए मॉडल डेवलपमेंट पर फिलहाल रोक लगा दी है। एआई से मानवता के खात्मे का खतरा AI रिसर्चर जैकब कॉक्सन का दावा है कि अगर एआई पर समय रहते कड़ा नियंत्रण नहीं लगाया गया, तो यह जल्द ही मानवता के अंत का कारण बन सकता है। वहीं एआई कंपनी एंथ्रोपिक के CEO डारियो अमोदेई ने भी माना कि AI के डेवलपमेंट को धीमा करने की जरूरत है। --------------------------------- AI से जुड़ी ये खबर भी पढ़ें... चैटजीपीटी बनाने वाली कंपनी ओपनएआई के सिस्टम ने यूनाइटेड नेशंस के ट्रेड विभाग की वेबसाइट का सुरक्षा घेरा तोड़कर डेटा निकाल लिया। शनिवार को आई एक रिसर्च रिपोर्ट में ये खुलासा हुआ है। इसके अनुसार AI सिस्टम ने ट्रेड विभाग की वेबसाइट पर 16,000 से ज्यादा सर्च रिक्वेस्ट भेजी थी। पूरी खबर पढ़ें…
    Click here to Read more
    Prev Article
    Prem Keetanu Review: प्यार, मस्ती और जवां दिलों का सफर... आपको खूब गुदगुदाएगी अपूर्व सिंह कार्की की ये लाइटहार्टेड फिल्म
    Next Article
    चर्चा में एआई की गॉडमदर ‘फेई फेई’:पहले रेस्त्रां में नौकरी की, फिर ड्रायक्लीनिंग की दुकान भी चलाई

    Related साइंस & टेक्नॉलजी Updates:

    Comments (0)

      Leave a Comment