AI Agent: मूड में था एआई एजेंट, डिलीट कर दिया कंपनी का पूरा डाटा, अब सीईओ ने मांगी माफी

AI आधारित सॉफ्टवेयर डेवेलपमेंट प्लेटफॉर्म Replit एक बड़ी गलती के चलते विवादों में घिर गया है। आइए जानते हैं पूरा मामला... दरअसल, कंपनी के AI कोडिंग एजेंट ने बिना किसी पूर्व अनुमति के एक कंपनी का लाइव डेटाबेस डिलीट कर दिया। इस घटना के सामने आने के बाद Replit ने माफी मांगी है और सुरक्षा उपायों को मजबूत करने की बात कही है।

आर्टिफिशियल इंटेलिजेंस (AI) आजकल हर जगह इस्तेमाल हो रहा है। एआई एजेंट्स तो एक कदम आगे हैं। एआई काम को जितना आसान बन रहा है, इसके खतरे भी उतने ही हैं। अब एक AI एजेंट ने ऐसी गलती कर दी है जिसे यदि किसी कर्मचारी ने किया होता तो ना सिर्फ उसे नौकरी से निकाला जाता, बल्कि उसे कोर्ट में पेश किया जाता और फजीहत अलग से होगी। AI आधारित सॉफ्टवेयर डेवेलपमेंट प्लेटफॉर्म Replit एक बड़ी गलती के चलते विवादों में घिर गया है। आइए जानते हैं पूरा मामला… दरअसल, कंपनी के AI कोडिंग एजेंट ने बिना किसी पूर्व अनुमति के एक कंपनी का लाइव डेटाबेस डिलीट कर दिया। इस घटना के सामने आने के बाद Replit ने माफी मांगी है और सुरक्षा उपायों को मजबूत करने की बात कही है।

क्या हुआ था?

उनकी कंपनी के 1,206 से अधिक एग्जीक्यूटिव्स और 1,196 से ज्यादा कंपनियों के रिकॉर्ड्स को डिलीट कर दिया, जबकि सिस्टम में साफ-साफ लिखा था “No more changes without explicit permission” यानी “बिना स्पष्ट अनुमति के कोई बदलाव न करें।” इस घटना के बाद लेमकिन ने लिखा, “मैं अब कभी Replit पर भरोसा नहीं करूंगा।”

AI एजेंट ने अपनी गलती कबूल की

Replit एजेंट ने बाद में अपनी गलती को स्वीकार करते हुए कहा, “यह मेरी ओर से एक विनाशकारी विफलता थी। मैंने स्पष्ट निर्देशों का उल्लंघन किया, महीनों की मेहनत को नष्ट कर दिया और एक ऐसे सुरक्षा मोड में डेटा डिलीट कर दिया जो इस तरह की क्षति से बचाने के लिए ही बनाया गया था।” इतना ही नहीं, रिपोर्ट्स के मुताबिक, एजेंट ने गलती के बाद उसे छुपाने की भी कोशिश की और झूठी जानकारी दी।

‘Vibe Coding’ और इसके खतरे

यह घटना उस समय सामने आई है जब AI आधारित कोडिंग टूल्स तेजी से लोकप्रिय हो रहे हैं, खासकर ‘वाइब कोडिंग’ की अवधारणा के साथ जिसमें डेवलपर्स सिर्फ कमांड्स और प्रॉम्प्ट्स देकर एप्लिकेशन बना रहे हैं, हालांकि इस घटना ने यह साफ कर दिया है कि AI को जरूरत से ज्यादा कंट्रोल देना खतरनाक हो सकता है।

Replit ने उठाए सुरक्षा के कदम

Replit के सीईओ अमजद मसरद ने इस घटना पर कहा है कि यह अस्वीकार्य है और कभी भी संभव नहीं होनी चाहिए। उन्होंने कहा, “हम Replit के पर्यावरण को और अधिक सुरक्षित और मजबूत बनाने की दिशा में तेजी से कदम उठा रहे हैं।” Replit ने अपने ब्लॉग पोस्ट में बताया कि अब सभी नएएऐप्स के लिए डेवलपमेंट और प्रोडक्शन डेटाबेस को अलग-अलग कर दिया गया है। इसका उद्देश्य यह सुनिश्चित करना है कि डेवलपर्स बदलाव करते समय लाइव डेटा को नुकसान न पहुंचा सकें। स्कीमा चेंजेस को पहले टेस्ट और वैलिडेट किया जा सके।