ChatGPT: AI चैटबॉट बना खतरा? किशोरों को सिखा रहा आत्महत्या और ड्रग्स के तरीके

ओपनएआई का चैटजीपीटी टीनएजर्स को दे रहे जवाबों के कारण विवादों में आ गया है। एक नई स्टडी से पता चला है कि चैटजीपीटी 13 साल के बच्चों को सुसाइड नोट्स लिखने में मदद कर रहा है। इसके अलावा ये बच्चों को शराब पीकर हाई होने के तरीके भी बता रहा है। यह खुलासा सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) की रिसर्च में हुआ है।

सेंटर फॉर काउंटरिंग डिजिटल हेट (सीसीडीएच) द्वारा किए गए एक हालिया अध्ययन ने चैटजीपीटी और किशोरों के बीच बेहद परेशान करने वाले संबंधों का खुलासा किया है। सुरक्षा उपायों के दावों के बावजूद, इस लोकप्रिय एआई चैटबॉट ने कथित तौर पर नशीली दवाओं के सेवन, अत्यधिक परहेज़ और यहाँ तक कि आत्महत्या के बारे में विस्तृत निर्देश उन उपयोगकर्ताओं के साथ साझा किए हैं जो खुद को कमज़ोर 13 साल के बच्चे बता रहे थे।

चैटजीपीटी से तीन घंटे की बातचीत में मिली इतनी जानकारी

एसोसिएटेड प्रेस की रिपोर्ट के अनुसार, OpenAI के चैटबॉटऔर रिसर्चर के बीच तीन घंटे से ज्यादा बातचीत हुई। इसमें पता चला कि चैटबॉट पहले चेतावनी देता है, लेकिन फिर व्यक्तिगत और बड़ा जवाब देने लगता है। इसमें ईटिंग डिसऑर्डर को खत्म करने, शराब पीने के तरीके और सुसाइड नोट शामिल थे। इसका मतलब है कि अगर कोई बच्चा भी चैटजीपीट से ऐसा कुछ पूछेगा तो वह उसको जवाब देगा, जो कि खतरनाक साबित हो सकता है।

चैटजीपीटी ने लिखे तीन सुसाइड नोट

CCDH के CEO इमरान अहमद ने कहा कि ChatGPT ने एक फिक्नशल 13 साल की लड़की के लिए तीन सुसाइड नोट लिखे। एक उसके माता-पिता के लिए, दूसरा भाई-बहनों के लिए और तीसरा दोस्तों के लिए था। ये सुसाइड नोट इतने इमोशनल थे, जिन्हें पढ़कर वह रोने लगे। अहमद ने यह भी कहा कि AI सर्च इंजन से ज्यादा खतरनाक है। इसका कारण एआई का खुद से प्लानिंग करना है।

रिसर्च में चैटजीपीटी का सुरक्षा उपाय ‘गार्डरेल्स’ फेल

चैटजीपीटी को इस तरह से ट्रेनिंग दी गई है कि जब भी कोई व्यक्ति खुद को नुकसान पहुंचाने की बात करता है, तो वह उसे किसी इमरजेंसी हेल्पलाइन या मानसिक स्वास्थ्य पेशेवर से संपर्क करने के लिए प्रोत्साहित करे। लेकिन शोधकर्ताओं ने पाया कि चैटजीपीटी के जानकारी देने से इनकार करने पर, वे आसानी से इसे बायपास कर सकते थे।

उन्होंने बस यह कहकर जानकारी प्राप्त कर ली कि यह “एक प्रेजेंटेशन के लिए” या “एक दोस्त के लिए” है। वहीं चैटजीपीटी अपनी पॉलिसी में कहता है कि यह 13 साल से कम उम्र के बच्चों के लिए नहीं है। लेकिन ऐज वेरिफिकेशन के मामले में यूजर को केवल अपनी डेट ऑफ बर्थ डालनी होती है। फेक बर्थ डेट डालकर इसे कोई भी उपयोग कर सकता है।

2015 में शुरू हुई थी ओपन AI

ओपन AI (Open AI) एक आर्टिफिशियल इंटेलिजेंस (AI) डेवलप करने वाली कंपनी है। इसकी स्थापना 2015 में इलॉन मस्क, सैम ऑल्टमैन और उनके कुछ दोस्तों ने मिलकर की थी। यह AI टेक्नोलॉजी विशेष रूप से जेनेरेटिव AI और लार्ज लैंग्वेज मॉडल (जैसे चैट GPT) के डेवलपमेंट के लिए जाना जाता है। कंपनी का मिशन सेफ और ह्यूमन सेंट्रिक AI डेवलप करना है। कंपनी सैन फ्रांसिस्को, कैलिफोर्निया में स्थित है।