एडल्ट वीडियो बनाकर विवादों में Elon Musk का AI, ‘Spicy Mode’ से बढ़ी चिंता

सैन फ्रांसिस्को:Elon Musk की AI कंपनी xAI ने अपने AI प्लेटफॉर्म Grok Imagine में एक नया ‘Spicy Mode’ जोड़ा है, जो टेक्स्ट इनपुट के आधार पर एडल्ट थीम वाले वीडियो जनरेट कर सकता है। यह फीचर X (पूर्व में ट्विटर) के iOS ऐप पर सिर्फ Premium Plus और SuperGrok सब्सक्राइबर्स के लिए उपलब्ध है। इसकी कीमत करीब 700 रुपये प्रति माह है।

Spicy Mode को लेकर सोशल मीडिया और टेक्नोलॉजी जगत में हड़कंप मच गया है क्योंकि यह केवल टेक्स्ट के आधार पर 15 सेकंड तक के वीडियो तैयार करता है, जिनमें नेचुरल ऑडियो और बोल्ड विजुअल्स शामिल होते हैं। हालांकि कंपनी का दावा है कि फीचर पर कंटेंट फिल्टर लगे हैं, लेकिन यूजर्स के अनुसार कुछ जनरेटेड सीन इन सीमाओं को पार कर रहे हैं।

इस फीचर का ज़िक्र पहली बार xAI के कर्मचारी Mati Roy ने X (ट्विटर) पर एक पोस्ट में किया था। उन्होंने कहा था कि AI टूल नग्नता से संबंधित कंटेंट भी बना सकता है। बाद में ये पोस्ट डिलीट कर दी गई, लेकिन तब तक यह वायरल हो चुकी थी।

टेक्नोलॉजी एक्सपर्ट्स का कहना है कि यह फीचर जनरेटिव AI की संभावनाओं को दिखाने के साथ-साथ इसके खतरे भी उजागर करता है। खासकर बच्चों, युवाओं और डिजिटल प्लेटफॉर्म्स पर इसकी मॉडरेशन को लेकर सवाल उठ रहे हैं।

वीडियो जनरेशन की प्रक्रिया में पहले AI कई इमेज बनाता है, जिन्हें बाद में एनिमेटेड वीडियो में बदला जाता है। हालांकि इन वीडियो में अब भी “Uncanny Valley” जैसा प्रभाव दिखता है, यानी इंसानी चेहरे असली नहीं, बल्कि कार्टून जैसे लगते हैं।

फिलहाल इस टूल की पहुंच सीमित है, लेकिन टेक्नोलॉजी एक्सपर्ट्स ने चेतावनी दी है कि अगर समय रहते कंट्रोल नहीं किया गया, तो यह AI टूल समाज में गंभीर डिजिटल नैतिकता संकट पैदा कर सकता है।