चैटजीपीटी के निर्माताओं, Open AI ने एक नया एआई मॉडल लॉन्च किया है और यह आश्चर्यजनक लग रहा है। Sora नाम की यह मॉडल सिर्फ टेक्स्ट प्रॉम्प्ट से एक मिनट का पूरा वीडियो बना सकती है। Open AI Sora ब्लॉग में लिखा है, “हम एआई को गतिमान भौतिक दुनिया को समझना और अनुकरण करना सिखा रहे हैं, जिसका लक्ष्य प्रशिक्षण मॉडल हैं जो लोगों को उन समस्याओं को हल करने में मदद करते हैं जिनके लिए वास्तविक दुनिया की बातचीत की आवश्यकता होती है।”
Open AI के सीईओ सैम ऑल्टमैन ने भी अपने X अकाउंट पर पोस्ट के माध्यम से टूल को दिखाया। “हम आपको दिखाना चाहते हैं कि Sora क्या कर सकता है, कृपया उन वीडियो के लिए कैप्शन के साथ उत्तर दें जिन्हें आप देखना चाहते हैं, और हम कुछ बनाना शुरू कर देंगे!” ऑल्टमैन ने अपनी पोस्ट में लिखा. प्लेटफ़ॉर्म पर बहुत से उपयोगकर्ताओं ने उन्हें संकेत भेजे, और उनके द्वारा साझा किए गए परिणाम बहुत यथार्थवादी लगते हैं।
एक अन्य OpenAI सदस्य ने Sora-जनरेटेड वीडियो साझा किया है और यह विश्वास करना थोड़ा कठिन है कि यह कितना वास्तविक दिखता है।
Open AI का कहना है कि Sora कई पात्रों, सटीक गतिविधियों और विस्तृत पृष्ठभूमि वाले जटिल दृश्यों का निर्माण कर सकता है। मॉडल न केवल उपयोगकर्ता के संकेतों को समझता है बल्कि यह भी व्याख्या करता है कि ये तत्व वास्तविक दुनिया के परिदृश्यों में कैसे प्रकट होते हैं। Open AI का कहना है, “मॉडल को भाषा की गहरी समझ है, जो इसे संकेतों की सटीक व्याख्या करने और जीवंत भावनाओं को व्यक्त करने वाले आकर्षक पात्रों को उत्पन्न करने में सक्षम बनाता है। Sora एक ही जेनरेट किए गए वीडियो के भीतर कई शॉट भी बना सकता है जो पात्रों और दृश्य शैली को सटीक रूप से बनाए रखता है।”
जबकि Open AI Sora मॉडल ने आज सुबह इंटरनेट पर बहुत उत्साह बढ़ाया है, लोकप्रिय यूट्यूबर मार्केस ब्राउनली उर्फ एमकेबीएचडी ने मॉडल के आसपास संभावित चिंताओं को सही ढंग से इंगित किया है। उन्होंने अपनी पोस्ट में लिखा, “इनमें से हर एक वीडियो एआई-जनरेटेड है, और अगर यह आपको थोड़ा सा भी चिंतित नहीं करता है, तो कुछ भी चिंता नहीं करेगा।”
OpenAI Sora मॉडल की क्षमता निस्संदेह इस समय प्रभावशाली प्रतीत होती है। हालाँकि, ऐसे मॉडल से सावधान रहना जो सरल पाठ संकेतों से आसानी से एक मिनट का वीडियो तैयार कर सकता है, महत्वपूर्ण है, क्योंकि इसका आसानी से दुरुपयोग किया जा सकता है। यदि आप विल स्मिथ के स्पेगेटी खाने के एआई-जनरेटेड वीडियो को याद करते हैं जो 2023 की शुरुआत में वायरल हुआ था, तो आप Sora द्वारा प्रस्तुत महत्वपूर्ण छलांग को पहचान लेंगे। एक अन्य वीडियो में स्कारलेट जोहानसन को कुछ खाते हुए दिखाया गया था। Sora अपने बेहद यथार्थवादी दिखने वाले वीडियो के साथ बड़े पैमाने पर सुधार प्रदर्शित करता है।
हालाँकि, OpenAI सुरक्षा के इर्द-गिर्द बातचीत से कतरा नहीं रहा है। कंपनी का कहना है कि Sora को Open AI के उत्पादों में जारी करने से पहले, वे कई महत्वपूर्ण सुरक्षा उपाय लागू करेंगे। इसमें रेड टीमर्स, गलत सूचना, घृणित सामग्री और पूर्वाग्रह जैसे क्षेत्रों के विशेषज्ञों के साथ सहयोग करना शामिल है, जो संभावित कमजोरियों की पहचान करने के लिए मॉडल का कठोरता से परीक्षण करेंगे। इसके अतिरिक्त, Open AI भ्रामक सामग्री का पता लगाने के लिए उपकरण विकसित करेगा, जैसे Sora द्वारा उत्पन्न वीडियो की पहचान करने में सक्षम एक डिटेक्शन क्लासिफायरियर।
OpenAI DALL·E 3 का उपयोग करने वाले अपने उत्पादों के लिए विकसित मौजूदा सुरक्षा प्रोटोकॉल का भी लाभ उठाएगा, जो Sora के लिए भी प्रासंगिक हैं। उदाहरण के लिए, Open AI उत्पाद के भीतर, Open AI का टेक्स्ट क्लासिफायर उन इनपुट संकेतों को स्क्रीन और अस्वीकार कर देगा जो उपयोग नीतियों का उल्लंघन करते हैं, जैसे कि अत्यधिक हिंसा, यौन सामग्री, घृणित छवि, या सेलिब्रिटी समानता का अनुरोध करना। कंपनी का कहना है कि उसने जेनरेट किए गए वीडियो के हर फ्रेम की समीक्षा करने के लिए मजबूत इमेज क्लासिफायर भी स्थापित किए हैं, जिससे उपयोगकर्ता की पहुंच से पहले हमारी उपयोग नीतियों का पालन सुनिश्चित होता है।
OpenAI का यह भी कहना है कि वह चिंताओं को दूर करने और इस नई तकनीक के सकारात्मक अनुप्रयोगों का पता लगाने के लिए विश्व स्तर पर नीति निर्माताओं, शिक्षकों और कलाकारों को सक्रिय रूप से शामिल कर रहा है। “हम दुनिया भर के नीति निर्माताओं, शिक्षकों और कलाकारों को उनकी चिंताओं को समझने और इस नई तकनीक के सकारात्मक उपयोग के मामलों की पहचान करने के लिए शामिल करेंगे। व्यापक शोध और परीक्षण के बावजूद, हम उन सभी लाभकारी तरीकों की भविष्यवाणी नहीं कर सकते हैं जिनसे लोग हमारी तकनीक का उपयोग करेंगे, न ही लोग हर तरह से इसका दुरुपयोग करेंगे। इसीलिए हमारा मानना है कि वास्तविक दुनिया के उपयोग से सीखना समय के साथ तेजी से सुरक्षित एआई सिस्टम बनाने और जारी करने का एक महत्वपूर्ण घटक है, “Open AI का कहना है।
वर्तमान में, Sora केवल रेड टीमर्स के लिए संभावित मुद्दों या जोखिमों के लिए महत्वपूर्ण क्षेत्रों की जांच करने के लिए उपलब्ध है। Open AI दृश्य कलाकारों, डिजाइनरों और फिल्म निर्माताओं तक पहुंच भी खोल रहा है ताकि कंपनी मॉडल को बेहतर बनाने के बारे में इनपुट इकट्ठा कर सके। ब्लॉग में लिखा है, “हम Open AI के बाहर के लोगों के साथ काम करना शुरू करने और उनसे प्रतिक्रिया प्राप्त करने के लिए और जनता को यह समझने के लिए कि एआई क्षमताएं क्या हैं, क्षितिज पर हैं, अपनी शोध प्रगति साझा कर रहे हैं।”