आफैँले निर्माण गरेको ‘भ्वाइस क्लोनिङ टुल’ सार्वजनिक गर्न किन डराइरहेको छ ओपनएआई

ओपनएआईले मान्छेको आवाज नक्कल गर्ने एउटा उपकरण (भ्वाइस क्लोनिङ टुल) को हालै अनावरण गरेको छ। तर यस टुललाई तत्कालै सार्वजनिक गर्न भने कम्पनी हिचकिचाइरहेको छ।

यस टुलले कुनै पनि व्यक्तिको आवाजलाई दुरुस्तै नक्कल गरेर १५ सेकेन्डको भ्वाइस क्लिप बनाउन सकिने बताइएको छ। रिपोर्टका अनुसार ओपनएआईको यो भ्वाइस इन्जिन टुल २०२२ मै विकसित गरिएको थियो र अहिले यसलाई च्याट जीपीटीमा भ्वाइस कमान्ड गर्नका लागि प्रयोग भइरहेको छ।

यो उपकरणले आवाज नक्कल गर्नुका साथै त्यसलाई भावनात्मक र यथार्थपरक बनाउन सक्ने ओपनएआईले शुक्रबार प्रकाशित गरेको आफ्नो ब्लग पोस्टमा दाबी गरेको छ।

तर चुनावी वर्षमा सम्भावित यसको दुरुपयोगको चिन्ताका कारण सार्वजनिक विमोचन गर्न भने रोकिएको छ। यो वर्ष विश्वका ८० भन्दा बढी देशमा चुनाव हुन गइरहेको छ। यस्तोमा आवाजको नक्कल गरेर चुनाव प्रभावित पार्ने जोखिम हुनसक्ने भन्दै ओपनएआईले तत्काल यो टुललाई सार्वजनिक नगरेको जनाएको छ।

"यस सेन्थेटिक आवाजलाई जिम्मेवार बनाउन हामी सतर्कता अपनाइरहेका छौँ," उक्त ब्लगमा भनिएको छ, "मानिसको आवाजसँग मिल्दोजुल्दो जनरेटिङ भाषणमा गम्भीर जोखिमहरू छन्, जुन विशेष गरी चुनावी वर्षमा सबैभन्दा माथि हुन्छ भन्ने कुरा हामी बुझ्छौँ।"

ओपन एआईले यस विषयमा अमेरिकी सरकार, मिडिया, मनोरञ्जन, शिक्षा, नागरिक समाज र अन्तर्राष्ट्रिय साझेदारहरूसँग विमर्श गरेर उनीहरूको प्रतिक्रिया समावेश गर्ने जनाएको छ। साथै कम्पनीले प्रख्यात व्यक्तित्वहरूसँग मिल्दोजुल्दो आवाजहरूको सिर्जनालाई रोक्ने उपायहरूका साथ मात्र यसलाई सार्वजनिक गर्ने उल्लेख गरेको छ।

यस वर्षको चुनावअघि एआईको दुरुपयोग प्रमुख चिन्ताको रूपमा देखा परेको छ। मेक्सिको, दक्षिण अफ्रिका र संयुक्त राज्य अमेरिकालगायत देशका मतदाताहरू २०२४ मा चुनावमा जाँदैछन्, जसलाई इतिहासकै सबैभन्दा ठूलो निर्वाचन वर्ष भनिएको छ।

मतदाताहरूमा एआईको प्रभाव पहिले नै धेरै चुनावहरूमा प्रयोग भइसकेको छ। पाकिस्तानका जेलमा रहेका पूर्व प्रधानमन्त्री इमरान खानले फेब्रुअरीमा सम्पन्न देशको संसदीय चुनावको दौडमा समर्थकहरूलाई अपील गर्न एआई उत्पन्न भाषणहरू प्रयोग गरेका थिए।

गत जनवरीमा अमेरिकी राष्ट्रपति पदका उम्मेदवार डीन फिलिप्सका लागि एक राजनीतिक अपरेटिभले अमेरिकी राष्ट्रपति जो बाइडेनको नक्कल गर्दै एक रोबोकल राखे जसले मतदाताहरूलाई न्यू ह्याम्पसायरको डेमोक्र्याटिक पार्टी प्राइमरीमा आफ्नो मतदान नगर्न आग्रह गरेको थियो।

आफ्नो उत्पादनको यस्तो दुरुपयोग नहोस् भनेर ओपनएआईले भ्वाइस इन्जिन परीक्षण गर्ने आफ्ना साझेदारहरूका लागि धेरै सुरक्षा उपायहरू लागू गरेको बताएको छ। 

"भ्वाइस इन्जिनद्वारा उत्पन्न कुनै पनि अडियोको उत्पत्ति ट्रेस गर्न वाटरमार्किङ गर्ने, साथै यो कसरी प्रयोग भइरहेको छ भनेर सक्रिय निगरानी गरिनेछ," कम्पनीले भनेको छ।