‘Deepfakes’ वर नियंत्रण ठेवण्यासाठी Meta चा मोठा निर्णय

मुंबई, दि. ७ (एमएमसी न्यूज नेटवर्क) : सध्या इंटरनेटवर डीपफेक स्कॅमने धुमाकुळ घातला आहे. काही दिवसांपूर्वीच सचिन तेंडूलकरची अशाच एका डीपफेक व्हिडीओद्वारे फसवणूक करण्यात आली होती. आतापर्यंत कित्येक सेलिब्रिटींचे आक्षेपार्ह डीपफेक फोटो सोशल मीडियावर शेअर झाले आहेत. केवळ सेलिब्रिटींनाच नाही, तर सामान्य नागरिकांना देखील या तंत्रज्ञानापासून मोठा धोका आहे. खोट्या फोटोंच्या माध्यमातून कुणाचीही फसवणूक केली जाऊ शकते. त्यामुळे असे फोटो ओळखता येणं गरजेचं झालं आहे. मेटाने आता या दृष्टीने पावलं उचलली असून, ते आपल्या सर्व सोशल मीडिया प्लॅटफॉर्मवरील एआय-जनरेटेड फोटोंना लेबल लावण्याच्या तयारीत आहेत.

यामुळे फेसबुक, इन्स्टाग्राम किंवा थ्रेड्सवर देखील जर कोणी एआय-जनरेटेड फोटो पोस्ट केला; तर त्यावर ‘एआय जनरेटेड’ (AI Generated) असं स्पष्टपणे लिहिलेलं दिसेल. यामुळे खरे आणि खोटे फोटो ओळखणं सोपं जाणार आहे. मेटाने म्हटलं आहे की इतर अ‍ॅप्स वापरून तयार केलेले एआय-ऑडिओ किंवा एआय-व्हिडिओ डिटेक्ट करण्याचं फीचर अद्याप आपल्याकडे नाही. मात्र मेटाने असं फीचर लाँच केलं आहे, ज्यामुळे पोस्ट करणाऱ्या व्यक्तीला व्हिडिओ किंवा ऑडिओ एआय-जनरेटेड आहे का हे सांगता येणार आहे.

मेटाचे ग्लोबल अफेअर्स प्रेसिडेंट निक क्लेग म्हणाले, की इतर फोटोंबाबत आम्ही इंडस्ट्री पार्टनर्ससोबत चर्चा करत आहोत. एआय जनरेटेड कंटेंटमध्ये एक समान धागा असावा, ज्यामुळे त्यांना ओळखणं सोपं जाईल. “यासाठी काही कॉमन स्टँडर्ड्स लागू करणं गरजेचं आहे, आणि यासाठी आम्ही इंडस्ट्रीमधील इतर मुख्य कंपन्यांसोबत मिळून काम करत आहोत”, असं ते म्हणाले. (Ai tools)

मेटा स्वतःच्या आर्टिफिशिअल इंटेलिजन्स टूलने तयार केलल्या फोटोंबाबत ही पॉलिसी आधीपासूनच फॉलो करत आहे. ‘मेटा एआय’ (Meta AI) वापरुन तयार केलेले फोटो जर फेसबुक किंवा इन्स्टावर शेअर केले, तर त्यावर ‘इमॅजिन्ड विथ एआय’ (Imagined with AI) असं लिहिलेलं दिसून येतं. अर्थात, हे फीचर सध्या इतर एआय टूल्स वापरून तयार केलेल्या फोटोंवर लागू होत नाही.

मेटाने म्हटलं आहे की हे फीचर सुरू करण्याची सगळ्यात मोठी अडचण इतर कंपन्या आहेत. गुगल, ओपन एआय, मायक्रोसॉफ्ट, अ‍ॅडोब, मिडजर्नी, शटरस्टॉक अशा एआय टूल्स असणाऱ्या कंपन्यांनी आपल्या फोटोंमध्ये मेटाडेटा जोडणं गरजेचं आहे. यानंतरच फेसबुक, इन्स्टा आणि थ्रेड्सवर हे एआय-जनरेटेड फोटो डिटेक्स करणं शक्य होणार आहे.

SL/KA/SL

7 Feb. 2024