होगी फर्जी और असली इमेज की पहचान
AI द्वारा जनरेट इमेज और वास्तविक फोटो के बीच अंतर करना कई बार काफी मुश्किल हो जाता है. लेकिन अब इसका सॉल्यूशन गूगल लाया है. इस टूल का नाम SynthID है. इसे पब्लिकली भी कर दिया है.
SynthID टूल की मदद से AI जनरेटेड फोटो पर लगे वॉटरमार्क को पहचाना जा सकता है. हालांकि ये वॉटर मार्क इंसानी आंखों द्वारा नहीं पहचाना जा सकेगा.
इस टूल को गूगल डीप माइंड टीम ने तैयार किया है. इस टीम के सदस्य डेमिस हसाबिस ने बताया कि हर एक पिक्सल में वॉटर मार्क को लगाया जाएगा. इस प्रोसेस में फोटो की क्वालिटी पर कोई फर्क नहीं पड़ेगा.
डेमिस हसाबिस ने बताया कि SynthID एक एक नया सिस्टम है और ब्लॉग पर भी इसके बारे में बहुत ही सीमित जानकारी दी है. हसाबिस ने बताया कि अगर ज्यादा डिटेल्स शेयर करेंगे तो स्कैमर्स और फ्रॉड करने वाला इसका तोड़ निकाल सकते हैं.
गूगल का यह टूल कई लोगों के लिए उपयोगी साबित होगा. लेकिन अभी ये नहीं पता है कि यह सभी AI जनरेटेड इमेज की पहचान करेगा या फिर गूगल के AI द्वारा जनरेट होने वाली फोटो को ही पहचानेगा. या फिर भविष्य में AI जनरेटेड फोटो और वीडियो के लिए कोई स्टैंडर्ड सेट होंगे.
भारत समेत पूरी दुनिया में कई फ्रॉड के मामले सामने आ रहे हैं. कुछ केस तो में स्कैमर्स AI टूल्स की मदद से नकली फेस और वॉयस जनरेट की जाती है और मासूम लोगों को धोखा दिया जा रहा है.
दरअसल, हाल ही में केरल से एक मामला सामने आया था, जहां एक व्यक्ति को अनजान नंबर से वीडियो कॉल आई है. सामने वाली महिला की आवाज और चेहरा उसके ऑफिस दोस्त के जैसी लगी, जिसमें AI का यूज़ किया था.
इस कॉल के दौरान महिला ने कुछ रुपयों की जरूरत बताई और तुरंत अकाउंट में ट्रांसफर करने को कहा था.इसके बाद कुछ और रुपयों की मांग की तब व्यक्ति को समझ आया कि यह एक स्कैम है.
इसका एक उदाहरण बीते महीने महिंद्रा ग्रुप के चेयरपर्सन आनंद महिंद्रा के साथ भी हुआ था. जहां उन्होंने एक AI जनरेटेड फोटो को शेयर किया था और इसको लेकर चिंता जाहिर की थी.
दरअसल, आनंद महिंद्रा की AI द्वारा तैयार की गई एक AI फोटो सामने आई थी, जिसमें उनके कपड़ों पर होली के रंग थे. इस फोटो को उन्होंने ट्वीट भी किया था.