Google डीपमाइंड जेमिनी और वीओ की एआई-जनरेटेड सामग्री को वॉटरमार्क करने के लिए सिंथआईडी का उपयोग करेगा

गूगल बड़ी संख्या में बनाया कृत्रिम होशियारी (एआई)-आधारित घोषणाएँ मंगलवार देर रात अपने I/O 2024 मुख्य भाषण सत्र के दौरान। इनमें नए AI मॉडल, मौजूदा फाउंडेशन मॉडल में अपग्रेड, Google के उत्पादों में AI सुविधाओं का एकीकरण और बहुत कुछ शामिल हैं। तकनीकी दिग्गज ने एआई सुरक्षा पर भी ध्यान केंद्रित किया और एआई-जनरेटेड सामग्री, जिसे सिंथआईडी कहा जाता है, के लिए अपनी मूल वॉटरमार्किंग तकनीक के उपयोग का विस्तार किया। यह नया टूलकिट अब उत्पन्न टेक्स्ट के लिए वॉटरमार्क एम्बेड करेगा मिथुन राशि ऐप और वेब क्लाइंट, और वीओ द्वारा निर्मित वीडियो।

SynthID पहले था अनावरण किया गूगल द्वारा डीपमाइंड अगस्त 2023 में एक बीटा प्रोजेक्ट के रूप में जिसका उद्देश्य एआई-जनित सामग्री को सही ढंग से लेबल करना है। ऐसे समाधान की आवश्यकता उन उदाहरणों के बढ़ने के कारण महसूस की गई जहां इन कृत्रिम रूप से निर्मित मीडिया को वास्तविक के रूप में साझा किया गया था। इनका उपयोग गलत सूचना फैलाने और फ़िशिंग जैसे साइबर अपराध करने के लिए किया गया था। टेक दिग्गज ने पहली बार इस तकनीक का उपयोग नवंबर 2023 में किया था, जब इसका उपयोग इसके लिरिया मॉडल के माध्यम से बनाए गए एआई-जनरेटेड ऑडियो को वॉटरमार्क करने के लिए किया गया था। टूलकिट ने ऑडियो को अदृश्य और फिर भी पता लगाने योग्य बनाने के लिए इसमें एक तरंग के रूप में वॉटरमार्क जोड़े।

अब, Google टेक्स्ट और वीडियो जेनरेशन को शामिल करने के लिए SynthID के उपयोग का विस्तार कर रहा है। यह अब जेमिनी ऐप और वेबसाइट का उपयोग करके उत्पन्न टेक्स्ट को वॉटरमार्क करेगा। इसके लिए टूलकिट जनरेशन प्रोसेस को ही टारगेट करेगा। प्रत्येक पाठ-आधारित AI मॉडल प्रशिक्षित करने के लिए टोकन का उपयोग करता है – जो शब्द, शब्दांश या वाक्यांश हो सकते हैं। प्रशिक्षण प्रक्रिया में इन टोकन के उपयोग के प्रवाह को समझना, या सबसे सुसंगत प्रतिक्रिया उत्पन्न करने के लिए टोकन को जिस क्रम का पालन करना चाहिए उसे समझना भी शामिल है।

SynthID “टोकन उत्पन्न होने की संभावना को संशोधित करके पीढ़ी के बिंदु पर टोकन वितरण में अतिरिक्त जानकारी” पेश करता है। इस तरह यह जेनरेट किए गए टेक्स्ट के ब्लॉक में कुछ शब्दों को एक नंबर निर्दिष्ट करता है। यह पता लगाने पर कि पाठ उत्पन्न करने के लिए एआई का उपयोग किया गया था या नहीं, यह यह निर्धारित करने के लिए समायोजित संभाव्यता स्कोर के विरुद्ध स्कोर की जांच करता है कि क्या स्रोत एआई मॉडल हो सकता है। डीपमाइंड ने एक में प्रकाश डाला डाक यह तकनीक तब उपयोगी होती है जब एआई लंबे रचनात्मक पाठ उत्पन्न करता है क्योंकि संभाव्यता मॉडल के लिए यह जांचना आसान होता है कि इसे कैसे बनाया गया था। हालाँकि, छोटी तथ्यात्मक प्रतिक्रियाओं के लिए, पता लगाना उतना सटीक नहीं हो सकता है।

कंपनी हाल ही में पेश किए गए वीओ के एआई-जनरेटेड वीडियो के लिए सिंथआईडी का भी विस्तार कर रही है। Google ने कहा कि प्रौद्योगिकी वॉटरमार्क को सीधे प्रत्येक वीडियो फ्रेम के पिक्सल में एम्बेड करेगी जो मानव आंखों के लिए अदृश्य होगा लेकिन जब एक डिटेक्शन सिस्टम का उपयोग किया जाएगा तो दिखाई देगा।

आने वाले महीनों में, Google अपने रिस्पॉन्सिबल जेनरेटिव AI टूलकिट के माध्यम से SynthID टेक्स्ट वॉटरमार्किंग को ओपन-सोर्स करने की योजना बना रहा है। यह टेक्स्ट वॉटरमार्किंग तकनीक की व्याख्या करने वाला एक विस्तृत शोध पत्र भी प्रकाशित करेगा।