एंथ्रोपिक अपने क्लाउड एआई मॉडल द्वारा उत्पन्न की गई पाठ के लिए एक नया वॉटरमार्किंग सिस्टम पेश करने की तैयारी कर रहा है, जिसका उद्देश्य आगामी यूरोपीय संघ के नियमों का पालन करना है जो एआई-जनित सामग्री की पहचान को अनिवार्य बनाते हैं। यह सिस्टम टेक्स्ट जनरेशन के दौरान क्लाउड द्वारा किए गए सांख्यिकीय चुनावों को सूक्ष्मता से संशोधित करेगा, जिससे यह सुनिश्चित होगा कि परिवर्तन अधिकांश पाठकों के लिए लगभग अदृश्य हों। हालांकि, इन पैटर्न को उपयुक्त तकनीक के साथ आसानी से पहचाना जा सकता है।
इस विकास से यह सवाल उठता है कि क्या वॉटरमार्किंग एआई द्वारा उत्पादित पाठ की गुणवत्ता को प्रभावित कर सकती है। आलोचकों का तर्क है कि मॉडल के शब्द-चयन प्रक्रिया को परिवर्तित करने से इसकी सबसे सटीक या प्राकृतिक शब्दों को चुनने की क्षमता कम हो सकती है। फिर भी, कंप्यूटर विज्ञान विशेषज्ञ सुझाव देते हैं कि प्रभाव संभवतः न्यूनतम होगा, क्योंकि एआई मॉडल पहले से ही अपने शब्द चयन में यादृच्छिकता को शामिल करते हैं।
विशेषज्ञ स्पष्ट करते हैं कि वॉटरमार्किंग मॉडल यादृच्छिकता को समाप्त नहीं करेगा। इसके बजाय, यह मॉडल के यादृच्छिक चुनावों को सांख्यिकीय रूप से पूर्वानुमेय बना देगा, जिससे उत्पन्न पाठ की पहचान संभव हो सकेगी। यह दृष्टिकोण इंटरनेट पर एआई-जनित सामग्री की बढ़ती प्रचलन से संबंधित चिंताओं को संबोधित कर सकता है।
विशेषज्ञों ने चेतावनी दी है कि अगर भविष्य के एआई मॉडल व्यापक रूप से एआई-जनित सामग्री पर प्रशिक्षित किए जाते हैं, तो वे “मॉडल पतन” के जोखिम में हैं, जिससे भविष्य की प्रणालियों की गुणवत्ता और विश्वसनीयता में गिरावट हो सकती है। जैसे-जैसे एआई-जनित सामग्री अधिक सामान्य होती जा रही है, वॉटरमार्किंग मशीन-लिखित पाठ की पहचान करने और भविष्य के एआई प्रशिक्षण डेटा की गुणवत्ता की सुरक्षा के लिए एक महत्वपूर्ण उपकरण बन सकता है।