कलाकारों के काम को जेनरेटिव एआई मॉडल से बचाने के लिए एक नया टूल: नाइटशेड

जैसा कि डिक्रिप्ट द्वारा रिपोर्ट किया गया है, नाइटशेड के नाम से जाना जाने वाला एक नया एप्लिकेशन जेनरेटर एआई मॉडल द्वारा अनधिकृत निष्कर्षण के खिलाफ कलाकारों को उनकी रचनाओं को सुरक्षित रखने में सहायता करने की क्षमता रखता है। पहले से मौजूद कलाकृति के विशाल भंडार के आधार पर, ये मॉडल, जिन्होंने इस साल व्यापक रुचि हासिल की है, आश्चर्यजनक क्षमताओं के साथ दृश्य प्रतिनिधित्व उत्पन्न करने में सक्षम हैं। एक छवि जनरेटर में समझौता किए गए डेटा को फीड करके, नाइटशेड अनुकूलित, शीघ्र-विशिष्ट डेटा विषाक्तता हमलों के माध्यम से एआई मॉडल को प्रशिक्षित करने के लिए आवश्यक डेटा को दूषित कर देता है।

प्रोफेसर बेन झाओ के अनुसार, मशीन लर्निंग मॉडल में जहर को लंबे समय से एक संभावित आक्रमण वेक्टर के रूप में मान्यता दी गई है। हालाँकि, नाइटशेड ने जेनरेटिव एआई मॉडल को जहर देकर खुद को अलग कर लिया है, एक उपलब्धि जिसे पहले ऐसे मॉडलों के विशाल पैमाने के कारण अप्राप्य माना जाता था। उपकरण विशिष्ट प्रश्नों पर चुनिंदा रूप से ध्यान केंद्रित करता है, जैसे कि पूरे मॉडल को लक्षित करने के विपरीत, कुत्ते, घोड़े या ड्रैगन को चित्रित करने वाली छवि के निर्माण का अनुरोध करना। यह कार्यप्रणाली मॉडल को कलात्मक आउटपुट देने में असमर्थ बना देती है।

दागी डेटा के भीतर मौजूद पाठ और छवि को पहचान से बचने के लिए स्वचालित संरेखण डिटेक्टरों और मानव निरीक्षकों दोनों को धोखा देने के लिए डिज़ाइन किया जाना चाहिए। जबकि नाइटशेड वर्तमान में अवधारणा का प्रमाण है, झाओ को विश्वास है कि यदि पर्याप्त संख्या में कलाकार इन जहर कैप्सूलों को लागू करते हैं तो एआई मॉडल ध्वस्त हो सकता है और सभी मूल्य खो सकता है।

हालाँकि AI छवि जनरेटर के नाइटशेड फ़ंक्शन का मुकाबला करने के लिए कोई कार्रवाई आवश्यक नहीं है, यह तब सक्रिय हो जाता है जब AI मॉडल उस डेटा को संसाधित करने का प्रयास करता है जिसमें नाइटशेड को शामिल किया गया है। झाओ ने इसकी तुलना आत्मरक्षा या एआई डेवलपर्स पर निर्देशित विषाक्त युक्तियों से सजी कांटेदार तार की बाड़ से की, जो वास्तविक हमले के बजाय स्क्रैप न करने के निर्देशों और ऑप्ट-आउट अनुरोधों की उपेक्षा करते हैं।