เครื่องมือใหม่ในการปกป้องผลงานของศิลปินจากโมเดล AI เจนเนอเรชั่น: Nightshade

ตามที่รายงานโดย Decrypt แอปพลิเคชั่นใหม่ที่เรียกว่า Nightshade มีศักยภาพที่จะช่วยศิลปินในการปกป้องผลงานสร้างสรรค์ของพวกเขาจากการดึงข้อมูลโดยไม่ได้รับอนุญาตโดยโมเดล AI ทั่วไป จากคลังงานศิลปะที่มีอยู่มากมาย โมเดลเหล่านี้ซึ่งได้รับความสนใจอย่างกว้างขวางในปีนี้ สามารถสร้างการนำเสนอด้วยภาพด้วยความสามารถอันน่าทึ่ง ด้วยการป้อนข้อมูลที่ถูกบุกรุกเข้าไปในเครื่องสร้างภาพ Nightshade จะทำให้ข้อมูลที่จำเป็นในการฝึกโมเดล AI เสียหายผ่านการโจมตีแบบพิษต่อข้อมูลที่ได้รับการปรับปรุงให้เหมาะสมและเฉพาะเจาะจง

พิษได้รับการยอมรับมานานแล้วว่าเป็นเวกเตอร์การโจมตีที่เป็นไปได้ในโมเดลการเรียนรู้ของเครื่อง ตามที่ศาสตราจารย์ Ben Zhao กล่าว อย่างไรก็ตาม Nightshade สร้างความโดดเด่นให้กับตัวเองด้วยการวางยาพิษโมเดล AI กำเนิด ซึ่งเป็นความสำเร็จที่ก่อนหน้านี้ถือว่าไม่สามารถบรรลุได้เนื่องจากโมเดลดังกล่าวมีขนาดมหึมา เครื่องมือนี้เน้นไปที่คำถามเฉพาะเจาะจง เช่น ข้อความที่ร้องขอให้สร้างรูปภาพที่แสดงภาพสุนัข ม้า หรือมังกร แทนที่จะกำหนดเป้าหมายไปที่โมเดลทั้งหมด วิธีการนี้ทำให้แบบจำลองไม่สามารถสร้างผลงานทางศิลปะได้

ข้อความและรูปภาพที่อยู่ในข้อมูลที่ปนเปื้อนจะต้องได้รับการออกแบบให้หลอกลวงทั้งเครื่องตรวจจับการจัดตำแหน่งอัตโนมัติและผู้ตรวจสอบที่เป็นมนุษย์เพื่อหลีกเลี่ยงการตรวจจับ แม้ว่า Nightshade จะเป็นข้อพิสูจน์ถึงแนวคิดในปัจจุบัน แต่ Zhao ก็เชื่อมั่นว่าโมเดล AI อาจพังทลายลงและสูญเสียคุณค่าทั้งหมดหากศิลปินจำนวนเพียงพอใช้แคปซูลพิษเหล่านี้

แม้ว่าไม่จำเป็นต้องดำเนินการใดๆ เพื่อตอบโต้ฟังก์ชัน Nightshade ของ เครื่องสร้างภาพ AI แต่จะเริ่มทำงานเมื่อโมเดล AI พยายามประมวลผลข้อมูลที่รวม Nightshade ไว้ด้วย Zhao เปรียบเสมือนการป้องกันตัวเองหรือรั้วลวดหนามที่ประดับประดาด้วยเคล็ดลับที่เป็นพิษมุ่งเป้าไปที่นักพัฒนา AI ที่ไม่คำนึงถึงคำสั่งห้ามขูดและเลือกไม่รับคำขอมากกว่าการโจมตีจริง