Melayu
Alat Baharu untuk Melindungi Karya Seniman daripada Model AI Generatif: Nightshade
Alat baharu yang dipanggil Nightshade boleh melindungi ciptaan artis daripada pertindihan tanpa kebenaran oleh model AI generatif yang menjana imej daripada karya seni sedia ada. Data yang tercemar menjadikan model AI tidak mampu menghasilkan karya seni sebagai tindak balas kepada pertanyaan tertentu. Nightshade ialah mekanisme pertahanan diri yang hanya menjejaskan model AI apabila ia cuba menelan data yang tercemar, dan bukannya melancarkan serangan langsung ke atasnya.
Seperti yang dilaporkan oleh Decrypt, aplikasi baru yang dikenali sebagai Nightshade berpotensi untuk membantu artis dalam melindungi ciptaan mereka daripada pengekstrakan tanpa kebenaran oleh model AI generatif. Berdasarkan repositori luas karya seni sedia ada, model ini, yang telah mendapat minat meluas tahun ini, mampu menjana perwakilan visual dengan keupayaan yang menakjubkan. Dengan memasukkan data yang terjejas ke dalam penjana imej, Nightshade merosakkan data yang diperlukan untuk melatih model AI melalui serangan keracunan data yang dioptimumkan dan khusus.
Keracunan telah lama diiktiraf sebagai vektor serangan yang berpotensi dalam model pembelajaran mesin, menurut Profesor Ben Zhao. Walau bagaimanapun, Nightshade membezakan dirinya dengan meracuni model AI generatif, satu pencapaian yang sebelum ini dianggap tidak boleh dicapai kerana skala besar model sedemikian. Alat ini secara selektif menumpukan pada pertanyaan tertentu, seperti yang meminta penciptaan imej yang menggambarkan anjing, kuda atau naga, berbanding dengan menyasarkan keseluruhan model. Metodologi ini menjadikan model tidak mampu menghasilkan output artistik.
Teks dan imej yang terkandung dalam data yang tercemar mesti direka bentuk untuk menipu pengesan penjajaran automatik dan pemeriksa manusia untuk mengelakkan pengesanan. Walaupun Nightshade kini merupakan bukti konsep, Zhao yakin bahawa model AI boleh runtuh dan kehilangan semua nilai jika bilangan artis yang mencukupi melaksanakan kapsul racun ini.
Walaupun tiada tindakan diperlukan untuk menentang fungsi Nightshade penjana imej AI , ia menjadi aktif apabila model AI berusaha untuk memproses data di mana Nightshade telah digabungkan. Zhao menyamakannya dengan pertahanan diri atau pagar dawai berduri yang dihiasi dengan petua toksik yang ditujukan kepada pembangun AI yang mengabaikan arahan jangan mengikis dan permintaan memilih keluar daripada serangan sebenar.
Rebat bonus untuk membantu para pelabur berkembang dalam dunia perdagangan!
