Một công cụ mới để bảo vệ tác phẩm của nghệ sĩ khỏi các mô hình AI sáng tạo: Nightshade

Theo báo cáo của Decrypt, một ứng dụng mới có tên Nightshade có khả năng hỗ trợ các nghệ sĩ bảo vệ các tác phẩm của họ khỏi việc khai thác trái phép bởi các mô hình AI tổng quát. Dựa trên kho tác phẩm nghệ thuật có sẵn khổng lồ, những mô hình này đã thu hút được sự quan tâm rộng rãi trong năm nay và có khả năng tạo ra các hình ảnh trực quan với khả năng đáng kinh ngạc. Bằng cách đưa dữ liệu bị xâm phạm vào trình tạo hình ảnh, Nightshade làm hỏng dữ liệu cần thiết để huấn luyện các mô hình AI thông qua các cuộc tấn công đầu độc dữ liệu cụ thể theo thời gian và được tối ưu hóa.

Theo Giáo sư Ben Zhao, ngộ độc từ lâu đã được công nhận là một vectơ tấn công tiềm năng trong các mô hình học máy. Tuy nhiên, Nightshade tự tạo sự khác biệt bằng cách đầu độc các mô hình AI tổng hợp, một thành tựu mà trước đây được cho là không thể đạt được do quy mô khổng lồ của các mô hình như vậy. Công cụ này tập trung có chọn lọc vào các truy vấn cụ thể, chẳng hạn như những truy vấn yêu cầu tạo hình ảnh mô tả chó, ngựa hoặc rồng, thay vì nhắm mục tiêu vào toàn bộ mô hình. Phương pháp này làm cho mô hình không có khả năng tạo ra sản phẩm nghệ thuật.

Văn bản và hình ảnh chứa trong dữ liệu bị nhiễm độc phải được thiết kế để đánh lừa cả máy dò căn chỉnh tự động và người kiểm tra nhằm tránh bị phát hiện. Trong khi Nightshade hiện là một bằng chứng về khái niệm, Zhao tin rằng mô hình AI có thể sụp đổ và mất hết giá trị nếu có đủ số lượng nghệ sĩ thực hiện những viên nang độc này.

Mặc dù không cần thực hiện hành động nào để chống lại chức năng Nightshade của trình tạo hình ảnh AI , nhưng nó sẽ hoạt động khi mô hình AI cố gắng xử lý dữ liệu trong đó Nightshade đã được tích hợp. Zhao ví nó như một sự tự vệ hoặc một hàng rào thép gai được trang trí bằng những lời khuyên độc hại nhắm vào các nhà phát triển AI, những người coi thường các chỉ thị không cạo và yêu cầu từ chối hơn là một cuộc tấn công thực sự.