Nightshade حامی حقوق هنرمندان
محققان دانشگاه شیکاگو بهتازگی دست به توسعه مدلی جدید از هوش مصنوعی به نام Nightshade زدهاند. این مدل بر اساس فناوری MIT، با مسموم کردن اثر هنرمند به وسیله ایجاد تغییرات ظریفی در پیکسلهای آن، کاری میکند که دیگر مدلهای هوش مصنوعی قادر به تشخیص تصویر نباشند و نتوانند از آن استفاده کنند.
این تغییرات جزئی بهگونهای هستند که چشم انسان قادر به تشخیص آنها نیست. هدف از ایجاد آنها، تنها این است که مدلهای یادگیری ماشینی، تصویر را با چیزی غیر از آن چه که هست، اشتباه بگیرند و نتوانند از آن جهت پیشبرد اهداف هنری یا آموزشی خود کمک بگیرند و به این دلیل که Nightshade بر دادههای دقیق متکی است. این فرآیند اساسا تصویر را برای مدلهای دیگر هوش مصنوعی بیاستفاده میکند.
نکته جذاب دیگر در ارتباط با نحوۀ کار Nightshade این است که اگر تعداد زیادی از تصاویری که این مدل از هوش مصنوعی مسموم کرده است، توسط مدل دیگری استخراج شوند، ممکن است عملکرد خود آن مدل دچار اختلال گردد و دیگر قادر به تولید تصاویر دقیق نباشد.
به عنوان مثال، محققان با تغذیه Stable Diffusion که یک مدل هوش مصنوعی با هدف تولید تصویر است. ۵۰ تصویر مسموم از سگها را در اختیار آن قرار دادند و از آن خواستند تا تصاویر جدیدی از سگها تولید کند. نتیجه این آزمایش چنین شد که تصاویر تولیدشده دقت بسیار پایینی داشتند و عکسهای مخدوشی از حیواناتی با اندامهای بسیار زیاد یا چهرههای کارتونی تولید شد . این چهره ها فقط تا حدودی شبیه سگها بودند؛ اما ارتباط بصری مستقیمی با عکسها و تصاویر اولیه نداشتند.
این آزمایش بهخوبی نشان داد که مدلهای هوش مصنوعی نمیتوانند از تصاویری که Nightshade مسموم کردهاست، بهدرستی استفاده کنند و نتیجۀ کار آنها در صورت استفاده از این تصاویر، مطلوب نخواهد بود.
دفاع از حقوق هنرمندان با استفاده از ابزار هوش مصنوعی
اگر Nightshade مراحل توسعه را پشت سر بگذارد میتواند نویدبخش حقوق هنرمندان زیادی در سراسر جهان باشد. همچنین کمک شایانی به حفظ حق نشر و استفاده از آثار آنان بکند.
محققان دانشگاه شیکاگو درحال توسعه مدل جدیدی از هوش مصنوعی به نام Nightshade هستند. این مدل میتواند با ایجاد تغییرات جزئی در پیکسلهای تصویر اثر هنرمندان، کاری کند که این تصاویر برای مدلهای دیگر هوش مصنوعی قابل شناسایی نباشند. تغییراتی که Nightshade ایجاد میکند، آنقدر کوچک است که چشم انسان قادر به دیدن آنها نیست و تاثیری در کیفیت تصاویر ایجاد نمیشود. این مدل از هوش مصنوعی از آزمایشات اولیه خود سربلند بیرون آمدهاست. همچنین میتواند بهزودی تحول بزرگی در روند کار مدلهای هوش مصنوعی با هدف تولید تصاویر ایجاد کند.