برچسب هوش مصنوعی اینستاگرام دوباره دردسرساز شد
اینستاگرام بار دیگر در تشخیص محتوای تولیدشده با هوش مصنوعی دچار مشکل شده است؛ این بار برخی تصاویر واقعی کاربران با برچسب «محتوای هوش مصنوعی» نمایش داده می‌شوند، در حالی که شماری از تصاویر واقعاً ساخته‌شده با هوش مصنوعی بدون هیچ برچسبی منتشر می‌شوند.
به گزارش توسعه برند؛ برچسب‌های هوش مصنوعی در اینستاگرام قرار است به کاربران کمک کنند تا محتوای مصنوعی را در نگاه اول از تصاویر واقعی تشخیص دهند. با این حال، طی هفته‌های اخیر گزارش‌های متعددی از سوی کاربران منتشر شده که نشان می‌دهد سیستم تشخیص محتوای هوش مصنوعی متا در برخی موارد عملکرد قابل اعتمادی ندارد.
بر اساس گزارش کاربران، اینستاگرام گاهی تصاویری را که بدون استفاده از ابزارهای مولد هوش مصنوعی ساخته یا ویرایش شده‌اند، با برچسب «AI Content» مشخص می‌کند. در مقابل، برخی تصاویر واقعاً تولیدشده با هوش مصنوعی بدون برچسب باقی می‌مانند؛ مسئله‌ای که می‌تواند اعتماد کاربران به سازوکار تشخیص محتوای این پلتفرم را کاهش دهد.
حتی حذف پس‌زمینه هم می‌تواند تصویر را هوش مصنوعی نشان دهد
به نظر می‌رسد یکی از عوامل ایجاد این مشکل، نحوه تشخیص ویرایش‌های انجام‌شده روی تصاویر است. تعدادی از کاربران گفته‌اند استفاده از ابزارهایی مانند حذف پس‌زمینه در کانوا (Canva) باعث شده تصویر نهایی در اینستاگرام به‌عنوان محتوای تولیدشده با هوش مصنوعی شناسایی شود.
یکی از کاربران در تردز درباره این مشکل نوشته است که اینستاگرام «هر بار که حذف پس‌زمینه انجام می‌شود»، تصویر را با برچسب هوش مصنوعی مشخص می‌کند. کاربر دیگری نیز گفته است پس از استفاده از کانوا برای حذف تنها یک لکه کوچک از عکس، کل تصویر در اینستاگرام به‌عنوان محتوای هوش مصنوعی علامت‌گذاری شده است.
این در حالی است که در برخی موارد، حتی مشخص نیست چه تغییری باعث فعال شدن سیستم تشخیص اینستاگرام شده است.
این اولین بار نیست که متا عکس‌های واقعی را اشتباه شناسایی می‌کند
مشکل فعلی یادآور اتفاق مشابهی است که در سال ۲۰۲۴ برای عکاسان اینستاگرام رخ داد. در آن زمان نیز قابلیت «Made by AI» تصاویر واقعی را به اشتباه به‌عنوان محتوای ساخته‌شده با هوش مصنوعی برچسب‌گذاری می‌کرد.
متا در همان سال اعلام کرده بود که برای تشخیص استفاده از هوش مصنوعی، فراداده‌های IPTC و C2PA را بررسی می‌کند. این اطلاعات می‌توانند تا حد قابل قبولی مشخص کنند که یک تصویر با ابزارهای مولد هوش مصنوعی ایجاد یا دستکاری شده است.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
با این حال، روش دقیق تشخیص متا همواره کاملاً شفاف نبوده است. در سال ۲۰۲۴ گزارش‌هایی منتشر شد که نشان می‌داد سیستم تشخیص، حتی تصاویری را که تنها با ابزارهای مبتنی بر هوش مصنوعی به‌صورت جزئی ویرایش یا روتوش شده بودند نیز به‌عنوان تصویر ساخته‌شده با هوش مصنوعی شناسایی می‌کرد؛ حتی در شرایطی که نتیجه نهایی عملاً همان عکس اصلی باقی مانده بود.
مشکل اصلی، اعتماد به برچسب‌های هوش مصنوعی است
هدف از برچسب‌های هوش مصنوعی، افزایش شفافیت در شبکه‌های اجتماعی و کمک به کاربران برای تشخیص محتوای مصنوعی است. اما اگر یک سیستم هم تصاویر واقعی را به اشتباه برچسب‌گذاری کند و هم تصاویر تولیدشده با هوش مصنوعی را شناسایی نکند، خودِ برچسب‌ها نیز اعتبارشان را از دست می‌دهند.
تکرار این مشکل برای دومین بار نشان می‌دهد که تشخیص منشأ تصاویر، به‌ویژه در شرایطی که ابزارهای ویرایش و تولید تصویر هوش مصنوعی با ابزارهای معمول طراحی و ویرایش ترکیب شده‌اند، همچنان برای متا یک چالش جدی محسوب می‌شود.
این هوش مصنوعی هم اینقدر قوی شده خیلی وقتا نمیشه تشخیص داد چی با هوش مصنوعی ساخته شده چی واقعی مگه واقعا الان دیگه کدهای مخفی در تصاویر یا ویدیو ها داشته باشن.. یا الگوهای خاص.