تیکتاک ابزار مقابله با دیپفیک را برای محافظت از چهره سازندگان محتوا آزمایش کرد
تیکتاک در حال آزمایش قابلیتی جدید است که به سازندگان محتوا اجازه میدهد از استفاده غیرمجاز هوش مصنوعی از چهره و هویت دیجیتال خود مطلع شوند. این ابزار با شناسایی ویدئوهای ساختهشده با هوش مصنوعی، به کاربران امکان میدهد محتوای جعلی را مستقیماً گزارش کنند.
به گزارش توسعه برند؛ گسترش ویدئوهای ساختهشده با هوش مصنوعی، یک چالش تازه برای سازندگان محتوا در شبکههای اجتماعی ایجاد کرده است؛ چالشی که حالا تیکتاک تلاش دارد با یک ابزار جدید به آن پاسخ دهد.
این پلتفرم در حال آزمایش قابلیت «تشخیص شباهت چهره» است؛ ابزاری که میتواند محتوای تولیدشده با هوش مصنوعی را که از چهره یک سازنده محتوا بدون اجازه او استفاده کرده، شناسایی کند.
این قابلیت که توسط برخی سازندگان محتوای آمریکایی در حال آزمایش است، به صورت انتخابی فعال میشود و کاربران پس از تأیید هویت خود میتوانند از آن استفاده کنند. تیکتاک اعلام کرده این ابزار در حال حاضر تنها برای گروه محدودی از کاربران در آمریکا در دسترس قرار گرفته است.
بر اساس توضیحات این شرکت، سازندگان محتوا برای فعالسازی این ویژگی باید هویت خود را از طریق سرویس تأیید هویت Jumio احراز کنند. این فرآیند شامل گرفتن یک تصویر سلفی زنده و بررسی مدرک شناسایی است.
تیکتاک اعلام کرده اطلاعات مدارک هویتی کاربران را ذخیره نمیکند و دادههای چهره تنها برای مقایسه شباهت و شناسایی موارد احتمالی سوءاستفاده از تصویر افراد مورد استفاده قرار میگیرد.
پس از تکمیل فرآیند تأیید، سیستم تیکتاک شروع به بررسی محتوای تولیدشده با هوش مصنوعی میکند. اگر ویدئویی پیدا شود که احتمال دهد از چهره یک سازنده بدون اجازه استفاده شده است، کاربر میتواند آن محتوا یا حساب منتشرکننده را بررسی و در صورت نیاز گزارش کند.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
این اقدام تیکتاک در حالی انجام میشود که پلتفرمهای بزرگ دیگر نیز به دنبال راههایی برای مقابله با جعل هویت دیجیتال هستند. یوتیوب پیشتر ابزار مشابهی را برای برخی تولیدکنندگان محتوای بالای ۱۸ سال فعال کرده بود تا بتوانند از چهره و هویت خود در برابر محتوای جعلی محافظت کنند.
اما تفاوت مهم رویکرد تیکتاک در مدل انتخابی آن است؛ کاربران ابتدا باید خودشان درخواست استفاده از این قابلیت را بدهند و کنترل فرآیند در اختیار سازندگان محتوا باقی میماند.
این موضوع پس از افزایش نگرانیها درباره استفاده از تصاویر واقعی افراد برای تولید محتوای جعلی اهمیت بیشتری پیدا کرده است. برای مثال، برخی قابلیتهای تولید تصویر با هوش مصنوعی که به صورت پیشفرض کاربران را وارد فرآیند تولید محتوا میکردند، با واکنشهای انتقادی روبهرو شدند.
اکنون با ورود تیکتاک و یوتیوب به حوزه تشخیص شباهت چهره، به نظر میرسد حفاظت از هویت دیجیتال به یکی از خدمات ضروری شبکههای اجتماعی در عصر هوش مصنوعی تبدیل خواهد شد.
در آینده، رقابت پلتفرمهای اجتماعی تنها بر سر تولید محتوای بیشتر نخواهد بود؛ بلکه توانایی آنها در ایجاد اعتماد، محافظت از کاربران و کنترل سوءاستفادههای هوش مصنوعی نیز به یکی از معیارهای اصلی انتخاب کاربران تبدیل میشود.
