برند ChatGPT و چالش‌های جدید در ایجاد فاکتورهای جعلی با هوش مصنوعی
برند ChatGPT با معرفی ویژگی جدید تولید تصویر، به کاربران این امکان را داده است که فاکتورهای جعلی ایجاد کنند، که این موضوع می‌تواند فرصت‌هایی برای کلاهبرداری در دنیای دیجیتال فراهم کند.
به گزارش توسعه برند، این ماه، ChatGPT یک ژنراتور تصویر جدید را در قالب مدل 4o معرفی کرد که در تولید متن داخل تصاویر بسیار بهتر شده است. کاربران در حال حاضر از این ابزار برای تولید فاکتورهای رستوران جعلی استفاده می‌کنند، که احتمالاً به مجموعه وسیعی از ابزارهای جعل دیجیتال AI که توسط کلاهبرداران استفاده می‌شود، افزوده خواهد شد.
چندین کاربر از جمله Deedy Das، سرمایه‌گذار و پست‌کننده فعال در شبکه‌های اجتماعی، عکسی از یک فاکتور جعلی از یک رستوران واقعی در سانفرانسیسکو را منتشر کرد که او گفته بود با مدل 4o ساخته شده است.
این ابزار جدید ChatGPT می‌تواند برای تولید فاکتورهای جعلی استفاده شود.
در دنیای واقعی، بسیاری از جریان‌های تأییدیه به “تصاویر واقعی” به‌عنوان مدرک وابسته هستند. این دوران به پایان رسیده است.
برخی دیگر نیز توانستند نتایج مشابهی تولید کنند، از جمله نمونه‌ای که روی آن لکه‌های غذا یا نوشیدنی ایجاد شده تا واقعی‌تر به نظر برسد:
کاربری به نام Michael Gofman تلاش کرد تا فاکتوری که بیش از حد کامل به نظر می‌رسید را اصلاح کند تا واقعی‌تر به نظر برسد و آن را در توییتر منتشر کرد.
مثال واقعی‌تری که TechCrunch پیدا کرد، مربوط به فرانسه بود که در آن یک کاربر در LinkedIn فاکتور جعلی برای یک زنجیره رستورانی محلی منتشر کرد.
با این حال، در آزمایش TechCrunch چند علامت قابل توجه برای شناسایی جعلی بودن فاکتور وجود داشت. برای مثال، در این فاکتورها به جای نقطه، از ویرگول در مجموع استفاده شده بود و محاسبات نادرست بودند. مدل‌های زبان مصنوعی هنوز در انجام ریاضیات پایه مشکل دارند، که این چندان تعجب‌آور نیست.
اما برای یک کلاهبردار، اصلاح سریع برخی از اعداد با استفاده از نرم‌افزار ویرایش عکس یا دستورات دقیق‌تر امکان‌پذیر خواهد بود.
واضح است که تولید آسان فاکتورهای جعلی می‌تواند فرصت‌های زیادی برای کلاهبرداری ایجاد کند. به راحتی می‌توان تصور کرد که این تکنولوژی توسط افراد بدخواه برای دریافت “بازپرداخت” هزینه‌های جعلی استفاده شود.
سخنگوی OpenAI، Taya Christianson، به TechCrunch گفت که تمامی تصاویری که تولید می‌شوند، شامل متاداده‌ای هستند که نشان می‌دهند این تصاویر توسط ChatGPT ساخته شده‌اند. او اضافه کرد که OpenAI “اقدام” می‌کند زمانی که کاربران سیاست‌های استفاده را نقض می‌کنند و اینکه همواره در حال یادگیری از استفاده‌های واقعی و بازخوردها است.
ChatGPT به کاربران اجازه می‌دهد فاکتورهای جعلی تولید کنند و آیا این با سیاست‌های استفاده OpenAI (که کلاهبرداری را ممنوع می‌کند) هم‌خوانی دارد.
به گزارش تک‌کرانچ، Christianson پاسخ داد که هدف OpenAI این است که به کاربران آزادی خلاقانه بیشتری بدهد و فاکتورهای جعلی AI می‌توانند در موقعیت‌های غیرکلاهبردارانه مانند “آموزش سواد مالی” یا ایجاد هنر و تبلیغات محصول اصلی استفاده شوند.
