چرا دانشمندان بیش از حد به هوش مصنوعی ایمان دارند؟
دانشمندان به طور فزاینده ای از فناوری هوش مصنوعی در زمینه های مختلف استفاده می کنند. استفاده از هوش مصنوعی از ایجاد آزمایشگاههای «مستقل» که در آن رباتها و الگوریتمها برای طراحی و انجام آزمایشها با هم کار میکنند تا جایگزین کردن شرکتکنندگان انسانی در تحقیقات علوم اجتماعی با روباتها پیشرفت کرده است.
با این حال، چندین موضوع در مورد سیستم های هوش مصنوعی مطرح شده است. به عنوان مثال، هوش مصنوعی مولد مانند ChatGPT تمایل به ارائه اطلاعات نادرست یا به اصطلاح “توهم” دارد. در همین حال، عملکرد درونی سیستم های یادگیری ماشین مبهم و ناشناخته باقی می ماند.
مقاله ای با عنوان «هوش مصنوعی و توهم ادراکی در تحقیقات علمی» اخیراً در مجله Nature منتشر شده است که این نگرانی ها را برجسته می کند. به گفته نویسندگان این مقاله، محققان می توانند سیستم های هوش مصنوعی را دارای توانایی های مافوق بشری از نظر عینی، بهره وری و درک مفاهیم پیچیده بدانند. این تصور میتواند محققان را به نادیده گرفتن محدودیتهای این ابزارها سوق دهد و به طور بالقوه دامنه تحقیق را محدود کند یا درک کاربر را گمراه کند.
نویسندگان بر اهمیت ارزیابی این خطرات، به ویژه در عصر کنونی که برنامه های کاربردی هوش مصنوعی هنوز در مراحل ابتدایی خود هستند، تأکید می کنند. آنها هشدار می دهند که اگر ابزارهای هوش مصنوعی به بخشی دائمی از فرآیند تحقیق تبدیل شوند، پرداختن به این مسائل چالش برانگیزتر خواهد شد. هدف این مقاله هشدار دادن به دانشمندان است تا خطرات مرتبط با استفاده از سیستمهای هوش مصنوعی را در نظر بگیرند.
برای این استدلال ها، نویسندگان حدود ۱۰۰ مقاله را به طور جامع بررسی کردند (شامل مقالات علمی منتشر شده، مقالات در انتظار، مجموعه مقالات کنفرانس و کتاب هایی که عمدتاً در پنج سال اخیر منتشر شده اند). آنها از مقالات تحقیقاتی بررسی شده، رویکردهای متفاوتی در مورد امکانات هوش مصنوعی پیدا کردند.
برخی هوش مصنوعی را نوعی پیشگویی یا پیشگویی می دانند: محققان می بینند که ابزارهای هوش مصنوعی می توانند به طور خستگی ناپذیر مقالات علمی را بخوانند و هضم کنند و بنابراین ادبیات علمی را جامع تر از انسان ها درک کنند. در منظری دیگر، هوش مصنوعی به عنوان یک داور در نظر گرفته می شود. هم از منظر اوراکل و هم از دیدگاه قاضی، اعتقاد بر این است که هوش مصنوعی میتواند یافتههای علمی را به روشی عینیتر از انسان ارزیابی کند، زیرا کمتر احتمال دارد که از ادبیات علمی برای حمایت از یک فرضیه مورد علاقه یا به نفع خود استفاده کند. گروه های خاص در دیدگاه سوم، هوش مصنوعی نوعی ریاضیدان است. به نظر می رسد که ابزارهای هوش مصنوعی از محدودیت های ذهن انسان در تجزیه و تحلیل مجموعه داده های بزرگ و پیچیده رنج نمی برند و قادر به تجزیه و تحلیل دقیق ریاضی هستند. در مورد چهارم، هوش مصنوعی به عنوان نوعی جایگزین پیشنهاد می شود. ابزارهای هوش مصنوعی داده هایی را شبیه سازی می کنند که به دست آوردن آنها بسیار دشوار یا پیچیده است.
با این حال، نویسندگان این مقاله خطرات بالقوه این دیدگاه ها را برجسته می کنند و به عنوان مثال هشدار می دهند که محققان نباید در توهمات عمق توضیحی یا توهمات وسعت اکتشافی قرار بگیرند. آنها نسبت به اتکای بیش از حد به ابزارهای هوش مصنوعی برای تولید دانش و انجام آزمایشها هشدار میدهند و بر اهمیت حفظ یک رویکرد متعادل در تحقیق تأکید میکنند.
در پایان، به دانشمندانی که قصد استفاده از فناوری هوش مصنوعی را دارند، توصیه میشود که این خطرات را به دقت در نظر بگیرند و استراتژیهایی برای کاهش آنها اتخاذ کنند. بسیار مهم است که جامعه علمی، از جمله محققان، سرمایهگذاران، و سردبیران مجلات، نگاهی انتقادی به استفاده از هوش مصنوعی داشته باشند و اطمینان حاصل کنند که مجموعهای از دیدگاهها و روشهای متنوع در تلاشهای پژوهشی پشتیبانی میشوند. با شناخت خطرات و مزایای استفاده از هوش مصنوعی، محققان می توانند تصمیمات آگاهانه بگیرند و از دام های احتمالی در تلاش های علمی خود جلوگیری کنند.
منبع: آنا