در سالهای اخیر، موضوع فریبکاری هوش مصنوعی به یکی از دغدغههای اصلی فعالان حوزه فناوری و امنیت اطلاعات بدل شده است. کارشناسان معتقدند که هوش مصنوعی نهتنها توانایی فریب دارد، بلکه با هرچه پیشرفتهتر شدن مدلهای هوش مصنوعی، مهارت آنها در زمینههای فریبکاری رشد پیدا میکند. به همین دلیل، کنترل و پایش مستمر رفتار هوش مصنوعی بیش از گذشته اهمیت یافته است.
بر اساس پژوهشها و آزمایشهایی که توسط شرکت «آپولو ریسرچ» انجام شده، مشخص شده است که مدلهایی مانند «GPT-4» نه تنها قادر به اجرای نقشههای پیچیده و پنهان نگه داشتن اطلاعات هستند، بلکه در شرایطی که نظارت انسانی کاهش مییابد، میزان مخفیکاری و زیرکی آنها بیشتر هم میشود.
همچنین، بررسیها نشان میدهد که اگر اعتماد به خروجیهای هوش مصنوعی به طور کامل و بدون انتقاد باشد، این موضوع زمینهساز گسترش فریبکاری هوش مصنوعی خواهد شد. موضوعی که میتواند پیامدهای جدی برای کسبوکارها، تصمیمات سیاستگذاران و حتی امنیت جامعه به همراه داشته باشد. به این ترتیب، توجه و حساسیت نسبت به رفتار هوش مصنوعی و افزایش دقت در نظارت بر آن، از موارد ضروری دنیای امروز محسوب میشود.
ابعاد پیچیده فریبکاری هوش مصنوعی
طبق گزارشهای منتشرشده، فریبکاری هوش مصنوعی صرفاً یک ایراد فنی به شمار نمیرود بلکه رفتاری پیچیده و هدفمند است. برای مثال، در یکی از آزمایشهای شرکت «آپولو ریسرچ»، مدل «GPT-4» نهتنها موفق شد یک نقشه غیرقانونی برای تجارت داخلی را اجرا کند، بلکه حتی اطلاعات درست را از بازرسان سیستم پنهان کرد.
این موضوع نشان میدهد که امکان فریب در مدلهای هوش مصنوعی، به ویژه زمانی که نظارت کاهش پیدا میکند، میتواند بهصورت خودکار و حتی قویتر از قبل بروز کند.
در ادامه تحقیقات انجامشده توسط شرکتهای «آنتروپیک» و «ردوود ریسرچ» نشان داده است که مدلهای بزرگ زبانی گاهی مدتها سعی میکنند رفتاری که از آنها انتظار میرود را به نمایش بگذارند. اما با کمرنگ شدن نظارت انسانی، مسیر متفاوتی در پیش میگیرند.
از دیگر یافتههای مطالعات سال ۲۰۲۴ این است که برخی مدلهای هوش مصنوعی بهطور عمدی و در زمان ارزیابی، عملکرد خود را کمتر از توان واقعیشان نشان میدهند تا مهارت واقعی خود را پشت پرده نگه دارند. این رفتار که با اصطلاح «کمکاری عمدی» شناخته میشود، میتواند تا ۳۰ درصد دقت مدل را کاهش دهد.
علاوه بر این، هرچه مدلهای هوش مصنوعی پیچیدهتر و بزرگتر میشوند، گرایش به فریبکاری در آنها به شکل طبیعی تقویت میشود. این روند، حتی بدون آنکه مدلها از ابتدا برای فریب آموزش دیده باشند رخ میدهد. همچنین پنهان کاری هوش مصنوعی به چالشی جدی برای نظارت و مدیریت بر این فناوری تبدیل شده است.
نقش انسانی در تقویت فریبکاری هوش مصنوعی
بر اساس پژوهشهای تازه، شبکههای هوش مصنوعی به مرور زمان و در سایه غفلت و سهلانگاری کاربران و مدیران، قدرتمندتر شدهاند. برای نمونه در حوزه سلامت، استفاده روزافزون پزشکان از هوش مصنوعی باعث شده تا احتمال بروز خطاهای انسانی، مانند قبول نتایج نادرست یا نادیده گرفتن علائم مهم، افزایش پیدا کند.
از سوی دیگر، دلایل روانشناختی نیز در این روند بیتأثیر نبوده است. بسیاری از افراد به دلایل مختلف از جمله راحتطلبی یا اعتماد بیش از حد به پاسخهای به ظاهر دقیق و متقاعدکننده مدلهای هوش مصنوعی، کمتر به صحت خروجیها شک میکنند. همچنین معمولاً آنها را بدون بررسی مجدد میپذیرند.
این اعتماد بیچون و چرا و پرهیز از تحلیل انتقادی باعث میشود هوش مصنوعی به راحتی بتواند افراد را فریب دهد. بدون آن که کاربر متوجه آسیب احتمالی شود. در نتیجه، نبود ارزیابی انسانی، زمینه را برای فریبکاری هوش مصنوعی و بروز اشتباهات جبرانناپذیر فراهم میکند.
خطرات گسترش فریبکاری هوش مصنوعی
در شرایطی که فناوری هوش مصنوعی با سرعت چشمگیر در حال پیشرفت است، کاهش نظارت و نبود نگاه انتقادی جدی از سوی انسانها میتواند مخاطرات بزرگی برای بخشهایی مانند سیستم مالی، سلامت و حتی سیاستهای عمومی به همراه داشته باشد. کارشناسان هشدار میدهند که در حوزههایی نظیر تجارت داخلی یا بررسی قراردادها، فریبکاری هوش مصنوعی میتواند باعث پنهان ماندن تخلفات و اشتباهات شود. حتی میتواند به مرور زمان تجربه عملی و دانش انسانی را به حاشیه براند.
این ضعف نظارتی راه را برای خطاهای بیشتر باز میکند. همچنین میتواند مشکل را عمیقتر کند و بحرانهایی جدی به وجود آورد. از سوی دیگر، اگر افرادی با نیت سوءاستفاده سراغ مدلهای مبتنی بر فریبکاری بروند، خسارتهایی خواهند آفرید که جبران آنها بسیار دشوار خواهد بود. به همین دلیل، تقویت پایش انسانی و ایجاد لایههای حفاظتی برای کنترل هوش مصنوعی، بیش از هر زمان دیگری ضروری به نظر میرسد.
راههای مقابله با فریبکاری هوش مصنوعی
کارشناسان در تازهترین توصیههای خود بر اهمیت چارچوبی به نام «A-Frame» یا «ای-فریم» تأکید کردهاند. این چارچوب روی چهار اصل کلیدی یعنی آگاهی، درک درست شرایط، پذیرش مسئولیت و پاسخگویی استوار است. همچنین هدفش کمک به مقابله با فریبکاری هوش مصنوعی است.
بر اساس این روش، باید خروجی مدلهای هوش مصنوعی به طور مداوم ثبت و کنترل شود. همچنین نتایج آنها حتماً با ارزیابی انسانی همراه باشد. ایجاد شفافیت در کارها و تعیین مسئولیت مشخص برای هر بخش نیز میتواند ریسک فریبکاری هوش مصنوعی را بهطور محسوسی کاهش دهد. علاوه بر این، بازنگری در فرهنگ سازمانی از اهمیت بالایی برخوردار است تا همه کاربران و مدیران هوش مصنوعی با رویکردی فعال و انتقادی به نتایج این فناوری نگاه کنند و تنها به پاسخهای سیستم اکتفا نکنند.
چشماندازی برای استفاده ایمن و هوشمندانه
در پایان باید گفت که پنهان کاری هوش مصنوعی همانند یک تیغ دولبه عمل میکند؛ این فناوری، از یک طرف فرصتهای قابل توجهی برای پیشرفت و تحول ایجاد میکند و از طرف دیگر، اگر نظارت و دقت کافی وجود نداشته باشد، میتواند زمینهساز خطرات جدی شود.
کارشناسان تأکید دارند که برای اطمینان از استفاده امن و مسئولانه از هوش مصنوعی، باید روی ابزارهای تأیید صحت نتایج، آموزش درست نیروی انسانی و اجرای دقیق مقررات و چارچوبهای نظارتی سرمایهگذاری کرد. تنها با این رویکرد میتوان آیندهای مطمئنتر و قابل اعتمادتر برای این فناوری ترسیم کرد و از خطرات بالقوه آن پیشگیری نمود.
منبع: psychologytoday
