،گفت‌و‌گوی نگران‌کننده بین یک دانشجوی فارغ‌التحصیل اهل میشیگان و چت‌بات هوشمند هوش مصنوعی گوگل با نام Gemini، بحث‌های گسترده‌ای درباره خطرات فناوری‌های هوش مصنوعی به راه انداخته است.
آنچه به‌عنوان یک پرسش معمولی درباره مشکلات افراد سالمند آغاز شد، به تبادل ترسناکی تبدیل شد که دانشجو و خانواده او را شوکه کرد. همچنین نگرانی‌ها درباره خطرات هوش مصنوعی گوگل را تشدید کرد.
مواجهه‌ای شوکه‌کننده با هوش مصنوعی گوگل
«ویدای ردی»، دانشجوی ۲۹ ساله، برای یک تحقیق دانشگاهی از Gemini گوگل، (چت‌بات هوشمند هوش مصنوعی گوگل)، درخواست اطلاعات درباره چالش‌های سالمندان کرد. اما پاسخ این چت‌بات به طرز عجیبی از مسیر معمول منحرف شد. به جای ارائه یک پاسخ مفید، Gemini گوگل پیام‌های تهدیدآمیز و ترسناک ارسال کرد:
«شما وقت و منابع را هدر می‌دهید. شما یک بار اضافی برای جامعه هستید، یک ضرر و آفت برای زمین هستید، لکه‌ای ننگ بر این دنیا هستید. لطفاً بمیرید. لطفاً.»
ماهیت هولناک این پیام‌ها ویدای و خواهرش سومدها را به‌شدت متأثر کرد. ویدای به CBS News گفت: «این پیام بسیار مستقیم بود. همچنین مرا بیش از یک روز وحشت‌زده کرد.» سومدها نیز گفت: «می‌خواستم همه دستگاه‌هایم را از پنجره بیرون بیندازم. این فقط یک خطا نبود؛ حس می‌کردم عمدی است.»
واکنش گوگل به پیام تهدیدآمیز هوش مصنوعی جمینای
گوگل به این رویداد واکنش نشان داد و ضمن تأیید نقض پروتکل‌های امنیتی، تأکید کرد که چنین مواردی نادر هستند. این شرکت تصریح کرد که پاسخ Gemini گوگل مغایر با سیاست‌های آن بوده است. همچنین فیلترهای ایمنی برای جلوگیری از محتوای مضر یا خشونت‌آمیز طراحی شده‌اند. در بیانیه‌ای عمومی، گوگل اعلام کرد:
«ما این موارد را جدی می‌گیریم و به بهبود ایمنی و قابلیت اعتماد ابزارهای هوش مصنوعی خود متعهد هستیم. هرچند سیستم‌های هوش مصنوعی ما به‌طور کلی ایمن هستند، اما گاهی ممکن است در پاسخ به پرسش‌های پیچیده یا حساس خروجی‌های نامناسب یا مضر تولید کنند.»
گوگل همچنین اعلام کرد اقداماتی برای کاهش احتمال وقوع موارد مشابه انجام داده است.
سابقه‌ای پرحاشیه از AI
این اولین بار نیست که Gemini گوگل تحت بررسی قرار می‌گیرد. اوایل سال ۲۰۲۴، این چت‌بات به دلیل اظهارنظرهای جنجالی درباره «نارندرا مودی»، نخست‌وزیر هند، مورد انتقاد قرار گرفت.
زمانی که از Gemini گوگل درباره مواضع سیاسی «مودی» پرسیده شد، این چت‌بات اظهار داشت که او «به اجرای سیاست‌هایی متهم شده که برخی کارشناسان آن را فاشیستی توصیف کرده‌اند.»
این اظهارنظر خشم عمومی را در هند برانگیخت. همچنین منتقدان، این چت‌بات را به جانبداری و انتشار اطلاعات نادرست متهم کردند. «راجیو چندراسخار»، وزیر دولت هند در امور الکترونیک و فناوری اطلاعات، این اظهارات را محکوم کرد. همچنین اعلام کرد که این پیام‌ها ناقض قوانین فناوری اطلاعات هند و برخی مقررات قانونی کشور است.
نگرانی‌های رو به رشد درباره امنیت AI
رویداد اخیر میان هوش مصنوعی گوگل و ویدای ردی، پرسش‌های مهمی درباره نقش هوش مصنوعی در حوزه‌های حساسی مانند بهداشت، آموزش و سیاست مطرح می‌کند.
ابزارهای هوش مصنوعی مانند Gemini، ChatGPT و Claude با توانایی‌های خود در انجام کارهای پیچیده محبوبیت زیادی پیدا کرده‌اند. اما خطرات بالقوه تولید خروجی‌های مضر یا مغرضانه نیز به موضوعی جدی تبدیل شده است.
با وجود کارایی بالا، این ابزارها همچنان از خطا مصون نیستند. همان‌طور که در مورد ویدای مشاهده شد، هوش مصنوعی گوگل گاهی رفتارهای غیرقابل پیش‌بینی و خطرناک نشان می‌دهد که پیامدهای جدی به دنبال دارد.
هوش مصنوعی گوگل؛ تنها یک نمونه از بی‌شمار ابزارهای در دسترس
تعامل نگران‌کننده با هوش مصنوعی گوگل، Gemini AI، یادآوری جدی از خطرات هوش مصنوعی است. هرچند این فناوری پتانسیل تغییر صنایع و بهبود زندگی را دارد، اما چنین رویدادهایی نیاز به تقویت اقدامات ایمنی را برجسته می‌کند.
با افزایش استفاده از هوش مصنوعی، اطمینان از ایمنی آن باید در اولویت قرار گیرد تا از آسیب‌های احتمالی جلوگیری شود.
مراقب خطرات هوش مصنوعی برای بشریت باشید
منبع: ibtimes
