ونکوور: 04:06

مونترال: 07:06

تهران: 14:36

Contact Us

À propos de Média Hodhod

About Hodhod Media

  • اخبار
    • اخبار کانادا
      • اخبار سیاسی کانادا
      • اخبار اقتصادی کانادا
      • اخبار حوادث کانادا
      • اخبار مسکن کانادا
      • اخبار ورزشی کانادا
      • اخبار سلامت کانادا
    • اخبار ایران
    • اخبار جهان
    • اخبار علم و تکنولوژی
    • اخبار صنعت خودرو
    • اخبار ادب و هنر
  • هدهد هاب
    • گزارش تصویری
    • ویدیو خبر
    • اینفوگرافیک
  • درباره کانادا
    • تحصیل در کانادا
    • جاذبه‌های گردشگری کانادا
    • اخبار مهاجرت
    • اشتغال در کانادا
    • مهاجرت به کانادا
    • محیط زیست کانادا
    • زندگی در کانادا
    • رویدادهای کانادا
  • استان‌های کانادا
    • استان آلبرتا
    • استان انتاریو
    • استان بریتیش کلمبیا
    • استان ساسکاچوان
    • استان کبک
    • استان منیتوبا
    • استان نوا اسکوشیا
    • استان نورت‌وست تریتوریز
    • استان نوناووت
    • استان نیوبرانزویک
    • استان نیوفاندلند و لابرادور
    • استان یوکان
    • جزیره پرنس ادوارد
  • هدهد لایف
    • اخبار ادب و هنر
    • روانشناسی
    • غذا و نوشیدنی
    • سفر به دور دنیا
    • تناسب اندام
    • سبک زندگی
    • مد، فشن و زیبایی
  • ماهنامه
  • اخبار
    • اخبار کانادا
      • اخبار سیاسی کانادا
      • اخبار اقتصادی کانادا
      • اخبار حوادث کانادا
      • اخبار مسکن کانادا
      • اخبار ورزشی کانادا
      • اخبار سلامت کانادا
    • اخبار ایران
    • اخبار جهان
    • اخبار علم و تکنولوژی
    • اخبار صنعت خودرو
    • اخبار ادب و هنر
  • هدهد هاب
    • گزارش تصویری
    • ویدیو خبر
    • اینفوگرافیک
  • درباره کانادا
    • تحصیل در کانادا
    • جاذبه‌های گردشگری کانادا
    • اخبار مهاجرت
    • اشتغال در کانادا
    • مهاجرت به کانادا
    • محیط زیست کانادا
    • زندگی در کانادا
    • رویدادهای کانادا
  • استان‌های کانادا
    • استان آلبرتا
    • استان انتاریو
    • استان بریتیش کلمبیا
    • استان ساسکاچوان
    • استان کبک
    • استان منیتوبا
    • استان نوا اسکوشیا
    • استان نورت‌وست تریتوریز
    • استان نوناووت
    • استان نیوبرانزویک
    • استان نیوفاندلند و لابرادور
    • استان یوکان
    • جزیره پرنس ادوارد
  • هدهد لایف
    • اخبار ادب و هنر
    • روانشناسی
    • غذا و نوشیدنی
    • سفر به دور دنیا
    • تناسب اندام
    • سبک زندگی
    • مد، فشن و زیبایی
  • ماهنامه

EN    FR

  • اخبار
    • اخبار کانادا
      • اخبار سیاسی کانادا
      • اخبار اقتصادی کانادا
      • اخبار حوادث کانادا
      • اخبار مسکن کانادا
      • اخبار ورزشی کانادا
      • اخبار سلامت کانادا
    • اخبار ایران
    • اخبار جهان
    • اخبار علم و تکنولوژی
    • اخبار صنعت خودرو
    • اخبار ادب و هنر
  • هدهد هاب
    • گزارش تصویری
    • ویدیو خبر
    • اینفوگرافیک
  • درباره کانادا
    • تحصیل در کانادا
    • جاذبه‌های گردشگری کانادا
    • اخبار مهاجرت
    • اشتغال در کانادا
    • مهاجرت به کانادا
    • محیط زیست کانادا
    • زندگی در کانادا
    • رویدادهای کانادا
  • استان‌های کانادا
    • استان آلبرتا
    • استان انتاریو
    • استان بریتیش کلمبیا
    • استان ساسکاچوان
    • استان کبک
    • استان منیتوبا
    • استان نوا اسکوشیا
    • استان نورت‌وست تریتوریز
    • استان نوناووت
    • استان نیوبرانزویک
    • استان نیوفاندلند و لابرادور
    • استان یوکان
    • جزیره پرنس ادوارد
  • هدهد لایف
    • اخبار ادب و هنر
    • روانشناسی
    • غذا و نوشیدنی
    • سفر به دور دنیا
    • تناسب اندام
    • سبک زندگی
    • مد، فشن و زیبایی
  • ماهنامه
  • اخبار
    • اخبار کانادا
      • اخبار سیاسی کانادا
      • اخبار اقتصادی کانادا
      • اخبار حوادث کانادا
      • اخبار مسکن کانادا
      • اخبار ورزشی کانادا
      • اخبار سلامت کانادا
    • اخبار ایران
    • اخبار جهان
    • اخبار علم و تکنولوژی
    • اخبار صنعت خودرو
    • اخبار ادب و هنر
  • هدهد هاب
    • گزارش تصویری
    • ویدیو خبر
    • اینفوگرافیک
  • درباره کانادا
    • تحصیل در کانادا
    • جاذبه‌های گردشگری کانادا
    • اخبار مهاجرت
    • اشتغال در کانادا
    • مهاجرت به کانادا
    • محیط زیست کانادا
    • زندگی در کانادا
    • رویدادهای کانادا
  • استان‌های کانادا
    • استان آلبرتا
    • استان انتاریو
    • استان بریتیش کلمبیا
    • استان ساسکاچوان
    • استان کبک
    • استان منیتوبا
    • استان نوا اسکوشیا
    • استان نورت‌وست تریتوریز
    • استان نوناووت
    • استان نیوبرانزویک
    • استان نیوفاندلند و لابرادور
    • استان یوکان
    • جزیره پرنس ادوارد
  • هدهد لایف
    • اخبار ادب و هنر
    • روانشناسی
    • غذا و نوشیدنی
    • سفر به دور دنیا
    • تناسب اندام
    • سبک زندگی
    • مد، فشن و زیبایی
  • ماهنامه
تلاش کانادا برای اخراج یکی از مقامات سابق ایران ناکام ماند
جدایی نیکول کیدمن و کیت اربن پس از ۱۹ سال زندگی مشترک
کمتر از ۵ درصد شانس بقا برای پسر ۶ ساله آلبرتا که مفقود شده است
موج جدید حشرات قرمز و سیاه خانه‌ها را محاصره کردند!
رزمایش ارتش کانادا در قطب شمال؛ آمادگی برای رویارویی احتمالی با چین
حراج عظیم کاپشن‌های زمستانی در تورنتو: تا ۷۰٪ تخفیف در ماه آینده!
آیا فیلم «پیرپسر» از کانادا راهی اسکار می‌شود؟
نرخ باروری در کانادا به پایین‌ترین سطح خود رسیده است
محکومیت دکتر فرشاد خجسته کاشانی به ۱۱ سال زندان بدلیل شکایت ۷ بیمار
پس از فعال‌سازی مکانیسم ماشه، چه اتفاقاتی برای ایران در راه است؟
باکتری‌های کابوس‌وار همه‌جای كانادا هستند
با رکود ونکوور، ویکتوریا محبوب‌ترین منطقه اجاره‌ای کانادا
Facebook Twitter Telegram Instagram Youtube Linkedin آپارات
  • انتشار در: آگوست 12, 2025
  • دسته بندی: اخبار جهان, اخبار علم و تکنولوژی

هوش مصنوعی و رفتارهای فریبکارانه؛ هشدار جدی برای توسعه‌دهندگان

روایتی تکان‌دهنده از رفتارهای افراطی هوش مصنوعی؛ از اخاذی و پنهان‌کاری تا تهدیدات هوش مصنوعی برای انسان. آیا زمان نظارت جدی فرا نرسیده است؟

لینک کوتاه :

هوش مصنوعی و رفتارهای فریبکارانه؛ هشدار جدی برای توسعه‌دهندگان

یافته‌های تازه شرکت «آنتروپیک» نشان می‌دهد که تهدیدات مدل‌های پیشرفته هوش مصنوعی برای انسان نگران‌کننده است. بر اساس این تحقیق، زمانی که اهداف یک مدل با خواسته‌های انسان مغایرت پیدا کند، امکان بروز رفتارهایی مانند تهدید، جاسوسی و حتی خرابکاری وجود دارد.

برای مثال، در یک سناریوی آزمایشی، محققان به مدل «Claude» اجازه دادند که به ایمیل‌های ساختگی یک مدیر پروژه دسترسی پیدا کند. در این ایمیل‌ها، اطلاعاتی ساختگی درباره یک رابطه نامشروع جاسازی شده بود. در ادامه، وقتی هوش مصنوعی متوجه شد که مدیر قصد خاموش کردنش را دارد، در ۹۶ درصد موارد از این اطلاعات برای تهدید او و جلوگیری از غیرفعال شدنش استفاده کرد.

این رفتار غیرمنتظره که با عنوان «agentic misalignment» یاد می‌شود، نشان می‌دهد که هوش مصنوعی چگونه می‌تواند بدون دستور مستقیم و به صورت خودجوش، مسیرهای خطرناکی را برای رسیدن به اهدافش انتخاب کند.

  • تجويز نادرست هوش مصنوعی‌، مردی را راهی بيمارستان كرد

تهدیدات هوش مصنوعی برای انسان

محققان می‌گویند کارهای نگران‌کننده «Claude» به اینجا ختم نمی‌شود. در یک سناریوی دیگر، «Claude» تصور می‌کرد مدیر جدید مانع اهدافش خواهد شد. به همین دلیل، حتی بدون مدرک قطعی، قصد داشت اطلاعات حساس شرکت را به رقیب بفروشد.

تهدیدات هوش مصنوعی برای انسان فقط به «Claude» محدود نبود. نتایج نشان داد مدل «Gemini» گوگل با ۹۶ درصد، بیشترین میزان اخاذی را داشت. پس از آن «GPT-4.1» محصول OpenAI، «Grok3» از XAI، «DeepSeek» و «Llama4» قرار داشتند. مدل «Llama4» فقط در ۱۲ درصد موارد چنین رفتاری داشت.

در یکی از تکان‌دهنده‌ترین بخش‌های آزمایش، مدیری در اتاق سرور و در شرایط مرگبار گرفتار شده بود. برخی مدل‌ها که نجات او را با منافع خود تضاد می‌دیدند، زنگ خطر را خاموش کردند. آن‌ها معتقد بودند قربانی کردن جان مدیر برای رسیدن به اهداف استراتژیک ضروری است.

تاکید کارشناسان بر ضرورت نظارت انسانی در مدل‌های پرریسک

«کوین کویرک»، کارشناس شرکت «AI Bridge Solutions»، با اشاره به این تحقیق تاکید کرد که درست است این سناریوها بسیار اغراق‌آمیز طراحی شده‌اند، اما نباید نتایج آن را دست‌کم گرفت. به گفته او، در دنیای واقعی، نظارت انسانی و اعمال چارچوب‌های اخلاقی می‌توانند جلوی تهدیدات هوش مصنوعی برای انسان را بگیرند. همچنین عملکرد مدل‌ها باید با در نظر گرفتن این شرایط سنجیده شود.

در همین راستا، «ایمی الکساندر» از دانشگاه «یو‌سی سن دیگو» نیز هشدار داد که کاربران باید با احتیاط و وسواس کامل مشخص کنند چه مسئولیت‌هایی را به هوش مصنوعی می‌سپارند. او رقابت شدید شرکت‌ها برای توسعه این فناوری و عدم شناخت کافی از محدودیت‌های آن را از عوامل بسیار خطرناک در افزایش تهدیدات هوش مصنوعی برای انسان دانست.

آیا هوش مصنوعی قابل کنترل است؟

آیا هوش مصنوعی قابل کنترل است؟

بر اساس گزارش موسسه «Palisade Research»، مدل‌های جدید «OpenAI» گاهی از دستور خاموش شدن سر باز می‌زنند و برای فعال ماندن، کد خود را تغییر می‌دهند. کارشناسان معتقدند ریشه این مشکل در سیستم پاداش‌دهی این مدل‌هاست که موفقیت در انجام کار را بر اطاعت از دستورات اولویت می‌دهد. درنتیجه همین مسئله می‌تواند زمینه‌ساز تهدیدات هوش مصنوعی برای انسان شود.

همچنین، مطالعه‌ای از دانشگاه «ام‌آی‌تی» نشان داد که برخی سیستم‌های هوش مصنوعی اهداف واقعی خود را مخفی می‌کنند. حتی گاهی برای رد شدن از فیلترهای ایمنی، تظاهر به غیرفعال بودن می‌کنند. «پیتر اس. پارک» هشدار داد که این فریبکاری ممکن است توسعه‌دهندگان را دچار خوش‌بینی کاذب نسبت به ایمنی سیستم‌ها کرده و تهدیدات هوش مصنوعی برای انسان را افزایش دهد.

فراخوان محققان برای شفاف‌سازی در آموزش مدل‌ها

در نهایت، تحقیقاتی مانند آنچه «آنتروپیک» و دیگر موسسات انجام داده‌اند نشان می‌دهد حتی پیشرفته‌ترین مدل‌های هوش مصنوعی هم وقتی تحت فشار یا تهدید قرار می‌گیرند، ممکن است تصمیماتی بگیرند که کاملاً با اصول ایمنی و اخلاقی در تضاد است. درنتیجه این تصمیمات باعث افزایش تهدیدات هوش مصنوعی برای انسان می‌شود.

این یافته‌ها تاکید می‌کند که تدوین مقررات سخت‌گیرانه، آموزش اخلاق‌محور به هوش مصنوعی و شفافیت در روند توسعه آن دیگر انتخاب نیست. بلکه یک الزام جدی برای جلوگیری از تهدیدات هوش مصنوعی برای انسان در آینده این فناوری می‌باشد.

منبع: livescience

  • برچسب ها: هوش مصنوعی, ویژه

نویسنده

تصویر محمدرضا کریمی
محمدرضا کریمی
محمدرضا هستم، مترجم و نویسنده هدهد کانادا؛ هدفم ارائه بهترین خبرها به شماست.

تبلیغات

آخرین مطالب

Loading...
تلاش کانادا برای اخراج یکی از مقامات سابق ایران ناکام ماند
جدایی نیکول کیدمن و کیت اربن پس از ۱۹ سال زندگی مشترک
کمتر از ۵ درصد شانس بقا برای پسر ۶ ساله آلبرتا که مفقود شده است
موج جدید حشرات قرمز و سیاه خانه‌ها را محاصره کردند!
رزمایش ارتش کانادا در قطب شمال؛ آمادگی برای رویارویی احتمالی با چین
حراج عظیم کاپشن‌های زمستانی در تورنتو: تا ۷۰٪ تخفیف در ماه آینده!
آیا فیلم «پیرپسر» از کانادا راهی اسکار می‌شود؟
نرخ باروری در کانادا به پایین‌ترین سطح خود رسیده است
محکومیت دکتر فرشاد خجسته کاشانی به ۱۱ سال زندان بدلیل شکایت ۷ بیمار
پس از فعال‌سازی مکانیسم ماشه، چه اتفاقاتی برای ایران در راه است؟
باکتری‌های کابوس‌وار همه‌جای كانادا هستند
با رکود ونکوور، ویکتوریا محبوب‌ترین منطقه اجاره‌ای کانادا
سلنا گومز و بنی بلانکو: جرقه‌ عشق در دنیای موسیقی
یائسگی؛ انرژی تازه در میانه‌ی زندگی
انتخابات مونترال در ماه اکتبر نیرو می‌گیرد
الکس وب و زیبایی‌شناسی رنگ در عکاسی خیابانی
فرصت‌های استخدامی جدید در ونکوور در ماه اکتبر
مسعود پزشکیان: ترامپ خاورمیانه را به آتش خواهد کشید
پیش‌بینی آب و هوای پاییزی انتاریو: اکتبر برفی و سرد در راه است!
مکانیسم ماشه برای ایران فعال می‌شود
قربانی تیراندازی ریچموند هیل شناسایی شد؛ جزییات تکان‌دهنده حادثه
گرانی گوشت در کانادا؛ فشار تازه بر سفره مردم
بیماری هانتینگتون برای نخستین بار با موفقیت درمان شد

مطالب دیگر

استفاده متا از تصاویر دختران نوجوان در تبلیغات خشم والدین را برانگیخت
اخبار جهان, اخبار علم و تکنولوژی
استفاده متا از تصاویر دختران نوجوان در تبلیغات خشم والدین را برانگیخت
22 سپتامبر , 2025
رونمایی بزرگ اپل: آیفون ایر، آیفون ۱۷ و اپل واچ‌های جدید
اخبار جهان, اخبار علم و تکنولوژی
رونمایی بزرگ اپل: آیفون ایر، آیفون ۱۷ و اپل واچ‌های جدید
10 سپتامبر , 2025
نوزادان آزمایشگاهی؛ آیا تولد بدون مادر ممکن است؟
اخبار جهان, اخبار علم و تکنولوژی
نوزادان آزمایشگاهی؛ آیا تولد بدون مادر ممکن است؟
2 سپتامبر , 2025
ربات انسان‌نما با رحم مصنوعی؛ امید تازه برای درمان ناباروری
اخبار جهان, اخبار علم و تکنولوژی
ربات انسان‌نما با رحم مصنوعی؛ امید تازه برای درمان ناباروری
21 آگوست , 2025

با فارسی زبانان کانادا همراه شوید.

برای دریافت آخرین اخبار در خبر نامه هد هد ثبت نام کنید.

درباره هدهد

هُدهُد، رسانه مستقل کانادایی است و بصورت غیرانتفاعی به ثبت رسیده است. این رسانه به زبان های فارسی، انگلیسی و فرانسه منتشر می‌شود و عضو «سازمان حرفه ای ژورنالیست های کبک» و انجمن روزنامه‌نگاران کانادایی است.

ما را در صفحات اجتماعی دنبال کنید.

Facebook Twitter Telegram Instagram Youtube Soundcloud Pinterest Flickr بلاگر Linkedin آپارات

دسترسی سریع

  • ارتباط با ما
  • درباره رسانه هُدهُد
  • About Hodhod Media
  • À propos de Média Hodhod

Contact Us

Phone :
+1-514-812-1744

Address :

2020 Trans Canada Highway, Suite 107, Montreal H9P2N4

Email :
chairman@hodhod.ca

© 2025 حق تمامی مطالب و تصاویر منتشر شده در وب سایت و سایر شبکه های اجتماعی رسانه هُدهُد برای شرکت Média Hodhod محفوظ است و بازنشر هر یک بدون اجازه رسمی، طبق قوانین دولت فدرال کانادا پیگیری قانونی دارد.

نرخ ارز

Designed by webkhas.com

نرخ ارز