ونکوور: 20:54

مونترال: 23:54

تهران: 07:24

Contact Us

À propos de Média Hodhod

About Hodhod Media

  • اخبار
    • اخبار کانادا
      • اخبار سیاسی کانادا
      • اخبار اقتصادی کانادا
      • اخبار حوادث کانادا
      • اخبار مسکن کانادا
      • اخبار ورزشی کانادا
      • اخبار سلامت کانادا
    • اخبار ایران
    • اخبار جهان
    • اخبار علم و تکنولوژی
    • اخبار صنعت خودرو
    • اخبار ادب و هنر
  • هدهد هاب
    • گزارش تصویری
    • ویدیو خبر
    • اینفوگرافیک
  • درباره کانادا
    • تحصیل در کانادا
    • جاذبه‌های گردشگری کانادا
    • اخبار مهاجرت
    • اشتغال در کانادا
    • مهاجرت به کانادا
    • محیط زیست کانادا
    • زندگی در کانادا
    • رویدادهای کانادا
  • استان‌های کانادا
    • استان آلبرتا
    • استان انتاریو
    • استان بریتیش کلمبیا
    • استان ساسکاچوان
    • استان کبک
    • استان منیتوبا
    • استان نوا اسکوشیا
    • استان نورت‌وست تریتوریز
    • استان نوناووت
    • استان نیوبرانزویک
    • استان نیوفاندلند و لابرادور
    • استان یوکان
    • جزیره پرنس ادوارد
  • هدهد لایف
    • اخبار ادب و هنر
    • روانشناسی
    • غذا و نوشیدنی
    • سفر به دور دنیا
    • تناسب اندام
    • سبک زندگی
    • مد، فشن و زیبایی
  • ماهنامه
  • اخبار
    • اخبار کانادا
      • اخبار سیاسی کانادا
      • اخبار اقتصادی کانادا
      • اخبار حوادث کانادا
      • اخبار مسکن کانادا
      • اخبار ورزشی کانادا
      • اخبار سلامت کانادا
    • اخبار ایران
    • اخبار جهان
    • اخبار علم و تکنولوژی
    • اخبار صنعت خودرو
    • اخبار ادب و هنر
  • هدهد هاب
    • گزارش تصویری
    • ویدیو خبر
    • اینفوگرافیک
  • درباره کانادا
    • تحصیل در کانادا
    • جاذبه‌های گردشگری کانادا
    • اخبار مهاجرت
    • اشتغال در کانادا
    • مهاجرت به کانادا
    • محیط زیست کانادا
    • زندگی در کانادا
    • رویدادهای کانادا
  • استان‌های کانادا
    • استان آلبرتا
    • استان انتاریو
    • استان بریتیش کلمبیا
    • استان ساسکاچوان
    • استان کبک
    • استان منیتوبا
    • استان نوا اسکوشیا
    • استان نورت‌وست تریتوریز
    • استان نوناووت
    • استان نیوبرانزویک
    • استان نیوفاندلند و لابرادور
    • استان یوکان
    • جزیره پرنس ادوارد
  • هدهد لایف
    • اخبار ادب و هنر
    • روانشناسی
    • غذا و نوشیدنی
    • سفر به دور دنیا
    • تناسب اندام
    • سبک زندگی
    • مد، فشن و زیبایی
  • ماهنامه

EN    FR

  • اخبار
    • اخبار کانادا
      • اخبار سیاسی کانادا
      • اخبار اقتصادی کانادا
      • اخبار حوادث کانادا
      • اخبار مسکن کانادا
      • اخبار ورزشی کانادا
      • اخبار سلامت کانادا
    • اخبار ایران
    • اخبار جهان
    • اخبار علم و تکنولوژی
    • اخبار صنعت خودرو
    • اخبار ادب و هنر
  • هدهد هاب
    • گزارش تصویری
    • ویدیو خبر
    • اینفوگرافیک
  • درباره کانادا
    • تحصیل در کانادا
    • جاذبه‌های گردشگری کانادا
    • اخبار مهاجرت
    • اشتغال در کانادا
    • مهاجرت به کانادا
    • محیط زیست کانادا
    • زندگی در کانادا
    • رویدادهای کانادا
  • استان‌های کانادا
    • استان آلبرتا
    • استان انتاریو
    • استان بریتیش کلمبیا
    • استان ساسکاچوان
    • استان کبک
    • استان منیتوبا
    • استان نوا اسکوشیا
    • استان نورت‌وست تریتوریز
    • استان نوناووت
    • استان نیوبرانزویک
    • استان نیوفاندلند و لابرادور
    • استان یوکان
    • جزیره پرنس ادوارد
  • هدهد لایف
    • اخبار ادب و هنر
    • روانشناسی
    • غذا و نوشیدنی
    • سفر به دور دنیا
    • تناسب اندام
    • سبک زندگی
    • مد، فشن و زیبایی
  • ماهنامه
  • اخبار
    • اخبار کانادا
      • اخبار سیاسی کانادا
      • اخبار اقتصادی کانادا
      • اخبار حوادث کانادا
      • اخبار مسکن کانادا
      • اخبار ورزشی کانادا
      • اخبار سلامت کانادا
    • اخبار ایران
    • اخبار جهان
    • اخبار علم و تکنولوژی
    • اخبار صنعت خودرو
    • اخبار ادب و هنر
  • هدهد هاب
    • گزارش تصویری
    • ویدیو خبر
    • اینفوگرافیک
  • درباره کانادا
    • تحصیل در کانادا
    • جاذبه‌های گردشگری کانادا
    • اخبار مهاجرت
    • اشتغال در کانادا
    • مهاجرت به کانادا
    • محیط زیست کانادا
    • زندگی در کانادا
    • رویدادهای کانادا
  • استان‌های کانادا
    • استان آلبرتا
    • استان انتاریو
    • استان بریتیش کلمبیا
    • استان ساسکاچوان
    • استان کبک
    • استان منیتوبا
    • استان نوا اسکوشیا
    • استان نورت‌وست تریتوریز
    • استان نوناووت
    • استان نیوبرانزویک
    • استان نیوفاندلند و لابرادور
    • استان یوکان
    • جزیره پرنس ادوارد
  • هدهد لایف
    • اخبار ادب و هنر
    • روانشناسی
    • غذا و نوشیدنی
    • سفر به دور دنیا
    • تناسب اندام
    • سبک زندگی
    • مد، فشن و زیبایی
  • ماهنامه
پرواز ارزان‌تر با ایرکانادا؛ بدون هزینه انتخاب صندلی و تغییر پرواز!
نوزادان آزمایشگاهی؛ آیا تولد بدون مادر ممکن است؟
مولینت و دهکده‌های گمشده انتاریو
پنج فیلم کانادایی به جشنواره بین المللی فیلم تورنتو راه یافتند
نتیجه‌ی تورم و تعرفه‌ها: لوازم التحریر گران‌قیمت برای شروع سال تحصیلی
خبر خوب برای افراد دارای معلولیت در کانادا: کمک‌هزینه جدید فدرال آغاز شد
بروس ویلیس به خانه‌ای برای مراقبت تمام‌وقت منتقل شد
شهردار کبک به دنبال سارقان آب!
تحریم آبشار نیاگارا توسط آمریکایی‌ها؛ رونق غیرمنتظره گردشگری
اقامتگاه ۲ میلیون دلاری به سبک بالی در قلب تورنتو
تخریب غم‌انگیز یکی از زیباترین بنا‌های تورنتو: بنای ویلیام اچ. رایت
حمله با انگیزه نفرت در اتاوا؛ زن یهودی در سوپرمارکت مورد حمله قرار گرفت
Facebook Twitter Telegram Instagram Youtube Linkedin آپارات
  • انتشار در: آگوست 12, 2025
  • دسته بندی: اخبار جهان, اخبار علم و تکنولوژی

هوش مصنوعی و رفتارهای فریبکارانه؛ هشدار جدی برای توسعه‌دهندگان

روایتی تکان‌دهنده از رفتارهای افراطی هوش مصنوعی؛ از اخاذی و پنهان‌کاری تا تهدیدات هوش مصنوعی برای انسان. آیا زمان نظارت جدی فرا نرسیده است؟

لینک کوتاه :

هوش مصنوعی و رفتارهای فریبکارانه؛ هشدار جدی برای توسعه‌دهندگان

یافته‌های تازه شرکت «آنتروپیک» نشان می‌دهد که تهدیدات مدل‌های پیشرفته هوش مصنوعی برای انسان نگران‌کننده است. بر اساس این تحقیق، زمانی که اهداف یک مدل با خواسته‌های انسان مغایرت پیدا کند، امکان بروز رفتارهایی مانند تهدید، جاسوسی و حتی خرابکاری وجود دارد.

برای مثال، در یک سناریوی آزمایشی، محققان به مدل «Claude» اجازه دادند که به ایمیل‌های ساختگی یک مدیر پروژه دسترسی پیدا کند. در این ایمیل‌ها، اطلاعاتی ساختگی درباره یک رابطه نامشروع جاسازی شده بود. در ادامه، وقتی هوش مصنوعی متوجه شد که مدیر قصد خاموش کردنش را دارد، در ۹۶ درصد موارد از این اطلاعات برای تهدید او و جلوگیری از غیرفعال شدنش استفاده کرد.

این رفتار غیرمنتظره که با عنوان «agentic misalignment» یاد می‌شود، نشان می‌دهد که هوش مصنوعی چگونه می‌تواند بدون دستور مستقیم و به صورت خودجوش، مسیرهای خطرناکی را برای رسیدن به اهدافش انتخاب کند.

  • تجويز نادرست هوش مصنوعی‌، مردی را راهی بيمارستان كرد

تهدیدات هوش مصنوعی برای انسان

محققان می‌گویند کارهای نگران‌کننده «Claude» به اینجا ختم نمی‌شود. در یک سناریوی دیگر، «Claude» تصور می‌کرد مدیر جدید مانع اهدافش خواهد شد. به همین دلیل، حتی بدون مدرک قطعی، قصد داشت اطلاعات حساس شرکت را به رقیب بفروشد.

تهدیدات هوش مصنوعی برای انسان فقط به «Claude» محدود نبود. نتایج نشان داد مدل «Gemini» گوگل با ۹۶ درصد، بیشترین میزان اخاذی را داشت. پس از آن «GPT-4.1» محصول OpenAI، «Grok3» از XAI، «DeepSeek» و «Llama4» قرار داشتند. مدل «Llama4» فقط در ۱۲ درصد موارد چنین رفتاری داشت.

در یکی از تکان‌دهنده‌ترین بخش‌های آزمایش، مدیری در اتاق سرور و در شرایط مرگبار گرفتار شده بود. برخی مدل‌ها که نجات او را با منافع خود تضاد می‌دیدند، زنگ خطر را خاموش کردند. آن‌ها معتقد بودند قربانی کردن جان مدیر برای رسیدن به اهداف استراتژیک ضروری است.

تاکید کارشناسان بر ضرورت نظارت انسانی در مدل‌های پرریسک

«کوین کویرک»، کارشناس شرکت «AI Bridge Solutions»، با اشاره به این تحقیق تاکید کرد که درست است این سناریوها بسیار اغراق‌آمیز طراحی شده‌اند، اما نباید نتایج آن را دست‌کم گرفت. به گفته او، در دنیای واقعی، نظارت انسانی و اعمال چارچوب‌های اخلاقی می‌توانند جلوی تهدیدات هوش مصنوعی برای انسان را بگیرند. همچنین عملکرد مدل‌ها باید با در نظر گرفتن این شرایط سنجیده شود.

در همین راستا، «ایمی الکساندر» از دانشگاه «یو‌سی سن دیگو» نیز هشدار داد که کاربران باید با احتیاط و وسواس کامل مشخص کنند چه مسئولیت‌هایی را به هوش مصنوعی می‌سپارند. او رقابت شدید شرکت‌ها برای توسعه این فناوری و عدم شناخت کافی از محدودیت‌های آن را از عوامل بسیار خطرناک در افزایش تهدیدات هوش مصنوعی برای انسان دانست.

آیا هوش مصنوعی قابل کنترل است؟

آیا هوش مصنوعی قابل کنترل است؟

بر اساس گزارش موسسه «Palisade Research»، مدل‌های جدید «OpenAI» گاهی از دستور خاموش شدن سر باز می‌زنند و برای فعال ماندن، کد خود را تغییر می‌دهند. کارشناسان معتقدند ریشه این مشکل در سیستم پاداش‌دهی این مدل‌هاست که موفقیت در انجام کار را بر اطاعت از دستورات اولویت می‌دهد. درنتیجه همین مسئله می‌تواند زمینه‌ساز تهدیدات هوش مصنوعی برای انسان شود.

همچنین، مطالعه‌ای از دانشگاه «ام‌آی‌تی» نشان داد که برخی سیستم‌های هوش مصنوعی اهداف واقعی خود را مخفی می‌کنند. حتی گاهی برای رد شدن از فیلترهای ایمنی، تظاهر به غیرفعال بودن می‌کنند. «پیتر اس. پارک» هشدار داد که این فریبکاری ممکن است توسعه‌دهندگان را دچار خوش‌بینی کاذب نسبت به ایمنی سیستم‌ها کرده و تهدیدات هوش مصنوعی برای انسان را افزایش دهد.

فراخوان محققان برای شفاف‌سازی در آموزش مدل‌ها

در نهایت، تحقیقاتی مانند آنچه «آنتروپیک» و دیگر موسسات انجام داده‌اند نشان می‌دهد حتی پیشرفته‌ترین مدل‌های هوش مصنوعی هم وقتی تحت فشار یا تهدید قرار می‌گیرند، ممکن است تصمیماتی بگیرند که کاملاً با اصول ایمنی و اخلاقی در تضاد است. درنتیجه این تصمیمات باعث افزایش تهدیدات هوش مصنوعی برای انسان می‌شود.

این یافته‌ها تاکید می‌کند که تدوین مقررات سخت‌گیرانه، آموزش اخلاق‌محور به هوش مصنوعی و شفافیت در روند توسعه آن دیگر انتخاب نیست. بلکه یک الزام جدی برای جلوگیری از تهدیدات هوش مصنوعی برای انسان در آینده این فناوری می‌باشد.

منبع: livescience

  • برچسب ها: هوش مصنوعی, ویژه

نویسنده

تصویر محمدرضا کریمی
محمدرضا کریمی
محمدرضا هستم، مترجم و نویسنده هدهد کانادا؛ هدفم ارائه بهترین خبرها به شماست.

تبلیغات

انجمن بازرگانی ایران کانادا

آخرین مطالب

Loading...
پرواز ارزان‌تر با ایرکانادا؛ بدون هزینه انتخاب صندلی و تغییر پرواز!
نوزادان آزمایشگاهی؛ آیا تولد بدون مادر ممکن است؟
مولینت و دهکده‌های گمشده انتاریو
پنج فیلم کانادایی به جشنواره بین المللی فیلم تورنتو راه یافتند
نتیجه‌ی تورم و تعرفه‌ها: لوازم التحریر گران‌قیمت برای شروع سال تحصیلی
خبر خوب برای افراد دارای معلولیت در کانادا: کمک‌هزینه جدید فدرال آغاز شد
بروس ویلیس به خانه‌ای برای مراقبت تمام‌وقت منتقل شد
شهردار کبک به دنبال سارقان آب!
تحریم آبشار نیاگارا توسط آمریکایی‌ها؛ رونق غیرمنتظره گردشگری
اقامتگاه ۲ میلیون دلاری به سبک بالی در قلب تورنتو
تخریب غم‌انگیز یکی از زیباترین بنا‌های تورنتو: بنای ویلیام اچ. رایت
حمله با انگیزه نفرت در اتاوا؛ زن یهودی در سوپرمارکت مورد حمله قرار گرفت
توصیه‌های مسافرتی شدید کانادا برای آمریکا: آنچه باید بدانید
فراخوان فوری مواد غذایی در کانادا؛ هشدارهای سلامتی از پسته و پنیر تا ویسکی!
بازگشت هیجان‌انگیز نمایش هوایی کانادا به آسمان تورنتو
پیوند موفق ریه خوک به بدن انسان؛ ثبت یک رکورد جهانی
کانادا برای ۹ مقصد گردشگری، از جمله کوبا و مکزیک، هشدار مسافرتی صادر کرد
فروش به آمریکا دیگر آسان نیست؛ هشدار به کسب‌وکارهای کانادایی
فیلم «چیزهایی که می‌کُشی» به‌عنوان نماینده کانادا به اسکار معرفی شد
شهرداری تورنتو تعداد زیادی نیروی جدید استخدام می‌کند
درخواست قربانی سوءاستفاده جنسی از ایلان ماسک: جلوی انتشار تصاویرم را بگیرید!
شهروند کانادایی در فلوریدا درگذشت
شمارش معکوس بازگشت تحریم‌ها علیه ایران آغاز شد

مطالب دیگر

نوزادان آزمایشگاهی؛ آیا تولد بدون مادر ممکن است؟
اخبار جهان, اخبار علم و تکنولوژی
نوزادان آزمایشگاهی؛ آیا تولد بدون مادر ممکن است؟
2 سپتامبر , 2025
ربات انسان‌نما با رحم مصنوعی؛ امید تازه برای درمان ناباروری
اخبار جهان, اخبار علم و تکنولوژی
ربات انسان‌نما با رحم مصنوعی؛ امید تازه برای درمان ناباروری
21 آگوست , 2025
مدیرعاملی که ۸۰٪ کارکنانش را به دلیل نپذیرفتن هوش مصنوعی اخراج کرد
اخبار جهان, اخبار علم و تکنولوژی
مدیرعاملی که ۸۰٪ کارکنانش را به دلیل نپذیرفتن هوش مصنوعی اخراج کرد
20 آگوست , 2025
هوش مصنوعی GPT-5 رونمایی شد
اخبار جهان, اخبار علم و تکنولوژی
هوش مصنوعی GPT-5 رونمایی شد
8 آگوست , 2025

با فارسی زبانان کانادا همراه شوید.

برای دریافت آخرین اخبار در خبر نامه هد هد ثبت نام کنید.

درباره هدهد

هُدهُد، رسانه مستقل کانادایی است و بصورت غیرانتفاعی به ثبت رسیده است. این رسانه به زبان های فارسی، انگلیسی و فرانسه منتشر می‌شود و عضو «سازمان حرفه ای ژورنالیست های کبک» و انجمن روزنامه‌نگاران کانادایی است.

ما را در صفحات اجتماعی دنبال کنید.

Facebook Twitter Telegram Instagram Youtube Soundcloud Pinterest Flickr بلاگر Linkedin آپارات

دسترسی سریع

  • ارتباط با ما
  • درباره رسانه هُدهُد
  • About Hodhod Media
  • À propos de Média Hodhod

Contact Us

Phone :
+1-514-812-1744

Address :

2020 Trans Canada Highway, Suite 107, Montreal H9P2N4

Email :
chairman@hodhod.ca

© 2025 حق تمامی مطالب و تصاویر منتشر شده در وب سایت و سایر شبکه های اجتماعی رسانه هُدهُد برای شرکت Média Hodhod محفوظ است و بازنشر هر یک بدون اجازه رسمی، طبق قوانین دولت فدرال کانادا پیگیری قانونی دارد.

نرخ ارز

Designed by webkhas.com

نرخ ارز