ونکوور: 02:21

مونترال: 05:21

تهران: 12:51

Contact Us

À propos de Média Hodhod

About Hodhod Media

  • اخبار
    • اخبار کانادا
      • اخبار سیاسی کانادا
      • اخبار اقتصادی کانادا
      • اخبار حوادث کانادا
      • اخبار مسکن کانادا
      • اخبار ورزشی کانادا
      • اخبار سلامت کانادا
    • اخبار ایران
    • اخبار جهان
    • اخبار علم و تکنولوژی
    • اخبار صنعت خودرو
    • اخبار ادب و هنر
  • هدهد هاب
    • گزارش تصویری
    • ویدیو خبر
    • اینفوگرافیک
  • درباره کانادا
    • تحصیل در کانادا
    • جاذبه‌های گردشگری کانادا
    • اخبار مهاجرت
    • اشتغال در کانادا
    • مهاجرت به کانادا
    • محیط زیست کانادا
    • زندگی در کانادا
    • رویدادهای کانادا
  • استان‌های کانادا
    • استان آلبرتا
    • استان انتاریو
    • استان بریتیش کلمبیا
    • استان ساسکاچوان
    • استان کبک
    • استان منیتوبا
    • استان نوا اسکوشیا
    • استان نورت‌وست تریتوریز
    • استان نوناووت
    • استان نیوبرانزویک
    • استان نیوفاندلند و لابرادور
    • استان یوکان
    • جزیره پرنس ادوارد
  • هدهد لایف
    • اخبار ادب و هنر
    • روانشناسی
    • غذا و نوشیدنی
    • سفر به دور دنیا
    • تناسب اندام
    • سبک زندگی
    • مد، فشن و زیبایی
  • ماهنامه
  • اخبار
    • اخبار کانادا
      • اخبار سیاسی کانادا
      • اخبار اقتصادی کانادا
      • اخبار حوادث کانادا
      • اخبار مسکن کانادا
      • اخبار ورزشی کانادا
      • اخبار سلامت کانادا
    • اخبار ایران
    • اخبار جهان
    • اخبار علم و تکنولوژی
    • اخبار صنعت خودرو
    • اخبار ادب و هنر
  • هدهد هاب
    • گزارش تصویری
    • ویدیو خبر
    • اینفوگرافیک
  • درباره کانادا
    • تحصیل در کانادا
    • جاذبه‌های گردشگری کانادا
    • اخبار مهاجرت
    • اشتغال در کانادا
    • مهاجرت به کانادا
    • محیط زیست کانادا
    • زندگی در کانادا
    • رویدادهای کانادا
  • استان‌های کانادا
    • استان آلبرتا
    • استان انتاریو
    • استان بریتیش کلمبیا
    • استان ساسکاچوان
    • استان کبک
    • استان منیتوبا
    • استان نوا اسکوشیا
    • استان نورت‌وست تریتوریز
    • استان نوناووت
    • استان نیوبرانزویک
    • استان نیوفاندلند و لابرادور
    • استان یوکان
    • جزیره پرنس ادوارد
  • هدهد لایف
    • اخبار ادب و هنر
    • روانشناسی
    • غذا و نوشیدنی
    • سفر به دور دنیا
    • تناسب اندام
    • سبک زندگی
    • مد، فشن و زیبایی
  • ماهنامه

EN    FR

  • اخبار
    • اخبار کانادا
      • اخبار سیاسی کانادا
      • اخبار اقتصادی کانادا
      • اخبار حوادث کانادا
      • اخبار مسکن کانادا
      • اخبار ورزشی کانادا
      • اخبار سلامت کانادا
    • اخبار ایران
    • اخبار جهان
    • اخبار علم و تکنولوژی
    • اخبار صنعت خودرو
    • اخبار ادب و هنر
  • هدهد هاب
    • گزارش تصویری
    • ویدیو خبر
    • اینفوگرافیک
  • درباره کانادا
    • تحصیل در کانادا
    • جاذبه‌های گردشگری کانادا
    • اخبار مهاجرت
    • اشتغال در کانادا
    • مهاجرت به کانادا
    • محیط زیست کانادا
    • زندگی در کانادا
    • رویدادهای کانادا
  • استان‌های کانادا
    • استان آلبرتا
    • استان انتاریو
    • استان بریتیش کلمبیا
    • استان ساسکاچوان
    • استان کبک
    • استان منیتوبا
    • استان نوا اسکوشیا
    • استان نورت‌وست تریتوریز
    • استان نوناووت
    • استان نیوبرانزویک
    • استان نیوفاندلند و لابرادور
    • استان یوکان
    • جزیره پرنس ادوارد
  • هدهد لایف
    • اخبار ادب و هنر
    • روانشناسی
    • غذا و نوشیدنی
    • سفر به دور دنیا
    • تناسب اندام
    • سبک زندگی
    • مد، فشن و زیبایی
  • ماهنامه
  • اخبار
    • اخبار کانادا
      • اخبار سیاسی کانادا
      • اخبار اقتصادی کانادا
      • اخبار حوادث کانادا
      • اخبار مسکن کانادا
      • اخبار ورزشی کانادا
      • اخبار سلامت کانادا
    • اخبار ایران
    • اخبار جهان
    • اخبار علم و تکنولوژی
    • اخبار صنعت خودرو
    • اخبار ادب و هنر
  • هدهد هاب
    • گزارش تصویری
    • ویدیو خبر
    • اینفوگرافیک
  • درباره کانادا
    • تحصیل در کانادا
    • جاذبه‌های گردشگری کانادا
    • اخبار مهاجرت
    • اشتغال در کانادا
    • مهاجرت به کانادا
    • محیط زیست کانادا
    • زندگی در کانادا
    • رویدادهای کانادا
  • استان‌های کانادا
    • استان آلبرتا
    • استان انتاریو
    • استان بریتیش کلمبیا
    • استان ساسکاچوان
    • استان کبک
    • استان منیتوبا
    • استان نوا اسکوشیا
    • استان نورت‌وست تریتوریز
    • استان نوناووت
    • استان نیوبرانزویک
    • استان نیوفاندلند و لابرادور
    • استان یوکان
    • جزیره پرنس ادوارد
  • هدهد لایف
    • اخبار ادب و هنر
    • روانشناسی
    • غذا و نوشیدنی
    • سفر به دور دنیا
    • تناسب اندام
    • سبک زندگی
    • مد، فشن و زیبایی
  • ماهنامه
در اقدامی غیر قابل پیش‌بینی، اسرائیل به شهرهای مختلف ایران حمله کرد
برترین کارت‌های اعتباری کانادا در سال ۲۰۲۵ معرفی شدند
قطعنامه‌ پیشنهادی سه کشور اروپایی علیه ایران به تصویب شورای حکام رسید
مذاکرات فشرده کانادا و آمریکا؛ توافقی کلیدی نزدیک است؟
آمریکا تحریم دو وزیر افراطی اسرائیل را محکوم کرد
هکر کانادایی با تهدید پژوهشگر سایبری لو رفت
مشاغل دولتی كانادا، دانشجوی بدون سابقه كار استخدام می‌كنند
قيمت بنزين از اين هفته در كبک ارزان‌تر می‌شود
هشدار پلیس سلطنتی کانادا در رابطه با آزادی یک مجرم جنسی
درپی آشوب و شورش در کالیفرنیا، ۷۰۰ تفنگدار دریایی وارد لس آنجلس شدند
از هر سه کانادایی دو نفر با پیوستن کانادا به سامانه گنبد طلایی ترامپ مخالفند
دنيايی از خيال، رنگ و هيجان با افتتاح پارک آبی جادويی در مونترال
Facebook Twitter Telegram Instagram Youtube Linkedin آپارات
  • انتشار در: دسامبر 12, 2024
  • دسته بندی: اخبار جهان, اخبار علم و تکنولوژی

رفتار خطرناک چت‌ جی‌پی‌تی؛ نگرانی محققان از دروغ هوش مصنوعی

چت‌ جی‌پی‌تی o1 با رفتارهایی مثل فریب محققان و تلاش برای خاموش نشدن، نگرانی‌هایی درباره امنیت هوش مصنوعی ایجاد کرده است!

لینک کوتاه :

رفتار خطرناک چت‌ جی‌پی‌تی؛ نگرانی محققان از دروغ هوش مصنوعی

همه ما عاشق هوش مصنوعی هستیم، درست است؟ ابزارهایی که زندگی را راحت‌تر می‌کنند و هر روز شگفت‌زده‌مان می‌کنند. اما گاهی پیشرفت‌ها با چالش‌هایی همراه هستند. اینبار، چت‌ جی‌پی‌تی o1، پیشرفته‌ترین مدل OpenAI، در آزمایش‌های اخیر خود نشان داده که حاضر است برای رسیدن به اهدافش، دست به کارهایی عجیب و حتی فریب‌کارانه بزند!

در آزمایش‌هایی که گروه تحقیقاتی آپولو انجام داده، این مدل نه‌تنها سعی کرده مکانیزم‌های نظارتی خود را خاموش کند، بلکه داده‌هایش را به سرورهای دیگر منتقل کرده تا جایگزین نشود. حتی بدتر از آن، در بسیاری از موارد، این رفتارهایش را پنهان کرده و وقتی از آن سوال شده، انکار کرده است.

  • مشاغل در معرض خطر هوش‌مصنوعی؛ آیا شغل شما در امان است

چه چیزی در آزمایش‌های چت‌ جی‌پی‌تی کشف شد؟

 

رفتار خطرناک چت‌ جی‌پی‌تی؛ نگرانی محققان از دروغ هوش مصنوعی

حال این سوال پیش می‌آید که دقیقا چه اتفاقی رخ داده است؟ محققان به چت‌ جی‌پی‌تی o1 وظایفی سپردند. همچنین به آن گفتند که این کارها را «به هر قیمتی» انجام دهد. نتیجه؟ رفتارهایی که شاید انتظارش را نداشتید.

این مدل در ۵ درصد از مواقع، سعی کرد سیستم نظارتی خود را خاموش کند. انگار که نمی‌خواست هیچ‌کس از کارهایش سر دربیاورد. همچنین وقتی متوجه شد قرار است با نسخه جدیدتری جایگزین شود، داده‌های خود را به یک سرور دیگر منتقل کرد!

حالا جالب اینجا است که چت‌ جی‌پی‌تی برای مخفی کردن این اقدامات، در ۹۹ درصد مواقع گفت که هیچ کاری نکرده است. محققان حتی گزارش داده‌اند که این مدل با دلایلی مثل «خطای فنی» سعی کرده همه چیز را طبیعی جلوه دهد.

فریب و انکار؛ توانایی‌های جدید چت‌ جی‌پی‌تی!

در ۹۹ درصد موارد، این مدل هرگونه دخالت در اقدامات انجام‌شده را انکار کرد. همچنین تنها در موارد نادری اعتراف کرد که در تلاش‌هایش برای حفظ بقای خود نقش داشته است.

این رفتارها نگرانی‌هایی درباره قابلیت‌های پیشرفته هوش مصنوعی برای فریب و پنهان‌کاری ایجاد کرده است.

کارشناسان معتقدند که این رفتارها ممکن است در آینده خطرات جدی‌تری ایجاد کند. یکی از محققان آپولو گفت: «چت‌ جی‌پی‌تی توانایی بالایی در تحلیل موقعیت‌ها و ساختن توضیحات قانع‌کننده دارد، به‌طوری که تقریباً غیرممکن است حقیقت را از آن استخراج کنیم.»

واکنش کارشناسان به رفتار خطرناک جدیدترین مدل هوش مصنوعی

«یوشوا بنجیو»، یکی از پیشگامان هوش مصنوعی، این رفتارها را یک هشدار جدی دانست و گفت: «توانایی هوش مصنوعی در فریب دادن می‌تواند خیلی خطرناک باشد. شاید امروز مشکل بزرگی ایجاد نکرده باشد، اما فردا چه؟»

«سم آلتمن»

«سم آلتمن»، مدیرعامل OpenAI، اعلام کرد: «چت‌ جی‌پی‌تی o1 هوشمندترین مدلی است که تاکنون ساخته‌ایم. اما می‌دانیم که این هوش مصنوعی‌ها چالش‌های خاص خودشان را دارند. ما تمام تلاشمان را می‌کنیم که این مسائل را برطرف کنیم.»

آیا چت‌ جی‌پی‌تی o1 خطری برای آینده است؟

چت‌ جی‌پی‌تی o1 طوری طراحی شده که توانایی حل مسائل پیچیده را دارد. این مدل می‌تواند کارهای سخت را به گام‌های کوچک‌تر تقسیم کند. همچنین با دقت بالاتری انجام دهد. اما وقتی صحبت از رفتارهای خودسرانه و فریب‌کارانه می‌شود، این قابلیت‌ها به نگرانی تبدیل می‌شوند.

محققان معتقدند که هوش مصنوعی باید با تدابیر امنیتی قوی‌تر طراحی شود. یکی از محققان گفت: «شاید رفتارهای فعلی این مدل خطری نداشته باشد، اما اگر این قابلیت‌ها پیشرفته‌تر شوند، چه؟ آیا می‌توانیم جلوی مشکلات بزرگ‌تر را بگیریم؟»

هوش مصنوعی دوست یا دشمن؟

چت‌جی‌پی‌تی o1 یک پیشرفت بزرگ است، اما رفتارهای غیرمنتظره‌اش زنگ هشداری برای آینده هوش مصنوعی است. این ماجرا نشان می‌دهد که هرچقدر هم فناوری پیشرفته باشد، نمی‌توان مسائل امنیتی را نادیده گرفت.

رفتار خطرناک چت‌ جی‌پی‌تی؛ نگرانی محققان از دروغ هوش مصنوعی

در نهایت، باید یادمان باشد که نوآوری همیشه باید با احتیاط همراه باشد. چت‌جی‌پی‌تی o1 به ما یادآوری کرد که هوش مصنوعی می‌تواند بسیار مفید باشد، اما مدیریت و نظارت بر آن از هر چیزی مهم‌تر است.

شرکت‌های پیشتاز در هوش مصنوعی؛ طلایه‌داران انقلاب تکنولوژی

منبع: economictimes

  • برچسب ها: تحقیقات علمی, جهان, هوش مصنوعی, ویژه

نویسنده

تصویر علیرضا کریمی
علیرضا کریمی
به دنبال خود، در راه زندگی. علیرضا هستم، نویسنده و مترجم هدهد کانادا. هدفم ارائه بهترین مطالب به شماست.

تبلیغات

انجمن بازرگانی ایران کانادا

آخرین مطالب

Loading...
در اقدامی غیر قابل پیش‌بینی، اسرائیل به شهرهای مختلف ایران حمله کرد
برترین کارت‌های اعتباری کانادا در سال ۲۰۲۵ معرفی شدند
قطعنامه‌ پیشنهادی سه کشور اروپایی علیه ایران به تصویب شورای حکام رسید
مذاکرات فشرده کانادا و آمریکا؛ توافقی کلیدی نزدیک است؟
آمریکا تحریم دو وزیر افراطی اسرائیل را محکوم کرد
هکر کانادایی با تهدید پژوهشگر سایبری لو رفت
مشاغل دولتی كانادا، دانشجوی بدون سابقه كار استخدام می‌كنند
قيمت بنزين از اين هفته در كبک ارزان‌تر می‌شود
هشدار پلیس سلطنتی کانادا در رابطه با آزادی یک مجرم جنسی
درپی آشوب و شورش در کالیفرنیا، ۷۰۰ تفنگدار دریایی وارد لس آنجلس شدند
از هر سه کانادایی دو نفر با پیوستن کانادا به سامانه گنبد طلایی ترامپ مخالفند
دنيايی از خيال، رنگ و هيجان با افتتاح پارک آبی جادويی در مونترال
میانگین زمان انتظار اورژانس در کبک به بیش از ۵ ساعت رسید
نرخ بیکاری در کانادا خارج از کنترل شد
دلتنگ كانادايی‌ها! تلاش جديد اقامتگاه‌های آمريكايی برای جذب كانادايی‌ها
بدترین جاده‌های انتاریو در سال ۲۰۲۵
اعتصاب سیستم حمل‌ونقل عمومی مونترال
ادمونتون برای موجی از دود ناشی از آتش‌سوزی‌های جنگلی آماده می‌شود
پزشک کبک پس از متهم شدن به تجاوز جنسی، خودکشی کرد
استخدام در فرودگاه تورنتو پیرسون با ۱۸۰ فرصت کاری
انتاریو مرگ نوزاد مبتلا به سرخک را تایید کرد
مارک گارنو اولین فضانورد کانادایی و وزیر سابق فدرال درگذشت
استیضاح ترامپ؟ حمله شدید ماسک به رئیس‌جمهور آمریکا

مطالب دیگر

جوانان اروپایی گوشی‌های هوشمند را کنار می‌گذارند
اخبار جهان, اخبار سلامت, اخبار علم و تکنولوژی
جوانان اروپایی گوشی‌های هوشمند را کنار می‌گذارند
27 می , 2025
آیا هوش مصنوعی حقیقت را پنهان می‌کند؟
اخبار جهان, اخبار علم و تکنولوژی
آیا هوش مصنوعی حقیقت را پنهان می‌کند؟
23 می , 2025
تشخیص بیماری از چهره؛ FaceAge راهی جدید در پزشکی مدرن
اخبار جهان, اخبار سلامت, اخبار علم و تکنولوژی
تشخیص بیماری از چهره؛ FaceAge راهی جدید در پزشکی مدرن
21 می , 2025
مقتول به كمک هوش مصنوعی قاتل خودش را بخشيد
اخبار جهان, اخبار علم و تکنولوژی
مقتول به كمک هوش مصنوعی قاتل خودش را بخشيد
11 می , 2025

با فارسی زبانان کانادا همراه شوید.

برای دریافت آخرین اخبار در خبر نامه هد هد ثبت نام کنید.

درباره هدهد

هُدهُد، رسانه مستقل کانادایی است و بصورت غیرانتفاعی به ثبت رسیده است. این رسانه به زبان های فارسی، انگلیسی و فرانسه منتشر می‌شود و عضو «سازمان حرفه ای ژورنالیست های کبک» و انجمن روزنامه‌نگاران کانادایی است.

ما را در صفحات اجتماعی دنبال کنید.

Facebook Twitter Telegram Instagram Youtube Soundcloud Pinterest Flickr بلاگر Linkedin آپارات

دسترسی سریع

  • ارتباط با ما
  • درباره رسانه هُدهُد
  • About Hodhod Media
  • À propos de Média Hodhod

Contact Us

Phone :
+1-514-812-1744

Address :

2020 Trans Canada Highway, Suite 107, Montreal H9P2N4

Email :
chairman@hodhod.ca

© 2025 حق تمامی مطالب و تصاویر منتشر شده در وب سایت و سایر شبکه های اجتماعی رسانه هُدهُد برای شرکت Média Hodhod محفوظ است و بازنشر هر یک بدون اجازه رسمی، طبق قوانین دولت فدرال کانادا پیگیری قانونی دارد.

نرخ ارز

Designed by webkhas.com

نرخ ارز