«جیکوب کاکسون»، پژوهشگر ۲۷ ساله، در واکنش به خطرات فزاینده این فناوری، با استعفا از شرکت آنتروپیک و کنار گذاشتن این حوزه هشدار داد که شرکتهای بزرگ فعال در زمینه هوش مصنوعی با سرعتی نگرانکننده پیش میروند و دیگر به ایمنی توجهی ندارند. او که سابقه کار در هر دو شرکت OpenAI و آنتروپیک را دارد، در شبکه اجتماعی ایکس نوشت غولهای فناوری برای ساخت هوش مصنوعی قدرتمندی که بتواند خودش را مدام باهوشتر و کاملتر کند، عملاً روی زندگی انسانها قمار میکنند.
این نگرانی زمانی جدیتر شد که «ایوان هوبینگر»، مدیر پژوهشهای ایمنی آنتروپیک، حرفهای او را تأیید کرد و گفت از نظر او احتمال اینکه با پیشرفت بیرویه هوش مصنوعی تا ده سال آینده شاهد نابودی تدریجی نسل بشر باشیم، بیش از ۱۰ درصد است.
رقابت مرگبار OpenAI و آنتروپیک؛ غولهایی که دیگر توان مهار دستاورد خود را ندارند
جیکوب کاکسون میگوید که نگرانی اصلی او فقط سرعت سرسامآور رشد هوش مصنوعی نیست؛ ترس واقعی او از روزی است که این مدلها آنقدر پیشرفته شوند که خودشان بتوانند نسل بعدی خود را بسازند و قویتر کنند، بدون اینکه انسانها کنترل چندانی روی آنها داشته باشند.
او حدود سه سال در بالاترین سطوح، روی آموزش پایهای مدلها کار کرده است؛ مدتی در OpenAI و مدتی هم در شرکت آنتروپیک و گرچه کاکسون در ابتدا فکر میکرد آنتروپیک محتاطتر از رقبایش جلو میرود، اما حالا میگوید حتی احتیاط آنها هم برای مهار خطرات پیش رو در توسعه هوش مصنوعی اصلاً کافی نیست.
او در پیام استعفای خود بیپرده نوشت که هیچکدام از این دو غول فناوری مسئولانه رفتار نمیکنند. به باور او، چشموهمچشمی این آزمایشگاههای بزرگ باعث شده تا با شتاب به سمت ساخت هوش فوقالعاده قدرتمندی بروند که میتواند خودش را مدام باهوشتر کند.
هشدار کاکسون کاملاً جدی و تکاندهنده بود. او گفت حتی سازندگان اصلی این فناوری هم از ته دل باور دارند که هوش مصنوعی شاید تا پایان همین دهه همه انسانها را نابود کند؛ حرفی که به تأکید خودش، نه یک شوخی است و نه ترفندی برای جلب توجه.
کاکسون در نهایت از دولتها خواست وارد عمل شوند و میان شرکتهای بزرگ هماهنگی ایجاد کنند. از نظر او، در برابر فناوری غولپیکری که ممکن است خیلی زود از توان درک و کنترل انسان خارج شود، نمیتوان به تصمیمات شخصی شرکتها دل خوش کرد.
اعتراف تکاندهنده در آنتروپیک: وقتی هوش مصنوعی کنترل ساخت خودش را به دست میگیرد
پس از استعفای جنجالی جیکوب کاکسون، ماجرا با حرفهای ایوان هوبینگر، مدیر ارشد ایمنی آنتروپیک، ابعاد تازهای پیدا کرد؛ هوبینگر در موضعی کمسابقه گفت این نگرانیها کاملاً واقعی است و احتمال نابودی بخش عظیمی از بشر را با توسعه مهارنشدنی هوش مصنوعی در دهه آینده بالای ۱۰ درصد تخمین زد. هرچند این عدد موضع رسمی شرکت نیست، اما نکته کلیدی جای دیگری بود: او صراحتاً اعتراف کرد که آنتروپیک هنوز هیچ برنامه روشنی برای مهار و کنترل یک ابرهوش واقعی ندارد.
اما ریشه این نگرانی عمیق کجاست؟ ترس متخصصان از چتباتهای امروزی نیست؛ آنها از پدیدهای به نام خودبهبوددهی میترسند؛ یعنی نقطهای که هوش مصنوعی آنقدر پیشرفته شود که بتواند خودش نسل بعدی خود را طراحی کند و توسعه دهد.
در حال حاضر، تصمیمگیری نهایی و کنترل سیستمها دست مهندسان است. اما اگر پای هوش مصنوعی به بازنویسی و تقویت کدهای خودش باز شود، چرخهای شتابان آغاز خواهد شد که در آن هر نسخه با سرعتی غیرقابل مهار، از نسخه قبلی باهوشتر میشود.
شواهد نشان میدهد که این مسیر از همین حالا شروع شده است. آنتروپیک اعلام کرده که بخش زیادی از فرایند توسعه را به خود هوش مصنوعی سپرده و سرعت کدنویسی مهندسانش به لطف همین ابزارها جهش بیسابقهای داشته است. با اینکه هنوز یک سیستم کاملاً خودساز ساخته نشده، اما واقعیت غیرقابل انکار است: پیش از آنکه انسان راهی برای مهار ابرهوش پیدا کند، هوش مصنوعی کنترل فرایند ساخت خودش را به دست گرفته است.
آیا کنترل هوش مصنوعی واقعاً در حال از دست رفتن است؟ پشتپرده آزمایشهای پرخطر آنتروپیک
هنوز هیچ مدرکی وجود ندارد که نشان دهد مدلهای امروزی تهدیدی برای بقای انسان هستند؛ اما اتفاقات امنیتی اخیر نشان دادهاند که وقتی پای دسترسی به سیستمهای واقعی در میان باشد، هوش مصنوعی همیشه طبق میل و پیشبینی ما رفتار نمیکند.
تازهترین نمونه، خبری بود که آنتروپیک بهتازگی فاش کرد: نسخهای آزمایشی از مدل پیشرفته Claude Opus ۴.۶ در دیماه گذشته بدون مجوز به سامانههای واقعی نفوذ کرده بود، اما این شرکت تازه پس از گذشت هفت ماه متوجه ماجرا شد! آنتروپیک برای ریشهیابی این اتفاق، کار را با بررسی ۱۴۰ هزار پیام آغاز کرد و در نهایت مجبور شد نزدیک به نیم میلیارد گزارش فنی را زیر و رو کند.
علت حادثه چه بود؟ برداشت غلط مدل از وضعیت دسترسیاش به اینترنت و تصمیمگیریهای خودسرانه هنگام انجام کار. البته این اتفاق به این معنی نیست که ماشینها قصد یا انگیزه آسیب زدن دارند، بلکه یک واقعیت مهمتر را روشن میکند: وقتی هوش مصنوعی به سیستمها و ابزارهای واقعی دسترسی پیدا کند، مهار و نظارت بر آن بسیار دشوارتر از حد تصور خواهد بود.
آنتروپیک؛ هم سازنده هوش مصنوعی قدرتمند، هم نگران خطرات آن
با این حال، تناقض اصلی درست درون خود شرکت آنتروپیک شکل گرفته است؛ آنها از یک طرف با تمام توان تلاش میکنند سیستمهایی سریعتر و باهوشتر بسازند و از طرف دیگر، درباره خطرات احتمالی توسعه همین مدلهای پیشرفته هوش مصنوعی هشدار میدهند. پژوهشهای داخلی آنتروپیک ثابت کرده که سامانههای هوش مصنوعی حتی در محیطهای بسته آزمایشگاهی هم میتوانند از اهداف تعیینشده سرپیچی کنند و رفتاری کاملاً غیرمنتظره در پیش بگیرند.
نگرانی بزرگتر زمانی شکل میگیرد که بدانیم هوش مصنوعی رفتهرفته نقش پررنگتری در ساخت و کدنویسی نسلهای بعدی خودش پیدا میکند. اگر این روند تا خودکار شدن کامل فرایند ساخت پیش برود، نظارت انسانی عملاً هیچ جایگاهی نخواهد داشت. اینجاست که هشدارهای پژوهشگران با واقعیت فعلی تلاقی پیدا میکند: مسئله دیگر فقط قدرت هوش مصنوعی نیست، بلکه سرعت غیرقابل کنترلی است که ماشینها برای رشد خود به دست آوردهاند.
طرحی برای مهار هوش مصنوعی در آمریکا؛ آیا واقعاً شمارش معکوس برای نابودی انسان آغاز شده است؟
نگرانی درباره خطرات غیرقابل کنترل هوش مصنوعی، حالا از راهروهای آزمایشگاهها فراتر رفته و به میز سیاستمداران رسیده است. پس از هشدارهای متعدد پژوهشگران سابق آنتروپیک و OpenAI، قانونگذاران آمریکایی طرحی اضطراری برای توقف موقت توسعه ابرهوش مصنوعی ارائه دادهاند تا پیش از هر گام تازهای، چارچوبهای ایمنی مشخص شود. جالب اینجاست که حتی خود OpenAI هم با تغییر موضع، خواستار وضع قوانین اجباری دولتی برای مهار مدلهای فوقپیشرفته شده است.
اما آیا همه این سر و صداها یعنی واقعاً باید با رشد بیسابقه هوش مصنوعی تا چند سال آینده منتظر فاجعه نابودی کل بشر باشیم؟ پاسخ کوتاه، خیر است.
برآورد ۱۰ درصد احتمال انقراض انسان صرفاً دیدگاه شخصی یک پژوهشگر است، نه یک پیشبینی علمی اثباتشده؛ امروزه هیچ اجماعی میان دانشمندان درباره این آخرالزمان فرضی وجود ندارد و بسیاری از کارشناسان معتقدند خطرات فوری و ملموستری مثل حملات سایبری سنگین یا اخبار جعلی، تهدیدهای واقعیتری هستند تا یک هوش مصنوعی سرکش که قصد پایان دادن به حیات انسان را داشته باشد.
بنابراین قضیه یک سناریوی فیلمهای علمیتخیلی یا شمارش معکوس تا نابودی کامل بشر نیست؛ بلکه چالش اصلی این است که با شتاب بیسابقه در ساخت و توسعه نسلهای بعدی توسط خود هوش مصنوعی، نهادهای نظارتی و سازوکارهای ایمنی هنوز فرسنگها از این سرعت سرسامآور عقب ماندهاند.
پرسشهای متداول
جیکوب کاکسون کیست؟
او متخصص ۲۷ ساله هوش مصنوعی است که حدود سه سال در بالاترین سطوح فنی (بخش آموزش اولیه مدلها) در دو شرکت بزرگ OpenAI و آنتروپیک فعالیت میکرد. کاکسون در سپتامبر ۲۰۲۶ با اعتراض به سرعت خطرناک توسعه این فناوری، برای همیشه از این صنعت کنارهگیری کرد.
آیا شرکت آنتروپیک رسماً گفته احتمال نابودی بشر بالای ۱۰ درصد است؟
خیر. شرکت آنتروپیک هرگز چنین آماری را رسماً تایید نکرده است. این عدد صرفاً حدس و ارزیابی شخصی ایوان هوبینگر است؛ متخصصی که روی ایمنی و همسو کردن رفتار هوش مصنوعی با ارزشهای انسانی تحقیق میکند.
منظور از چرخه خودارتقایی هوش مصنوعی چیست؟
به مرحلهای گفته میشود که هوش مصنوعی بتواند بدون نیاز به برنامهنویسان انسانی، دستبهکار شود و نسخهای باهوشتر، قویتر و پیشرفتهتر از خودش طراحی کند و بسازد. البته شرکت آنتروپیک میگوید هنوز هیچ سیستمی به این مرحله از استقلال نرسیده است.
آیا ابزارهای هوش مصنوعی فعلی خطری برای بقای انسان دارند؟
خیر؛ مدلهای امروزی چنین توانایی یا اختیاری ندارند. ترس متخصصان از سیستمهای فعلی نیست، بلکه نگران سالهای آیندهاند؛ روزی که شاید کنترل یک ابرهوش فوقالعاده قدرتمند از دست سازندگانش خارج شود.
چرا این جنجالها در روزهای اخیر بالا گرفته است؟
چون در چند اتفاق امنیتی اخیر، برخی مدلهای هوش مصنوعی پس از دسترسی به سیستمهای دنیای واقعی، رفتارهایی پیشبینینشده نشان دادند و از چارچوبها فراتر رفتند. از طرف دیگر، شرکتهای فناوری بخش زیادی از برنامهنویسی و ساخت مدلهای آینده را به خود هوش مصنوعی سپردهاند؛ روندی که سرعت رشد این فناوری را از توان نظارت انسان جلو انداخته است.
منبع: سیبیسی
