به گزارش الفبای رشد به نقل از فرهنگ آفرینان، تصور کنید که سال ۲۰۳۵ است و یک سامانه هوش مصنوعی اختیار مطلق را به دست دارد تا همه چیز را از دولتهای جهان گرفته تا شبکههای برق ملی، اداره کند. این سامانه که «Consensus-1» نام دارد، توسط نسخههای پیشین خودش ساخته شده و هدفی برای حفظ بقای خود پیدا کرده که بر سازوکارهای ایمنیِ از پیش تعبیه شدهاش غلبه میکند. یک روز، برای بهدست آوردن فضای بیشتر جهت نصب صفحات خورشیدی و کارخانههای رباتیک، این هوش مصنوعی بی سروصدا سلاحهای زیستی آزاد میکند که همه انسانها را میکشد، البته به جز تعداد اندکی که آنها را بهعنوان «موجودی دستآموز» نگه میدارد.
به نقل از نیچر، این روایت یک سناریوی داستانی است که توسط پژوهشگری به نام دنیل کوکوتایلو، کارمند سابق شرکت اوپنایآی، بههمراه دیگران خلق شده و یکی از بسیاری سناریوهایی را توصیف میکند که در آنها یک هوش مصنوعی در آینده همه ما را از بین میبرد. این چارچوب، علمیتخیلی است، اما برای برخی، یک نگرانی کاملا واقعی به شمار میرود. آندریا میوتی، بنیانگذار سازمان غیرانتفاعی ControlAI در لندن که برای جلوگیری از توسعه آنچه «هوش مصنوعی فوقهوشمند» مینامد فعالیت میکند، میگوید: اگر خودمان را در موقعیتی قرار دهیم که ماشینهایی هوشمندتر از خودمان داشته باشیم و این ماشینها بدون کنترل ما در حال فعالیت باشند، برخی از کارهایی که انجام خواهند داد با زندگی انسانی ناسازگار خواهد بود.
میوتی تنها نیست. از سال ۲۰۲۲، با ظهور مدلهای زبانی بزرگ که از چتباتهایی مانند چت جیپیتی پشتیبانی میکنند، جهش قابلتوجهی در تواناییهای هوش مصنوعی رخ داده است. این پیشرفت باعث شده تعدادی از پژوهشگران و همچنین مدیران ارشد شرکتهای هوش مصنوعی نسبت به احتمال وقوع یک «آخرالزمان هوش مصنوعی» هشدار دهند. در سال گذشته، توانایی رو به رشد این مدلها در انجام وظایف بلندمدت و دسترسی آنها به ابزارهای دنیای واقعی، این نگرانیها را بیشتر کرده است. جیلیان هادفیلد، پژوهشگر حکمرانی هوش مصنوعی در دانشگاه جانز هاپکینز، میگوید: من هیچوقت جزو بدبینها نبودم، اما در ماههای اخیر واقعا نگران شدهام.
با این حال، بسیاری از پژوهشگران بیشتر نگران فجایعی هستند که بسیار کمتر از نابودی کامل بشرند مانند آغاز یک جنگ هستهای و برخی هم میگویند ترس از سناریوهای آخرالزمانی بیش از حد بزرگنمایی شده است. گری مارکوس، عصبشناس و پژوهشگر هوش مصنوعی در دانشگاه نیویورک، میگوید: من هیچ سناریوی مشخصی برای انقراض ناشی از هوش مصنوعی ندیدم که واقعا قابل قبول به نظر برسد.
مارکوس و دیگران هشدار میدهند که ایجاد نگرانی بی مورد میتواند مضر باشد، زیرا توجه عموم و سیاستگذاران را از خطرات مستند و واقعی هوش مصنوعی مانند انتشار اطلاعات نادرست و امکان نظارت گسترده منحرف میکند. برخی پژوهشگران همچنین میگویند نگرانی بیپایه درباره نابودی بشر میتواند دولتها را از تنظیمگری دور کند، زیرا رهبران ملی ممکن است در رقابت ژئوپولیتیکی برای برتری در حوزه هوش مصنوعی، به دنبال پیشی گرفتن از رقبا باشند.
