استعفای یک محقق هوش مصنوعی و متهم کردن اوپنایآی و آنتروپیک به عملکرد غیرمسئولانه بحث این روزهای رسانههای تکنولوژی و اجتماعی شده است.
شبکه سیانبیسی در خصوص استعفای جیکوب کاکسون که به عنوان محقق در هر دو شرکت اوپنایآی و آنتروپیک کار کرده، گزارش داده که دلیل نگرانی این محقق این است که به عقیده او شرکتهای اوپنایآی و آنتروپیک «با زندگی ما قمار میکنند.»
او در پستی روی شبکه ایکس اعلام کرده افرادی که هوش مصنوعی را میسازند «جدا معتقدند که این فناوری میتواند تا پایان این دهه همه ما را بکشد.»
کاکسون با هشدار بر اینکه «قدرت این فناوری را دستکم نگیرید» گفته «اینها به زودی سیستمهای فوق بشری خواهند بود که میتوانند هر چیزی را هک کنند، هر زمینهای را یک شبه متحول کنند و قدرت و منابع واقعی را به دست آورند.»
پست کاکسون که از سهشنبه بیش از ۷۰ میلیون بار مشاهده شده، بحث طولانی مدت در سیلیکونولی را که آیا میتوان هوش مصنوعی را با خیال راحت توسعه و کنترل کرد، برجسته میکند.
همزمان با اینکه شرکتهای اوپنایآی و آنتروپیک با سرعت به سمت عرضه اولیه سهام بالقوه تاریخی حرکت میکنند و در عین حال مدلهای پیشرفتهتری را منتشر میکنند، بسیاری از محققان خواستار کاهش سرعت هماهنگ هوش مصنوعی شدهاند.
جاکوب پاچوکی، دانشمند ارشد اوپنایآی، نیز یکشنبه یک پست وبلاگی منتشر کرد و هشدار داد که هیچ شرکت هوش مصنوعی «مسئله همترازی و نظارت را به اندازه کافی حل نکرده تا بتواند برای مدت طولانیتری با حداکثر سرعت به مقیاسپذیری مسئولانه ادامه دهد.»
در صنعت هوش مصنوعی، همترازی به کار توسعهدهندگان هوش مصنوعی اشاره دارد تا اطمینان حاصل شود که سیستم مطابق با ارزشها و نیات انسانی رفتار میکند.
پاچوکی نوشت: « انتظار دارم و امیدوارم که کاهش سرعت داوطلبانه تا زمانی که موانع مشترک ایجاد شود، رایج شود. و معتقدم که هماهنگی بینالمللی در توسعه هوش مصنوعی آینده باید به اولویت اصلی دولتها در سراسر جهان تبدیل شود.»
