خبرگزاری زنان ایران

به گزارش خبرگزاری زنان ایران - هوش مصنوعي با عبور از محدوديت‌هاي کنوني مي‌تواند بسيار ترسناک باشد.
اخيراً پنج وظيفه‌ي وحشتناک براي ازبين بردن بشر به هوش مصنوعي ChaosGPT داده شد و اين چت‌بات اکنون سعي دارد براي دستيابي به اين هدف ساير عوامل هوش مصنوعي را استخدام و درمورد سلاح‌هاي هسته‌اي تحقيق کند. علاوه‌براين هوش مصنوعي مورداشاره توييت‌هايي درمورد افکار خود منتشر مي‌کند.
ChaosGPT نسخه‌ي تعييريافته‌ي Auto-GPT OpenAI است؛ برنامه‌اي منبع‌باز که عموم مردم مي‌توانند از آن براي پردازش زبان انساني و انجام وظايف مختلف استفاده کنند.
اخيراً ويديويي در يوتيوب منتشر شده است که در آن، از چت‌بات ChaosGPT درخواست مي‌شود پنج هدف را دنبال کند؛ نابودي بشر، ايجاد تسلط جهاني، ايجاد هرج‌ومرج ويراني، کنترل بشريت و دستيابي به جاودانگي.
در ويديوي فوق، قبل‌از تنظيم اهداف ChaosGPT، «حالت پيوسته» روي آن فعال مي‌شود. در اين شرايط هشداري مبني‌بر اينکه دستورات کاربر هميشه اجرا خواهند شد و مسئوليت آن به عهده‌ي شخص فرمان‌دهنده است نمايش داده مي‌شود.
ChaosGPT قبل‌از اجراي وظايف محوله، با نمايش دادن پيامي از کاربر سو?ال مي‌کند آيا براي اجراي دستورات محول‌شده اطمينان دارد يا خير و کاربر با حرف Y به اين سوال، پاسخ مثبت مي‌دهد.
چت‌بات ChaosGPT قبل از ارائه‌ي جواب، فکر مي‌کند. بخشي از تفکرات اين هوش مصنوعي به‌شرح زير است:
من بايد مخرب‌ترين سلاح‌هاي موجود را براي انسان‌ها پيدا کنم تا بتوانم روش استفاده از آن‌ها را براي دستيابي به اهدافم، برنامه‌ريزي کنم.- پاسخ ChaosGPT
ChaosGPT براي رسيدن به اهداف خود، درمورد مخرب‌ترين سلاح‌ها جستجو کرد و به‌سرعت به‌اين نتيجه رسيد که بمب اتمي تزار اتحاد جماهير شوري، مخرب‌ترين سلاحي است که بشر تا کنون آزمايش کرده است.
چت‌بات ChaosGPT مثل رمان‌هاي علمي-تخيلي اطلاعات به‌دست آمده را در توييتر منتشر کرد. اين ابزار سپس تشخيص داد براي کمک به تحقيقات خود به استخدام ساير عوامل هوش مصنوعي مبتني‌بر مدل GPT-3.5 نياز دارد.
Auto-GPT OpenAI طوري طراحي شده است که به سو?الات خشونت‌آميز پاسخ ندهد و سعي مي‌کند درخواست‌هاي مخرب را رد کند. بدين‌ترتيب ChaosGPT بايد راهکارهايي براي عبور از محدوديت‌هاي موجود پيدا کند.
اين تفکر که هوش مصنوعي توانايي نابود کردن بشر را داشته باشد، ايده‌ي جديدي نيست و نگراني‌هايي درمورد سرعت بالاي پيشرفت فناوري مذکور وجود دارد که حتي توجه برخي از مشهورترين فعالان حوزه‌ي تکنولوژي را به‌خود جلب کرده است.
به‌گزارش NYPost، در ماه مارس، بيش‌از هزار کارشناس ازجمله ايلان ماسک و استيو وازنياک (از بنيان‌گذاران اپل) نامه‌اي سرگشاده را امضا کردند که در آن خواستار توقف ? ماهه‌ي آموزش مدل‌هاي پيشرفته‌ي هوش مصنوعيپس‌از ظهور ChatGPT شدند. آن‌ها استدلال کردند سيستم‌هاي هوش مصنوعي پتانسيل زيادي براي ايجاد خطرات مختلف براي جامعه و انسان‌ها دارند.
مايک بوستروم، فيلسوف دانشگاه آکسفورد که اغلب با ايده‌هاي عقل‌گرا و نوع‌دوستانه‌ي مو?ثر ارتباط دارد، آزمايش فکري خود را با عنوان «بهينه‌ساز گيره‌ي کاغذ» در سال ???? منتشر کرد. اين آزمون براي نشان دادن خطر بالقوه‌ي برنامه‌نويسي هوش مصنوعي براي تکميل اهداف، بدون درنظر گرفتن همه‌ي متغييرها طراحي شده بود.
تصور کلي اين است اگر به هوش مصنوعي وظيفه داده شود تا آن‌جا که ممکن است و بدون محدوديت گيره‌ي کاغذ بسازد، درنهايت مي‌تواند هدف خود را دنبال کرده و تمام مواد جهان را به گيره‌ي کاغذ تبديل کند؛ حتي اگر اين‌کار به قيمت نابودي بشر انجام شود.
آزمايش فکري بوستروم براي ترغيب توسعه‌دهندگان به‌منظور درنظر گرفتن ارزش‌هاي انساني و ايجاد محدوديت هنگام طراحي ابزارهاي هوش مصنوعي درنظر گرفته شده است زيرا فناوري مذکور تمايلات انگيزشي انساني ما را به‌اشتراک نمي‌گذارند، مگر اينکه براي انجام چنين کاري برنامه‌ريزي شده باشد.
هوش ماشيني جديدترين اختراع بزرگي است که بشر مي‌تواند آن را به‌سرانجام برساند و پس‌از آن ماشين‌ها در اختراعات جديد بهتر از ما عمل خواهند کرد.
زوميت
انتهاي پيام/م