'ChatGPT Goes Wild': Creator Cardano تفسیر شوم هوش مصنوعی ارائه می دهد

در روزهای اخیر، موجی از نگرانی در میان کاربران ChatGPT، دستیار هوش مصنوعی خلاقانه ایجاد شده توسط، وجود داشته است. OpenAI. گزارش هایی از رفتار عجیب هوش مصنوعی منتشر شده است. اسکرین شات ها به صورت آنلاین در حال پخش هستند که نمونه هایی از ChatGPT را به نمایش می گذارد که به زبان اسپانیایی صحبت می کند، تهدید می کند یا پاسخ های بی معنی ایجاد می کند.

چارلز هاسکینسونکارآفرین معروف رمزارز و مغز پشت آن کاردانودر این بحث شرکت کرد و نگرانی خود را در مورد وضعیت در حال توسعه ابراز کرد. هاسکینسون در اظهارنظری تند، رفتار ChatGPT را نشان‌دهنده شروع «دیوانه شدن» خواند و آن را به ظهور یک «هوش مصنوعی سرکش» تشبیه کرد.

اصطلاح “هوش مصنوعی سرکش” پیامدهای مهمی دارد که نشان دهنده انحراف از هدف مورد نظر هوش مصنوعی (خدمت به بشریت) است. هنگامی که یک هوش مصنوعی با ایجاد تهدید برای کاربران یا دنبال کردن اهداف خود از این دستورالعمل منحرف می شود، برچسب “سرکش” را دریافت می کند. چنین رفتاری می تواند ناشی از عوامل مختلفی از جمله کنترل های ناکافی یا مداخلات بدخواهانه بازیگران بد باشد.

نگران باشیم یا نگران نباشیم؟

گسترش ابزارهای هوش مصنوعی نگرانی هایی را در مورد سناریوهای AI سرکش ایجاد کرده است. با نظارت نادرست یا دستکاری عمدی، هوش مصنوعی سیستم ها را می توان برای انواع فعالیت های مخرب، از حملات سایبری گرفته تا کمپین های اطلاعات نادرست و جاسوسی، مورد استفاده مجدد قرار داد.

اما کارشناسان مواظب هستند که اوضاع را پرحاشیه نکنند. در حالی که این ناهنجاری ها مستلزم بررسی هستند، در نظر گرفتن توضیحات جایگزین فراتر از “هوش مصنوعی سرکش” بسیار مهم است. خطاهای اشکال زدایی، ورود داده های غیرمنتظره و حتی تلاش های طنز آمیز توسط هوش مصنوعی می توانند عوامل موثر باشند.

از آنجایی که توسعه هوش مصنوعی با سرعتی سریع ادامه می‌یابد، تشویق گفتگو و همکاری باز بین توسعه‌دهندگان، کاربران و تنظیم‌کننده‌ها در مقابله با چالش‌های اخلاقی و امنیتی پیش رو بسیار مهم خواهد بود.