مشاور کارگروه هوش مصنوعی بریتانیا هشدار داد که هوش مصنوعی ظرف دو سال آینده بشریت را تهدید می کند

به گزارش پایگاه خبری ارز دیجیتال موبو ارز،

یکی از مشاوران کارگروه هوش مصنوعی نخست وزیر بریتانیا گفت که مدل‌های هوش مصنوعی در مقیاس بزرگ در دو سال آینده نیاز به تنظیم و کنترل دارند تا خطرات بقای قابل توجهی را مهار کنند.

یکی از مشاوران گروه ویژه هوش مصنوعی نخست‌وزیر بریتانیا می‌گوید حدود دو سال تا کنترل و تنظیم هوش مصنوعی توسط انسان‌ها باقی مانده تا زمانی که بیش از حد قدرتمند شود.

مت کلیفورد، که همچنین ریاست آژانس تحقیقات و اختراعات پیشرفته بریتانیا (ARIA) را بر عهده دارد، در مصاحبه ای با رسانه های محلی بریتانیا تاکید کرد که سیستم فعلی “قابلیت های خود را با سرعت فزاینده ای افزایش می دهد”.

وی ادامه داد که اگر مسئولان از هم اکنون به بررسی ایمنی و مقررات نپردازند، این سیستم تا دو سال دیگر “بسیار قوی” خواهد شد.

دو سال طول می‌کشد تا چارچوبی را ایجاد کنیم که در کنترل و تنظیم این مدل‌های بسیار بزرگ بسیار بیشتر از امروز باشد.»

کلیفورد هشدار داد که در مورد هوش مصنوعی “همه نوع خطر” وجود دارد، چه در کوتاه مدت و چه بلند مدت، و آن را “بسیار ترسناک” خواند.

این مصاحبه در پی نامه ای است که هفته گذشته توسط مرکز ایمنی هوش مصنوعی منتشر شد. در این نامه که توسط ۳۵۰ کارشناس هوش مصنوعی از جمله مدیر عامل OpenAI امضا شد، آمده است که هوش مصنوعی باید به عنوان یک تهدید وجودی مشابه با تهدید ناشی از سلاح های هسته ای و بیماری های همه گیر در نظر گرفته شود. .

آنها در مورد اینکه چه اتفاقی می افتد اگر ما یک گونه جدید با هوش عملا برتر از انسان ایجاد کنیم، صحبت می کنند.

مشاوران گروه ضربت هوش مصنوعی گفتند که این تهدیدات ناشی از هوش مصنوعی «احتمالاً باعث مرگ بسیاری از انسان‌ها می‌شود، اما نه همه انسان‌ها، از جایی که انتظار می‌رود این مدل دو سال بعد از آن ساخته شود». .

مربوط: بازده ارزهای دیجیتال مرتبط با هوش مصنوعی پس از راه اندازی ChatGPT تا ۴۱ درصد افزایش یافت: مطالعه

به گفته کلیفورد، تمرکز اصلی تنظیم کننده ها و توسعه دهندگان باید بر درک نحوه کنترل مدل و اجرای مقررات در مقیاس جهانی باشد.

در حال حاضر، او گفت که بزرگترین نگرانی عدم درک چرایی رفتار مدل‌های هوش مصنوعی است.

«افرادی که توانمندترین سیستم ها را می سازند، صراحتاً اعتراف می کنند که دقیقاً نمی دانند چگونه کار می کنند. [AI systems] رفتاری مانند آنها نشان می دهد. “

کلیفورد تاکید کرد که بسیاری از رهبران سازمان‌هایی که هوش مصنوعی می‌سازند نیز موافق هستند که مدل‌های هوش مصنوعی قوی باید قبل از استقرار تحت نوعی فرآیند ممیزی و ارزیابی قرار گیرند.

رگولاتورها در سراسر جهان اکنون در تلاش برای درک هر دو فناوری و پیامدهای آن هستند و سعی می کنند مقرراتی را ایجاد کنند که ضمن محافظت از کاربران، نوآوری را امکان پذیر کند.

در ۵ ژوئن، مقامات اتحادیه اروپا حتی پیشنهاد کردند که برای جلوگیری از اطلاعات نادرست، تمام محتوای تولید شده توسط هوش مصنوعی برچسب گذاری شود.

در بریتانیا، وزرای اپوزیسیون نظرات بیان شده در نامه CAIS را تکرار کردند و گفتند که فناوری باید به همان شیوه پزشکی و انرژی هسته ای تنظیم شود.

مجله: AI Eye: 25000 معامله گر روی انتخاب سهام ChatGPT شرط بندی می کنند، هوش مصنوعی در پرتاب تاس و موارد دیگر بد است

نویسنده: Savannah Fortis