ایلان ماسک و مدیران فناوری خواستار «مکث» توسعه هوش مصنوعی هستند
به گزارش پایگاه خبری ارز دیجیتال موبو ارز،
نویسنده نامه توضیح داد که هوش مصنوعی پیشرفته می تواند منجر به تغییرات عمده ای در تاریخ زندگی روی زمین، چه خوب و چه بد شود.
بیش از ۲۶۰۰ رهبر فناوری و محقق با امضای نامه ای سرگشاده خواستار توقف موقت در توسعه بیشتر هوش مصنوعی (AI) شده اند، زیرا از خطرات جدی برای جامعه و بشریت می ترسند.
ایلان ماسک، مدیر عامل تسلا، استیو وزنیاک از بنیانگذاران اپل، و تعدادی از مدیران عامل هوش مصنوعی، مدیران ارشد فناوری و محققان تهیه شده توسط موسسه آینده زندگی (FOLI)، یک اندیشکده آمریکایی، در ۲۲ مارس یکی از امضاکنندگان نامه ارسالی بودند. به
این مؤسسه از همه شرکتهای هوش مصنوعی خواست که آموزش سیستمهای هوش مصنوعی قویتر از GPT-4 را برای حداقل شش ماه «فوراً متوقف کنند» و بهطور خاص خواستار «هوش رقابتی انسانی برای سودمندی جامعه و بشریت» شد. :
از آزمایشگاههای هوش مصنوعی میخواهیم آموزش مدلهای قدرتمند را موقتاً متوقف کنند.
به تماس FLI با یوشوا بنجیو بپیوندید. @Steve Woz، @harari_yuval، @الون ماسک، @گری مارکوس و بیش از ۱۰۰۰ امضا شده: https://t.co/3rJBjDXapc
توضیح کوتاه در مورد اینکه چرا ما این را می پرسیم – (۱/۸)
– موسسه آینده زندگی (@FLIxrisk) ۲۹ مارس ۲۰۲۳
این موسسه در نامه نوشت: “هوش مصنوعی پیشرفته پتانسیل تغییر عمیق تاریخ حیات روی زمین را دارد و باید با توجه و منابع مناسب برنامه ریزی و مدیریت شود. متاسفانه این سطح از برنامه ریزی و مدیریت غیرممکن است. نه.”
GPT-4 آخرین نسخه چت ربات مبتنی بر هوش مصنوعی OpenAI است که در ۱۴ مارس منتشر شد. تا به امروز، برخی از سخت ترین امتحانات دبیرستان و حقوق ایالات متحده را در صدک ۹۰ گذرانده ام. به نظر می رسد که ۱۰ برابر پیشرفته تر از نسخه اصلی ChatGPT است.
FOLI ادعا میکند که «مسابقهای غیرقابل کنترل» در میان شرکتهای هوش مصنوعی برای توسعه هوش مصنوعی قویتر وجود دارد که «هیچکس، حتی سازندگان آن، نمیتوانند با قطعیت درک، پیشبینی یا کنترل کنند».
فرانک: طوماری برای توقف تمام توسعههای اصلی هوش مصنوعی در جریان است.
به عنوان مثال، نیازی به ارتقاء ChatGPT یا بسیاری از ارتقاءهای دیگر نیست.
امضا شده توسط ایلان ماسک، استیو وزنیاک، مدیر عامل پایداری هوش مصنوعی، و هزاران نفر از رهبران فناوری دیگر.
تفکیک به شرح زیر است. pic.twitter.com/jR4Z3sNdDw
– لورنزو گرین-️ (@mrgreen) ۲۹ مارس ۲۰۲۳
بزرگترین نگرانیها این بود که آیا ماشینها میتوانند کانالهای اطلاعاتی را با «تبلیغ و دروغ» پر کنند و آیا همه فرصتهای شغلی را «خودکار و حذف میکنند».
FOLI این نگرانیها را یک قدم فراتر میبرد و نشان میدهد که تلاشهای کارآفرینانه این شرکتهای هوش مصنوعی میتواند به تهدیدات وجودی منجر شود.
“آیا باید ذهنهای غیرانسانی را پرورش دهیم که ممکن است در نهایت تعدادشان بیشتر شود، عاقلتر شوند، منسوخ شوند و جایگزین ما شوند؟ آیا باید تو را آزار بدهم؟”
در این نامه افزوده شده است: «این گونه تصمیمات نباید به رهبران فنی غیر منتخب واگذار شود.
من امروز کمی اضطراب وجودی هوش مصنوعی دارم
— ایلان ماسک (@elonmusk) ۲۶ فوریه ۲۰۲۳
این آزمایشگاه همچنین با بیانیه اخیر سام آلتمن، بنیانگذار OpenAI، موافق است که نشان می دهد ممکن است قبل از آموزش سیستم های هوش مصنوعی آینده، یک بررسی مستقل لازم باشد.
آلتمن در یک پست وبلاگی در ۲۴ فوریه بر نیاز به آماده شدن برای ربات های هوش عمومی مصنوعی (AGI) و ابرهوش مصنوعی (ASI) تاکید کرد.
با این حال، همه مفسران هوش مصنوعی برای امضای این طومار عجله ندارند. بن گورتزل، مدیر عامل SingularityNET، در پاسخ توییتر در ۲۹ مارس به گری مارکوس، خالق Rebooting.AI توضیح داد که مدلهای یادگیری زبان (LLM) هرگز به AGI تبدیل نمیشوند.
به طور کلی، جامعه انسانی بهتر است از GPT-5 استفاده کند تا GPT-4. بهتر است از یک مدل کمی هوشمندتر استفاده کنید. این که هوش مصنوعی مشاغل انسانی را در اختیار بگیرد در نهایت چیز خوبی است. توهمات و ابتذال کاهش می یابد و مردم یاد می گیرند که با آنها برخورد کنند.
– بن گورتزل (@bengoertzel) ۲۹ مارس ۲۰۲۳
در عوض، او گفت که تحقیق و توسعه سلاح هایی مانند سلاح های بیولوژیکی و هسته ای باید کند شود.
علاوه بر مدلهای یادگیری زبان مانند ChatGPT، فناوری تقلبی عمیق مبتنی بر هوش مصنوعی برای ایجاد فریبهای تصویری، صوتی و ویدیویی قانعکننده استفاده میشود. این فناوری همچنین برای ایجاد آثار هنری تولید شده توسط هوش مصنوعی مورد استفاده قرار میگیرد و این نگرانی را ایجاد میکند که ممکن است در برخی موارد قوانین کپی رایت را نقض کند.
مربوط: ChatGPT اکنون با استفاده از افزونه OpenAI جدید به اینترنت دسترسی دارد
مایک نووگراتز، مدیرعامل گلکسی دیجیتال اخیراً به سرمایهگذاران گفته است که از میزان توجه قانونگذاران به ارزهای دیجیتال و توجه کم به هوش مصنوعی شوکه شده است.
او در جلسه سهامداران در ۲۸ مارس گفت: «وقتی به هوش مصنوعی فکر میکنم، شوکه میشوم که آنها درباره تنظیم ارزهای دیجیتال زیاد صحبت میکنند و چیزی درباره تنظیم هوش مصنوعی صحبت نمیکنند.»
FOLI استدلال می کند که اگر تعلیق توسعه هوش مصنوعی به زودی تصویب نشود، دولت باید درگیر تعلیق شود.
این مهلت قانونی باید عمومی، قابل تأیید و شامل همه سهامداران کلیدی باشد. وجود دارد.
مجله: چگونه از “انقراض انسان” توسط هوش مصنوعی با بلاک چین جلوگیری کنیم؟
نویسنده: Brayden Lindrea