چشم هوش مصنوعی: آیا هوش مصنوعی تهدیدی در سطح سلاح هسته‌ای است؟
به گزارش پایگاه خبری ارز دیجیتال موبو ارز،
آیا هوش مصنوعی مانند سلاح های هسته ای یک تهدید وجودی است یا می تواند ما را به اندازه یک توستر بکشد؟
همانطور که ما به کسی اجازه ساختن هواپیما و پرواز مسافر، یا طراحی و بازاریابی دارو را نمی دهیم، چرا اجازه می دهیم مدل های هوش مصنوعی بدون آزمایش و مجوز مناسب وارد دنیا شوند؟ آیا من نیاز دارم؟
این ادعای تعداد فزاینده ای از کارشناسان و سیاستمداران در هفته های اخیر است.
به احتمال زیاد نرده‌های محافظ جدید ایجاد می‌شوند، زیرا بریتانیا میزبان یک نشست جهانی در مورد ایمنی هوش مصنوعی در پاییز است و نظرسنجی‌ها نشان می‌دهد که حدود ۶۰ درصد از مردم موافق مقررات هستند.
یکی از یادداشت‌های خاص که مطرح شده است، مقایسه فناوری هوش مصنوعی با تهدیدات وجودی مانند سلاح‌های هسته‌ای است. صدها دانشمند هشداری ۲۳ کلمه ای را امضا کرده اند که اخیرا توسط مرکز ایمنی هوش مصنوعی ارسال شده است.
کاهش خطر انقراض ناشی از هوش مصنوعی باید یک اولویت جهانی در کنار سایر خطرات در مقیاس اجتماعی مانند بیماری های همه گیر و جنگ هسته ای باشد.
سام آلتمن، مدیر عامل OpenAI، با بسط این استعاره، بر ایجاد یک آژانس جهانی مانند آژانس بین‌المللی انرژی اتمی برای نظارت بر این فناوری فشار می‌آورد.
او در این هفته در هند گفت: ما در مورد آژانس بین‌المللی انرژی اتمی به‌عنوان الگویی برای جهان صحبت می‌کنیم که بگوییم، “خوب، این فناوری بسیار خطرناک است، بیایید همه نرده‌های محافظ نصب کنیم”.
آزادیخواهان استدلال می‌کنند که اغراق در تهدید و درخواست مقررات صرفاً فریبکاری از سوی شرکت‌های بزرگ هوش مصنوعی برای الف) تحمیل کنترل‌های مستبدانه و ب) سرکوب رقابت از طریق مقررات است.
آرویند نارایانان، استاد علوم کامپیوتر در دانشگاه پرینستون، نسبت به پرومته‌ها که می‌خواهند از آوردن آتش به مردم سود ببرند و به عنوان آتش‌نشان اعتماد کنند، هشدار داد.
Marc Andreessen، یکی از بنیانگذاران Netscape و a16z، این هفته مجموعه ای از مقالات را در مورد دیدگاه خود از آرمانشهر فناوری برای هوش مصنوعی منتشر کرد. او روز رستاخیز هوش مصنوعی را به یک فرقه آخرالزمانی تشبیه کرد و استدلال کرد که هوش مصنوعی به اندازه یک توستر بعید است که بشریت را نابود کند. در اینجا دلیل آن است. هوش مصنوعی فقط به این دلیل که زنده نیست و هدفی ندارد نمی خواهد شما را بکشد.
این ممکن است درست باشد یا نباشد، اما باز هم، ما فقط درک مبهمی از آنچه درون جعبه‌های سیاه فرآیندهای فکری هوش مصنوعی می‌گذرد داریم. اما همانطور که خود آندریسن اعتراف می‌کند، این سیاره پر از انسان‌های سرکش است که می‌توانند از هوش مصنوعی بخواهند سلاح‌های زیستی تولید کند، حملات سایبری انجام دهد یا انتخابات را دستکاری کند. بنابراین حتی اگر از Skynet اجتناب کنید، می تواند در دستان اشتباه خطرناک باشد.نابود کننده سناریو.
مقایسه هسته‌ای احتمالاً بسیار آموزنده است، زیرا در دهه ۱۹۴۰ مردم به شدت درگیر امکان پایان جهان واقعی فناوری هسته‌ای بودند. برخی از اعضای تیم پروژه منهتن آنقدر نگران بودند که بمب یک واکنش زنجیره ای را ایجاد کند که باعث شعله ور شدن جو و نابودی تمام حیات روی زمین شود و خواستار لغو این پروژه شدند.
پس از بمباران، آلبرت انیشتین، که از گستردگی تهدید متقاعد شده بود، برای استقرار فوری یک دولت جهانی با کنترل انحصاری بر زرادخانه فشار آورد.
چه کسی در المپیک ارزهای دیجیتال و بلاک چین طلا خواهد گرفت؟
Terra ضربه سختی به ما زده است: Sunny Aggarwal از Osmosis Labs
یک دولت جهانی هرگز تحقق نیافت، اما جامعه بین‌المللی این تهدید را جدی گرفت و از آن زمان تا کنون بیش از ۸۰ سال است که بشریت از بمب‌گذاری‌های انتحاری در امان بوده است. کشورها توافق نامه هایی را امضا کرده اند که فقط سلاح های هسته ای زیرزمینی را برای محدود کردن ریزش ها و ایجاد رژیم های بازرسی آزمایش می کنند، که امروزه تنها ۹ کشور دارای سلاح هسته ای هستند.
پادکستی در مورد تأثیر هوش مصنوعی بر جامعه بیان می کند: معضل هوش مصنوعیتریستان هریس و آزا راسکین از استقرار ایمن مدل های هوش مصنوعی کاملاً آزمایش شده حمایت می کنند.
من این استقرار عمومی هوش مصنوعی را به عنوان یک آزمایش زمینی هوش مصنوعی می بینم. هریس استدلال کرد، نیازی به انجام این کار نیست.
می‌توانیم فرض کنیم که سیستمی با ظرفیتی که مهندسان حتی نمی‌دانند ظرفیت آن چقدر خواهد بود، تا زمانی که خلاف آن ثابت نشود، لزوماً امن نیست. ما آنها را فقط در محصولاتی مانند اسنپ چت قرار نمی دهیم. ما همچنین می توانیم بار اثبات اینکه چرا آنها فکر می کنند هوش مصنوعی خطرناک است (یا نیست) را نه بر دوش عموم، بلکه بر عهده سازندگان هوش مصنوعی بگذاریم.
همچنین بخوانید: ربات قضات برمی‌خیزند هوش مصنوعی و بلاک چین می‌توانند اتاق‌های دادگاه را تغییر دهند
جن از بطری بیرون آمد
البته، تنظیم هوش مصنوعی ممکن است مانند تحریم بیت کوین باشد. در تئوری خوب است، اما در عمل غیرممکن است. سلاح‌های هسته‌ای، یک فناوری بسیار تخصصی که تنها تعداد انگشت شماری از دانشمندان در سراسر جهان آن را درک می‌کنند، به اورانیوم غنی‌شده نیاز دارند که دستیابی به آن فوق‌العاده دشوار است. از سوی دیگر، هوش مصنوعی منبع باز به صورت رایگان در دسترس است و حتی می توانید مدل های هوش مصنوعی شخصی را دانلود کرده و روی لپ تاپ خود اجرا کنید.
برایان لومر متخصص هوش مصنوعی گفتن او از ۴۵۰ مدل هوش مصنوعی منبع باز در دسترس عموم آگاه است که تقریباً هر ساعت تعداد بیشتری از آنها ساخته می شود. مدل های خصوصی صدها یا هزاران است.
Roemmele همچنین در حال ساخت سیستمی است که به رایانه‌های قدیمی‌تر با مودم‌های شماره‌گیری اجازه می‌دهد به هوش مصنوعی میزبان محلی متصل شوند.
ما در حال کار بر روی ایجاد ChatGPT از طریق یک مودم Dial-up هستیم.
هنوز روزهای اولیه است و هنوز کارهایی برای انجام دادن وجود دارد.
در نهایت این به نسخه محلی GPT4All متصل می شود.
این بدان معناست که هر رایانه قدیمی با مودم شماره گیری می تواند به LLM AI متصل شود.
بعد اتصال COBOL به LLM AI است. pic.twitter.com/ownX525qmJ
برایان رومل (@BrianRoemmele) ۸ ژوئن ۲۰۲۳
امارات متحده عربی همچنین به تازگی یک مدل زبانی با مقیاس بزرگ با منبع باز به نام مدل Falcon 40B منتشر کرده است که برای استفاده تجاری و تحقیقاتی بدون حق امتیاز است. ادعا می کند که از رقبایی مانند Metas LLaMA و StableLM از Stability AI پیشی گرفته است.
حتی یک مولد متن باز متن به ویدئو با هوش مصنوعی به نام Potat 1 وجود دارد که به تازگی بر اساس تحقیقات Runway منتشر شده است.
خوشحالم که مردم از Potat 1 برای ساختن ویدیوهای عالی استفاده می کنند
هنرمند: @iskarioto https://t.co/Gg8VbCJpOY#متن باز # هوش مصنوعی تولید شد دامنه #مدل # متن به ویدیو #text2video سطح @۸۰ @ClaireSilver12 @LambdaAPI https://t.co/obyKWwd8sR pic.twitter.com/2Kb2a5z0dH
Kamenduru (@camenduru) ۶ ژوئن ۲۰۲۳
چرا حوزه هوش مصنوعی به یکباره تکامل یافته است
در حدود یک سال گذشته، شاهد انفجاری باورنکردنی از قابلیت‌های هوش مصنوعی در سراسر جهان بوده‌ایم، از متن هوش مصنوعی گرفته تا تولید ویدیو و آهنگ، ویرایش عکس با ظاهر جادویی، شبیه‌سازی صدا، و تقلبی عمیق با یک کلیک. تکامل یافته است. اما چرا همه این پیشرفت ها در بسیاری از زمینه های مختلف به طور همزمان اتفاق افتاده است؟
آزا راسکین، ریاضیدان و یکی از بنیانگذاران پروژه گونه های زمین، این موضوع را به انگلیسی ساده و جالب توضیح داد. معضل هوش مصنوعی، پیشرفت هایی را که با مدل یادگیری ماشینی ترانسفورماتور به وجود آمد برجسته می کند.
رسانه های اجتماعی غیرمتمرکز: چیز بزرگ بعدی در ارزهای دیجیتال؟
از هر ۱۰ فروش NFT، ۴ مورد جعلی است: یاد بگیرید چگونه علائم تجارت شستشو را تشخیص دهید
او توضیح داد که نوعی بینش این است که شما می توانید به طور مطلق با هر چیزی به عنوان زبان برخورد کنید. به عنوان مثال، می توانید یک تصویر بگیرید. شما می توانید آن را به عنوان نوعی زبان در نظر بگیرید، این فقط مجموعه ای از وصله های تصویری است که می توانند به صورت خطی مرتب شوند و فقط پیش بینی کنند که چه اتفاقی می افتد.
ChatGPT اغلب با ماشینی مقایسه می شود که کلمه بعدی را پیش بینی می کند. بنابراین اگر بتوانیم همه چیز دیجیتالی را به زبان ترجمه کنیم، پتانسیل تولید کلمات زیر را می بینیم:
بنابراین می‌توانید تصاویر را به‌عنوان زبان در نظر بگیرید، صداها را به نام‌های کوچک میکروفون تقسیم کنید، پیش‌بینی کنید که کدام یک از آنها بعدی خواهد بود، و این همان زبان است. داده های fMRI به یک زبان تبدیل می شود، اما DNA فقط یک زبان است. و ناگهان پیشرفت در هر بخشی از دنیای هوش مصنوعی به پیشرفت در هر بخش از دنیای هوش مصنوعی تبدیل شد. فقط کافی است کپی و جایگذاری کنید و خواهید دید که پیشرفت خود در یک سری از فیلدها فوراً دو برابر می شود.
این نیست آینه سیاه
بسیاری متوجه شده اند که پیشرفت های اخیر در هوش مصنوعی چیزی غیرعادی به نظر می رسد. آینه سیاه. اما خالق چارلی بروکر، که ظاهرا فکر می‌کند تخیلش بسیار تاثیرگذارتر از واقعیت است، به مجله Empire گفت که او ChatGPT را برای نوشتن این قسمت سفارش داده است. آینه سیاه و نتیجه کار مزخرف بود.
بروکر گفت که کمی با ChatGPT بازی کرده است. اولین کاری که کردم این بود که قسمتی از Black Mirror را تایپ کردم. و سپس به چیزی رسیدم که در نگاه اول معقول به نظر می رسد، اما با بررسی دقیق تر، تلخ است. به گفته بروکر، هوش مصنوعی به سادگی از بین رفته و توطئه های قسمت های مختلف را کاملاً اشتباه گرفته است.
کمی عمیق تر کاوی کرد و گفت: “اوه، در واقع هیچ فکر اصلی واقعی در اینجا وجود ندارد.”
AI عکس هفته
یکی از چیزهای جالب در مورد تولید کننده های تصویر متن به گفتار هوش مصنوعی این است که می توانند جناس های دور ریختنی را به تصاویری گران قیمت تبدیل کنند که طراحان گرافیک زحمت ایجاد آن را ندارند. در اینجا شگفتی های جهان با غلط املایی توسط هوش مصنوعی (به لطف redditor mossymayn) آورده شده است.
ویدیوی هفته
محققان دانشگاه کمبریج هشت دستور غذای ساده سالاد را به یک سرآشپز ربات هوش مصنوعی نشان دادند که توانست سالادها را به تنهایی درست کند و نهمین دستور سالاد را به تنهایی اختراع کند.
نویسنده: Andrew Fenton
