مدیر عامل OpenAI در کنگره با مدافع “تعلیق هوش مصنوعی” و مدیران IBM شهادت می دهد
به گزارش پایگاه خبری ارز دیجیتال موبو ارز،
کارشناسان هوش مصنوعی از IBM، دانشگاه نیویورک و OpenAI قرار است در تاریخ ۱۶ می در جلسه استماع با عنوان “نظارت بر هوش مصنوعی: قوانین هوش مصنوعی” در برابر سنای ایالات متحده شهادت دهند.
سام آلتمن، مدیر عامل OpenAI، اولین حضور خود را در کنگره در ۱۶ مه خواهد داشت تا در جلسه استماع نظارت در مورد مقررات هوش مصنوعی ایالات متحده (AI) بحث کند. کریستینا مونتگومری، معاون اعتماد و حریم خصوصی IBM، و گری مارکوس، استاد بازنشسته در دانشگاه نیویورک نیز شهادت می دهند.
جلسات استماع سنای آمریکا در جریان است #AI تحت نظارت @ AI را باز کنید مدیر عامل @ looks، IBM @_ChristinaMont و استاد بازنشسته در دانشگاه نیویورک. @گری مارکوس، سه شنبه ساعت ۱۰ صبح به وقت شرقی. https://t.co/VwiR77F52f
– گری مارکوس (@GaryMarcus) ۱۰ مه ۲۰۲۳
جزئیات در مورد دستور جلسه استماع کمیاب است. عنوان “نظارت بر هوش مصنوعی: قوانین هوش مصنوعی” نشان می دهد که بحث بر روی ایمنی و حریم خصوصی متمرکز خواهد بود، همانطور که فهرست مورد انتظار شرکت کنندگان خواهد بود.
این جلسه اولین شهادت ثبت شده در مقابل کنگره برای سام آلتمن، مدیر عامل OpenAI خواهد بود، که اخیرا در کاخ سفید در کنار مدیران عامل آلفابت، مایکروسافت و معاون رئیس جمهور Anthropic، کامالا هریس حضور داشت.
به آلتمن، معاون اعتماد و حریم خصوصی IBM، کریستینا مونتگومری، عضو هیئت مشاوران هوش مصنوعی ملی ایالات متحده، و گری مارکوس، نویسنده پرفروش نیویورک تایمز و استاد بازنشسته در دانشگاه نیویورک، ملحق خواهند شد.
مارکوس اخیراً تمام تلاش خود را کرده و در جامعه هوش مصنوعی موج ایجاد کرده است. حمایت کردن توسعه هوش مصنوعی تحت رهبری جامعه به مدت ۶ ماه متوقف می شود.
مربوط: ایلان ماسک و مدیران فنی خواستار توقف توسعه هوش مصنوعی شدند
ایده تعلیق هوش مصنوعی در نامه سرگشاده ای که در وب سایت موسسه آینده زندگی در ۲۲ مارس منتشر شد، تعریف شد. تا زمان انتشار این مقاله، بیش از ۲۷۵۰۰ امضا جمع آوری شده است.
هدف، که در این نامه ذکر شده، این است که «از همه آزمایشگاههای هوش مصنوعی بخواهیم فوراً آموزش سیستمهای هوش مصنوعی قویتر از GPT-4 را برای حداقل شش ماه متوقف کنند».
سام آلتمن و کریستینا مونتگومری از جمله کسانی هستند که با این تعلیق مخالفت می کنند.
احساسات مونتگومری در یک پست وبلاگ شرکتی IBM با جزئیات توضیح داده شده است که او نوشته است، با عنوان “توسعه هوش مصنوعی را متوقف نکنید، به جای آن اخلاق را در اولویت قرار دهید”، که در آن او علیه مقررات هوش مصنوعی استدلال می کند.
در ترکیب با روندهای موجود که به نظر میرسد سرمایهگذاری در تلاشهای اخلاقی هوش مصنوعی صنعت را از اولویت خارج میکند، توقف کلی آموزش هوش مصنوعی تنها به آسیبها و شکستهای بیشتر منجر میشود.»
طبق یکی دیگر از پست های وبلاگ IBM که بخشی از آن توسط مونتگومری نوشته شده است، این شرکت معتقد است هوش مصنوعی باید بر اساس ریسک تنظیم شود. شایان ذکر است که طبق اطلاعات ما، IBM در حال حاضر یک مدل هوش مصنوعی مولد در دسترس عموم ندارد.
از سوی دیگر، OpenAI مسئول شاید محبوب ترین فناوری هوش مصنوعی مصرف کننده موجود، ChatGPT است.
طبق مصاحبه ای با رکس فریدمن در یک رویداد MIT، مدیر عامل شرکت، آلتمن، از توسعه ایمن و اخلاقی سیستم های هوش مصنوعی حمایت می کند، اما می گوید که “درگیر کردن همه در بحث” و “آنهایی که گفته می شود او معتقد است که این کار را انجام خواهد داد.” سیستم را به دنیا ارسال کنید.
این باعث میشود مارکوس به فردی پرت تبدیل شود، کسی که از زمان آغاز به کار از مهلت قانونی حمایت کرده است. مارکوس اعتراف کرد که او “در تهیه پیش نویس” نامه تعلیق شرکت نداشته است، اما یک پست وبلاگی با عنوان “آیا وقت آن رسیده است که دکمه توقف هوش مصنوعی را بزنید؟” حدود یک ماه قبل از انتشار نامه سرگشاده.
جلسات استماع آتی سنا احتمالاً به عنوان انجمنی برای سؤال کردن قانونگذاران عمل خواهد کرد، اما این بحث بسته به اینکه شما به کدام متخصص اعتقاد دارید، می تواند پیامدهای مخربی داشته باشد.
کارشناسانی مانند مونتگومری میگویند که اگر کنگره پاسخ سختتر به مقررات هوش مصنوعی را ایجاب میکند، چنین تلاشهایی میتواند بدون توجه به نگرانیهای ایمنی، تأثیری سردکننده بر نوآوری داشته باشد.
آسیب ممکن است به بخش های عملیاتی که فناوری GPT زیربنای تعداد زیادی از ربات ها و خدمات است، گسترش یابد. برای مثال، در دنیای فینتک، صرافیهای ارزهای دیجیتال از فناوری چتبات برای خدمترسانی به مشتریان، انجام معاملات و تحلیل بازارها استفاده میکنند.
اما کارشناسانی مانند مارکوس و ایلان ماسک می ترسند که عدم اجرای سیاست های عقل سلیم در مورد نظارت هوش مصنوعی می تواند یک تهدید وجودی برای بشریت باشد.
نویسنده: Tristan Greene