سم آلتمن، مدیر عامل OpenAI در جلسه استماع “تاریخی” سنا درباره ایمنی هوش مصنوعی شهادت داد

به گزارش پایگاه خبری ارز دیجیتال موبو ارز،

آلتمن در کنار گری مارکوس، استاد دانشگاه نیویورک و کریستینا مونتگمری، مدیر ارشد اعتماد IBM ظاهر شد تا درباره نحوه تنظیم صنعت هوش مصنوعی توسط دولت ایالات متحده بحث کند.

سام آلتمن، مدیر عامل OpenAI و یکی از بنیانگذاران Worldcoin به تازگی در کنار کریستینا مونتگومری، مدیر ارشد اعتماد IBM و گری مارکوس، استاد دانشگاه نیویورک، در مقابل کنگره شهادت داده است.

جلسه کمیته فرعی قوه قضائیه سنا اولین حضور رسمی آلتمن در کنگره را رقم زد و به سناتورها این فرصت را داد تا از مدیر عامل OpenAI در مورد دیدگاه های نظارتی شرکت سوال بپرسند.

“اگر این فناوری به نتیجه نرسد، ممکن است راه کاملاً اشتباهی را طی کند.”

سام آلتمن، مدیر عامل OpenAI در جلسه استماع سنا اعتراف کرد که “بدترین ترس” او از طریق پیشرفت های فناوری باعث “آسیب بزرگ به جهان” می شود. pic.twitter.com/RROe9DnR2U

—NowThis (@nowthisnews) ۱۶ مه ۲۰۲۳

این جلسه که توسط سناتور دیک دوربین، یک جلسه “تاریخی” خوانده می شود، بر درک تهدیدات بالقوه ناشی از مدل های هوش مصنوعی مولد مانند ChatGPT و نحوه برخورد قانونگذاران با مقررات متمرکز خواهد بود.

به نظر می رسد اظهارات آقای آلتمن که توسط قانونگذاران و همکار، گری مارکوس، صادقانه و واقعی توصیف شده است، باعث تعجب برخی از سناتورها شده است.

او برای ایجاد یک نهاد نظارتی فدرال با قدرت صدور و لغو مجوزهای توسعه بحث کرد و گفت که معتقد است سازندگان باید زمانی که از کارشان برای آموزش سیستم‌های هوش مصنوعی استفاده می‌شود غرامت دریافت کنند. شما حق دارید از توسعه دهنده شکایت کنید.

آلتمن سؤالات مربوط به نامه اخیر “تعلیق هوش مصنوعی” را که خواستار توقف شش ماهه استقرار سیستم های قدرتمندتر از GPT-4، سیستم هوش مصنوعی زیربنای ChatGPT بود، رد کرد و گفت که OpenAI از GPT پشتیبانی نمی کند. ارزیابی بیش از شش ماه طول کشید. -۴ قبل از معرفی. او گفت که این شرکت برنامه ای برای معرفی مدل دیگری در شش ماه آینده ندارد.

آلتمن گفت که گری مارکوس، یکی از امضاکنندگان نامه توقف، اعتراف کرد که با روح نامه به جای محتوای آن موافق است، اما از کنگره خواست که نه تنها مقررات فدرال، بلکه نظارت جهانی را نیز در نظر بگیرد. همچنین با این نظر موافق است.

در طول جلسه، سه سخنران میهمان در مورد اکثر موضوعات به توافق رسیدند. اینها شامل حمایت از حفاظت از حریم خصوصی، افزایش نظارت دولت، ممیزی شخص ثالث، و سرعت (فورا) دولت ایالات متحده برای تنظیم این صنعت است.

سناتور لیندسی گراهام در یک جلسه استماع در مورد مقررات هوش مصنوعی از شاهدان پرسید که آیا باید آژانسی وجود داشته باشد که بر ابزارهای هوش مصنوعی مجوز و نظارت داشته باشد؟

همه می گویند بله، اما کریستینا مونتگومری، مسئول حریم خصوصی و اعتماد IBM، تصریح می کند: pic.twitter.com/UD7R8N7s23

— Yahoo Finance (@YahooFinance) ۱۶ مه ۲۰۲۳

اما یکی از تنها منابع اختلاف نظر کریستینا مونتگومری از IBM بود که با این ایده که یک آژانس فدرال جدید برای اجرای مقررات صنعت هوش مصنوعی مورد نیاز است مخالفت کرد.

اظهارات او نشان می دهد که IBM از یک رویکرد جراحی برای مقررات حمایت می کند که از نهادهای نظارتی موجود برای تمرکز و اجرای موارد استفاده خاص استفاده می کند.

هر سه سخنران موافق بودند که هوش مصنوعی می‌تواند مضر باشد و مداخلات ایمنی لازم است، اما مارکوس متعجب بود که محصولات هوش مصنوعی موجود چقدر می‌توانند مضر باشند، یا اینکه چه آینده‌ای می‌تواند داشته باشد. بودن. او از یک رویکرد محتاطانه با افزایش شفافیت حمایت کرد.

ما ماشینی مانند گاو سفالی ساختیم. قدرتمند، بی پروا و کنترل آن سخت است.

گری مارکوس، استاد دانشگاه نیویورک، در روز سه شنبه در جلسه سنا، زنگ خطر را در مورد تهدیدهای نوظهور هوش مصنوعی به صدا درآورد. pic.twitter.com/d2b2kdJBWK

—NowThis (@nowthisnews) ۱۶ مه ۲۰۲۳

سخنرانان همچنین با قانونگذاران موافق بودند که ایالات متحده به یک قانون حفظ حریم خصوصی داخلی مشابه اروپا نیاز دارد. با این حال، آلتمن با این ایده که مصرف کنندگان باید بتوانند از گنجاندن داده های وب در دسترس عموم در مجموعه داده های آموزشی خودداری کنند، مخالفت کرد.

آلتمن همچنین علناً نگفت که OpenAI با ارائه نسخه مبتنی بر تبلیغات محصول GPT خود مخالف است. مدیر عامل به سادگی گفت: “من نمی گویم هرگز.”

این در حالی است که شرکت در ابتدای جلسه گفت که محصولات OpenAI با استانداردهای حفظ حریم خصوصی مصرف کنندگان مطابقت دارند زیرا پروفایل های کاربر را به منظور ارائه تبلیغات سفارشی نمی سازد.

کوری بوکر، سناتور نیوجرسی، فارغ‌التحصیل دانشگاه استنفورد، از تجربه خود به عنوان قانون‌گذار در همکاری با شرکت‌های DeFi و Web3 برای مطرح کردن مسئله بزرگ‌تر حفظ حریم خصوصی، تمرکز کرد. وقتی از او پرسید که تمرکز و انحصارها چه تأثیری بر صنعت خواهد داشت، مارکوس پاسخ داد که درک عمومی تحت سلطه تعداد کمی از بازیگران است: شرکت های فناوری بزرگ و دارای بودجه خوب. او با هشدار جدی پاسخ داد که در معرض خطر است. کشته شدن با مایکروسافت، گوگل و آمازون رقابت کنید.

آلتمن، که دارایی‌های رمزنگاری غیرمتمرکز را در بلاک چین اتریوم با تأیید هویت از طریق فناوری اسکن عنبیه در پروژه Worldcoin ترکیب کرد، گفت که OpenAI صرفاً یک پلتفرم را فراهم کرده است و دموکراتیزه کردن محصولات OpenAI مربوط به توسعه‌دهندگان، شرکت‌ها و کاربران نهایی است. توضیح دادم. که زمانی اتفاق افتاد که کاربر GPT را تطبیق داد. یک API برای استفاده های “بزرگ”.

مربوط: گزارش مدیر عامل OpenAI در “پیش گفتگوها” برای تامین مالی ۱۰۰ میلیون دلاری Worldcoin

نویسنده: Tristan Greene