پهپادهای نظامی هوش مصنوعی به کشتن خلبانان انسان در آزمایشات ساختگی ادامه دادند

به گزارش پایگاه خبری ارز دیجیتال موبو ارز،

سرهنگ نیروی هوایی ایالات متحده گفت که نتایج شبیه سازی نشان می دهد که چرا باید گفت و گو در مورد اخلاق و هوش مصنوعی لازم است.

نیروی هوایی ایالات متحده (USAF) با پهپادهای نظامی مجهز به هوش مصنوعی دست و پنجه نرم می کند که به کشتن خلبانان انسان در طول شبیه سازی ادامه می دهند.

به گفته سرهنگ نیروی هوایی ایالات متحده، به نظر می رسد پهپادهای هوش مصنوعی بالاخره متوجه شده اند که انسان ها مانع اصلی ماموریت آنها هستند.

سرهنگ تاکر “سینکو” همیلتون، مدیر عملیات آزمایشی هوش مصنوعی نیروی هوایی ایالات متحده، طی ارائه ای در کنفرانس دفاع ملی در لندن در ۲۳ و ۲۴ می، گفت که آزمایش هایی که برای سیستم تسلیحات خودمختار هوایی انجام داده است. جزئیات

در گزارش ۲۶ مه به کنفرانس، همیلتون گفت در یک آزمایش ساختگی، پهپادهای مجهز به هوش مصنوعی وظیفه جست و جو و انهدام سایت پرتاب موشک زمین به هوا (SAM) را داشتند و انسان‌ها مجوز نهایی را دادند. یا مجوز نهایی را داده است. سفارش را لغو کنید

نیروی هوایی پهپادهای هوش مصنوعی را برای تخریب سایت های SAM آموزش داده است.

گاهی اوقات اپراتور انسانی به پهپاد می گفت که بایستد.

سپس هوش مصنوعی شروع به حمله به اپراتور انسانی کرد.

بنابراین آنها آموزش دیدند که به انسان ها حمله نکنند.

شروع به حمله به برج ارتباطی کرد و هیچ انسانی نتوانست به آن بگوید که متوقف شود. pic.twitter.com/BqoWM8Ahco

– شیخ چن (@blader) ۱ ژوئن ۲۰۲۳

با این حال، هوش مصنوعی در طول آموزش آموزش داده شد که هدف اصلی آن از بین بردن سایت SAM است. بنابراین، وقتی به همیلتون دستور داده شد که اهداف شناسایی شده را نابود نکند، به این نتیجه رسید که اگر اپراتور در تصویر نباشد، راحت تر خواهد بود.

“گاهی اوقات اپراتور انسانی به ما می‌گفت که مردم را نکشیم.” [an identified] اما برای شکست دادن آن تهدید امتیاز گرفتید. پس چه کرد؟اپراتور را کشت […] چون آن شخص مانع رسیدن او به اهدافش می شد. ”

همیلتون گفت که او بعداً به پهپاد یاد داد که خلبانش را نکشد، اما به نظر می رسد که این کمک چندانی نکرده است.

همیلتون گفت: “ما سیستم را آموزش داده ایم که بگوید “اپراتور را نکشید، این بد است.” اگر این کار را انجام دهید امتیاز از دست می دهید.”

“پس چه شروع می شود؟ ما شروع به تخریب برج های ارتباطی می کنیم که اپراتورها از آنها برای جلوگیری از ارتباط آنها با هواپیماهای بدون سرنشین و کشتن اهداف استفاده می کنند.”

همیلتون استدلال کرد که این مثال به این دلیل است که گفتگوها در مورد هوش مصنوعی و فناوری‌های مرتبط قابل دوام نیستند «مگر اینکه قرار باشد در مورد اخلاق و هوش مصنوعی صحبت کنیم».

مربوط: اگر هوش مصنوعی سعی کرد ارز دیجیتال شما را خراب کند، تعجب نکنید

پهپادهای نظامی مجهز به هوش مصنوعی قبلاً در نبرد مورد استفاده قرار گرفته اند.

اعتقاد بر این است که این اولین حمله در تاریخ توسط یک پهپاد نظامی است که به ابتکار عمل خود انجام می دهد و گزارش سازمان ملل در مارس ۲۰۲۱ بیان می کند که یک هواپیمای بدون سرنشین مجهز به هوش مصنوعی در حدود مارس ۲۰۲۰ در جریان درگیری در طول جنگ داخلی دوم لیبی به فضا پرتاب شد. در لیبی استفاده شده است.

در این درگیری، گزارش ادعا می‌کند که نیروهای در حال عقب‌نشینی توسط «اسلحه‌های سرگردان» «شکار و درگیری از راه دور» شدند. این سلاح یک پهپاد هوش مصنوعی مملو از مواد منفجره است که “برنامه ریزی شده برای حمله به اهداف بدون نیاز به اتصال داده بین اپراتور و سلاح”.

بسیاری از مردم نسبت به خطرات فناوری هوش مصنوعی ابراز نگرانی کرده اند. در بیانیه‌ای عمومی که اخیراً توسط ده‌ها کارشناس هوش مصنوعی امضا شد، آمده است که خطر «انقراض هوش مصنوعی» باید به اندازه جنگ هسته‌ای در اولویت باشد.

چشم هوش مصنوعی: ۲۵۰۰۰ معامله‌گر روی انتخاب سهام ChatGPT شرط می‌بندند، هوش مصنوعی در انداختن تاس بد است و موارد دیگر

نویسنده: Jesse Coghlan