استفاده از هوش مصنوعی در رسانه های اجتماعی می تواند بر احساسات رأی دهندگان تأثیر بگذارد

انتخابات ریاست جمهوری آمریکا به سرعت نزدیک می شود و با آن، فناوری هایی مانند هوش مصنوعی در پلتفرم های رسانه های اجتماعی برای دستکاری احساسات رای دهندگان به کار گرفته می شوند.

استفاده از هوش مصنوعی (AI) در رسانه های اجتماعی به عنوان یک تهدید بالقوه برای تأثیرگذاری یا تحت تأثیر قرار دادن احساسات رأی دهندگان در انتخابات ریاست جمهوری آینده آمریکا در سال ۲۰۲۴ مورد هدف قرار گرفته است.

شرکت های بزرگ فناوری و سازمان های دولتی ایالات متحده به طور فعال چشم انداز اطلاعات نادرست را زیر نظر دارند. در ۷ سپتامبر، بازوی تحقیقاتی مایکروسافت، مرکز تحلیل تهدیدات مایکروسافت (MTAC)، تحقیقاتی را در مورد مشاهده “بازیگران تهدید مرتبط با چین” با استفاده از این فناوری منتشر کرد.

بر اساس این گزارش، این بازیگران در آنچه که آن را «کمپین گسترده» می نامید، با تمرکز بر «موضوعات تفرقه افکن سیاسی مانند خشونت اسلحه و تحقیر شخصیت ها و نمادهای سیاسی ایالات متحده» شرکت کردند، گفته می شود که از رسانه های ویدئویی تولید شده استفاده کرده است. توسط هوش مصنوعی

در این گزارش آمده است که انتظار دارد چین “به اصلاح این فناوری در طول زمان ادامه دهد” و باید دید که چگونه این فناوری در مقیاس برای چنین اهدافی به کار گرفته خواهد شد.

در همین حال، هوش مصنوعی نیز برای کمک به شناسایی چنین اطلاعات نادرستی استفاده می شود. در ۲۹ آگوست، Accrete AI نرم‌افزار هوش مصنوعی را معرفی کرد که برای پیش‌بینی تهدیدات اطلاعات نادرست از رسانه‌های اجتماعی در زمان واقعی، بر اساس قراردادی با فرماندهی عملیات ویژه ایالات متحده (USSOCOM) استفاده می‌شود.

Prashant Bhuyan، بنیانگذار و مدیر عامل Accrete، گفت که این دیپ فیک ها و دیگر «برنامه های هوش مصنوعی مبتنی بر رسانه های اجتماعی» یک تهدید جدی هستند.

رسانه های اجتماعی به طور گسترده به عنوان یک محیط غیرقانونی شناخته می شوند که در آن مهاجمان به طور معمول از آسیب پذیری های استنباط سوء استفاده می کنند و رفتار را از طریق انتشار عمدی اطلاعات نادرست دستکاری می کنند.

طبق گزارش MIT، در آخرین انتخابات ایالات متحده در سال ۲۰۲۰، مزارع ترول ها هر ماه به ۱۴۰ میلیون آمریکایی رسید.

مزارع ترول ها “گروه های سازمان یافته” ترول های اینترنتی هستند که هدف آنها دخالت در نظرات و تصمیمات سیاسی است.

مربوط: حمله به حریم خصوصی متا باید به عنوان یک هشدار برای هوش مصنوعی باشد

تنظیم‌کننده‌های ایالات متحده در حال بررسی راه‌هایی برای تنظیم دیپ فیک قبل از انتخابات هستند.

در ۱۰ آگوست، کمیسیون انتخابات فدرال ایالات متحده با رأی اتفاق آرا به پیشبرد طوماری برای تنظیم تبلیغات سیاسی با استفاده از هوش مصنوعی پایان داد. یکی از اعضای کمیته ای که این طومار را تبلیغ کرد، گفت که دیپ فیک ها “تهدیدی جدی برای دموکراسی” هستند.

گوگل در ۷ سپتامبر اعلام کرد که خط مشی محتوای سیاسی خود را در اواسط نوامبر ۲۰۲۳ به روز می کند و برای تبلیغات کمپین سیاسی نیاز به افشای هوش مصنوعی دارد.

در این گزارش آمده است که در صورت وجود “محتوای ترکیبی که افراد یا رویدادهایی را که معتبر یا واقعی نیستند” به تصویر می‌کشد، افشاگری لازم است.

مجله: آیا پرداخت های باج افزار باید ممنوع شود؟ ایده ای جذاب اما خطرناک

نویسنده: Savannah Fortis