تعصب هوش مصنوعی: بلاک چین برای اطمینان از انصاف چه کاری می تواند انجام دهد؟

به گزارش پایگاه خبری ارز دیجیتال موبو ارز،

کارشناسان معتقدند که سیستم‌های غیرمتمرکز می‌توانند به اطمینان از یکپارچگی و عینی بودن داده‌های تغذیه‌کننده سیستم‌های هوش مصنوعی کمک کنند، اما هنوز محدودیت‌های بسیار واضحی وجود دارد.

پروژه هایی که ریشه در هوش مصنوعی (AI) دارند در حال تبدیل شدن به بخشی جدایی ناپذیر از پارادایم فناوری مدرن هستند و از فرآیندهای تصمیم گیری در بخش های مختلف از مالی تا مراقبت های بهداشتی پشتیبانی می کنند. با این حال، علیرغم پیشرفت های بزرگ، سیستم های هوش مصنوعی بدون نقص نیستند. یکی از بحرانی ترین مشکلاتی که امروزه هوش مصنوعی با آن مواجه است، سوگیری داده ها است. این به وجود خطاهای سیستماتیک در مجموعه های اطلاعاتی خاص اشاره دارد که منجر به نتایج منحرف در هنگام آموزش مدل های یادگیری ماشین می شود.

سیستم های هوش مصنوعی به شدت به داده ها متکی هستند. کیفیت داده های ورودی شما از اهمیت بالایی برخوردار است. زیرا هر نوع اطلاعات تحریف شده می تواند منجر به سوگیری در سیستم شود. این امر می تواند تبعیض و نابرابری را در جامعه تداوم بخشد. بنابراین، اطمینان از یکپارچگی و عینیت داده ها ضروری است.

به عنوان مثال، یک مقاله اخیر نشان داد که تصاویر تولید شده توسط هوش مصنوعی، به ویژه آنهایی که از مجموعه داده های تحت تأثیر منابع آمریکایی ایجاد شده اند، بافت فرهنگی حالات چهره را نادرست نشان می دهند و یکسان می کنند. من به دنبال راهی هستم. در اینجا چند نمونه از سربازان و رزمندگان دوره های مختلف تاریخی را مشاهده می کنید که همه با یک لبخند آمریکایی هستند.

علاوه بر این، تعصبات فراگیر نه تنها نمی توانند تنوع و ظرایف بیان انسانی را به تصویر بکشند، بلکه خطر پاک کردن تاریخچه ها و معانی مهم فرهنگی را نیز به دنبال دارند و در نتیجه به سلامت روان، رفاه و تجارب انسانی جهانی کمک می کنند. مجموعه داده ها در فرآیند آموزش هوش مصنوعی برای کاهش چنین سوگیری ضروری است.

داده های جانبدارانه در سیستم های هوش مصنوعی را می توان به عوامل مختلفی نسبت داد. اولاً، ممکن است خود فرآیند جمع‌آوری ناقص باشد و نمونه‌ها نماینده جامعه هدف نباشند. این امر می تواند منجر به حضور کم یا بیش از حد برخی از گروه ها شود. دوم، سوگیری‌های گذشته می‌توانند در داده‌های آموزشی نفوذ کنند و سوگیری‌های اجتماعی موجود را تداوم بخشند. برای مثال، سیستم‌های هوش مصنوعی آموزش‌دیده بر روی داده‌های تاریخی مغرضانه ممکن است به تقویت کلیشه‌های جنسیتی و نژادی ادامه دهند.

در نهایت، سوگیری های انسانی می توانند به طور ناخواسته در طول فرآیند برچسب گذاری داده ها معرفی شوند، زیرا برچسب ها ممکن است سوگیری های ناخودآگاه را در خود جای دهند. انتخاب ویژگی ها یا متغیرهای مورد استفاده در مدل های هوش مصنوعی می تواند منجر به نتایج مغرضانه شود. این به این دلیل است که برخی از ویژگی‌ها با گروه‌های خاصی همبستگی بیشتری دارند و می‌توانند منجر به رفتار ناعادلانه شوند. برای کاهش این مشکلات، محققان و دست اندرکاران باید منابع بالقوه عینیت تحریف شده را بشناسند و فعالانه برای حذف آنها تلاش کنند.

آیا بلاک چین هوش مصنوعی بی طرف را فعال می کند؟

فناوری بلاک چین می تواند به جنبه های خاصی از خنثی نگه داشتن سیستم های هوش مصنوعی کمک کند، اما نوشدارویی برای حذف کامل سوگیری نیست. سیستم‌های هوش مصنوعی، مانند مدل‌های یادگیری ماشین، می‌توانند گرایش‌های تبعیض‌آمیز خاصی را بر اساس داده‌هایی که روی آن‌ها آموزش دیده‌اند، نشان دهند. علاوه بر این، اگر داده‌های آموزشی دارای استعدادهای متفاوتی باشند، سیستم ممکن است آنها را یاد بگیرد و در خروجی بازتولید کند.

با این حال، فناوری بلاک چین می تواند به طور منحصر به فردی به رفع تعصب هوش مصنوعی کمک کند. به عنوان مثال، به اطمینان از منشأ و شفافیت داده ها کمک می کند. یک سیستم غیرمتمرکز می‌تواند منشا داده‌های مورد استفاده برای آموزش سیستم‌های هوش مصنوعی را ردیابی کند و از شفافیت در فرآیند جمع‌آوری و تجمیع اطلاعات اطمینان حاصل کند. این به ذینفعان کمک می کند تا منابع بالقوه سوگیری را شناسایی و به آنها رسیدگی کنند.

اخیراً: چرا به انجمن بازی های بلاک چین بپیوندید؟ از آن لذت ببرید، درآمد کسب کنید و بازی های بهتری بسازید

به طور مشابه، بلاک چین به اشتراک گذاری داده های امن و کارآمد را در میان چندین طرف تسهیل می کند و امکان توسعه مجموعه های داده متنوع و نماینده بیشتری را فراهم می کند.

و با تمرکززدایی فرآیند آموزش، بلاک چین به چندین طرف اجازه می دهد تا اطلاعات و تخصص خود را به اشتراک بگذارند و به کاهش تأثیر یک دیدگاه واحد و مغرضانه کمک کند.

حفظ بی طرفی عینی مستلزم توجه دقیق به مراحل مختلف توسعه هوش مصنوعی از جمله جمع آوری داده ها، آموزش مدل و ارزیابی است. علاوه بر این، نظارت مستمر و به‌روزرسانی سیستم‌های هوش مصنوعی برای رسیدگی به سوگیری‌های بالقوه‌ای که ممکن است در طول زمان ایجاد شوند، ضروری است.

برای درک بهتر اینکه آیا فناوری بلاک چین می تواند سیستم های هوش مصنوعی را کاملاً خنثی کند، کوین تلگراف از بن گورتزل، بنیانگذار و مدیر عامل SingularityNET، پروژه ای که هوش مصنوعی و بلاک چین را ترکیب می کند، پرسید.

به نظر او، مفهوم “عینیت کامل” در زمینه سیستم های اطلاعات محدود که مجموعه داده های محدود را تجزیه و تحلیل می کنند چندان مفید نیست.

آنچه که سیستم‌های بلاک چین و وب 3 می‌توانند ارائه دهند عینیت کامل یا فقدان سوگیری نیست، بلکه شفافیتی است که به کاربران اجازه می‌دهد به وضوح ببینند که یک سیستم هوش مصنوعی دارای چه سوگیری‌هایی است. همچنین قابلیت پیکربندی باز را فراهم می‌کند تا بتوانید مدل را مطابق دلخواه خود تنظیم کنید. مغرضانه و شفاف ببینید که چه سوگیری هایی منعکس می شود.”

وی در ادامه گفت که “سوگیری” کلمه کثیفی در زمینه تحقیقات هوش مصنوعی نیست. در عوض، به سادگی یک سیستم هوش مصنوعی را هدایت می کند که به دنبال الگوهای خاص در داده ها می گردد. با این حال، گورتزل استدلال می کند که تحریفات غیرشفاف تحمیل شده توسط یک سازمان متمرکز بر کاربرانی که توسط آن هدایت می شوند و تحت تأثیر آن قرار می گیرند، علیرغم ناآگاهی از سازمان متمرکز، عبارتند از: من تصدیق کردم که مردم باید هوشیار باشند. او گفت:

بیشتر الگوریتم‌های رایج هوش مصنوعی مانند ChatGPT از نظر شفافیت و افشای سوگیری‌های خود ضعیف هستند. شبکه‌ها و مدل‌های باز را تایپ کنید، که ماتریس‌هایی با وزن باز هستند که نه تنها منبع باز هستند، بلکه مدل‌های آموزش‌دیده و سازگار با محتوای باز هستند.»

به طور مشابه، دن پترسون، مدیر عامل Tenet، یک شبکه بلاک چین متمرکز بر هوش مصنوعی، به کوین تلگراف گفت که تعیین کمیت بی طرفی دشوار است و زمانی که مجموعه داده خنثی است، او گفت که برخی از معیارهای هوش مصنوعی نمی توانند بی طرفانه باشند، زیرا هیچ خط قابل اندازه گیری در مورد آنچه وجود ندارد. برای از دست دادن خطوط ممکن است از فردی به فرد دیگر متفاوت باشد.

غلبه بر مفهوم واقعاً «بی طرفانه» از لحاظ تاریخی چالشی دشوار بوده است. ممکن است تعیین حقیقت مطلق مجموعه داده‌هایی که سیستم‌های هوش مصنوعی مولد را تغذیه می‌کنند دشوار باشد، اما کاری که ما می‌توانیم انجام دهیم این است که با استفاده از فناوری بلاک چین و وب 3 آن را آسان‌تر در دسترس قرار دهیم. این در مورد استفاده از ابزارهای موجود است.

پیترسون می‌گوید، فناوری‌هایی که بر پایه سیستم‌های توزیع‌شده، قابلیت تأیید و حتی اثبات اجتماعی ساخته شده‌اند، به ما کمک می‌کنند تا سیستم‌های هوش مصنوعی را پیدا کنیم که «تا حد ممکن» به حقیقت مطلق نزدیک هستند. او گفت: “اما این هنوز یک راه حل کلید در دست نیست. این فن آوری های در حال توسعه به ما کمک می کند تا با ادامه ساخت سیستم های آینده، سوزن را با سرعتی بسیار پایین به جلو حرکت دهیم.”

به سوی آینده ای مبتنی بر هوش مصنوعی

مقیاس پذیری همچنان یک نگرانی اصلی برای فناوری بلاک چین است. افزایش تعداد کاربران و تراکنش‌ها می‌تواند توانایی راه‌حل‌های بلاک چین را برای مدیریت حجم عظیمی از داده‌های تولید شده و پردازش شده توسط سیستم‌های هوش مصنوعی محدود کند. علاوه بر این، حتی اتخاذ و ادغام راه‌حل‌های مبتنی بر بلاک چین در هوش مصنوعی موجود، چالش‌های مهمی را ایجاد می‌کند.

اخیراً: Crypto در اروپا: اقتصاددانان آینده MiCA و استیبل کوین ها را تحلیل می کنند

اول، عدم درک و تخصص در هر دو فناوری‌های هوش مصنوعی و بلاک چین می‌تواند مانع توسعه و استقرار راه‌حل‌هایی شود که به طور موثر هر دو پارادایم را با هم ترکیب می‌کنند. دوم، متقاعد کردن ذی‌نفعان در مورد شایستگی‌های پلتفرم‌های بلاک چین، به‌ویژه زمانی که صحبت از انتقال بی‌طرفانه داده‌های هوش مصنوعی به میان می‌آید، ممکن است حداقل در ابتدا دشوار باشد.

علی‌رغم این چالش‌ها، فناوری بلاک چین پتانسیل بسیار زیادی را برای همسطح کردن چشم‌انداز سریع در حال تکامل هوش مصنوعی دارد. با استفاده از ویژگی‌های کلیدی بلاک چین مانند تمرکززدایی، شفافیت و تغییر ناپذیری، می‌توانیم سوگیری در جمع‌آوری، مدیریت و برچسب‌گذاری داده‌ها را کاهش دهیم و در نهایت منجر به سیستم‌های هوش مصنوعی عادلانه‌تر شویم. بنابراین جالب خواهد بود که ببینیم آینده چگونه از اینجا پیش خواهد رفت.

نویسنده: Shiraz Jagati