AI21 Labs ویژگی ضد توهم را برای چت ربات های GPT معرفی کرد

به گزارش پایگاه خبری ارز دیجیتال موبو ارز،

پاسخ‌های متنی برای شرکت طراحی شده‌اند، اما این پتانسیل را دارند که پیامدهای گسترده‌ای برای فضای هوش مصنوعی مولد داشته باشند.

آزمایشگاه‌های AI21 اخیراً «پاسخ‌های متنی» را راه‌اندازی کرده است، یک موتور پاسخ‌گوی سؤال برای مدل‌های زبان بزرگ (LLM).

با اتصال موتور جدید به LLM، کاربران می توانند کتابخانه داده خود را آپلود کنند تا خروجی مدل را به اطلاعات خاصی محدود کنند.

راه‌اندازی ChatGPT و محصولات مشابه هوش مصنوعی (AI) یک تغییر پارادایم در صنعت هوش مصنوعی ایجاد کرده است، اما عدم اطمینان آن باعث می‌شود که بسیاری از شرکت‌ها آن را به سختی بپذیرند.

مطالعات نشان می دهد که کارکنان تقریباً نیمی از روز کاری خود را صرف جستجوی اطلاعات می کنند. این یک فرصت بزرگ برای چت ربات هایی است که می توانند عملکردهای جستجو را انجام دهند. با این حال، بیشتر چت بات ها برای مشاغل نیستند.

AI21 پاسخ‌های متنی را برای رفع شکاف بین ربات‌های چت طراحی‌شده برای استفاده عمومی و خدمات پاسخگویی به سؤالات در سطح سازمانی با اجازه دادن به کاربران برای خط لوله داده‌ها و کتابخانه‌های اسناد خود توسعه داد.

طبق یک پست وبلاگ AI21، Contextual Answers برخی از بزرگ‌ترین موانع پذیرش را کاهش می‌دهد و به کاربران اجازه می‌دهد پاسخ‌های هوش مصنوعی را بدون نیاز به آموزش مجدد مدل کنترل کنند.

«بیشتر شرکت ها با پذیرش مشکل دارند. [AI]هزینه، پیچیدگی و عدم تخصص مدل در داده های سازمانی منجر به عدم دقت، “توهمات” یا پاسخ های نامناسب به زمینه می شود. “

یکی از چالش های قابل توجه مرتبط با توسعه LLM های مفید مانند ChatGPT OpenAI یا Bard Google، آموزش بیان ناامنی خود به آنها است.

به طور معمول، هنگامی که کاربر یک ربات چت را پرس و جو می کند، ربات چت پاسخی را صادر می کند حتی اگر مجموعه داده اطلاعات کافی برای ارائه اطلاعات واقعی نداشته باشد. در چنین مواردی، LLM ها اغلب به جای ارائه پاسخ های غیرقابل اعتماد مانند “نمی دانم”، حقه های واقعی و غیرمستند ایجاد می کنند.

محققان این خروجی ها را “توهم” می نامند. این به این دلیل است که ماشین‌ها اطلاعاتی را تولید می‌کنند که به نظر می‌رسد در یک مجموعه داده وجود ندارد، درست همانطور که انسان چیزهایی را می‌بیند که در واقع وجود ندارند.

ما هیجان زده هستیم که Contextual Answers را معرفی کنیم، یک راه حل API که در آن پاسخ ها بر اساس دانش سازمانی است و جایی برای توهمات هوش مصنوعی باقی نمی گذارد.

➡️ https://t.co/LqlyBz6TYZ pic.twitter.com/uBrXrngXhW

-آزمایشگاه‌های AI21 (@AI21Labs) ۱۹ جولای ۲۰۲۳

طبق A121، Contextual Answers باید مشکل توهم را به طور کامل با خروجی اطلاعات تنها زمانی که مربوط به سند ارائه شده توسط کاربر است، کاهش دهد یا اصلاً آن را خروجی ندهد.

در زمینه‌هایی مانند امور مالی و حقوق، که دقت مهم‌تر از اتوماسیون است، معرفی سیستم‌های ترانسفورماتور از پیش آموزش‌دیده مولد (GPT) نتایج متفاوتی داشته است.

کارشناسان همچنان توصیه می کنند هنگام استفاده از آن در بخش مالی احتیاط کنید، زیرا سیستم های GPT مستعد توهم و سردرگمی هستند، حتی زمانی که به اینترنت متصل هستند و می توانند به منابع پیوند دهند. و در عرصه حقوقی، وکلایی که در جریان دادرسی به خروجی ChatGPT تکیه کردند، اکنون با جریمه و تحریم روبرو هستند.

به نظر می رسد که AI21 با بارگذاری داده های مربوطه در یک سیستم هوش مصنوعی و مداخله قبل از اینکه سیستم اطلاعات غیر واقعی توهم ایجاد کند، کاهش مشکل توهم را نشان داده است.

این می تواند منجر به پذیرش گسترده، به ویژه در فضای فین تک شود. در فضای فین‌تک، موسسات مالی سنتی تمایلی به پذیرش فناوری GPT ندارند، و جوامع ارز دیجیتال و بلاک چین در بهترین حالت با چت‌بات‌ها موفق بوده‌اند.

مربوط: OpenAI “دستورالعمل های سفارشی” ChatGPT را آغاز می کند تا کاربران مجبور نباشند خود را در هر اعلان تکرار کنند.

نویسنده: Tristan Greene