OpenAI آشکارسازهای هوش مصنوعی را به دلیل دقت پایین خاموش می کند
به گزارش پایگاه خبری ارز دیجیتال موبو ارز،
OpenAI بی سر و صدا ویژگی AI Classifier را به دلیل دقت پایین آن متوقف کرده است.
غول هوش مصنوعی OpenAI به دقت پین نرم افزار تشخیص هوش مصنوعی خود را با اشاره به دقت پایین باز کرده است.
طبقه‌بندی هوش مصنوعی توسعه‌یافته توسط OpenAI برای اولین بار در ۳۱ ژانویه عمومی شد و هدف آن کمک به کاربرانی مانند معلمان و اساتید است که بین متن نوشته شده توسط انسان و متن تولید شده توسط هوش مصنوعی تمایز قائل شوند.
با این حال، طبق پست وبلاگ اصلی که راه اندازی این ابزار را اعلام می کرد، AI Classifier از 20 جولای تعطیل شد.
از 20 جولای 2023، طبقه‌بندی‌کننده هوش مصنوعی به دلیل دقت پایین دیگر در دسترس نیست.
پیوند به این ابزار دیگر کار نمی کند، اما یادداشت تنها دلیل ساده ای برای خاموش شدن ابزار ارائه می دهد. اما این شرکت گفت که به دنبال راه‌های جدید و مؤثرتری برای شناسایی محتوای تولید شده توسط هوش مصنوعی است.
در این یادداشت آمده است: «ما برای ترکیب بازخورد کار کرده‌ایم و در حال حاضر در حال تحقیق در مورد تکنیک‌هایی برای ردیابی مؤثرتر منشأ متن هستیم و در حال توسعه و پیاده‌سازی مکانیسم‌هایی برای کمک به کاربران برای درک اینکه آیا محتوای صوتی یا بصری توسط هوش مصنوعی تولید می‌شود، هستیم.
از همان ابتدا، OpenAI روشن کرد که این ابزار تشخیص مستعد خطا است و نمی توان آن را “کاملا قابل اعتماد” در نظر گرفت.
این شرکت گفت محدودیت‌های ابزار تشخیص هوش مصنوعی این است که در تأیید متن زیر 1000 کاراکتر «بسیار نادرست» است و ممکن است بتواند «با اطمینان» متن نوشته‌شده توسط انسان را به‌عنوان تولیدشده توسط هوش مصنوعی برچسب‌گذاری کند.
مربوط: اپل سیستم GPT AI خود را دارد، اما هیچ برنامه مشخصی برای انتشار عمومی ندارد: گزارش
این طبقه بندی آخرین محصول OpenAI است که تحت نظارت است.
در 18 ژوئیه، محققان دانشگاه استنفورد و دانشگاه کالیفرنیا، برکلی، تحقیقاتی را منتشر کردند که نشان می‌دهد ChatGPT، محصول شاخص OpenAI، در طول زمان به طور قابل توجهی بدتر شده است.
دارای رتبه #ChatGPTمطالعه طولانی مدت رفتار GPT4 و GPT3.5 تفاوت های قابل توجهی را در پاسخ به *سوالات یکسان* بین نسخه های ژوئن و مارس GPT4 و GPT3.5 نشان می دهد. برخی از کارها در نسخه جدید بدتر شدند. w/ چن لینگجائو @marei_zaharia https://t.co/TGeN4T18Fd https://t.co/36mjnejERy pic.twitter.com/FEiqrUVbg6
– جیمز زو (@james_y_zou) 19 جولای 2023
محققان دریافتند که در چند ماه گذشته، توانایی ChatGPT-4 برای شناسایی صحیح اعداد اول از 97.6 درصد به تنها 2.4 درصد کاهش یافته است. علاوه بر این، هر دو ChatGPT-3.5 و ChatGPT-4 توانایی خود را برای تولید خطوط جدید کد کاهش دادند.
چشم هوش مصنوعی: هوش مصنوعی آموزش‌دیده بر روی محتوای هوش مصنوعی تبدیل به MAD می‌شود، اما آیا Threads برای داده‌های هوش مصنوعی پیشرو هستند؟
نویسنده: Tom Mitchelhill
