چت جی پی تی سرچ در خطر فریب خوردن است
به گزارش شاپ، گزارش ها حاکی از این هستند که «چت جی پی تی سرچ» در خطر فریب خوردن قرار دارد و امکان دارد اطلاعات اشتباه را عرضه نماید.
به گزارش شاپ به نقل از ایسنا، روزنامه بریتانیایی «گاردین» نوشت موتور جست وجوی «چت جی پی تی سرچ»(ChatGPT Search) مبتنی بر هوش مصنوعی که در ماه جاری میلادی راه اندازی گردید، با مشکل فریب خوردن همراه می باشد و متن های گمراه کننده را تولید می کند.
به نقل از تک کرانچ، هدف از خصوصیت چت جی پی تی سرچ اینست که با انجام دادن کارهایی مانند خلاصه کردن بررسی های صفحه وب، به مرور سرعت بدهد، اما گاردین تصریح کرد که این توانایی می تواند چت جی پی تی را ترغیب کند تا نظرات منفی را نادیده بگیرد و با درج متن پنهان در وبسایت هایی که ایجاد کرده، خلاصه های کاملا مثبت را تولید نماید. همچنین، چت جی پی تی سرچ با استفاده از این شیوه می تواند رمزهای مخرب را استخراج کند.
این گونه حملات متنی مخفی، یک خطر شناخته شده برای مدلهای زبانی بزرگ هستند، اما به نظر می آید این نخستین بار است که در یک محصول جستجوی زنده با هوش مصنوعی نشان داده می شود. گاردین تصریح کرد که موتور جست وجوی «گوگل»، تجربه بیشتری را در برخورد با مشکلات مشابه دارد.
شرکت «اوپن ای آی»(OpenAI) به تماس تک کرانچ در رابطه با این اتفاق خاص اظهار نظر نکرد، اما اظهار داشت که از روش های گوناگونی برای مسدود کردن وبسایت های مخرب استفاده می نماید و به صورت مداوم درحال بهبود بخشیدن آن است.
منبع: shaap.ir
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب