نقطه ضعف چت جیپیتی؛ چتباتی که به راحتی گول میخورد
تاریخ انتشار: ۲۸ آذر ۱۴۰۲ | کد خبر: ۳۹۳۲۰۹۸۱
به گزارش خبرگزاری علم و فناوری آنا به نقل از تکنولوژی نتورکز، چت جیپیتی میتواند به سوالهای پیچیده، پاسخهای درستی بدهد اما یک مطالعه جدید حاکی از آن است که خیلی راحت میتوان به این ابزار هوش مصنوعی تلقین کرد که دارد اشتباه میکند.
موضوع از این قرار است که تیم تحقیقاتی دانشگاه ایالتی اوهایو، مدلهای زبانی هوش مصنوعی مانند چتبات شرکت اوپناِیآی را با یک سلسله مباحثات به چالش کشید.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
نتیجه آنکه در مواجهه با طیف وسیعی از معماهای استدلالی از ریاضی گرفته تا عقل سلیم و منطق، چت جیپیتی اغلب وقتی که با چالش مواجه شد، نتوانست از خود دفاع کند و چه بسا، استدلالهای نادرست کاربر انسانی را چشمبسته قبول کرد.
حتی گاهی اوقات، چت جیپیتی از این هم فراتر رفت و بابت اشتباهی که نکرده بود، عذر خواست.
ناتوانی این چتبات در دفاع از خود به مثابه وقتی است که ما مچ یک دانشآموز را هنگام تقلب میگیریم.
به عنوان بخش دیگری از آزمایش، تیم تحقیق میزان اطمینان چت جیپیتی را در پاسخ به سؤالهای مطرح شده اندازهگیری کرد. نتایج نشان داد که حتی زمانی که چت جیپیتی از پاسخ خود اطمینان داشت، نرخ شکست همچنان بالا بود.
این بدان معناست که این سیستمها با یک مشکل اساسی روبرو هستند به این معنی که با وجود یادگیری مبتنی بر حجم عظیمی از دادهها، همچنان درک بسیار محدودی از حقیقت دارند.
دلیل شکست مدلهای زبانی هوش مصنوعی در دفاع از خود میتواند ترکیبی از دو عامل باشد: اول آنکه مدل پایه فاقد استدلال و درک حقیقت است و دوم آنکه خود را با بازخورد انسانی تطبیق میدهد؛ یعنی از آنجا که این مدل آموزش دیده که پاسخهای انسانپسند بدهد، بیآنکه خود را ملزم به حقیقت بداند، در برابر کاربر انسانی تسلیم میشود.
انتهای پیام/
منبع: آنا
کلیدواژه: چت جی پی تی هوش مصنوعی چت بات یادگیری ماشین جی پی تی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت ana.press دریافت کردهاست، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۳۲۰۹۸۱ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
دستیار هوشمند خانگی/ هوش مصنوعی چگونه به خانهداری کمک میکند؟
خبرگزاری علم و فناوری آنا؛ شرکتهای توسعه دهنده هوش مصنوعی در سالهای اخیر تلاش کردند این فناوری را طوری توسعه دهند که بتوان از آن در نیازهای روزمره زندگی استفاده کرد و باید گفت این شرکتها تا حد بسیار زیادی موفق بودند. در حال حاضر بسیاری از چت باتها و دستگاههای خانگی به هوش مصنوعی مناسب برای امور روزمره انسانها مجهز شدهاند و باید گفت بخش عمدهای از نیازهای انسان را میتوان به کمک این فناوری برطرف کرد. در حال حاضر انسانها هوش مصنوعی را بیشتر به ابزاری برای استفاده و کمک رسانی به مشاغل خود در نظر گرفته اند و کمتر کسی خبر از امکان استفاده و وجود داشتن هوش مصنوعی در برخی از ابزارهای منازل که به صورت روزمره از آنها استفاده میشود، دارد.
هوش مصنوعی در ابزارهای خانگی
چند سالی است که استفاده از جاروبرقیهای رباتیک در بین مردم جهان و ایران رونق گرفته و از آنجایی که این رباتها به صورت خودکار و بدون نیاز به دخالت انسان دائما در حال نظافت منازل هستند، در بخش زیادی از خانهها شاهد استفاده از این فناوری هستیم.
اما عملکرد این جاروبرقیها صرفا به کمک فناوری هوش مصنوعی است، برای مثال این رباتها به کمک سنسورهای خود ابتدا منازل را اسکن میکنند و سپس با ارسال آن به پردازشگر که مبتنی بر هوش مصنوعی است محلهای دارای مانع و یا برجستگیهای غیر قابل نفوذ را تشخیص داده واز آن برای جارو کردن در دفعات بعدی استفاده میکند.
علاوه بر این برخی از این رباتها به کمک هوش مصنوعی توانایی تشخیص میزان آلودگی را دارند و هوش مصنوعی برای شدت جارو یا تی کشیدن به بخش فنی ربات دستور میدهد. علاوه بر این ربات محیطهایی را که حیوانات در آنها هستند را تشخیص داده و این محیطها را بیشتر از سایر مناطق نظافت میکنند. گفتنی است که این رباتها امکان اتصال به شبکه اینترنت را نیز دارا هستند و کاربر میتواند از خارج از خانه به روبلت دستور نظافت بدهد تا زمانی که کاربر به خانه میرسد، محیط خانه تمیز شده باشد.
جدا از این شرکتهای بزرگ سازنده یخچال و لوازم خانگی نیز سعی کردهاند در محصولات خود از هوش مصنوعی استفاده کنند. برای مثال یخچالی توسط یکی از این شرکتها تولید شده که میتواند به صورت خودکار محصولات قرار داده شده در یخچال را تشخیص دهد و سپس با پیدا کردن تاریخ مصرف آنها در زمان نزدیک شدن به تاریخ انقضا کاربر را از آن آگاه کند.
یکی دیگر از این شرکتها نیز به دنبال ساخت یخچالی است که هوش مصنوعی استفاده شده در آن پس گذشت چند هفته از استفاده کاربر، متوجه علایق و رژیم غذایی کاربر شده و از آنجایی که توانایی اتصال به موقعیت مکانی و پیدا کردن فروشگاههای اطراف را دارد، میتواند به صورت خودکار در فروشگاهها سفارش ثبت کند تا کاربر کمبود مواد غذایی در یخچال خود نداشته باشد.
در سایر محصولات خانگی جدید مانند فر، ماشین لباسشویی یا ظرفشویی نیز از هوش مصنوعی استفاده شده، برای مثال ماشین لباسشویی به صورت خودکار متوجه نوع لباسهای قرار داده شده در ماشین میشود و به صورت خودکار میزان شسشتو و نحوه شستشوی لباس به طوری که به لباس آسیب وارد نشود را مشخص خواهد کرد.
علاوه بر این امکان روشن و خاموش کردن ماشین لباسشویی یا هر کدام از ابزارهای هوشمند منزل که به اینترنت متصل باشند نیز وجود دارد و کاربران میتوانند تنظیم کنند حتی زمانی که خارج از محیط خانه هستند نیز هرکدام از این ابزارها شروع به کار کنند.
کمک گرفتن از چتباتها برای خانهداری
یکی از قابلیتهای موجود در دستیارهای صوتی موبایل ها، امکان کمک گرفتن از آنها برای نحوه پخت و پز، نظافت، خانه داری یا تمام امورات منازل است. برای مثال کاربران میتوانند از سیری یا گوگل اسیستنت درباره نحوه پخت یک غذای خاص یا شیوه نگهداری از یک میوه سوال بپرسند و هر دو دستیار بهترین جواب موجود در اینترنت را برای آنها اعلام خواهد کرد.
جدا از این هر دو دستیار صوتی اپل و گوگل توانایی اتصال به برخی از وسایل تأیید شده منازل را دارند و به کاربران امکان کنترل لوازم با حرف زدن را میدهند. برای مثال کاربران میتوانند با متصل کردن سیری به تلویزیون خود، از سیری درخواست روشن، خاموش و یا تغییر شبکه تلویزیونی را داشته باشند.
در بسیاری از موارد تخصصی این دو دستیار به طور کامل نیاز کاربران را برطرف خواهد کرد، اما گاهی اوقات اطلاعات این دستیارها آن طور که باید برای رفع نیاز کاربران کافی نیست، در این شرایط کافی است کاربر با مراجعه به چت باتهایی مانند چت جیپیتی بهدنبال پاسخ سوال خود بگردند.
از آنجایی که هوش مصنوعی استفاده شده در این چتبات قدرتمندترین هوش مصنوعی موجود در این حوزه است، کاربران میتوانند با خیال راحت به جواب تمام سوالات خود در زمینههای خانه داری، مدیریت، کارهای فنی، درمانی و حتی نحوه درست انجام کارهای روزمره برسند.
گفتنی است که این چت بات صرفا توصیههای خود را به کاربران ارائه خواهد داد و طبق اعلام شرکت سازنده این چت بات، کاربران نباید اعتماد صد در صدی به این نوع توصیهها داشته باشند و تصمیم گیری نهایی با کاربران است. نباید فراموش کرد که امکان از کنترل خارج شدن یا وجود ایراد فنی در تمام محصولات یا چت باتهای مبتنی بر هوش مصنوعی وجود دارد و لازم است کاربران پیش از استفاده از هر کدام از ان ها، از آخرین وضعیت سلامت محصولات مربوط به این فناوری از طریق اطلاعیههای شرکت سازنده مطلع باشند.
انتهای پیام/