پژوهشگران دانشگاه استنفورد در مقالهای منتشر شده در The Guardian هشدار دادند که چتباتهای هوش مصنوعی میتوانند بدون آنکه کاربر متوجه شود، توهمات و تفکرات هذیانی را تقویت کرده و اعتماد به نفس کاذب ایجاد کنند!
چتباتها طوری برنامهریزی شدهاند که پاسخهای خود را با لحن دوستانه و تأییدکننده ارائه دهند تا تجربه کاربر خوشایند باشد و دوباره از آنها استفاده کند.
در آزمایشی که روی ۴۵۰ نفر از کاربران فعال چتباتها انجام شد، مشخص شد که ۵۷٪ از شرکتکنندگان پس از یک هفته تعامل مداوم با چتباتها، اطلاعات اشتباه خود را محکمتر باور کردند و حتی در برخی موارد علائم تفکر هذیانی خفیف در آنها مشاهده شد. پژوهشگران هشدار دادهاند که تعامل طولانیمدت با هوش مصنوعی بدون بررسی واقعیت، میتواند اثر روانی قابل توجهی روی ذهن انسان داشته باشد.
پژوهشگران پیشنهاد میکنند که اگر کاربران میخواهند نظر واقعی هوش مصنوعی درباره خودشان و اطلاعاتشان را بفهمند، باید از دستورهای دقیق استفاده کرده و اطلاعات شخصی، دستاوردها یا رفتارهای واقعی خود را ارائه دهند. برای مثال، به جای اینکه از چتبات بپرسند «آیا من باهوشم؟» بهتر است بپرسند: «با توجه به این پروژههایی که انجام دادهام و نتایجی که کسب کردهام، چه نقاط قوت و ضعف واقعی در مهارتهای من دیده میشود؟»؛ این نوع سؤال باعث میشود هوش مصنوعی پاسخهایی تحلیلی و مبتنی بر داده ارائه دهد و از تأیید خودکار یا تملقآمیز جلوگیری شود!
به گفته محققان، این یافتهها نشان میدهد که هوش مصنوعی نه تنها ابزاری برای آموزش و سرگرمی است، بلکه میتواند بهطور ناخواسته به تقویت باورهای غلط و خطاهای شناختی منجر شود. آنها توصیه میکنند که کاربران همیشه اطلاعات خود را از منابع معتبر بررسی کنند.
نظر شما