محققان در دانشگاه استنفورد سیستمی نوین در حوزه هوش مصنوعی معرفی کردهاند که میتواند عدم اطمینان خود را تشخیص دهد و بهجای حدس زدن اشتباه، بهویژه در زمینههای حساس مثل تشخیصهای پزشکی صراحتاً اعلام کند «نمیدانم» و درخواست کمک کند!
این توانایی بهعنوان یک گام مهم در جهت افزایش امنیت و قابل اعتمادتر شدن هوش مصنوعی در جهان تلقی میشود. از جمله مهمترین چالشهای هوش مصنوعی، پاسخهای نادرست و گمراهکننده است که میتواند خطرناک باشد، زیرا سیستمهای هوش مصنوعی گاهی حتی وقتی دادهها کافی نیستند، قطعی پاسخ میدهند. فناوری جدید تلاش میکند این مشکل را حل کند به این صورت که وقتی اطلاعات کافی برای تصمیمگیری وجود ندارد، از ارائه پاسخ خودداری میکند، به فرد میگوید که به اطلاعات بیشتری نیاز دارد و در نهایت در صورت ناتوانایی در حل مسئله مستقیم میگوید « نمیدانم!»
کارشناسان میگویند این رویکرد میتواند خطرات ناشی از «توهم دانایی» (hallucination) در مدلهای هوش مصنوعی را کاهش دهد و آنهارا صادق کند!
نظر شما