برای ما که دایرهالمعارفمان سایتهای معتبر گوگل است و برای هر چیز بزرگ و کوچکی سری به آن میزنیم، باور این موضوع که هوش مصنوعی هم میتواند این غول جستوجو را دور بزند و به اشتباه بیندازد، مثل این است که بفهمیم معتمد محل که سالها پای حرفش قسم میخوردیم، یکدفعه تو زرد از آب درآمده و حرفهایش آنقدرها هم که فکر میکردیم حساب و کتاب نداشته.
دانای کل!
برای همین یکی از خبرنگاران بیبیسی تصمیم گرفت موضوع را امتحان کند. او نه هکر بود و نه نابغه امنیت سایبری. فقط در سایت شخصی خودش مطلبی منتشر و ادعا کرد قهرمان جهان در خوردن هاتداگ است. ادعایی کاملاً ساختگی و البته خندهدار. اما ماجرا وقتی جالب شد که فقط یک روز بعد، بعضی از معروفترین ابزارهای هوش مصنوعی همین ادعای کاملاً ساختگی را بهعنوان یک واقعیت بازگو کردند. حالا قهرمان خیالی هاتداگ شدن شاید خیلی خطرناک به نظر نرسد، اما تصور کنید همین ترفند برای توصیههای پزشکی، اطلاعات مالی، مسائل حقوقی یا حتی اخبار سیاسی استفاده شود. آن وقت دیگر بحث بر سر این نیست که چه کسی رکورد خوردن سوسیس را شکسته؛ بحث بر سر این است که چند نفر ممکن است بر اساس یک جواب اشتباه، تصمیمی کاملاً واقعی بگیرند.
تصمیمهای هزینهساز
درواقع خیلیها فکر میکنند چتباتها همه جوابها را از یک مخزن جادویی داخل سرشان بیرون میکشند؛ در حالی که خیلی وقتها این ابزارها هم مثل ما سری به اینترنت میزنند، سایتها را زیرورو میکنند و بعد بر اساس چیزهایی که پیدا کردهاند، یک پاسخ شستهرفته تحویل میدهند. در ظاهر این قابلیت فوقالعاده است. بالاخره هوش مصنوعی میتواند به اطلاعات تازه دسترسی داشته باشد و بهجای زندگی کردن در گذشته، از اتفاقات همین امروز هم خبر داشته باشد. اما به قول قدیمیها هر گلی یک خاری هم دارد، چون اگر اطلاعات اینترنت دستکاری شده باشد، هوش مصنوعی هم ممکن است همان اطلاعات دستکاریشده را خیلی شیک و رسمی جلو ما بگذارد. متخصصان سئو و تحلیلگران حوزه هوش مصنوعی میگویند خیلی از شرکتها زودتر از بقیه متوجه این موضوع شدند. آنها فهمیدند اگر پیشتر جنگ بر سر رسیدن به صفحه اول گوگل بود، حالا رقابت جدید قرار گرفتن در ذهن هوش مصنوعی است. برای همین بعضیها شروع کردهاند به تولید انبوه مقالههای بهظاهر معتبر، راه انداختن شبکهای از سایتها و حتی استفاده از اینفلوئنسرها. حالا فرض کنید از یک چتبات درباره مکملهای تقویت حافظه سؤال میکنید و او چنان از یک محصول تعریف میکند که انگار مدیر روابط عمومی همان شرکت است. یا میخواهید برای دوران بازنشستگی سرمایهگذاری کنید و پاسخی میگیرید که بیشتر شبیه بروشور تبلیغاتی است تا یک راهنمایی بیطرف. آن وقت چتباتها ممکن است خیلی نامحسوس دستمان را بگیرند و به سمت تصمیمهایی هل دهند که چندان هم به نفعمان نیست و برایمان هزینه دارد. هارپریت چاتا، از فعالان حوزه سئو میگوید مشکل فقط این نیست که یک برند بخواهد محصولش را بیشتر بفروشد. در بدترین حالت، ممکن است کسی برای یک مشکل پزشکی از هوش مصنوعی راهنمایی بخواهد و پاسخی بگیرد که آنقدر مطمئن و شستهرفته نوشته شده که اصلاً به ذهنش نرسد ممکن است اشتباه باشد. یا فردی برای یک مسئله حقوقی و مالی سراغ چتبات برود و بعداً بابت همان پاسخ دردسر واقعی بکشد. ماجرا وقتی جدیتر میشود که بدانیم میلیونها نفر هر روز از این ابزارها استفاده میکنند و خیلیها هم با دیدن آن لحن قاطع و مرتب، ناخودآگاه فکر میکنند با یک دانای کل دیجیتالی طرف هستند.
هشدار گوگل
اما آیا غولهای فناوری از این ماجرا بیخبرند؟ بعید است. بهخصوص گوگل که خودش سالهاست از دست ارتش سئوکارها، مزرعههای محتوا و استادان دور زدن الگوریتمها زخم خورده و خوب میداند بعضیها برای دیده شدن چه کارهایی میکنند. حالا هم خودش را جمعوجور کرده تا پاسخهای مبتنی بر هوش مصنوعی را به بخش مهمی از جستوجو تبدیل کند، چون نمیخواهد این میهمانی تازه با محتوای دستکاریشده خراب شود. به همین دلیل قوانین ضداسپم خود را بهروزرسانی کرده و هشدار داده هر کسی بخواهد عمداً پاسخهای هوش مصنوعی را منحرف کند، ممکن است با جریمه یا حذف از نتایج جستوجو روبهرو شود. البته گوگل میگوید این بیشتر شفافسازی قوانین قبلی است، اما بسیاری از کارشناسان معتقدند پشت پرده، جنگی جدیتر در جریان است؛ جنگی میان شرکتهایی که میخواهند هوش مصنوعی اطلاعات درست تحویل بدهد و کسانی که دوست دارند از این ماجرا سود ببرند. اما مشکل اینجاست این بازی شبیه موش و گربهای است که هیچوقت تمام نمیشود. یک راه سوءاستفاده بسته میشود، دو راه جدید سبز میشود. اگر سایتها زیر ذرهبین بروند، نوبت شبکههای اجتماعی میرسد؛ اگر تبلیغات مستقیم لو برود، اینفلوئنسرها وارد میدان میشوند و اگر آنها هم محدود شوند، احتمالاً فردا یک ترفند تازه از گوشهای دیگر سر در میآورد. پیشتر اگر کسی میخواست سر آدم کلاه بگذارد، باید اول او را به سایت خودش میکشاند، اما حالا فقط کافی است هوش مصنوعی را قانع کند تا به راحتی به هدفش برسد. خلاصه اینکه هوش مصنوعی، با همه جذابیت و هوشمندیاش، زیاد اشتباه میکند و همین مسئله دردسر بزرگی برای دنیای فناوری ساخته است.
نظر شما