اطلاعرسانی شرکت «آنتروپیک» در مورد نسخه جدید و قدرتمند هوش مصنوعیاش، آدم را یاد آن ماجرای خندهدار قدیمی میاندازد که: یک نفر اسم بچهاش را گذاشت رستم... و بعد میترسید صدایش کند! شرکت آنتروپیک کمتر از یک ماه پیش اعلام کرد مدل هوش مصنوعی «میتوس پریویو» را تولید کرده اما چون این نسخه بسیار قدرتمند است، خیلی خطرناک است و فعلاً نمیشود آن را برای عموم عرضه کرد!
چرا عاقل کند کاری؟
اینکه هرچند وقت یکبار یکی از شرکتهای بزرگ فناوری از غولی حرف میزند که به قول خودشان میتواند قفلهای امنیتی را مثل آب خوردن باز کند و از هکرهای حرفهای انسانی هم جلو بزند، اصلاً چیز تازهای نیست. آخرین نمونهاش هم همین چند وقت پیش بود؛ وقتی شرکت آنتروپیک با معرفی مدل جدید «میتوس» دوباره بساط این حرفها را راه انداخت.
کلی هم اما و اگر چیدند که اگر این فناوری به دست افراد بد بیفتد، میتواند پیامدهای جدی برای اقتصاد، امنیت عمومی و حتی امنیت ملی داشته باشد. بعد هم مظلوم و حقبهجانب اعلام کردند: ببینید ما چقدر مسئولیتپذیریم که این هیولا را در قفس نگه داشتهایم و به شما نمیدهیم! راستش را بخواهید، این جور وقتها شاخکهای آدم تیز میشود و بعد با خودش میگوید اگر واقعاً قصد و نیتتان خیر است و خدایی نکرده وصلههای بازاریابی به شما نمیچسبد، اصلاً چرا باید چنین چیزی را که اینقدر خطرناک است بسازید و حالا خودتان هم از عاقبتش نگران باشید؟ به قول خودمان چرا عاقل کند کاری که باز آرد پشیمانی؟
یا بیایید این سؤال را از خودتان بپرسید که اگر ماجرا فقط تبلیغ و معرفی یک کالا یا محصول است، چرا مثلاً فلان تولیدکننده فستفود که در همه جای دنیا هم شعبه دارد و محصولاتش را تبلیغ میکند، هیچوقت برای معرفی جدیدترین و بهترین محصولش ادعا نمیکند که: «همبرگر جدید تولیدی ما بسیار بسیار خوشمزه و مقوی است... اما چون بسیار خطرناک است از عرضه آن به بازار معذوریم»؟
بازاریابی ترس
بیبیسی از قول منتقدان میگوید این بازی جدید شرکتهای هوش مصنوعی است؛ از یک طرف درباره خطرهای آخرالزمانی فناوری خودشان هشدار میدهند، از طرف دیگر همان فناوری را با شور و شوق توسعه میدهند و به بازار عرضه میکنند. درواقع این «ترساندن» خودش یک راهبرد فروش و بازاریابی مبتنی بر ترس است. شاید در دنیای عادی اگر شرکتی محصولی بسازد که برای جامعه خطرناک باشد مورد استقبال قرار نگیرد و مشمول جریمه شود، اما در دنیای هوش مصنوعی، خطرناک بودن یعنی «قدرتمند بودن»! وقتی آنتروپیک میگوید محصول ما «بیش از حد خطرناک» است، درواقع دارد به سرمایهگذاران و مشتریانش سیگنال میدهد که: «ببینید ما چه غول بیشاخی و دمی ساختهایم. ما از بقیه خیلی جلوتریم!».
البته بازی کردن نقش منجیِ مسئول، یک فایده دیگر هم دارد و موجب میشود حواس آدمها از مسئله اصلی پرت شود یا آن مسئله در نظرشان خیلی کوچک جلوه کند. وقتی همه ما نشستهایم و داریم بحث میکنیم که آیا این غول دربند و زنجیر قرار است فردا صبح بزند کل سیستمهای بانکی دنیا را بترکاند یا نه، دیگر حواسمان به این نیست که همین مدلهای فعلی چقدر آب و برق مصرف میکنند یا چقدر از محتواها و آثار تولید شده توسط هنرمندان را بدون اجازه بلعیدهاند یا اصلاً همین الان دارند چه بلایی سر تمرکز و روان ما میآورند. مثل این است که خانهتان آتش گرفته باشد و شما نگران باشید که نکند ۱۰ سال دیگر یک شهابسنگ به سقف خانه بخورد.
شرکتهای بزرگ AI ترجیح میدهند ما به آن شهابسنگ فرضی فکر کنیم تا به شعلههای آتشی که زیر پایمان است، چون شهابسنگ تخیلی است و کسی بابتش از آنها بازخواست نمیکند، اما شعلههای فعلی (مثل کلاهبرداریهای دیپفیک یا خطاهای وحشتناک در تشخیصهای پزشکی) همین الان دارند هزینه روی دست ملت میگذارند. از طرفی، این ژست «نگرانی برای بشریت» نهتنها برای شرکتهای بزرگ اعتبار میخرد، بلکه راه را برای نوعی انحصارطلبی و از میدان به در کردن رقیبان هم باز میکند.
سام آلتمن (مدیر اوپنایآی) و داریو آمودی (مدیر آنتروپیک) جوری حرف میزنند که انگار تنها کسانی هستند که کلید این قفس خطرناک را دارند. آنها به دولتها میگویند: «ببینید، این فناوری خیلی خطرناک است، پس بیایید قوانینی بگذارید که فقط شرکتهای بزرگی مثل ما (که مسئولیتپذیر هستیم) اجازه داشته باشند روی آن کار کنند». این یعنی بستن در به روی رقبا و نوپاها، آن هم به اسم «ایمنی»!
برخی پژوهشگران حوزه اخلاق فناوری میگویند این روایتها یک اثر روانی دیگر هم دارند. وقتی فناوری به شکل چیزی تقریباً ماورایی و مهارنشدنی تصویر شود، مردم احساس میکنند کنترل چندانی روی آن ندارند. درنتیجه نگاهها دوباره به همان شرکتهایی برمیگردد که این فناوری را ساختهاند. انگار تنها کسانی که میتوانند آن را مدیریت کنند، خود سازندگانش هستند.
پای پول وسط است
اما اگر کمی از این فضای غبارآلود و ترسناک فاصله بگیریم و از متخصصان واقعی بپرسیم، به ابعاد دیگر ماجرا پی میبریم. مثلاً دکتر «Heidy Khlaaf » یکی از متخصصان امنیت هوش مصنوعی، میگوید: ادعاهای آنتروپیک سوراخ زیاد دارد. اگر این مدل در تستهای امنیتی غوغا کرده، چرا آمار دقیق نمیدهید؟ از کجا معلوم که این مدل فقط یکسری کد تکراری که قبلاً در اینترنت دیده را دوباره بلغور نکرده باشد؟
واقعیت این است که این شرکتها، زمانی کارشان را با شعار غیرانتفاعی بودن هوش مصنوعی و نجات دنیا شروع کردند، اما حالا در رقابتی تنگاتنگ برای جلب میلیاردها دلار سرمایه هستند و حاضرند برای سود بیشتر و کنار زدن رقبا هر کاری بکنند، حتی اگر ترساندن مشتریها باشد. وقتی پای پولهای کلان وسط میآید، ترس تبدیل به یک کالا میشود. آنها نیاز دارند شما باور کنید چیزی را که ساختهاند، فراتر از یک نرمافزار پیچیده است. آنها میخواهند شما باور کنید که آنها خالق یک هوش برتر هستند. این وسط، خطر اصلی این نیست که هوش مصنوعی آگاه شود و علیه ما شورش کند (که البته امری محال است) خطر اصلی این است که ما مسحور این روایتهای عجیب و غریب شویم و یادمان برود که اینها فقط ابزارهایی هستند که انسان ساخته است. ابزارهایی که میتوانند اشتباه کنند، میتوانند تبعیض قائل شوند و میتوانند به دست آدمهای نادرست بیفتند.
درنهایت، هوش مصنوعی مثل هر فناوری دیگری نیاز به قانون و نظارت دارد، اما نه قانونی که خود سازندگانش دیکته کنند تا رقبایشان را کنار بزنند یا با داستانسرایی درباره «آخرالزمان»، مسئولیت اشتباهات امروزشان را از سر باز کنند. همانطور که گفتیم هوش مصنوعی ابزاری است که به جای ترسیدن از آن باید به کاربرهایش نگاه کنیم و حواسمان جمع باشد که چه کسی دارد از این ترس ما، کیسهاش را پر میکند. چون در دنیای هوش مصنوعی، این ترس ساختگی میتواند به قیمت از دست رفتن کنترل واقعی ما بر فناوری تمام شود.
نظر شما