هوش مصنوعی هم که از زمان پیدایشش چهار نعل در حال تاختن به سوی افقی نامعلوم از پیشرفت است از این قاعده مستثنا نیست. دلواپسی‌هایش هم البته با همین سرعت و شدت دارد روح و روان برخی دانشمندان را شخم می‌زند. «ایرنا» روز گذشته در این باره مطلبی را منتشر کرد که گزیده آن را می‌خوانید.

زنگ خطر را زدند
 کارشناسان برجسته هوش مصنوعی زنگ خطر را در مورد سرعت و عظمت پیشرفت‌های اخیر در زمینه این فناوری به صدا درآورده‌ و هشدار دادند این پیشرفت‌ها چیزی کمتر از تهدید بشریت نیست. چرا هوش مصنوعی چنین ترسی را به وجود آورده است و ما در این زمینه چه کاری می‌توانیم انجام دهیم؟ چرا «جفری هینتون، پدرخوانده هوش مصنوعی» نگران است؟ چهار خطری که این فناوری او را نگران کرده،‌ کدام 
است؟
«جفری هینتون» دانشمند حوزه رایانه که به «پدرخوانده هوش مصنوعی» معروف است، به‌تازگی شغل خود را در گوگل ترک کرد تا نگرانی‌هایش در مورد توسعه کنترل نشده ابزارهای جدید هوش مصنوعی را با دیگران درمیان بگذارد.
هینتون گفته است: «من ناگهان دیدگاه خود را در مورد اینکه آیا این دستاوردها هوشمندتر از ما خواهند بود، تغییر دادم. فکر می‌کنم هوش مصنوعی در حال حاضر بسیار به ما نزدیک شده و در آینده بسیار باهوش‌تر از ما خواهد شد. سؤال این است چگونه ما انسان‌ها می‌توانیم از این فناوری جان سالم به در ببریم؟»
هینتون تنها کسی نیست که در این زمینه ابراز نگرانی کرده است. 
در ماه فوریه «سم آلتمن» مدیرعامل شرکت اوپن‌ ای ‌آی که «چت جی‌پی‌تی» را توسعه داده است نیز در این مورد اظهار کرد: جهان فاصله زیادی با دستیابی به ابزارهای هوش مصنوعی بالقوه ترسناک ندارد.
بنابراین تعیین مقررات در این زمینه بسیار مهم است، اما فهمیدن این موضوع زمان می‌برد. اندکی پس از اینکه استارت‌آپ تحت حمایت مایکروسافت آخرین مدل هوش مصنوعی خود به نام GPT۴ را در ماه مارس منتشر کرد، بیش از هزار محقق در نامه‌ای با توجه به خطرهای عمیقی که این فناوری برای جامعه و بشریت دارد، خواستار توقف 
۶ ماهه توسعه هوش مصنوعی شدند. اما خطراتی که دانشمندان از آن می‌ترسند چیست؟

۴ خطر بزرگ
اول:هوش مصنوعی ممکن است در حال حاضر هوشمندتر از ما به نظر نرسد، اما هینتون می‌گوید: آخرین مدل هوش مصنوعی فعلی، صدها برابر هر انسان می‌داند. هوش‌های مصنوعی‌ جدید نه تنها می‌توانند مطالب را سریع‌تر یاد بگیرند، بلکه می‌توانند نسخه‌هایی از دانش خود را تقریباً بلافاصله با یکدیگر به اشتراک بگذارند. 

دوم:هوش مصنوعی می‌تواند انتشار اطلاعات نادرست را سرعت ببخشد.
یک احتمال نگران‌کننده این است که افراد، گروه‌ها یا دولت‌های معاند ممکن است به سادگی از آن‌ها برای پیشبرد اهداف خود بهره‌برداری 
کنند.
بر پایه گزارش جدید نیوزگارد، ده‌ها سایت خبری جعلی در حال حاضر به زبان‌های مختلف در سراسر شبکه اینترنت پخش شده‌اند و برخی از آن‌ها روزانه صدها مقاله را که با کمک هوش مصنوعی تولید شده‌اند، منتشر می‌کنند. هینتون نگران است که ابزارهای هوش مصنوعی می‌توانند برای تأثیرگذاری بر انتخابات و حتی راه انداختن جنگ آموزش داده شوند.

سوم :آیا هوش مصنوعی انسان‌ها را بیکار می‌کند؟
شرکت اوپن اِی‌آی تخمین می‌زند ۸۰درصد از کارگران در آمریکا شاهد این خواهند بود که شغل آن‌ها تحت تأثیر هوش مصنوعی قرار می‌گیرد. 
گزارش شرکت خدمات مالی و بانکداری گلدمن ساکس بیانگر آن است که این فناوری می‌تواند ۳۰۰ میلیون شغل تمام‌وقت را در سراسر جهان مورد تهدید قرار دهد. به گفته هینتون، وقتی ابزارهای هوشمند می‌توانند از ما پیشی بگیرند بقای بشریت 
در خطر است.

چهارم:نمی‌دانیم چطور باید هوش مصنوعی را متوقف کنیم. هینتون می‌گوید: ای کاش یک راه حل ساده خوب داشتم، اما مطمئن نیستم که آیا راه‌حلی وجود دارد؟ با این حال، دولت‌ها توجه زیادی به ظهور هوش مصنوعی دارند. 
قانون‌گذاران اروپایی هم در حال تسریع مذاکرات برای تصویب قوانین جامع هوش مصنوعی هستند. هینتون پیشنهاد می‌کند که یک توافق جهانی مشابه توافق‌نامه تسلیحات شیمیایی۱۹۹۷، نخستین گام خوب برای ایجاد قوانین بین‌المللی علیه هوش مصنوعی تسلیحاتی باشد.

خبرنگار: حوالی امروز