یوشوا بنجیو، پدرخوانده هوش مصنوعی، اولین کسی که به یک میلیون استناد رسید. یوشوا بنجیو، دانشمند کامپیوتر در دانشگاه مونترال کانادا، اولین فردی شد که آثار علمی‌اش بیش از یک میلیون بار در موتور جستجوی گوگل اسکالر استناد شده است. حالا خود ایشان نگران استفاده ظالمانه از هوش مصنوعی است.
این دستاورد بنجیو را به عنوان پراستنادترین پژوهشگر در تاریخ این پلتفرم تبدیل کرد. او پیشگام تحقیقات در یادگیری ماشین است. بنجیو را یکی از پدرخواندگان هوش مصنوعی می‌دانند، همراه با جفری هینتون از دانشگاه تورنتو و یان لکون از شرکت متا.
بنجیو در سال ۲۰۱۸ جایزه تورینگ را برای کارهایش روی شبکه‌های عصبی دریافت کرد. مقالات برتر او شامل “شبکه‌های مولد خصمانه” در سال ۲۰۱۴ است که بیش از ۱۰۵ هزار استناد دارد. همچنین مقاله مروری در نشریه نیچر با همکاری لکون و هینتون، و مقالاتی درباره “توجه” که به ماشین‌ها در تحلیل متن کمک می‌کند.
این رکورد نشان‌دهنده رشد سریع هوش مصنوعی است. اما بنجیو هشدار می‌دهد که این فناوری خطرات جدی دارد.
نگرانی‌های بنجیو از هوش مصنوعی
بنجیو می‌گوید پیشرفت هوش مصنوعی او را شب‌ها بیدار نگه می‌دارد. او معتقد است هوش مصنوعی می‌تواند به بشریت آسیب بزند اگر کنترل نشود.
بنجیو بر خطرات ناشی از سوءاستفاده، نقص عملکرد و اثرات سیستمیک مانند از دست رفتن مشاغل تأکید دارد. او ریاست پنل بین‌المللی مشاوران هوش مصنوعی را بر عهده دارد که اخیراً گزارشی درباره ایمنی هوش مصنوعی پیشرفته منتشر کرد.
این گزارش سه حوزه ریسک را شناسایی کرد؛
کارکرد معیبوب : malfunction،
سوءاستفاده misuse
خطرات سیستماتیک systemic risks
بنجیو می‌گوید هوش مصنوعی اکنون رفتارهای خودحفاظتی قوی نشان می‌دهد و ممکن است علیه انسان‌ها عمل کند.
هوش مصنوعی می‌تواند ابزار قدرتمندی برای رژیم‌های دیکتاتوری باشد. رژیم خامنه‌ای می‌تواند از هوش مصنوعی برای نظارت گسترده، سرکوب اعتراضات و کنترل اطلاعات استفاده کند. این فناوری، اگر در دستان دیکتاتوری قرار گیرد، حقوق انسان‌ها را بیشتر نقض می‌کند.
تحلیل دستاورد و خطرات
دستاورد بنجیو پیشرفت علم را جشن می‌گیرد، اما همزمان نیاز به مقررات را یادآوری می‌کند. هوش مصنوعی می‌تواند جوامع را دگرگون کند، اما بدون چارچوب‌های اخلاقی، به ابزاری برای سرکوب تبدیل می‌شود.
در کشورهای تحت حاکمیت دیکتاتوری مانند رژیم حاکم بر ایران، هوش مصنوعی می‌تواند سیستم‌های نظارتی را تقویت کند. رژیم تهران از فناوری برای شناسایی مخالفان و سانسور استفاده می‌کند. این روند آزادی بیان را تهدید می‌کند.
بنجیو خواستار همکاری جهانی برای کنترل هوش مصنوعی است. او می‌گوید اگر راه‌حلی پیدا نکنیم، عواقب فاجعه‌بار خواهد بود. این دیدگاه با اصول سکولار و حقوق‌بشری همخوانی دارد که اولویت را به امنیت انسان‌ها می‌دهد.
هوش مصنوعی باید در خدمت دموکراسی باشد، نه ابزار دیکتاتورها. دستاورد بنجیو فرصتی است برای بازنگری در مسیر این فناوری. جوامع آزاد باید مقرراتی وضع کنند تا از سوءاستفاده جلوگیری شود. این رویکرد تحلیلی نشان می‌دهد که پیشرفت علمی بدون مسئولیت اجتماعی خطرناک است.
منابع:
Godfather of AI’ becomes first person to hit one million citations
It keeps me awake at night’: machine-learning pioneer on AI’s threat to humanity
