نگرانی عجیب در قلب صنعت هوش مصنوعی: شاید روزی انسانها فقط سرنشینان دنیایی باشند که هوش مصنوعی اداره میکند!
یکی از مدیران ارشد OpenAI میگوید در میان برخی فعالان و متخصصان هوش مصنوعی، یک باور مشترک اما کمتر بیانشده وجود دارد: اینکه در نهایت، انسانها بهتدریج کنترل شرکتها و حتی دولتها را به سیستمهای هوش مصنوعی واگذار خواهند کرد.
دین بال (Dean Ball)، مدیر آیندهپژوهی راهبردی OpenAI، در مقالهای با عنوان «اجماع خاموش» (The Silent Consensus) این نگرانی را مطرح کرده است.
او معتقد است برای وقوع چنین سناریویی، هوش مصنوعی لزوماً نباید علیه انسانها شورش کند!
گاهی انگیزههای اقتصادی بهتنهایی کافی هستند. اگر مدیران یک شرکت به این نتیجه برسند که حضور و تصمیمگیری انسانها سرعت کسبوکار را کاهش میدهد، ممکن است بهتدریج اختیار بیشتری به عاملهای هوش مصنوعی بدهند و خودشان از صندلی راننده کنار بروند.
بال مینویسد بسیاری از همکارانش، با وجود هوشمندی، دلسوزی و مسئولیتپذیری، چنین آیندهای را محتمل میدانند؛ اما خودش با این نگاه مخالف است و صریحاً میگوید:
«من از این اجماع خاموش بیزارم.»
🧠 راهحل پیشنهادی او چیست؟
بال خواهان ساخت عاملهای هوش مصنوعی است که:
قدرت و اختیاراتشان قابل بررسی و حسابرسی باشد.
انسانها بتوانند هر زمان لازم بود، کنترل و اختیارات آنها را پس بگیرند.
اعطای حقوق و اختیاراتی مانند تأسیس شرکت، مالکیت دارایی یا طرح دعوی حقوقی برای عاملهای هوش مصنوعی، با احتیاطی فوقالعاده و حتیالامکان انجام شود.
او در پایان مقاله، با اشاره به پسر خردسالش، جملهای تأملبرانگیز مینویسد:
«نمیخواهم او فقط خودرویی بهتر با صندلی سرنشین راحتتری داشته باشد؛ میخواهم فرمان دست خودش باشد.»
این هشدار یک نکته اساسی دارد:
خطر احتمالی هوش مصنوعی فقط این نیست که روزی از کنترل خارج شود؛ شاید خطر بزرگتر این باشد که انسانها، بهتدریج و با رضایت خودشان، کنترل را واگذار کنند؛ چون این کار سریعتر، ارزانتر و سودآورتر به نظر میرسد.
سؤال مهم آینده شاید این نباشد که هوش مصنوعی چقدر قدرتمند میشود؛ بلکه این باشد که وقتی بهاندازه کافی قدرتمند شد، چه کسی تصمیم میگیرد؟
#هوش_مصنوعی #OpenAI #آینده_فناوری #عامل_هوشمند #AI #آینده_بشریت #فناوری
@khabarict