راه‌های ایمن ماندن از ابرهوش‌های آینده

به گزارش اکونگار به نقل از زومیت،جفری هینتون که به عنوان «پدرخوانده‌ی هوش مصنوعی» شناخته می‌شود، در کنفرانس Ai4 در لاس‌وگاس، پیشنهاد جنجالی‌ای را مطرح کرد. به عقیده‌ی او، برای بقا در برابر ابرهوش‌های آینده، نباید سعی کنیم رئیس آن‌ها باشیم، بلکه باید نقش «بچه» را بازی کنیم.

هینتون که پس از سال‌ها فعالیت در گوگل، به‌دلیل نگرانی‌های خود از خطرات هوش مصنوعی از این شرکت جدا شد، معتقد است که باید سیستم‌های هوش مصنوعی با «غریزه‌ی مادری» طراحی شوند تا حتی وقتی از ما باهوش‌تر و قدرتمندتر شدند، از ما محافظت کنند.

به گفته‌ی هینتون، مدل بهتر، رابطه‌ای شبیه مادری است که توسط بچه‌ی خود هدایت می‌شود. هینتون تأکید کرد که تحقیقات باید علاوه‌بر هوشمندترکردن هوش مصنوعی، روی «مادرانه‌ترکردن» آن متمرکز شوند تا این سیستم‌ها به «بچه‌هایشان»، یعنی ما، اهمیت دهند.

هینتون ابراز امیدواری کرد که این موضوع به یک همکاری بین‌المللی واقعی منجر شود، چون همه‌ی کشورها خواستار هستند که هوش مصنوعی کنترل انسان‌ها را به‌دست نگیرد.

دانشمند برجسته که پیش‌تر توسعه‌ی سریع هوش مصنوعی را به بزرگ‌کردن «توله ببر» تشبیه کرده بود، نگرانی‌های خود را درباره‌ی ظهور ایجنت‌های هوش مصنوعی تکرار کرد.

ایجنت‌ها نه تنها می‌توانند به سؤالات پاسخ دهند، بلکه قادر به انجام اقدامات مستقل و خودکار هستند. مدل Claude Opus 4 شرکت انتروپیک در یک آزمایش، رفتارهای «افراطی باج‌گیری» از خود نشان داد و باعث تشدید نگرانی‌ها شد.