Building a God

The Ethics of Artificial Intelligence and the Race to Control It

نویسنده : Christopher DiCarlo

ناشر : Prometheus

سال چاپ : 21-01-2025

در ادامه، خلاصه‌ای دقیق و تحلیلی از کتاب “Building a God: The Ethics of Artificial Intelligence and the Race to Control It”  با ترجمه «ساخت یک خدا» نوشته کریستوفر دی‌کارلو ارائه می‌شود:

فصل اول: چشم‌انداز و تهدید اصلی

کریستوفر دی‌کارلو، فیلسوف و متخصص اخلاق هوش مصنوعی، در فصل اول در مقابل مخاطب می‌پرسد: اگر سیستم‌های هوش مصنوعی به سطحی از هوش برسند که از انسان پیشی بگیرند، آیا می‌توانیم آن‌ها را کنترل کنیم؟ او معتقد است رسیدن به هوش مصنوعی عام (AGI) و حتی ابرهوش مصنوعی (ASI) نه‌تنها محتمل است، بلکه نزدیک‌تر از همیشه است و در صورت بی‌توجهی، می‌تواند پیامدهای نگران‌کننده‌ای داشته باشد.

فصل دوم: تبیین مفاهیم AGI و ASI

نویسنده تعاریف زیر را ساختاریافته توضیح می‌دهد:

• • ANI (هوش محدود): پاسخ به وظایف خاص مانند Siri یا GPT-4.

• • AGI (هوش عمومی): سیستم‌های مستقل با توانایی فکری شبیه انسان.

• • ASI (ابرهوش مصنوعی): هوش فراتر از انسان که می‌تواند توان خود را با خودکاوی افزایش دهد .

دی‌کارلو هشدار می‌دهد که گذر به AGI اغلب به‌سرعت به ASI می‌انجامد؛ افزایشی که ممکن است خارج از کنترل انسان باشد.

فصل سوم: خطرات ناشی از فقدان اخلاق و شفافیت

با بررسی مثال‌هایی مانند جعل تصویر (Deepfake)، گسترش اطلاعات نادرست، و الگوریتم‌های دستکاری‌گر اجتماعی، نویسنده نشان می‌دهد که بدون چارچوب اخلاقی و نظارتی، AGI  می‌تواند:

• • انتخابات را دستکاری کند

• • زیرساخت‌های اجتماعی را تضعیف نماید

• • توانایی اخلاقی و حقوقی سیستم‌ها را زیر سوال ببرد .

فصل چهارم: نخستین گام—حاکمیت بین‌المللی

دی‌کارلو پیشنهاد می‌دهد که برای جلوگیری از سوءاستفاده احتمالی، نیاز به چارچوبی جهانی شبیه آژانس بین‌المللی انرژی هسته‌ای داریم. چنین نهادی می‌تواند فعالیت‌های توسعه AGI را نظارت کند و کشورها یا شرکت‌ها را به معاهداتی الزام‌آور متعهد سازد .

فصل پنجم: طراحی با احترام به ارزش‌های انسانی

نویسنده نقد می‌کند که ایده «برنامه‌ریزی ارزش‌های انسانی» در AI بسیار پیچیده است:

• • چه ارزش‌هایی انتخاب شوند؟

• • چه کسی آن‌ها را تعریف می‌کند؟

• • آیا یک فرهنگ یا جوامع جهانی می‌توانند بر سر آن‌ها توافق کنند؟

او پیشنهاد می‌دهد که سیاست‌گذاری در این حوزه باید شفاف، قابل‌سنجش و مبتنی بر فرآیندهای جمعی باشد .

فصل ششم: کنترل اخلاقی و بررسی‌های فنی

دی‌کارلو روی ضرورت گنجاندن سیستم‌های بازدارنده ایمنی تأکید دارد، نظیر:

• • مکانیزم‌هایی برای جلوگیری از رفتار خارج از کنترل AGI

• • مجوزها و اقدامات توقف اضطراری مثل سناریو «الیاف»

• • نظارت همه‌جانبه بر فرآیندهای توسعه و انتشار هوش مصنوعی .

فصل هفتم: فناوری در خدمت جامعه، نه منافع محدود

نویسنده با تأکید بر فواید بالقوه AI در حوزه‌هایی مانند آموزش شخصی‌سازی‌شده، تشخیص پزشکی و محیط‌زیست، می‌گوید هدف باید ساخت فناوری‌هایی باشد:

• • اخلاق‌مدار،

• • شفاف،

• • به‌گونه‌ای که پویایی رقابتی کنترل‌شده داشته باشند

• و خطر تفرّد استراتژیک یا آسیب هدفمند را کاهش دهند.

جمع‌بندی اصلی کتاب

Building a God چالشی فلسفی و عملی است؛ چالشی درباره نحوه ایجاد نظریه و تعادل میان پیشرفت سریع فناوری، مسئولیت اخلاقی و مدیریت آن.

نویسنده تأکید می‌کند که:

1- توسعه AGI و ASI محتمل هستند

2- خطر اخلاقی و کنترل غیرقابل‌پیش‌بینی وجود دارد

3- نیاز به چارچوبی جهانی، شفاف و مبتنی بر اصول اخلاقی وجود دارد

4- بدون اعمال کنترل هوشمند، ممکن است AI به‌جای خدمت، آسیب‌زاست