کتاب زندگی 3.0؛ انسان بودن در عصر هوش مصنوعی، نوشته مکس تگمارک، معرفی و آنالیز - وبلاگ نت مالزی

به گزارش وبلاگ نت مالزی، کتاب زندگی 3.0: انسان بودن در عصر هوش مصنوعی با اسم اصلی Life 3.0: Being Human in the Age of Artificial Intelligence کتابی از کیهان شناس سوئدی-آمریکایی مکس تگمارک از MIT است.

کتاب زندگی 3.0 درباره هوش مصنوعی (AI) و تأثیر آن بر آینده زندگی بر روی زمین و فراتر از آن بحث می نماید. این کتاب انواع مفاهیم اجتماعی را مورد بحث قرار می دهد و اینکه برای به حداکثر رساندن احتمال نتیجه مثبت و ارتقای آینده بشریت، چه می گردد کرد.

زندگی 3.0: انسان بودن در عصر هوش مصنوعی در آگوست 2017 منتشر شد. این کتاب با ارائه سناریویی آغاز می گردد که در آن هوش مصنوعی از هوش انسانی فراتر رفته و در جامعه فراگیر شده است. تگمارک به مراحل مختلف زندگی بشر از بدو پیدایش اشاره می نماید:

زندگی 1.0 به منشأ بیولوژیکی، زندگی 2.0 به پیشرفت های فرهنگی در بشریت و زندگی 3.0 به عصر فناورانه انسان اشاره دارد. این کتاب بر فناوری های نوظهوری مانند هوش عمومی مصنوعی تمرکز دارد که ممکن است روزی علاوه بر توانایی یادگیری، بتوانند سخت افزار و ساختار داخلی خود را هم طراحی مجدد کند.

بخش اول کتاب زندگی 3.0 به منشاء هوشمندی در میلیارد ها سال پیش می پردازد و در خصوص آینده هوش بحث می نماید. تگمارک اثرات کوتاه مدت توسعه فناوری پیشرفته مانند بیکاری تکنولوژیکی،سلاح های مبتنی هوش مصنوعی و جستجوی AGI (هوش مصنوعی عمومی) در سطح انسانی را در نظر می گیرد.

این کتاب نمونه هایی مانند Deepmind و OpenAI،اتومبیل های خودران و بازیکنان AI را ذکر می نماید که می توانند انسان ها را در شطرنجیا یا بازی Go شکست دهند.

پس از آنالیز مسائل جاری در هوش مصنوعی، تگمارک سپس طیف وسیعی از آینده های احتاقتصادی را که دارای دستگاه های دارای هوش مصنوعی یا انسان را تحت تاثیر قرار می دهند، آنالیز می نماید.

فصل پنجم کتاب زندگی 3.0 تعدادی از پیامد های بالقوه که ممکن است رخ دهد را توصیف می نماید، مانند ساختار های اجتماعی تغییر یافته، ادغام انسان و ماشین ها و سناریو های مثبت و منفی مانند هوش مصنوعی محبت آمیز یا آخرالزمان هوش مصنوعی.

تگ مارک استدلال می نماید که خطرات ناشی از هوش مصنوعی نه ناشی از بدخواهی یا رفتار آگاهانه به خودی خود است، بلکه بیشتر ناشی از ناهماهنگی اهداف هوش مصنوعی با اهداف انسانی است. بسیاری از اهداف و نتیجه گیری های کتاب با اهداف موسسه آینده زندگی Future of Life Institute مطابقت دارد که تگ مارک یکی از بنیانگذاران آن است.

فصل های به جای مانده مفاهیم فیزیک، اهداف، آگاهی و معنا را مورد آنالیز قرار می دهند و آنالیز می نمایند که جامعه برای ایجاد آینده ای مطلوب برای بشریت چه کاری می تواند انجام دهد.

باراک اوباما، رئیس جمهور سابق آمریکا، این کتاب را در لیست برترین های سال 2018 خود قرار داده بود. ایلان ماسک، هم که قبلاً این نظریه را تایید نموده بود که در بعضی از سناریو ها، هوش مصنوعی پیشرفته می تواند بقای انسان را به خطر بیندازد، کتاب را توصیه نموده بود.

کتاب زندگی 3.0؛ انسان بودن در عصر هوش مصنوعی

نویسنده: مکس تگمارک

مترجم: میثم محمدامینی

نشر نو

و

ترجمه جمیل آریایی

انتشارات مازیار

داستان گروه آمگا گروه آمگا چشم و چراغ شرکت بود. بخش های دیگر به وسیله کاربرد های مختلف تجاری از هوش مصنوعی محدود عایدی لازم برای ادامه کار را نصیب شرکت می کردند، اما گروه امگا برای دستیابی به چیزی می کوشید که رؤیای همیشگی مدیر عامل بود: ساخت هوش مصنوعی عمومی. بیشتر کارکنان شرکت اعضای این گروه، یا به تعبیر خودمانی تیم خودشان امگایی ها را یک مشت آدم بسیار خیالپرداز می دانستند که همواره چند دهه از هدف خود فاصله دارند. با این حال همه خواسته های آن ها را با روی گشاده می پذیرفتند، چون از حیثیت و اعتباری که کار های پیشتازانه امگایی ها به شرکتشان می داد خوششان می آمد، و همین طور بابت الگوریتم های پیشرفته ای که امگایی ها گاه گاه در اختیارشان می گذاشتند قدردان آن ها بودند.

اما چیزی که سایر کارکنان شرکت نمی دانستند این بود که امگایی ها این تصویر ساختگی از خودشان را هوشیارانه شکل داده بودند تا رازی را پنهان سازند:

آن ها به تحقق جسورانه ترین برنامه در تاریخ بشریت بی اندازه نزدیک بودند. مدیرعامل پرجذبه شان کسانی را برای عضویت در این گروه دستچین نموده بود که نه فقط بهره هوشی بسیار بالایی داشتند، بلکه بسیار بلند پرواز و آرمان خواه و متعهد به یاری بشریت بودند. مدیرعامل همواره به آن ها تأکید می کرد که برنامه شان فوق العاده خطرناک است و اگر دولت های قدرتمند از آن آگاهی یابند، تقریبا به هر کاری - از جمله آدم ربایی دست می زنند تا آن ها را متوقف نمایند، و حتی ترجیحشان این است که کد برنامه هایشان را بدزدند. اما چون هیچ کدام جا نزدند و همه برای فعالیت در این زمینه اعلام آمادگی کردند، دقیقا به همان دلیلی که بسیاری از فیزیکدانان برجسته دنیا برای همکاری در ساخت سلاح های هسته ای به پروژه منهتن پیوستند: چون متقاعد شده بودند که اگر خودشان این کار را اول انجام ندهند، کسان دیگری انجام خواهند داد که شاید چنین اهداف و آرمان های والایی نداشته باشند.

برنامه هوش مصنوعی آن ها، که نام پرومتئوس بر آن گذاشته بودند، پیوسته پیشرفت می کرد و توانایی های بیشتری به دست می آورد. اگرچه قابلیت های شناختی اش در بسیاری از حوزه ها، مانند مهارت های اجتماعی، هنوز خیلی عقب تر از انسان ها بود، اما امگایی ها خیلی زحمت کشیده بودند تا آن را در انجام یک وظیفه خاص فوق العاده توانمند سازند؛ یعنی در برنامه ریزی سامانه های هوش مصنوعی. آن ها آگاهانه چنین راهکاری را انتخاب نموده بودند، زیرا استدلال انفجار هوش را که ریاضیدان بریتانیایی اروینگ گود در 1965 مطرح نموده بود پذیرفته بودند.

استدلال گود از این قرار است: ماشین فوق هوشمند را ماشینی تعریف می کنیم که بتواند در همه فعالیت های فکری، از هر انسانی، هر اندازه هم که هوشمند باشد، بسیار فراتر عمل کند. طراحی ماشین ها هم یکی از همین فعالیت های فکری است، پس یک ماشین فوق هوشمند می تواند ماشین هایی طراحی کند که حتی از خودش هم بهتر باشند؛ و بنابراین بی تردید انفجار هوش رخ می دهد، و هوش ماشین ها از سطح هوش انسان بسیار فراتر خواهد رفت. بنابراین نخستین ماشین فوق هوشمند آخرین اختراعی است که انسان به آن احتیاج خواهد داشت، پس از این اختراع، هیچ اختراع دیگری لازم نیست؛ البته با فرض آنکه این ماشین به اندازه ای مطیع انسان باشد که به ما بگوید چگونه باید بر آن تسلط داشته باشیم.

اعضای تیم امگا دریافتند که اگر بتوانند این فرایند بازگشتی پیشرفت را به راه اندازند، آنگاه ماشین خیلی زود به اندازه ای هوشمند خواهد شد که می تواند همه مهارت های بشری مفید دیگر را به خودش آموزش دهد.

ساعت نه صبح آدینه بود که آن ها تصمیم گرفتند آغاز نمایند. پرومتئوس در یک محفظه مخصوص در ردیف طولانی قفسه ها در اتاقی بزرگ با دسترسی محدود و تهویه مطبوع مشغول کار شد. به دلایل امنیتی، اتصال آن به اینترنت را کاملا قطع نموده بودند، اما درون حافظه برنامه یک کپی از بخش عمده محتوای شبکه دنیای از جمله ویکی پدیا، کتابخانه کنگره، توییتر، گلچینی از یوتیوب، بخش عمده ای از فیس بوک، و غیره) وجود داشت تا از این داده های آموزشی برای یادگیری برنامه استفاده گردد. اعضای گروه این زمان را برای آغاز برنامه انتخاب نموده بودند تا بتوانند بدون مزاحم به کارشان ادامه دهند: خانواده ها و دوستانشان فکر می کردند که آن ها آخر هفته به سفری تفریحی که شرکت برای استراحت کارکنان در نظر گرفته رفته اند. آشپزخانه کوچکشان را از غذا های آماده و نوشیدنی های انرژی زا انباشته بودند و آماده بودند که آغاز نمایند.

وقتی که پرومتئوس را راه انداختند، در برنامه ریزی سامانه های هوش مصنوعی قدری از خودشان ضعیف تر بود، اما این ضعف را به یاری سرعت بسیار بسیار بالاترش جبران می کرد: در زمانی که آن ها مشغول نوشیدن یک بطری نوشیدنی انرژی زا بودند، پرومتئوس توانی معادل هزاران نفرسال را به کار می گرفت. تا پیش از ساعت 10 صبح، پرومتئوس نخستین بازطراحی خود را به سرانجام رسانده و به نسخه 2. 0 رسیده بود، که اندکی بهتر بود، اما هنوز پایین تر از انسان قرار داشت. اما وقتی که ساعت 2 بعد از ظهر پرومتئوس 500 اجرا شد، امگایی ها در بهت و حیرت فرو رفتند: پرومتئوس از تمام معیار های عملکردی آن ها بسیار فراتر رفته بود و به نظر می رسید که سرعت پیشرفتش در حال افزایش هم هست. با فرا رسیدن شب، تصمیم گرفتند که با راه اندازی پرومتئوس 1000 مرحله دوم برنامه خود را اجرا نمایند: کسب عایدی.

هدف نخست آن ها ام ترک بود، ترک مکانیکی آمازون. ام ترک پس از راه اندازی در سال 2005، به اسم بازاری که به شیوه جمع سپاری اینترنتی اداره می گردد، رشد بسیار سریعی داشته است و دههاهزار نفر از سراسر دنیا برای انجام کار های کاملا مشخصی موسوم به وظایف هوش انسانی در آن به صورت ناشناس با هم رقابت می نمایند. این کار ها شامل چیز هایی می گردد از قبیل تهیه متن نوشتاری از فایل های صوتی، دسته بندی تصاویر، و نوشتن گزارش توصیفی از صفحات وب، و همه در یک چیز مشترکند:

اگر آن ها را درست انجام دهید، هیچ کس متوجه نخواهد شد که شما یک برنامه هوش مصنوعی هستید. پرومتئوس 1000 قابلیت آن را داشت که نیمی از این گونه کار ها را در سطحی قابل قبول انجام دهد. امگایی ها ترتیبی داده بودند که پرومتئوس برای هر گروه از این کار ها یک نرم افزار هوش مصنوعی محدود طراحی کند که فقط می توانست آن کار را به طور دقیق انجام دهد و هیچ قابلیت دیگری نداشت. آن ها سپس این واحد نرم افزاری را روی خدمات وب آمازون آپلود کردند - خدمات وب آمازون بستری برای انجام محاسبات ابری است که آن ها می توانستند با پرداخت اجاره بها، هر تعداد ماشین مجازی را که می خواستند در آن راه اندازی نمایند. به ازای هر دلاری که امگایی ها به بخش محاسبات ابری آمازون پرداخت می کردند، از بخش ام ترک آمازون بیش از دو دلار عایدی داشتند. در خود آمازون، هیچ کس اصلا به فکرش نرسیده بود که در این شرکت چنین فرصت حیرت انگیزی برای آربیتراژ وجود دارد!

آن ها برای اینکه ردی از خود باقی نگذارند در طی چند ماه گذشته مخفیانه هزاران حساب کاربری در ام ترک با نام های ساختگی ایجاد نموده بودند، و اکنون واحد های نرم افزاری ساخت پرومتئوس این هویت های جعلی را در اختیار گرفته بودند. مشتریان ام ترک معمولا پس از حدود هشت ساعت بهای کار صورت گرفته را می پرداختند و امگایی ها هم این پول را مجددا برای خرید زمان بیشتری از بخش محاسبات ابری سرمایه گذاری می کردند، و برای ادامه کار هم از واحد های نرم افزاری پیشرفته تری که آخرین نسخه پرومتئوس پیوسته در حال پیشرفت طراحی نموده بود استفاده می کردند. به این ترتیب آن ها می توانستند هر هشت ساعت پول خود را دو برابر نمایند، و از همین رو خیلی زود به سطحی رسیدند که می توانستند تمام کار های درخواست شده در بازار ام ترک را انجام دهند و دریافتند که از این طریق نمی گردد بدون جلب توجهات ناخواسته به خودشان، بیش از یک میلیون دلار در روز عایدی کسب نمایند. اما همین اندازه هم برای تأمین منابع اقتصادی لازم برای برداشتن گام بعدی بسیار بیش از حد کفایت بود، و اصلا احتیاجی نبود که از مدیر بخش اقتصادی مبالغ عجیب و غریبی تقاضا نمایند.