مارک کوکلبرگ استاد تمام فلسفه رسانه و فناوری در گروه فلسفه دانشگاه وین اتریش است. او یکی از نظریه‌پردازان برجسته در حوزه اخلاق و فلسفه فناوری، به‌ویژه، مسائل روباتیک و هوش مصنوعی و رئیس پیشین انجمن فلسفه و فناوری است. همچنین، وی عضو نهادهای مختلفی است که در حوزه‌های روباتیک و هوش مصنوعی سیاست‌گذاری می‌کنند، مواردی مانند گروه تخصصی سطح بالای کمیسیون اروپا در زمینه هوش مصنوعی و شورای اتریش در زمینه روباتیک و هوش مصنوعی. اخلاق هوش مصنوعی[۱] یکی از کتاب‌های مهم مارک کوکلبرگ است که انتشارات ام.آی.تی[۲] آن را در سال ۲۰۲۰ منتشر کرده است. در این یادداشت، این کتاب را مختصراً معرفی می‌کنیم.
کوکلبرگ در عین اینکه فیلسوف برجسته‌ای است، نویسنده توانمندی نیز هست و در کتاب اخلاق هوش مصنوعی با قلمی شیوا طیف وسیعی از مسائل اخلاق هوش مصنوعی را تجزیه‌وتحلیل می‌کند. او می‌کوشد تا درباره هوش مصنوعی به شیوه‌ای نظرورزی کند که نه اسیر هیاهوهای دستاوردهای آن شود و نه خود را درگیر داستان‌های کابوس‌مانند آن همچون تسلط روبات‌های هوشمند بر انسان کند. مارک کوکلبرگ در این کتاب روی مسائل مهمی دست می‌گذارد و می‌کوشد تا از طریق کندوکاو راه‌حل‌های مختلف خواننده را به‌خوبی با مسائل اخلاق هوش مصنوعی آشنا و درگیر کند. برای این منظور او در طول کتاب پرسش‌هایی از این دست مطرح می‌کند که آیا درنهایت ماشین‌ها از انسان پیشی می‌گیرند و بر انسان مسلط می‌شوند؟ آیا هوش مصنوعی صرفاً نقشی ابزاری در جامعه بشری دارد یا نقشش فراتر از این‌هاست؟ به‌علاوه، ظهور و گسترش هوش مصنوعی پرسش‌هایی درباره ماهیت انسان مطرح می‌کند که آیا انسان هم ماشینی در عرض دیگر ماشین‌هاست که عیب‌های خاص خودش را دارد یا این دو تفاوت‌های بنیادینی با یکدیگر دارند؟
کوکلبرگ، در قسمتی از کتاب، جوانب این پرسش را وامی‌کاود که آیا روبات‌های هوش مصنوعی مانند انسان‌ها از شأنی اخلاقی[iii] برخوردارند یا خیر. یکی از دلایل مطرح و برجسته‌شدن چنین پرسشی این است که امروزه روبات‌ها و برنامه‌های هوش مصنوعی در کنش‌ها و تصمیمات اخلاقی انسان‌ها مساهمتی جدی دارند. درنتیجه، نمی‌توانیم اثرات آن‌ها را در ارزیابی‌های اخلاقی خود لحاظ نکنیم. ازآنجاکه این روبات‌ها و برنامه‌ها به‌نوعی کنش می‌کنند و کنش‌هایشان هم پیامدهای اخلاقی برای انسان و جامعه دارد چرا برای روبات‌های هوش مصنوعی، به‌طور اختصاصی، شأنی اخلاقی قائل نشویم؟ کوکلبرگ برای پاسخ به این پرسش‌ها لازم می‌بیند تا به دو مسئله عاملیت اخلاقی[۳] و کنش‌پذیری اخلاقی[۴] بپردازد که ارتباط زیادی با مسئله شأن اخلاقی دارند. بدین صورت بهتر می‌تواند جوانب مختلف مسئله را صورت‌بندی کرده و پاسخی برای آن ارائه کند.
در این کتاب هم به هوش جامع مصنوعی[۵] یا هوش مصنوعی قوی[۶] پرداخته می‌شود و هم به هوش مصنوعی ضعیف[۷] یا محدود[۸]. هوش جامع مصنوعی برنامه‌ای پژوهشی است که طبق آن هوش مصنوعی می‌تواند به جایی برسد که همه عملکردهای شناختی انسان را انجام دهد. درمقابل، هوش مصنوعی ضعیف یا محدود فقط قادر به انجام کارهای خاصی مانند شطرنج بازی‌کردن، تشخیص‌دادن الگوها، چهره و مواردی از این قبیل است. هنوز اندیشمندان زیادی تحقق هوش جامع مصنوعی را بعید می‌دانند و به همین جهت کوکلبرگ در این کتاب عموماً درباره هوش مصنوعی ضعیف بحث می‌کند، چراکه این برنامه پژوهشی بیشتر در معرض تأملات اخلاقی و توصیه‌های سیاست‌گذارانه است.
یکی دیگر از مسائلی که کوکلبرگ در این کتاب آن را وارسی می‌کند این است که با ظهور و فراگیرشدن استفاده از هوش مصنوعی مسئله حفاظت از داده و حفظ حریم خصوصی از اهمیت ویژه‌ای برخوردار می‌شود. خوب است برای روشن‌ترشدن موضوع به حدود و ثغور این مسئله در پژوهش‌های علوم اجتماعی توجه کنیم. هنگامی‌که پژوهشگران علوم اجتماعی نیازمند جمع‌آوری داده از مردم هستند، خواه به‌صورت فیزیکی مانند پرسش‌نامه‌ها و خواه به‌صورت مجازی مانند استفاده از وب‌سایت‌ها، به افراد به‌طور شفاف اعلام می‌کنند که پژوهش مربوط به کدام سازمان است، چه داده‌هایی از آن‌ها گرفته می‌شود و شیوه تحلیل و ارزیابی داده‌ها نیز مشخص است، اما هنگامی‌که غول‌های فناوری از مردم داده جمع می‌کنند، عموماً از آن‌ها هیچ اجازه‌ای نمی‌گیرند و این احتمال وجود دارد که داده‌ها را در اختیار دیگر سازمان‌ها قرار دهند، یا به شرکت‌های دیگر بفروشند تا این شرکت‌ها تبلیغات خود را هدفمندتر انجام دهند. این‌ها نمونه‌ای از موضوعات اخلاقی هوش مصنوعی است که کوکلبرگ به آن‌ها می‌پردازد.
به‌طور کلی، می‌توانیم بگوییم که مارک کوکلبرگ در این کتاب به مسائلی مانند ابرهوشمندی[۹]، تفاوت اساسی میان ماهیت انسان و ماشین، وضعیت اخلاقی هوش مصنوعی، نگرانی‌های مربوط به حریم خصوصی، تفویض[۱۰] تصمیم‌گیری به الگوریتم‌های هوش مصنوعی، سوگیری الگوریتم‌ها و مواردی از این دست می‌پردازد. درنهایت، او طیفی از پیشنهادات سیاست‌گذارانه را تجزیه‌وتحلیل کرده و درباره چالش‌های پیش روی سیاست‌گذاران این عرصه بحث می‌کند. در ادامه، فهرست مطالب کتاب آورده شده تا خوانندگان علاقه‌مند با موضوعات جزئی‌تر کتاب بیشتر آشنا شوند.
فهرست مطالب کتاب
- فصل ۱: آینه، آینه روی دیوار
ترس‌ها و هیاهوهای هوش مصنوعی: آینه و آینه روی دیوار، چه کسی از همه ما هوشمندتر است؟
تأثیر واقعی و فراگیر هوش مصنوعی
لزوم بحث درباره مسائل اخلاقی و اجتماعی
درباره کتاب - فصل ۲: ابرهوشمندی، هیولاها و آخرالزمان هوش مصنوعی
ابرهوشمندی و تراانسان‌گرایی
هیولای جدید فرانکنشتاین
فراروی و آخرالزمان هوش مصنوعی
چگونه از روایت‌های رقیب و هیاهوها عبور کنیم؟ - فصل 3: همه‌چیز درباره انسان
آیا تحقق هوش جامع مصنوعی امکان‌پذیر است؟ آیا میان انسان و ماشین تفاوت‌های بنیادینی وجود دارد؟
مدرنیته، پساانسان‌گرایی و پساپدیدارشناسی - فصل ۴: فقط ماشین‌ها؟
پرسشگری درباره جایگاه اخلاقی هوش مصنوعی: عاملیت اخلاقی و کنش‌پذیری اخلاقی
عاملیت اخلاقی
کنش‌پذیری اخلاقی
به‌سوی موضوعات اخلاقی کاربردی‌تر - فصل ۵: فناوری
هوش مصنوعی چیست؟
رهیافت‌های مختلف و زیرشاخه‌ها
کاربردها و تأثیر - فصل ۶: داده را فراموش نکنید (علم)
یادگیری ماشین
علم داده
کاربردها - فصل ۷: حریم خصوصی و دیگر مظنون‌های عمومی
حریم خصوصی و حفاظت از داده
دست‌کاری، استعمار و کاربران آسیب‌پذیر
اخبار جعلی، خطر خودکامگی، و تأثیرات آن‌ها بر روابط شخصی
ایمنی و امنیت - فصل ۸: ماشین‌های غیرمسئول و تصمیمات غیرقابل‌توضیح
چگونه می‌توانیم مسئولیت‌پذیری اخلاقی را اسناد کنیم و چگونه باید این کار را انجام دهیم؟
شفافیت و توضیح‌پذیری - فصل ۹: سوگیری و معنای زندگی
سوگیری
آینده شغل و معنای زندگی - فصل ۱۰: پیشنهادهای سیاستی
چه کارهایی باید انجام شود و دیگر پرسش‌هایی که سیاست‌گذاران باید به آن‌ها پاسخ دهند
اصول اخلاقی و توجیه‌ها
راه‌حل‌های فناورانه و پرسش از روش‌ها و عملیاتی‌سازی - فصل ۱۱: چالش‌های سیاست‌گذاران
اخلاق کنش‌گرایانه: نوآوری مسئولانه و برنگاشت ارزش‌ها در طراحی
تمرین‌گرایی و روش پایین به بالا: چگونه می‌توانیم این مسائل را به کار ببندیم؟
به‌سوی اخلاقی ایجابی
میان‌رشته‌ای و فرارشته‌ای
تهدید زمستان هوش مصنوعی و خطر استفاده بی‌فکر از هوش مصنوعی - فصل ۱۲: مشکل از آب‌وهواست! درباره اولویت‌ها، آنتروپوسِن[۱۱] و خودروی ایلان ماسک در فضا
آیا اخلاق هوش مصنوعی باید انسان‌محور باشد؟
سامان‌دادن درست اولویت‌ها
هوش مصنوعی، تغییرات آب‌وهوایی و آنتروپوسِن
جنون فضایی نوین و وسوسه‌ای افلاطونی
بازگشت به زمین: به‌سوی هوش مصنوعی پایدار
آنچه که می‌خواهیم: هوشمندی و خرد - واژه‌نامه
یادداشت‌ها
مراجع
مطالعه بیشتر
نمایه
مارک کوکلبرگ[۱۲]
نگارنده: محسن به‌خوی کارشناسی ارشد فلسفه علم دانشگاه صنعتی شریف
گروه مطالعات اخلاقی پژوهشگاه فضای مجازی
