توسعه فزاینده هوش مصنوعی پیشرفت‌های پزشکی را به همراه خواهد داشت که جان میلیاردها نفر را نجات داده و [زندگی آنها را] بهبود خواهد بخشید. این تکنولوژی به قوی‌ترین موتور رفاه در تاریخ مبدل خواهد شد و به تعداد بی‌شماری از مردم، از جمله نسل‌هایی که هنوز پا به دنیا نگذاشته‌اند، ابزارهای قدرتمندی خواهد داد که اجدادشان هرگز تصور نمی‌کردند. اما خطرات و چالش‌هایی که هوش مصنوعی ایجاد می‌کند نیز مشخص‌تر می‌شود و اکنون زمان درک و رسیدگی به آنها است. در اینجا بزرگترین این چالش‌ها مورد بحث قرار می‌گیرد.
سلامت دموکراسی و بازارهای آزاد به دسترسی به اطلاعات دقیق و قابل تأیید بستگی دارد. در سال‌های اخیر، رسانه‌های اجتماعی تشخیص واقعیت از داستان را سخت‌تر کرده‌اند، اما پیشرفت‌ها در هوش مصنوعی، لشکرهایی از ربات‌ها را رها می‌کند که بسیار انسانی‌تر از ربات‌هایی هستند که تا به امروز با آنها مواجه شده‌ایم. فایل‌های جعلی[۱] صوتی و تصویری بسیار پیچیده‌تر، اعتماد (از قبل کاهش یافته) ما را به کسانی که در دولت خدمت کرده و کسانی که اخبار را ارائه می‌دهند تضعیف خواهد کرد. در چین و سپس در کشورهای مشتری آن، هوش مصنوعی تشخیص چهره و سایر ابزارهایی را که می‌توانند برای نظارت دولتی مورد استفاده قرار گیرند، به طور بالقوه به سطوح بالاتری از پیچیدگی ارتقا می‌دهد.
این مشکل فراتر از مؤسسات ما است، زیرا تولید «هوش مصنوعی مولد[۲]»، هوش مصنوعی که محتوای نوشتاری، بصری و سایر موارد پیچیده را در پاسخ به درخواست‌های کاربران تولید می‌کند، به شرکت‌های بزرگ تکنولوژی محدود نمی‌شود. هر کسی که لپ‌تاپ و مهارت‌های برنامه‌نویسی اولیه را داشته باشد، از قبل به مدل‌های هوش مصنوعی بسیار قدرتمندتر از مدل‌هایی که حتی چند ماه پیش وجود داشت دسترسی دارد و می‌تواند حجم بی‌سابقه‌ای از محتوا تولید کند. این چالش گسترش، به طور تصاعدی در حال رشد است چرا که میلیون‌ها نفر جی‌پی‌تی خود را در حال کار بر روی داده‌های آنی موجود در اینترنت خواهند داشت. انقلاب هوش مصنوعی به مجرمان، تروریست‌ها و دیگر بازیگران بد قدرت می‌دهد تا بدافزارها را کدنویسی کنند، سلاح‌های زیستی ایجاد کنند، بازارهای مالی را دستکاری کنند و افکار عمومی را با سهولت وحشتناکی منحرف کنند.
هوش مصنوعی همچنین می‌تواند نابرابری را در داخل جوامع بین گروه‌های کوچک دارای ثروت، دسترسی یا مهارت‌های خاص، و همچنین در میان کشورهای ثروتمندتر و فقیرتر تشدید کند.
در سال‌های اخیر، رسانه‌های اجتماعی تشخیص واقعیت از داستان را سخت‌تر کرده‌اند، اما پیشرفت‌ها در هوش مصنوعی، لشکرهایی از ربات‌ها را رها می‌کند که بسیار انسانی‌تر از ربات‌هایی هستند که تا به امروز با آنها مواجه شده‌ایم.
هوش مصنوعی در نیروی کار ایجاد آشفتگی خواهد کرد. بله، جهش‌های تکنولوژیک گذشته عمدتاً بیش از آنچه کشته‌اند، شغل ایجاد کرده، و بهره‌وری و رفاه عمومی را افزایش داده‌اند، اما هشدارهای مهمی وجود دارد. مشاغل ایجاد شده توسط تغییرات بزرگ تکنولوژی در محل کار نیازمند مجموعه مهارت‌های متفاوتی نسبت به آنچه هستند که از بین برده‌اند و این گذار هرگز آسان نیست. کارگران باید بازآموزی شوند. کسانی که نمی‌توانند بازآموزی شوند باید توسط یک شبکه ایمنی اجتماعی محافظت شوند که قدرت آن از مکانی به مکان دیگر متفاوت است. هر دوی این مشکلات پرهزینه هستند و برای دولت‌ها و شرکت‌های خصوصی هرگز آسان نخواهد بود که در مورد نحوه تقسیم بار این [هزینه‌ها] به توافق برسند.
به طور اساسی‌تر، جابجایی ایجاد شده توسط هوش مصنوعی به طور گسترده‌تر و بسیار سریعتری از گذارهای گذشته اتفاق می افتد. آشفتگی دوران گذار، آشوب اقتصادی و در نتیجه آشوب سیاسی در سراسر جهان ایجاد خواهد کرد.
در نهایت، انقلاب هوش مصنوعی هزینه‌های عاطفی و معنوی را نیز به همراه خواهد داشت. انسان‌ها حیوانات اجتماعی هستند. ما در تعامل با دیگران پیشرفت می‌کنیم و در انزوا پژمرده می‌شویم. ربات‌ها اغلب برای بسیاری از افراد در جایگاه همراهی، جایگزین انسان‌ها می‌شوند، و زمانی که دانشمندان و پزشکان تأثیر طولانی‌مدت این روند را درک کنند، اتکای عمیق ما به هوش مصنوعی، حتی در جایگاه همراهی و مصاحبت، غیرقابل برگشت خواهد بود. این ممکن است مهمترین چالش هوش مصنوعی باشد.
پاسخ
چالش‌هایی از این دست پاسخی جهانی می‌طلبد. امروزه هوش مصنوعی نه توسط مقامات دولتی بلکه توسط شرکت‌های تکنولوژی تنظیم می‌شود. دلیل آن ساده است: برای بازی‌ای که درک نمی‌کنید نمی‌توانید قوانینی وضع کنید. اما تکیه بر شرکت‌های تکنولوژی برای تنظیم محصولات خود برنامه‌ای پایدار نیست. وجود آنها اساساً برای کسب سود است، نه برای محافظت از مصرف کنندگان، ملت‌ها یا کره زمین. این مسئله کمی مانند این است که به شرکت‌های تولید انرژی اجازه داده شود تا راهبردهای مبارزه با تغییرات اقلیمی را رهبری کنند، با این تفاوت که گرمایش و خطرات آن از قبل شناخته شده‌اند اما خطرات هوش مصنوعی قابل درک نیست، و دست ما را از گروه‌های فشاری که بتوانند به اتخاذ سیاست‌های هوشمندانه و سالم کمک کنند خالی می‌گذارد.
پس راه حل در کجاست؟ ما به اقدام ملی، همکاری جهانی و برخی همکاری‌های [مطابق با] عقل سلیم به ویژه از سوی دولت‌های ایالات متحده و چین، نیاز داریم.
دستیابی به سیاست‌های هماهنگ در داخل دولت‌های ملی همیشه آسان‌تر از سطح بین المللی خواهد بود، اما رهبران سیاسی اولویت‌های خاص خود را دارند. در واشنگتن، سیاستگذاران عمدتاً بر پیروزی در رقابت با چین برای توسعه محصولات تکنولوژی که به بهترین وجه از امنیت و رفاه قرن بیست و یکم پشتیبانی می‌کنند، تمرکز کرده‌اند و این امر آنها را به سمت ارائه آزادی تقریباً افسار گسیخته به شرکت‌های تکنولوژی که در خدمت منافع ملی هستند سوق داده است. سیاستگذاران چینی، از ترس اینکه ابزارهای هوش مصنوعی ممکن است اقتدار سیاسی آنها را تضعیف کند، بسیار تهاجمی‌تر مقررات را تنظیم کرده‌اند. قانون‌گذاران اروپایی نسبت به تأثیر اجتماعی پیشرفت‌های هوش مصنوعی کمتر بر روی امنیت یا سود تمرکز کرده‌اند.
اما همه باید در سال‌های آینده قوانینی وضع کنند تا توانایی ربات‌های هوش مصنوعی را برای تضعیف نهادهای سیاسی، بازارهای مالی و امنیت ملی محدود کنند. این به معنای شناسایی و ردیابی بازیگران بد، و همچنین کمک به افراد برای جداسازی اطلاعات واقعی از ساختگی است. متأسفانه، این‌ها گام‌های بزرگ، پرهزینه و پیچیده‌ای هستند که سیاستگذاران احتمالاً تا زمانی که با بحران‌های (واقعی) ایجاد شده توسط هوش مصنوعی مواجه نشوند، برنمی‌دارند. تا زمانی که بحث و مناظره روی این موضوعات آغاز نشود، این اتفاق نمی‌افتد.
برخلاف تغییرات آب و هوایی، دولت‌های جهان هنوز توافق نکرده‌اند که انقلاب هوش مصنوعی یک چالش وجودی فرامرزی [و جهانی] است. در اینجا، سازمان ملل متحد به عنوان تنها نهادی که قدرت تشکیل جلسه برای ایجاد یک اجماع جهانی را دارد، نقش دارد. رویکرد رهبری سازمان ملل بر هوش مصنوعی هرگز کارآمدترین پاسخ نخواهد بود، اما با ایجاد اجماع در مورد ماهیت مشکل و ادغام منابع بین المللی، کمک خواهد کرد.
با ایجاد توافق در مورد این که چه خطراتی محتمل‌ترین و تأثیرگذارترین بوده و سریع‌ترین ظهور و بروز را خواهند داشت، مابه‌ازایی معطوف بر هوش مصنوعی با پَنل بین‌دولتی تغییرات آب و هوایی می‌تواند گردهمایی‌ها و توافق‌نامه‌های «وضعیت هوش مصنوعی» را تنظیم کند که هرچه بیشتر به قلب تهدیدات مرتبط با هوش مصنوعی متمرکز هستند. همانند تغییرات آب و هوایی، این فرآیند نیز باید شامل مشارکت فعال مقامات سیاست‌گذاری عمومی، دانشمندان، فن‌آوران، نمایندگان بخش خصوصی و فعالان فردی به نمایندگی از اکثر کشورهای عضو برای ایجاد یک فرآیند سی‌اُ‌پی[۳] (کنفرانس شامل همه طرف‌ها) برای رسیدگی به تهدیدات امنیت زیستی، آزادی اطلاعات، سلامت نیروی کار و غیره باشد. همچنین می‌توان یک آژانس هوش مصنوعی با الگوبرداری از آژانس بین‌المللی انرژی اتمی ایجاد کرد تا در جهت کنترل گسترش هوش مصنوعی کمک کند.
با این حال، هیچ راهی برای مقابله با خطرات رو به رشد سریع ایجاد شده توسط انقلاب هوش مصنوعی بدون به کارگیری بسیار ضروری عقل سلیم در روابط بین ایالات متحده و چین وجود ندارد. به هر حال، این رقابت تکنولوژیک بین دو کشور و شرکت‌های تکنولوژیک پیشرو آنهاست که بیشترین خطر جنگ را ایجاد می‌کند، به‌ویژه که هوش مصنوعی نقشی رو به رشد در تسلیحات و برنامه‌ریزی نظامی ایفا می‌کند.
پکن و واشنگتن باید گفتگوهایی در بالاترین سطح را در مورد تهدیدهای نوظهور علیه هر دو کشور (و جهان) و بهترین روش مهار آنها را توسعه داده و حفظ کنند. و آنها نمی‌توانند منتظر نسخه هوش مصنوعی بحران موشکی کوبا باشند تا آنها را به سمت شفافیت واقعی در مدیریت رقابتشان وادار کند. برای ایجاد «توافق کنترل تسلیحات هوش مصنوعی» با نظارت و راستی‌آزمایی متقابل، هر دولت نه تنها باید به حرف‌های یکدیگر، بلکه باید به نظرات فن‌آوران هر دو طرف که نسبت به خطراتی را که باید مهار شوند آگاهی دارند، توجه کنند.
دور از ذهن به نظر می‌رسد؟ کاملاً. زمان بسیار وحشتناک است، زیرا دستیابی به این پیشرفت‌ها با رقابت شدید بین دو کشور قدرتمند همزمان شده که واقعاً به یکدیگر اعتمادی ندارند.
اما اگر آمریکا و شوروی توانستند در دهه‌های ۱۹۷۰ و ۱۹۸۰ زیرساختی عملی برای کنترل تسلیحات ایجاد کنند، ایالات متحده و چین نیز می‌توانند زیرساختی معادل برای قرن بیست و یکم بسازند. بیایید امیدوار باشیم که آنها قبل از اینکه یک فاجعه به گونه‌ای اجتناب ناپذیر آشکار شود، متوجه خواهند شد که چاره‌ای جز این ندارند.
