هشدار پاپ فرانسیس درباره هوش مصنوعی

فن‌آوری‌های جدید باید همیشه در راستای “پیگیری صلح و خیر عمومی و در خدمت توسعه یکپارچه افراد و جوامع” باشند. پاپ فرانسیس در پیام سالانه خود به مناسبت روز جهانی صلح از رهبران جهان خواست اطمینان حاصل کنند که پیشرفت در توسعه انواع هوش مصنوعی “در نهایت در خدمت برادری و صلح بشری خواهد بود.”
پاپ در این پیام توجه را به بعد اخلاقی این فناوری‌های جدید که بشریت را در همه عرصه‌های زندگی متحول می‌کند جلب کرد و بر دوگانگی‌های ذاتی پیشرفت‌های علم و فناوری تاکید کرد.
از یک طرف، اگر این پیشرفت‌ها “به نظم بیشتر در جامعه بشری و مشارکت برادرانه و آزادی بیشتر کمک کند” می‌تواند به بهبود بشریت و دگرگونی جهان منجر شود. از سوی دیگر، پیشرفت‌های فنی-علمی، به‌ویژه در حوزه دیجیتال، ” گستره وسیعی از گزینه‌ها را در دست انسان قرار می‌دهد، از جمله برخی از گزینه‌ها که ممکن است برای بقای ما خطر داشته باشند و جهان مشترک ما را به خطر بیندازند.»
پیام پاپ بر این مبنا است که هیچ پژوهش علمی و نوآوری فنی “خنثی و بی طرف” نیست. این امر در مورد هوش مصنوعی نیز صدق می کند، زیرا “تاثیر هر دستگاه هوش مصنوعی نه تنها به طراحی فنی آن بستگی دارد، بلکه به اهداف و منافع صاحبان و توسعه دهندگان آن و به موقعیت هایی که در آن به کار خواهد رفت مرتبط است”
بنابراین، از نظر پاپ فرانسیس ما نمی‌توانیم به صورت پیشین فرض کنیم که توسعه هوش مصنوعی کمک مفیدی برای آینده بشریت و صلح در میان مردم خواهد بود. این نتیجه مثبت تنها زمانی حاصل می‌شود که ما بتوانیم مسئولانه عمل کنیم و به ارزش‌های اساسی انسانی مانند ” همه شمولی، شفافیت، امنیت، برابری و حریم خصوصی” احترام بگذاریم.
پاپ همچنین در پیام خود به خطر هوش مصنوعی برای دموکراسی‌ها از طریق ایجاد حجمی از اطلاعات نادرست و گسترش اخبار جعلی اشاره کرده‌است. او همچنین بر اثرات مخرب هوش مصنوعی مانند افزایش تبعیض، فریبکاری و کنترل اجتماعی تاکید کرده و گفته است که الگوریتم ها نباید تعیین کننده درک ما از حقوق بشر و ارزش های اساسی انسانی مانند شفقت، رحمت و بخشش باشد.
بنابراین پاپ فرانسیس از جامعه جهانی و کشورها خواست که برای تصویب یک معاهده بین المللی الزام آور که توسعه و استفاده از هوش مصنوعی در اشکال مختلف آن را تنظیم می‌کند، با یکدیگر همکاری کنند: “مقیاس جهانی هوش مصنوعی به وضوح نشان می‌دهد که علاه بر مسئولیت دولت های مستقل، سازمان‌های بین‌المللی می‌توانند نقش تعیین‌کننده‌ای در دستیابی به توافق‌های چندجانبه و اجرای آن ایفا کنند.”
در پایان پیام پاپ آمده است: ” دعای من در آغاز سال نو این است که توسعه سریع انواع هوش مصنوعی باعث افزایش نابرابری و بی عدالتی که در دنیای امروز وجود دارد نشود، بلکه به پایان دادن به جنگ‌ها و درگیری‌ها کمک کند و بسیاری از اشکال رنج‌های جامعه جهانی را کاهش دهد.”