آیا ماشین های هوشمند موجب «بازنشستگی اخلاقی» انسان می شوند؟

فرایند رشد و توسعه فناوری های مبتنی بر هوش مصنوعی در سال های گذشته نشان می دهد که هر روز که می گذرد این فناوری ها یکی از کارهایی که پیش از این انسان ها انجام می دادند را بر عهده می گیرند. از انجام محاسبات پیچیده گرفته، تا نگهداری از کودکان، مواظبت از سالمندان و بیماران، نوشتن مقاله، مجری گری تلویزیون، نگهبانی از ساختمان و جنگیدن در میدان نبرد و صدها کار دیگر. هرچند اغلب این کارها در مجموع خوب و پسندیده و عمدتا از نظر اخلاقی قابل دفاع است، اما آنچه موجب نگرانی می شود این است که ممکن است انسان ها از یک طرف هر روز بیش از پیش به این فناوری ها «محتاج و وابسته» می شوند و از سوی دیگر، در برابر آنها «ناتوان تر و منفعل تر». مانند پدر و مادری که سرمایه خود را در اختیار فرزندان شان قرار می دهند و دست آنها را برای کارهای بیشتر باز می گذارند. این کار طبیعتا در ابتدا بارهایی را از دوش والدین بر می دارد، ولی به مرور زمان آنها را تبدیل به افرادی بی خاصیت و بی کار و محتاج فرزندان می کند، و حتی کار را به جایی برساند که فرزندان آنها را مزاحم زندگی خود ببینند و به خانه سالمندان تحویل دهند.

میدان یافتن بیش از اندازه ماشین های هوشمند هم می تواند، از نظر اخلاقی، چالش هایی فراوانی را به وجود آورد، مثلا:

۱. تا امروز انسان تنها موجودی بوده که به عنوان «فاعل اخلاقی» تلقی می شده است. اما از این به بعد به میزان استقلال و اختیاری که ماشین ها پیدا می کنند آنها را نیز باید فاعل اخلاقی تلقی کرد. اما واقعیت مطلب این است که (دست کم تاکنون) آنها شرایط لازم برای رفتارهای اخلاقی را ندارند. چرا که اولا این که اختیارشان مثل اختیار انسان باشد محل بحث است، ثانیا این که در قبال رفتارهای خود مسوولیت پذیر باشند محل تردید است. ثالثا سنخ و جهتِ تصمیم های آنها در آینده مشخص نیست. به ویژه که آنها فاقد «احساسات و عواطف انسانی» اند، و چه بسا همین امر موجب شود که پیامدهای ناگوار رفتارهای شان حتی از انسان های بی اخلاق هم بیشتر و بدتر باشد.

۲. به موازات کم رنگ شدن نقش انسان در زندگی فردی و اجتماعی، میزان «تاثیرگذاری اخلاقی» او هم کم تر می شود. کودکی که از ابتدا هم بازی ربات های هوشمند است، وابستگی اش به آن بیشتر از والدین حقیقی خود است، و طبیعی است اگر ارزش ها و هنجارهایی را که این والد مصنوعی به او آموزش می دهد را بپذیرد تا آنچه که والدین حقیقی اش به او توصیه می کنند.

۳. با تداوم روند فعلی بعید نیست که در آینده ای (شاید نه چندان دور) این ماشین ها هستند که خود را دایه دلسوزتر از مادر برای انسان ها بدانند و نه تنها زندگی روزمره انسان، بلکه سامانه معرفت شناختی و روان شناختی اخلاقی او را آنگونه که دوست دارند تنظیم می کنند و هویت انسانی او را تغییر دهند (ر.ک: هنری کیسینجر و دیگران، عصر هوش مصنوعی و آینده ما انسان ها، ص 182-207).

آنچه گفته شد هرچند ممکن است برای عده ای بیش از اندازه بدبینانه به نظر برسد، ولی حتی اگر احتمال شکل گیری چنین وضعیتی ضعیف باشد باز هم به خاطر پیامدهای هولناکی که به برخی از آنها اشاره شد، عقل حکم می کند که از باب «دفع ضرر محتمل» همه دغدغه مندان و اندیشوران اخلاق فناوری اطلاعات از هم اکنون آن را جدی گرفته و برای آن چاره اندیشی کنند. جامعه ای که در آن انسان ها از نظر اخلاقی بازنشسته،‌ و ماشین ها فعال ما یشاء باشند به نظر نمی رسد جای مناسبی برای زندگی باشد. خوش بختانه در دنیای امروز افراد دیگری هم هستند که چنین دغدغه ای را دارند.