جمعسپاری برای ماشینهای اخلاقی – بررسی چالشهای تصمیمگیری اخلاقی در هوش مصنوعی
Crowdsourcing Moral Machines
Moral Machine وبسایتی است که در سال ۲۰۱۶ راهاندازی شد و به کاربران این امکان را میداد تا در موقعیتهای اخلاقی مشابه «مسئله تراموا[1]» قرار بگیرند و تصمیم بگیرند که یک خودروی خودران در شرایط بحرانی باید چه اقدامی انجام دهد.
[1] یک مسئله اخلاقی است که در آن پاسخ دهنده باید میان دو حالت کشته شدن چند نفر یا مرگ یک نفر یکی انتخاب شود.
با گسترش هوش مصنوعی و ورود ماشینهای خودران به زندگی روزمره، یکی از چالشهای مهم پیش روی ما، نحوه تصمیمگیری این ماشینها در موقعیتهای اخلاقی است. چگونه باید اصول اخلاقی را در سیستمهای هوش مصنوعی نهادینه کنیم تا تصمیماتی که میگیرند، قابل قبول، سازگار و قابل دفاع باشند؟ این کلیپ به بررسی این موضوع میپردازد که آیا تصمیمگیری درباره مسائل اخلاقی را باید به متخصصان سپرد یا اینکه جمعسپاری اخلاقی میتواند به ایجاد یک فرآیند دموکراتیکتر در توسعه فناوریهای هوش مصنوعی و سیاستگذاری از این زمینه کمک کند. ویدئو به موضوع جمعسپاری برای ماشینهای اخلاقی میپردازد و بر اساس مقالهای در مجله ارتباطات انجمن ماشینهای محاسباتی[1] (CACM) به بررسی یکی از شناختهشدهترین پروژهها در این حوزه یعنی "Moral Machine" میپردازد.
این آزمایش از طریق جمعسپاری با مشارکت بیش از ۴ میلیون نفر از سراسر جهان، دادههای ارزشمندی درباره الگوهای اخلاقی تصمیمگیری انسانها گردآوری نمود. تحلیل این دادهها نشان داد که در تصمیمگیریها سه عامل کلیدی تاثیرگذار عبارتند از: نجات انسانها نسبت به حیوانات، اولویت دادن بیشتر به نجات جان افراد و اولویت دادن به نجات کودکان نسبت به بزرگسالان.
[1] Communications of the Association for Computing Machinery
https://cacm.acm.org/research/crowdsourcing-moral-machines/