معرفی مستند Coded Bias | الگوریتم جنجالی تشخیص چهره
در این مقاله به‌معرفی مستند Coded Bias، مستندی به‌کارگردانی شالینی کانتایا می‌پردازیم که دست روی موضوعی حساس گذاشته و الگوریتم‌های سیستم‌های تشخیص چهره و سازندگان آن را مورد نقد قرار داده است؛ سیستم‌های تشخیص چهره‌ای که به‌شکلی عجیب در مورد شناسایی افراد رنگین‌پوست و زنان عملکردی ضعیف داشتند.
مستند Coded Bias، یک فیلم مستند به‌کارگردانی شالینی کانتایا است که در سال ۲۰۲۰ پخش شد. این فیلم مستند سفر جوی بولاموینی، محقق آزمایشگاه علوم رسانهٔ دانشگاه MIT را دنبال می‌کند که متوجه می‌شود فناوری تشخیص چهره برای چهره‌های افراد تیره‌پوست به‌شکلی عجیبی اصلاً دقت مناسبی ندارد و گویی الگوریتم تعریفی آن از پایه مشکلی اساسی، چه سهوی چه عمدی دارد. جوی بولاموینی پس از آگاهی از این موضوع مأموریتی را آغاز می‌کند تا برای اولین‌بار قوانین ایالات متحده آمریکا را علیه سوگیری در الگوریتم‌هایی که نه‌تنها افراد تیره‌پوست، بلکه همه انسان‌ها را تحت تأثیر قرار می‌دهد، تحت فشار برای تغییر قرار دهد. مستند Coded Bias در سرویس استریم نتفلیکس برای تماشا در دسترس است.
فناوری تشخیص چهره نوعی فناوری بیومتریک است که شامل اندازه‌گیری ویژگی‌های فیزیولوژیکی انسان، به‌ویژه ویژگی‌های چهره، برای شناسایی یا تأیید هویت اشخاص است. این کار با برجسته‌‌سازی جزئیات و اندازه‌گیری حالات صورت که برگرفته از یک تصویر یا فریم ویدئویی مشخص باشد انجام می‌شود و سپس مقایسه این داده‌ها با پایگاه داده‌ای از چهره‌های مختلف برای تطبیق‌پذیری دقیق، صورت می‌گیرد. سیستم‌های تشخیص چهره در زمینه‌های مختلفی مانند تعاملات پیشرفته انسان و رایانه که حال آن را می‌توان هوش مصنوعی نامید، نظارت‌های تصویری، اجرای قانون، شناسایی دقیق چهرهٔ مسافران، تصمیم‌گیری در مورد شغل و مسکن و نمایه‌سازی خودکار تصاویر به‌کار گرفته شده‌اند. بااین‌حال، دقت سیستم‌های تشخیص چهره به‌عنوان یک فناوری بیومتریک نسبت به‌سایر فناوری‌های بیومتریک مانند تشخیص از روی عنبیه چشم، ثبت اثر انگشت، تشخیص از روی کف دست یا تشخیص صدا، کمتر است. همچنین باید به‌این موضوع اشاره کنیم که سیستم‌های تشخیص چهره نگرانی‌هایی را در مورد نقض حریم خصوصی، شناسایی نادرست، هنجارهای جنسیتی، ایجاد پروفایل‌های نژادی اشتباه و حفاظت از داده‌های مهم بیومتریک ایجاد کرده‌اند. برخی از این سرویس‌های تشخیص چهره را در ادامه نام می‌بریم.
سیستم تشخیص چهره Amazon Rekognition که یک سرویس تشخیص چهره مبتنی بر فضای ابری است که می‌تواند چهره اشخاص را برای موارد مختلف کاربری ازجمله امنیت، بازاریابی، شناسایی فرد و درنهایت تجزیه و تحلیل داده‌ها گردآوری و مقایسه کند. دیگر سیستم تشخیص چهره، پلتفرم FaceFirst است که می‌تواند افراد را در لحظه و ازطریق فیدهای ویدئویی زنده، تصاویر ثابت و ویدئوهای از پیش ضبط‌شده شناسایی کند. همچنین برنامه Clearview AI که یک برنامه تشخیص چهره است و می‌تواند چهره‌ها را با پایگاه داده‌ای با بیش از ۳ میلیارد تصویر مورد تطابق قرار دهد و داده‌های خود را از رسانه‌های اجتماعی و سایر وب‌سایت‌ها به‌دست می‌آورد و درنهایت چهره‌ها را مورد مطابقت نهایی قرار می‌دهد. و شرکت NEC Corporation که یک شرکت چندملیتی تحت نظر کشور ژاپن در زمینه فناوری اطلاعات و الکترونیک است و فناوری تشخیص چهره را برای کاربردهای مختلف از جمله امنیت، گرفتن داده از خرده‌فروشی‌ها و حمل‌و‌نقل اجناس شرکت‌های مختلف ارائه می‌دهد.
مستند Coded Bias شامل مصاحبه‌هایی با دانشمندان حوزه داده و اطلاعات، ریاضی‌دانان و گروه‌های ناظر از سراسر جهان است و این موضوع را کارگردان به‌دقت زیر ذره‌بین قرار داده، زیرا همچون اشخاصی که در مستند حضور دارند و با آن‌ها مصاحبه شده، بسیاری از اشخاص آگاه به‌سیستم‌های نظارتی برای افشای تبعیض در الگوریتم‌هایی که اکنون در همه حوزه‌های زندگی روزمره رایج است، مبارزه می‌کنند. در این فیلم مستند شخصی چون مردیث بروسارد، استاد روزنامه‌نگاری حوزه داده در مؤسسه روزنامه‌نگاری آرتور ال. کارتر در دانشگاه نیویورک حضور دارد که تحقیقات او بر نقش هوش مصنوعی در روزنامه‌نگاری متمرکز است. سیلکی کارلو نیز در این مستند حضور دارد؛ وی از ماه ژانویه سال ۲۰۱۸ ریاست سازمان بریتانیایی غیرحزبی Big Brother Watch را برعهده دارد که در زمینهٔ آزادی‌های مدنی و حریم خصوصی فعالیت می‌کند.
این سازمان در سال ۲۰۰۹ توسط الکس دین، راه‌اندازی شد تا علیه نظارت‌های دولتی و تهدیدات علیه آزادی‌های مدنی مبارزه کند و نام این حزب از کتاب معروف جرج اوروِل، کتاب «۱۹۸۴»، که می‌توان آن را یک بیانیهٔ سیاسی بی‌نظیر در یک پادآرمانشهر لقب داد، برگرفته شده است؛ جرج اوروِل، داستان‌نویس، روزنامه‌نگار، منتقد ادبی و شاعر انگلیسی بود و بسیاری او را با نگارش دو رمان «مزرعه حیوانات» که در ۱۹۴۵ منتشر شد و نیز رمان «۱۹۸۴» می‌شناسند. در مستند Coded Bias افراد دیگری چون راوی نایک که یک وکیل حقوق بشر است و دکتر صفیه اوموجا نابل، نویسنده و کارشناس در حوزه تبعیض الگوریتمی و سوگیری‌های موجود در فناوری‌های مختلف حضور دارند و نظر تخصصی خود را راجع‌به سیستم تشخیص چهره بیان می‌کنند.
مستند Coded Bias برای اولین‌بار در جشنواره فیلم ساندنس و در ماه ژانویه سال ۲۰۲۰ اکران شد. سپس این مستند اکران محدودی در تاریخ ۱۱ نوامبر ۲۰۲۰ داشت و بعد در سینماهای مجازی در سراسر آمریکای شمالی در تاریخ ۱۸ نوامبر ۲۰۲۰ به‌نمایش درآمد. اکران اولیه محدود این مستند، درآمد گیشه‌ای آن را به‌شدت کاهش داد و تبلیغات چندانی نیز برای آن صورت نگرفت و نتیجه فروش ۱۰ هزار دلاری بود. اشاره کردیم که از تاریخ ۵ آوریل ۲۰۲۱، این مستند برای پخش در سرویس استریم نتفلیکس قرار گرفته است و در صورت علاقه، حال از این طریق می‌توانید به‌تماشای ساختهٔ متفاوت شالینی کانتایا بنشینید.
سیستم‌های تشخیص چهره به‌دلیل دقت متفاوتی که دارند همواره مورد انتقاد قرار گرفته‌اند، به‌ویژه در مورد شناسایی افراد رنگین‌پوست و زنان. در مطالعه‌ای که توسط دو دانشجوی MIT به‌نام تحقیق Gender Shades انجام شد، سیستم‌های تشخیص چهره آنالیزشده در تشخیص چهره مردان با پوست روشن بسیار بهتر عمل کردند و این مورد برای زنان و رنگین‌پوستان دارای میزان خطای بیشتری بود. استفاده از نرم‌افزار تشخیص چهره، هنگام تشخیص چهره افراد رنگین‌پوست نتایجی عجیب داشت، استفاده از چنین فناوری‌ای در سطح گسترده بحث‌های زیادی را به‌وجود می‌آورد و درنهایت این موضوع مورد تحقیقات پلیس قرار گرفت. از این موضوع نیر نباید غافل بود که فناوری تشخیص چهره هنوز در مراحل اولیه خود است و نیاز به‌تحقیقات و همچنین قانون‌گذاری بیشتری برای اطمینان از استفاده اخلاقی و مسئولانه از آن وجود دارد.
سازندگان مستند Coded Bias می‌خواهند بگویند ساختارهای قانونی برای هوش مصنوعی وجود ندارد و در نتیجه حقوق بشر به‌صورت‌های مختلف نقض می‌شود. به‌عنوان مثال، برخی از الگوریتم‌ها و فناوری‌های هوش مصنوعی براساس وضعیت نژادی و جنسیتی در حوزه‌هایی مانند مسکن، فرصت‌های شغلی، مراقبت‌های بهداشتی، کارت‌های اعتباری و تحصیلات، تبعیض قائل می‌شوند که امری غیرقابل چشم‌پوشی است. گفتنی است در همین راستا و پس از ساخت این مستند، از جوی بولاموینی و همکارانش خواسته شد تا در مقابل کنگره آمریکا درباره هوش مصنوعی شهادت دهند و بولاموینی متعاقباً یک گروه مدافع دیجیتال به‌نام «لیگ عدالت الگوریتمی» ایجاد کرد.
شالینی کانتایا، فیلمساز آمریکایی و فعال محیط زیست ساکن بروکلینِ نیویورک است. او بیشتر به‌خاطر ساخت اولین مستند بلندش به‌نام Catching the Sun که به‌بررسی حقوق بشر در موضوعاتی حیاتی چون آب، غذا و انرژی‌های تجدیدپذیر می‌پردازد، شهرت دارد. آخرین ساختهٔ این کارگردان آمریکایی، TikTok, Boom بود که نامزد جایزهٔ بزرگ هیئت داوران در جشنواره فیلم ساندنس ۲۰۲۲ شد؛ این فیلم مستند تأثیر رسانه‌های اجتماعی بر زندگی و دنیای اطراف ما را بررسی می‌کند. در کارنامهٔ کاری شالینی کانتایا ساخت فیلم‌های داستانی و غیرداستانی نیز به‌چشم می‌خورد که آینده علم و داستان‌نویسی را بررسی می‌کنند. او همچنین یک اپیزود برای نشنال جئوگرافیک با عنوان «شکوفایی» را کارگردانی کرده است.
