بازاریابی سیاسی

آخرين مطالب

ردپای تعصبات نژادی در الگوریتم‌های هوش مصنوعی نکات خواندني

ردپای تعصبات نژادی در الگوریتم‌های هوش مصنوعی
  بزرگنمايي:

سیاست و بازاریابی - زومیت / احتمال وجود تعصب، نژادپرستی و جانب‌‌گرایی در الگوریتم‌های هوش مصنوعی از نگرانی‌های عمده‌ی محققان است و در الگوریتم‌های تشخیص صدا هم دیده می‌شود.
اتکا به الگوریتم‌ها و واگذار کردن تصمیم‌گیری‌های مهم به آن‌ها، روز‌به‌روز در دنیای فناوری بیشتر می‌شود. درواقع انسان‌ها بیش از همیشه تصمیم‌گیری را برعهده‌ی الگوریتم‌ها می‌گذارند تا شاید راحت‌تر زندگی کنند. ازطرفی این تصور وجود دارد که الگوریتم‌های کامپیوتری و هوش مصنوعی به‌صورت کلی، به تعصب‌های رایج در میان انسان‌ها دچار نیستند. ازطرفی، الگوریتم‌ها براساس داده‌ها آموزش می‌بینند و داده‌ها با همان تعصب ذاتی انسانی جمع‌آوری شده‌اند. درنتیجه امروز شاهد الگوریتم‌های هوش مصنوعی هستیم که تعصب و بعضا نژادپرستی توسعه‌دهنده‌های خود را تکرار می‌کنند. تاکنون مثال‌های متعددی از تعصب در تصمیم‌گیری الگوریتم‌های هوش مصنوعی دیده شده است. ظاهرا اکثر الگوریتم‌ها به تعصب دچار هستند.
محققان دانشگاه استنفورد در جدیدترین تحقیقات خود، حوزه‌ی جدیدی را کشف کرده‌اند که احتمالا از خطر تعصب و نژادپرستی الگوریتمی در امان نیست. الگوریتم‌های تشخیص صدا که کاربردهای متنوعی از تبدیل ساده‌ی صوت به متن تا دریافت دستورهای صوتی در گوشی‌های هوشمند را انجام می‌دهند، دچار تعصب ذاتی هستند. ظاهرا این الگوریتم‌ها در تشخیص صدای افرادی با نژاد آفریقایی آمریکایی مشکلات عملکردی پیدا می‌کنند. البته برخی شواهد نشان می‌دهد که مختصات جغرافیایی هم در عملکرد آن‌‌ها تأثیر دارد.
سیستم‌های تشخیص صدا امروز به بخشی مهم و حیاتی در دنیای فناوری تبدیل شده‌اند. تقریبا هر شرکت بزرگ دنیای فناوری، سیستم تشخیص صدای اختصاصی خود را دارد. گروه تحقیقات برای آزمایش خود سیستم‌ تشخیص صدای شرکت‌های آمازون، اپل، گوگل، مایکروسافت و IBM را مورد بررسی قرار داد. اگرچه برخی از سرویس‌ها به‌عنوان سرویس فروشی به کسب‌وکارهای دیگر ارائه می‌شوند، الگوریتم‌های اپل و گوگل به‌صورت مستقیم در گوشی هوشمند مصرف‌کننده‌ها کاربرد دارند. نقش روزافزون الگوریتم‌‌ها در زندگی مردم، خطا در عملکرد آن‌ها را برای بسیاری ناراحت‌کننده و آزاردهنده می‌کند. محققان در تحقیقات خود تلاش کردند تا هرگونه تعصب یا نژادپرستی را در اختلال‌های عملکردی الگوریتم‌ها تشخیص دهند.
گروه تحقیقاتی برای آزمایش الگوریتم‌ها، مجموعه‌ای عظیم از نمونه‌های صوتی را جمع‌آوری کرد. دو مجموعه‌ی آزمایشی، اکثرا شامل صداهای یک گروه خاص بودند. یک مجموعه، بیشتر شامل صدای آفریقایی-آمریکایی‌های مقیم کارولینای شمالی و دیگر اکثرا شامل صدای سفیدپوستان آن منطقه بود. نمونه‌های دیگر، شامل صداهای گوناگون و ترکیبی از نژادهای دیگر بودند. نمونه‌های از مناطقی همچون راچستر نینیورک، ساکرامنتو کالیفرنیا و واشینگتن دی‌سی جمع‌آوری شدند. تمامی مجموعه‌های صوتی در همه‌ی پنج الگوریتم بزرگ تشخیص صدا آزمایش شدند. دقت الگوریتم‌ها ازطریق مقایسه با تشخیص صدا توسط کاربر انسانی، اندازه‌گیری شد.
محققان برای آزمایش خود معیاری به‌نام «نرخ خطای کلمه‌ای» تعیین کردند. خطا شامل کلمات تشخیص‌داده نشده و کلماتی می‌شد که به اشتباه توسط الگوریتم تفسیر می‌شدند. همه‌ی سیستم‌های تشخیص صدا عملکردی مناسب را در آزمایش نشان دادند و همگی نرخی کمتر از 0/5 داشتند. در آزمایش مذکور، سیستم اپل بدترین و سیستم مایکروسافت، بهترین امتیازها را دریافت کردند. در همه‌ی آزمایش‌ها، نرخ خطا در صداهای گروه آفریقایی-آمریکایی، بیشتر از نرخ خطا در گروه سفیدپوست بود. درواقع به‌صورت کلی نرخ خطای دوبرابری در تشخیص صدای یک نژاد دیده می‌شد.
نرخ خطای سیستم‌های تشخیص صدا در تفسیر صدای مردان از نژاد آفریقایی-آمریکایی بیش از همه بود. مردان و زنان سفیدپوست نرخ خطای میانگین 0/21 و 0/17 داشتند، درحالیکه نرخ خطای زنان آفریقایی-آمریکایی برابر با 0/3 و برای مردان آن نژاد برابر با 0/41 بود.
تفاوت در نرخ خطای سیستم‌‌های تشخیص صدا در تفسیر صدا از نژادهای گوناگون چه اهمیتی دارد؟ محققان ادعا می‌کنند که بسته به کارایی سیستم‌ها، تفاوت در نرخ خطا اهمیت بالایی پیدا می‌کند. وقتی نرخ خطا از حدی بالاتر برود، اصلاح تبدیل صوت به متن کامپیوتری زمان بیشتری نسبت به نوشتن دستی توسط خود فرد نیاز خواهد داشت. به‌علاوه، با نرخ خطای بالا، گوشی هوشمند شما اکثر فرمان‌های صوتی را اشتباه انجام می‌دهد.
شاید نتایج بالا، به منطقه‌ی جغرافیایی وابسته باشند. از نظر آمریکایی‌ها، شهروندان کالیفرنیا عموما به‌عنوان افرادی بدون لهجه شناخته می‌شوند. نمونه‌های صوتی آن منطقه، نرخ خطای پایینی داشتند. منطقه‌ی راچستر هم نتایجی نزدیک به کالیفرنیا داشت و نتایج منطقه‌ی کلمبیا، به منطقه‌ی روستایی در کارولینای شمالی نزدیک‌تر بود. اگر فرض کنیم موقعیت جغرافیایی، در نرخ خطای الگوریتم‌ها تأثیر داشته باشد، باید نمونه‌های بزرگ‌تری برای آزمایش خطا به‌کار گرفته شود.
محققان در مرحله‌ی بعدی، ساختاربندی زبان را تحلیل کردند. از آنجایی که آن‌ها به الگوریتم‌های پایه‌ی پنج سیستم برتر دسترسی نداشتد، از پکیج متن‌بازی استفاده کردند که کارایی‌های مشابه دارد. آن‌ها درک نرم‌افزار از زبان را با فاکتوری به‌نام perplexity بررسی کردند. این فاکتور، قدرت پیش‌بینی کلمه‌ی بعدی در یک جمله را در سیستم تشخیص صوت بررسی می‌کند. با بررسی فاکتور مذکور مشخص شد که سیستم‌ها توانایی بهتری در تشخیص ساختاربندی زبان آفریقایی-آمریکایی‌ها دارند. چرا نتایج به‌ اینگونه شکل گرفتند؟
سیستم‌ها در تشخیص صدای برخی نژادها و گروه‌های خاص، خطای عملکردی بیشتری دارند
محققان با بررسی دو نوع خروجی تحقیقاتی به این نتیجه رسیدند که دو گرایش نژادی در صحبت کردن وجود دارد. آفریقایی-آمریکایی‌ها نسبت به همشهری‌های سفیدپوست خود، از تعداد کلمات کمتری استفاده می‌کنند. ازطرفی جمله‌بندی آن‌ها ساختار پیچیده‌تری دارد. آن‌ها در بسیاری از موارد، کلمات را از میان جمله‌ها حذف می‌کنند، اما مخاطب به‌راحتی منظورشان را متوجه می‌شود.
در مجموع یافته‌های دانشمندان این سؤال مطرح می‌شود که سیستم‌‌های تجاری چقدر برای واکنش بهتر به صداهای یک نژاد خاص بهینه‌سازی شده‌اند. محققان برای پیدا کردن پاسخ، نمونه‌های موجود را جست‌وجو گردند تا عبارت‌های مشابه و برابر بین دو نژاد را پیدا کنند. وقتی این عبارت‌های مشابه در سیستم‌ها آزمایش شدند، باز هم نرخ خطای آفریقایی-آمریکایی‌ها بیشتر از سفیدپوستان بود.
سیستم‌های تشخص صدا باید فاکتورهای متعددی را در تفسیر صحبت کاربران در نظر بگیرند. تشخیص کلمه‌ها، ساختاربندی جمله‌ها و معنای مورد نظر مخاطب، برخی از فاکتورها هستند. با بررسی تجمیعی همه‌ی فاکتورها می‌توان کلمات را به‌خوبی پیش‌بینی کرد. سیستم‌های تجاری کنونی ظاهرا در تفسیر کلمات برخی از جوامع با چالش روبه‌رو هستند. این سیستم‌ها در ذات خود جانب‌گرا طراحی نشده‌اند. ظاهرا زیرمجموعه‌ای از همه‌ی صداهای موجود در ایالات متحده برای آموزش سیستم‌ها استفاده شده است. درنتیجه آن‌ها برای تشخیص برخی صداها، آموزش کافی را ندیده‌اند. درنهایت این وظیفه برعهده‌ی شرکت‌های توسعه‌دهنده خواهد بود تا مجموعه‌ی آموزشی سیستم‌ها را برای درک بهتر گفتار همه‌ی گروه‌های جامعه، بهینه‌سازی کنند.


نظرات شما

ارسال دیدگاه

Protected by FormShield

ساير مطالب

مصرف اینترنت بازی‌های آنلاین چقدر است؟

شیائومی از تلویزیون Mi TV 4S رونمایی کرد

آغاز فروش پرچمداران شیائومی در اروپا

قیمت انواع ساعت و مچ‌بند هوشمند در بازار

پالایشگاه‌های نفت جهان تعطیل می‌شوند

منتظر حضور شخصیتی نوستالژیک در MK11 باشید

اولین نتایج بنچمارک گوشی پرچمدار هواوی P40 Pro از راه رسید

تراشه‌های جدید کوالکام قابلیت لغو نویز را به هدفون‌های بیشتری می‌آورند

کاربران در شهرهای بزرگ آمریکا نیز کاهش سرعت اینترنت را تجربه کردند

منصوری : المپیاد ملی کد نویسی و تولید محتوای دیجیتال دانش آموزی بر گزار می شود

با موافقت شریعتمداری ؛ پروانه کار اتباع خارجی تمدید شد

سقوط آزاد تقاضای جهانی نفت خام

ریاض مذاکره با مسکو درباره توافق جدید اوپک پلاس را رد کرد

10 کاری که نمی‌دانستید می‌توانید در Call of Duty: Warzone انجام دهید

رندر گلکسی فولد 2 انتظارات از آن را بالا برد!

ناچ بحث برانگیز آیفون به مک می‌آید؟

شباهت شرایط کنونی جهان با بازی اسپایدرمن!

آیرودینامیک و سیستم هدایت هوا در مک لارن الوا چگونه کار می‌کند

مشخصات فنی گلکسی M11 به‌همراه رندرهای این گوشی فاش شدند

مصرف بیش از 3 میلیارد متر مکعب گاز طبیعی در کردستان

شیائومی Mi 10 Lite با قابلیت اتصال به شبکه 5G معرفی شد

گوگل به خاطر کرونا سنت شکنی می‌کند

کاهش ضریب نفوذ اینترنت پهن‌باند کشور در سال 98 نسبت به سال 97

افت 40 درصدی فروش خانواده‌ی گلکسی اس 20 سامسونگ نسبت به مدل‌های اس 10

اپل از راه‌اندازی وب‌سایتی جدید برای اطلاع‌رسانی در مورد کرونا خبر داد

برنامه‌ای برای تعطیلی جایگاه‌های عرضه سوخت وجود ندارد

میزان مصرف کاربران از اینترنت رایگان ایام کرونا اعلام شد

اپل مشکل نمایشگر مک بوک ایر رتینا را تأیید کرد

گوگل به اپلیکیشن ایرانی مبارزه با کرونا هم رحم نکرد

کمک 800 میلیون دلاری گوگل برای مقابله با بیماری کرونا

طرح فاصله گذاری اجتماعی تا 20 فروردین اجرا می‌شود

چالش خودروسازان جهان برای مواجهه با ویروس کرونا

هرکس که هستی در خانه بمان؛ نگاهی دردآلود به بیمارستانی در ایتالیا

اپلیکیشن Google Podcasts برای iOS منتشر شد

ساعت یکصد‌میلیونی پورشه دیزاین

سونی بخش‌های گوشی، دوربین و سرگرمی خانگی را ادغام کرد

مشخصات سخت‌افزاری گلکسی Tab S6 Lite سامسونگ فاش شد

کنترل آیفون از رایانه‌ی شخصی با اپلیکیشن موبایل کانکت دل

پیام وزیر تعاون،کار و رفاه اجتماعی به مناسبت ولادت سالار شهیدان حضرت امام حسین (ع) و روز پاسدار

پیام تبریک وزیر تعاون،کار و رفاه اجتماعی به مناسبت ولادت حضرت ابوالفضل العباس(ع) و روز جانباز

سناتورهای آمریکایی خواهان کناره‌گیری عربستان از اوپک شدند

روحانی: خللی در تأمین بنزین مورد نیاز مسافران ایجاد نشود

اجرای ضربتی گازرسانی به بیمارستان امام حسین (ع) تربت حیدریه

نفت در نودوهشت

جهش تولید در دوران تحریم با تقویت صنایع پتروشیمی میسر می‌شود

جهش بیت‌کوین به طرف هالوینگ؟

عینک‌های هوشمند تب سنج با کرونا مقابله می کنند

نوع حسگرهای استفاده‌شده در دوربین اصلی Xperia 1 II سونی فاش شد

آنر 30S با پشتیبانی از قابلیت 5G معرفی می‌شود

نمایشگر خانواده هواوی P40 ساخت کدام شرکت است؟