سیاست و بازاریابی

آخرين مطالب

چگونه از عملکرد مخرب هوش مصنوعی پیشگیری کنیم؟ اخبار

  بزرگنمايي:

سیاست و بازاریابی - هوش مصنوعی با وجود تمامی کاربردها و نقاط قوت، می‌تواند با عملکرد اشتباه، نتایج مخرب و مرگباری به‌همراه داشته باشد.

اگر نگاهی به اخبار و مقاله‌های پیرامون هوش مصنوعی داشته باشید، متوجه رخدادهایی شامل اشتباهات این پدیده‌های مدرن می‌شوید. در بسیاری از رخدادهای مذکور، تغییری جزئی در الگوریتم‌های یادگیری ماشین می‌تواند منجر به تغییرات بزرگ در عملکرد آن شود. مقاله‌های مرتبط:
گرفتاری هوش مصنوعی در دام وهم و خیال چه تبعاتی دارد؟ تاریخچه ناگفته هوش مصنوعی؛ انسان‌هایی که ماشین‌های هوشمند را ساختند
به‌عنوان نمونه‌ای از عملکردهای اشتباه هوش مصنوعی، می‌توان آزمایش داون سانگ، استاد دانشگاه یو‌سی برکلی را بیان کرد که با چسباندن چند برچسب روی علامت توقف در خیابان، الگوریتم را دچار اشتباه کرد. الگوریتم مورد آزمایش، تابلوی توقف را با تابلوی حداکثر سرعت اشتباه گرفته بود. سانگ در آزمایشی دیگر از پیام‌های ساختگی استفاده کرد تا یک مدل مبتنی بر متن را مجبور به ارائه‌ی اطلاعات حساس داخلی همچون اطلاعات کارت اعتباری کاربران کند. به‌علاوه، چند ماه پیش گزارشی از هکرهای کلاه سفید منتشر شده بود که توانسته بودند با چند برچسب، اتومبیل بدون راننده‌ی تسلا را به جهت خلاف خیابان هدایت کنند. در سال‌های اخیر، الگوریتم‌های یادگیری ماشین پیشرفت‌های زیادی داشته‌اند و حضور آن‌ها در زندگی کاربران، فراگیرتر شده است. محققان با بررسی این پدیده‌های پرکاربرد، نمونه‌های متعددی از اشتباهات آن‌ها کشف کرده‌اند که از اشتباه در تشخیص تصاویر تا تشخیص سرطان را تشکیل می‌دهد. چنین اشتباهاتی می‌تواند اثراتی در بازه‌ی بی‌خطر تا مرگ‌بار داشته باشد. البته با وجود خطر چنین اشتباهاتی، عموما شناخت کمتری درباره‌ی آن‌ها پیدا می‌کنیم و محققان نگران حل کردن این چالش عدم شناخت هستند.
مقاله‌ای جدید از دانشمندان دانشگاه MIT، روش‌هایی احتمالی برای حل چالش اشتباهات هوش مصنوعی ارائه می‌کند. روش جدید به محققان امکان می‌دهد تا مدل‌های قوی‌تر یادگیری ماشین توسعه دهند که ایجاد اشکال عملکردی در آن‌ها تقریبا غیرممکن باشد. پیش از پرداختن به روش موجود، باید مفاهیم اولیه در اشتباهات عملکردی هوش مصنوعی را درک کنیم. هوش مصنوعی با اضافه شدن برخی عوامل به داده‌ها، دچار اشتباه می‌شود
قدرت اصلی فرایندهای یادگیری عمیق ، از توانایی آن‌ها در تشخیص الگو میان داده‌ها نشأت می‌گیرد. به‌عنوان مثال اگر ده‌ها هزار عکس حیوان با برچسب‌گذاری نام را به یک الگوریتم یادگیری ماشین بدهیم، الگوریتم می‌تواند الگوهای مرتبط با یک حیوان خاص، مثلا پاندا یا میمون را شناسایی کند. سپس می‌تواند از همین الگوها برای شناسایی حیوانات در مجموعه‌های جدید تصاویر استفاده کند. مدل‌های یادگیری عمیق با وجود توانایی‌های بالا، آسیب‌پذیری زیادی هم دارند. به‌بیان دیگر، الگوریتم‌ها تنها روی الگوهای پیکسلی تصاویر متمرکز می‌شوند و درک صحیحی از آن‌چه می‌بینند، ندارند. درنتیجه به‌راحتی می‌توان با دستکاری در الگوهای پیکسلی، سوژه‌ی مورد مشاهده‌ی الگوریتم‌ را تغییر داد. به‌عنوان مثال در تصویر پایین با اضافه کردن کمی نویز به تصویر پاندا، هوش مصنوعی با درجه‌ی اطمینان بالا آن را میمون تشخیص می‌دهد. در این مثال می‌توان نویز را نوعی حمله به تصمیم‌گیری هوش مصنوعی دانست.
محققان از سال‌ها پیش متوجه آسیب‌پذیری هوش مصنوعی خصوصا در بحث بینایی کامپیوتری شده‌اند. البته آن‌ها راهی برای گریز از آسیب‌پذیری مذکور نداشته‌اند. مقاله‌ای از محققان هوش مصنوعی، این سؤال را می‌پرسد که آیا حملات به تصمیم‌گیری هوش مصنوعی اجتناب‌ناپذیر هستند؟ مقاله‌ی مدکور در کنفرانس تحقیقات هوش مصنوعی ICLR ارائه شد. درنهایت به‌نظر می‌رسد صرف‌نظر از تعداد عکس‌هایی که به یک الگوریتم تزریق می‌شوند، همیشه راه‌هایی خواهد بود تا الگوی تشخیصی را دچار اشتباه کنیم. مقاله‌ی جدید دانشگه MIT ادعا می‌کند که تصورات درباره‌ی حملات تصمیم‌گیری هوش مصنوعی تاکنون اشتباه بوده‌اند. طبق ادعای محققان، به‌جای پیدا کردن روش‌هایی برای جمع‌آوری داده‌های آموزشی بیشتر و ارائه‌ی آن‌ها به الگوریتم یادگیری عمیق، باید به‌صورت بنیادی روش آموزش دادن به الگوریتم را تغییر دهیم. برای پیشگیری از اشتباه، باید روش آموزش الگوریتم را تغییر دهیم
محققان برای نشان دادن اهمیت و تأثیر بالای اشتباهات تشخیصی الگوریتم هوش مصنوعی، مثالی ملموس را در مقاله ذکر کرده‌اند. در بخشی از مقاله می‌خوانیم که نویزهای تقریبا تصادفی و برچسب‌هایی که روی تابلوها نصب می‌شوند، به الگوهای دقیق و منحصر به‌فرد الگوریتم آسیب می‌رسانند. الگوهایی که هر کدام برای تشخیص یک سوژه‌ی خاص شکل گرفته‌اند. به‌بیان ساده‌تر، وقتی ماشین در تصویر پاندا میمون می‌بیند، رفتار غلطی انجام نداده است. درواقع الگوریتم مورد نظر، الگویی از پیکسل‌ها (که از دید انسان مخفی هستند) را می‌بیند که قبلا و در فرایند یادگیری، بیشتر در تصویر میمون دیده بود. برای درک بهتر اشتباهات الگوریتم هوش مصنوعی، یک آزمایش انجام شد. محققان از مجموعه‌ای تصویر سگ استفاده کردند که تغییرات کوچکی در آن‌ها داده شده بود. همین تغییرات باعث می‌شد تا الگوریتم‌های مرسوم، تصاویر را به‌عنوان تصویر گربه ببینند. سپس تصویرهای دستکاری‌شده با برچسب گربه به الگوریتم تازه تزریق شدند. درنهایت تصاویر جدیدی از گربه‌های واقعی به الگوریتم نمایش داده شد. الگوریتم جدید همه‌ی تصاویر گربه را به‌خوبی شناسایی کرد.
محققان با تکیه بر مثال بالا، نتیجه گرفتند که در هر مجموعه‌ی داده، دو نوع الگو دیده می‌شود: الگوهایی که با معنای داده ارتباط دارند، مانند سبیل گربه در تصویر گربه یا موهای پاندا و الگوهایی که در داده‌های تمرینی وجود دارند، اما لزوما در زمینه‌های دیگر صادق نیستند. نوع دوم الگوها منجر به اشتباه در هوش مصنوعی می‌شوند و همان ابزارهای مورد استفاده برای حمله به تصمیم‌گیری هستند. باتوجه‌به یافته‌های بالا به این نتیجه می‌رسیم که اگر بخواهیم ریسک تصمیم‌گیری هوش مصنوعی را کاهش دهیم، باید روش آموزش به مدل‌های یادگیری عمیق تغییر کند. درحال‌حاضر، دانشمندان هوش مصنوعی به شبکه‌ی عصبی اجازه می‌دهند که هرنوع ارتباط مورد نظر خودش را برای تشخیص تصاویر استفاده کند. درنتیجه هیچ کنترلی روی ارتباط تصاویر و الگوی ایجادشده بر اثر آن ندارند. درمقابل اگر بتوان به مدل آموزش داد که تنها فاکتورهای مرتبط واقعی (که به‌معنای تصویر نزدیک هستند) را به‌عنوان الگو انتخاب کند، تاحدودی موفق خواهیم بود. محققان با تکیه بر نتیجه‌گیری‌های قبلی، آزمایشی شامل آموزش ازطریق ارتباطات واقعی را روی الگوریتم یادگیری عمیق پیاده کردند. روش جدید، آسیب‌پذیری مدل را کاهش داد و تنها در 50 درصد مواقع، محققان توانستند آن را دچار اشتباه کنند. شایان ذکر است مدل‌های دیگر تا 95 درصد احتمال خطا داشتند. به‌‌هرحال اشتباهات تشخیصی هنوز در الگوریتم‌های هوش مصنوعی وجود دارند و ما تنها می‌توانیم آن‌ها را به‌مرور کاهش دهیم تا شاید زمانی به صفر برسند.


نظرات شما

ارسال دیدگاه

Protected by FormShield

ساير مطالب

خانواده گوشی‌های Galaxy S21 با قیمت کمتری عرضه می‌شوند

یادگیری ماشینی و تغییر آینده توسعه و آزمایش نرم افزارها

دستگاه ضبط صوت همه کاره شرکت زوم رونمایی شد

کاهش 70 درصدی مسافران تاکسی

تاریخ انتشار آپدیت بازی eFootball PES 2021 مشخص شد

ایسوس پدفون؛ داستان نافرجام موبایلی که هم تبلت بود هم لپ‌تاپ

شهرداری تهران محدودیت های یک هفته ای در پایتخت را اعلام کرد

تصمیم شهرداری در خصوص شورایاری‌ها منوط به ابلاغ دادنامه از دیوان عدالت اداری است

صفحه‌ پیش‌ خرید پلی‌ استیشن 5 شروع به فعالیت کرد

نیاز کلانشهرها به پلاسمای بهبودیافتگان کرونا

سرمایه‌گذاری سنگین سامسونگ بر سر نمایشگر و تراشه

تصاویر منتسب به گوشی ریزرفون 3 منتشر شد

مطالبات مربیان ورزشی تا پایان تیرماه پرداخت می شود

تلویزیون گیمینگ جدید ال‌جی از راه رسید

تاریخ عرضه بازی Microsoft Flight Simulator مشخص شد

مدیاتک هم از همکاری با هواوی عقب کشید

خالق لینوکس: اینتل از جادو در بنچ‌مارک‌ها دست بکشد

یادداشتی که چشم شما را برای خرید گوشی هوشمند باز می‌کند!

پاناسونیک ویلچر خودران هوشمند با ترمز خودکار ساخت

برگزاری مجمع عمومی شرکت توسعه مدیریت بنادر و فرودگاه های کیش

407 هزار واحد در سامانه کارا ثبت نام کرده اند

بنچ‌مارک پرچم‌دار اقتصادی سامسونگ مشخص شد

بازی Mega Man VR: Targeted Virtual World معرفی شد

جلوگیری پلیس از ورود مسافران بدون ماسک به مترو

وزیر تعاون ، کار و رفاه اجتماعی : زندگی همراه با آرامش و بی دغدغه حق بازنشستگان است

معاون امور اقتصادی وزارت تعاون ، کار ورفاه اجتماعی با اشاره به تداوم پیامدهای کرونا : گردشگری به حمایت های بیشتری نیاز دارد

بازی Brawlhalla برای گوشی‌های هوشمند عرضه می‌شود

آیا کامپیوترهای کوانتومی تهدیدی برای رمزگذاری اطلاعاتی هستند؟

چت بات مایکروسافت مستقل می‌شود

سه قانون اساسی در مدیریت

مدیرعامل سازمان منطقه آزاد کیش به عضویت افتخاری جمعیت هلال احمر کیش درآمد.

بهره‌گیری از تجهیزات اندازه‌گیری روزآمد گاز

نحوه محاسبه بیمه کارگران در ایام کرونا با کاهش ساعات کاری

بهبود چشم‌انداز تقاضای نفت و تسهیل کاهش تولید اوپک پلاس

شارژر و باتری سری آیفون 12 تاییدیه گرفتند

سامسونگ و ال‌جی؛ دو رقیب دیرینه دست دوستی دادند

آیا گوگل در حال سرعت بخشیدن به آپدیت‌های اندروید است؟

پشتکار در پیاده‌سازی نظام مدیریت یکپارچه برای حصول نتایج مطلوب

شرکت گاز یزد و سازمان نظام مهندسی ساختمان تفاهم‌نامه همکاری امضا کردند

آرامکو عرضه نفت به آسیا را کاهش می‌دهد

ارائه روشی نو برای آزمایش‌های سنگ مخازن نفتی از سوی نفت‌خیز جنوب

نایین - کاشان - ری، خط نجات بنزین ستاره

ابعاد اقتصادی جریمه‌های کمیسیون ماده 100 اولویت نخست شهرداری نیست

بسته سیاستی نحوه برگشت ارز حاصل از صادرات تصویب شد

وزیر نفت گزارشی از وضع موجود صنعت نفت کشور ارائه کرد

افزایش بیش از 2 دلاری قیمت نفت خام سنگین ایران

10 گوشی پرطرفدار هفته پایانی تیر

سرقت روزانه 130 هزار دلار بیت کوین با کمک یوتیوب

سرمایه‌گذاری 10 میلیارد دلاری گوگل در هند

روزانه 100 تن پسماند بیمارستانی جمع و امحاء می شود

سیاست و بازاریابی

سیاست و بازاریابی