بزرگنمايي:

سیاست و بازاریابی - زومیت / نبود اطمینان در پیش‌بینی‌های هوش مصنوعی در برخی مواقع، ممکن است پیامدهای ناگواری داشته باشد؛ ولی به‌تازگی سیستمی طراحی شده است که میزان قطعیت‌نداشتن خود را نیز تخمین می‌زند.
اگر در فیلم ترمیناتور اسکای‌نت تصمیم می‌گرفت صلاحیت مسئولیت استفاده از مهمات هسته‌ای آمریکا را ندارد، داستان شکل دیگری به‌پایان می‌رسید. در دنیای واقعی، دانشمندان با ایجاد شبکه‌های مصنوعی که می‌دانند چه زمانی غیراعتماد هستند، ممکن است بتوانند ما را از وقوع چنین رویدادهای آخرالزمانی به رهبری هوش مصنوعی نجات دهند. شبکه‌های عصبی یادگیری عمیق با هدف تقلید از مغز انسان طراحی شده‌اند و با ارزیابی هم‌زمان عوامل متعدد، الگوهای موجود در انبوه داده‌ها را کشف می‌کنند که انسان‌ها ظرفیت تجزیه‌و‌تحلیل آن را ندارند.
درحالی‌که هنوز ممکن است فاصله‌ی زیادی با داستان اسکای‌نت داشته باشیم، هوش مصنوعی هم‌اکنون در حال تصمیم‌گیری در زمینه‌هایی است که روی زندگی انسان اثر می‌گذارند؛ مانند رانندگی خودران و تشخیص پزشکی. بنابراین، حیاتی است که آن‌ها تاحدممکن دقیق باشند. به‌منظور کمک به دستیابی به این هدف، سیستم شبکه‌ی عصبی جدیدی ایجاد شده است که علاوه‌بر پیش‌بینی، میزان اطمینان خود را نیز می‌تواند تخمین بزند.
الکساندر امینی، دانشمند علوم کامپیوتر آزمایشگاه هوش مصنوعی و علوم کامپیوتر مؤسسه فناوری ماساچوست می‌گوید: «نه‌تنها لازم است مدل‌ها عملکرد خیره‌کننده‌ای داشته باشند؛ بلکه باید بدانیم چه زمانی نمی‌توانیم به آن مدل‌ها اعتماد کنیم.»
این خودآگاهی از قابلیت اعتماد «رگرسیون شهودی عمیق» نام گرفته است و امتیاز آن براساس کیفیت داده‌های دردسترسی محاسبه می‌شود که باید با آن‌ها کار کند. هرچه داده‌های استفاده‌شده برای آموزش دقیق‌تر و جامع‌تر باشند، این احتمال بیشتر است که پیش‌بینی‌های آینده‌ موفق باشد.
گروه پژوهشی سیستم خود را با شبکه‌ی مصنوعی کنترل‌کننده‌ی اتومبیل خودرانی مقایسه می‌کند که سطوح متفاوتی از اطمینان در این زمینه دارد که آیا باید از تقاطعی عبور کند یا هنگام کمتر مطمئن‌بودن از پیش‌بینی‌هایش، منتظر بماند و حرکت نکند.
درحالی‌که پیش‌ازاین نیز در شبکه‌های عصبی چنین حفاظ‌هایی ایجاد شده بود، وجه تمایز سیستم جدید سرعت‌عمل آن بدون نیاز به محاسبات بیش‌ازحد است. محاسبات می‌تواند در یک بار اجرای شبکه کامل شود و هم‌زمان با تصمیم‌گیری، سطح اطمینان را نیز برآورد کند.
دانیلا روس، دانشمند علوم کامپیوتر می‌گوید:
این ایده مهم است و کاربرد وسیعی دارد؛ مثلا می‌تواند برای ارزیابی محصولات متکی‌بر مدل‌های آموزش‌دیده استفاده شود. با تخمین میزان قطعیت‌نداشتن مدل آموزش‌دیده، می‌آموزیم چقدر خطا از مدل انتظار داریم یا چه نوع داده‌هایی می‌توانند مدل را بهبود بخشند.
پژوهشگران سیستم جدید خود را درزمینه‌ی قضاوت عمق بخش‌های مختلف تصویر آزمایش کردند. این مانند حالتی است که اتومبیل خودران درباره‌ی فاصله قضاوت می‌کند. شبکه به‌خوبی با سیستم‌های موجود مقایسه‌شدنی بود و در همان زمان، قطعیت‌نداشتن خود را نیز تخمین می‌زد. در دفعاتی با حداقل اطمینان، واقعا در زمینه‌ی عمق اشتباه می‌کرد.
به‌عنوان مزیت اضافی، این شبکه می‌توانست دفعاتی را علامت‌گذاری کند که با تصاویری خارج از وظیفه‌ی معمول خود رو‌به‌رو می‌شد و با داده‌هایی که با آن‌ها آموزش دیده بود، بسیار تفاوت داشت. این مزیت در شرایط پزشکی می‌تواند به این معنا باشد که پزشک باید موردی را دوباره بررسی کند.
حتی اگر شبکه‌ی عصبی در 99 درصد مواقع درست عمل کند، 1 درصد باقی‌مانده بسته به سناریو می‌تواند عواقب جدی به‌دنبال داشته باشد. پژوهشگران می‌گویند اطمینان دارند که آزمایش اعتماد ساده و جدید آن‌ها می‌تواند به بهبود ایمنی به‌صورت آنی کمک کند؛ اگرچه کارشناسان هنوز مطالعه‌ی جدید را بازبینی نکرده‌اند. امینی می‌گوید:
خروج این مدل‌ها را از آزمایشگاه‌های پژوهشی و ورود آن‌ها را به دنیای واقعی و موقعیت‌هایی شاهد هستیم که در تماس با انسان‌ها قرار می‌گیرند و ممکن است پیامدهای تهدیدکننده‌ی زندگی داشته باشند. هر کاربری که از این روش‌ استفاده می‌کند، خواه پزشک باشد یا مسافر وسیله‌ی نقلیه، باید از هرگونه خطر یا نبود اطمینان مرتبط با آن تصمیم مطلع باشد.
نتایج این پژوهش در کنفرانس NeurIPS ارائه می‌شود و مقاله‌ی آنلاینی از آن دردسترس است.