جعبه سیاه هوش مصنوعی/ مدل های یادگیری ماشین تا چه اندازه شفاف هستند؟

وبگردی گزارش می دهد؛

سازندگان مدل های پیشرفته یادگیری عمیق نمی توانند به طور کامل بیان کنند که هوش مصنوعی این ورودی ها را به خروجی تبدیل می کند؛ چرا که پیچیدگی های یک شبکه عصبی که بر اساس میلیون ها مثال آموزش داده شده است، برای ذهن انسان پیچیده است.

خبرگزاری علم و فناوری وبگردی، در سال های اخیر نگرانی های زیادی در مورد «قابلیت توضیح پذیری» سیستم های هوش مصنوعی در میان سیاست گذاران و مردم به وجود آمده است. همانطور که هوش مصنوعی پیشرفته تر می شود و در حوزه هایی مانند مراقبت های بهداشتی، استخدام، و عدالت کیفری توسعه پیدا می کند، برخی از افراد خواستار شفافیت و تفسیرپذیری این سیستم ها هستند. درواقع ترس آنها از این است که ماهیت «جعبه سیاه» مدل های یادگیری ماشینی مدرن، آن ها را از قابلیت پاسخگویی به مسایل مختلف محروم می کند و باعث می شود که خطرناک به نظر برسند.

توضیح پذیری هوش مصنوعی چقدر اهمیت دارد؟

در حالی که تمایل به توضیح هوش مصنوعی قابل درک است، اغلب در بیان اهمیت آن اغراق شده است. اینکه چه معیار هایی دقیقاً یک سیستم را قابل توضیح می کند، همچنان نامشخص است. مهمتر از آن، فقدان قابلیت توضیح پذیری لزوما ً یک سیستم هوش مصنوعی را غیرقابل اعتماد یا ناامن نمی کند.

سازندگان مدل های پیشرفته یادگیری عمیق نمی توانند به طور کامل بیان کنند که چگونه این مدل ها ورودی ها را به خروجی تبدیل می کنند؛ چرا که پیچیدگی های یک شبکه عصبی که بر اساس میلیون ها مثال آموزش داده شده است، برای ذهن انسان پیچیده تر از آن است که بتواند به طور کامل آن ها را درک کند. همین موضوع را می توان به دیگر فناوری های بی شماری که هر روز از آنها استفاده می کنیم تعمیم داد.

ما انسان ها نمی توانیم به طور کامل تعاملات مکانیکی کوانتومی، فرآیند های تولید شیمیایی یک دارو یا ساخت نیمه هادی ها را درک کنیم. درحالی که این موضوع ما را از بهره مندی از دارو ها و ریزتراشه هایی که با استفاده از این دانش جزیی تولید می شوند، باز نمی دارد. آنچه ما به آن اهمیت می دهیم این است که خروجی ها علاوه بر قابل اعتماد بودن در دستیابی به اهداف خود موفق باشند.

بازکردن جعبه سیاه هوش مصنوعی

وقتی نوبت به سیستم های هوش مصنوعی پرمخاطب می رسد، باید قبل از هر چیز روی آزمایش آنها تمرکز کنیم تا عملکردشان را تایید کنیم و اطمینان حاصل کنیم که طبق خواسته ما رفتار می کنند.

حوزه ای نوظهور به نام تفسیرپذیری هوش مصنوعی قصد دارد تا جعبه سیاه یادگیری عمیق را تا حدودی باز کند. تحقیقات در این زمینه تکنیک هایی را برای شناسایی ویژگی های ورودی در تعیین پیش بینی های یک مدل برجسته تر و برای توصیف چگونگی جریان اطلاعات در لایه های یک شبکه عصبی مصنوعی به دست آورده است. با گذشت زمان، تصویر واضح تری از نحوه پردازش این مدل داده ها برای رسیدن به خروجی ها به دست خواهیم آورد.

با این حال، ما نباید انتظار داشته باشیم که سیستم های هوش مصنوعی مانند یک معادله ساده یا تصمیم کاملاً قابل توضیح باشند. قوی ترین مدل ها احتمالاً همیشه دارای سطحی از پیچیدگی غیرقابل کاهش هستند که این موضوع اشکالی ندارد. بسیاری از دانش های بشری ضمنی هستند و به سختی قابل بیان است. یک استاد بزرگ شطرنج نمی تواند شهود استراتژیک خود را به طور کامل توضیح دهد و یک نقاش ماهر نمی تواند منبع الهام خود را به طور کامل بیان کند. آنچه اهمیت دارد این است که نتایج نهایی تلاش آنها توسط خودشان و دیگران ارزش گذاری شود.

شفافیت یا عملکرد هوش مصنوعی؛ مسیله کدام است؟

هوش مصنوعی که به راحتی توسط انسان قابل تفسیر باشد لزوما از مدلی که فرآیند تولیدات و تصمیمات آن مشخص باشد قوی تر یا قابل اعتمادتر نیست. حتی ممکن است بین عملکرد و توضیح پذیری آن توازن وجود داشته باشد.

در نهایت، یک سیستم هوش مصنوعی باید بر اساس تاثیر آن در دنیای واقعی ارزیابی شود. مدل استخدامی که غیرشفاف باشد، اما در پیش بینی عملکرد کارکنان دقیق تر باشد، به مدل شفاف مبتنی بر قانون که کارگران تنبل را توصیه می کند، ترجیح داده می شود. یک الگوریتم تشخیص تومور که قابل توضیح نیست، اما با اطمینان بیشتری نسبت به پزشکان سرطان ها را تشخیص می دهد، ارزش به کارگیری دارد. ما باید تلاش کنیم تا سیستم های هوش مصنوعی را در صورت امکان قابل تفسیر کنیم، اما نه به قیمت مزایایی که ارایه می کنند.

البته، این بدان معنا نیست که هوش مصنوعی نباید قابلیت پاسخگویی داشته باشد، بلکه توسعه دهندگان باید سیستم های هوش مصنوعی را به طور گسترده آزمایش کنند تا عملکرد آن ها را در دنیای واقعی آنها را تایید کند، و تلاش کنند تا آنها را با ارزش های انسانی هماهنگ کنند، به ویژه قبل از اینکه آنها را در جهان گسترده تر رها کنند. اما ما نباید اجازه دهیم مفاهیم انتزاعی توضیح پذیری به یک حواس پرتی تبدیل شوند، چه رسد به اینکه مانعی برای درک پتانسیل عظیم هوش مصنوعی برای بهبود زندگی ما شوند.

با اقدامات احتیاطی مناسب، یک مدل جعبه سیاه می تواند ابزار قدرتمندی برای موفقیت باشد. در پایان، این خروجی است که اهمیت دارد، نه اینکه آیا فرآیندی که خروجی را ارایه می کند قابل توضیح است یا خیر.