اخبار – می تواند هوش مصنوعی جهت اعتماد؟ سوال همه جا مطرح می شود هوش مصنوعی استفاده می شود یا مورد بحث قرار می گیرد – که این روزها همه جا است.
این سوالی است که حتی برخی از آنها هوش مصنوعی سیستم ها پرسیده می شود.
بسیاری از سیستم‌های یادگیری ماشین چیزی را تولید می‌کنند که کارشناسان آن را «امتیاز اطمینان» می‌نامند، ارزشی که نشان‌دهنده اطمینان سیستم در تصمیم‌گیری‌هایش است. نمره پایین به کاربر می‌گوید که در مورد توصیه‌ها تردید وجود دارد. امتیاز بالا به کاربر انسانی نشان می دهد که سیستم حداقل در تصمیمات خود کاملاً مطمئن است. افراد باتجربه می دانند که چگونه امتیاز اعتماد را هنگام تصمیم گیری در مورد اعتماد به توصیه یک سیستم یادگیری ماشین بررسی کنند.
دانشمندان وزارت نیرو آزمایشگاه ملی شمال غرب اقیانوس آرام روش جدیدی برای ارزیابی پیشنهاد داده اند هوش مصنوعی توصیه های سیستم آنها متخصصان انسانی را در حلقه قرار می دهند تا ببینند ML چگونه روی یک مجموعه داده کار می کند. متخصص می‌آموزد که سیستم یادگیری ماشین معمولاً کدام نوع داده‌ها را به درستی طبقه‌بندی می‌کند و کدام نوع داده‌ها منجر به سردرگمی و خطاهای سیستم می‌شود. کارشناسان با داشتن این دانش، رتبه اطمینان خود را برای توصیه های سیستمی آینده ارائه می دهند.
نتیجه نگاه انسان بر شانه هوش مصنوعی سیستم؟ مردم پیش بینی کردند هوش مصنوعی نمایش دقیق تر سیستم
حداقل تلاش انسان – فقط چند ساعت – ارزیابی برخی از تصمیمات گرفته شده توسط هوش مصنوعی این برنامه به محققان اجازه می دهد تا به طور قابل توجهی پیشرفت کنند هوش مصنوعی توانایی برنامه برای ارزیابی تصمیماتش. در برخی از تحلیل‌های تیمی، زمانی که امتیاز توسط یک انسان ارائه شد، دقت امتیاز اعتماد دو برابر شد.
تیم PNNL نتایج خود را در جلسه اخیر ارائه کرد انجمن عوامل انسانی و ارگونومی در واشنگتن دی سی، بخشی از یک جلسه در مورد انسانهوش مصنوعی تجهیز ربات
کوری فالون، نویسنده اصلی این مطالعه و متخصص در تعامل انسان و ماشین می‌گوید: «اگر از ابتدا الگوریتم یادگیری ماشین را توسعه نداده‌اید، می‌تواند شبیه یک جعبه سیاه به نظر برسد. “در برخی موارد، راه حل ها خوب به نظر می رسند. در موارد دیگر، ممکن است توصیه ای دریافت کنید که واقعاً گیج کننده باشد. شاید متوجه نشوید که چرا او تصمیماتی را می گیرد.»
شبکه و هوش مصنوعی
این معضلی است که مهندسان قدرت با شبکه برق کار می کنند. راه حل های آنها بر اساس مجموعه داده هایی است که هر لحظه تغییر می کند، چراغ ها را روشن نگه می دارد و ملت را روشن نگه می دارد. اما مهندسان انرژی ممکن است تمایلی به واگذاری قدرت تصمیم گیری به سیستم های یادگیری ماشین نداشته باشند.
صدها مقاله علمی در مورد استفاده از فراگیری ماشین در سیستم های قدرت، اما تقریباً هیچ یک از آنها در دنیای واقعی اعمال نمی شوند. بسیاری از اپراتورها به سادگی به ML اعتماد ندارند. Tianzhixi “Tim” Yin، یکی از نویسندگان این مقاله، گفت: آنها تخصص دامنه دارند – چیزی که ML نمی تواند یاد بگیرد.
محققان PNNL که تیمی در سطح جهانی دارند نوسازی شبکه، نگاهی دقیق تر به الگوریتم یادگیری ماشین اعمال شده در سیستم های انرژی انداخت. آنها الگوریتم SVM (Support Vector Machine) را بر روی داده های واقعی از اتصال شرقی شبکه ایالات متحده آموزش دادند. این برنامه 124 رویداد را بررسی کرد و تصمیم گرفت که آیا ژنراتور خراب است یا اینکه داده ها انواع دیگری از رویدادها را نشان می دهند که کمتر قابل توجه بودند.
الگوریتم در تصمیم گیری های خود 85 درصد قابل اعتماد بود. بسیاری از خطاهای آن زمانی رخ می دهد که نوک های پیچیده توان یا تغییرات فرکانس وجود دارد. نمرات اعتماد ایجاد شده با استفاده از یک انسان در حلقه بهبود قابل توجهی نسبت به ارزیابی سیستم از تصمیمات خود بود. ورودی متخصص انسانی تصمیمات الگوریتم را با دقت بسیار بیشتری پیش بینی کرد.
انسان تر، بهتر فراگیری ماشین
فالون و یین امتیاز جدید را نمره «اعتماد به دست آمده از متخصصان» یا امتیاز EDC می نامند.
آنها دریافتند که به طور متوسط، زمانی که افراد داده ها را وزن می کنند، نمرات EDC آنها رفتار مدلی را پیش بینی می کند که نمرات اطمینان الگوریتم نمی تواند.
یین گفت: «کارشناس شکاف های دانش ML را پر می کند. “Human اطلاعاتی را ارائه می دهد که ML نداشت، و ما نشان می دهیم که این اطلاعات قابل توجه است. نکته اصلی این است که ما نشان داده‌ایم که اگر تجربه انسانی را به نتایج یادگیری ماشین اضافه کنید، اعتماد به نفس بسیار بیشتری خواهید داشت.»
کار فالون و یین توسط PNNL از طریق ابتکاری به نام مریخ – ریاضیات برای استدلال مصنوعی در علم. تلاش بخشی از تلاش گسترده تر در هوش مصنوعی در PNNL. این ابتکار Fallon را گرد هم آورد، متخصص در تیم سازی انسان و ماشین و تحقیق عوامل انسانیو یین، دانشمند داده و متخصص در فراگیری ماشین.
این نوع تحقیقات مورد نیاز برای آماده سازی و تجهیز است هوش مصنوعیفالون گفت: نیروی کار آماده. “اگر مردم به این ابزار اعتماد ندارند، پس شما زمان و پول خود را هدر داده اید. شما باید بدانید که با مصرف الف چه اتفاقی خواهد افتاد فراگیری ماشین خارج از آزمایشگاه مدل کنید و آن را در دنیای واقعی کار کنید.
من از طرفداران پر و پا قرص تجربه انسانی و تیم سازی انسان و ماشین هستم. نتایج EDC ما به فرد امکان می دهد وضعیت را بهتر ارزیابی کند و تصمیم نهایی را بگیرد.
###
