explainable ai
توسط گروهی از متخصصان صنعت نرم افزار در رادیو بیدار کانادا: طلیعه دوانی، هومن علاوه زاده، مهدی شکوهی، محمد نادی و مهدیس خالدی
اخلاق و هوش مصنوعی با دکتر علیرضا اکبر زاده
سو گیری در هوش مصنوعی
آیا هوش مصنوعی تهدیدی برای انسان به حساب می آید
2- آیا هوش مصنوعی تهدیدی برای شغل ها به حساب می آید ؟
3- آیا هوش مصنوعی قابل قضاوت هستند یا نه؟
آیا مساله روان هم هوش مصنوعی وجود دارد؟
اگر بتوانیم روان را به صورت کوانتیفای کنیم و فیزیکی کنیم می توانیم با هوش مصنوعی پیاده سازی کنیم ولی مساله روان را نمیتوان پیاده سازی کرد
سیستم های هوش مصنوعی بر اساس دیتا کار می کنند
و دیتا هایی که بر اساس سوگیری آورده می شوند خروجی نیز سو گیری شده می شود
دو نوع سوگیری داریم: statisical bias و cognitive bias
داده ها را به دو قسمت tarin set و test set تقسیم می کنیم
prepecual bias
در آمازون این سو گیری ها انجام شده بود
دلیل اصلی بایاس، در زمینه سلامت این است که دیتا ها به اندازه کافی موجود نیست
روش های کلی برای جلوگیری از بایاس:
– بر اساس پارامتر های خاص red flag هایی را بگذاریم مثلا برای نژاد، رنگ پوست ، جنسیت
و همچنین دیتا را Diversify کنیم
برای انسان 180 نوع cognitive bias دسته بندی و تشخیص داده شده
AI fairness IBM روی دیتا های
IBM watson open scal
Google What is tools
سوال: ما با این ایرادات نرم افزار روبرو هستیم در quality checking زمانی که پروژه تعریف میشه تمرکزشون روی صورت مساله است
داده هایی که وارد می شود ، برای ورود اطلاعات غیر عادی چطور می توان جلوی آنها را گرفت؟
explainable-ai
برای سیستم های ساده تر می توان نتیجه گیری را توضیح پذیر کرد
تک تک ماژول ها و نود ها را می توان کنترل کرد
مشابه Open source software
برای سیستم های ساده انسان بتواند توضیح بدهد
دیتا را جمع آوری می کنند
الگوریتم ها را طراحی کنند
اگر بپرسیم چجوری سیستم به این نتیجه رسید؟
شفافیت در تصمیم سازی سیستم
ما سیستم شفاف را در خطا ها بهتر کنیم
اعتماد ایجاد می کنیم
complience محصول AI باید مطابق اون قوانین باشد
اگر سیستم explanable باشد پارامتر های مهم و کم اهمیت را می توان تشخیص داد وtune کرد
سیستم deep neural network ها پیچیده هستند
اگر در سلامت سیستم هوش مصنوعی می توان ساده و یا پیچیده گرفت
1- الگوریتم هایی طراحی شود که آنالیز پارامتر ها قابل تشخیص باشد
2- دیتا ها باید تمیز باشند
سیستم های خطی توضیح دادن آنها خیلی ساده است
می توانیم dataset ها را به چند subdata set تقسیم کنیم
روی سیستم های Deep learning می توان back propagation را تعریف کرد
یک سری ستون دارد
پکیج Lime: Local Interpretable Model-Agnostic Explanations
پکیج shap
برای deep learning سیستم deep lift هست
می توان نقش های هوش مصنوعی را مانند افراد جامعه تقسیم بندی کرد مثل AI پزشک، AI ناظر، AI پلیس و AI قاضی
هک شدن دیتا های ورودی هوش مصنوعی
adverserial attack
یک گروه طرفدار محیط زیست درباره گرد محیط زیست
به سایت های هواشناسی وارد شدند و موفق شده بودند که دماسنج ها را بالاببرند
api testing
open api
دمای یک شهر را می خوانید
باید در یک رنج خاصی در شهر خاصی باشد
anomaly detection –
منطق فازی
تمام شاکله هوش مصنوعی بر اساس دیتا هست
یک هایپ در جامعه هست که همه چیز را به AI بچسبانند
https://neptune.ai/blog/explainability-auditability-ml-definitions-techniques-tools
https://research.aimultiple.com/ai-bias/
23
پادکست ۹۲ رادیو بیدار – تجربه ۸ سال استارت آپ با یادگیری ماشین – مصطفی عرفانی 
قبل از چت جی‌پی‌تی چگونه زندگی می‌کردیم – موضوع اپیزود ۹۱ رادیو بیدار کانادا 
پادکست شماره ۹۰ رادیو بیدار هوش مصنوعی در مارکتینگ و سوشال مدیا با سحر شفیعی 
پادکست شماره ۸۹ رادیو بیدار نگاهی به حال و پیش‌بینی‌های آینده رباتیک توسط پویان اصغریان 
پادکست شماره ۸۸ رادیو بیدار خلاصه بخش اول کتاب CRACKING the CODING INTERVIEW 189 PROGRAMMING QUESTIONS & SOLUTIONS 
پادکست شماره ۸۷ رادیو بیدار اهمیت زبان فارسی در فضای وب، تجربه‌ی داروگ توسط صادق روحانی 
