مدیریت ریسک برای سیستم های هوش مصنوعی

مدیریت ریسک برای سیستم های هوش مصنوعی

ترجمه: مهندس فرشاد کفایی، مهندس رضا عرب عامری

فرمت: Pdf  تعداد صفحات: 56

فهرست:

• مقدمه
• دامنه کاربرد
• مراجع
• اصطلاحات و تعاریف
• اصول مدیریت ریسک
• چهارچوب
  • کلیات
  • رهبری و تعهد
  • یکپارچگی
  • طراحی
    • درک سازمان و محتوای آن
    • بیان تعهد مدیریت ریسک
    • تعیین نقش ها، اختیارات، مسئولیت ها و پاسخگویی های سازمانی
    • تخصیص منابع
    • ایجاد ارتباطات و مشاوره
  • پیاده سازی
  • ارزشیابی
  • بهبود
    • انطباق
    • بهبود مستمر
• فرآیند مدیریت ریسک
  • کلیات
  • ارتباطات و مشاوره
  • دامنه، محتوا و معیار
    • کلیات
    • تعیین دامنه
    • محتوای خارجی و داخلی
    • تعریف معیار ریسک
  • ارزیابی ریسک
    • کلیات
    • شناسایی ریسک
      • کلیات
      • شناسایی دارایی ها و ارزش آنها
      • شناسایی منابع ریسک
      • شناسایی رویدادهای
      • بالقوه و پیامدها
      • شناسایی کنترل ها
      • شناسایی پیامدها
    • آنالیز ریسک
      • کلیات
      • ارزیابی پیامدها
      • ارزیابی احتمال
    • ارزشیابی ریسک
  • تعدیل ریسک
    • کلیات
    • انتخاب گزینه های تعدیل ریسک
    • تهیه و پیاده سازی برنامه های تعدیل ریسک
  • پایش و بازنگری
  • ثبت و گزارش دهی
• پیوست الف: اهداف
• پیوست ب: منابع ریسک
• پیوست ج: مدیریت ریسک و چرخه حیات سیستم هوش مصنوعی
• مراجع

مقدمه

هدف مدیریت ریسک، خلق و حفاظت از ارزش است. این فرایند عملکرد را بهبود می بخشد، نوآوری را ترغیب  می کند و دستیابی به اهداف را پشتیبانی می نماید.

این سند به منظور استفاده در ارتباط با استاندارد 2018 :31000 :ISO طراحی شده است. هر جا که این سند  راهنمایی های استاندارد 2018 :31000: ISO را گسترش می دهد، ارجاع مناسبی به بندهای مربوطه در ISO: 31000: 2018 ارائه شده و سپس راهنمایی های خاص هوش مصنوعی (در صورت لزوم) اضافه می شود. برای شفاف سازی رابطه بین این سند و 2018 31000: ISO، ساختار بندهای استاندارد مذکور در این سند بازتاب یافته و در صورت نیاز، زیربندهایی به آن افزوده شده است.

این سند به سه بخش اصلی تقسیم می شود:

بند ۴: اصول: این بند اصول بنیادین مدیریت ریسک را توصیف می کند. استفاده از هوش مصنوعی مستلزم  ملاحظات خاصی در ارتباط با برخی از این اصول است که مطابق با بند 4 استاندارد 2018 :31000: ISO توضیح  داده شده اند.

بند :۵ چارچوب: هدف چارچوب مدیریت ریسک، کمک به سازمان برای یکپارچه سازی مدیریت ریسک در  فعالیت ها و وظایف مهم است. جنبه های مرتبط با توسعه، ارائه، یا استفاده از سیستم های هوش مصنوعی در بند  5 استاندارد 2018 :31000: ISO شرح داده شده اند.

بند :۶ فرایندها: فرایندهای مدیریت ریسک شامل کاربرد نظامند سیاست ها، رویه ها و روش ها در فعالیت  های ارتباطی و مشاوره ای، تعیین بستر، ارزیابی، رسیدگی، پایش، بازبینی، ثبت و گزارش دهی ریسک است. تخصصی سازی این فرایندها برای هوش مصنوعی در بند 6 استاندارد 2018 :31000: ISO ارائه شده است.

پیوست ها

پیوست الف: اهداف رایج مرتبط با هوش مصنوعی

پیوست ب: منابع ریسک مرتبط با هوش مصنوعی

پیوست ج: نمونه ای از تطبیق فرآیندهای مدیریت ریسک با چرخه حیات سیستم هوش مصنوعی

فناوری اطلاعات – هوش مصنوعی – راهنمایی مدیریت ریسک

1. دامنه کاربرد

این سند راهنمایی هایی را برای سازمان هایی ارائه می کند که محصولات، سامانه ها و خدمات مبتنی بر هوش مصنوعی (AI)  را توسعه، تولید، استقرار یا استفاده می کنند تا بتوانند ریسک های مرتبط با هوش مصنوعی را به طور خاص مدیریت نمایند. این راهنما همچنین هدف دارد تا به سازمان ها در یکپارچه سازی مدیریت ریسک در فعالیت ها و وظایف مرتبط با هوش مصنوعی کمک کند. علاوه بر این، فرایندهایی را برای پیاده سازی و ادغام  مؤثر مدیریت ریسک هوش مصنوعی توصیف می نماید. کاربرد این راهنمایی ها قابلیت تطبیق با هر سازمان و شرایط خاص آن را دارد.

2. مراجع رسمی

اسناد زیر در متن این سند به گونه ای ارجاع داده شده اند که بخشی یا تمام محتوای آنها به عنوان الزامات این سند محسوب می شود:

• 2018 31000: ISO، مدیریت ریسک – راهنمایی ها
• 2009 73: Guide ISO، مدیریت ریسک – واژگان
• 2022 22989: IEC/ISO، فناوری اطلاعات – هوش مصنوعی – مفاهیم و اصطلاحات هوش مصنوعی

3. اصطلاحات و تعاریف

کلیه اصطلاحات و تعاریف تخصصی در این سند نیز از استانداردهای زیر استخراج شده اند:

• ISO 31000 :2018
• ISO/IEC 22989 :2022
• ISO Guide 73 :2009

4. اصول مدیریت ریسک در هوش مصنوعی

مدیریت ریسک باید نیازهای سازمان را با رویکردی یکپارچه، ساختاریافته و جامع پوشش دهد. اصول راهنما به  سازمان اجازه می دهند اولویت ها را شناسایی کرده و در مورد چگونگی مدیریت تأثیرات عدم قطعیت بر اهدافش تصمیم گیری کنند. این اصول در تمام سطوح و اهداف سازمانی، اعم از استراتژیک یا عملیاتی، اعمال می شوند.

سیستم ها و فرایندها معمولا ترکیبی از فناوری ها و کارکردهای مختلف را در محیط های گوناگون و برای موارد استفاده خاص به کار می گیرند. مدیریت ریسک باید کل سامانه را با تمام فناوری ها و کارکردهایش، و همچنین تأثیر آن بر محیط و ذینفعان، در نظر بگیرد.

سیستم های هوش مصنوعی می توانند ریسک های جدید یا نوظهور را برای سازمان به همراه داشته باشند که ممکن است تأثیرات مثبت یا منفی بر اهداف بگذارند یا احتمال وقوع ریسک های موجود را تغییر دهند. این  سیستم ها همچنین ممکن است نیازمند ملاحظات خاصی از سوی سازمان باشند. این سند راهنمایی های تکمیلی را برای اصول، چارچوب و فرایندهای مدیریت ریسک که سازمان می تواند پیاده سازی کند، ارائه می نماید.

نکته:

استانداردهای بین المللی مختلف تعاریف متفاوتی از واژه «ریسک» دارند . در 2018 :31000: ISO و  استانداردهای مرتبط، «ریسک» شامل انحراف مثبت یا منفی از اهداف است. در برخی استانداردهای دیگر،  «ریسک» صرفا به پیامدهای منفی احتمالی اشاره دارد (مانند چالش های مرتبط با ایمنی). این تفاوت در تمرکز  اغلب می تواند هنگام درک و پیاده سازی صحیح یک فرایند مدیریت ریسک سازگار، باعث سردرگمی شود.

مثال برای درک بهتر تفاوت تعاریف ریسک: 

– در استاندارد 2018 :31000: ISO

یک شرکت فناوری، سرمایه گذاری روی یک الگوریتم جدید AI را به عنوان یک فرصت (ریسک مثبت) برای  افزایش سهم بازار در نظر می گیرد. اما همین سرمایه گذاری ممکن است ریسک منفی مانند نقض حریم خصوصی  کاربران را نیز ایجاد کند.

ادامه مطلب را با دانلود فایل پیوستی مشاهده کنید.

حتما بخوانید:

⇐ طراحی چند نمونه از پست های کاری با استفاده از هوش مصنوعی

⇐ ارگونومی و عوامل انسانی در هوش مصنوعی و مراقبت های بهداشتی

⇐ تشخیص خودکار سطح هوشیاری با استفاده از شبکه عصبی مصنوعی و ضرایب ویولت