عالمية ورؤى آراء

الثالث الجزء – االصطناعي الذكاء

عالمية ورؤى آراء الميالع الداخليين المدققين لمعهد الذكي التدقيق إطار

االصطناعي للذكاءب الجزء العملية، التطبيقات

خاصة طبعة

3 –الذكاء االصطناعي

عالمية ورؤى آراء

الثالث الجزء – االصطناعي الذكاء

المحتويات

............................................. إطار معهد المدققين الداخليين لتدقيق الذكاء االصطناعي

................................................................................................العامل البشري

االخالقيات

تحيز اللوغاريتمات صياغة المعنى

............................................................................................. الصندوق األسود

....................................................................................................... لحوكمةا

................................................................................................. قياس األداء

............................................................................................ استنتاجات ختامية

االستشاري المجلس

الدين بحر حياتي نور

المساهمون

بندرماخر جون

globaliia.org

عالمية ورؤى آراء

الثالث الجزء – االصطناعي الذكاء

مقدمة

اوفق. حصلي قد هذا. اتتحقيق أو أخلقيات لجنة أمام ماثلا يقف – دماغه قلاأل على أو – روبوت. تصور

إلى والعمل العامة، األماكن دخول في الروبوتات تبدأ عندما بأنه األكاديميون يجادل ،الجارديان جريدةل

بـ مزودة الروبوتات قضية جعل العلماء يحاول. إلحاحاا أكثر لسلمةل تدابير لىإ الحاجة تصبح البشر، نباج

.الحوادث تقع حين أعمالهم – شرح نعم، – شرح من وتمكينهم قراراتهم، لتتبع" أسود أخلق صندوق"

قطاع اهوضع التي واألنظمة األمثلة تتبع أن يجب الروبوتات شركات أن أكسفورد جامعة في األساتذة يرى ادثحو في للتحقيق القيادة قمرة في صوت ومسجلت سوداء صناديق تثبيت تشمل والتي الطيران،

مثبت ،أسود أخلق صندوق. المأساوية األحداث هذه بعد الهامة السلمة دروس تعلم وضمان ،اتالطائر

من علوماتوالم ،وتحركاته ،اتخاذها سوأس الروبوت، هذا قرارات يسجل أن شأنه من الروبوت، في

.المدى تحديد وأجهزة والميكروفونات، الكاميراتك به المثبتة االستشعار أجهزة

نايتسكوب دورية روبوت ،"ستيف" سقط عندما مثل األخيرة، الحوادث أعقاب في اإلجراءات هذه تأتي

(K5)، روبوت تشارك عندما أو الخدمة، تأدية أثناء نافورة في وسقط الدرج من (K5 )في عراك في آخر

بوالية فيو، ماونتن شوارع في ةبدوري قيامه اءأثن عاماا 41 العمر من يبلغ رجل مع لسياراتا مواقف

. ستانفورد في تسوق مركز في شهراا 16 عمره طفل بدهس همتات التي الروبوتية الوحدة أو ،كاليفورنيا

.طفيفة يةالبشر صاباتاإل جميع وكانت

ومليئة الوزن خفيفة معظمها فإن ذلك، ومع. (AI) االصطناعي الذكاء أخلقيات عن التقارير مئات هناك

نم روزنبرغ يقتطف. باكشانل مجلة محرر روزنبرغ، سكوت بحسب ،أوالا الناس وضع حول بالمبتذالت

عادةإ يحاول تقني قطاع عن نيويورك بجامعة اآلن االصطناعي الذكاء معهد من مؤخراا الصادرة التقارير

ويخلص. بها موثوقو عادلة لنتائج ضمان أي دونب االصطناعي الذكاء خطوط طول على المجتمع تشكيل

تىح األخلقية لمعاييرا حول المسؤولية االصطناعي الذكاء لتحميل المبذولة الجهود" أن إلى التقارير أحد

فرديةال المسؤولية تجاوز إلى تحتاج االصطناعي للذكاء الجديدة األخلقية األطر وأن ،بالفشل باءت اآلن للذكاء واستخدام تصميمها عند للمساءلة القوية والعسكرية والحكومية الصناعية المصالح لتضع

،الحساسة المناطق مختلف في االصطناعى ذكاءال أنظمة دخالإ يتم المؤلفين، آراء في ".االصطناعي

هيمكن اللوغاريتمات في ما خطأ"فيها يكون التي البيئات، من وغيرها الصحية، والرعاية والتعليم الشرطةك

".ما كائن حياة دمري أن

االصطناعي الذكاء تدقيقل الداخليين المدققين معهد إطار

لذكاءا في الداخلي التدقيق دورو الداخلي، التدقيق مهنة اعتبارات – االصطناعي الذكاء في موضح هو كما

ااسلب) االصطناعي الذكاء تأثير درجة وإبلغ وفهم تقييم في المؤسسة مساعدة" في تكمن( AI) االصطناعي

".الطويل أو المتوسط أو القصير مدىال على قيمة لخلق المؤسسة تلك قدرة على( ااإيجاب أو

دققينالم معهد إطار من االستفادة الداخليين للمدققين يمكن الدور، هذا لعب في الداخلي التدقيق ولمساعدة داخلي قيقتد خدمات أو توكيدية أو استشارية خدمات تقديم في االصطناعي الذكاء لتدقيق العالمي الداخليين

عناصر ثةلث من طارإلا ويتألف. المؤسسة حاجة حسب االصطناعي الذكاء حول االثنين بين مختلطة

: هيو عناصر وسبعة – البشري والعامل والحوكمة، ،االصطناعي الذكاء استراتيجية: هيو شاملة

قياس ؛ةالتحتي تهاوبني البيانات تصميم البيانات؛ جودة االصطناعي؛ الذكاء كفاءات ؛السيبرية المرونة

.األسود الصندوق و ؛ياتخلقاأل األداء؛

اءات،اإلجر أو واألنشطة ،الرقابية الضوابط أو المهام أهداف من العديد في الداخلي التدقيق ينظر أن ينبغي فيما ناالثني بين مختلطة داخلي تدقيق خدمات أو توكيدية أو استشارية خدمات وتقديم اإلطار، تنفيذ في

في الثالث التقرير هو هذا: ملحظة

من لمزيد. أجزاء ثلثة من سلسلة

الذكاء انظر المعلومات،

لمهنة اعتبارات – االصطناعي

معهد إطارو ،الداخلي التدقيق

اءالذك لتدقيق الداخليين المدققين

– العملية التطبيقات: االصطناعي

.أ الجزء

الذكاء استراتيجية االصطناعي

الحوكمة

البشري العامل

globaliia.org

عالمية ورؤى آراء

الثالث الجزء – االصطناعي الذكاء

التي الصلة ذات اإلجراءات أو واألنشطة األهداف تقديم تم وقد. للمؤسسة االصطناعي الذكاء بأنشطة تعلقي

والحوكمة( االصطناعي الذكاء مجال في والكفاءة الصمود على القدرة عناصر) االستراتيجية تعالج

اخليينالد المدققين معهد إطار يف اإلطار من( البيانات جودة وعناصر التحتية، والبنية البيانات تصميم)

جراءاتإلا أو نشطةألوا هدافألا الوثيقة هذه توفر. أ الجزء العملية التطبيقات: االصطناعي الذكاء التدقيق

قياس عنصر) كمةوالحو (اءالسود الصناديقو خالقياتألا عناصر) البشرية العوامل تعالج التي صلةال ذات

.(داءألا

البشري العامل

خطأ حدوث خطر ،اءسودال والصندوق األخلق يعنصر يتضمن الذيو البشري، العامل عنصر يتناول

.المتوقعة النتائج تحقيق في االصطناعي الذكاء قدرة يضعف بشري

األخلقيات

( ةلمتعمدا وغير ةالمتعمد سواء) ةالبشري والتحيزات األخطاء تشمل والتي البشر وضعها التي اللوغاريتمات

:يلي فيما البشري العامل عنصر وينظر. اللوغاريتمات أداء على تؤثر سوف

وإدارتها االصطناعي الذكاء تصميم في المقصودة غير البشرية التحيزات مخاطر تحديد.

األصلي الهدف تعكس النتائج أن من للتأكد فعال بشكل االصطناعي الذكاء اختبار تمي.

أصلا فيها المحصورة للتعقيد نظراا شفافة صطناعياال الذكاء تقنيات تكون أن يمكن.

ومسؤول وأخلقي قانوني بشكل االصطناعي الذكاء مخرجات استخدام يتم.

اللوغاريتمات تحيز

القرارات التخاذ اآللي التعلم الشركات قبتط ،مؤخراا صدر وشركاه ماكنزي شركة من لتقرير وفقاا

تحديثها تمي التي الكبيرة البيانات مجموعات على للعمل معقدة لوغاريتمات البرامج تضع. بسرعة التجارية

يمكن هألن بالمخاطر، محفوف عمل هو" التعبير صح إن" اللوغاريتمي التحيز فإن ذلك، ومع. متكرر بشكل

على السيطرة إلى عد) رقابة دون هوترك عنه، التغاضي تم إذا اآللي التعلم من بالهدف يضر أن

(.وتحيزاتها اآللي التعلم لوغاريتمات

globaliia.org

عالمية ورؤى آراء

الثالث الجزء – االصطناعي الذكاء

دون القروض على الحفاظ من طويلال تاريخال ذو العميل اعتبار يتم االئتمان، تقدير في المثال، سبيل على

هذا أن هو لنا ظاهر غير يكون قد ما ذلك، ومع". متدنية مخاطر ذو" بأنه عموماا سداداها عن التأخر أو االنحراف

وقد. هاتصلحي انتهاء على شارفت الفوائد كبيرة ضرائب طريق عن ودعمها العقارية الرهون على حافظ العميل

مؤسسةل اإلحصائية المخاطر نموذج في المخالفة حالة في الوقوع وشيك السداد عن التخلف في االرتفاع يكون

للتعلم نبئةالمت للنماذج يمكن ،المختصين خبراءال قبل من والتوجيه الصحيحة البيانات إلى الوصول مع. اإلقراض

لتحيزا يؤدي أن يمكن ذلك، على وعلوة. اإلرتفاعات ههذ وتصحيح البيانات في مخفية أنماط على العثور اآللي

ينب الحقيقية واالضطرابات المشاكل بعض تسبب أن يمكن أخطاء إلى – العمل قرارات خارج – اللوغاريتمي

اهد،والمش األشياءو األشخاص لتحديد شابهها وما غوغل صور خدمة استخدام يتم المثال، سبيل على. المواطنين

يتحيز عندما أو ،ااعرقي ساسح طابع ذات ما علمة الكاميرا تتغاضى كأن ،فادح خطأ حدثي أن نمكالم من ولكن

.المستقبل يمجرمب للتنبؤ المخاطر لتقييم ستخدمي برنامج

المعنى صياغة

الذكاء مخرجاتل معنى اشتقاق على نيقادر الناس يكون أن ويجب آلالت،ا به تقوم أن يمكن لما حدود هناك

الذكاء عصر في معنىال صياغة" وشركاه، ماكينزي شركة قبل من تقرير في موضح هو كما. االصطناعي

ام آللة ،المثال سبيل على الممكن، من يكون قد. به القيام لآلالت يمكن ال ماو يمكن ما تقدير مع بدأت االصطناعي

ينوالمعالج واألطباء للممرضين متروك األمر أن إال. ما شخص يقدمها أن يمكن مما دقة أكثر تشخيصات تقدم أن

إنف للتقرير، ووفقاا". والمعنى المعرفة بين الفرق هو ذاوه. العواقب وإدارة اآلثار فهم على المرضى لمساعدة

لذكاءل بالنسبة حاسمة أمور تعتبر البيانات وموعل والتحليلت البرامج شيفرات كصياغة الصعبة المهارات

ةالموسمي يزمكين انظر) يناالمع واشتقاق والتعاطف التعاونك الناعمة المهارات مع الحال هو كما ،االصطناعي

56-61.)

باألخالقيات الصلة ذات جراءاتإلا أو شنشطةألوا دهدا ألا

اإلجراءات أو األشنشطة الضوابط أو المهام أدهدا /دهد

االصطناعي الذكاء أنشطة نتائج أن توكيد تقديم .المقصودة غير التحيزات من خالية للمؤسسة

الذكاء ألنشطة المقصودة النتائج استعراض تائجبالن ومقارنتها( االستراتيجية األهداف) االصطناعى

كان إذا ما تحديد يجب ،اختلف هناك كان إذا. الفعلية .السبب هو التحيز

الذكاء مخرجات من" معنى صياغة" للمؤسسة يمكن .االصطناعي

الذي والمعنى االصطناعي الذكاء مخرجات مراجعة .المخرجات هذه من صياغته تتم

األسود الصندوق

ترونيإلك جهاز" هو سوداأل الصندوق نترنت،اإل شبكة على المتواجد القاموس وبستر-ميريام قاموسل وفقا

أي ؛أشمل وبصورة للمستخدم، غامضة أو عن مخفية تكون ما عادة الداخلية وآلياته اامعقد يكون ما عادة

لنوعا تقنيات تنفيذ في المؤسسات تقدم مع". معروفة غير أو غامضة داخلية لياتآ أو وظائف لديه جهاز

لقاءت من تتعلم أن يمكن التي المنصات أو اآلالت من االنتفاع – االصطناعي الذكاء من الرابعو الثالث

يصبحوس. فهماا أو ةيشفاف أقل اللوغاريتمات عمل آلية تصبح– البعض بعضها مع تواصلت أن أو نفسها

.تطوراا أكثر للمؤسسة االصطناعي الذكاء أنشطة تصبح حيث باستمرار أكبر تحدياا األسود الصندوق عامل

باألخالقيات الصلة ذات جراءاتإلا أو شنشطةألوا دهدا ألا

أو نشطةألوا هدافألا تتضمن ال

حددها التي الصلة ذات جراءاتإلا

العالمي الداخليين المدققين معهد

أمثلة أنها إال محددة، تدقيق خطة

تحديد في مفيدة تكون أن ينبغي

وفي الرقابة، أو المشاركة أهداف

يف التدقيق أعمال وتنفيذ تخطيط

.االصطناعي الذكاء

قيالتدق التزامات تتوافق أن يجب

معهد معيار مع االصطناعي الذكاء

رقم العالمي الداخليين المدققين

وينبغي. المشاركة تخطيط: 2200

ا الذكاء تدقيق خطط تصميم دائما

وإجراءات وأهداف االصطناعي

ا الداخلي التدقيق ةلتلبي خصيصا

.المؤسسة احتياجات

globaliia.org

عالمية ورؤى آراء

الثالث الجزء – االصطناعي الذكاء

اإلجراءات أو األشنشطة الضوابط أو المهام أدهدا /دهد

يأ" )األسود الصندوق" لبيانات المؤسسة فهم تقييم أو ،الداخلية الوظائف أو ،األساسية اللوغاريتمات

(.االصطناعي الذكاء نتمك التي اآلليات

تالسياسا وتنفيذ االصطناعي الذكاء سياسات مراجعة الصندوق بيانات من والتحقق واإلجراءات والعمليات

.األسود

االصطناعي الذكاء نتائج عن المسؤولين مقابلة بيانات وايفسر أن مكنوي يفهمون أنهم من والتحقق .األسود الصندوق

الحوكمة شطةأن ومراقبة وإدارة لتوجيه المنفذة واإلجراءات والعمليات الهياكل إلى االصطناعي الذكاء حوكمة تشير

. ؤسسةللم المحددة الخصائص على بناءا والشكليات الحوكمة هيكل اوتويتف. للمؤسسة االصطناعي الذكاء

:االصطناعي الذكاء إدارة

والرقابة القانونية والمسؤولية المساءلة حددت.

اللزمة والخبرات المهارات يملكون االصطناعي الذكاء عن المسؤولين أن ضمان على ساعدت.

الذكاءب الصلة ذات واإلجراءات والقرارات االصطناعي الذكاء أنشطة أن ضمان على ساعدت

.والقانونية واالجتماعية األخلقية ياتوالمسؤول المؤسسة قيم مع تتفق االصطناعي

لعالميا الداخليين المدققين معهد إطار تناول السلسلة، هذه من الثاني الجزء الحوكمة، بمكون يتعلق وفيما

المتثالا والرقابة؛ القانونية والمسؤولية المساءلة ،أ الجزء العملية التطبيقات: االصطناعي الذكاء لتدقيق

.األداء قياس الوثيقة هذه تتناول. البيانات جودةو ؛التحتية والبنية ياناتلبا تصميم المطلوب؛

األداء قياس فيف. صطناعياال بالذكاء المتعلقة هامبادرات أداء قياس على المؤسسة قدرة في حيوية بأهمية الداخلي التدقيق يتمتع

لمجلسوا لإلدارة توفر مقاييس وضع كيفية بشأن المشورة قدمي أن الداخلي للتدقيق يمكن التخطيط، مرحلة

وأ إنشاء عن مسؤوالا الداخلي التدقيق كوني ال أن يجب ذلك، ومع. ومفيدة صلة وذات وموثوقة كافية معلومات

أن جبي االصطناعي، الذكاء تبني أو تنفيذ فيها تم التي المؤسسات في. االصطناعي الذكاء أداء مقاييس امتلك

الدفاعية بةالرقا من الثاني والخط الدفاعية الرقابة عناصر من األول الدفاع خط على توكيداا الداخلي التدقيق وفري

طناعياالص الذكاء في الداخلي التدقيق كفاءة إلظهار أفضل طريقة توجد ال ربما. االصطناعي بالذكاء المتعلقة

.االصطناعي الذكاء لتدقيق الروبوتية عملياتال أتمتة مثل االصطناعي، الذكاء تقنيات استخدام من

globaliia.org

عالمية ورؤى آراء

الثالث الجزء – االصطناعي الذكاء

باألخالقيات الصلة ذات جراءاتإلا أو شنشطةألوا دهدا ألا

اإلجراءات أو األشنشطة الضوابط أو المهام أدهدا /دهد

الذكاء مقاييس إنشاء كيفية بشأن المشورة تقديم .االصطناعي

فيةكا معلومات المصطلحات ومعنى أهمية شنقل. االصطناعي الذكاء مقاييس إنشاء عن للمسؤولين العمل جلسات تسهيل .ومفيدة ،صلة ذاتو بها وموثوق

.االصطناعي الذكاء ثغرات إجهاد اختبار ظل في االصطناعي الذكاء أنشطة أداء كيفية لتحديد المصرفية الصناعة تستخدمها التي اإلجهاد اختبار تقنيات تطبيق

.المتطرفة السيناريوهات

.اعياالصطن الذكاءب المتعلقة المهام نتائج عن التبليغ

:مع يتفق بما االصطناعي الذكاءب المتعلقة المهام نتائج إبلغ

النتائج إبلغ: 2400 الداخليين المدققين معهد معيار.

التواصل معايير: 2410 الداخليين المدققين معهد معيار.

االتصاالت جودة: 2420 الداخليين المدققين معهد معيار.

واإلهمال األخطاء: 2421 الداخليين المدققين معهد معيار.

الداخلي التدقيق ألعمال المهنية للممارسة الدولية المعايير مع بالمواءمة" استخدامه تم: 2430 الداخليين المدققين معهد معيار."

االمتثال عدم عن الكشف: 2431 الداخليين المدققين معهد معيار.

النتائج نشر: 2440 الداخليين المدققين معهد معيار.

ةالرقابي األول الدفاع خط ضوابط على توكيد توفير الذكاءب ينالمتعلق الدفاعي الثاني الخط إشرافو

.االصطناعي .االصطناعي الذكاءب المتعلقة المهام ألداء االصطناعي الذكاء أشكال من وغيرها الروبوتات يتبن

ختامية استنتاجات. االصطناعي الذكاء – الجديد الرقمي يالحدود الخط يصبح قد ما وراء الداخلي التدقيق مهنة ترك يمكن ال

على وينبغي التي واألدوار االصطناعي، الذكاء أساسيات فهم الداخليين المدققين على يجب للتحضير،

.االصطناعي الذكاء فرصو مخاطرو ،يؤديها أن الداخلي للتدقيق يمكنو

طرف طريق عن أو تيسيرية تقنيات خلل من المؤسسة داخل االصطناعي الذكاء تقنيات تطوير تم وسواء لدفاعا خطوط مع والتنسيق العليا واإلدارة للمجلس المشورة لتقديم الداخلي التدقيق إعداد ينبغي ثالث،

الرقابية والضوابط ،االصطناعي الذكاء و وحوكمة مخاطر، إدارة بشأن توكيد وتقديم والثانية، األولى

المدققين معهد إطار من االستفادة الداخليين المدققين على يجب التحديات، هذه ولمواجهة. به المتعلقة

.االصطناعي الذكاء لتدقيق العالمي الداخليين

(The IIA) العالمي الداخليين المدققين معهد حول يخدم ،1941 عام أنشأ. المعتمدة والشهادات والتوجيه، المعايير بتوفير الداخلي، التدقيق لمهنة شهرة األكثر والمعلم والمدافع المناصر هو( The IIA) العالمي الداخليين المدققين معهد

ت،المعلوما من لمزيد. األمريكية المتحدة ياتالوال فلوريدا، بوالية ماري، بحيرة في للمعهد الرئيسي المقر يقع. وإقليماا بلداا 170 من أكثر من عضو 190,000 من أكثر اليوم المعهد

.www.globaliia.org اإللكتروني موقعنا زيارة يرجى

مسؤولية إخالء .همينالمسا العمل أصحاب أراء أو المساهمين األفراد آراء بالضرورة تمثل ال" عالمية ورؤى آراء" في عنها المعرب اآلراء إن

النشر حقوق الفيدرالية العلمة يحمل أن عليه التجارية العلمة أو رمزه أو المعهد السم استنساخ أي. بدقة محفوظة"( The IIA)" العالمي الداخليين المدققين لمعهد 2017© والنشر الطبع حقوق

.المعهد من خطي إذن على الحصول دون األشكال من شكل بأي المواد هذه من جزء أي نسخ يجوز ال®. المسجلة األمريكية

globaliia.org