الاستشارة
نعمل مع القادة قبل أن يتحول الالتزام إلى زخم يصعب تغييره. ليس دورنا تقديم يقين غير موجود بل إظهار عدم اليقين والتمييز بين الحقائق والافتراضات وتوضيح ما يجب أن يتحقق كي يكون القرار قابلا للدفاع.
نادرا ما تكون التقنية هي الجزء الأصعب في مبادرة للذكاء الاصطناعي
الأصعب هو معرفة القرار الذي يجب اتخاذه والافتراضات التي تستحق المساءلة والأدلة التي تبرر الإجراء. هي جهة استشارية في هندسة القرار للقرارات الجوهرية المتعلقة بالذكاء الاصطناعي عندما يكون الخيار مهما والأدلة غير مكتملة ولا يمكن تفويض المساءلة إلى نموذج أو مورد أو إطار عمل.
المنهجية
COMPASS هي منهجية استكشاف القرار المستخدمة لصياغة القرار وفحص الواقع الحالي ومقارنة المسارات الموثوقة واختبار الأدلة وإعداد الحوكمة وتحديد ما ينبغي أن يحدث تاليا. صُممت لحماية الحكم البشري لا لاستبداله.
الأسئلة تأتي أولا
نادرا ما تتجاوز جودة القرار جودة السؤال الذي صاغه
المسؤولية الأولى في قرار جوهري يتعلق بالذكاء الاصطناعي هي تحسين السؤال.
فالسؤال المصاغ جيدا يغيّر الأدلة ذات الصلة والخيارات الموثوقة ومن يجب إشراكه وما تعنيه المساءلة فعليا.
ما القرار الذي نتخذه فعليا لا مجرد ما النظام الذي نبنيه؟
ما الذي يجب أن يتحقق كي يخلق هذا القرار القيمة المنشودة؟
أي الأدلة قد تغير رأينا وأي الافتراضات نحميها حاليا؟
من يظل مسؤولا إذا كان أداء النموذج جيدا لكن القرار مع ذلك يسبب ضررا؟
ما البدائل الموثوقة بما فيها عدم المضي قدما أو تغيير المشكلة؟
كيف سنعرف أن القيمة ما زالت تتحقق بعد الإطلاق لا أن النظام ما زال يعمل فحسب؟
الرسالة
حافظ على الملكية البشرية حيث تظل العواقب بشرية
يمكن للتقنية أن توسع التحليل وتكشف الأنماط وتحسن الاستشراف. لكنها لا تستطيع تحمل المساءلة.
في تتمثل رسالتنا في مساعدة الناس على اتخاذ قرارات يمكنهم شرحها وحوكمتها ومراجعتها وتحمل مسؤوليتها.
تأمل أخير
يمكن تفويض التنبؤ أما المساءلة فلا
كل قدرة جوهرية للذكاء الاصطناعي تصبح جزءا من قرار يتخذه شخص ما وقد تضيق نطاق الانتباه أو تغيّر مستوى الثقة أو تعيد ترتيب البدائل أو تؤتمت توصية ومع ذلك تظل المؤسسة مسؤولة عن قرار استخدامها وتحديد سلطتها وقبول عواقبها.
ولهذا تركز على القرار المحيط بالقدرة لا على القدرة وحدها.
الاسم
لماذا ؟
تعني «vi» كلمة «نحن» باللغة السويدية في إشارة إلى أن القرارات الجوهرية نادرا ما تكون مملوكة لوظيفة واحدة أو تخصص واحد أو شخص واحد وتمثل «COMPASS» الاسترشاد عندما يكون المسار غير مؤكد. أما حرف «a» الأخير فيمنح الاسم صيغة فاعلة: ليست إطارا ثابتا بل ممارسة للاستكشاف المشترك نحو قرار يصمد أمام التدقيق.