دعت هيئة استشارية فدرالية وكالات الأمن الكندية إلى نشر أوصاف مفصلة لاستخداماتها الحالية والمخطط لها لأنظمة الذكاء الاصطناعي وتطبيقات البرمجيات.

وفي تقرير جديد، دعت مجموعة الشفافية في الأمن الوطني أيضًا الحكومة إلى النظر في تعديل التشريعات التي يجري النظر فيها من قبل البرلمان لضمان الرقابة على استخدام الوكالات الفدرالية للذكاء الاصطناعي.

إذ تُعد هذه التوصيات من بين أحدث الاقتراحات التي قدمتها المجموعة، والتي أُنشئت في عام 2019 لزيادة المساءلة والوعي العام بسياسات وبرامج وأنشطة الأمن الوطني.

كما تعتبر الحكومة المجموعة وسيلة مهمة لتنفيذ التزام فدرالي مكون من ست نقاط للشفافية بشأن الأمن الوطني.

جدير بالذكر أن وكالات الأمن بالفعل تستخدم الذكاء الاصطناعي في مهام تتراوح بين ترجمة الوثائق واكتشاف تهديدات البرمجيات الضارة. 

ويتوقع التقرير زيادة الاعتماد على التكنولوجيا لتحليل كميات كبيرة من النصوص والصور، والتعرف على الأنماط، وتفسير الاتجاهات والسلوك.

ومع توسع استخدام الذكاء الاصطناعي في مجتمع الأمن الوطني، يقول التقرير إنه من الضروري أن يعرف المواطن المزيد عن الأهداف والمبادرات لخدمات الحدود الوطنية والشرطة والمخابرات.

كما يجب تصميم وتنفيذ آليات مناسبة لتعزيز الانفتاح النظامي والاستباقي داخل الحكومة، مع تمكين الرقابة والتدقيق الخارجي بشكل أفضل.

وبينما تتعاون الحكومة مع القطاع الخاص في تحقيق أهداف الأمن الوطني، يقول التقرير إن الانفتاح والمشاركة هما عاملان حاسمان للابتكار وبناء الثقة العامة، بينما تثير السرية الشكوك.

هذا وتتمثل إحدى التحديات الرئيسية في شرح كيفية عمل الذكاء الاصطناعي للمواطنين في غموض الخوارزميات ونماذج تعلم الآلة أو ما يُعرف بالصندوق الأسود الذي قد يؤدي حتى لوكالات الأمن الوطني إلى فقدان فهمها لتطبيقات الذكاء الاصطناعي الخاصة بها، كما يشير التقرير.

كما أصدرت أوتاوا توجيهات بشأن الاستخدام الفدرالي للذكاء الاصطناعي، بما في ذلك متطلبات إجراء تقييم تأثير خوارزمي قبل إنشاء نظام يساعد أو يحل محل حكم متخذي القرارات من البشر.

كما تم تقديم قانون الذكاء الاصطناعي والبيانات، الذي هو قيد النظر حاليًا في البرلمان، لضمان التصميم والتطوير والتطبيق لأنظمة الذكاء الاصطناعي.

من جانبها رحبت وكالة الاستخبارات الأمنية الكندية، التي تحقق في تهديدات مثل النشاطات المتطرفة، والتجسس، والتدخلات الأجنبية، بتقرير مجموعة الشفافية.

وقالت وكالة الاستخبارات إن العمل جارٍ لتوثيق الخطط والحوكمة المتعلقة باستخدام الذكاء الاصطناعي، مع دعم الشفافية لجميع الاعتبارات.

جدير بالذكر أنه وفي عام 2021، وجد دانيل ثيري، مفوض الخصوصية الفدرالي في ذلك الوقت، أن الشرطة الملكية الكندية (RCMP) خرقت القانون باستخدامها لبرامج التعرف على الوجه المتطورة لجمع المعلومات الشخصية.

وقال ثيري إن الشرطة الفدرالية الكندية فشلت في ضمان الامتثال لقانون الخصوصية قبل جمع المعلومات من شركة Clearview AI الأمريكية.