Wake up call for AI: computer-vision research increasingly used for surveillance
(Elizabeth Gibney – بقلم: إليزابيث غيبني)
يشير أحد التحليلات إلى أن 90% من الدراسات في هذا المجال تتضمن بيانات تتعلق بالبشر.
خلصت دراسة إلى أن أبحاث التصوير في مجال الرؤية الحاسوبية، وهو مجال شائع، تتضمن في أغلب الأحيان تحليل البشر وبيئاتهم، ويمكن استخدام معظم براءات الاختراع اللاحقة في تقنيات المراقبة.

وتتضمن أبحاث الرؤية الحاسوبية تطوير خوارزميات لاستخراج المعلومات من الصور ومقاطع الفيديو. ويمكن استخدامها لاكتشاف الخلايا السرطانية، وتصنيف أنواع الحيوانات، أو في مجال رؤية الروبوتات. ولكن في أغلب الأحيان، تُستخدم هذه التقنيات لتحديد هوية الأشخاص وتتبعهم، وفقًا للدراسة التي نُشرت في مجلة نيتشر في 25 يونيو(1).
ويقول البروفيسور إيف مورو، عالم الأحياء الحاسوبية في جامعة لوفين الكاثوليكية في بلجيكا، والذي يدرس أخلاقيات البيانات البشرية، إن علماء الحاسوب بحاجة إلى “الاستيقاظ” والتفكير في الآثار الأخلاقية لعملهم.
وقد شهدت تقنيات مراقبة الأشخاص تطورًا ملحوظًا في السنوات القليلة الماضية مع التطور السريع للذكاء الاصطناعي وقدرات التصوير. ويمكن لهذه التقنيات التعرف على الأشخاص وسلوكهم، على سبيل المثال، من خلال التعرف على الوجه أو المشية ورصد أفعال معينة.

وتؤكد قوات الشرطة والحكومات أن المراقبة المدعومة بالذكاء الاصطناعي تُمكّنها من حماية الجمهور بشكل أفضل. إلا أن النقاد يقولون إن هذه الأنظمة عرضة للخطأ، وتؤثر بشكل غير متناسب على الأقليات، ويمكن استخدامها لقمع الاحتجاجات.
تصوير البشر
قيّم التحليل 19000 ورقة بحثية في مجال الرؤية الحاسوبية نُشرت بين عامي 1990 و2020 في المؤتمر الرائد حول الرؤية الحاسوبية والتعرف على الأنماط، بالإضافة إلى 23000 براءة اختراع استشهدت بها. ودرس الباحثون بدقة عينة عشوائية من 100 ورقة بحثية و100 براءة اختراع، ووجدوا أن 90% من الدراسات و86% من براءات الاختراع التي استشهدت بتلك الأوراق تضمنت بيانات تتعلق بتصوير البشر وأماكن تواجدهم.
وصُممت 1% فقط من الأوراق البحثية و1% من براءات الاختراع لاستخراج بيانات غير بشرية فقط. وقد ازداد هذا التوجه. وفي تحليل أوسع، بحث الباحثون في جميع براءات الاختراع عن قائمة بكلمات مفتاحية مرتبطة بالمراقبة، مثل “القزحية” و”المجرم” و”التعرف على الوجه”.
ووجدوا أنه في العقد الأول من القرن الحادي والعشرين، أنتجت 78% من أوراق الرؤية الحاسوبية التي أدت إلى براءات اختراع أبحاثًا متعلقة بالمراقبة، مقارنة بـ 53% في التسعينيات (انظر الرسم البياني بعنوان “الأبحاث التي تُمكّن المراقبة”). ويقول البروفيسور مورو: “يعمل المجال بأكمله تقريبًا على الوجوه والمشيات، وعلى كشف الأشخاص في الصور، ولا يبدو أن أحدًا يقول: ‘مهلاً، ماذا نفعل هنا؟'”.
وعلى الرغم من أن الكثيرين افترضوا وجود “خط أنابيب” من أبحاث الرؤية الحاسوبية إلى المراقبة، إلا أن ذلك “يختلف تمامًا عن وجود أدلة تجريبية فعلية”، كما تقول البروفيسور ساندرا واتشر، التي تدرس التكنولوجيا والتنظيم في جامعة أكسفورد بالمملكة المتحدة.
كلمات مفتاحية للمراقبة
حلل الفريق أيضًا اللغة المستخدمة في الأوراق البحثية، ولاحظ أن الباحثين غالبًا ما يصفون البشر بـ”أشياء”، بينما يصفون المساحات الاجتماعية التي يسكنها الناس بـ”مشاهد”. ويقول البروفيسور مورو: “مقارنةً بـ’تتبع الأشخاص‘، فإن ’متابعة الأشياء‘ لا تحمل نفس العبء العاطفي”. ويضيف أن هذا التعتيم قد يعني أن لجان الأخلاقيات والباحثين الذين يعملون على هذا العمل لا يلتزمون بالمعايير الأخلاقية الواجبة عند استخدام البيانات البشرية.

كما نظر الباحثون في الجهات التي تنشر أوراقًا بحثية تُنتج براءات اختراع متعلقة بالمراقبة. وقد نشرت شركة مايكروسوفت، ومقرها ريدموند، بولاية واشنطن، أكبر عدد من الأوراق البحثية التي أنتجت براءات اختراع تُمكّن المراقبة، بواقع 296 ورقة، تليها جامعة كارنيجي ميلون في بيتسبرغ، بولاية بنسلفانيا، بواقع 184 ورقة (انظر الرسم البياني بعنوان “أوراق بحثية تُنتج براءات اختراع”).
وتقول المؤلفة المشاركة البروفيسور أبيبا بيرهان، وهي عالمة معرفية تُجري أبحاثًا حول الذكاء الاصطناعي الأخلاقي في كلية ترينيتي في دبلن، إن المنظمات التي تُمكّن المراقبة أو تُجريها تميل إلى أن تكون “دولًا أو شركات أو مؤسسات تتمتع بامتيازات هائلة ونفوذ هائل”. وتضيف أن “الرأي العام محدود جدًا في تحديد أنواع تقنيات المراقبة المُستخدمة”.
وتقول البروفيسور واتشر إن العلماء بحاجة إلى مزيد من التثقيف الأخلاقي. وتضيف أن القدرة على استخراج البيانات من الصور، مثل السكين، ليست جيدة أو سيئة بطبيعتها، ولكن يُمكن استخدامها بطرق مُختلفة. وتابعت: “يمكن استخدام السكين لقطع الخبز، أو يُمكن طعن شخص ما به. ومن واجب صانعي السياسات التأكد من أننا نُطعم الناس لا أن نطعنهم”.
*تمت الترجمة بتصرف
المراجع:
1. Kalluri, P. R. et al. Nature https://doi.org/10.1038/s41586-025-08972-6 (2025).
المصدر:
https://www.nature.com/articles/d41586-025-01745-1
