كان مايكل ويليامز Michael Williams قد سُجن في أغسطس الماضي بتهمة قتل شاب من الحي طلب منه أن يرافقه إلى منزله خلال ليلة من الاضطرابات بسبب وحشية الشرطة في شيكاغو في مايو. لكن الدليل الرئيسي ضد ويليامز لم يأتي من شاهد عيان أو مخبر ، ولكن من مقطع فيديو أمني صامت يظهر سيارة تسير عبر تقاطع وصوت قوي التقطته مجموعة من ميكروفونات المراقبة. وقال ممثلو الادعاء إن التكنولوجيا التي تدعمها خوارزمية ShotSpotter السرية التي تحلل الأصوات المكتشفة بواسطة أجهزة الاستشعار تشير إلى أن ويليامز أطلق النار وقتل الشاب. ظل ويليامز وراء القضبان لمدة عام تقريبًا قبل أن يسقط القاضي التهم الموجهة إليه الشهر الماضي بناءً على طلب من المدعين ، الذين قالوا في النهاية إنهم ليس لديهم أدلة كافية. هذا يضع على الطاولة العواقب الملموسة لاعتماد المجتمع المتزايد على الخوارزميات لاتخاذ قرارات مهمة في العديد من مجالات الحياة العامة.

يقال أنه في مايو من العام الماضي ، كان مايكل ويليامز ذو ال 65 عامًا يقود سيارته حول شيكاغو ذات ليلة على أمل شراء السجائر. طالبه سفاريان هيرينج Safarian Herring ذو 25 عامًا بتوصيله ، فوصله ويليامز بسيارته بعد التعرف على الشاب من الحي . وقال ويليامز للشرطة بعد فترة وجيزة ، “توقفت سيارة أخرى بجانبه ، وسحب شخص في مقعد الراكب مسدسًا وأطلق النار على هيرينج في رأسه”. توفي هيرينج ، الذي نقله ويليامز إلى المستشفى ، متأثراً بجراحه وانتهى الأمر باتهام ويليامز بقتله. يأتي أحد الأدلة الرئيسية ضده من شركة ShotSpotter ، وهي شركة تشغل ميكروفونات منتشرة في العديد من المدن الأمريكية ، بما في ذلك شيكاغو ، والتي ، باستخدام خوارزميات التعلم الآلي ، تكتشف وتتعرف على ضوضاء الطلقات النارية لتنبيه الشرطة على الفور.

قال ممثلو الادعاء إن ShotSpotter التقط صوت طلقة نارية حيث شوهد ويليامز في لقطات كاميرا مراقبة في سيارته. تم تقديم كل هذا كدليل على أن ويليامز أطلق النار على Herring في هذه اللحظة بالذات. ولم تذكر الشرطة دافعًا ولم يكن لديها شاهد عيان ولم تتمكن من العثور على السلاح المستخدم في الهجوم. كان لدى ويليامز ماض إجراميا ، حيث قضى بعض الوقت بتهمة الشروع في القتل والسرقة وإطلاق سلاح ناري عندما كان أصغر سنًا ، وقال إن حياته تغيرت بشكل كبير منذ ذلك الحين. تم استجوابه من قبل المحققين واعتقاله.

قال محاميا الدفاع عن ويليامز ، ليزا بوغتون وبريندان ماكس Lisa Boughton و Brendan Max، إن السجلات أظهرت أن ShotSpotter التقط في البداية ما يشبه الألعاب النارية على بعد ميل واحد ، ثم أعاد فريق ShotSpotter تصنيفها على أنها لقطة عند التقاطع حيث ومتى شوهد ويليامز أمام الكاميرا. أصر ShotSpotter بشدة على أنه لم يغير البيانات بشكل غير لائق لتعزيز قضية الشرطة وقال إنه بغض النظر عن الإنذار الأولي في الوقت الحقيقي ، فإن دليله على إطلاق النار كان نتيجة لتحليل علمي للمتابعة ، والذي تم تقديمه إلى المحاكم.

بعد أن طلب محامو ويليامز من القاضي إجراء تحقيق ، سحبت النيابة الشهر الماضي تقرير ShotSpotter وطلبت الفصل لعدم كفاية الأدلة ، وهو ما قبله القاضي. وليامز رجل حر مرة أخرى.

هل أصبحت موثوقية ShotSpotter موضع تساؤل ؟

ShotSpotter هي أداة تعمل بالذكاء الاصطناعي تدعي أنها قادرة على اكتشاف صوت الطلقات النارية. قد يكلف تركيبه ما يصل إلى 95000 دولار لكل كيلومتر مربع – في السنة – وفقًا لوكالة أسوشيتيد برس Associated Press . هناك مشكلة واحدة فقط. لم يتم تقييم الخوارزمية التي تحلل الأصوات للتمييز بين الطلقات النارية والضوضاء الأخرى من قبل الأكاديميين أو الخبراء الخارجيين. قالت تانيا بريف ، محامٍية في The Innocence Project ، وهي منظمة غير ربحية تسعى إلى نقض الإدانات الخاطئة.
: “إذا تم استخدام ShotSpotter كدليل مباشر ، فالمشكلة هي أنه ببساطة لا توجد دراسة متاحة لإثبات صحة أو موثوقية هذه التكنولوجيا”.

وجدت دراسة أجريت عام 2011 بتكليف من The Innocence Project أن حاويات القمامة ، والشاحنات ، والدراجات النارية ، والمروحيات ، والألعاب النارية ، والبناء ، وجمع القمامة ، وأجراس الكنائس ، كلها أطلقت تنبيهات إيجابية كاذبة ، معتبرة أن هذه الأصوات طلقات نارية. قال الرئيس التنفيذي لشركة ShotSpotter ، رالف كلارك Ralph Clark، إن الشركة تعمل باستمرار على تحسين تصنيفاتها الصوتية ، لكن النظام لا يزال يشهد نسبة منخفضة من الإيجابيات الخاطئة. في الماضي ، دفعت هذه التنبيهات الخاطئة (ونقص التنبيهات) المدن من شارلوت بولاية نورث كارولينا إلى سان أنطونيو ، تكساس إلى إنهاء عقودها مع ShotSpotter. واحتمال وقوع المتاعب ليس مجرد تخمين. انظر فقط إلى حالة مايكل ويليامز.

تسلط تجربة ويليامز الضوء على العواقب الملموسة لاعتماد المجتمع المتزايد على الخوارزميات لاتخاذ قرارات مهمة في العديد من مجالات الحياة العامة. لا يوجد مكان تتجلى فيه هذه الظاهرة أكثر من تطبيق القانون ، الذي تحول إلى شركات التكنولوجيا مثل شركة ShotSpotter للكشف عن الطلقات لمحاربة الجريمة. يتم قبول الأدلة التي قدمتها ShotSpotter بشكل متزايد في قضايا المحاكم ، والتي يبلغ عددها اليوم حوالي 200 في الولايات المتحدة. يقول موقع ShotSpotter على الإنترنت إنه “رائد في حلول تكنولوجيا المراقبة الدقيقة” التي تساعد على إنهاء عنف السلاح باستخدام “أجهزة الاستشعار والخوارزميات والذكاء الاصطناعي” لتصنيف 14 مليون صوت في قاعدة البيانات الخاصة بها على أنها طلقات نارية أو أي شيء آخر.

لكن تحقيق أسوشيتد برس ، استنادًا إلى مراجعة الآلاف من المستندات الداخلية ورسائل البريد الإلكتروني والعروض التقديمية والعقود السرية ، بالإضافة إلى المقابلات مع العشرات من المدافعين العامين في المجتمعات التي تم فيها نشر ShotSpotter ، حدد عددًا من العيوب الخطيرة في استخدام ShotSpotter كدليل للمدعين العامين. وجد التحقيق أن النظام يمكن أن يخطئ طلقات نارية مباشرة تحت ميكروفوناته ، أو يصنف بشكل غير صحيح أصوات الألعاب النارية أو السيارات الدوارة على أنها طلقات نارية.

تم استخدام التقارير العلمية التي أعدها موظفو ShotSpotter في المحكمة للادعاء كذبًا أن أحد المتهمين أطلق النار على الشرطة ، أو لتقديم عدد مشكوك فيه لعدد الطلقات التي يُزعم أن المتهم أطلقها. في عدد من القضايا ، رفض القضاة هذه الأدلة . لا تسترشد أساليب الشركة في تحديد اللقطات دائمًا بالتكنولوجيا فقط. يمكن لموظفي ShotSpotter ، وغالبًا ما يفعلون ، تغيير مصدر الأصوات التي تلتقطها مستشعراتها بعد الاستماع إلى التسجيلات الصوتية ، والتي تقدم إمكانية التحيز البشري في خوارزمية الكشف عن اللقطة. يمكن للموظفين تغيير الموقع أو عدد الطلقات بناءً على طلب الشرطة ، وفقًا لسجلات المحكمة. وفي الماضي ، كان بإمكان المرسلين في المدينة أو الشرطة بأنفسهم إجراء بعض هذه التغييرات أيضًا.

تفاصيل أخرى مفاجئة من تقرير Associated Press. أولاً ، نظرت دراسة نُشرت في أبريل في مجلة الصحة الحضرية إلى ShotSpotter في 68 مقاطعة حضرية كبرى من 1999 إلى 2016 ، وهي أكبر دراسة حتى الآن. وجدت أن التكنولوجيا لم تقلل من عنف السلاح أو تزيد من سلامة المجتمع. بعد ذلك ، خضعت أدوات الطب الشرعي مثل الحمض النووي والأدلة الباليستية التي يستخدمها المدعون للتدقيق في منهجياتهم لعقود ، لكن ShotSpotter تقول إن برمجياتها مملوكة ولن تصدر خوارزميتها. وأخيرًا ، في عام 2018 ، استحوذت على شركة شرطة تنبؤية تدعى HunchLab ، والتي تدمج نماذجها للذكاء الاصطناعي مع بيانات الكشف عن اللقطة من ShotSpotter للتنبؤ بالجرائم المزعومة قبل حدوثها.