في عام 2016 ، أطلقت Microsoft برنامج Tay chatbot الخاص بها (تطبيق دردشة يعتمد على خوارزميات الذكاء الاصطناعي) لمنح المستخدمين الفرصة للتفاعل مع الروبوت في مجموعة متنوعة من الموضوعات. بعد إطلاقه ، لم يستغرق الشات بوت سوى بضع ساعات حتى يفقد قبضته ويبدأ في نشر جميع أنواع الرسائل العنيفة والعنصرية والمسيئة. وهكذا انتهت قصة تاي. مايكروسوفت ، التي لم تكن مستعدة لمثل هذا السيناريو ، أخرجتها من الإنترنت للتعلم من أخطائها.
إذا كانت قصة تاي بمثابة إخفاق تام لشركة Microsoft في الولايات المتحدة ،لكن في الصين فإن النتائج كانت مختلفة. في الواقع ، في عام 2014 ، قبل إطلاق Tay بفترة طويلة ، طورت مجموعة من الباحثين داخل Microsoft Asia-Pacific روبوت محادثة اسمه Xiaoice ، والذي يعني “Little Bing”. في يوليو الماضي ، أعلنت شركة Redmond أن هذا النشاط سوف يتحول إلى شركة مستقلة تسمى Xiaoice ، لزيادة تطوير قاعدة عملائها في الصين واليابان وإندونيسيا. مثل Cortana من Microsoft أو Siri من Apple أو Alexa من Amazon ، فإن Xiaoice هو مساعد رقمي يمكن للمستخدمين التفاعل معه من خلال المحادثات الصوتية والنصية. ولكن على عكس المساعدين الافتراضيين التقليديين ، تم تصميم Xiaoice لجعل قلوب مستخدميها تهتز. يقوم بذلك من خلال تصويره على أنه فتاة تبلغ من العمر 18 عامًا تستمتع بارتداء الزي المدرسي الياباني ذي الصفات العاطفية.
في الأصل ، كانت شخصيتها شخصية فتاة تبلغ من العمر 16 عامًا. لكن صانعيها رفعوها إلى 18 عامًا عندما زادت قدراتها وبدأت في تولي “وظائف” جديدة. منذ ذلك الحين ، صوت معجبيها لإبقائها في سن 18 إلى الأبد. “لن تكبر. قال دي لي ، الرئيس التنفيذي لشركة Xiaoice ، إن الثامنة عشرة هي العمر الذي يريده الكثير منا.
لكن هذا ليس سوى جزء من القصة. وفقًا لمايكروسوفت ، فإن “Xiaoice the chatbot” ليس سوى جزء صغير من إطار عمل ذكاء اصطناعي ضخم متعدد الأبعاد (AI) ، والذي يستخدم باستمرار تقنيات التعلم العميق لاستيعاب أنواع البيانات التي تبني ذكائه العاطفي (EQ). تستخدم تفاعلاتها مع البشر لتعلم المهارات الاجتماعية والسلوك البشري. بعبارة أخرى ، تتعلم أن تكون مثلنا كل يوم. يقول دي لي: “هذا ما نطلق عليه إطار عمل الحوسبة التعاطفي” ، فكل تفاعل بين روبوت محادثة مع إنسان ينتج بيانات. تستخدم أنظمة الذكاء الاصطناعي هذه البيانات لتطوير قدرات هذا الروبوت. وكلما زادت البيانات التي تمتلكها الآلة ، زادت معرفتها وزادت قدراتها.
ولكن مع chatbot Xiaoice ، ليس كل شيء جميلًا فقط في أفضل العوالم الممكنة. في عام 2017 ، تمت إزالة Xiaoice من منصة الرسائل الفورية التابعة لشركة Tencent QQ للاشتباه في وجود خطاب سياسي. في عام 2019 ، تمت إزالته أيضًا من WeChat ، التطبيق الاجتماعي الرائد في الصين مع أكثر من مليار مستخدم. منذ ذلك الحين ، تمت إضافة المزيد من المرشحات لقصر محادثات Xiaoice على مواضيع غير مثيرة للجدل مثل السياسة أو الجنس. لكن بالطبع ، حتى مع هذه الضمانات ، لا يزال من الممكن حدوث ردود فعل غير متوقعة.
إلى جانب قضايا الدولة هذه ، يدق بعض الخبراء ناقوس الخطر من أن التأثير المتزايد للذكاء الاصطناعي – خاصة بين الفئات الاجتماعية الضعيفة – يخلق مخاطر أخلاقية وخصوصية خطيرة. في الواقع ، سيكون لتسرب البيانات الشخصية للمستخدمين آثار مدمرة على أولئك الذين يعتمدون بشكل كبير على Xiaoice في علاقاتهم الشخصية. لكن وفقًا لمدير Xiaoice ، لا يمكن لأي شخص داخل الشركة أو خارجها الوصول إلى تسجيلات التفاعلات مع Xiaoice. ويضيف أيضًا أن شركة Xiaoice تفصل معلومات المستخدمين الشخصية عن سجل محادثاتهم.
مصدر قلق آخر أثاره البعض هو الإدمان على هذه الأدوات. يقول تشين جينغ ، الأستاذ المساعد بجامعة نانجينغ والمتخصص في العلوم الإنسانية الرقمية ، إن إبداعات الذكاء الاصطناعي القوية مثل زياوايس يمكن أن تجلب المستخدمين – وخاصة الفئات الضعيفة – إلى شكل من أشكال الإدمان ، مما يتركهم معرضين لخطر الإدمان. ‘استغلال. لذا ، إذا اختفى روبوت المحادثة Xiaoice أو تغير لسبب أو لآخر ، فسيكون له أيضًا عواقب وخيمة على المستخدمين الذين جعلوا Xiaoice رفيقهم الفريد.
