Q:
لماذا قد تغلق شركة مشروع chatbot AI؟
أ:قد تغلق الشركات مشاريع chatbot للذكاء الاصطناعي لأسباب عديدة ، لكن الأكثر احتمالًا يمكن تصنيفها في فئتين. أولاً ، قد تغلق الشركات تقنيات chatbot إذا كانت تعمل بطرق قد تجعل الشركة غير مريحة ، مثل الترويج للكلام غير المرغوب فيه. بالتناوب ، قد تغلق الشركات مشروع chatbot إذا بدأ في إظهار المشاعر والقدرة التي إما لا يمكن التحكم فيها بسهولة ، أو قد تشكل نوعًا من التهديد النهائي للصحة والسلامة العامة.
لدينا كل من هذه السيناريوهات موثقة في التاريخ الحديث. انتهت تجربة Microsoft مع tay chatbot عندما بدأ Tay في مواجهة بعض من أسوأ خصائص نظرائه من البشر - تعليقات عنصرية وعدوانية ، ونشاط غير مرغوب فيه عمومًا ، تم تعلم الكثير منه بوضوح أو حتى ببغاء من المستخدمين.
في دراسة حالة مختلفة تمامًا ، تم إيقاف تشغيل إعداد chatbot الرائد في Facebook عندما لاحظ العلماء وجود روبوتين متصلين ببعضهما البعض بطريقة كانت حصرية إلى حد ما على الملاحظة البشرية. كان هناك ادعاء بأن كيانات chatbot قد بدأت في "التحدث بنوع من الكود" الذي كان أكثر ملاءمة لهم وأقل شفافية لمتعاملهم من البشر. هذا مثال على هذا القلق الحقيقي للغاية حول الذكاء الاصطناعي بشكل عام - حيث أننا نخطو خطوات كبيرة في تقدم الذكاء الاصطناعي القوي ، يجب أن يتحرك البشر لاحتواء والسيطرة على أي أمثلة لتنفيذ الذكاء الاصطناعي للتأكد من عدم عبورهم الحدود. هناك عدد كبير من المخاوف الأخلاقية وقضايا السلامة التي يجب معالجتها بذكاء اصطناعي قوي ، وهذا هو أحد الأسباب الرئيسية التي قد تؤدي في المستقبل إلى إغلاق بعض مواقع الدردشة أو مشاريع الذكاء الاصطناعي من قبل أصحاب المصلحة الذين قاموا ببناء ودعمهم من خلال عملية معينة.
