أكثر من شركة واحدة من كل ثلاث شركات تم حرقها بسبب انحياز الذكاء الاصطناعي
يمكن أن يؤدي التحيز في أنظمة الذكاء الاصطناعي إلى خسائر كبيرة للشركات، وفقًا لمسح جديد أجرته شركة AI للمؤسسات.
كشفت أكثر من واحدة من كل ثلاث شركات (36 بالمائة) أنها تكبدت خسائر بسبب انحياز الذكاء الاصطناعي في خوارزميات واحدة أو عدة خوارزميات، كما أشار استطلاع DataRobot لأكثر من 350 تقنيًا في الولايات المتحدة والمملكة المتحدة، بما في ذلك مدراء تقنية المعلومات، ومديرو تكنولوجيا المعلومات، ومديرو تكنولوجيا المعلومات، وعلماء البيانات، ويقودون التطوير الذين يستخدمون الذكاء الاصطناعي أو يخططون لاستخدامه.
من بين الشركات التي تضررت من التحيز للذكاء الاصطناعي، خسر أكثر من نصفها الإيرادات (62 بالمائة) أو العملاء (61 بالمائة) ، بينما خسر ما يقرب من نصف الموظفين (43 بالمائة)، وتكبد أكثر من ثلثها رسومًا قانونية من التقاضي (35 بالمائة) ، وفقًا لـ البحث الذي أجري بالتعاون مع المنتدى الاقتصادي العالمي وقادة أكاديميين عالميين.
قالت كاي فيرث باترفيلد ، رئيسة الذكاء الاصطناعي والتعلم الآلي وعضو اللجنة التنفيذية للمنتدى الاقتصادي العالمي، وهي منظمة دولية غير حكومية وجماعات ضغط مقرها في كولوني بسويسرا، إن الذكاء الاصطناعي المتحيز يمكن أن يؤثر على الإيرادات بعدة طرق.
قالت لـ TechNewsWorld: “إذا اخترت الشخص الخطأ من خلال خوارزمية موارد بشرية متحيزة، فقد يؤثر ذلك على الإيرادات”.
وأضافت: “إذا كنت تقرض المال ولديك خوارزمية متحيزة، فلن تكون قادرًا على تنمية عملك لأنك ستقرض دائمًا مجموعة فرعية صغيرة من الأشخاص الذين كنت تقرضهم دائمًا الأموال”.
غير مقصود ولكنه لا يزال ضارًا
كشف المشاركون في الاستطلاع أيضًا أن الخوارزميات التي تستخدمها مؤسساتهم ساهمت عن غير قصد في التحيز ضد الأشخاص حسب الجنس (34 بالمائة) والعمر (32 بالمائة) والعرق (29 بالمائة) والتوجه الجنسي (19 بالمائة) والدين (18 بالمائة).
حذرت شركة Forrester في تقرير حديث عن عدالة الذكاء الاصطناعي، من أن “التمييز القائم على الذكاء الاصطناعي – حتى لو كان غير مقصود – يمكن أن يكون له تأثيرات تنظيمية وخيمة على السمعة والإيرادات”.
وتابعت قائلة: “في حين تتبنى معظم المنظمات الإنصاف في الذكاء الاصطناعي كمبدأ، فإن وضع العمليات لممارستها باستمرار يمثل تحديًا”. “هناك معايير متعددة لتقييم عدالة أنظمة الذكاء الاصطناعي، ويعتمد تحديد النهج الصحيح على حالة الاستخدام وسياقها المجتمعي.”
أوضح ماثيو فيني، مدير مشروع التقنيات الناشئة في معهد كاتو ، وهو مركز أبحاث بواشنطن العاصمة، أن التحيز في الذكاء الاصطناعي أمر معقد، لكن التحيز الذي ينسبه الكثير من الناس إلى أنظمة الذكاء الاصطناعي هو نتاج البيانات المستخدمة في التدريب. النظام.
قال لـ TechNewsWorld: “أحد أبرز استخدامات الذكاء الاصطناعي في الأخبار هذه الأيام هو التعرف على الوجه”. “كان هناك توثيق واسع النطاق للتحيز العنصري في التعرف على الوجه.
وأوضح أن “الأنظمة تكون أقل موثوقية عند السعي للتعرف على الأشخاص ذوي البشرة السمراء”. “يحدث ذلك عندما يتم تدريب النظام بالصور التي لا تمثل عددًا كافيًا من الأشخاص من مجموعة عرقية معينة أو عندما تكون صور تلك المجموعة ليست ذات جودة جيدة.”
وقال “إنه ليس بالضرورة بسبب أي نية شائنة من جانب المهندسين والمصممين ولكنه نتاج البيانات المستخدمة لتدريب النظام”.
وأضاف فيرث باترفيلد: “الأشخاص الذين ينشئون الخوارزميات يجلبون تحيزاتهم الخاصة لإنشاء تلك الخوارزميات”. “إذا تم إنشاء خوارزمية بواسطة رجل أبيض يبلغ من العمر 30 عامًا، فمن المحتمل أن تكون التحيزات التي يجلبها مختلفة عن امرأة تبلغ من العمر 30 عامًا وهي أمريكية من أصل أفريقي.”
التحيز مقابل التمييز
أكد دانيال كاسترو، نائب رئيس مؤسسة تكنولوجيا المعلومات والابتكار، وهي منظمة بحثية وسياسة عامة في واشنطن العاصمة، أن الناس يلعبون بسرعة وبسرعة مع مصطلح التحيز للذكاء الاصطناعي.
قال لـ TechNewsWorld: “أود أن أعرّف انحياز الذكاء الاصطناعي على أنه خطأ ثابت في دقة الخوارزمية، أي الفرق بين التقدير وقيمته الحقيقية”.
قال: “لدى معظم الشركات حوافز سوقية قوية للقضاء على التحيز في أنظمة الذكاء الاصطناعي لأنهم يريدون أن تكون خوارزمياتهم دقيقة”.
وتابع: “على سبيل المثال، إذا كانت الخوارزمية توصي بشكل غير صحيح بالمنتج الأمثل للمتسوق، فإن الشركة تترك المال على الطاولة لأحد المنافسين”.
وأضاف: “هناك أيضًا أسباب تتعلق بالسمعة تدفع الشركات إلى القضاء على التحيز في الذكاء الاصطناعي، حيث قد يُنظر إلى منتجاتها أو خدماتها على أنها دون المستوى”.
وأوضح أنه في بعض الأحيان تكون قوى السوق للقضاء على التحيز غير فعالة.
وأوضح: “على سبيل المثال، إذا استخدمت وكالة حكومية خوارزمية لتقدير قيمة الممتلكات لأغراض ضريبية، فقد لا تكون هناك آلية سوق جيدة لتصحيح التحيز”. “في هذه الحالات، يجب على الحكومة توفير إشراف بديل، على سبيل المثال من خلال تدابير الشفافية”.
وأضاف: “لكن في بعض الأحيان يشير الناس إلى التحيز في الذكاء الاصطناعي عندما يقصدون حقًا التمييز”. “إذا قام المالك بالتمييز ضد مستأجرين معينين، فيجب علينا تطبيق قوانين مكافحة التمييز الحالية، سواء كان المالك يستخدم خوارزمية أو إنسانًا للتمييز ضد الآخرين.”
اللائحة في الأجنحة
استجوب استطلاع DataRobot أيضًا المشاركين حول تنظيم الذكاء الاصطناعي. قال ثمانية من كل 10 من التقنيين (81 بالمائة) إن التنظيم الحكومي يمكن أن يكون مفيدًا في مجالين: تحديد ومنع التحيز.
ومع ذلك، أقر ما يقرب من نصف الذين شملهم الاستطلاع (45 في المائة) بأنهم قلقون من أن التنظيم قد يزيد من تكلفة ممارسة الأعمال التجارية.
بالإضافة إلى ذلك، أعرب ما يقرب من ثلث المستجيبين (32 في المائة) عن قلقهم من أنه بدون تنظيم، يمكن إصابة مجموعات معينة من الناس.
قال فيني: “إنك ترى الكثير من الدعوات لهذا النوع من الأشياء، لكن الذكاء الاصطناعي واسع جدًا عندما يتعلق الأمر بالتنظيم”. “أنت تتحدث عن التعرف على الوجه، والسيارات ذاتية القيادة، والتطبيقات العسكرية وغيرها الكثير.”
توقعت شركة Deloitte للخدمات المهنية العالمية أنه سيكون هناك قدر كبير من النقاش حول تنظيم الذكاء الاصطناعي في عام 2022، على الرغم من أنها لا تعتقد أن التطبيق الكامل للوائح لن يتم حتى عام 2023.
وأشارت إلى أن بعض الولايات القضائية قد تحاول حتى حظر حقول فرعية كاملة من الذكاء الاصطناعي – مثل التعرف على الوجه في الأماكن العامة، والتسجيل الاجتماعي، والتقنيات اللاشعورية – تمامًا.
قال بول سيلفرغليت ، رئيس قطاع التكنولوجيا في الولايات المتحدة في شركة Deloitte: “يتمتع الذكاء الاصطناعي بوعد هائل، لكن من المحتمل أن نشهد مزيدًا من التدقيق في عام 2022 حيث يتطلع المنظمون إلى فهم أفضل للآثار المترتبة على الخصوصية وأمن البيانات لتطبيقات الذكاء الاصطناعي الناشئة وتنفيذ استراتيجيات لحماية المستهلكين”. بيان صحفي.
وحذر من أن “شركات التكنولوجيا تجد نفسها عند نقطة التقاء حيث لم يعد بإمكانها ترك قضايا أخلاقية كهذه لمصيرها”. “المطلوب هو نهج شامل لمعالجة المسؤولية الأخلاقية. يمكن للشركات التي تتبع هذا النهج، لا سيما في المجالات الأحدث مثل الذكاء الاصطناعي، أن تتوقع قبولًا أكبر ومزيدًا من الثقة وزيادة الإيرادات “.
المصدر: technewsworld
شاهد ايضا:
