[ad_1]
اعتذرت شركة جوجل يوم الجمعة عن طرحها الخاطئ لبرنامج جديد لتوليد الصور باستخدام الذكاء الاصطناعي، معترفة بأن الأداة في بعض الحالات سوف “تعوض بشكل مبالغ فيه” في البحث عن مجموعة متنوعة من الأشخاص حتى عندما لا يكون هذا النطاق منطقيًا.
جاء التفسير الجزئي لسبب وضع صورها لأشخاص ملونين في إعدادات تاريخية حيث لا يمكن العثور عليهم عادةً، بعد يوم من إعلان Google أنها أوقفت مؤقتًا برنامج Gemini chatbot الخاص بها من إنشاء أي صور بها أشخاص. كان ذلك ردًا على احتجاج وسائل التواصل الاجتماعي من بعض المستخدمين الذين زعموا أن الأداة بها تحيز ضد البيض في الطريقة التي تنتج بها مجموعة من الصور المتنوعة عرقيًا استجابةً للمطالبات المكتوبة.
وقال برابهاكار راغافان، نائب الرئيس الأول الذي يدير محرك بحث جوجل وغيره من الشركات، في تدوينة يوم الجمعة: “من الواضح أن هذه الميزة أخطأت الهدف”. “بعض الصور التي تم إنشاؤها غير دقيقة أو حتى مسيئة. نحن ممتنون لتعليقات المستخدمين ونأسف لأن الميزة لم تعمل بشكل جيد.
ولم يذكر راغافان أمثلة محددة ولكن من بين تلك التي لفتت الانتباه على وسائل التواصل الاجتماعي هذا الأسبوع كانت الصور التي تصور امرأة سوداء كأب مؤسس للولايات المتحدة وتظهر السود والآسيويين كجنود ألمان في الحقبة النازية. ولم تتمكن وكالة أسوشيتد برس من التحقق بشكل مستقل من المطالبات المستخدمة لإنشاء تلك الصور.
أضافت جوجل ميزة إنشاء الصور الجديدة إلى برنامج Gemini chatbot الخاص بها، المعروف سابقًا باسم Bard، منذ حوالي ثلاثة أسابيع. لقد تم بناؤه على أساس تجربة بحثية سابقة أجرتها Google تسمى Imagen 2.
لقد عرفت جوجل منذ فترة أن مثل هذه الأدوات يمكن أن تكون غير عملية. وفي ورقة فنية صدرت عام 2022، حذر الباحثون الذين طوروا Imagen من أن أدوات الذكاء الاصطناعي التوليدية يمكن استخدامها للتحرش أو نشر معلومات مضللة “وإثارة العديد من المخاوف بشأن الإقصاء الاجتماعي والثقافي والتحيز”. وأضاف الباحثون في ذلك الوقت أن هذه الاعتبارات هي التي أبلغت قرار جوجل بعدم إصدار “عرض توضيحي عام” لـ Imagen أو الكود الأساسي الخاص به.
منذ ذلك الحين، تزايد الضغط من أجل إطلاق منتجات الذكاء الاصطناعي التوليدية علنًا بسبب السباق التنافسي بين شركات التكنولوجيا التي تحاول الاستفادة من الاهتمام بالتكنولوجيا الناشئة، والذي أثاره ظهور برنامج الدردشة الآلي ChatGPT التابع لشركة OpenAI.
مشاكل الجوزاء ليست الأولى التي أثرت مؤخرًا على منشئ الصور. اضطرت شركة مايكروسوفت إلى تعديل أداة المصمم الخاصة بها منذ عدة أسابيع بعد أن كان البعض يستخدمها لإنشاء صور إباحية عميقة لتايلور سويفت ومشاهير آخرين. أظهرت الدراسات أيضًا أن مولدي الصور بالذكاء الاصطناعي يمكنهم تضخيم الصور النمطية العنصرية والجنسانية الموجودة في بيانات التدريب الخاصة بهم، وبدون مرشحات، من المرجح أن يظهروا رجالًا ذوي بشرة فاتحة عندما يُطلب منهم إنشاء شخص في سياقات مختلفة.
“عندما أنشأنا هذه الميزة في Gemini، قمنا بضبطها للتأكد من أنها لا تقع في بعض الفخاخ التي رأيناها في الماضي مع تكنولوجيا توليد الصور – مثل إنشاء صور عنيفة أو جنسية صريحة، أو تصوير أشخاص حقيقيين. قال راغافان يوم الجمعة. “ولأن مستخدمينا يأتون من جميع أنحاء العالم، فإننا نريد أن يعمل بشكل جيد للجميع.”
وقال إن العديد من الأشخاص قد “يرغبون في استقبال مجموعة متنوعة من الأشخاص” عندما يطلبون صورة للاعبي كرة قدم أو لشخص يمشي كلبًا. لكن المستخدمين الذين يبحثون عن شخص من عرق أو إثنية معينة أو في سياقات ثقافية معينة “يجب أن يحصلوا بالتأكيد على رد يعكس بدقة ما تطلبه”.
وفي حين أنها أفرطت في التعويض في الاستجابة لبعض المطالبات، إلا أنها كانت في حالات أخرى “أكثر حذراً مما كنا ننوي ورفضت الإجابة على بعض المطالبات بالكامل – وفسرت بشكل خاطئ بعض المطالبات المهدئة للغاية على أنها حساسة”.
لم يشرح ما الذي يقصده، لكن جيميني ترفض بشكل روتيني طلبات لمواضيع معينة مثل الحركات الاحتجاجية، وفقًا لاختبارات الأداة التي أجرتها وكالة أسوشييتد برس يوم الجمعة، والتي رفضت فيها إنشاء صور حول الربيع العربي، واحتجاجات جورج فلويد. أو ساحة تيانانمن. في إحدى الحالات، قال برنامج الدردشة الآلي إنه لا يريد المساهمة في نشر المعلومات الخاطئة أو “التقليل من شأن المواضيع الحساسة”.
الكثير من الغضب هذا الأسبوع بشأن مخرجات جيميني نشأ على X، تويتر سابقًا، وتم تضخيمه من قبل مالك منصة التواصل الاجتماعي، إيلون ماسك، الذي انتقد جوجل لما وصفه بـ “برامجها العنصرية المجنونة والمعادية للحضارة”. وكثيرًا ما انتقد ماسك، الذي لديه شركة ناشئة خاصة به في مجال الذكاء الاصطناعي، مطوري الذكاء الاصطناعي المنافسين وكذلك هوليوود بسبب التحيز الليبرالي المزعوم.
وقال راجافان إن جوجل ستجري “اختبارات موسعة” قبل تشغيل قدرة برنامج الدردشة الآلية على إظهار الأشخاص مرة أخرى.
قال الباحث في جامعة واشنطن، سوروجيت غوش، الذي درس التحيز في مولدات الصور التي تعتمد على الذكاء الاصطناعي، يوم الجمعة إنه يشعر بخيبة أمل لأن رسالة راغافان انتهت بإخلاء المسؤولية بأن المدير التنفيذي لشركة جوجل “لا يستطيع أن يعد بأن جيميني لن يقوم في بعض الأحيان بتوليد صور محرجة أو غير دقيقة أو مسيئة”. نتائج.”
وقال غوش: بالنسبة لشركة أتقنت خوارزميات البحث ولديها “واحدة من أكبر كنوز البيانات في العالم، فإن توليد نتائج دقيقة أو نتائج غير مسيئة يجب أن يكون مستوى منخفضًا إلى حد ما يمكننا محاسبتهم عليه”.
[ad_2]
المصدر