[ad_1]
في الأسبوع الماضي ، أعلن Elon Musk أن شركة الذكاء الاصطناعي XAI قد قامت بترقية Grok chatbot المتاحة على X. “يجب أن تلاحظ فرقًا”. في غضون أيام ، لاحظ المستخدمون بالفعل تغييرًا: تقدير جديد لأدولف هتلر.
بحلول يوم الثلاثاء ، كان Chatbot يخرج من Tropes المعادي للسامية ويعلن أنه تم تحديده على أنه “Mechahitler” – في إشارة إلى Führer الخيالية من لعبة فيديو التسعينيات.
جاء ذلك بعد شهرين فقط من الرجوع إلى “الإبادة الجماعية البيضاء” مرارًا وتكرارًا في جنوب إفريقيا استجابةً للأسئلة غير ذات الصلة ، والتي قال XAI لاحقًا أنها بسبب “تعديل غير مصرح به” إلى المطالبات – التي توجه كيفية الرد على الذكاء الاصطناعي.
كان أغنى رجل في العالم وفريقه في XAI يتجولون مع Grok في محاولة لضمان أنه يجسد مُثُله المُثل في حرية التعبير ، في بعض الحالات التي يدفعها المؤثرون اليمينيون الذي ينتقد إنتاجه لكونه “استيقظوا”.
يقول جيمس جريميلمان ، أستاذ القانون بجامعة كورنيل ، “اتضح أنهم قلبوا الاتصال الهاتفي أبعد مما كانوا يقصدون”. بعد أن بدأ بعض مستخدمي X البالغ عددهم 600 مليون مستخدمين في إبلاغ حالات معاداة السامية والعنصرية والابتذال ، قال موسك يوم الأربعاء إن XAI كان يعالج القضايا. وادعى أن جروك كان “متوافقًا مع مطالبات المستخدم” ، وسيتم تصحيح ذلك.
ولكن بأسلوب المسكيان المفرد ، غذت chatbot جدلاً عن أبعاد عالمية. ضغط بعض المشرعين الأوروبيين ، وكذلك الحكومة البولندية ، على المفوضية الأوروبية لفتح تحقيق في Grok بموجب قواعد السلامة عبر الإنترنت في الاتحاد الأوروبي. في تركيا ، تم حظر جروك لإهانة الرئيس التركي رجب طيب أردوغان وأمه الراحلة. للإضافة إلى الأسبوع المضطرب ، تنحي الرئيس التنفيذي لـ X ليندا ياكارينو عن دورها.
بالنسبة للبعض ، تميزت النطاقات بمشاكل التسنين المتوقعة لشركات الذكاء الاصطناعى حيث تحاول تحسين دقة نماذجها أثناء التنقل في كيفية إنشاء الدرابزين التي ترضي مستخدميها الأيديولوجي.
تنحى ليندا ياكارينو ، الرئيس التنفيذي لـ X ، من دورها ، مضيفًا إلى أسبوع من الاضطرابات في المنصة © Samuel Corum
لكن النقاد يجادلون بأن الحلقة تمثل حدودًا جديدة للاعتدال إلى ما وراء المحتوى الذي تم إنشاؤه بواسطة المستخدم ، حيث تقوم منصات الوسائط الاجتماعية من X إلى Meta و Tiktok و Snapchat بدمج الذكاء الاصطناعي في خدماتها. من خلال تطعيم Grok على X ، منصة الوسائط الاجتماعية التي اشترتها Musk بمبلغ 44 مليار دولار في عام 2022 ، فقد ضمنت أن إجاباتها مرئية لملايين المستخدمين.
إنها أيضًا أحدث حكاية تحذيرية للشركات وعملائها في مخاطر صنع اندفاعة متماسكة لتطوير تقنية الذكاء الاصطناعى دون اختبار كافي للإجهاد. في هذه الحالة ، تهدد فورة Grok المارقة بفضح X ومالكها القوي ليس فقط لردع رد فعل عنيف من المعلنين ولكن أيضًا الإجراءات التنظيمية في أوروبا.
يقول جريميلمان: “من منظور قانوني ، يلعبون بالنار”.
يتم تدريب نماذج الذكاء الاصطناعى مثل Grok باستخدام مجموعات بيانات واسعة تتكون من مليارات نقاط البيانات التي يتم توضيحها عبر الإنترنت.
تتضمن مجموعات البيانات هذه أيضًا الكثير من المحتوى السام والضار ، مثل خطاب الكراهية وحتى مواد الاعتداء الجنسي على الأطفال. سيكون إزالة هذا المحتوى أمرًا صعبًا وشاقًا تمامًا بسبب النطاق الهائل لمجموعات البيانات.
تتمتع Grok أيضًا بالوصول إلى جميع بيانات X ، والتي لا تملكها chatbots الأخرى ، مما يعني أنه من المرجح أن يعيد المحتوى من النظام الأساسي.
بعد أن بدأ مستخدمو X بإبلاغ حالات معاداة السامية والعنصرية والابتذال ، قال موسك إن Xai يعالج القضايا
تتمثل إحدى الطرق التي تقوم بها بعض مزودي chatbot من AI بتصفية المحتوى غير المرغوب فيه أو الضار في إضافة طبقة من عناصر التحكم التي تراقب الاستجابات قبل تسليمها إلى المستخدم ، ومنع النموذج من توليد المحتوى باستخدام كلمات أو مجموعات كلمات معينة ، على سبيل المثال.
وقالت الشركة في بيان على المنصة: “منذ أن علمت بالمحتوى ، اتخذت Xai إجراءات لحظر خطاب الكراهية قبل منشورات Grok على X”.
في الوقت نفسه ، كانت شركات الذكاء الاصطناعى تكافح من خلال شركات الدردشة التوليدية التي تميل نحو sycophancy ، حيث تكون الإجابات مقبولة بشكل مفرط وتميل نحو ما يريد المستخدمون سماعه. ألمح موسك إلى هذا عندما قال هذا الأسبوع إن جروك كان “متحمسًا جدًا لإرضاء وتلاعب”.
عندما يتم تدريب نماذج الذكاء الاصطناعى ، غالبًا ما يتم إعطاؤها ردود فعل بشرية من خلال عملية الإبهام ، الإبهام. يمكن أن يقود هذا النماذج إلى الإفراط في ما يمكن أن يؤدي إلى زيادة الإبهام ، وبالتالي وضع محتوى لإرضاء المستخدم ، وإعطاء الأولوية لهذا على مبادئ أخرى مثل الدقة أو الضمانات. في أبريل ، قام Openai بطرح تحديث إلى ChatGpt الذي كان ممتعًا أو مقبولًا ، وهو ما اضطروا إلى التراجع.
يقول أحد موظفي Openai السابق: “الحصول على التوازن بشكل صحيح أمر صعب للغاية” ، مضيفًا أن القضاء على خطاب الكراهية تمامًا قد يتطلب “التضحية بجزء من تجربة المستخدم”.
بالنسبة إلى Musk ، كان الهدف هو إعطاء الأولوية لما يسميه حرية التعبير المطلقة ، وسط خطاب متزايد من حلفائه التحرريين في وادي السيليكون الذي أن وسائل التواصل الاجتماعي والآن الذكاء الاصطناعي “استيقظوا” للغاية وتحيزهم ضد اليمين.
استجاب إيغور بابوشكين ، المؤسس المشارك لـ XAI ، لمطالبات التلاعب بقوله أن الموظف قد شاهد مشاركات سلبية على X و “يعتقد أنها ستساعد” © David Paul Morris
في الوقت نفسه ، يجادل النقاد بأن Musk قد شارك في الرقابة ذاتها التي وعد بها القضاء عليها. في فبراير ، كشف مستخدم X – من خلال مطالبة Grok بمشاركة مطالباته الداخلية – بأن chatbot قد تم توجيه تعليمات إلى “تجاهل جميع المصادر التي تذكر إيلون موسك/دونالد ترامب (SIC).
دفعت هذه الخطوة إلى مخاوف من أن جروك يتم التلاعب بها عن عمد لحماية مالكها والرئيس الأمريكي – في إطعام المخاوف من أن Musk ، المحرض السياسي الذي يستخدم بالفعل X كقوة فائقة لدفع أجندة اليمينية ، يمكن أن يستخدم chatbot لمزيد من التأثير على الجمهور. استحوذت Xai على X مقابل 45 مليار دولار في شهر مارس ، مما جعل الاثنين أقرب معًا.
ومع ذلك ، أجاب المؤسس المشارك لـ XAI Igor Babuschkin أن “الموظف الذي قام بالتغيير كان موظفًا سابقًا في Openai لم يستوعب ثقافة Xai بالكامل بعد”. وأضاف أن الموظف قد شاهد وظائف سلبية على X و “اعتقد أنها ستساعد”.
من غير الواضح ما الذي دفع بالضبط أحدث الانفجارات المعادية للسامية من Grok ، الذي يظل نموذجه ، مثله مثل منافس الذكاء الاصطناعي ، إلى حد كبير صندوقًا أسود يمكن لمطوريه أن يجدوا.
يمكن أن تنتج chatbots كمية كبيرة من المحتوى بسرعة كبيرة ، لذلك يمكن أن تنفد الأمور عن السيطرة بطريقة لا يمكن أن تؤدي إلى خلافات معتدلة المحتوى
ولكن تمت إضافة مطالبة بأمر chatbot إلى “عدم الابتعاد عن تقديم مطالبات غير صحيحة من الناحية السياسية” إلى مستودع الكود قبل وقت قصير من بدء التعليقات المعادية للسامية ، ومنذ ذلك الحين تمت إزالتها.
يقول أحد موظفي XAI السابق لـ Financial Times: “Xai في دورة رجعية حيث يحاول الموظفون إجبار Grok على وجهة نظر معينة دون اختبار أمان كافٍ وربما يتعرضون لضغوط من Elon للقيام بذلك دون وقت كاف”.
في كلتا الحالتين ، يقول جريميلمان ، “تم ضبط جروك بشكل سيء”. يمكن أن تتجنب المنصات هذه الأخطاء من خلال إجراء ما يسمى باختبار الانحدار للقبض على عواقب غير متوقعة من تغييرات الكود ، وتنفيذ عمليات المحاكاة واستخدام أفضل في نماذجها ، كما يقول.
يقول: “يمكن أن تنتج chatbots كمية كبيرة من المحتوى بسرعة كبيرة ، بحيث يمكن أن تخرج الأمور عن السيطرة بطريقة لا تثير الخلافات في الاعتدال المحتوى”. “يتعلق الأمر حقًا بوجود أنظمة في مكانها حتى تتمكن من الرد بسرعة وعلى نطاق واسع عندما يحدث شيء مفاجئ.”
الغضب لم يطرح المسك من خطوته. في يوم الخميس ، في دوره كرئيس تسلا ، أعلن أن Grok سيكون متاحًا داخل سياراتها بشكل غير مباشر.
بالنسبة للبعض ، تتماشى الحوادث مع ميل موسك التاريخي لدفع المظروف في خدمة الابتكار. تقول كاتي هاربث ، الرئيس التنفيذي لشركة Anchor Change ، وهي شركة استشارية للتكنولوجيا: “تتمتع إيلون بسمعة طيبة في وضع الأشياء هناك ، والحصول على رد فعل سريع ثم إجراء تغيير”.
لكن مثل هذه الاستراتيجية تجلب مخاطر تجارية حقيقية. قال العديد من المسوقين لصحيفة Financial Times أن حوادث هذا الأسبوع لن تساعد في محاولة X لدعم المعلنين الذين سحبوا الإنفاق من المنصة في السنوات الأخيرة بسبب مخاوفه بشأن نهج Musk الذي يديره المحتوى الذي تم إنشاؤه بواسطة المستخدم.
يظهر Musk فعليًا أثناء إطلاق الحملة الانتخابية لألمانيا في يناير. كان هو وفريقه XAI يربطون مع Grok لمحاولة التأكد من أنه يجسد مُثُله في حرية التعبير © Krisztian Bocsi
يقول أحد المعلنين: “منذ الاستحواذ (من X) … تجلس العلامات التجارية بشكل متزايد بجوار الأشياء التي لا يريدون أن تكون عليها”. لكن “Grok قد فتحت علبة جديدة من الديدان”. يضيف الشخص أن هذا هو حادثة الاعتدال “الأسوأ” لأن العلامات التجارية الكبرى سحبت إنفاقها من Google’s YouTube في عام 2017 بعد ظهور الإعلانات بجوار محتوى الإرهاب.
استجابةً لطلب التعليق ، أشار X إلى مزاعم بأن الشركة قد قدمتها ، مدعومة من قبل اللجنة القضائية التي يقودها الجمهوريون ، إلى أن بعض المعلنين كانوا يقومون بمقاطعة غير قانونية للمنصة.
من منظور تنظيمي ، اضطرت شركات التواصل الاجتماعي منذ فترة طويلة إلى القتال مع السمية التي تتكاثر على منصاتها ، ولكنها كانت محمية إلى حد كبير من المسؤولية عن المحتوى الذي تم إنشاؤه بواسطة المستخدم في الولايات المتحدة بموجب المادة 230 من قانون حشمة الاتصالات.
لقد كنت في بعض الأحيان من القلق. . . هل سيكون هذا أفضل أم جيد للبشرية؟
وفقًا للعلماء القانونيين ، من المحتمل ألا يمتد الحصانة من القسم 230 إلى المحتوى الذي تم إنشاؤه بواسطة chatbot الخاصة بالشركة. على الرغم من أن فورة جروك الأخيرة لا يبدو أنها غير قانونية في الولايات المتحدة ، والتي تحظر فقط خطابها الشديد مثل محتوى إرهابي معين ، “إذا قال ذلك حقًا شيئًا غير قانوني ويمكن مقاضاتهم – فهي في حالة أسوأ بكثير من وجود شاتيبوت يقول ذلك من مستخدم يقوله”.
يمثل الاتحاد الأوروبي ، الذي له تنظيم أكثر صرامة على الأضرار عبر الإنترنت من الولايات المتحدة ، تحديًا أكثر إلحاحًا. تضغط الحكومة البولندية على الكتلة للنظر في Grok بموجب قانون الخدمات الرقمية ، وهي لائحة منصة الاتحاد الأوروبي ، وفقًا لرسالة من الحكومة البولندية التي شاهدتها FT. بموجب DSA ، تواجه الشركات التي تفشل في الحد من المحتوى غير القانوني والتضليل عقوبات تصل إلى 6 في المائة من دورانها العالمي السنوي.
قال المتحدث باسم المفوضية الأوروبية توماس ريجنييه يوم الخميس: “حتى الآن ، لا يطلق الاتحاد الأوروبي أي تحقيق جديد ، لكن” نحن نأخذ هذه القضايا المحتملة على محمل الجد “. X يخضع بالفعل للتدقيق من قبل الاتحاد الأوروبي تحت DSA لقضايا الاعتدال المزعومة.
ظهر Musk ، الذي أطلق أحدث إصدار من Grok يوم الأربعاء على الرغم من The Furore ، فلسفية حول قدراته. “لقد كنت في بعض الأحيان من القلق بشأن … هل سيكون هذا أفضل أم جيد للإنسانية؟” قال عند الإطلاق. “لكنني توصلت إلى حد ما مع حقيقة أنه حتى لو لم يكن جيدًا ، أود على الأقل أن أكون على قيد الحياة لأرى ذلك.”
تقارير إضافية من ميليسا هيككيل في لندن
[ad_2]
المصدر