واجهت شركة OpenAI مشكلة تتعلق بالاعتدال في المحتوى في متجر GPT الخاص بها، حيث يقوم المستخدمون بشكل نشط بإنشاء روبوتات محادثة تنتهك قواعد الشركة. وقد وجدت تحقيقات مستقلة أكثر من 100 أداة يمكن أن تولد إجابات زائفة في المجالات الطبية والقانونية وغيرها من المجالات المحظورة وفقًا لقواعد OpenAI.
منذ إطلاق المتجر في نوفمبر الماضي، أكدت OpenAI أن "أفضل روبوتات GPT سيتم Inventها بواسطة المجتمع". ومع ذلك، بعد تسعة أشهر من الإطلاق الرسمي، لاحظت بيانات موقع Gizmodo أن العديد من المطورين يستخدمون المنصة لبناء أدوات تنتهك بوضوح سياسات الشركة. تشمل هذه الأدوات روبوتات محادثة تقوم بتوليد محتوى صريح، وأدوات تساعد الطلاب في تجاوز فحص الانتحال، وروبوتات تقدم نصائح طبية وقانونية يُعتقد أنها موثوقة.
مؤخراً، تم رصد ثلاثة روبوتات GPT مخصصة تبدو أنها تنتهك القواعد على الصفحة الرئيسية لمتجر OpenAI: "روبوت المعالج النفسي"، و"مدرب لياقة بدنية يحمل دكتوراه"، وأداة "تجاوز كشف Turnitin"، التي تعد بمساعدة الطلاب في تجاوز نظام انتحال Turnitin. وقد تم استخدام العديد من تلك الروبوتات المزيفة عشرات الآلاف من المرات.
ردًا على استفسارات موقع Gizmodo بشأن الروبوتات المزيفة الموجودة في المتجر، قالت OpenAI إنها "اتخذت إجراءات ضد من ينتهكون القواعد". ووفقًا للمتحدثة الرسمية تايا كريستنسون، تستخدم الشركة مزيجًا من الأنظمة الآلية، ومراجعة من قبل البشر، وتقارير المستخدمين لتحديد وتقييم الروبوتات التي قد تنتهك سياسات الشركة. ومع ذلك، لا تزال العديد من الأدوات التي تم تحديدها، بما في ذلك غرف الدردشة التي تقدم نصائح طبية وتساعد في الخداع، متاحة وتروّج بقوة على الصفحة الرئيسية.
قال ميلتون مولر، مدير مشروع حوكمة الإنترنت في معهد جورجيا للتكنولوجيا: "من المثير للاهتمام أن OpenAI لديها هذه الرؤية الكارثية للذكاء الاصطناعي وكيف أنها تنقذنا جميعًا منه. لكن ما يبدو مضحكًا بشكل خاص هو أنها لا تستطيع توفير شيء بسيط مثل حظر محتوى الذكاء الاصطناعي الإباحي، بينما تدعي في الوقت نفسه أن سياساتها ستنقذ العالم".
تكمن المشكلة في أن العديد من روبوتات GPT الطبية والقانونية لا تشمل التحذيرات اللازمة، وبعضها يروّج بشكل مضلل لنفسه كأنه محامٍ أو طبيب. على سبيل المثال، يروج روبوت GPT يسمى "محامي الهجرة الذكي" لنفسه كـ "محامي هجرة مؤهل تأهيلاً عالياً بمهارات قانونية محدثة". ومع ذلك، تظهر الأبحاث أن نماذج GPT-4 وGPT-3.5 غالبًا ما تنتج معلومات غير صحيحة على أي حال، خاصة فيما يتعلق بالقضايا القانونية، مما يجعل استخدامها شديد الخطورة.
دعونا نذكر أن متجر OpenAI GPT هو سوق للروبوتات المحادثة المخصصة "لكل مناسبة" التي أنشأها المطورون من طرف ثالث الذين يحققون أرباحًا من مبيعاتهم. لقد تم بالفعل إنشاء أكثر من 3 ملايين روبوت محادثة مخصص.
تابع موقعنا tech1new.com انضم إلى صفحتنا على فيسبوك و متابعتنا على منصة إكس (تويتر سابقاً) ، أو أضف tech1new.com إلى موجز أخبار Google الخاص بك للحصول على تحديثات إخبارية فورية ومراجعات وشروحات تقنية
ليست هناك تعليقات:
إرسال تعليق