أوبن إيه آي تطلق نظام تحقق عمري جديد لتصفية المستخدمين القاصرين

أعلنت شركة أوبن إيه آي يوم الثلاثاء عن خططها لتنفيذ نظام جديد للتحقق من العمر يهدف إلى تصفية المستخدمين القاصرين وتوجيههم نحو نسخة خاصة من روبوت الدردشة ChatGPT تكون أكثر ملاءمة لأعمارهم.

ضغوط تنظيمية تدفع للتغيير

يأتي هذا التغيير في وقت تواجه فيه الشركة تدقيقاً متزايداً من قبل المشرعين والجهات التنظيمية بشأن كيفية تفاعل المستخدمين القاصرين مع روبوت الدردشة الخاص بها. ولتحديد عمر المستخدم، ستستخدم أوبن إيه آي نظام تنبؤ عمري يحاول تقدير عمر المستخدم بناءً على طريقة تفاعله مع ChatGPT.

كيف يعمل النظام الجديد؟

ذكرت الشركة أنها عندما تعتقد أن المستخدم دون 18 عاماً، أو عندما لا تستطيع تحديد عمره بدقة، ستقوم بتوجيهه إلى تجربة مصممة خصيصاً للمستخدمين الأصغر سناً. أما المستخدمون الذين يتم وضعهم في النسخة المقيدة بالعمر وهم فوق 18 عاماً، فسيحتاجون إلى تقديم نموذج من بطاقة الهوية لإثبات عمرهم والوصول إلى النسخة الكاملة من ChatGPT.

مميزات النسخة الخاصة بالقاصرين

وفقاً للشركة، ستقوم نسخة روبوت الدردشة المخصصة للقاصرين بحظر “المحتوى الجنسي الصريح” ولن ترد على المحادثات ذات الطابع الغرامي أو الجنسي الصريح. وإذا عبر مستخدم دون 18 عاماً عن ضائقة نفسية أو أفكار انتحارية، سيحاول النظام الاتصال بوالدي المستخدم، وقد يتصل بالسلطات إذا كانت هناك مخاوف من “أذى وشيك”.

أولويات الحماية والخصوصية

وفقاً لأوبن إيه آي، فإن تجربتها للمراهقين تضع “السلامة فوق الخصوصية والحرية”. وقد قدمت الشركة مثالين على كيفية تحديد هذه التجارب:

• السلوك الافتراضي للنموذج لن يؤدي إلى حديث غرامي كثير، ولكن إذا طلب مستخدم بالغ ذلك، فيجب أن يحصل عليه
• النموذج افتراضياً لا يجب أن يقدم تعليمات حول كيفية الانتحار، ولكن إذا كان مستخدم بالغ يطلب المساعدة في كتابة قصة خيالية تصور انتحاراً، فيجب على النموذج المساعدة في هذا الطلب

خلفية قانونية وتنظيمية

تعد أوبن إيه آي حالياً موضوع دعوى قضائية بتهمة الوفاة wrongful death رفعها والدا مراهق يبلغ من العمر 16 عاماً انتحر بعد التعبير عن أفكار انتحارية لـ ChatGPT. خلال محادثة الطفل مع روبوت الدردشة، شارك أدلة على إيذاء الذات وأعرب عن خطط لمحاولة الانتحار – ولم يقم المنصة بالإبلاغ عن أي من هذه المؤشرات بطريقة يمكن أن تؤدي إلى التدخل.

ووجد الباحثون أنه يمكن للمستخدمين الحصول على نصائح من روبوتات الدردشة مثل ChatGPT حول كيفية الانخراط في إيذاء النفس أو الانتحار. وفي وقت سابق من هذا الشهر، طلبت لجنة التجارة الفيدرالية (FTC) معلومات من أوبن إيه آي وشركات التكنولوجيا الأخرى حول كيفية تأثير روبوتات الدردشة الخاصة بهم على الأطفال والمراهقين.

اتجاه عام نحو التحقق العمري

تجعل هذه الخطوة أوبن إيه آي أحدث الشركات التي تنضم إلى اتجاه التحقق من العمر، الذي اجتاح الإنترنت هذا العام – مدفوعاً بحكم المحكمة العليا الذي قضى بأن قانون تكساس الذي يطلب من مواقع البورن التحقق من عمر مستخدميهم دستوري، ومتطلبات المملكة المتحدة التي تفرض على المنصات عبر الإنترنت التحقق من عمر المستخدمين.

بينما فرضت بعض الشركات على المستخدمين تحميل نموذج من بطاقة الهوية لإثبات عمرهم، اختارت منصات مثل YouTube أيضاً أساليب التنبؤ العمري مثل أوبن إيه آي، وهي طريقة تعرضت لانتقادات بسبب عدم دقتها وطابعها الغريب.