أنثروبيك تُحدِّث سياسة الاستخدام: قواعد جديدة لتطبيقات الذكاء الاصطناعي عالية المخاطر

قامت شركة أنثروبيك بتحديث سياسة الاستخدام الخاصة بها رسميًا، واضعة إطارًا شاملاً ينظم كيفية استخدام نماذج الذكاء الاصطناعي الخاصة بها، بما في ذلك عائلة كلود، عبر التطبيقات الاستهلاكية والمؤسسية. تدخل السياسة حيز التنفيذ فورًا، وتُصنِّف القيود إلى ثلاث فئات: معايير الاستخدام العالمية، ومتطلبات حالات الاستخدام عالية المخاطر، وإرشادات حالات الاستخدام الإضافية.

المحظورات العالمية

تنطبق معايير الاستخدام العالمية على جميع المستخدمين وتغطي مجموعة واسعة من الأنشطة المحظورة. تشمل الاستخدامات المحظورة إنشاء أو توزيع مواد إساءة معاملة الأطفال جنسيًا (CSAM)، بما في ذلك المحتوى المُولَّد بالذكاء الاصطناعي؛ وتطوير الأسلحة أو المتفجرات أو المواد الخطرة؛ وتصميم أدوات للوصول غير المصرح به إلى الأنظمة أو البيانات، مثل البرامج الضارة أو برامج الفدية أو شبكات الروبوتات. كما تحظر السياسة توليد محتوى سياسي خادع، أو وسائط اصطناعية لشخصيات سياسية، أو حملات استهداف وقمع الناخبين الآلية.

بالإضافة إلى ذلك، تحظر السياسة استخدام نماذج أنثروبيك للانتحال بشريًا في سياقات قد ينخدع فيها المستخدم ويعتقد أنه يتفاعل مع شخص حقيقي. ويشمل ذلك تقديم المخرجات المُولَّدة بالذكاء الاصطناعي على أنها مُولَّدة بشريًا دون إفصاح.

المجالات عالية المخاطر تتطلب إشرافًا

التحديث الهام هو إدخال ضمانات إلزامية لما تسميه أنثروبيك حالات الاستخدام عالية المخاطر، وهي المجالات التي يمكن أن يكون للقرارات المدفوعة بالذكاء الاصطناعي فيها تأثير مباشر على الأفراد أو العدالة الاجتماعية. تشمل هذه المجالات الاستشارات القانونية، والتشخيص الطبي، والاكتتاب التأميني، والاستشارات المالية، وفحص التوظيف، وأهلية الإسكان، والاختبارات الأكاديمية. في كل من هذه المجالات، تطلب أنثروبيك من محترف بشري مؤهل مراجعة جميع النصائح أو القرارات المُولَّدة بالذكاء الاصطناعي قبل الانتهاء منها أو نشرها. علاوة على ذلك، يجب على المستخدم الإفصاح للمستهلكين النهائيين أن الذكاء الاصطناعي يُستخدم للمساعدة في إنتاج النصيحة أو التوصية، على الأقل في بداية كل جلسة.

“نعتقد أنه يجب دمج الخبرة البشرية ذات الصلة، ويجب أن يكون المستخدمون النهائيون على دراية عندما يكون الذكاء الاصطناعي قد شارك في إنتاج المخرجات”، صرحت الشركة في السياسة.

إرشادات لروبوتات المحادثة والعوامل الذكية

تحدد أنثروبيك أيضًا أن جميع روبوتات المحادثة والعوامل الذكية التفاعلية الموجهة للمستهلكين يجب أن تُفصح للمستخدمين أنهم يتفاعلون مع ذكاء اصطناعي وليس بشريًا. يجب أن يحدث هذا الإفصاح في بداية كل جلسة محادثة. تتناول السياسة أيضًا حالات الاستخدام العاملة، مشيرة إلى أن مثل هذه التطبيقات يجب أن تظل متوافقة مع جميع المحظورات الواردة في سياسة الاستخدام، مع توقع أمثلة محددة في مقالة مستقبلية في مركز المساعدة.

بالنسبة للمنتجات التي تخدم القُصَّر، تطلب أنثروبيك الامتثال لإرشادات إضافية سيتم تفصيلها قريبًا، ويجب أن تلتزم أي خوادم بروتوكول سياق النموذج (MCP) المدرجة في دليل الموصلات الخاص بالشركة بسياسة الدليل الخاصة بها.

التنفيذ والإبلاغ

سينفذ فريق الضمانات في أنثروبيك أنظمة الكشف والمراقبة لتطبيق السياسة. يمكن أن تؤدي المخالفات إلى تقييد أو تعليق أو إنهاء الوصول إلى منتجات وخدمات أنثروبيك. قالت الشركة إنها قد تمنع أو تعدِّل مخرجات النموذج عندما تنتهك المدخلات السياسة. يُشجَّع المستخدمون الذين يعتقدون أن مخرجات النموذج قد تكون غير دقيقة أو متحيزة أو ضارة على الإبلاغ عن المشكلات عبر usersafety@anthropic.com أو باستخدام آليات التغذية الراجعة داخل المنتج.

تلاحظ السياسة أن أنثروبيك قد تبرم اتفاقيات تعاقدية مخصصة مع بعض العملاء الحكوميين لاستيعاب مهمتهم العامة إذا كانت القيود التعاقدية والضمانات تخفف الأضرار بشكل كافٍ.

الآثار الاستراتيجية

تعكس السياسة المُحدَّثة اتجاهًا صناعيًا أوسع نحو حوكمة أكثر تنظيماً لنشر الذكاء الاصطناعي، خاصة في الصناعات الخاضعة للتنظيم. من خلال اشتراط الإشراف البشري والإفصاح في التطبيقات عالية المخاطر، تضع أنثروبيك كلود كأداة للتكامل بدلاً من اتخاذ القرارات المستقلة. تشير السياسة أيضًا إلى تشديد الاستخدام المقبول في السياقات السياسية والانتخابية، بما يتماشى مع التدقيق التنظيمي والعام المتزايد حول المعلومات المضللة المُولَّدة بالذكاء الاصطناعي. تواصل الشركة التكرار على أطر السلامة الخاصة بها مع نشر نماذجها في مجالات حساسة بشكل متزايد.