عقود موردي الذكاء الاصطناعي وشراء الذكاء الاصطناعي المؤسسي: دليل قانوني للشركات

يدخل الذكاء الاصطناعي إلى الشركات من أبواب عديدة.

بعض أدوات الذكاء الاصطناعي تعتمدها الإدارة؛ وبعضها تُدخله أقسام تقنية المعلومات؛ وبعضها مدمج في البرمجيات القائمة؛ وبعضها يستخدمه فرق التسويق وأقسام الموارد البشرية والمطورون وفرق خدمة العملاء والمستشارون أو الموظفون الذين يجرّبون أدوات الذكاء الاصطناعي التوليدي. وهذا يخلق مشكلة قانونية جديدة: قد تستخدم شركة الذكاء الاصطناعي دون أن تكون قد راجعت العقد على نحو سليم قط.

والمخاطرة ليست نظرية. فقد يعالج مورد الذكاء الاصطناعي بيانات شخصية، ويخزّن المدخلات، ويستخدمها لتحسين النماذج، ويحدّ من مسؤوليته، ويتبرّأ من الدقة، ويقيّد ملكية المخرجات، ويستعين بمعالجين فرعيين أجانب، ويحتفظ بحقوق التعليق، ويغيّر المنتج، ويدمج نماذج طرف ثالث، أو يطلب من العميل تحمّل مسؤولية واسعة عن سلوك المستخدمين. وفي البرمجيات العادية تكون هذه المسائل مهمة؛ أما في الذكاء الاصطناعي فقد تصبح محورية.

ولهذا ينبغي التعامل مع شراء الذكاء الاصطناعي بوصفه عملية قانونية استراتيجية، لا شراء اشتراك روتينياً. يشرح هذا الدليل ما ينبغي للشركات مراجعته قبل شراء أدوات الذكاء الاصطناعي أو نشرها أو توسيع نطاقها.

1. شراء الذكاء الاصطناعي ليس شراءً عادياً للبرمجيات

يركّز شراء البرمجيات التقليدي غالباً على الوظيفة ونطاق الترخيص والسعر ومستويات الخدمة والدعم والأمن والإنهاء. ويتطلب شراء الذكاء الاصطناعي كل ذلك، وأكثر. فعلى الشركة أن تفهم أي بيانات يستخدمها نظام الذكاء الاصطناعي، وهل يعالج بيانات شخصية، وهل يمكن إدخال معلومات سرية، وهل تُخزَّن المدخلات والمخرجات، وهل تُستخدم بيانات العملاء لتدريب النموذج، وهل يمكن استخدام المخرجات تجارياً، وهل يضمن المورد الدقة، وهل قد تنتج الأداة محتوى منتهِكاً، وهل المراجعة البشرية مطلوبة، وهل يؤثر النظام على الأفراد، وهل تنطبق التزامات تنظيمية، ومن المسؤول إذا تسبّب مخرَج بضرر، وهل تستطيع الشركة شرح النظام للجهات التنظيمية أو العملاء أو المستثمرين.

والفرق الجوهري أن أنظمة الذكاء الاصطناعي قادرة على توليد مخرجات بدلاً من مجرد تنفيذ وظائف محددة سلفاً. وهذا يصعّب توزيع المسؤولية القانونية. وينبغي ألا توقّع الشركة عقد ذكاء اصطناعي وكأنها تشتري برمجيات مكتبية عادية.

2. ابدأ بحالة الاستخدام

قبل مراجعة العقد، على الشركة تحديد حالة الاستخدام. فالأداة الواحدة قد تحمل مخاطر مختلفة بحسب طريقة استخدامها. تختلف أداة تلخّص محاضر الاجتماعات الداخلية عن أداة تُستخدم لفرز طلبات التوظيف، أو تقييم مخاطر الائتمان، أو التوصية بعلاج طبي، أو دعم التحليل القانوني، أو مراجعة مطالبات التأمين، أو توليد نصائح للعملاء، أو مراقبة أداء الموظفين، أو تحليل بيانات الأطفال، أو معالجة معلومات صحية حساسة، أو أتمتة قرارات الامتثال، أو التفاعل المباشر مع المستهلكين.

وينبغي أن تبدأ المراجعة القانونية بخمسة أسئلة: ماذا سيفعل نظام الذكاء الاصطناعي؟ وأي بيانات سيعالج؟ ومن سيعتمد على المخرَج؟ وما الذي قد يحدث خطأً؟ ومن المسؤول إذا حدث؟ فبلا حالة استخدام واضحة لا يمكن تقييم العقد على نحو سليم.

3. حدّد دور مورد الذكاء الاصطناعي

قبل التوقيع، على الشركة تحديد دور المورد. فقد يكون المورد مزوّد نموذج، أو منصة SaaS، أو مزوّد واجهة برمجة تطبيقات، أو مكامل أنظمة، أو موزّعاً، أو مزوّد خدمة سحابية، أو معالجاً للبيانات، أو مسؤولاً مستقلاً عن البيانات، أو متعاقداً من الباطن، أو مطوّراً لنموذج مخصّص، أو مزوّداً لنموذج طرف ثالث مغلَّف داخل منتجه.

وهذا مهم لأن المسؤولية تتبع السيطرة. فقد لا يسيطر الموزّع على النموذج الأساسي؛ وقد تعتمد المنصة على مزوّد نموذج أساس آخر؛ وقد يهيّئ مكامل الأنظمة أداة دون أن يملكها؛ وقد يستعين مورد ذكاء اصطناعي موجَّه للعملاء بعدة معالجين فرعيين. وينبغي أن يُظهر العقد هذه السلسلة. فإذا حدث خطأ، على الشركة أن تعرف من المسؤول عن النموذج والمنصة ومعالجة البيانات والتكامل والأمن والدعم.

4. العناية الواجبة على مورد الذكاء الاصطناعي

ينبغي للشركات إجراء العناية الواجبة على مورد الذكاء الاصطناعي قبل التوقيع. ولا ينبغي أن تكون مرهقة على نحو غير متناسب للأدوات منخفضة المخاطر؛ غير أن مراجعة المورد لا غنى عنها لحالات الاستخدام الحرجة أو الحساسة. وعلى الشركة أن تسأل: من يزوّد النموذج الأساسي، وهل بُنيت الأداة على نموذج مملوك أم على نموذج طرف ثالث، وأين تُستضاف البيانات، وهل تُستخدم بيانات العملاء للتدريب، وهل يمكن تعطيل استخدام التدريب، وهل تُخزَّن المدخلات والمخرجات، وكم تُحفظ السجلات، وما الشهادات الأمنية المتوافرة، وهل المعالجون الفرعيون مدرَجون وهل يمكن أن يتغيّروا دون إشعار، وهل يدعم المورد طلبات الحذف، وهل تتوافر حقوق التدقيق أو الاطلاع، وهل اختُبر النظام للتحيّز أو الدقة، وهل تتوافر وثائق للاستخدام عالي المخاطر أو المنظَّم، وهل لدى المورد إجراءات للاستجابة للحوادث، وماذا يحدث إذا عُلِّقت الخدمة أو أُوقفت.

العناية الواجبة على المورد ليست انعدام ثقة. إنها شراء احترافي.

5. عقد حماية البيانات

إذا عالجت أداة الذكاء الاصطناعي بيانات شخصية، فقد يلزم عقد لحماية البيانات. وينبغي أن يتناول العقد أدوار الأطراف، وغرض المعالجة، وفئات البيانات الشخصية وأصحابها، وتعليمات العميل، والسرية، والتدابير الأمنية، والمعالجين الفرعيين، والنقل عبر الحدود، والمساعدة في طلبات أصحاب البيانات، والإبلاغ عن الانتهاكات، وحذف البيانات أو إعادتها، وعمليات التدقيق، والاحتفاظ، واستخدام التدريب، والتدابير التقنية والتنظيمية.

ويخلق الذكاء الاصطناعي تحديات خاصة لأن البيانات قد تظهر في المدخلات والمستندات المرفوعة وسجل المحادثات والتضمينات (embeddings) والسجلات ومجموعات بيانات الضبط الدقيق والتحليلات وسجلات المخرجات. وينبغي ألا يكتفي العقد بالقول إن «قانون حماية البيانات ينطبق»؛ بل عليه أن يشرح كيف يعالج نظام الذكاء الاصطناعي البيانات فعلياً.

6. بيانات العملاء وتدريب النماذج

من أهم الأسئلة ما إذا كان يمكن للمورد استخدام بيانات العملاء لتدريب النماذج أو تحسينها. وينبغي مراجعة ذلك بعناية. فقد تشمل بيانات العملاء المدخلات والمستندات المرفوعة والسجلات الداخلية ومعلومات العملاء وبيانات الموظفين والبيانات التجارية والملفات السرية والشيفرة والمستندات القانونية والبيانات الصحية والبيانات المالية والملاحظات والمخرجات.

وينبغي أن يحدّد العقد ما إذا كان للمورد استخدام هذه المواد لتدريب النماذج أو الضبط الدقيق أو تحسين الخدمة أو التحليلات أو تصحيح الأخطاء أو رصد إساءة الاستخدام أو الأمن أو تطوير المنتج. وإذا لم ترغب الشركة في استخدام بياناتها للتدريب، فعلى العقد أن يقول ذلك صراحةً. والأمثل أن توفّر ترتيبات الذكاء الاصطناعي المؤسسية ضوابط أقوى من أداة ذكاء اصطناعي للمستهلكين.

7. السرية وسرّ المهنة

قد تخلق أدوات الذكاء الاصطناعي مخاطر على السرية، لا سيما للشركات التي تتعامل مع ملفات الموكلين ومواد مجلس الإدارة والمستندات القانونية والقوائم المالية والبيانات الشخصية وسجلات الموظفين والمعلومات الطبية والشيفرة المصدرية والأسرار التجارية وأهداف الاستحواذ ومواد التقاضي ومطالبات التأمين والملكية الفكرية أو الخطط الاستراتيجية. وينبغي أن يتضمن عقد المورد التزامات سرية قوية بما يكفي لحساسية المعلومات.

وعلى الشركات في الخدمات المهنية والقانونية والمالية والتأمين والرعاية الصحية والتقنية والاستشارات توخّي الحذر بوجه خاص. كما ينبغي للشركة أن تحدّد داخلياً ما الذي يجب ألا يُرفع أبداً إلى أدوات الذكاء الاصطناعي ما لم توجد ضوابط معتمدة. وينبغي أن تعمل السرية التعاقدية والسياسة الداخلية للذكاء الاصطناعي معاً.

8. أمن المعلومات

ينبغي مراجعة أدوات الذكاء الاصطناعي من حيث الأمن: التشفير أثناء النقل وعند التخزين، وضوابط الوصول، والمصادقة، وضوابط المسؤولين، والتسجيل، وفصل البيانات، وإدارة الثغرات، واختبار الاختراق، والاستجابة للحوادث، ووصول موظفي المورد والمتعاقدين من الباطن، والنسخ الاحتياطي والاستعادة، وحذف البيانات، والشهادات الأمنية، وإشعار العملاء، وتقارير التدقيق، وأمن واجهة البرمجة، وحدود المعدّل، ومنع إساءة الاستخدام.

وينبغي أن تتناسب المراجعة الأمنية مع المخاطر. فمساعد كتابة بالذكاء الاصطناعي متاح للعامة يُستخدم لمسودات تسويقية غير سرية قد لا يتطلب المراجعة نفسها التي تتطلبها أداة تُستخدم للسجلات الطبية أو البيانات المالية أو مراقبة الموظفين أو المستندات القانونية — لكن على الشركة أن تتخذ هذا التمييز بوعي.

9. النقل عبر الحدود والاستضافة السحابية

غالباً ما تكون أدوات الذكاء الاصطناعي سحابية، وقد تُستضاف البيانات أو يُطّلع عليها أو تُعالَج في عدة ولايات قضائية. وهذا مهم للشركات العاملة في تركيا وشمال قبرص والمملكة المتحدة والاتحاد الأوروبي أو أسواق أخرى عابرة للحدود. وينبغي أن يحدّد العقد موقع الاستضافة ومواقع وصول الدعم والمعالجين الفرعيين وآلية النقل عبر الحدود وضماناته ومخاطر وصول الحكومات وخيارات توطين البيانات ومواقع النسخ الاحتياطي والتعافي من الكوارث.

وينبغي ألا تفترض الشركات أن البيانات تبقى محلية لمجرد بيع الخدمة محلياً. فبينما يصل مستخدم إلى المنصة من تركيا، قد تُستضاف البيانات في أوروبا، وتُعالَج عبر مزوّد نموذج مقرّه الولايات المتحدة، ويدعمها فريق عالمي. وقد يكون هذا الهيكل مقبولاً، لكن ينبغي فهمه.

10. ملكية المخرجات والاستخدام التجاري

تشتري الشركات أدوات الذكاء الاصطناعي جزئياً لأنها تريد مخرجات — نصوصاً وشيفرة وصوراً وتصاميم وتقارير وترجمات وملخصات وتوصيات وتحليلات وخطط أعمال وردوداً للعملاء وأوصاف منتجات ومسودات قانونية أو امتثالية ومواد تسويقية. وينبغي أن يتناول العقد ما إذا كان للشركة استخدام المخرجات تجارياً.

والأسئلة الجوهرية: من يملك المخرَج، وهل ينقل المورد الحقوق أم يحتفظ بها، وما القيود على الاستخدام، وهل يمكن توليد مخرجات مماثلة لمستخدمين آخرين، وهل تحمي قوانين الملكية الفكرية المخرجات، وهل العميل مسؤول عن مراجعتها، وهل يقدّم المورد أي تعويض عن الملكية الفكرية، وماذا يحدث إذا انتهك مخرَج حقوق طرف ثالث. وعلى الشركة الحذر من استخدام مخرجات مولَّدة بالذكاء الاصطناعي في أصول علامية عالية القيمة أو شيفرة برمجية أو حملات إعلانية أو نصائح منظَّمة أو تسليمات للعملاء دون مراجعة. وينبغي معاملة مخرَج الذكاء الاصطناعي كمسودة حتى يُتحقَّق منه قانونياً وتجارياً.

11. مخاطر الملكية الفكرية للغير

قد تنتج أنظمة الذكاء الاصطناعي محتوى يشبه مواد محمية لطرف ثالث أو يتضمنها، مما قد يثير نزاعات تتعلق بحق المؤلف أو العلامات التجارية أو الأسرار التجارية أو حقوق قواعد البيانات أو تراخيص البرمجيات أو حقوق الشخصية أو المعلومات السرية أو حقوق التصميم. وينبغي أن يتناول العقد ما إذا كان المورد يضمن عدم الانتهاك، وهل يقدّم تعويضاً، وهل يستثني التعويض مدخلات المستخدمين، وهل توجد حدود قصوى للمطالبات، وهل تُستثنى بعض حالات الاستخدام، وهل على العميل اتباع الوثائق، وهل توجد تصفية للمخرجات، وهل يساعد المورد في الدفاع عن المطالبات.

ويحدّ كثير من عقود موردي الذكاء الاصطناعي من المسؤولية عن المخرجات. وينبغي ألا تفترض الشركة أن المورد سيحميها بالكامل إذا ادّعى طرف ثالث الانتهاك.

12. الدقة والهلوسة والاعتماد

قد تنتج أنظمة الذكاء الاصطناعي مخرجات واثقة لكنها خاطئة. ويوصف ذلك غالباً بالهلوسة، لكنه قانونياً أكثر من مسألة تقنية: فقد يؤدي إلى قرارات خاطئة وبيانات مضلِّلة وخدمات معيبة وإهمال مهني وأضرار للمستهلكين أو إخلال بالعقد. وينبغي أن يتناول العقد ما إذا كان المورد يضمن الدقة، وهل تُقدَّم المخرجات «كما هي»، وهل المراجعة البشرية مطلوبة، وهل الأداة ملائمة للاستخدام المقصود، وهل يتبرّأ المورد من الاستخدام المنظَّم أو المهني، وهل النظام مساعد فقط، وهل تُحفظ سجلات المخرجات، وهل يجب الإبلاغ عن الأخطاء.

وينبغي للشركة تحديد متى يمكن الوثوق بمخرجات الذكاء الاصطناعي ومتى تكون المراجعة البشرية إلزامية. وفي القرارات عالية المخاطر ينبغي ألا يصبح الذكاء الاصطناعي صانع قرار غير مرئي.

13. الرقابة البشرية

ينبغي تضمين الرقابة البشرية في العقد وفي العملية الداخلية معاً. والأسئلة ذات الصلة: من يراجع مخرجات الذكاء الاصطناعي؟ وهل المراجعة إلزامية أم اختيارية؟ وما المؤهلات التي ينبغي أن يحملها المراجع؟ وهل يمكنه تجاوز النظام؟ وهل يحصل على معلومات كافية؟ وهل تُوسَم المخرجات بأنها مولَّدة بالذكاء الاصطناعي؟ وهل يوجد مسار للتصعيد؟ وهل تُوثَّق القرارات؟ وهل يمكن للأفراد المتأثرين الطعن في النتائج؟

ولا معنى للرقابة البشرية إذا اكتفى الإنسان بالموافقة الشكلية على النظام. وفي حالات الاستخدام المنظَّمة أو الحساسة ينبغي أن تكون الرقابة منظَّمة وموثَّقة وقابلة للتدقيق.

14. بنود المسؤولية

غالباً ما تتضمن عقود الذكاء الاصطناعي قيوداً قوية على مسؤولية المورد. فقد يستثني المورد أو يحدّ من المسؤولية عن المخرجات الخاطئة وفقدان البيانات والخسائر غير المباشرة وفوات الربح وتعطّل الأعمال ومطالبات الملكية الفكرية والغرامات التنظيمية وإساءة استخدام المستخدمين وفشل نموذج الطرف الثالث والحوادث الأمنية وميزات الإصدار التجريبي والاستخدام المهني والقرارات المبنية على المخرجات. وعلى الشركة مراجعة ما إذا كان الحد الأقصى للمسؤولية ملائماً — فقد يأتي رسم اشتراك منخفض بحد أقصى بلا معنى تجاري قياساً إلى المخاطر.

وبالنسبة للذكاء الاصطناعي الحرج للأعمال، ينبغي للشركة التفكير في التفاوض على حدود أعلى؛ ومسؤولية غير محدودة عن انتهاكات السرية وحماية البيانات؛ وتعويض عن الملكية الفكرية؛ ومسؤولية عن الانتهاكات الأمنية؛ وتعاون تنظيمي؛ وأرصدة خدمة؛ وحقوق إنهاء؛ ومتطلبات تأمين. وينبغي أن تتبع المسؤولية السيطرة: فإذا سيطر المورد على النموذج والأمن ومعالجة البيانات، فعليه تحمّل مسؤولية ملائمة.

15. التعويضات

التعويضات مهمة بوجه خاص في عقود الذكاء الاصطناعي. وعلى الشركة تقييم ما إذا كانت تحتاج إلى تعويض عن انتهاك الملكية الفكرية للغير، وانتهاك حماية البيانات الناجم عن المورد، وخرق السرية، والحادث الأمني، والانتهاك التنظيمي الناجم عن نظام المورد، وخرق إقرارات المورد، والاستخدام غير المصرّح به لبيانات العملاء في التدريب، والمطالبات الناشئة عن مواد المورد، والمطالبات الناشئة عن أفعال المتعاقدين من الباطن. وقد يطلب المورد بدوره تعويضاً من العميل عن بيانات إدخال غير مشروعة، وإساءة استخدام المنصة، ومخالفة سياسة الاستخدام المقبول، وانتهاك حقوق الغير، والاستخدام في قطاعات محظورة، والإخفاق في مراجعة المخرجات.

وينبغي أن تكون التعويضات متوازنة ومرتبطة بالسيطرة. وينبغي ألا يتحمّل العميل مسؤولية عن مخاطر نشأت فقط عن نظام المورد.

16. سياسات الاستخدام المقبول

غالباً ما يدرج موردو الذكاء الاصطناعي سياسات للاستخدام المقبول قد تحظر الاستخدام لنشاط غير مشروع أو تمييز أو تحديد هوية بيومتري أو مراقبة أو أسلحة أو خداع أو نصائح منظَّمة أو قرارات عالية المخاطر أو نصائح طبية أو قانونية أو تسجيل ائتماني أو قرارات توظيف أو إقناع سياسي أو معالجة تتعلق بالأطفال أو كشط أو رسائل آلية مزعجة أو محتوى ضار. وعلى الشركة مراجعتها بعناية.

فقد تستخدم مؤسسة أداة ذكاء اصطناعي دون قصد على نحو يخالف سياسة الاستخدام المقبول لدى المورد، مما قد يؤدي إلى التعليق أو الإنهاء أو فقدان الوصول أو رفض الدعم. وإذا كان الاستخدام المقصود قريباً من مجال مقيَّد، فينبغي طلب توضيح خطي قبل النشر.

17. مستويات الخدمة واستمرارية الأعمال

قد تصبح أدوات الذكاء الاصطناعي مهمة تشغيلياً. فإذا دمجت شركة الذكاء الاصطناعي في خدمة العملاء أو مراجعة المستندات أو البرمجة أو اللوجستيات أو الامتثال أو التحليلات، فقد يؤثر الانقطاع على الأعمال. وينبغي أن يتناول العقد التزامات وقت التشغيل ونوافذ الصيانة وأوقات استجابة الدعم ومستويات خطورة الحوادث وإجراءات النسخ الاحتياطي والتعافي من الكوارث وتوافر واجهة البرمجة وحدود المعدّل وتوافر النماذج والتغييرات في النماذج وإيقاف الميزات وأرصدة الخدمة والإنهاء عند تكرار الإخفاق.

وعلى الشركة أيضاً أن تسأل ما إذا كانت تستطيع مواصلة العمل إذا أصبحت خدمة الذكاء الاصطناعي غير متاحة. وينبغي أن يتضمن شراء الذكاء الاصطناعي تخطيط استمرارية الأعمال.

18. تغييرات النماذج وتغييرات المنتج

تتغير أنظمة الذكاء الاصطناعي. فقد يحدّث المورد النماذج، ويزيل ميزات، ويغيّر مرشحات الأمان، ويغيّر سلوك المخرجات، ويغيّر التسعير، ويغيّر حدود واجهة البرمجة، ويضيف معالجين فرعيين جدداً، أو يوقف وظائف معينة — وقد تؤثر هذه التغييرات على عمل الشركة. وينبغي أن يتناول العقد الإشعار بالتغييرات الجوهرية، والقدرة على رفض التغييرات، والتحكم في الإصدارات، وتحديث الوثائق، والاختبار قبل التغييرات الكبرى، والتوافق مع الإصدارات السابقة، وحقوق إنهاء العميل، وتصدير البيانات، والمساعدة في الترحيل.

وبالنسبة للاستخدام منخفض المخاطر قد تكون تغييرات النماذج مقبولة. أما للذكاء الاصطناعي المنظَّم أو المدمج أو الموجَّه للعملاء فقد تخلق التغييرات غير المنضبطة مخاطر قانونية وتشغيلية.

19. حقوق التدقيق والوثائق

قد تحتاج الشركات إلى وثائق لإرضاء العملاء أو المستثمرين أو الجهات التنظيمية أو الحوكمة الداخلية. وينبغي أن يتناول العقد ما إذا كان المورد يقدّم وثائق أمنية، ومعلومات عن معالجة البيانات، ووثائق النموذج، وتقييمات المخاطر، وتقارير التدقيق، وشهادات الامتثال، وقوائم المعالجين الفرعيين، وتاريخ الحوادث، ومعلومات اختبار التحيّز، ووثائق متصلة بقانون الذكاء الاصطناعي الأوروبي عند الاقتضاء، ومواصفات تقنية، وسجلات التغيير.

وقد لا تتوافر حقوق تدقيق كاملة لدى موردي الذكاء الاصطناعي الكبار، لكن على الشركة أن تسعى مع ذلك إلى معلومات كافية لتقييم المخاطر. فالعميل الذي لا يستطيع شرح سلسلة توريد الذكاء الاصطناعي لديه قد يواجه صعوبة في العناية الواجبة أو التدقيق التنظيمي أو التقاضي.

20. مخاطر قانون الذكاء الاصطناعي الأوروبي في عقود الموردين

يخلق قانون الذكاء الاصطناعي الأوروبي التزامات على فاعلين مختلفين بحسب أدوارهم ومستوى مخاطر نظام الذكاء الاصطناعي. وقد تحتاج حتى شركة خارج الاتحاد الأوروبي إلى تقييم مخاطر هذا القانون إذا عرضت أنظمة ذكاء اصطناعي أو خدمات مدعومة به أو مخرجات في أسواق الاتحاد. ولذلك ينبغي لعقود موردي الذكاء الاصطناعي تقييم ما إذا كان النظام قد يكون عالي المخاطر، وهل الشركة مزوّد أم مشغِّل، وهل يقدّم المورد الوثائق المطلوبة، وهل تتوافر أدوات للرقابة البشرية، وهل تُحفظ السجلات، وهل تُقدَّم تعليمات الاستخدام، وهل تتوافر معلومات إدارة المخاطر، وهل يتعاون المورد مع طلبات الامتثال، وهل الأداة ملائمة للاستخدام المقصود الموجَّه نحو الاتحاد الأوروبي.

وحتى حيث لا ينطبق القانون مباشرة، قد يصبح معياراً تجارياً في الشراء عبر الحدود. وقد يتوقع العملاء الدوليون وثائق حوكمة الذكاء الاصطناعي كجزء من العناية الواجبة على المورد.

21. الشراء الخاص بالقطاعات

ينبغي أن يكون شراء الذكاء الاصطناعي أكثر صرامة في قطاعات معينة — الرعاية الصحية والمالية والتأمين والتوظيف والتعليم والخدمات القانونية والعقارات والنقل والأمن السيبراني والقطاع العام والبنية التحتية الحيوية وخدمات الأطفال والمنصات الموجَّهة للمستهلكين. وفي هذه القطاعات ينبغي أن يتناول العقد التزامات خاصة بالقطاع.

فعلى سبيل المثال قد يتطلب الذكاء الاصطناعي الصحي مراجعة سريرية وللخصوصية والأمن؛ وقد يتطلب الذكاء الاصطناعي المالي قابلية التفسير والإنصاف وآثار التدقيق؛ وقد يؤثر الذكاء الاصطناعي للتأمين على تقييم المخاطر والمطالبات ومخاطر التمييز؛ وقد يتطلب الذكاء الاصطناعي للتوظيف الشفافية وتقييم التحيّز؛ وقد يتطلب الذكاء الاصطناعي القانوني السرية والمراجعة المهنية؛ وقد يشمل الذكاء الاصطناعي التعليمي القُصّر وبيانات طلابية حساسة. ونادراً ما تكفي الشروط العامة للذكاء الاصطناعي لحالات الاستخدام المنظَّمة.

22. سياسة داخلية لشراء الذكاء الاصطناعي

ينبغي للشركات تبنّي سياسة داخلية لشراء الذكاء الاصطناعي تحدّد من يجوز له اعتماد الأدوات، وما الأدوات المحظورة، ومتى تلزم المراجعة القانونية والمتعلقة بحماية البيانات والأمن والإدارة، ومتى يلزم استبيان للمورد، ومتى تكون الرقابة البشرية إلزامية، وما البيانات التي لا يجوز رفعها، وكيف يبلّغ الموظفون عن حوادث الذكاء الاصطناعي، وكيف تُحفظ العقود، ومن يتولى جرد الذكاء الاصطناعي.

فبلا سياسة داخلية يصبح شراء الذكاء الاصطناعي مجزّأً — إذ قد تشتري أقسام مختلفة أدوات مختلفة، وتقبل شروطاً غير متسقة، وتخلق مخاطر خفية. ولا يلزم أن توقف عملية شراء مركزية للذكاء الاصطناعي الابتكار؛ فهي تحمي الشركة مع السماح بالتبنّي المسؤول.

23. الذكاء الاصطناعي الخفي واستخدام الموظفين

قد يستخدم الموظفون أدوات الذكاء الاصطناعي دون علم الإدارة — وهو من أكثر المخاطر شيوعاً. ومن الأمثلة رفع مستندات الموكلين إلى أدوات عامة، وتلخيص العقود بالذكاء الاصطناعي، وتوليد شيفرة بمخاطر ترخيص غير معروفة، وكتابة ردود العملاء بالذكاء الاصطناعي، وترجمة مستندات سرية، وتحليل بيانات الموظفين، وإنشاء محتوى تسويقي بوضع ملكية فكرية غير واضح، واستخدام حسابات شخصية لأعمال الشركة.

وينبغي للشركة معالجة الذكاء الاصطناعي الخفي مباشرةً. وينبغي لسياسة واقعية أن تحدّد الأدوات المعتمدة، وتحظر بعض مدخلات البيانات، وتشرح قواعد السرية، وتشترط المراجعة البشرية، وتوفّر التدريب، وتنشئ قناة للإبلاغ، وتتجنّب الحظر الشامل غير الواقعي، وتمنح الموظفين بدائل آمنة. فالموظفون يستخدمون الذكاء الاصطناعي عادةً لأنه يساعدهم على العمل أسرع — والحل القانوني هو التبنّي المنضبط لا الرفض.

24. استراتيجية الخروج وإعادة البيانات

ينبغي للشركات التفكير في نهاية علاقة مورد الذكاء الاصطناعي قبل التوقيع. وينبغي أن يتناول العقد حقوق الإنهاء وتصدير البيانات وتصدير المخرجات وحذف بيانات العملاء وشهادات الحذف والمساعدة في الترحيل واستمرار السرية واستمرار استخدام المخرجات وفترة تصفية، والإزالة من مجموعات بيانات التدريب حيثما أمكن، وإغلاق الحساب، واحتفاظ المورد بالسجلات، وحذف المتعاقدين من الباطن.

والخروج مهم بوجه خاص عندما يصبح نظام الذكاء الاصطناعي مدمجاً في العمليات. وينبغي ألا تكون الشركة مقيَّدة بمورد دون القدرة على استرجاع البيانات وحفظ الأدلة والترحيل بأمان.

25. علامات التحذير في عقود الذكاء الاصطناعي

ينبغي للشركات توخّي الحذر عندما تنص شروط المورد على أن: بيانات العملاء يمكن استخدامها للتدريب دون خيار واضح لإلغاء الاشتراك؛ وللمورد حقوق واسعة لاستخدام المدخلات والمخرجات؛ والمسؤولية مستثناة شبه كاملة؛ ولا يُقدَّم تعويض عن الملكية الفكرية؛ والتزامات السرية ضعيفة؛ وحذف البيانات غير واضح؛ والمعالجون الفرعيون يمكن أن يتغيّروا دون إشعار؛ والنقل عبر الحدود غير مُفصَح؛ والتعهدات الأمنية غامضة؛ والمورد يتبرّأ من كل مسؤولية عن الدقة؛ والمخرجات غير قابلة للاستخدام التجاري؛ والخدمة يمكن تعليقها على نطاق واسع؛ وسياسة الاستخدام المقبول فضفاضة أو غامضة؛ ولا يُقدَّم دعم أو استجابة للحوادث؛ والتغييرات الأحادية مسموحة دون إشعار ذي معنى؛ والقانون الواجب التطبيق والاختصاص القضائي غير ملائمين؛ أو الاستخدام المؤسسي مبني على شروط المستهلكين.

ولا تعني علامة التحذير دائماً تعذّر توقيع العقد. بل تعني وجوب فهم المخاطر أو التفاوض عليها أو إدارتها داخلياً.

26. قائمة تدقيق عملية لشراء الذكاء الاصطناعي

قبل شراء أداة ذكاء اصطناعي، ينبغي للشركات أن تسأل: ما حالة الاستخدام المقصودة، وهل الأداة داخلية أم موجَّهة للعملاء؟ وهل تعالج بيانات شخصية أو معلومات سرية؟ وهل يمكن استخدام بيانات العملاء لتدريب النموذج؟ وأين تُستضاف البيانات، وهل توجد معالجة فرعية ونقل عبر الحدود وهل هي مشروعة؟ ومن يملك المدخلات والمخرجات، وهل المخرجات قابلة للاستخدام التجاري؟ وهل توجد حماية من انتهاك الملكية الفكرية؟ وهل حدود الدقة واضحة، وهل المراجعة البشرية مطلوبة؟ وهل حدود المسؤولية مقبولة، وهل التعويضات متوازنة؟ وهل الوثائق الأمنية كافية، وهل تتوافر حقوق تدقيق أو اطلاع؟ وهل تُستخدم الأداة في قطاع منظَّم، وهل قد تنشأ مخاطر قانون الذكاء الاصطناعي الأوروبي؟ وهل توجد سياسة داخلية للذكاء الاصطناعي، وهل دُرِّب الموظفون، وهل يُضبط الذكاء الاصطناعي الخفي؟ وماذا يحدث إذا عُلِّقت الخدمة، وهل يمكن إعادة البيانات أو حذفها عند الخروج؟ وهل اكتملت المراجعة القانونية والمتعلقة بحماية البيانات والأمن؟

وينبغي أن تشكّل الإجابات بعد ذلك قرار الشراء — التوقيع أو التفاوض أو تقييد حالة الاستخدام أو الرفض.

الأسئلة الشائعة

لماذا تختلف عقود موردي الذكاء الاصطناعي عن عقود البرمجيات العادية؟

قد تعالج أدوات الذكاء الاصطناعي بيانات حساسة، وتنتج مخرجات غير متوقعة، وتستخدم بيانات العملاء لتحسين النماذج، وتخلق مخاطر على الملكية الفكرية، وتؤثر على الأفراد، وتعتمد على سلاسل معقدة من المتعاقدين من الباطن. تتطلب هذه المسائل مراجعة قانونية أدق من شراء البرمجيات العادي.

هل يمكن لمورد الذكاء الاصطناعي استخدام بيانات شركتنا لتدريب نموذجه؟

يعتمد ذلك على شروط المورد. ينبغي للشركات مراجعة ما إذا كان يمكن استخدام المدخلات أو المستندات المرفوعة أو المخرجات أو الملاحظات للتدريب أو لتحسين الخدمة، وما إذا كانت خيارات إلغاء الاشتراك أو الحمايات المؤسسية متاحة.

من يملك المخرجات المولَّدة بالذكاء الاصطناعي؟

تعتمد الملكية على شروط أداة الذكاء الاصطناعي والقانون الواجب التطبيق وطبيعة المخرَج. ينبغي للشركات ألا تفترض أنها تملك المخرجات أو يمكنها استخدامها تجارياً دون مراجعة العقد.

ما المخاطر القانونية الرئيسية في شراء الذكاء الاصطناعي؟

تشمل المخاطر الرئيسية حماية البيانات والسرية وانتهاك الملكية الفكرية والمخرجات الخاطئة وحدود مسؤولية المورد والنقل عبر الحدود والأمن والذكاء الاصطناعي الخفي ومخاطر القطاعات المنظمة وصلة قانون الذكاء الاصطناعي الأوروبي وحقوق الخروج غير الواضحة.

هل ينبغي أن يكون لدى الشركات سياسة داخلية للذكاء الاصطناعي؟

نعم. تساعد السياسة الداخلية للذكاء الاصطناعي على ضبط استخدام الموظفين والأدوات المعتمدة والمدخلات المحظورة والمراجعة البشرية والسرية وحماية البيانات وموافقة الشراء والإبلاغ عن الحوادث.

هل يكون الامتثال لقانون الذكاء الاصطناعي الأوروبي ذا صلة خارج الاتحاد الأوروبي؟

قد يكون ذا صلة إذا عُرضت أنظمة الذكاء الاصطناعي أو مخرجاتها أو خدمات مدعومة بالذكاء الاصطناعي في سوق الاتحاد الأوروبي أو استخدمها عملاء فيه. وقد يؤثر أيضاً على التوقعات التجارية في الشراء الدولي.

هل ينبغي أن تتضمن عقود الذكاء الاصطناعي بنوداً للرقابة البشرية؟

في حالات الاستخدام الحساسة أو عالية الأثر، نعم. ينبغي أن يحدد العقد والعملية الداخلية بوضوح متى تكون المراجعة البشرية مطلوبة ومن المسؤول عن التحقق من المخرجات.

ماذا ينبغي للشركات فعله قبل توقيع عقد مورد ذكاء اصطناعي؟

تحديد حالة الاستخدام؛ وإجراء العناية الواجبة على المورد؛ ومراجعة معالجة البيانات والسرية والملكية الفكرية والمسؤولية والأمن والنقل عبر الحدود والاستخدام المقبول وحقوق التدقيق والمخاطر التنظيمية وترتيبات الخروج.

الخلاصة

يتحوّل شراء الذكاء الاصطناعي إلى مسألة قانونية على مستوى مجلس الإدارة. فالشركة التي تتبنّى الذكاء الاصطناعي دون مراجعة شروط المورد قد تتعرّض لمخاطر حماية البيانات وخروق السرية ومطالبات الملكية الفكرية والمخرجات الخاطئة وإساءة استخدام الموظفين والتدقيق التنظيمي وشكاوى العملاء والاعتماد التشغيلي.

والنهج الأقوى ليس تجنّب الذكاء الاصطناعي — بل شراؤه بانضباط. وينبغي للشركات فهم النظام ومراجعة العقد والتحكم في البيانات وتحديد الرقابة البشرية وتوزيع المسؤولية وحفظ الأدلة وتدريب الموظفين والتخطيط للخروج. فلا يمكن للذكاء الاصطناعي أن يخلق قيمة إلا إذا كان البناء القانوني الداعم له قوياً بما يكفي لتحمّل المخاطر.

كيف يمكن أن يساعد Terziolu & Partners

يقدّم Terziolu & Partners المشورة للشركات والمستثمرين ورواد الأعمال والعملاء الأفراد في المسائل القانونية في تركيا وشمال قبرص وعبر الحدود. وقد يشمل عملنا مراجعة عقود موردي الذكاء الاصطناعي؛ وتقديم المشورة بشأن شراء الذكاء الاصطناعي المؤسسي؛ وإعداد قوائم تدقيق للعناية الواجبة على الموردين؛ وصياغة شروط الذكاء الاصطناعي بنظام SaaS وشروط العملاء؛ وإعداد سياسات داخلية لشراء الذكاء الاصطناعي؛ وتقديم المشورة بشأن مسائل حماية البيانات المتصلة بالذكاء الاصطناعي؛ ومراجعة مخاطر السرية وبيانات التدريب؛ وتقديم المشورة بشأن ملكية المخرجات ومخاطر الملكية الفكرية؛ وتقييم المخاطر التعاقدية المتصلة بقانون الذكاء الاصطناعي الأوروبي؛ ودعم العناية الواجبة القانونية المتصلة بالذكاء الاصطناعي في الاستثمارات والاستحواذات؛ والتنسيق عند الحاجة مع المستشارين التقنيين ومستشاري حماية البيانات والمستشارين الأجانب.

تحدّث إلى فريقنا بشأن عقد مورد ذكاء اصطناعي أو شراء ذكاء اصطناعي مؤسسي أو مسألة حوكمة للذكاء الاصطناعي.

هذه المقالة لأغراض المعلومات العامة فحسب ولا تشكّل استشارة قانونية. وقد تتباين مخاطر شراء الذكاء الاصطناعي وعقود الموردين بحسب نظام الذكاء الاصطناعي وشروط المورد والبيانات المعالَجة والقطاع والولاية القضائية والهيكل التعاقدي والمخاطر التنظيمية وقاعدة العملاء والاستخدام المقصود وتوقيت المشورة. ولا ينبغي اتخاذ أي إجراء أو الامتناع عنه استناداً إلى هذا المنشور. وينبغي الحصول على مشورة قانونية وتقنية ومتعلقة بحماية البيانات والأمن السيبراني والتجارة خاصة بكل حالة قبل شراء نظام ذكاء اصطناعي أو نشره أو دمجه أو الاعتماد عليه. ولا يُنشئ إرسال استفسار إلى Terziolu & Partners علاقة محام بموكّل ما لم تُقبل الوكالة رسمياً وكتابةً.