كيفية تدقيق مجموعات البيانات للامتثال لقانون الذكاء الاصطناعي للاتحاد الأوروبي بشأن المخاطر العالية

نشر European AI Office مؤخراً أول عمل مفوض له بموجب EU AI Act، حيث قدم المواصفات الفنية التي طال انتظارها لجودة البيانات والحوكمة والتوثيق. بالنسبة لمالكي البيانات والمشترين، تنقل هذه الخطوة الامتثال من مجرد تجريد قانوني إلى متطلب تشغيلي ملموس. إذا كانت مجموعة البيانات الخاصة بك مخصصة للاستخدام في أنظمة الذكاء الاصطناعي 'عالية المخاطر' - مثل تلك المستخدمة في التوظيف، أو التقييم الائتماني، أو البنية التحتية الحيوية - فإن استيفاء هذه المعايير لم يعد اختيارياً؛ بل هو الشرط الأساسي لدخول السوق.

تحديد متطلبات البيانات 'عالية المخاطر'

بموجب EU AI Act، يتم تحديد تصنيف 'عالية المخاطر' من خلال التطبيق، وليس البيانات نفسها. ومع ذلك، يقع عبء الإثبات بشكل كبير على بيانات التدريب. وفقاً لـ Article 10 من EU AI Act، يجب أن تخضع مجموعات البيانات المستخدمة للتدريب والتحقق والاختبار للذكاء الاصطناعي عالي المخاطر لـ 'ممارسات صارمة لحوكمة البيانات وإدارتها'. ويشمل ذلك كل شيء بدءاً من خيارات التصميم الأولية وصولاً إلى فحص التحيز النهائي.

بالنسبة لمالك البيانات، يعني هذا أن قيمة أصولك أصبحت الآن مرتبطة جوهرياً بسجل التدقيق الخاص بها. بالنسبة للمشتري، فإن الحصول على بيانات غير ممتثلة لتطبيق عالي المخاطر يمثل مسؤولية كارثية. يمكن أن يؤدي عدم الامتثال إلى غرامات إدارية تصل إلى €35,000,000 أو 7% من إجمالي حجم الأعمال السنوي العالمي (artificialintelligenceact.eu)، أيهما أعلى. وبناءً على ذلك، أصبحت القدرة على acquire rare, compliant training data under the EU AI Act أولوية استراتيجية أساسية لمختبرات الذكاء الاصطناعي.

قائمة مراجعة الامتثال لـ Article 10

لإعداد مجموعة بيانات لحالات الاستخدام عالية المخاطر، يجب على المؤسسات تنفيذ إطار حوكمة متعدد الطبقات. المعايير التالية إلزامية الآن لأي مجموعة بيانات تدخل في سلسلة توريد عالية المخاطر:

• خيارات التصميم وجمع البيانات: يجب عليك توثيق المنطق الكامن وراء اختيار البيانات والأساليب المحددة المستخدمة للجمع. يتضمن ذلك التحقق من الأساس القانوني للمعالجة، خاصة بموجب GDPR.
• عمليات معالجة البيانات: يجب توثيق كل خطوة - التنظيف والتحويل والتصنيف. في السيناريوهات عالية المخاطر، تعتبر 'أصل' التصنيف (من قام بتعيينه وبموجب أي إرشادات) لا تقل أهمية عن التصنيف نفسه.
• التمثيل وتحليل الفجوات: يتطلب EU AI Act أن تكون مجموعات البيانات 'ذات صلة، وممثلة، وخالية من الأخطاء إلى أقصى حد ممكن'. يتطلب ذلك تحليلاً رسمياً للفجوات لتحديد التركيبة السكانية المفقودة أو الحالات الهامشية التي قد تؤدي إلى فشل النظام.
• كشف التحيز والتخفيف من آثاره: هذا هو المتطلب الأكثر تطلباً من الناحية الفنية. يجب على مالكي البيانات إجراء اختبارات إحصائية للكشف عن التحيزات التي قد تؤدي إلى تمييز محظور. إذا تم العثور على تحيز، يجب 'إعادة توازن' مجموعة البيانات أو يجب التخفيف من التحيز من خلال وسائل تقنية قبل البيع.

تكلفة الامتثال مقابل علاوة السوق

إن إعداد مجموعة بيانات للامتثال عالي المخاطر يتطلب موارد كثيفة. قدر تقييم الأثر الأولي لـ European Commission أن تكاليف الامتثال لـ SME يمكن أن تتراوح بين €6,000 و €7,000 (الرقم المعلن: digital-strategy.ec.europa.eu) خصيصاً لمتطلبات حوكمة البيانات للأنظمة عالية المخاطر. ومع ذلك، يشير محللو الصناعة الآن إلى أنه بالنسبة لمجموعات البيانات المعقدة متعددة الوسائط، يمكن أن تتجاوز تكلفة تدقيق Article 10 الكاملة €50,000 لكل أصل.

على الرغم من أن هذه التكاليف كبيرة، إلا أنها تخلق 'خندق امتثال'. البيانات التي تم تدقيقها مسبقاً و'الجاهزة للنشر عالي المخاطر' تفرض علاوة كبيرة في السوق الثانوية. نحن نرى مجموعات بيانات 'Article 10-ready' لخدمات الرعاية الصحية والخدمات المالية يتم تداولها بـ 2x إلى 3x سعر البدائل القياسية غير المدققة في curated dataset catalogue الخاص بنا.

التوثيق: 'جواز سفر البيانات'

المتطلب النهائي هو إنشاء وثائق فنية شاملة. يجب أن يسمح 'جواز سفر البيانات' هذا لمدقق خارجي بفهم كيفية التعامل مع البيانات بالضبط. يجب أن يتضمن أصل البيانات وخصائصها والتدابير المتخذة لضمان استيفائها لمعايير الجودة الخاصة بـ European AI Office. بدون هذا التوثيق، تعتبر البيانات فعلياً 'سامة' لأي مطور ذكاء اصطناعي عالي المخاطر، حيث لا يمكنهم الوفاء بالتزامات الشفافية الخاصة بهم بموجب القانون.

ماذا يعني هذا بالنسبة لك

بالنسبة لـ Data Owners، الرسالة واضحة: لقد انتهى عصر بيع البيانات 'الخام' في الصناعات الحساسة. لتعظيم قيمة أصولك، يجب عليك الاستثمار في طبقة الحوكمة. لم تعد مجموعة البيانات المدققة مجرد مجموعة من النقاط؛ بل هي أصل مالي معتمد.

بالنسبة لـ Data Buyers، يجب أن يتحول التركيز من الحجم إلى الاستحواذ القائم على 'الحوكمة أولاً'. قبل توقيع اتفاقية ترخيص، اطلب تقرير تدقيق Article 10. إذا لم يتمكن المورد من تقديم تقرير واضح عن النسب والتخفيف من التحيز، فإن البيانات تمثل مسؤولية قد تؤدي إلى الإيقاف القسري لنموذج الذكاء الاصطناعي الخاص بك من قبل المنظمين الأوروبيين.