سنرفع مستنداتنا على سحابة مدمج بها ذكاء اصطناعي — ما هي المخاطر الفعلية على بيانات العملاء؟

أنصحكم بالاطلاع على التوصيات الصادرة عن هيئة حماية البيانات في فرنسا بشأن استخدام الذكاء الاصطناعي. إذا كانت مستندات العملاء تحتوي على هويات أو بيانات بنكية لأطراف ثالثة، فيجب حتمًا إبرام اتفاقية معالجة بيانات تتضمن البنود التعاقدية القياسية مع مزود السحابة وإضافة نشاط المعالجة هذا إلى سجلكم.

أخطر نقطة هي حقوق الوصول في بنية استرجاع المعلومات. في السحابة التقليدية لا يستطيع الموظف رؤية مجلد الرواتب. لكن إذا كان الذكاء الاصطناعي يقوم بفهرسة عامة ولم يرث أذونات الملفات بشكل صحيح، فيمكن للموظف سحب بيانات ذلك المستند وتلخيصه بطريقة غير مباشرة عبر شريط المحادثة. تأكدوا تمامًا من وراثة الأذونات.

لا تثقوا عميانيًا بتعهد المزودين بأنهم 'لا يستخدمون بياناتكم للتدريب'. راجعوا الوثائق التقنية لتعرفوا هل يرسلون البيانات إلى خوادم طرف ثالث لإجراء التلخيص أم لا. فمعظم الأنظمة الكبيرة تستعين بنماذج لغوية لشركات أخرى كطرف من الباطن.

وجدنا في شركتنا الاستشارية حلاً وسطًا: بدلاً من رفع بيانات العملاء مباشرة، نقوم أولاً بإخفاء الهوية في المسودات التي سنحللها. نكتب 'العميل أ' بدلاً من Ahmet Yılmaz، و'الشركة س' بدلاً من اسم الشركة ثم نسأل الأداة. تأخذ منا دقيقتين إضافيتين لكننا مرتاحو البال.

عندما فعّل فريقنا أول أداة ذكاء اصطناعي، تفاجأنا بأحد المساعدين يلصق عقد مورد بالكامل ويطلب منه 'اكتشاف الثغرات في هذا العقد'... العنصر البشري هو أضعف حلقة. يعني لا تفتحوا هذا الزر قبل أن تشرحوا للموظفين نقطة بنقطة ما يمكن رفعه وما لا يمكن.

قائمة تحقق قبل البدء بالتطبيق: 1) أوقفوا إذن تدريب النماذج تمامًا من إعدادات السحابة. 2) استثنوا المجلدات التي تحوي بيانات الهويات والـ IBAN من نطاق فحص الذكاء الاصطناعي. 3) راجعوا سجلات النشاط (Logs) أسبوعيًا لمعرفة نوع المستندات التي يبحث عنها الموظفون.

دمجنا العام الماضي كل أرشيفنا في نظام مدعوم بالذكاء الاصطناعي بنفس هذا الحماس. للأمانة حققنا قفزة هائلة في السرعة والإنتاجية. لكن عندما طلب أحد عملائنا الكبار تدقيقًا أمنيًا، واجهنا صعوبة بالغة في شرح بنود عقودنا. إذا لم تكن العقود وحدود معالجة البيانات واضحة، فإن خطر خسارة العميل قد يفوق بكثير الوقت الذي ستكسبه.

هذا العنوان مؤرشف... إذا كانت قناة الإشعارات طويلة، فلن تصل الإشعارات؛ والإشعار غير الواصل يعني حدثًا يُكتشف متأخرًا.

هذا كل شيء، أرجو المعذرة إذا أطالت.

موضوع في الوقت المناسب تمامًا.

وكيف حللتم هذه النقطة؟ عندما نتخذ قرارات دون قياس، نعود لنفس النقطة دائماً.

إذا كان هناك من يفعلها بطريقة أخرى، فأنا فضولي لمعرفة ذلك.

سأجمع الموضوع، لأن هناك عدة إجابات مختلفة. فعل الجميع لشيء ما لا يعني أنه صحيح.

إذا كان هناك من يفعلها بطريقة أخرى، فأنا فضولي لمعرفة ذلك.

عانيت من نفس الشيء.

هل يمكنك توضيح هذا أكثر؟ معظم إضاعة الوقت تتراكم في المهام المنتظرة للموافقة.

بالتوفيق.

أنت محق، لقد مررت بنفس المسار. بيئات الاختبار المنسية تصبح ثغرات أمنية أكثر تكرارًا من الأنظمة الحية.

محاولة فعل هذا بمفردك هي أغلى الطرق. أتمنى أن يفيدك هذا.

تم الحفظ. إذا حصلت على ثلاث إجابات مختلفة حول موضوع ما، فالسؤال طرح بشكل خاطئ.

لم أكن أعلم بهذا. معظم إضاعة الوقت تتراكم في المهام المنتظرة للموافقة.

إذا كان هناك من يفعلها بطريقة أخرى، فأنا فضولي لمعرفة ذلك.

أنا أيضًا متحمس لمعرفة ذلك.

يجب أن نسير بالترتيب. عندما تحاول تغيير كل شيء دفعة واحدة، لا يستقر أي شيء.

إذا كتبت النتيجة هنا، فستفيد الآخرين أيضاً.