الذكاء الاصطناعي التوليدي وبيانات الشركة: قواعد الأمان

المخاطر الثلاثة الرئيسية

1. تسرّب البيانات: عقد أو قاعدة عملاء أو كلمة مرور أُدخلت في أداة عامة.
2. الخطأ: إجابة مختلَقة أُعيد استخدامها دون تحقق في وثيقة موجّهة لعميل.
3. عدم الامتثال: معالجة معطيات شخصية دون أساس قانوني، خلافًا للتشريع المعمول به (في تونس، القانون الأساسي لسنة 2004 المتعلق بحماية المعطيات الشخصية؛ واللائحة الأوروبية العامة لحماية البيانات لمعطيات المقيمين في أوروبا).

تصنيف البيانات

اختيار الأدوات المناسبة

تتضمن العروض المهنية لدى أبرز المزوّدين (ChatGPT Enterprise أو Team، وMicrosoft 365 Copilot، وGemini لـGoogle Workspace) التزامات تعاقدية بشأن السرية وعدم تدريب النماذج على بياناتك. تحقّق من شروط كل عرض، ومكان تخزين البيانات، وخيارات الإدارة قبل تعميمها.

ميثاق الاستخدام في عشرة أسطر

• الأدوات المسموح بها والحسابات الواجب استخدامها.
• البيانات الممنوع إدخالها.
• المراجعة الإلزامية لأي محتوى موجّه لعميل.
• الإشارة إلى استخدام الذكاء الاصطناعي حين يكون ذلك مناسبًا.
• الشخص الذي يُتّصل به عند الشك أو وقوع حادث.

أرفقه بتكوين قصير: فمعظم التسريبات تأتي من نقص المعلومة لا من سوء النية.

المخاطر التقنية التي يجب معرفتها

• حقن التعليمات: قد يحرف مستند أو صفحة ويب تحتوي على تعليمات مخفية مساعدَ ذكاء اصطناعي مربوطًا بأدواتك.
• الإضافات والموصلات: كل ربط بالبريد أو بنظام CRM أو بالملفات يوسّع صلاحيات الأداة، فلا تفعّل إلا ما هو ضروري.
• الحسابات الشخصية: الموظف الذي يستخدم حسابًا مجانيًا لأغراض العمل يفلت من أي رقابة.
• صلاحيات الوصول: قد يكشف مساعد يبحث في ملفات الشركة مستندات ما كان ينبغي للمستخدم رؤيتها إذا كانت الصلاحيات مضبوطة بشكل خاطئ.

إرساء الحوكمة

عيّن مسؤولًا عن استخدام الذكاء الاصطناعي، وغالبًا ما يكون مسؤول تقنية المعلومات أو أحد أعضاء الإدارة. يحتفظ بقائمة الأدوات المسموح بها، ويصادق على الاستخدامات الجديدة، ويتابع الحوادث، ويحدّث الميثاق. وخطّط لمراجعة فصلية للاستخدامات الفعلية، فما تفعله الفرق حقًا بالذكاء الاصطناعي يختلف غالبًا عمّا كان متوقّعًا.

تدريب الفرق

يكفي تدريب لمدة ساعتين لتغطية الأساسيات: ما يجيده الذكاء الاصطناعي وما لا يجيده، والمستويات الثلاثة للبيانات، والأدوات المسموح بها، والتحقّق من الإجابات، والعادات الجيدة. أضف أمثلة ملموسة من نشاطك: صياغة رد على عميل دون لصق العقد، وتلخيص اجتماع دون بيانات شخصية، وإعداد تحليل من أرقام مجهولة الهوية.

التحقّق من مزوّد الذكاء الاصطناعي

ماذا نفعل عند وقوع حادث

1. تحديد البيانات المكشوفة والأداة المعنية.
2. حذف المحادثة أو الملف إن سمحت الأداة بذلك، وإلغاء الصلاحيات المحتملة.
3. إبلاغ المسؤول المعيَّن، وإذا تعلّق الأمر ببيانات شخصية، تقييم وجوب إخطار السلطة المختصة.
4. إعلام الأشخاص المعنيين عند الحاجة.
5. معالجة السبب: تدريب، أو ضبط، أو تغيير الأداة.

سجّل كل حادث في سجلّ خاص، فهو أفضل أساس لتحسين القواعد.

التوفيق بين الأمان والإنتاجية

لا يحمي منع الذكاء الاصطناعي الشركة، إذ يلجأ الموظفون حينها إلى أدوات عامة دون أي رقابة. النهج الصحيح هو توفير أدوات مهنية تلائم الاستخدامات الفعلية، مع قواعد بسيطة. فالوقت الموفَّر كبير في الكتابة والتلخيص والتحليل، شرط أن يكون الإطار واضحًا. اطّلع على دليلنا حول Microsoft Copilot في الشركات الصغيرة والمتوسطة كمثال على أداة مدمجة.

الاستعانة بمرافقة

يحصر تدقيق استخدام الذكاء الاصطناعي الأدوات المستخدمة والبيانات المعنية والمخاطر، ثم يقترح ميثاقًا وخارطة طريق. وهو غالبًا الخطوة الأولى لمشروع أتمتة أوسع. تغطي مرافقتنا في الذكاء الاصطناعي والتحول الرقمي هذين الجانبين.

الإطار القانوني

تنطبق قواعد حماية البيانات على الذكاء الاصطناعي أيضًا. في تونس، ينظّم القانون الأساسي لسنة 2004 معالجة المعطيات الشخصية وينصّ على تصاريح لدى الهيئة الوطنية المختصة. وبالنسبة إلى بيانات المقيمين في أوروبا، يفرض النظام الأوروبي لحماية البيانات أساسًا قانونيًا وإعلام الأشخاص وضمانات عند نقل البيانات خارج الاتحاد. وفي الخليج، اعتمدت عدة دول قوانينها الخاصة بالبيانات الشخصية. قبل أن تعهد ببيانات إلى أداة ذكاء اصطناعي، تحقّق مع مستشارك القانوني من القواعد المطبّقة في بلدان عملائك.

الأسئلة الشائعة