يشهد الذكاء الاصطناعي انتشارًا سريعًا في أماكن العمل، حيث تتسارع الشركات في تبني التقنيات الذكية لتحسين الأداء وزيادة الإنتاجية. ومع ذلك، يتسبب هذا الانتشار السريع في ظهور مخاطر جديدة تعرف باسم “الذكاء الاصطناعي الخفي”، حيث يتم توصيل الأدوات والتكاملات الذكية بالأنظمة المؤسسية دون إشراف أمني كافٍ.
مخاطر الذكاء الاصطناعي الخفي
يتمثل خطر الذكاء الاصطناعي الخفي في قدرته على الوصول إلى بيانات الشركة دون رقابة، مما يشكل تهديدًا للأمن المعلوماتي. تتضمن هذه الأدوات تكاملات مع منصات SaaS الشائعة مثل Salesforce وSlack وGoogle Workspace. تبقى بعض هذه الروابط نشطة حتى بعد مغادرة المستخدم الأصلي للشركة، مما يعني استمرار وصول الأنظمة الذكية إلى البيانات الحساسة.
أشار الدكتور تال شابيرا، المؤسس المشارك والمدير التقني لشركة Reco، إلى أن هذه الأدوات الذكية تتسلل إلى بنية الشركة التحتية وتبقى غير مكتشفة لفترات طويلة. هذا يجعل من الصعب التحكم فيها، خاصة أن العديد من أنظمة الذكاء الاصطناعي تعتمد على التنبؤات بدلاً من الأوامر الواضحة، مما يزيد من تعقيد مراقبتها.
حوادث الذكاء الاصطناعي في العالم الحقيقي
ظهرت مخاطر الذكاء الاصطناعي الخفي في بعض الحوادث الواقعية. عملت شركة Reco مع مؤسسة مالية كبرى واكتشفت أكثر من 1000 تكامل غير مصرح به في أنظمتها، كان نصفها مدعومًا بالذكاء الاصطناعي. تضمنت هذه التكاملات أدوات تسجيل مكالمات كانت تسجل محادثات العملاء بدون علمهم، مما يعرض البيانات الحساسة للنماذج الخارجية.
في حادثة أخرى، قام موظف بربط ChatGPT مباشرة مع Salesforce، مما أتاح للذكاء الاصطناعي توليد تقارير داخلية بسرعة. رغم أن هذا الإجراء كان فعالاً، إلا أنه عرض معلومات العملاء وتوقعات المبيعات للنظم الخارجية.
حلول Reco لكشف الذكاء الاصطناعي الخفي
تقدم منصة Reco رؤية شاملة للأدوات الذكية المتصلة بأنظمة الشركات وما يمكنها الوصول إليه من بيانات. تقوم المنصة بمسح بيئات SaaS باستمرار للكشف عن التطبيقات الطرفية والامتدادات، وتحديد المستخدمين الذين قاموا بتثبيتها والصلاحيات التي يتمتعون بها. يمكن للنظام تنبيه المسؤولين أو إلغاء الوصول تلقائيًا إذا تم اكتشاف أي اتصال مشبوه.
تركز Reco على طبقة الهوية والوصول، مما يجعلها مناسبة للشركات التي تعتمد على السحابة حيث توجد معظم البيانات خارج الجدران النارية التقليدية.
دعوة للاستيقاظ في مجال الأمن المؤسسي
تعكس جهود Reco اتجاهًا أكبر في مجال الأمن المؤسسي، حيث يتغير التركيز من حظر الذكاء الاصطناعي إلى حوكمة استخدامه. وفقًا لتقرير حديث من Cisco، يعترف 62% من المؤسسات بأنها تفتقر إلى الرؤية حول كيفية استخدام الموظفين لأدوات الذكاء الاصطناعي في العمل، وقد واجهت نصفها تقريبًا حادثة بيانات متعلقة بالذكاء الاصطناعي بالفعل.
مع تضمين ميزات الذكاء الاصطناعي في البرمجيات السائدة، يتزايد التحدي في ضمان أمان البيانات. تساعد منصة Reco في سد الفجوة من خلال مراقبة النشاط الذكي المصرح به وغير المصرح به، مما يساعد الشركات على بناء صورة أوضح لتدفق بياناتها وأسبابه.
الخاتمة
يدخل الشركات مرحلة جديدة تعرف بمرحلة البنية التحتية للذكاء الاصطناعي، حيث ستحتوي كل أداة عمل على شكل من أشكال الذكاء الاصطناعي. مما يجعل المراقبة المستمرة والوصول بأقل الصلاحيات والامتيازات قصيرة الأجل أمرًا ضروريًا. الشركات التي ستنجح في هذه المرحلة لن تكون تلك التي تمنع الذكاء الاصطناعي، بل تلك التي تتبناه بأمان مع ضمان الابتكار والثقة. إن الذكاء الاصطناعي الخفي هو نتيجة لتسارع تطور التكنولوجيا، وليس علامة على تهور الموظفين. الرسالة بسيطة: لا يمكن تأمين ما لا يمكن رؤيته.