Construindo confiança na era da desinformação, da informação falsa e da informação prejudicial: desafios e soluções.

تواجه العديد من المؤسسات حقيقة أن موظفيها يتعرضون للخداع بالفعل. ومن المرجح أن ينسحب هذا الأمر على عملائهم ومستثمريهم وأعضاء مجالس إداراتهم.

لسنوات، ركزت التحذيرات على تأثير التزييف العميق (deepfakes)، مثل الرؤساء التنفيذيين المزيفين في مكالمات الفيديو، والأصوات المستنسخة التي تفوض المدفوعات، ورسائل البريد الإلكتروني الاحتيالية.

هذه التكتيكات بحد ذاتها ليست جديدة، ولكن على مدى السنوات القليلة الماضية، جعلها Inteligência artificial أرخص في الإنتاج، وأصعب في الكشف، وأكثر إقناعًا بكثير ضمن سير العمل التجاري العادي.

هذا الاتجاه هو ما يعني أن مبدأ الثقة المعدومة (Zero Trust) أصبح ذا صلة بمعالجة المعلومات بقدر ما كان ذا صلة بالوصول.

há chance Cíber segurança، ينطلق مبدأ الثقة المعدومة (Zero Trust) من افتراض بسيط: لا ينبغي الوثوق بأي مستخدم أو جهاز أو تطبيق أو طلب بشكل افتراضي.

في عصر المعلومات المضللة التي يولدها الذكاء الاصطناعي، تحتاج الشركات إلى تطبيق نفس العقلية على المعلومات التي تنتقل عبر مؤسساتها.

أزمة الثقة الجديدة

يتخذ الموظفون والعملاء والمستثمرون والشركاء قراراتهم بناءً على ما يرونه ويقرؤونه ويسمعونه. وإذا كانت هذه المعلومات خاطئة أو مُتلاعبًا بها أو مجردة من سياقها، فإن العواقب يمكن أن تتطور بسرعة من الارتباك إلى الضرر التجاري. ولهذا السبب، يجب التعامل مع المعلومات المضللة (misinformation) والمعلومات الخاطئة (disinformation) والمعلومات الخبيثة (malinformation) كمخاطر تجارية.

لطالما كانت المعلومات المضللة (misinformation) – وهي المحتوى الكاذب الذي ينتشر دون نية مبيتة – مشكلة قائمة. أما المعلومات الخاطئة (disinformation)، التي تُصمم خصيصًا للخداع، فقد أصبح إنتاجها على نطاق واسع أسهل من أي وقت مضى. وقد تكون المعلومات الخبيثة (malinformation) – وهي معلومات صحيحة، ولكنها غالبًا ما تُجرد عمدًا من سياقها وتُستخدم كسلاح – الأكثر خبثًا بين الأنواع الثلاثة. لم يعد المنافس أو المجموعة الإجرامية أو الحملة النشطة بحاجة إلى اختراق شبكة لإحداث ضرر جسيم. يمكنهم التأثير على المرتبطين بالمنظمة والمعنيين بها ببساطة عن طريق تشكيل ما يراه هؤلاء الأشخاص ويصدقونه.

ما يجعل هذا الأمر صعبًا بشكل خاص على الشركات هو أنه يعكس صراعًا يواجهه الأفراد بالفعل. ففي بيئة مشبعة بالمحتوى الذي يولده الذكاء الاصطناعي، فإن العادات التي يجب على الناس اتباعها لحماية أنفسهم – التوقف قبل التفاعل، التشكيك في المصدر، التحقق قبل التصرف – هي نفس العادات التي يجب على المؤسسات ترسيخها في طريقة عملها.

في جوهر الأمر، أصبحت غريزة الثقة نقطة ضعف. ومعالجة ذلك تتطلب استجابة هيكلية أقرب إلى الجوهر منها إلى مجرد حملة توعية.

أهمية الثقة المتحقق منها

هنا يصبح مبدأ الثقة المعدومة (Zero Trust) هو الاستراتيجية. تقليديًا، نظرت المؤسسات إلى الثقة المعدومة من منظور الامتيازات الأقل، لضمان حصول المستخدمين المناسبين على الوصول إلى التطبيقات المناسبة، لا أكثر. ولكن في بيئة المعلومات التي يحركها الذكاء الاصطناعي، يحتاج هذا المبدأ إلى التطور. فمع تزايد تهديدات مثل برامج الذكاء الاصطناعي الخبيثة، لم يعد بإمكان الشركات التركيز فقط على من يطلب الوصول. بل يجب عليها أيضًا التحقيق في نوع المعلومات المستخدمة، والإجراء المتخذ، وما إذا كانت النية وراء هذا الإجراء جديرة بالثقة.

تتمثل المرحلة التالية في تجاوز المصادقة والتحقيق في الأصالة، وطرح أسئلة مثل: “هل هذه المعلومات موثوقة؟”، “هل هذه الصورة حقيقية أم مولدة بالذكاء الاصطناعي؟”، و”هل تم تعديل هذا المحتوى؟”. يوفر مبدأ الثقة المعدومة للشركات إطار عمل للإجابة على هذه الأسئلة. فهو يجبر المؤسسات على التحقق قبل التصرف، والحد من التعرض حيثما أمكن، وتقليل مخاطر انتقال المعلومات الكاذبة أو المتلاعب بها أو المجردة من سياقها دون رقابة عبر الأعمال.

هيئات المعايير مثل C2PA (تحالف من أجل منشأ المحتوى وموثوقيته) تُشير إلى الاتجاه الذي يسير فيه هذا الأمر: مستقبل يتم فيه دمج منشأ المحتوى وسلامته في المحتوى الرقمي نفسه، بنفس الطريقة التي يشير بها قفل في المتصفح إلى أن الاتصال آمن. بشكل أساسي، لن تحتاج الشركات إلى التحقق من الثقة، بل ستكون الثقة متأصلة في المعلومات وتنتقل معها، حيث يغذي منشأ المحتوى عمليات التحقق. وبالتالي، يصبح كل جزء من المحتوى إشارة في قرار الثقة المستمر.

بناء الثقة في عصر الوكلاء الذكيين

أصبحت الحاجة إلى الثقة في النوايا أكثر إلحاحًا مع دخول وكلاء الذكاء الاصطناعي إلى بيئة العمل. سيعمل هؤلاء الوكلاء بشكل متزايد كشخص آخر يعمل إلى جانبنا، محاكين سلوكياتنا مثل قراءة المستندات، تفسير البيانات، اتخاذ القرارات، والتصرف. الفرق، مع ذلك، هو أن هذه الهويات غير البشرية تتحرك بسرعة الآلة، حيث لا أمل لعمليات التحقق بالسرعة البشرية في مواكبتها.

هذا يعني أن وكلاء الذكاء الاصطناعي deve يُحكموا من البداية عبر نموذج Zero Trust (الثقة المعدومة). لا ينبغي الوثوق بالوكيل لمجرد وجوده داخل المؤسسة، أو موافقة مستخدم عليه، أو اتصاله بأنظمة الشركة. يجب التحقق باستمرار من هويته، صلاحياته، سلوكه، ومخرجاته. وبنفس القدر من الأهمية، يجب أن يُحكم الوكلاء بمبدأ أقل الامتيازات (least privilege)، ومبدأ أقل المعلومات (least information)، وأقل الوظائف (least function)، مما يمنحهم الحد الأدنى فقط من الوصول والبيانات والقدرات المطلوبة لمهمة محددة.

ومع ذلك، يخلق هؤلاء الوكلاء تحديًا للثقة Não é possivel لإدارة الهوية وحدها حله. ستحتاج الشركات إلى معرفة ما إذا كانت تتعامل مع إنسان أم آلة، وما إذا كان الوكيل يتصرف بمسؤولية، وما إذا كانت أفعاله تعكس قيم المؤسسة وحدودها. بشكل فعال، ستحتاج الشركات إلى اعتماد دستور تشغيلي تُقاس عليه تصرفات الوكلاء باستمرار.

وفي عصر الذكاء الاصطناعي هذا، يجب على المؤسسات فحص المعلومات والمحتوى والنوايا والسلوك والإجراءات في الوقت الفعلي وباستمرار، حيث يتم التحقق من الهوية عادةً عند نقطة الدخول فقط. ولكن، نظرًا لحجم المهمة المطروحة، سيتطلب الأمر استخدام الذكاء الاصطناعي للتدقيق، والإشارة إلى المخالفات، والحوكمة حسب الحاجة، والحفاظ على سلسلة الثقة سليمة.

هندسة الثقة في الأعمال التجارية

المؤسسات التي ستنجح هي تلك التي تتعامل مع الثقة كشيء يجب هندسته وتصميمه، بدلاً من افتراض وجوده. المعلومات المضللة (misinformation)، والمعلومات الخاطئة (disinformation)، والمعلومات الخبيثة (malinformation) تمثل تحديات أمنية، وتحديات للمرونة، وتحديات قيادية، والذكاء الاصطناعي يجعل تجاهلها أكثر صعوبة.

مع استمرار التكنولوجيا في تشكيل كيفية إنشاء المعلومات ومشاركتها والتعامل معها، تحتاج الشركات إلى بناء نفس الانضباط حول الأصالة الذي طبقته دائمًا على الوصول. وهذا يعني التحقق من المحتوى، التشكيك في النوايا، وتقييد ما يمكن لأنظمة الذكاء الاصطناعي فعله بما هو ضروري حقًا.

لم تعد الثقة هي الإعداد الافتراضي. بدلاً من ذلك، في بيئة العمل الحالية، يجب أن تكون الثقة قرارًا يُتخذ باستمرار، وبسرعة الآلة، عبر المعلومات والنوايا والسلوك والإجراءات. الخبر السار هو أن الإطار العام موجود بالفعل في نموذج Zero Trust (الثقة المعدومة). ولكن ما يحتاج إلى التغيير هو كيفية تطبيق المؤسسات لهذا النموذج، وتوسيع نطاقه ليشمل المعلومات والنوايا والسلوك والإجراءات.

لقد قمنا بمراجعة وتقييم وتصنيف أفضل مجموعات أمان الإنترنت.