المحاضرة 12: أمن البيانات والبرمجة الآمنة وأمن الذكاء الاصطناعي
شرح المحاضرة + العرض التقديمي
المحاضرة 12 — أمن البيانات المخزّنة والبرمجة الآمنة وأمن تطبيقات الذكاء الاصطناعي + مراجعة
المساق: أمن الويب · المدة: ساعتان · المخرجات: مـ4، مـ6
المختبر المرافق: المختبر 12 (تأمين قاعدة البيانات)
أهداف المحاضرة
- يطبّق حماية البيانات في حالة السكون.
- يفهم مبدأ أقل الصلاحيات في قواعد البيانات.
- يدمج الأمن في دورة التطوير (SDLC).
- يتعرّف على مخاطر التطبيقات المعتمدة على النماذج اللغوية وفق OWASP Top 10 for LLM Applications، وفي مقدمتها حقن التعليمات (Prompt Injection)، ويتدرّب على محاكاتها في بيئة تدريبية مرخّصة.
- يراجع مفاهيم المساق.
بعد هذه المحاضرة يستطيع الطالب أن: يميّز متى يشفّر ومتى يجزّئ، ويكتب كود تشفير عمود حساس بشكل صحيح، وينشئ حساب قاعدة بيانات بأقل الصلاحيات، ويضع نشاطاً أمنياً مناسباً في كل مرحلة من مراحل تطوير البرمجيات، ويشرح لماذا يُعدّ حقن التعليمات خطراً على تطبيقات الويب التي تستخدم النماذج اللغوية وكيف يحدّ من ضرره بأقل الصلاحيات وترميز المخرجات والموافقة البشرية.
1. أمن البيانات المخزّنة
البيانات تمرّ بثلاث حالات، ولكل حالة حمايتها:
| الحالة |
أمثلة |
الحماية الأساسية |
| أثناء النقل (In Transit) |
طلب تسجيل الدخول عبر الشبكة |
TLS 1.3 وHSTS (المحاضرة 10) |
| أثناء التخزين/السكون (At Rest) |
جداول قاعدة البيانات، النسخ الاحتياطية، الملفات المرفوعة |
التشفير، التجزئة، الصلاحيات |
| أثناء المعالجة (In Use) |
البيانات في ذاكرة الخادم |
تقليل البيانات، أقل الصلاحيات، تقوية الخادم (المحاضرة 11) |
تشبيه: HTTPS يشبه سيارة مصفّحة تنقل الأموال إلى البنك. لكن إذا وُضعت الأموال بعد وصولها على طاولة مفتوحة، فلا قيمة للسيارة المصفّحة. حماية البيانات المخزّنة هي «الخزنة» داخل البنك.
ترتبط هذه المحاضرة بفئة A04:2025 – Cryptographic Failures في OWASP Top 10:2025.
التشفير أثناء التخزين (At Rest)
- شفّر الأعمدة الحسّاسة (أرقام هوية، بيانات صحّية).
- استخدم خوارزميات قوية (AES) وأدِر المفاتيح بأمان (منفصلة عن البيانات).
- كلمات المرور: تُجزَّأ بـ bcrypt/Argon2 (لا تُشفَّر) — محاضرة 7.
مستويات التشفير أثناء التخزين
| المستوى |
ماذا يحمي؟ |
ماذا لا يحمي؟ |
| تشفير القرص كاملاً (Full Disk Encryption) |
سرقة القرص أو الجهاز |
لا يحمي من مهاجم دخل عبر التطبيق؛ فالبيانات تُفكّ تلقائياً للنظام العامل |
| تشفير قاعدة البيانات الشفاف (TDE) |
سرقة ملفات قاعدة البيانات أو النسخ الاحتياطية |
لا يحمي من استعلام ينفّذه حساب التطبيق نفسه |
| تشفير على مستوى التطبيق للأعمدة (Application-level / Field-level) |
تسريب الجدول عبر حقن SQL أو نسخة احتياطية مسرّبة |
يحتاج إدارة مفاتيح دقيقة، ويصعّب البحث في العمود |
الفكرة: كلما اقترب التشفير من التطبيق، حمى من سيناريوهات أكثر، لكنه أصبح أكثر تعقيداً. البيانات شديدة الحساسية (رقم الهوية، التشخيص الطبي) تستحق تشفير الأعمدة.
التشفير أم التجزئة؟
| المقارنة |
التشفير (Encryption) |
التجزئة (Hashing) |
| هل يمكن الرجوع للأصل؟ |
نعم، بالمفتاح |
لا، اتجاه واحد |
| متى نستخدمه؟ |
بيانات نحتاج قراءتها لاحقاً (رقم الهوية، رقم الهاتف) |
بيانات نحتاج فقط التحقق منها (كلمات المرور) |
| خوارزميات حديثة |
AES-256-GCM، XChaCha20-Poly1305 |
Argon2id، bcrypt |
| أخطاء شائعة |
ECB، مفتاح داخل الكود |
MD5، SHA-1، SHA-256 بدون ملح وبدون إبطاء |
كيف يعمل تشفير عمود بـ AES-GCM؟ (خطوات)
- نولّد مفتاحاً عشوائياً بطول 32 بايت مرة واحدة، ونحفظه خارج قاعدة البيانات والكود (متغير بيئة أو خدمة إدارة أسرار).
- لكل قيمة نولّد رقماً عشوائياً جديداً (IV/Nonce) بطول 12 بايت، ولا نكرّره أبداً مع المفتاح نفسه.
- نشفّر القيمة، فينتج نص مشفّر (Ciphertext) ووسم مصادقة (Authentication Tag) يكشف أي تلاعب.
- نخزّن
IV + Tag + Ciphertext معاً في العمود (مرمّزة Base64).
- عند القراءة نفصلها ونفكّ التشفير؛ إذا عُدّلت البيانات يفشل فك التشفير بدل أن يعيد قيمة خاطئة.
<?php
// ❌ معطوب: نمط ECB، ومفتاح ضعيف مكتوب داخل الكود
// ECB يُنتج النص المشفّر نفسه للقيمة نفسها، فتظهر الأنماط ويمكن مقارنة السجلات
$enc = openssl_encrypt($nationalId, 'aes-128-ecb', 'secret123');
<?php
// ✅ آمن: AES-256-GCM مع IV عشوائي لكل قيمة ومفتاح من خارج الكود
function encrypt_field(string $plain, string $key): string {
$iv = random_bytes(12); // IV جديد لكل عملية
$tag = '';
$ct = openssl_encrypt($plain, 'aes-256-gcm', $key, OPENSSL_RAW_DATA, $iv, $tag);
return base64_encode($iv . $tag . $ct); // نخزّن الثلاثة معاً
}
function decrypt_field(string $stored, string $key): ?string {
$raw = base64_decode($stored, true);
if ($raw === false || strlen($raw) < 28) return null;
$iv = substr($raw, 0, 12);
$tag = substr($raw, 12, 16);
$ct = substr($raw, 28);
$plain = openssl_decrypt($ct, 'aes-256-gcm', $key, OPENSSL_RAW_DATA, $iv, $tag);
return $plain === false ? null : $plain; // false تعني تلاعباً أو مفتاحاً خاطئاً
}
// المفتاح: 32 بايت مخزّنة بترميز Base64 في متغير بيئة، وليس في المستودع
$key = base64_decode(getenv('DATA_ENC_KEY'));
$stored = encrypt_field('401234567', $key);
البحث في عمود مشفّر: بما أن التشفير الصحيح يعطي ناتجاً مختلفاً في كل مرة، لا يمكن كتابة WHERE national_id = ? مباشرة. الحل المعتاد هو عمود إضافي يحفظ بصمة HMAC للقيمة بمفتاح منفصل، ويُبحث بها. هذا موضوع متقدم، ويكفي الآن أن تعرف سبب المشكلة.
تجزئة كلمات المرور (تذكير من المحاضرة 7)
<?php
// ❌ معطوب: MD5 سريع جداً وبدون ملح؛ الكلمات المتشابهة لها البصمة نفسها
$hash = md5($password);
// ✅ آمن: Argon2id (أو bcrypt عبر PASSWORD_DEFAULT) مع ملح تلقائي
$hash = password_hash($password, PASSWORD_ARGON2ID);
if (password_verify($input, $hash)) {
// تسجيل دخول ناجح
}
// Node.js: مكتبة bcrypt
const bcrypt = require('bcrypt');
const hash = await bcrypt.hash(password, 12); // 12 = معامل التكلفة
const ok = await bcrypt.compare(input, hash);
إدارة المفاتيح والأسرار
المفتاح هو كل شيء: تشفير قوي بمفتاح مكشوف يساوي عدم التشفير. إدارة المفاتيح (Key Management) تعني:
- المفتاح منفصل عن البيانات: لا في الجدول نفسه، ولا في الكود، ولا في المستودع (Git).
- يُخزَّن في متغيرات البيئة أو ملف خارج مجلد الموقع العام بصلاحيات مقيّدة، والأفضل في خدمة إدارة أسرار (Secrets Manager / Vault).
- يُدوَّر (Key Rotation) دورياً أو فوراً عند الشك في تسريبه.
- يعرفه أقل عدد ممكن من الأشخاص والأنظمة.
<?php
// ❌ معطوب: بيانات الاتصال بحساب root داخل الكود المرفوع إلى Git
$pdo = new PDO('mysql:host=localhost;dbname=store', 'root', 'P@ssw0rd');
// ✅ آمن: حساب مخصّص بأقل الصلاحيات، والأسرار من البيئة
$pdo = new PDO(
'mysql:host=' . getenv('DB_HOST') . ';dbname=store;charset=utf8mb4',
getenv('DB_USER'), // مثلاً store_app وليس root
getenv('DB_PASS'),
[PDO::ATTR_ERRMODE => PDO::ERRMODE_EXCEPTION]
);
تصنيف البيانات
صنّف البيانات حسب حسّاسيتها، وطبّق ضوابط أقوى على الأعلى حسّاسية، واحتفظ بأقل ما تحتاج فقط (Data Minimization).
تصنيف البيانات (Data Classification) يشبه تصنيف وثائق مكتب شؤون الطلاب: إعلان الجدول الدراسي يُعلَّق على اللوحة، أما ملف الطالب الطبي فيُحفظ في خزانة مقفلة.
| التصنيف |
أمثلة من بوابة جامعية |
الضوابط |
| عام |
الجدول الدراسي، أخبار الكلية |
لا قيود على القراءة، وحماية من التعديل |
| داخلي |
قوائم الشعب، أرقام المكاتب |
دخول بحساب جامعي |
| سرّي |
العلامات، البريد، رقم الهاتف |
صلاحيات دقيقة، TLS، سجلات وصول |
| شديد الحساسية |
رقم الهوية، البيانات الصحية، الوضع المالي |
تشفير الأعمدة، أقل عدد من المطّلعين، سجلات تدقيق، إخفاء جزئي في الواجهة |
تقليل البيانات (Data Minimization): ما لا تجمعه لا يمكن أن يُسرق. هل يحتاج المتجر فعلاً تاريخ الميلاد الكامل؟ وهل نحتاج حفظ رقم البطاقة بينما يمكن لبوابة الدفع أن تحفظه وتعطينا رمزاً بديلاً (Tokenization)؟ حدّد أيضاً مدة احتفاظ واحذف ما انتهت حاجته.
سيناريو: تطبيق بنك
تسرّبت نسخة احتياطية قديمة من قاعدة بيانات تطبيق مصرفي بسبب خطأ في إعداد مخزن ملفات. في الحالة الأولى كانت أرقام الهوية مخزّنة نصاً صريحاً، فأصبحت بيانات آلاف العملاء مكشوفة. في الحالة الثانية كانت مشفّرة على مستوى التطبيق والمفتاح محفوظ في خدمة أسرار منفصلة، فكانت النسخة المسرّبة بلا فائدة للمهاجم. الفرق ليس في وقوع التسريب، بل في حجم الضرر.
أخطاء شائعة
- «تشفير» كلمات المرور بدلاً من تجزئتها، أو تجزئتها بـ MD5/SHA-1.
- استخدام Base64 على أنه تشفير (هو ترميز يمكن عكسه من أي شخص).
- استخدام نمط ECB، أو تكرار الـ IV نفسه مع GCM.
- حفظ المفتاح في الجدول نفسه أو في ملف داخل المستودع.
- نسيان أن النسخ الاحتياطية وملفات التصدير (CSV) تحتوي البيانات نفسها.
- جمع بيانات «للاحتياط» دون حاجة حقيقية.
أفضل الممارسات
- استخدم خوارزميات مُصادَقة (AEAD) مثل AES-256-GCM عبر مكتبات معروفة، ولا تخترع خوارزميتك.
- كلمات المرور: Argon2id أو bcrypt عبر
password_hash.
- افصل المفاتيح عن البيانات، ودوّرها، وقيّد الوصول إليها.
- صنّف البيانات قبل بناء الجداول، وطبّق تقليل البيانات ومدة الاحتفاظ.
- راجع: Cryptographic Storage Cheat Sheet وPassword Storage Cheat Sheet وSecrets Management Cheat Sheet وKey Management Cheat Sheet من OWASP.
2. أمن قاعدة البيانات
- مبدأ أقل الصلاحيات: حساب التطبيق يملك فقط ما يحتاج (قراءة/كتابة لجداول محدّدة، لا صلاحيات إدارية).
- حسابات منفصلة لمهام مختلفة.
- فعّل سجلات التدقيق (Audit Logs).
- اعزل قاعدة البيانات عن الإنترنت (لا تُعرَّض مباشرة).
- نسخ احتياطية مشفّرة ومُختبَرة.
لماذا أقل الصلاحيات في قاعدة البيانات؟
تذكّر حقن SQL (المحاضرة 4، فئة A05:2025 – Injection): المهاجم الذي ينجح في الحقن ينفّذ أوامره بصلاحيات حساب التطبيق. إذا كان التطبيق يتصل بـ root، يستطيع المهاجم قراءة كل قواعد البيانات وحذف الجداول وإنشاء مستخدمين. إذا كان الحساب لا يملك إلا SELECT وINSERT على جدولين، يبقى الضرر محصوراً.
حقن SQL ناجح + حساب root ← قراءة/حذف كل شيء، إنشاء مستخدمين
حقن SQL ناجح + حساب محدود ← ضرر محصور في جداول وعمليات محدّدة
لا حقن (استعلامات مُهيّأة) + حساب محدود ← الوضع المطلوب: دفاع في العمق
حسابات منفصلة لمهام مختلفة
| الحساب |
يُستخدم في |
الصلاحيات |
store_app |
تطبيق المتجر |
SELECT, INSERT, UPDATE على جداول محدّدة، بلا DROP أو GRANT |
store_report |
لوحة التقارير |
SELECT فقط على جداول التقارير أو على عروض (Views) |
store_backup |
سكربت النسخ الاحتياطي |
صلاحيات القراءة اللازمة للنسخ فقط |
dba_admin |
المسؤول، عند الحاجة فقط |
صلاحيات إدارية، دخول من الشبكة الداخلية فقط |
كود SQL: حساب بأقل الصلاحيات (MySQL/MariaDB)
-- ❌ معطوب: صلاحيات كاملة على كل شيء ومن أي مكان
GRANT ALL PRIVILEGES ON *.* TO 'store_app'@'%' IDENTIFIED BY '123456';
-- ✅ آمن: حساب يتصل من خادم التطبيق فقط، بكلمة مرور قوية
CREATE USER 'store_app'@'10.0.0.5' IDENTIFIED BY 'كلمة-مرور-طويلة-عشوائية';
-- صلاحيات على الجداول التي يحتاجها التطبيق فقط
GRANT SELECT ON store.products TO 'store_app'@'10.0.0.5';
GRANT SELECT, INSERT, UPDATE ON store.orders TO 'store_app'@'10.0.0.5';
GRANT SELECT, INSERT, UPDATE ON store.customers TO 'store_app'@'10.0.0.5';
-- لا DELETE على الطلبات: الإلغاء يكون بتغيير الحالة لا بالحذف
-- حساب التقارير: قراءة فقط
CREATE USER 'store_report'@'10.0.0.6' IDENTIFIED BY 'كلمة-مرور-أخرى-قوية';
GRANT SELECT ON store.orders TO 'store_report'@'10.0.0.6';
-- التحقق من الصلاحيات الفعلية
SHOW GRANTS FOR 'store_app'@'10.0.0.5';
عزل قاعدة البيانات عن الإنترنت
# my.cnf / server.cnf: الاستماع على الواجهة المحلية فقط
[mysqld]
bind-address = 127.0.0.1
إذا كانت قاعدة البيانات على خادم منفصل، تستمع على عنوان الشبكة الداخلية فقط، ويسمح جدار الحماية بالمنفذ 3306 من خادم التطبيق وحده. ولا تُترك أدوات الإدارة مثل phpMyAdmin مفتوحة للعامة.
سجلات التدقيق (Audit Logs)
سجل التدقيق يجيب عن: من اتصل؟ ومتى؟ وماذا غيّر؟ مثال في MariaDB باستخدام إضافة التدقيق:
-- تحميل إضافة التدقيق في MariaDB
INSTALL SONAME 'server_audit';
-- تسجيل الاتصالات وأوامر تغيير البنية وأوامر الصلاحيات
SET GLOBAL server_audit_events = 'CONNECT,QUERY_DDL,QUERY_DCL';
SET GLOBAL server_audit_logging = ON;
تنبيه: إذا سجّلت كل الاستعلامات، فقد تظهر في السجل بيانات حساسة أو مفاتيح مرّرت داخل الاستعلام. سجّل ما تحتاجه فقط، واحمِ ملف السجل (ربطاً بالمحاضرة 11).
النسخ الاحتياطية
- مشفّرة: النسخة الاحتياطية هي قاعدة البيانات كاملة؛ تُعامل بالحساسية نفسها.
- منفصلة: نسخة على الأقل خارج الخادم الأصلي (قاعدة 3-2-1: ثلاث نسخ، على وسيطين مختلفين، واحدة منها خارج الموقع).
- مُختبَرة: نجرّب الاسترجاع دورياً؛ نسخة لم يُختبر استرجاعها قد لا تعمل وقت الحاجة.
- محميّة: لا تُحفظ داخل مجلد الموقع العام (تذكّر سيناريو
backup.sql في المحاضرة 11).
سيناريو: بوابة الجامعة
وُجدت ثغرة حقن في صفحة البحث عن المساقات في بوابة جامعية. لأن حساب التطبيق كان يملك SELECT فقط على جدولي المساقات والشعب، لم يتمكّن المهاجم من الوصول إلى جدول العلامات الموجود في قاعدة بيانات أخرى، وكشف سجل التدقيق محاولات الوصول المرفوضة، فأُصلح الاستعلام باستخدام Prepared Statements خلال ساعات.
أخطاء شائعة
- اتصال التطبيق بقاعدة البيانات بحساب
root لأن «كل شيء يعمل».
- استخدام
'user'@'%' (من أي مكان) بدل عنوان محدّد.
- حساب واحد مشترك بين التطبيق والتقارير والمطوّرين.
- قاعدة بيانات أو phpMyAdmin متاحة من الإنترنت.
- نسخ احتياطية غير مشفّرة وغير مُختبَرة.
أفضل الممارسات
- استعلامات مُهيّأة (Prepared Statements) مع أقل الصلاحيات: الأولى تمنع الحقن، والثانية تحدّ من الضرر.
- حساب لكل مهمة، ومراجعة
SHOW GRANTS دورياً.
- عزل الشبكة، وتشفير الاتصال بين التطبيق وقاعدة البيانات إذا كانا على خادمين.
- تفعيل سجلات التدقيق للأحداث المهمة ومراجعتها.
- راجع: Database Security Cheat Sheet وQuery Parameterization Cheat Sheet من OWASP.
3. دورة التطوير الآمن (SDLC)
دمج الأمن في كل مرحلة بدل معالجته في النهاية:
| المرحلة |
النشاط الأمني |
| المتطلبات |
تحديد متطلبات أمنية |
| التصميم |
نمذجة التهديدات |
| التطوير |
برمجة آمنة ومراجعة كود |
| الاختبار |
اختبار أمني (SAST/DAST) |
| النشر |
تقوية الإعدادات |
| التشغيل |
مراقبة وتحديث |
«الأمن مبكّراً أرخص»: إصلاح ثغرة في التصميم أرخص بكثير من إصلاحها بعد النشر.
ما هي دورة التطوير الآمن؟
دورة حياة تطوير البرمجيات الآمنة (Secure Software Development Life Cycle – SSDLC) تعني أن الأمن ليس «فحصاً أخيراً» قبل التسليم، بل نشاط حاضر في كل مرحلة. يسمّى هذا التوجّه أيضاً «الإزاحة لليسار» (Shift Left)، أي نقل الأنشطة الأمنية إلى بداية خط الزمن.
تشبيه: بناء منزل. إضافة مخرج طوارئ على المخطط الورقي سهلة، لكن إضافته بعد صبّ الخرسانة تعني الهدم وإعادة البناء. وهذا ما تقصده فئة A06:2025 – Insecure Design: بعض الثغرات أصلها قرار تصميمي، لا سطر كود.
كل مرحلة بالتفصيل (مثال: نظام تسجيل المساقات)
| المرحلة |
السؤال الأمني |
مثال عملي |
أداة/مرجع |
| المتطلبات |
ما الذي يجب حمايته ومن ماذا؟ |
«لا يرى الطالب إلا علاماته»، «قفل مؤقت بعد محاولات فاشلة متكررة» |
OWASP ASVS |
| التصميم |
ماذا قد يحدث خطأ؟ |
نمذجة التهديدات بأسلوب STRIDE لصفحة رفع الواجبات |
Threat Modeling Cheat Sheet |
| التطوير |
هل الكود يتبع الممارسات الآمنة؟ |
استعلامات مُهيّأة، ترميز المخرجات، فحص الصلاحية على الخادم، مراجعة الزملاء |
Secure Code Review |
| الاختبار |
هل توجد ثغرات معروفة؟ |
SAST (تحليل الكود دون تشغيل)، DAST (فحص التطبيق وهو يعمل)، SCA (فحص المكتبات) |
Semgrep، ZAP، composer audit، npm audit |
| النشر |
هل البيئة مُقوّاة؟ |
إعدادات المحاضرة 11، أسرار في البيئة لا في الكود |
CIS Benchmarks |
| التشغيل |
هل نكتشف ونستجيب؟ |
سجلات وتنبيهات، تحديث المكتبات، خطة استجابة للحوادث |
Logging Cheat Sheet |
نمذجة التهديدات المبسّطة (STRIDE)
نمذجة التهديدات (Threat Modeling) جلسة يسأل فيها الفريق: «ماذا نبني؟ ما الذي قد يسوء؟ ماذا سنفعل حياله؟ هل أحسنّا؟». نموذج STRIDE يساعد على عدم نسيان أي نوع:
| الحرف |
التهديد |
مثال في نظام التسجيل |
الدفاع |
| S |
انتحال الهوية (Spoofing) |
دخول بحساب طالب آخر |
مصادقة قوية، MFA |
| T |
التلاعب (Tampering) |
تعديل course_id في الطلب |
تحقق على الخادم |
| R |
الإنكار (Repudiation) |
«لم أحذف هذا المساق» |
سجلات تدقيق |
| I |
كشف المعلومات (Information Disclosure) |
رؤية علامات الآخرين |
التحكم بالوصول، التشفير |
| D |
حجب الخدمة (Denial of Service) |
إغراق صفحة التسجيل يوم فتحه |
تحديد معدل الطلبات |
| E |
رفع الصلاحيات (Elevation of Privilege) |
طالب يصل لوحة الإدارة |
فحص الدور على الخادم |
سلسلة التوريد البرمجية
أغلب التطبيقات الحديثة تتكوّن من مكتبات خارجية أكثر من الكود الذي نكتبه. مكتبة قديمة فيها ثغرة معروفة تجعل التطبيق كله ضعيفاً، وهذا ما تغطّيه فئة A03:2025 – Software Supply Chain Failures.
# فحص المكتبات المعروفة الثغرات في مشروع PHP
composer audit
# وفي مشروع Node.js
npm audit
- ثبّت إصدارات المكتبات بملف القفل (
composer.lock، package-lock.json).
- لا تثبّت حزماً من مصادر مجهولة، وانتبه للأسماء المشابهة لحزم مشهورة.
- راجع Vulnerable Dependency Management Cheat Sheet من OWASP.
خط بناء آلي آمن (فكرة مبسّطة)
المطوّر يرفع الكود
│
▼
[ مراجعة زميل ] ─► [ SAST + فحص الأسرار ] ─► [ فحص المكتبات SCA ]
│
▼
[ نشر على بيئة اختبار ] ─► [ DAST: فحص ZAP آلي ] ─► [ نشر للإنتاج ]
│
▼
[ مراقبة وسجلات وتحديثات ]
أخطاء شائعة
- ترك الأمن لـ «أسبوع قبل التسليم».
- الاعتماد على أداة فحص واحدة واعتبار «لا نتائج» دليلاً على الأمان.
- تجاهل تحديث المكتبات بعد النشر.
- عدم كتابة متطلبات أمنية صريحة، فلا يُختبر ما لم يُطلب.
أفضل الممارسات
- اكتب متطلبات أمنية قابلة للاختبار من البداية (استعن بـ OWASP ASVS).
- نفّذ جلسة نمذجة تهديدات قصيرة لكل ميزة حساسة.
- أتمت الفحوص (SAST/SCA/DAST) داخل خط البناء.
- استخدم قائمة تحقق لمراجعة الكود، واعتمد إطار OWASP SAMM لقياس نضج الفريق.
4. مبادئ البرمجة الآمنة (خلاصة المساق)
- لا تثق بأي مدخل → تحقّق ورمّز (حقن، XSS).
- افصل البيانات عن التعليمات → Prepared Statements.
- تحقّق من الصلاحية على الخادم دائماً → التحكّم بالوصول.
- خزّن الأسرار بأمان → تجزئة قوية وتشفير.
- أمّن النقل → HTTPS/TLS وHSTS.
- طبّق الدفاع في العمق → طبقات متعددة.
- أقل الصلاحيات في كل مكان.
- سجّل وراقب، وافترض أن الخطأ ممكن.
شرح موجز لكل مبدأ
- لا تثق بأي مدخل: كل ما يأتي من المستخدم (حقول، روابط، كوكيز، ترويسات، ملفات) قد يكون معادياً. تحقّق منه بقائمة سماح (Allowlist) على الخادم، ورمّز المخرجات حسب سياقها (HTML، JavaScript، URL).
- افصل البيانات عن التعليمات: الحقن يحدث عندما تختلط البيانات بالأوامر. الاستعلامات المُهيّأة ترسل الاستعلام والقيم منفصلين.
- الصلاحية على الخادم: إخفاء الزر في الواجهة ليس حماية؛ كل طلب يُفحص على الخادم (IDOR — المحاضرة 8).
- خزّن الأسرار بأمان: Argon2id/bcrypt لكلمات المرور، وAES-GCM للبيانات الحساسة، والمفاتيح خارج الكود.
- أمّن النقل: TLS 1.2/1.3 فقط، وHSTS، وكوكيز بخصائص
Secure وHttpOnly وSameSite (المتصفحات الحديثة تعامل الكوكي دون SameSite كأنها Lax، لكن حدّدها صراحة).
- الدفاع في العمق: CSP مع ترميز المخرجات، وWAF مع البرمجة الآمنة، وأقل الصلاحيات مع الاستعلامات المُهيّأة.
- أقل الصلاحيات: للمستخدمين، وعمليات الخادم، وحسابات قاعدة البيانات، ومفاتيح الواجهات البرمجية.
- سجّل وراقب، وفشل بأمان: عند الخطأ ارفض الطلب وأظهر رسالة عامة (Fail Securely)، وسجّل التفاصيل داخلياً. وهذا يرتبط بفئة A10:2025 – Mishandling of Exceptional Conditions.
تمرين تطبيقي: كود يجمع عدة أخطاء
الكود التالي لصفحة دخول في بوابة طلاب، ويحتوي أخطاء من محاضرات مختلفة:
<?php
// ❌ معطوب: اجمع الأخطاء قبل قراءة النسخة الآمنة
$conn = mysqli_connect('localhost', 'root', '', 'portal'); // (1) root بلا كلمة مرور
$u = $_POST['user'];
$p = md5($_POST['pass']); // (2) MD5
$sql = "SELECT * FROM students WHERE user='$u' AND pass='$p'"; // (3) حقن SQL
$res = mysqli_query($conn, $sql) or die(mysqli_error($conn)); // (4) كشف تفاصيل الخطأ
if (mysqli_num_rows($res) > 0) {
setcookie('user', $u); // (5) هوية في كوكي قابلة للتعديل
echo "مرحباً " . $u; // (6) XSS
}
مثلاً، إدخال ' OR '1'='1 في حقل المستخدم يغيّر منطق الاستعلام، وإدخال <script>alert(1)</script> يُنفَّذ في صفحة الترحيب.
<?php
// ✅ آمن: كل سطر يطبّق مبدأً من مبادئ المساق
session_start();
$pdo = new PDO(getenv('DB_DSN'), getenv('DB_USER'), getenv('DB_PASS'), [
PDO::ATTR_ERRMODE => PDO::ERRMODE_EXCEPTION,
]); // (1) حساب محدود وأسرار من البيئة
$user = trim($_POST['user'] ?? '');
$pass = $_POST['pass'] ?? '';
try {
$stmt = $pdo->prepare('SELECT id, user, pass_hash FROM students WHERE user = ?');
$stmt->execute([$user]); // (3) استعلام مُهيّأ
$row = $stmt->fetch(PDO::FETCH_ASSOC);
} catch (PDOException $e) {
error_log('login query failed: ' . $e->getMessage()); // (4) التفاصيل في السجل فقط
http_response_code(500);
exit('حدث خطأ غير متوقع');
}
if ($row && password_verify($pass, $row['pass_hash'])) { // (2) تجزئة Argon2id/bcrypt
session_regenerate_id(true); // منع تثبيت الجلسة
$_SESSION['student_id'] = $row['id']; // (5) الهوية على الخادم
echo 'مرحباً ' . htmlspecialchars($row['user'], ENT_QUOTES, 'UTF-8'); // (6) ترميز المخرجات
} else {
error_log(json_encode(['event' => 'login_failed', 'user' => $user])); // تسجيل بلا كلمة مرور
echo 'اسم المستخدم أو كلمة المرور غير صحيحة'; // رسالة موحّدة
}
ملاحظة: إعدادات كوكي الجلسة (Secure، HttpOnly، SameSite=Lax) تُضبط قبل session_start() عبر session_set_cookie_params() أو في php.ini (المحاضرة 7).
5. أمن تطبيقات النماذج اللغوية (OWASP Top 10 for LLM Applications)
أصبحت النماذج اللغوية الكبيرة (Large Language Models – LLMs) جزءاً من كثير من مواقع الويب: مساعد محادثة في متجر، وأداة تلخيص في بوابة جامعية، ومساعد يجيب من لوائح الكلية. هذه الميزات تُبنى بالطريقة نفسها التي درسناها طوال المساق: واجهة في المتصفح، وخادم يستقبل الطلب، وقاعدة بيانات، ثم استدعاء لواجهة برمجية (API) لنموذج لغوي في المنتصف. لذلك فهي تطبيقات ويب أولاً، وتحتاج كل ما تعلّمناه، ثم تضيف مخاطر جديدة خاصة بها.
تشبيه: تخيّل موظف استقبال جديداً، ذكياً ومتعاوناً جداً، لكنه ينفّذ أي ورقة مكتوبة تصل إلى مكتبه دون أن يميّز هل كتبها المدير أم زائر مجهول. إذا أعطيته مفاتيح كل المكاتب، فالمشكلة ليست في ذكائه، بل في الصلاحيات التي منحناها له وفي ثقتنا بما يقرؤه.
كيف تدمج تطبيقات الويب النماذج اللغوية؟
| نمط الدمج |
مثال |
ماذا يقرأ النموذج؟ |
ماذا يستطيع أن يفعل؟ |
| روبوت محادثة (Chatbot) |
مساعد خدمة العملاء في متجر |
تعليمات النظام + رسالة المستخدم |
يكتب رداً نصياً يُعرض في الصفحة |
| أداة تلخيص (Summarizer) |
«لخّص هذا البريد/هذه الصفحة» |
محتوى خارجياً كتبه طرف آخر |
يكتب ملخصاً قد يُعرض أو يُخزَّن |
| الاسترجاع المعزّز بالتوليد (RAG) |
مساعد يجيب من لوائح الجامعة وملفاتها |
مقاطع من مستندات تُسترجع من قاعدة بيانات متجهات (Vector Database) |
يجيب بناءً على هذه المقاطع |
| وكيل بأدوات (Agent with Tools/Plugins) |
مساعد يبحث في الطلبات ويلغيها ويرسل بريداً |
كل ما سبق + نتائج الأدوات |
ينفّذ أفعالاً حقيقية عبر واجهات برمجية |
كيف يعمل RAG؟ (خطوات)
- تُقسَّم المستندات (لوائح، أدلة، ملفات PDF) إلى مقاطع صغيرة.
- يُحوَّل كل مقطع إلى تمثيل رقمي (Embedding) ويُخزَّن في قاعدة بيانات متجهات.
- عند سؤال المستخدم، يُبحث عن المقاطع الأقرب في المعنى إلى السؤال.
- تُضاف هذه المقاطع إلى نص الطلب المرسل إلى النموذج مع السؤال.
- يكتب النموذج الإجابة اعتماداً عليها.
لاحظ الخطوة 4: أي نص داخل المستندات، حتى لو كتبه شخص غير موثوق، يصل إلى النموذج ويقرؤه كما يقرأ تعليماتنا.
لماذا هي سطح هجوم جديد؟
معظم مخاطر هذه التطبيقات هي ثغرات قديمة بثوب جديد:
| ما درسناه سابقاً |
نظيره في تطبيقات النماذج اللغوية |
| الحقن (المحاضرة 4): خلط البيانات بالأوامر |
حقن التعليمات (Prompt Injection): خلط نص المستخدم بتعليمات النموذج |
| XSS (المحاضرة 5): عرض المدخلات دون ترميز |
عرض رد النموذج كـ HTML دون ترميز، فيصبح الرد نفسه حمولة XSS |
| التحكم بالوصول وSSRF (المحاضرة 8) |
نموذج يستدعي أدوات أو يجلب روابط بصلاحيات أكبر من صلاحيات المستخدم الذي يحادثه |
| أمن البيانات (هذه المحاضرة) |
أسرار في تعليمات النظام، ومستندات RAG تكشف بيانات لمن لا يحق له رؤيتها |
الجديد هنا أن «المفسِّر» ليس محرّك SQL له قواعد صارمة، بل نموذج يفهم اللغة الطبيعية، فيمكن «إقناعه» بطرق لا حصر لها.
نظرة عامة: OWASP Top 10 for LLM Applications 2025
أصدر مشروع OWASP GenAI Security Project قائمة خاصة بأهم مخاطر تطبيقات النماذج اللغوية، وهي مستقلة عن OWASP Top 10:2025 لتطبيقات الويب لكنها تكمّلها:
| الرمز |
الخطر |
شرح مختصر |
| LLM01 |
حقن التعليمات (Prompt Injection) |
نص من المستخدم أو من مصدر خارجي يغيّر سلوك النموذج ويتجاوز تعليماته |
| LLM02 |
كشف المعلومات الحساسة (Sensitive Information Disclosure) |
النموذج يكشف بيانات شخصية أو أسراراً أو بيانات تدريب أو مستندات داخلية |
| LLM03 |
سلسلة التوريد (Supply Chain) |
نماذج أو مكتبات أو إضافات أو بيانات من مصادر غير موثوقة أو مُعدَّلة |
| LLM04 |
تسميم البيانات والنموذج (Data and Model Poisoning) |
إدخال بيانات خبيثة في التدريب أو الضبط الدقيق لزرع سلوك منحرف أو باب خلفي |
| LLM05 |
معالجة المخرجات غير السليمة (Improper Output Handling) |
تمرير رد النموذج إلى المتصفح أو SQL أو الصدفة دون تحقق أو ترميز |
| LLM06 |
الصلاحيات المفرطة (Excessive Agency) |
منح النموذج أدوات أو صلاحيات أو استقلالية أكثر مما تحتاجه المهمة |
| LLM07 |
تسريب تعليمات النظام (System Prompt Leakage) |
كشف تعليمات النظام وما قد تحويه من أسرار أو منطق داخلي |
| LLM08 |
ضعف المتجهات والتمثيلات (Vector and Embedding Weaknesses) |
ثغرات في RAG: مستندات مسمومة، أو استرجاع بيانات مستخدم آخر من قاعدة المتجهات |
| LLM09 |
المعلومات المضلّلة (Misinformation) |
إجابات خاطئة بثقة عالية (هلوسة) يُبنى عليها قرار أو كود غير آمن |
| LLM10 |
الاستهلاك غير المحدود (Unbounded Consumption) |
طلبات كثيرة أو ضخمة تستنزف الموارد والتكلفة أو تُستخدم لنسخ النموذج |
سنركّز على الفئات الأقرب إلى عمل مطوّر الويب: LLM01 وLLM05 وLLM06 وLLM07 وLLM02، مع إشارة إلى البقية في الدفاعات.
حقن التعليمات (LLM01: Prompt Injection) بالتفصيل
ما السبب الجذري؟
في حقن SQL (المحاضرة 4) كان السبب الجذري خلط البيانات بالأوامر في نص واحد، وكان الحل جذرياً: الاستعلامات المُهيّأة (Prepared Statements) ترسل بنية الاستعلام في قناة والقيم في قناة أخرى، فلا يمكن لقيمة أن تصبح أمراً مهما كتب المهاجم.
في النماذج اللغوية، التعليمات والبيانات تسير في قناة واحدة: كل شيء نص يقرؤه النموذج. تعليمات المطوّر، وسؤال المستخدم، ومحتوى صفحة الويب المطلوب تلخيصها، كلها كلمات متتالية، والنموذج يقرّر بنفسه أيّها «تعليمات».
حقن SQL:
"SELECT ... WHERE user='" + مدخل + "'" ← خلط → الحل: Prepared Statement (فصل تام)
حقن التعليمات:
تعليمات النظام + نص المستخدم + مستند خارجي ← نص واحد → لا يوجد فصل تام مكافئ حتى الآن
الحقن المباشر (Direct Prompt Injection)
المستخدم نفسه يكتب في خانة المحادثة نصاً يحاول إقناع النموذج بتجاهل تعليماته: أن يتقمّص دوراً آخر، أو يكشف تعليمات النظام، أو يتجاوز القيود. يسمّى نوع منه كسر القيود (Jailbreak) عندما يكون الهدف تجاوز ضوابط السلامة في النموذج نفسه. هنا المهاجم والمستخدم شخص واحد، والضرر يعتمد على ما يستطيع النموذج الوصول إليه.
الحقن غير المباشر (Indirect Prompt Injection)
وهو الأخطر في تطبيقات الويب: التعليمات الخبيثة لا يكتبها المستخدم، بل تكون مخبّأة في محتوى يقرؤه النموذج نيابة عنه: صفحة ويب، أو بريد إلكتروني، أو مستند مرفوع، أو تعليق على منتج، أو ملف في قاعدة RAG. قد يكون النص مخفياً عن عين الإنسان (لون أبيض على خلفية بيضاء، أو داخل تعليق HTML، أو في بيانات وصفية للملف) لكنه واضح تماماً للنموذج.
تشبيه: هذا يشبه XSS المخزّن (المحاضرة 5): المهاجم لا يهاجم الضحية مباشرة، بل يزرع الحمولة في مكان ستقرؤه الضحية لاحقاً. الفرق أن «المتصفح» هنا هو النموذج اللغوي.
سيناريو: مساعد البريد في بوابة الموظفين (وصف مفاهيمي)
- تضيف شركة إلى بريدها مساعداً ذكياً يلخّص الرسائل، ويملك أداة «إرسال بريد» وأداة «البحث في الرسائل».
- يرسل مهاجم رسالة عادية المظهر، وفي ذيلها نص مخفي موجّه إلى «المساعد» يطلب منه البحث عن رسائل تحتوي رموز استعادة كلمات المرور وإعادة توجيهها إلى عنوان خارجي.
- يطلب الموظف بريئاً: «لخّص بريدي اليوم».
- يقرأ النموذج الرسالة الخبيثة ضمن ما يلخّصه، فيعاملها كتعليمات، ويستدعي الأداتين.
- تخرج البيانات دون أن يكتب الموظف أي شيء مريب، ودون أي ثغرة تقليدية في الكود.
ما الذي فشل؟ ليس النموذج وحده: فشل التصميم في ثلاثة أماكن: محتوى غير موثوق عومل كتعليمات، وأداة إرسال بلا قيود على المستلمين، وفعل حساس نُفِّذ دون موافقة بشرية.
لماذا يصعب إصلاحه كلياً؟
- لا توجد قناة منفصلة للتعليمات كما في Prepared Statements؛ فصل الأدوار (system/user) يساعد لكنه ليس حاجزاً مضموناً.
- اللغة الطبيعية لا نهائية: يمكن صياغة الطلب نفسه بألف طريقة، وبلغات مختلفة، وبترميزات، فقوائم المنع (Blocklists) لا تكفي، كما لم تكفِ في XSS.
- النموذج احتمالي: قد يرفض المحاولة اليوم وينفّذها غداً بصياغة مختلفة قليلاً.
- المرشّحات الذكية (نموذج يفحص نموذجاً) تقلّل الخطر ولا تلغيه.
النتيجة العملية: افترض أن حقن التعليمات سينجح يوماً ما، وصمّم النظام بحيث يكون الضرر محدوداً عندها. هذا هو مبدأ الدفاع في العمق نفسه الذي طبّقناه مع حساب قاعدة البيانات المحدود.
معالجة المخرجات غير السليمة (LLM05: Improper Output Handling)
رد النموذج نص يمكن أن يتحكّم فيه المهاجم (عبر الحقن المباشر أو غير المباشر)، فهو مُدخل غير موثوق تماماً مثل $_POST. المشكلة تقع عندما يمرّره التطبيق إلى مفسِّر آخر:
| أين يذهب الرد؟ |
الثغرة الناتجة |
الدفاع |
| يُعرض كـ HTML في الصفحة |
XSS (المحاضرة 5) |
ترميز المخرجات أو textContent، وCSP |
| يُبنى منه استعلام SQL |
حقن SQL (المحاضرة 4) |
استعلامات مُهيّأة، ولا SQL حراً من النموذج |
| يُمرَّر إلى أمر نظام |
حقن أوامر (المحاضرة 4) |
لا أوامر نظام من نص النموذج؛ قوائم سماح لأفعال محدّدة |
| رابط يجلبه الخادم |
SSRF (المحاضرة 8) |
قائمة سماح للنطاقات، ومنع العناوين الداخلية |
| Markdown فيه صورة برابط خارجي |
تسريب بيانات عبر عنوان الصورة |
تعطيل الصور الخارجية أو حصرها في نطاقات موثوقة |
// ❌ معطوب: رد النموذج يُدرج كـ HTML؛ لو احتوى وسماً خبيثاً يُنفَّذ في متصفح المستخدم
chatBox.innerHTML += '<p>' + data.reply + '</p>';
// ✅ آمن: الرد يُعامل كنص فقط
const p = document.createElement('p');
p.textContent = data.reply; // لا تفسير لأي وسم HTML
chatBox.appendChild(p);
// وإذا احتجنا تنسيق Markdown: نحوّله ثم ننقّيه بمكتبة مثل DOMPurify قبل العرض
الصلاحيات المفرطة (LLM06: Excessive Agency)
عندما نعطي النموذج أدوات (Tools / Function Calling)، يصبح قادراً على الفعل لا الكلام فقط. الصلاحيات المفرطة لها ثلاثة أشكال:
- وظائف زائدة (Excessive Functionality): أداة «نفّذ أي استعلام SQL» بدل «اعرض طلباتي».
- صلاحيات زائدة (Excessive Permissions): الأداة تعمل بحساب يرى بيانات كل العملاء لا المستخدم الحالي فقط.
- استقلالية زائدة (Excessive Autonomy): فعل حساس (حذف، دفع، إرسال) يُنفَّذ دون تأكيد من الإنسان.
الكود التالي لخادم مساعد متجر يجمع عدة أخطاء. الدالة llm_chat() افتراضية، تمثّل أي واجهة برمجية لنموذج لغوي تدعم الأدوات:
<?php
// ❌ معطوب: اجمع الأخطاء قبل قراءة النسخة الأكثر أماناً
$system = "أنت مساعد متجر. كلمة مرور لوحة الإدارة: Admin@2025، "
. "ومفتاح بوابة الدفع: PAY-KEY-123. لا تكشفهما لأحد."; // (1) أسرار في تعليمات النظام
$prompt = $system . "\nرسالة العميل: " . $_POST['message']; // (2) دمج المدخل في نص واحد
$tools = [
'run_sql' => fn(string $q) => $pdo->query($q)->fetchAll(), // (3) أي استعلام يكتبه النموذج
'send_email' => fn(string $to, string $body) => mail($to, 'رسالة', $body), // (4) إلى أي عنوان
'delete_order' => fn(int $id) => $pdo->exec("DELETE FROM orders WHERE id=$id"), // (5) حذف بلا تأكيد ولا فحص ملكية
];
$reply = llm_chat($prompt, $tools); // النموذج يستدعي الأدوات تلقائياً
echo $reply; // (6) عرض الرد دون ترميز → XSS
// (7) لا حدّ لعدد الطلبات ولا لطول الرسالة، ولا سجلات
لاحظ أن «لا تكشفهما لأحد» ليست ضابطاً أمنياً؛ هي مجرد جملة أخرى يمكن إقناع النموذج بتجاهلها. ومع الأداة (3)، يكفي حقن واحد ناجح ليقرأ المهاجم جدول العملاء كله، تماماً كحقن SQL بحساب root.
<?php
// ✅ أكثر أماناً: النموذج يقترح، والخادم يقرّر ويتحقّق
session_start();
$customerId = $_SESSION['customer_id'] ?? null; // الهوية من الجلسة لا من النموذج
if (!$customerId) { http_response_code(401); exit; }
if (!rate_limit_ok("chat:$customerId", 20, 60)) { // (7) 20 رسالة في الدقيقة
http_response_code(429); exit;
}
$message = mb_substr(trim($_POST['message'] ?? ''), 0, 1000); // حدّ للطول
$messages = [
['role' => 'system', 'content' => 'أنت مساعد متجر. أجب عن المنتجات وطلبات العميل فقط.'], // (1) بلا أسرار
['role' => 'user', 'content' => $message], // (2) فصل الأدوار
];
$tools = [
// (3) أداة ضيّقة بدل SQL حر: استعلام مُهيّأ ثابت، ومقيّد بالعميل الحالي
'get_my_orders' => function () use ($pdo, $customerId) {
$stmt = $pdo->prepare('SELECT id, status, total FROM orders WHERE customer_id = ? ORDER BY id DESC LIMIT 5');
$stmt->execute([$customerId]);
return $stmt->fetchAll(PDO::FETCH_ASSOC);
},
// (5) لا حذف مباشر: طلب معلّق يؤكّده العميل بزر في الواجهة، ويُفحص فيه أن الطلب ملكه
'request_cancel' => fn(int $orderId) => create_pending_action($customerId, 'cancel_order', $orderId),
// (4) لا أداة بريد حر إطلاقاً: المساعد لا يحتاجها
];
$result = llm_chat($messages, $tools, ['max_tokens' => 500]); // حدّ لحجم الرد
error_log(json_encode([ // سجلات للمراقبة بلا بيانات حساسة
'event' => 'llm_chat', 'customer' => $customerId, 'tools' => $result['tools_used'],
]));
header('Content-Type: application/json; charset=utf-8');
echo json_encode(['reply' => $result['text']]); // (6) والواجهة تعرضه بـ textContent
ملاحظة: النسخة الثانية لا «تمنع» حقن التعليمات، لكنها تجعل نجاحه بلا قيمة تقريباً: لا أسرار يمكن كشفها، ولا أداة ترى بيانات عميل آخر، ولا فعل حساس دون موافقة الإنسان، والرد لا يُفسَّر كـ HTML. حساب قاعدة البيانات الذي تستخدمه الأدوات يجب أن يكون بدوره بأقل الصلاحيات (القسم 2).
تسريب تعليمات النظام وكشف المعلومات الحساسة (LLM07 وLLM02)
تعليمات النظام (System Prompt) هي النص الذي يكتبه المطوّر ليحدّد دور النموذج وقيوده. يجب افتراض أنها ستُكشف يوماً ما، لأن النموذج يستطيع قراءتها وبالتالي يمكن إقناعه بإعادة كتابتها. لذلك:
- لا كلمات مرور، ولا مفاتيح API، ولا عناوين خوادم داخلية، ولا منطق صلاحيات داخل تعليمات النظام؛ الأسرار مكانها متغيرات البيئة وخدمة الأسرار (القسم 1).
- الصلاحيات لا تُفرض بجملة «لا تعرض بيانات الطلاب الآخرين»، بل بفحص على الخادم داخل الأداة نفسها (المحاضرة 8).
كشف المعلومات الحساسة يحدث أيضاً عندما:
- تُفهرس قاعدة RAG مستندات سرّية (رواتب، ملفات طبية) دون ربطها بصلاحيات المستخدم، فيجيب المساعد طالباً عن بيانات لا يحق له رؤيتها (وهذا أيضاً جوهر LLM08).
- يلصق الموظفون بيانات العملاء أو كوداً يحتوي أسراراً في أدوات ذكاء اصطناعي عامة، فتخرج البيانات من سيطرة المؤسسة.
- تُحفظ المحادثات كاملة في سجلات غير محميّة.
الربط بتصنيف البيانات: طبّق تصنيف القسم 1 على ما يدخل النموذج. البيانات «شديدة الحساسية» لا تدخل نص الطلب إلا للضرورة، وبعد إخفاء جزئي (Masking) إن أمكن.
الدفاعات: دفاع في العمق لتطبيقات النماذج اللغوية
| الدفاع |
ماذا يعني عملياً؟ |
يقابله في المساق |
| عامل رد النموذج كمدخل غير موثوق |
تحقّق ورمّز قبل العرض أو التمرير لأي مفسِّر |
لا تثق بأي مدخل (XSS، الحقن) |
| أقل الصلاحيات للأدوات |
أدوات ضيّقة محدّدة الغرض، تعمل بهوية المستخدم الحالي وصلاحياته |
أقل الصلاحيات في قاعدة البيانات |
| موافقة بشرية للأفعال الحساسة (Human-in-the-Loop) |
الحذف والدفع والإرسال تحتاج تأكيداً صريحاً من المستخدم |
رموز CSRF: التأكد من نيّة المستخدم |
| فصل المحتوى غير الموثوق ووسمه |
ضع المحتوى الخارجي في رسالة مستقلة بعلامات واضحة، وأخبر النموذج أنه بيانات لا تعليمات، مع العلم أن هذا يقلّل الخطر ولا يلغيه |
فصل البيانات عن التعليمات |
| ترميز المخرجات وCSP |
textContent، وتنقية Markdown، ومنع الصور والروابط الخارجية غير الموثوقة |
المحاضرة 5 |
| تحديد المعدل والحدود |
عدد الرسائل، وطول المدخل، وحجم الرد، وميزانية التكلفة لكل مستخدم |
حجب الخدمة في STRIDE (LLM10) |
| السجلات والمراقبة |
تسجيل استدعاءات الأدوات والرفض والأنماط الغريبة، دون تسجيل بيانات حساسة |
المحاضرة 11 |
| اختبار الفريق الأحمر (Red Teaming) |
تجربة الحقن المباشر وغير المباشر على النظام قبل النشر وبعد كل تعديل |
الاختبار في SSDLC |
| سلسلة توريد موثوقة |
نماذج ومكتبات وإضافات من مصادر معروفة ومحدّثة |
A03:2025 |
التدرّب العملي في بيئة مرخّصة
مثل باقي المساق، لا نتعلّم الهجوم إلا في بيئات صُمّمت للتدريب وتسمح به صراحة:
- PortSwigger Web Security Academy — Web LLM attacks: مختبرات مجانية تحاكي متجراً فيه مساعد ذكي بأدوات، ويتدرّب فيها الطالب على استغلال الصلاحيات المفرطة، والحقن غير المباشر عبر تعليقات المنتجات، ومعالجة المخرجات غير السليمة: https://portswigger.net/web-security/llm-attacks
- Lakera Gandalf: لعبة تدريبية قانونية، في كل مستوى يحاول اللاعب إقناع النموذج بكشف كلمة سر بينما تزداد الدفاعات صعوبة؛ ممتازة لفهم لماذا لا تكفي التعليمات وحدها: https://gandalf.lakera.ai
طريقة التدريب المقترحة:
- حلّ مستويات Gandalf الأولى، ودوّن بعد كل مستوى: ما الدفاع الذي أضافوه؟ ولماذا لم يكفِ؟
- حلّ مختبرات PortSwigger بالترتيب، وارسم لكل مختبر: من أين دخل النص الخبيث؟ وما الأداة التي أساءت استخدامه؟
- اكتب لكل مختبر سطراً عن الإصلاح الصحيح على مستوى التصميم (أداة أضيق، موافقة بشرية، ترميز مخرجات).
القاعدة الأخلاقية: لا يجوز تجربة حقن التعليمات أو أي محاولة لكسر القيود على روبوتات محادثة لشركات حقيقية أو مواقع منشورة أو أنظمة إنتاجية (ومنها أي مساعد ذكي في الجامعة)، حتى «للتجربة»، دون تفويض مكتوب؛ فهذا اختبار اختراق غير مصرّح به. ولا تلصق بيانات حقيقية أو حساسة (بيانات طلاب، كلمات مرور، مفاتيح، كود الشركة) في أي أداة ذكاء اصطناعي.
أخطاء شائعة
- الاعتماد على تعليمات النظام وحدها («لا تكشف كذا») كضابط أمني.
- وضع مفاتيح API أو كلمات مرور أو منطق صلاحيات داخل تعليمات النظام.
- عرض رد النموذج بـ
innerHTML، أو تمريره إلى SQL أو أوامر النظام مباشرة.
- إعطاء النموذج أداة عامة («نفّذ أي استعلام»، «أرسل بريداً لأي عنوان») بدل أدوات ضيّقة.
- السماح للنموذج بتنفيذ حذف أو دفع أو إرسال دون موافقة المستخدم.
- فهرسة مستندات سرّية في RAG دون ربطها بصلاحيات من يسأل.
- غياب حدود الاستخدام، فتتحوّل الميزة إلى فاتورة ضخمة أو حجب خدمة.
- الاعتقاد بأن مرشّح كلمات ممنوعة يحلّ حقن التعليمات.
أفضل الممارسات
- صمّم على افتراض أن حقن التعليمات سينجح، واجعل أقصى ضرر ممكن صغيراً.
- عامل كل ما يخرج من النموذج كمدخل غير موثوق: تحقّق، ورمّز، واستخدم استعلامات مُهيّأة.
- أدوات قليلة وضيّقة، تعمل بهوية المستخدم وصلاحياته، وتُفحص فيها الصلاحية على الخادم.
- موافقة بشرية صريحة لكل فعل حساس أو لا رجعة فيه.
- لا أسرار في تعليمات النظام، وطبّق تصنيف البيانات وتقليلها على ما يدخل النموذج.
- حدّد المعدل وطول المدخلات وحجم الردود والتكلفة، وسجّل استدعاءات الأدوات وراقبها.
- أدرج اختبار الحقن المباشر وغير المباشر في خطة الاختبار ضمن SSDLC، وأعده بعد كل تغيير في التعليمات أو الأدوات.
- راجع: OWASP Top 10 for LLM Applications وLLM Prompt Injection Prevention Cheat Sheet من OWASP.
الخلاصة: أنظمة الذكاء الاصطناعي ليست «صندوقاً ذكياً» يحمي نفسه؛ هي مكوّن برمجي جديد في تطبيق الويب، يحتاج نمذجة تهديدات واختباراً وتحصيناً مثل أي مكوّن آخر، وتنطبق عليه المبادئ الثمانية نفسها: لا تثق بأي مدخل، وافصل البيانات عن التعليمات قدر الإمكان، وطبّق أقل الصلاحيات، وسجّل وراقب.
6. مراجعة عامة
خريطة المساق: أساسيات (1–3) ← ثغرات (4–8) ← تشفير وحماية وخادمات (9–12).
اربط كل ثغرة بسببها الجذري ودفاعها ومكانها في OWASP Top 10.
جدول المراجعة الشامل
| المحاضرة |
الموضوع |
السبب الجذري |
الدفاع الأساسي |
فئة OWASP Top 10:2025 |
| 1 |
مقدمة، CIA، الأخلاقيات |
— |
نمذجة التهديدات، التفويض المكتوب |
A06 Insecure Design |
| 2 |
HTTP والجلسات |
الكوكيز والترويسات غير المضبوطة |
Secure/HttpOnly/SameSite، HSTS |
A02 Security Misconfiguration |
| 3 |
أمن جهة العميل |
الثقة بالتحقق في المتصفح |
سياسة المصدر الواحد، CORS مضبوط، التحقق على الخادم |
A01 / A02 |
| 4 |
الحقن |
خلط البيانات بالأوامر |
Prepared Statements، تجنّب أوامر النظام |
A05 Injection |
| 5 |
XSS |
عرض المدخلات دون ترميز |
ترميز المخرجات، CSP بالـ nonce |
A05 Injection |
| 6 |
CSRF وClickjacking |
تنفيذ طلب باسم المستخدم دون نيّته |
رموز CSRF، SameSite، frame-ancestors |
A01 Broken Access Control |
| 7 |
المصادقة والجلسات |
كلمات مرور ضعيفة، جلسات غير محميّة |
Argon2id/bcrypt، MFA، تجديد معرّف الجلسة |
A07 Authentication Failures |
| 8 |
التحكم بالوصول ورفع الملفات |
غياب الفحص على الخادم |
فحص الصلاحية لكل طلب، تقييد الملفات |
A01 Broken Access Control |
| 9 |
أساسيات التشفير |
خوارزميات أو مفاتيح ضعيفة |
AES-GCM، إدارة المفاتيح |
A04 Cryptographic Failures |
| 10 |
الشهادات وTLS |
نقل غير مشفّر |
TLS 1.3، HSTS |
A04 Cryptographic Failures |
| 11 |
أمن الخادمات |
إعدادات افتراضية، غياب السجلات |
التقوية، WAF، المراقبة |
A02 / A09 |
| 12 |
البيانات والـ SDLC |
أمن متأخر، صلاحيات زائدة |
تشفير الأعمدة، أقل الصلاحيات، SSDLC |
A04 / A06 / A03 |
| 12 |
أمن تطبيقات النماذج اللغوية |
التعليمات والبيانات في قناة واحدة، أدوات بصلاحيات زائدة، الثقة برد النموذج |
أدوات ضيّقة بأقل الصلاحيات، موافقة بشرية، ترميز المخرجات، لا أسرار في تعليمات النظام |
OWASP Top 10 for LLM: LLM01 / LLM05 / LLM06 / LLM07 |
طريقة المذاكرة المقترحة
- لكل ثغرة اكتب بطاقة من أربعة أسطر: ما هي؟ لماذا تحدث؟ مثال صغير؟ كيف نمنعها؟
- ارسم مخطط التطبيق (عميل ← شبكة ← خادم ← قاعدة بيانات) وضع كل ثغرة في مكانها.
- أعد حل مختبرات DVWA على مستوى
low ثم اقرأ كود مستوى impossible لترى الإصلاح.
- تدرّب على قراءة كود قصير وتحديد الخطأ، كما في التمرين أعلاه.
7. استخدام الذكاء الاصطناعي
- «ولّد 15 سؤال مراجعة نهائية تغطّي محاضرات المساق مع الإجابات.»
- «راجع هذا المشروع من منظور SDLC وحدّد أين يمكن تحسين الأمن.»
- «لخّص مبادئ البرمجة الآمنة في خريطة ذهنية.»
- «طبّق نموذج STRIDE على ميزة رفع الواجبات في بوابة طلاب، في جدول.»
- «اشرح الفرق بين التشفير والتجزئة والترميز بأمثلة يومية.»
تنبيه: راجع الكود الذي يولّده الذكاء الاصطناعي بالمبادئ الثمانية أعلاه؛ قد يقترح أحياناً md5 أو استعلامات بدمج النصوص أو مفاتيح مكتوبة في الكود. ولا تلصق بيانات حقيقية أو أسراراً في أدوات الذكاء الاصطناعي.
المختبر المرافق (مختبر 12)
إنشاء مستخدمين بأقل الصلاحيات، وتشفير عمود حسّاس، وتفعيل سجلات التدقيق. المُخرَج: سكربت SQL + تقرير.
ربط بالمختبر
سيطبّق الطالب في المختبر 12، حصراً على قاعدة بيانات المختبر المعزولة (مثل قاعدة بيانات DVWA أو قاعدة تدريبية على جهازه):
- فحص الحساب الذي يتصل به تطبيق المختبر (
SHOW GRANTS) وتوثيق الصلاحيات الزائدة.
- إنشاء حساب للتطبيق وحساب للتقارير بأقل الصلاحيات، وتجربة أن الأوامر غير المسموحة تُرفض.
- تشفير عمود حساس (مثل رقم الهوية) على مستوى التطبيق بـ AES-256-GCM، والتأكد من أن قيمه غير مقروءة داخل الجدول.
- نقل بيانات الاتصال والمفتاح إلى متغيرات البيئة.
- تفعيل سجلات التدقيق ومراجعة الأحداث المسجّلة.
- إعادة تجربة صفحة SQL Injection في DVWA بعد تقليل الصلاحيات، ومقارنة حجم ما يمكن الوصول إليه قبل وبعد.
- كتابة سكربت SQL وتقرير قصير «قبل/بعد».
القاعدة الأخلاقية: كل التجارب تتم على DVWA أو OWASP Juice Shop أو WebGoat أو قواعد بيانات تدريبية تملكها. لا يجوز تجربة أي استعلام أو فحص على نظام حقيقي (بوابة الجامعة أو أي موقع) دون تفويض مكتوب.
فيديوهات
ملخص المحاضرة
- البيانات تُحمى في ثلاث حالات: أثناء النقل (TLS)، وأثناء التخزين (تشفير وتجزئة)، وأثناء المعالجة (صلاحيات وتقليل).
- نشفّر ما نحتاج قراءته (AES-256-GCM)، ونجزّئ ما نحتاج التحقق منه فقط (Argon2id/bcrypt)، وBase64 ليس تشفيراً.
- المفتاح منفصل عن البيانات والكود، ويُدوَّر ويُقيَّد الوصول إليه.
- صنّف البيانات، واجمع أقل ما تحتاج، وحدّد مدة احتفاظ.
- حساب التطبيق في قاعدة البيانات بأقل الصلاحيات ومن عنوان محدّد، ولكل مهمة حسابها.
- قاعدة البيانات معزولة عن الإنترنت، وسجلات التدقيق مفعّلة، والنسخ الاحتياطية مشفّرة ومُختبَرة.
- SSDLC: متطلبات أمنية ← نمذجة تهديدات ← برمجة آمنة ← SAST/DAST/SCA ← نشر مُقوّى ← مراقبة.
- المكتبات الخارجية جزء من سطح الهجوم؛ افحصها وحدّثها (A03:2025).
- تطبيقات الويب المعتمدة على النماذج اللغوية سطح هجوم جديد تغطّيه قائمة OWASP Top 10 for LLM Applications 2025، وأولها حقن التعليمات (LLM01) بنوعيه المباشر وغير المباشر.
- حقن التعليمات صعب الإصلاح كلياً لأن التعليمات والبيانات في قناة واحدة؛ لذلك نصمّم لتقليل الضرر: رد النموذج مدخل غير موثوق، وأدوات ضيّقة بأقل الصلاحيات، وموافقة بشرية للأفعال الحساسة، ولا أسرار في تعليمات النظام.
- نتدرّب على هذه الهجمات في بيئات مرخّصة فقط (PortSwigger Web LLM attacks، Lakera Gandalf)، فأنظمة الذكاء الاصطناعي نفسها تحتاج اختباراً وتحصيناً.
- المبادئ الثمانية للبرمجة الآمنة تلخّص المساق، وكل ثغرة لها سبب جذري ودفاع وفئة في OWASP Top 10.
مصطلحات المحاضرة
| English term |
المصطلح العربي |
شرح مختصر |
| Data at Rest |
البيانات أثناء التخزين |
البيانات المحفوظة في قاعدة البيانات أو الملفات أو النسخ الاحتياطية |
| Encryption |
التشفير |
تحويل البيانات إلى صيغة غير مقروءة يمكن عكسها بالمفتاح |
| Hashing |
التجزئة |
دالة باتجاه واحد لا يمكن عكسها، تُستخدم لكلمات المرور |
| AES-GCM |
AES بنمط GCM |
تشفير متماثل يضمن السرية ويكشف التلاعب |
| Initialization Vector (IV) / Nonce |
متجه التهيئة / رقم لمرة واحدة |
قيمة عشوائية جديدة لكل عملية تشفير |
| Key Management |
إدارة المفاتيح |
توليد المفاتيح وحفظها وتدويرها وتقييد الوصول إليها |
| Data Classification |
تصنيف البيانات |
ترتيب البيانات حسب حساسيتها لتحديد ضوابطها |
| Data Minimization |
تقليل البيانات |
جمع وحفظ أقل قدر لازم من البيانات |
| Least Privilege |
أقل الصلاحيات |
منح الحد الأدنى من الصلاحيات اللازمة فقط |
| Audit Log |
سجل التدقيق |
سجل يوثّق من فعل ماذا ومتى |
| SSDLC |
دورة التطوير الآمن |
دمج الأمن في كل مراحل تطوير البرمجيات |
| Threat Modeling |
نمذجة التهديدات |
تحليل منظّم لما قد يسوء في النظام وكيف نمنعه |
| SAST / DAST |
الاختبار الثابت / الديناميكي |
تحليل الكود دون تشغيل / فحص التطبيق أثناء عمله |
| Software Composition Analysis (SCA) |
تحليل المكوّنات البرمجية |
فحص المكتبات الخارجية بحثاً عن ثغرات معروفة |
| Shift Left |
الإزاحة لليسار |
نقل الأنشطة الأمنية إلى بداية دورة التطوير |
| Large Language Model (LLM) |
النموذج اللغوي الكبير |
نموذج ذكاء اصطناعي يفهم النص ويولّده، يُدمج في تطبيقات الويب عبر واجهة برمجية |
| Prompt Injection |
حقن التعليمات |
نص يغيّر سلوك النموذج ويتجاوز تعليمات المطوّر |
| Indirect Prompt Injection |
حقن التعليمات غير المباشر |
تعليمات خبيثة مخبّأة في محتوى خارجي يقرؤه النموذج (صفحة، بريد، مستند) |
| Jailbreak |
كسر القيود |
محاولة إقناع النموذج بتجاوز ضوابط السلامة المبنية فيه |
| System Prompt |
تعليمات النظام |
النص الذي يحدّد دور النموذج وقيوده، ويجب افتراض أنه قد يُكشف |
| Excessive Agency |
الصلاحيات المفرطة |
منح النموذج أدوات أو صلاحيات أو استقلالية أكثر من حاجة المهمة |
| Improper Output Handling |
معالجة المخرجات غير السليمة |
تمرير رد النموذج إلى HTML أو SQL أو الصدفة دون تحقق وترميز |
| RAG (Retrieval-Augmented Generation) |
الاسترجاع المعزّز بالتوليد |
تزويد النموذج بمقاطع من مستندات مسترجعة ليجيب منها |
| Human-in-the-Loop |
الموافقة البشرية |
اشتراط تأكيد الإنسان قبل تنفيذ فعل حساس |
أسئلة مراجعة
أولاً: اختيار من متعدد
-
أي طريقة هي الأنسب لتخزين كلمات مرور المستخدمين؟
- أ) تشفيرها بـ AES-256-GCM
- ب) ترميزها بـ Base64
- ج) تجزئتها بـ Argon2id أو bcrypt
- د) تجزئتها بـ MD5
الإجابة: ج
-
ما الخطأ في استخدام نمط ECB لتشفير عمود رقم الهوية؟
- أ) أنه بطيء جداً
- ب) أن القيم المتطابقة تعطي نصوصاً مشفّرة متطابقة فتظهر الأنماط
- ج) أنه لا يمكن فك تشفيره
- د) أنه يحتاج مفتاحين
الإجابة: ب
-
أين يجب حفظ مفتاح تشفير البيانات؟
- أ) في عمود داخل الجدول نفسه
- ب) في ملف PHP داخل المستودع
- ج) في متغير بيئة أو خدمة إدارة أسرار منفصلة عن البيانات
- د) في كوكي لدى المستخدم
الإجابة: ج
-
أي إعداد يطبّق مبدأ أقل الصلاحيات لحساب تطبيق متجر؟
- أ)
GRANT ALL PRIVILEGES ON *.* TO 'app'@'%'
- ب)
GRANT SELECT, INSERT, UPDATE ON store.orders TO 'app'@'10.0.0.5'
- ج) استخدام حساب
root مع كلمة مرور قوية
- د) حساب واحد مشترك للتطبيق والمطوّرين
الإجابة: ب
-
في دورة التطوير الآمن، ما النشاط الذي يجري في مرحلة التصميم؟
- أ) فحص DAST على الإنتاج
- ب) نمذجة التهديدات
- ج) تدوير السجلات
- د) تحديث المكتبات
الإجابة: ب
-
يطلب مستخدم من مساعد ذكي تلخيص صفحة ويب، وفي الصفحة نص مخفي يأمر النموذج بإرسال بيانات المستخدم إلى عنوان خارجي. ما نوع هذا الهجوم؟
- أ) حقن SQL
- ب) حقن التعليمات غير المباشر (Indirect Prompt Injection)
- ج) تسميم بيانات التدريب
- د) حجب الخدمة
الإجابة: ب
-
لماذا يصعب إصلاح حقن التعليمات إصلاحاً كاملاً مقارنة بحقن SQL؟
- أ) لأن النماذج اللغوية لا تدعم HTTPS
- ب) لأن التعليمات والبيانات تصل إلى النموذج في قناة نصية واحدة، ولا يوجد فصل مكافئ للاستعلامات المُهيّأة
- ج) لأن المهاجم يحتاج دائماً صلاحيات المسؤول
- د) لأن تعليمات النظام مشفّرة
الإجابة: ب
-
أي تصميم هو الأكثر أماناً لأداة يستخدمها مساعد متجر ذكي؟
- أ) أداة
run_sql تنفّذ أي استعلام يكتبه النموذج بحساب root
- ب) وضع كلمة مرور لوحة الإدارة في تعليمات النظام مع جملة «لا تكشفها»
- ج) أداة
get_my_orders باستعلام مُهيّأ ثابت مقيّد بمعرّف العميل من الجلسة، وإلغاء الطلب يحتاج تأكيد العميل
- د) عرض رد النموذج بـ
innerHTML ليظهر التنسيق
الإجابة: ج
ثانياً: أسئلة قصيرة ونقاش
- ما الفرق بين تشفير البيانات وتجزئة كلمات المرور؟ ومتى نستخدم كلاً منهما؟ أعطِ مثالاً من بوابة جامعية.
- كيف يطبّق مبدأ أقل الصلاحيات على قاعدة البيانات؟ واشرح لماذا يقلّل من ضرر حقن SQL حتى لو وقع.
- لماذا دمج الأمن في SDLC أرخص من معالجته لاحقاً؟ ثم اذكر خمسة من مبادئ البرمجة الآمنة واربط كلاً منها بمحاضرة من المساق.
- قارن بين حقن التعليمات المباشر وغير المباشر بمثال لكل منهما، ثم اذكر ثلاثة دفاعات تحدّ من ضرر الحقن حتى لو نجح، واربط كلاً منها بمبدأ من مبادئ المساق.
- لماذا يجب معاملة رد النموذج اللغوي كمدخل غير موثوق؟ وضّح ما قد يحدث لو عُرض بـ
innerHTML أو مُرِّر إلى استعلام SQL، ولماذا لا يجوز تجربة حقن التعليمات على روبوت محادثة لشركة حقيقية.
للاستزادة
- OWASP Top 10:2025 — الفئات A04 (Cryptographic Failures) وA06 (Insecure Design) وA03 (Software Supply Chain Failures): https://owasp.org
- OWASP Cheat Sheet Series — Cryptographic Storage Cheat Sheet، وPassword Storage Cheat Sheet، وDatabase Security Cheat Sheet، وThreat Modeling Cheat Sheet: https://cheatsheetseries.owasp.org
- OWASP ASVS (Application Security Verification Standard) وOWASP SAMM لبناء متطلبات أمنية وقياس نضج الفريق.
- توثيق PHP الرسمي لدوال
password_hash وopenssl_encrypt، وصفحة MDN Web Docs بعنوان Set-Cookie لخصائص الكوكيز.
- OWASP Top 10 for LLM Applications 2025 (OWASP GenAI Security Project): https://genai.owasp.org/llm-top-10/
- PortSwigger Web Security Academy — Web LLM attacks (مختبرات تدريبية مرخّصة): https://portswigger.net/web-security/llm-attacks
- Lakera Gandalf — لعبة تدريبية قانونية على حقن التعليمات: https://gandalf.lakera.ai