Pinned Tweet
كيف تمنع تعريف NVIDIA من إبطاء نموذجك المحلي بصمت على Windows، مجاناً ومن إعداد واحد 🪛
في مختبري على كرت RTX 4060 Ti بذاكرة 8GB، ارتفعت سرعة قراءة الطلب في llama.cpp بعد هذا الإعداد من 58.7 إلى 780.8 توكن في الثانية. والإعداد موجود في تعريفات NVIDIA من الإصدار 546.01 فما فوق، بحسب صفحة الدعم الرسمية.
الطريقة باختصار: عندما تمتلئ ذاكرة الكرت ينقل التعريف جزءاً من النموذج إلى ذاكرة الجهاز العادية دون أي رسالة فيبطؤ كل شيء، وهذا الإعداد يمنع ذلك لبرنامج llama.cpp وحده.
الخطوات كما في صفحة NVIDIA الرسمية nvidia.custhelp.com/app/answ… مطبقة على llama.cpp:
١. اعرف مكان الملف llama-server.exe على جهازك، فهو البرنامج الذي ستضيفه.
٢. انقر بالزر الأيمن على سطح المكتب واختر NVIDIA Control Panel.
٣. من قسم 3D Settings اضغط Manage 3D settings.
٤. افتح تبويب Program Settings واضغط Add.
٥. اضغط Browse، واختر llama-server.exe، ثم اضغط Open.
٦. اضغط على CUDA - Sysmem Fallback Policy واختر Prefer No Sysmem Fallback.
٧. اضغط Apply، ثم أعد تشغيل llama-server حتى يأخذ الإعداد مفعوله.
٨. إن كنت تقيس السرعة بأداة llama-bench.exe فكرر الخطوات من ٤ إلى ٧ معها.
الفخ: بعد هذا الإعداد، إذا كان النموذج أكبر من ذاكرة الكرت سيتوقف البرنامج برسالة نفاد ذاكرة بدل أن يعمل ببطء. صفحة NVIDIA نفسها تقول إن الأداء يصبح ثابتاً مع احتمال التوقف. الحل أن تختار نسخة أصغر من النموذج، أو تضع جزءاً منه على المعالج عن قصد بخيار مثل --n-cpu-moe في llama.cpp.
لا تسوي: لا تعتمد على nvidia-smi لتعرف هل حصل النقل، لأنه يعرض ذاكرة الكرت المخصصة فقط، وراقب بدلاً منه خانة «ذاكرة GPU المشتركة» في مدير المهام. ولا تطبق الإعداد على كل البرامج، فدليل NVIDIA يضيفه لبرنامج واحد من تبويب Program Settings، وترجعه متى شئت باختيار Driver Default.
نصيحتي: طبّقه قبل أن تحكم على أي نموذج بأنه بطيء على كرتك. اكتب في الرد اسم كرتك واسم النموذج وسرعته قبل الإعداد وبعده، وأرد عليك برأيي في الأرقام. واحفظ المنشور لتعود إليه عند تشغيل أول نموذج محلي.
#LocalLLM #llamacpp
خفض تكلفة استدلال الفيديو مع مضاعفة مدة المشهد والتعديل التفاعلي بالمحادثة 🎬
توليد ومعالجة مقاطع الفيديو كانت دائماً العائق الأكبر في التكلفة وزمن الاستجابة للتطبيقات التفاعلية، مما يحد من دمجها في التجارب اليومية.
جوجل حدثت نموذج Gemini Omni 1.2 Flash ليدعم توليد مقاطع تصل إلى 15 ثانية متواصلة، مع إمكانية تعديل عناصر المشهد تدريجياً عبر المحادثة، وتخفيض تكلفة الاستدعاء بنسبة 30% مقارنة بالإصدار السابق لتسهيل دمجه في بيئات الإنتاج وواجهات المستخدم الحية.
تفاصيل التحديث وأسعار الاستدعاء الجديدة في التغريدة التابعة 👇
تفاصيل تحديث Gemini Omni 1.2 Flash وخيارات التسعير والمستندات البرمجية:
blog.google/innovation-and-a…
#GenerativeAI #VideoAI
علي عسيري retweeted
تقليص استدعاءات الأدوات الخاطئة إلى الصفر في وكلاء البرمجة عبر حلقة تقييم تلقائية 🛡️
المعضلة الكبرى في تشغيل وكلاء البرمجة داخل بيئات العمل الواقعية هي استدعاء الأدوات بمعاملات مشوهة. الوكيل يمرر بيانات الاستدعاء خارج الحقل المخصص في واجهة الأداة، والنتيجة خطأ صامت يترك الوكيل عاجزاً عن التعافي ويدخله في دوامة محاولات فاشلة تستهلك الرصيد.
إنفيديا في ورقتها الهندسية الأخيرة وثقت حلاً معمارياً عبر حلقة تقييم تفحص سجلات التشغيل السابقة آلياً، وتستخرج الأنماط المتكررة للخلل، ثم تبني اختبارات دقيقة تفرض التحقق المسبق من أسماء وحقول المعاملات قبل تمريرها للأداة، مع خفض إجمالي استهلاك الأدوات بنسبة 35% دون أي تراجع في دقة المخرجات.
التفاصيل المعمارية وروابط الورقة في التغريدة التابعة 👇
معمارية هجينة تدمج البرمجة الوكيلية والرؤية البصرية باستهلاك عتادي محدود ⚡
معظم النماذج مفتوحة الأوزان تواجه فجوة واضحة بين فهم الصور وكتابة الكود المعقد، وتتطلب عتاداً ضخماً لتشغيل المعمارية كاملة إذا كانت موحدة.
شركة Thinking Machines أعلنت عن نموذج Inkling 2 Small الذي يعتمد معمارية تفعيل جزئي تشغل 17 مليار معامل نشط فقط أثناء الاستدلال من أصل 594 مليار معامل. النموذج موجه لمهام البرمجة الوكيلية وفهم الواجهات، ومتاح للتجربة حالياً عبر منصة Tinker بانتظار طرح الأوزان الكاملة للتشغيل المحلي.
تفاصيل النموذج وتجربته في التغريدة التابعة 👇
تفاصيل إعلان نموذج Inkling 2 Small وتجربته عبر Tinker:
thinkingmachines.ai/inkling/
#OpenSourceAI #CodingAgents
تحويل الرسم اليدوي على ورقة إلى تطبيق تفاعلي يعمل مباشرة داخل المتصفح 📝
أغلب الأفكار البرمجية تبدأ بسكتش سريع على ورقة أو سبورة، والخطوة التي تأخذ وقتاً هي نقل هذا الرسم إلى واجهة مستخدم وكود شغال ومربوط بمنطق حقيقي.
جوجل أتاحت تحويل الرسم الورقي لتطبيق متكامل عبر Gemini داخل Canvas. الفكرة بسيطة ومباشرة: تصور الورقة وترفعها، ثم تطلب منه كتابة الكود وبناء الواجهة، ليفتح لك نافذة معاينة تفاعلية فورية تعدل فيها الألوان والخطوط والمنطق بالمحادثة دون الحاجة لإعداد بيئة تشغيل محلية.
خطوات التجربة ورابط الأداة في التغريدة التابعة 👇
خطوات التجربة داخل Gemini Canvas:
1. رفع صورة الرسم الورقي لواجهة التطبيق أو لوحة التحكم.
2. اختيار أداة Canvas وطلب بناء التطبيق التفاعلي برمجياً.
3. تجربة الواجهة مباشرة في نافذة المعاينة وتعديل المنطق عبر المحادثة.
رابط إعلان جوجل وتفاصيل التجربة:
blog.google/innovation-and-a…
#GoogleGemini #AppDevelopment
تقليص استدعاءات الأدوات الخاطئة إلى الصفر في وكلاء البرمجة عبر حلقة تقييم تلقائية 🛡️
المعضلة الكبرى في تشغيل وكلاء البرمجة داخل بيئات العمل الواقعية هي استدعاء الأدوات بمعاملات مشوهة. الوكيل يمرر بيانات الاستدعاء خارج الحقل المخصص في واجهة الأداة، والنتيجة خطأ صامت يترك الوكيل عاجزاً عن التعافي ويدخله في دوامة محاولات فاشلة تستهلك الرصيد.
إنفيديا في ورقتها الهندسية الأخيرة وثقت حلاً معمارياً عبر حلقة تقييم تفحص سجلات التشغيل السابقة آلياً، وتستخرج الأنماط المتكررة للخلل، ثم تبني اختبارات دقيقة تفرض التحقق المسبق من أسماء وحقول المعاملات قبل تمريرها للأداة، مع خفض إجمالي استهلاك الأدوات بنسبة 35% دون أي تراجع في دقة المخرجات.
التفاصيل المعمارية وروابط الورقة في التغريدة التابعة 👇
رابط التدوينة الهندسية الرسمية من إنفيديا وتفاصيل معمارية NeMo في حوكمة أدوات الوكلاء:
developer.nvidia.com/blog/us…
#CodingAgents #SoftwareEngineering
إبراز الكلمة المفقودة للطالب لحظياً يمنع تكرار الخطأ الصوتي بقواعد توجيه متكيفة 🎯
لما يتدرب الطالب وتفوته كلمة، كانت تطلع له رسالة عامة تطلب منه يعيد المحاولة من جديد. الطالب يعيد الجملة بنفس الخطأ لأنه ما يدري وين المشكلة تحديداً، وتشغيل نموذج لغوي في نفس اللحظة عشان يحلل رده يضيف بطء وتأخير يخرّب تدفق الدرس.
في أحد المشاريع التعليمية، بنينا منطق التوجيه الصوتي على قواعد حتمية ثابتة بدون أي استدعاء للنماذج وقت التدريب. النظام يقارن النص المنطوق بالجملة الأصلية، وإذا سقطت كلمة تومض أمامه بخط تحتها مع نغمة هادئة، وبعدها يسمع الجملة كاملة عشان يربط السمع بالنطق قبل ما يحاول مرة ثانية.
ردود التوجيه تتكيف آلياً مع مسار الطالب بحسب سجل المحاولات؛ عبارة مع التحسن التدريجي، وتوجيه مختلف لو تكرر الخطأ، وتوليد مسبق لكل المقاطع الصوتية عبر Gemini، مع حجب الكلمات المفقودة في الأسئلة المفتوحة عشان الطالب ما يلقط الجواب بدون تفكير.
التفاصيل الهندسية في التغريدة التابعة.
خطوات تطبيق منطق التوجيه الحتمي في الواجهة:
1. مطابقة الكلمات المنطوقة مع النص المرجعي عبر خوارزمية Levenshtein لتحديد موضع الفقد بدقة دون استدعاء واجهات خارجية.
2. تفعيل وميض مرئي بلون هادئ تحت الكلمة الساقطة مع تشغيل تنبيه صوتي منخفض التردد لا يقطع استرسال الطالب.
3. تشغيل ملف الصوت المولد مسبقاً للجملة عبر مشغل صوتي خفيف في المتصفح لترسيخ نطق الكلمة الصحيح في الذاكرة السمعية.
4. تحديث عداد المحاولات في الذاكرة المؤقتة للعميل لاختيار مسار التوجيه التالي فوراً وبزمن استجابة أقل من 50 جزء من الثانية.
#SpeechAI #SystemDesign
تحليل المصاريف والاشتراكات البنكية يتحول من تطبيقات مبعثرة إلى محادثة مباشرة مع الذكاء الاصطناعي 💳
تتبع المصاريف الشهرية دائماً يضيع بين كشوفات حساب بنكية متعددة وتطبيقات تطلب إدخال يدوي يمل منه الواحد بعد أسبوع، أو لوحات تحكم تلاحقك بإعلانات القروض والبطاقات.
أنثروبيك نزلت اليوم ميزة Personal Finance داخل Claude لحل هذا الوجع. الفكرة ببساطة ربط بطاقاتك وحساباتك بصلاحية قراءة فقط عبر وسيط بنكي معتمد، وبعدها تسأل النموذج مباشرة بأسلوبك اليومي: كم صرفت على الكافيهات هذا الشهر، وش الاشتراكات اللي تتجدد تلقائياً، بدون ما ترتب وتجمع فواتيرك بنفسك.
الأهم معمارياً أن مساحة المالية معزولة تماماً ولا تستخدم البيانات لتدريب النماذج، والوصول محصور بالقراءة فقط بدون أي قدرة على تحريك هللة واحدة.
تفاصيل الإطلاق والحدود في التغريدة التابعة.
#PersonalFinance #ClaudeAI
الميزة بدأت تجريبياً لمشتركي الخطط المدفوعة (Pro وMax) داخل أمريكا حالياً كبداية:
claude.com/resources/article…
خطوة مهمة تؤكد تحول نماذج الذكاء الاصطناعي إلى إدارة البيانات اليومية الحساسة مباشرة.
بناء خادم استرجاع محلي بالكامل لملفاتك وملاحظاتك دون خروج حرف واحد للسحابة 🛡️
أكبر هاجس يواجه المطور في بناء أنظمة الاسترجاع (RAG) هو رفع الوثائق الحساسة لقواعد بيانات متجهة سحابية واعتماد واجهات تضمين خارجية، غير تعقيد إدارة الحاويات ومزامنة الفهارس.
الحل الهندسي الأبسط جاء عبر مستودع مفتوح المصدر اسمه sqlite-rag-mcp. يدمج محرك البحث النصي FTS5 مع امتداد المتجهات sqlite-vec ونماذج التضمين المحلية عبر Ollama داخل ملف SQLite واحد. الوكيل يستعلم عن المستندات عبر بروتوكول MCP، والبحث هجين يدمج الترتيب النصي مع المتجه بتقنية RRF، والأهم إنه لو توقف نموذج التضمين يرجع تلقائياً للبحث النصي بدون أي انهيار.
رابط المستودع وطريقة التركيب في التغريدة التابعة.
#ModelContextProtocol #LocalAI
المستودع مفتوح المصدر ويعمل محلياً بالكامل عبر بايثون وامتداد sqlite-vec:
github.com/giuseppeferretti/…
يدعم الربط المباشر كخادم MCP مع Claude Code وتطبيقات الوكلاء.
120 ضعف وفر في استهلاك التوكنز لوكلاء البرمجة عبر بناء رسم بياني محلي للمستودع 📉
أكبر استنزاف لسياق وكيل البرمجة يحصل لما تسأله عن تدفق استدعاء معين أو مكان مسار API داخل مشروع ضخم. الوكيل يضطر يقرأ الملفات ملف وراء ملف، فيحرق مئات آلاف التوكنز في القراءة والبحث النصي التقليدي وتضيع تفاصيل المعمارية.
الحل المعماري الذكي جاء عبر خادم MCP مكتوب بلغة C اسمه codebase-memory-mcp يبني Knowledge Graph محلي كامل للمستودع. الخادم يحلل الكود عبر Tree-sitter وLSP ويربط الدوال والكلاسات ومسارات HTTP ببعضها في رسم بياني دائم. بدلاً من قراءة الملفات الخام، يستعلم الوكيل عن الهيكل مباشرة بـ 3400 توكن فقط بدل 412 ألف توكن، محلياً وبدون مفاتيح خارجية.
رابط المستودع وتفاصيل الإعداد في التغريدة التابعة.
#CodingAgents #ModelContextProtocol
مستودع الأداة مفتوح المصدر (MIT) ويدعم أكثر من 160 لغة برمجة مع محرك تضمين محلي:
github.com/DeusData/codebase…
متوافق عبر بروتوكول MCP مع Claude Code وCursor وأدوات البرمجة المختلفة.
🎯 مقياس جديد على 206 مهمة حقيقية وضعه خبراء في 11 مجالاً، وأقوى نموذج في الوقت الحالي نجح في 12% فقط 😮
تخيّل مهندساً جديداً يحفظ كل الكتب، ثم تعطيه في أول يوم عمل مهمة حقيقية من مشروع قائم. يكتب حلاً أنيقاً للطلب الظاهر، وبدلا من يبقي النظام القديم يعمل يقوم بتخريبه. هذه الصورة تلخص ما كشفه مقياس GDPx الذي أطلقته SemiAnalysis في معيارها الجديد.
فكرة المقياس الجديد هي أن تختبر النماذج في أعمال لها قيمة اقتصادية فعلية، فقامت SemiAnalysis بجمع 206 مهمة في 11 مجالاً مع 14 شريكاً متخصصاً، منها تصميم الرقاقات والأمن السيبراني والأحياء والمالية والقانون والتداول الكمي وهندسة البرمجيات.
يعمل كل نموذج في أداته الأصلية متى وجدت، مثل Claude Code وCodex وAntigravity. وتقاس الدرجة بنسبة النجاح من المحاولة الأولى عبر 3 محاولات، ولكل مجال الوزن نفسه.
والنتيجة كانت صادمة ومتواضعة لجميع النماذج .
حيث تصدّر Claude Opus 5.5 بنسبة 12.0% وبكلفة تشغيل 51.41 دولاراً للمهمة، وتلاه Gemini 4 Carbon بنسبة 10.9% بكلفة 16.29 دولاراً فقط، أي بنحو ثلث كلفة المتصدر.
وجاء GPT-6 Astra ثالثاً بنسبة 9.6% و53.99 دولاراً. وأفضل نموذج مفتوح كان DeepSeek 4.1 Flash 1017 بنسبة 5.4%، وبكلفة لا تتجاوز 0.94 دولار للمهمة.
والخلل الاكبر جاء في مهام هندسة البرمجيات التي أعدّتها Datacurve مع خبراء في صيانة مستودعات مفتوحة المصدر.
في 76% من المحاولات الفاشلة كان الخلل في المتطلبات المحيطة بالطلب الأساسي، مثل الحفاظ على سلوك المستودع الحالي، والتكامل مع بقية الأجزاء، والحالات الطرفية. لأن النموذج يحل ما طُلب منه حرفياً، ويكسر ما حوله.
وهذا هو الفخ المميت والصامت لكل مطور يعتمد على وكيل برمجي.
ما أثبتته SemiAnalysis إن النماذج تميل إلى إثبات صحة حلولها أكثر من تحديها، فتكتب في الغالب اختبارات تؤكد صحة كودها بدلاً من اختبارات تفحص السلوك المطلوب فعلاً. فتنجح الاختبارات كلها، ويمر الخطأ إلى الإنتاج بشهادة نجاح.
والدرس المهم لنا هو ان تقوم انت بكتابة اختبارات السلوك المطلوبة بدلا أن يكتبها الوكيل، أو اطلب من وكيل آخر كتابتها بمعزل عن الحل، وأضف اختبارات تحمي السلوك القديم والحالات الطرفية، ولا تقبل نجاح اختبارات كتبها النموذج نفسه دليلاً وحيداً.
وللقراءة الدقيقة تذكر SemiAnalysis أن مصنفات الأمان (Safety Classifiers) خفضت درجات Opus 5.5 وGPT-6 Astra، لأنها تتداخل أحياناً في مجالات الأمن السيبراني والأحياء والمواءمة.
وفي مهمة قانونية واحدة لم تنتج النماذج أي مسودة صالحة في 20 محاولة لأربعة نماذج، فكانت الدرجة الثنائية صفراً لها كلها.
تخطط SemiAnalysis لنسخة جديدة كل 3 إلى 6 أشهر، ولوحة النتائج مفتوحة للجميع.
الروابط في التغريدة التابعة 👇
#AIAgents #SoftwareTesting
لوحة نتائج GDPx الرسمية:
gdpx.semianalysis.com/
مقال SemiAnalysis عن المنهجية والنتائج:
newsletter.semianalysis.com/…
