این REA یجوری ترسناکه که از دیشب که تستش کردم، کرک و پشمی بهم نمونده.
دیشب یه فایل apk بهش دادم و از ترس اینکه کلاد اکانتمو بن کنه، روی لوکال و Qwen دیکامپایلش کردم. عملا زندگینامه اپ، حتی کلیدهای API فایربیس رو درآورد و یه اسکریپ نوشت برام که مستقیم و خارج از اپ API رو کال کنه. تهش هم ازش خواستم یه داکیومنت کامل از همهی endpoint ها و ساختار اپ بسازه. در ادامه هم با تحلیل endpoint ها یه تصویر کلی از بکند داد و ازش داکیومنت ساخت.
تا اینجای کار شاید بگید خب که چی، ولی که چیش تازه اینجا شروع شد. همهی داکیومنتها و اطلاعاتی که از اپ داشتم رو بازنویسی کردم در قالب داکیومنتهای یه پرداکت جدید(که کلاد بهش گیر نده و سیشن رو فلگ نکنه) و از کلاد خواستم از صفر کل پروژه رو بسازه. صبح که بیدار شدم دیدم کل بکند، فرونت و اپ رو با فلاتر از صفر ساخته تست کرده و خودش باگهاشو برطرف کرده، و نه تنها خیلی تمیز کار میکنه، بلکه با یکم کار بیشتر میشه به عنوان که پروداکت واقعی ازش استفاده کرد.
حالا هی بگید AI قرار نیست بیکارمون کنه
سه سال پیش این سیستمو جمع کردم واسه گیم اما در عمل چون سالها بود از گیم دور بودم، دیگه اون هیجان قبلو برام نداشت و سیستم بلااستفاده موند(البته استفادهی عادی ازش میشد).
خیلی هم ناراحت بودم که چرا حداقل گرافیک Nvidia نبستم که بتونم LLM ران کنم.
تا اینکه چند روز پیش زد به سرم ببینم با ۲۴ گیگ VRAM چه مدلهایی رو میتونم اجرا کنم و دیدم ای دل غافل، آب در کوزه و من تشنه لبان میگردم. ROCm به زیبایی هرچه تمامتر همه کارتهای جدید و قدیمی رو ساپورت میکنه و اتفاقا کارت من(PowerColor RedDevil RX7900XTX) اتفاقا الان یکی از بهترینهای این کاره و مدلهای تا ۳۲ میلیارد پارامتر Q4 رو مثل بنز اجرا میکنه.
این شد که سریع روی یه SSD جدا Ubuntu Server نصب کردم، llama.cpp رو راه انداختم و با کمک Claude اپتیمایزش کردم برای کانتکست ۶۵ هزار توکن. بعد هم Qwen3.8-27B رو اجرا کردم و اینطوری بودم که پشمانم :))))
واقعاً فکرشو نمیکردم یه مدل لوکال بتونه اینقدر سریع(میانگین ۳۷ توکن در ثانیه)، تمیز و قابل قبول کد بزنه.
Replying to @negaronikoo
حرف حساب جواب نداره.
در برابر مسلمین(از هر نوع)، من حتی با ابلیس هم دست دوستی میدم.










