أدوات الذكاء الاصطناعي

حاسبة تكلفة تحسين النماذج (Fine-Tuning)

قدّر تكلفة ووقت تحسين (Fine-Tuning) النماذج اللغوية الكبيرة (LLMs). احسب ساعات استخدام وحدة المعالجة الرسومية (GPU) بناءً على حجم النموذج ومجموعة البيانات والتكوينات على موفري الخدمات السحابية.

المعلمات

حجم النموذج (بالمليارات)*

حجم النموذج بمليارات المعلمات (مثل 7B و 13B و 70B).

أمثلة التدريب*

عدد عينات التدريب في مجموعة البيانات الخاصة بك.

عدد الجولات (Epochs)*

عدد مرات المرور عبر مجموعة البيانات بأكملها.

طريقة التدريب

تقوم طريقة LoRA بتدريب 1-5% من المعلمات؛ بينما يدرب الضبط الكامل جميع المعلمات.

نوع GPU

حدد بطاقة الرسوميات (GPU) التي تخطط لاستخدامها.

عدد وحدات GPU*

عدد بطاقات الرسوميات للتدريب الموزع.

النتائج

التكلفة الإجمالية المقدرة$3.27

1.6 hours × 1× A100 80GB @ $2/hr

نتائج أخرى (4)

وقت التدريب المقدر1.6 hours

98 minutes

المعلمات القابلة للتدريب0.14B (2%)

LoRA/QLoRA trains adapter layers only

ذاكرة GPU المقدرة (VRAM)18.1 GB

✓ Fits in 1× 80 GB A100 80GB

مقارنة تكاليف GPU

[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

لماذا تختار حاسبة تكلفة تحسين النماذج (Fine-Tuning)

قم بتقدير تكاليف تحسين (Fine-Tuning) النماذج اللغوية الكبيرة مثل Llama و Mistral و GPT. قارن تكاليف خيارات بطاقات الرسوميات (GPU) بما في ذلك A100 و H100 و RTX 4090 والمزيد. يدعم الأوضاع المختلفة مثل LoRA و QLoRA والتحسين الكامل مع توفير تقديرات دقيقة لاستهلاك الذاكرة (VRAM) لتجنب أخطاء نفاذ الذاكرة.

✓حساب الساعات المطلوبة لبطاقات GPU والتكلفة المالية لعملية التدريب
✓دعم طرق LoRA و QLoRA والتحسين الكامل للنموذج
✓تقدير دقيق لاستهلاك الذاكرة (VRAM) لمنع أخطاء (OOM)
✓مقارنة شاملة للتكاليف بين مزودي الخدمات السحابية (AWS و GCP و RunPod)

خطوات الاستخدام

1أدخل حجم النموذج بمليارات المعلمات (مثلاً اكتب 7 لنموذج 7B)
2أدخل عدد عينات التدريب وعدد الجولات (Epochs) المطلوبة
3اختر طريقة التحسين الخاصة بك (يوصى باستخدام LoRA لتوفير التكاليف)
4حدد نوع بطاقة GPU المستهدفة والكمية
5راجع وقت التدريب المقدر والتكلفة الإجمالية وذاكرة VRAM المطلوبة

الأسئلة الشائعة (FAQ)

ما الفرق بين LoRA والتحسين الكامل (Full Fine-tuning)؟

يُحدّث التحسين الكامل جميع معلمات النموذج، مما يتطلب ذاكرة GPU وموارد حوسبة هائلة. من ناحية أخرى، تقوم تقنية LoRA بتجميد النموذج الأساسي وتدريب شبكة محول صغيرة جدًا (عادة 1-5% من المعلمات)، مما يقلل بشكل كبير من وقت التدريب والتكلفة ومتطلبات VRAM.

ما مدى دقة تقدير الذاكرة (VRAM)؟

يعتبر هذا التقدير بمثابة خط أساس موثوق. بشكل عام، يتطلب التحسين الكامل بدقة 16 بت ومع مُحسِّن Adam حوالي 16-20 غيغابايت من ذاكرة VRAM لكل مليار معلمة. يقلل LoRA هذا المطلب بشكل كبير. قد يختلف الاستهلاك الفعلي بناءً على طول السياق وحجم الدفعة (Batch Size).

لماذا يعتبر وقت التدريب مهمًا للتكلفة؟

تتم فوترة بطاقات GPU السحابية بالساعة. التكلفة الإجمالية = معدل ساعة GPU × عدد وحدات GPU × وقت التدريب المقدر. على الرغم من أن وحدات المعالجة الرسومية الأقوى (مثل H100) تكلفتها أعلى في الساعة، إلا أنها تتدرب بسرعة أكبر، مما يؤدي غالبًا إلى خفض التكلفة الإجمالية للمشروع.

مراجع ومصادر موثوقة

Hugging Face PEFT

عرض المصدر

RunPod Pricing