Buckets:

download
raw
72.6 kB
<meta charset="utf-8" /><meta name="hf:doc:metadata" content="{&quot;title&quot;:&quot;نظارت بر کوک کردن&quot;,&quot;local&quot;:&quot;نظارت-بر-کوک-کردن&quot;,&quot;sections&quot;:[{&quot;title&quot;:&quot;زمان استفاده از SFT&quot;,&quot;local&quot;:&quot;زمان-استفاده-از-sft&quot;,&quot;sections&quot;:[{&quot;title&quot;:&quot;کنترل قالب&quot;,&quot;local&quot;:&quot;کنترل-قالب&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;تطبیق دامنه&quot;,&quot;local&quot;:&quot;تطبیق-دامنه&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3}],&quot;depth&quot;:2},{&quot;title&quot;:&quot;آماده سازی دیتاسِت&quot;,&quot;local&quot;:&quot;آماده-سازی-دیتاست&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;پیکربندی آموزش&quot;,&quot;local&quot;:&quot;پیکربندی-آموزش&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;پیاده سازی با TRL&quot;,&quot;local&quot;:&quot;پیاده-سازی-با-trl&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;بسته بندی دیتاسِت&quot;,&quot;local&quot;:&quot;بسته-بندی-دیتاست&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;نظارت بر پیشرفت آموزش&quot;,&quot;local&quot;:&quot;نظارت-بر-پیشرفت-آموزش&quot;,&quot;sections&quot;:[{&quot;title&quot;:&quot;درک الگوهای ضرر&quot;,&quot;local&quot;:&quot;درک-الگوهای-ضرر&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;معیارهایی برای نظارت&quot;,&quot;local&quot;:&quot;معیارهایی-برای-نظارت&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;مسیر همگرایی&quot;,&quot;local&quot;:&quot;مسیر-همگرایی&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;نظارت بر پیشرفت آموزش&quot;,&quot;local&quot;:&quot;نظارت-بر-پیشرفت-آموزش&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;علائم هشدار دهنده که باید مراقب آنها باشید&quot;,&quot;local&quot;:&quot;علائم-هشدار-دهنده-که-باید-مراقب-آنها-باشید&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3}],&quot;depth&quot;:2},{&quot;title&quot;:&quot;ارزیابی بعد از SFT&quot;,&quot;local&quot;:&quot;ارزیابی-بعد-از-sft&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;آزمون&quot;,&quot;local&quot;:&quot;آزمون&quot;,&quot;sections&quot;:[{&quot;title&quot;:&quot;۱. کدام پارامترها مدت تعلیم در SFT را کنترل می‌کنند؟&quot;,&quot;local&quot;:&quot;۱-کدام-پارامترها-مدت-تعلیم-در-sft-را-کنترل-میکنند&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;۲. کدام الگو در منحنی‌های هزینه نشان‌دهنده‌ی بیش‌برازش احتمالی است؟&quot;,&quot;local&quot;:&quot;۲-کدام-الگو-در-منحنیهای-هزینه-نشاندهندهی-بیشبرازش-احتمالی-است&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;۳. gradient_accumulation_steps برای چه کاری استفاده می‌شود؟&quot;,&quot;local&quot;:&quot;۳-gradientaccumulationsteps-برای-چه-کاری-استفاده-میشود&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;۴. هنگام تعلیم SFT چه چیزهایی را باید زیر نظر داشته باشید؟&quot;,&quot;local&quot;:&quot;۴-هنگام-تعلیم-sft-چه-چیزهایی-را-باید-زیر-نظر-داشته-باشید&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;۵. چه چیزی نشان‌دهنده‌ی همگرایی سالم هنگام تعلیم است؟&quot;,&quot;local&quot;:&quot;۵-چه-چیزی-نشاندهندهی-همگرایی-سالم-هنگام-تعلیم-است&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3}],&quot;depth&quot;:2},{&quot;title&quot;:&quot;💐 کارتان عالی بود!&quot;,&quot;local&quot;:&quot;-کارتان-عالی-بود&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;منابع بیشتر&quot;,&quot;local&quot;:&quot;منابع-بیشتر&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2}],&quot;depth&quot;:1}"/>
<link href="/docs/course/pr_1364/fa/_app/immutable/entry/start.CqZXmSrv.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/chunks/oyrVqMhC.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/chunks/B3UUDp28.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/entry/app.B4UvgX5H.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/chunks/BioDZtGL.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/chunks/NIl2lQjl.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/chunks/DN6uzRQe.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/chunks/DsnmJJEf.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/nodes/0.DcFj1eGj.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/chunks/u5kFQ1Zb.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/nodes/23.B7ZfZI50.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/chunks/BjCHz3cj.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/chunks/B8VBSgkq.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/chunks/DFIrGYWg.js" rel="modulepreload">
<link href="/docs/course/pr_1364/fa/_app/immutable/chunks/NA1Q7nSg.js" rel="modulepreload">
<!--1d45tky--><meta name="hf:doc:metadata" content="{&quot;title&quot;:&quot;نظارت بر کوک کردن&quot;,&quot;local&quot;:&quot;نظارت-بر-کوک-کردن&quot;,&quot;sections&quot;:[{&quot;title&quot;:&quot;زمان استفاده از SFT&quot;,&quot;local&quot;:&quot;زمان-استفاده-از-sft&quot;,&quot;sections&quot;:[{&quot;title&quot;:&quot;کنترل قالب&quot;,&quot;local&quot;:&quot;کنترل-قالب&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;تطبیق دامنه&quot;,&quot;local&quot;:&quot;تطبیق-دامنه&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3}],&quot;depth&quot;:2},{&quot;title&quot;:&quot;آماده سازی دیتاسِت&quot;,&quot;local&quot;:&quot;آماده-سازی-دیتاست&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;پیکربندی آموزش&quot;,&quot;local&quot;:&quot;پیکربندی-آموزش&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;پیاده سازی با TRL&quot;,&quot;local&quot;:&quot;پیاده-سازی-با-trl&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;بسته بندی دیتاسِت&quot;,&quot;local&quot;:&quot;بسته-بندی-دیتاست&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;نظارت بر پیشرفت آموزش&quot;,&quot;local&quot;:&quot;نظارت-بر-پیشرفت-آموزش&quot;,&quot;sections&quot;:[{&quot;title&quot;:&quot;درک الگوهای ضرر&quot;,&quot;local&quot;:&quot;درک-الگوهای-ضرر&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;معیارهایی برای نظارت&quot;,&quot;local&quot;:&quot;معیارهایی-برای-نظارت&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;مسیر همگرایی&quot;,&quot;local&quot;:&quot;مسیر-همگرایی&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;نظارت بر پیشرفت آموزش&quot;,&quot;local&quot;:&quot;نظارت-بر-پیشرفت-آموزش&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;علائم هشدار دهنده که باید مراقب آنها باشید&quot;,&quot;local&quot;:&quot;علائم-هشدار-دهنده-که-باید-مراقب-آنها-باشید&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3}],&quot;depth&quot;:2},{&quot;title&quot;:&quot;ارزیابی بعد از SFT&quot;,&quot;local&quot;:&quot;ارزیابی-بعد-از-sft&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;آزمون&quot;,&quot;local&quot;:&quot;آزمون&quot;,&quot;sections&quot;:[{&quot;title&quot;:&quot;۱. کدام پارامترها مدت تعلیم در SFT را کنترل می‌کنند؟&quot;,&quot;local&quot;:&quot;۱-کدام-پارامترها-مدت-تعلیم-در-sft-را-کنترل-میکنند&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;۲. کدام الگو در منحنی‌های هزینه نشان‌دهنده‌ی بیش‌برازش احتمالی است؟&quot;,&quot;local&quot;:&quot;۲-کدام-الگو-در-منحنیهای-هزینه-نشاندهندهی-بیشبرازش-احتمالی-است&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;۳. gradient_accumulation_steps برای چه کاری استفاده می‌شود؟&quot;,&quot;local&quot;:&quot;۳-gradientaccumulationsteps-برای-چه-کاری-استفاده-میشود&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;۴. هنگام تعلیم SFT چه چیزهایی را باید زیر نظر داشته باشید؟&quot;,&quot;local&quot;:&quot;۴-هنگام-تعلیم-sft-چه-چیزهایی-را-باید-زیر-نظر-داشته-باشید&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3},{&quot;title&quot;:&quot;۵. چه چیزی نشان‌دهنده‌ی همگرایی سالم هنگام تعلیم است؟&quot;,&quot;local&quot;:&quot;۵-چه-چیزی-نشاندهندهی-همگرایی-سالم-هنگام-تعلیم-است&quot;,&quot;sections&quot;:[],&quot;depth&quot;:3}],&quot;depth&quot;:2},{&quot;title&quot;:&quot;💐 کارتان عالی بود!&quot;,&quot;local&quot;:&quot;-کارتان-عالی-بود&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;منابع بیشتر&quot;,&quot;local&quot;:&quot;منابع-بیشتر&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2}],&quot;depth&quot;:1}"/><!---->
<link href="/docs/course/pr_1364/fa/_app/immutable/assets/0.tn0RQdqM.css" rel="modulepreload"> <!--[--><!--[0--><!--[--><!--[0--><!--[--><p></p> <div dir="rtl"><div class="flex space-x-1 absolute z-10 right-0 top-0"><a href="https://discuss.huggingface.co/t/chapter-2-questions" target="_blank"><img alt="Ask a Question" class="!m-0" src="https://img.shields.io/badge/Ask%20a%20question-ffcb4c.svg?logo=data:image/svg+xml;base64,PHN2ZyB4bWxucz0iaHR0cDovL3d3dy53My5vcmcvMjAwMC9zdmciIHZpZXdCb3g9IjAgLTEgMTA0IDEwNiI+PGRlZnM+PHN0eWxlPi5jbHMtMXtmaWxsOiMyMzFmMjA7fS5jbHMtMntmaWxsOiNmZmY5YWU7fS5jbHMtM3tmaWxsOiMwMGFlZWY7fS5jbHMtNHtmaWxsOiMwMGE5NGY7fS5jbHMtNXtmaWxsOiNmMTVkMjI7fS5jbHMtNntmaWxsOiNlMzFiMjM7fTwvc3R5bGU+PC9kZWZzPjx0aXRsZT5EaXNjb3Vyc2VfbG9nbzwvdGl0bGU+PGcgaWQ9IkxheWVyXzIiPjxnIGlkPSJMYXllcl8zIj48cGF0aCBjbGFzcz0iY2xzLTEiIGQ9Ik01MS44NywwQzIzLjcxLDAsMCwyMi44MywwLDUxYzAsLjkxLDAsNTIuODEsMCw1Mi44MWw1MS44Ni0uMDVjMjguMTYsMCw1MS0yMy43MSw1MS01MS44N1M4MCwwLDUxLjg3LDBaIi8+PHBhdGggY2xhc3M9ImNscy0yIiBkPSJNNTIuMzcsMTkuNzRBMzEuNjIsMzEuNjIsMCwwLDAsMjQuNTgsNjYuNDFsLTUuNzIsMTguNEwzOS40LDgwLjE3YTMxLjYxLDMxLjYxLDAsMSwwLDEzLTYwLjQzWiIvPjxwYXRoIGNsYXNzPSJjbHMtMyIgZD0iTTc3LjQ1LDMyLjEyYTMxLjYsMzEuNiwwLDAsMS0zOC4wNSw0OEwxOC44Niw4NC44MmwyMC45MS0yLjQ3QTMxLjYsMzEuNiwwLDAsMCw3Ny40NSwzMi4xMloiLz48cGF0aCBjbGFzcz0iY2xzLTQiIGQ9Ik03MS42MywyNi4yOUEzMS42LDMxLjYsMCwwLDEsMzguOCw3OEwxOC44Niw4NC44MiwzOS40LDgwLjE3QTMxLjYsMzEuNiwwLDAsMCw3MS42MywyNi4yOVoiLz48cGF0aCBjbGFzcz0iY2xzLTUiIGQ9Ik0yNi40Nyw2Ny4xMWEzMS42MSwzMS42MSwwLDAsMSw1MS0zNUEzMS42MSwzMS42MSwwLDAsMCwyNC41OCw2Ni40MWwtNS43MiwxOC40WiIvPjxwYXRoIGNsYXNzPSJjbHMtNiIgZD0iTTI0LjU4LDY2LjQxQTMxLjYxLDMxLjYxLDAsMCwxLDcxLjYzLDI2LjI5YTMxLjYxLDMxLjYxLDAsMCwwLTQ5LDM5LjYzbC0zLjc2LDE4LjlaIi8+PC9nPjwvZz48L3N2Zz4="/></a><!----> <!--[0--><a href="https://colab.research.google.com/github/huggingface/notebooks/blob/main/course/en/chapter11/section3.ipynb" target="_blank"><img alt="Open In Colab" class="!m-0" src="https://colab.research.google.com/assets/colab-badge.svg"/></a><!--]--> <!--[-1--><!--]--></div><!----> <div class="items-center shrink-0 min-w-[100px] max-sm:min-w-[50px] justify-end ml-auto flex" style="float: right; margin-left: 10px; display: inline-flex; position: relative; z-index: 10;"><div class="inline-flex rounded-md max-sm:rounded-sm"><button class="inline-flex items-center gap-1 h-7 max-sm:h-7 px-2 max-sm:px-1.5 text-sm font-medium text-gray-800 border border-r-0 rounded-l-md max-sm:rounded-l-sm border-gray-200 bg-white hover:shadow-inner dark:border-gray-850 dark:bg-gray-950 dark:text-gray-200 dark:hover:bg-gray-800" aria-live="polite"><span class="inline-flex items-center justify-center rounded-md p-0.5 max-sm:p-0 hover:text-gray-800 dark:hover:text-gray-200"><svg class="sm:size-3.5 size-3" xmlns="http://www.w3.org/2000/svg" aria-hidden="true" fill="currentColor" focusable="false" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 32 32"><path d="M28,10V28H10V10H28m0-2H10a2,2,0,0,0-2,2V28a2,2,0,0,0,2,2H28a2,2,0,0,0,2-2V10a2,2,0,0,0-2-2Z" transform="translate(0)"></path><path d="M4,18H2V4A2,2,0,0,1,4,2H18V4H4Z" transform="translate(0)"></path><rect fill="none" width="32" height="32"></rect></svg><!----></span> <span>Copy page</span></button> <button class="inline-flex items-center justify-center w-6 max-sm:w-5 h-7 max-sm:h-7 disabled:pointer-events-none text-sm text-gray-500 hover:text-gray-700 dark:hover:text-white rounded-r-md max-sm:rounded-r-sm border border-l transition border-gray-200 bg-white hover:shadow-inner dark:border-gray-850 dark:bg-gray-950 dark:text-gray-200 dark:hover:bg-gray-800" aria-haspopup="menu" aria-expanded="false" aria-label="Open copy menu"><svg class="transition-transform text-gray-400 overflow-visible sm:size-3.5 size-3 rotate-0" width="1em" height="1em" viewBox="0 0 12 7" fill="none" xmlns="http://www.w3.org/2000/svg"><path d="M1 1L6 6L11 1" stroke="currentColor"></path></svg><!----></button></div> <!--[-1--><!--]--></div><!----> <!--[0--><h1 class="relative group"><a id="نظارت-بر-کوک-کردن" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#نظارت-بر-کوک-کردن"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>نظارت بر کوک کردن</span></h1><!--]--><!----> <p>کوک کردن نظارت شده (SFT) فرآیندی است که عمدتاً برای انطباق مدل‌های زبان از پیش‌تعلیم‌دیده برای پیروی از دستورالعمل‌ها، مشارکت در گفتگو و استفاده از فرمت‌های خروجی خاص استفاده می‌شود. در حالی که مدل‌های از پیش‌تعلیم‌دیده دارای قابلیت‌های کلی چشمگیر هستند، SFT به تبدیل آن‌ها به مدل‌های دستیار کمک می‌کند که بهتر می‌توانند درخواست‌های کاربر را درک کنند و به آنها پاسخ دهند. این معمولاً با آموزش دیتاسِت‌های مکالمات و دستورالعمل‌های نوشته شده توسط انسان انجام می‌شود.</p> <p>این صفحه یک راهنمای گام به گام برای کوک کردن مدل <a href="https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B" rel="nofollow"><code>deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B</code></a> با استفاده از <a href="https://huggingface.co/docs/trl/en/sft_trainer" rel="nofollow"><code>SFTTrainer</code></a> ارائه می دهد. با دنبال کردن این مراحل، می توانید مدل را برای انجام وظایف خاص به طور موثرتر تطبیق دهید.</p> <!--[1--><h2 class="relative group"><a id="زمان-استفاده-از-sft" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#زمان-استفاده-از-sft"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>زمان استفاده از SFT</span></h2><!--]--><!----> <p>قبل از پرداختن به پیاده سازی، مهم است که بدانید چه زمانی SFT انتخاب مناسبی برای پروژه شما است. به عنوان اولین قدم، باید در نظر بگیرید که آیا استفاده از یک مدل تنظیم شده با دستورالعمل موجود با دستورات به خوبی ساخته شده برای مورد استفاده شما کافی است یا خیر. SFT شامل منابع محاسباتی و تلاش مهندسی قابل توجهی است، بنابراین تنها زمانی باید دنبال شود که مدل‌های موجود ناکافی باشند.</p> <blockquote class="tip"><p>SFT را فقط در صورتی در نظر بگیرید که:</p> <ul><li>نیاز به عملکرد اضافی فراتر از آنچه که تحریک می تواند به دست آورد</li> <li>یک مورد استفاده خاص داشته باشید که در آن هزینه استفاده از یک مدل بزرگ همه منظوره بیشتر از هزینه کوک کردن یک مدل کوچکتر باشد.</li> <li>نیاز به فرمت‌های خروجی تخصصی یا دانش خاص دامنه است که مدل‌های موجود با آن مشکل دارند</li></ul></blockquote> <p>اگر تشخیص دهید که SFT ضروری است، تصمیم برای ادامه به دو عامل اصلی بستگی دارد:</p> <!--[2--><h3 class="relative group"><a id="کنترل-قالب" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#کنترل-قالب"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>کنترل قالب</span></h3><!--]--><!----> <p>SFT امکان کنترل دقیق بر ساختار خروجی مدل را فراهم می کند. این به ویژه زمانی ارزشمند است که به مدل نیاز دارید:</p> <ol><li>پاسخ ها را در قالب قالب چت خاص ایجاد کنید</li> <li>از طرحواره های خروجی دقیق پیروی کنید</li> <li>استایل ثابت را در بین پاسخ ها حفظ کنید</li></ol> <!--[2--><h3 class="relative group"><a id="تطبیق-دامنه" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#تطبیق-دامنه"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>تطبیق دامنه</span></h3><!--]--><!----> <p>هنگام کار در حوزه های تخصصی، SFT به تراز کردن مدل با الزامات خاص دامنه کمک می کند:</p> <ol><li>آموزش اصطلاحات و مفاهیم حوزه</li> <li>اجرای استانداردهای حرفه ای</li> <li>رسیدگی مناسب به سوالات فنی</li> <li>پیروی از دستورالعمل های خاص صنعت</li></ol> <blockquote class="tip"><p>قبل از شروع SFT، ارزیابی کنید که آیا مورد استفاده شما نیاز دارد:</p> <ul><li>قالب بندی دقیق خروجی</li> <li>دانش اختصاصی دامنه</li> <li>الگوهای پاسخ منسجم</li> <li>رعایت دستورالعمل های خاص</li></ul> <p>این ارزیابی به تعیین اینکه آیا SFT رویکرد مناسبی برای نیازهای شما است کمک می کند.</p></blockquote> <!--[1--><h2 class="relative group"><a id="آماده-سازی-دیتاست" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#آماده-سازی-دیتاست"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>آماده سازی دیتاسِت</span></h2><!--]--><!----> <p>فرآیند کوک کردن نظارت شده به یک دیتاسِت خاص وظیفه ساختار یافته با جفت ورودی-خروجی نیاز دارد. هر جفت باید شامل موارد زیر باشد:</p> <ol><li>یک اعلان ورودی</li> <li>پاسخ مدل مورد انتظار</li> <li>هر زمینه یا ابرداده اضافی</li></ol> <p>کیفیت داده های آموزشی شما برای کوک کردن موفقیت آمیز بسیار مهم است. بیایید نحوه تهیه و اعتبارسنجی دیتاسِت خود را بررسی کنیم:</p> <iframe src="https://huggingface.co/datasets/HuggingFaceTB/smoltalk/embed/viewer/all/train?row=0" frameborder="0" width="100%" height="360px"></iframe> <!--[1--><h2 class="relative group"><a id="پیکربندی-آموزش" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#پیکربندی-آموزش"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>پیکربندی آموزش</span></h2><!--]--><!----> <p>موفقیت کوک کردن شما به شدت به انتخاب پارامترهای آموزشی مناسب بستگی دارد. بیایید هر پارامتر مهم و نحوه پیکربندی موثر آنها را بررسی کنیم:</p> <p>پیکربندی SFTTrainer نیازمند در نظر گرفتن چندین پارامتر است که فرآیند آموزش را کنترل می کند. بیایید هر پارامتر و هدف آنها را بررسی کنیم:</p> <ol><li><p><strong>پارامترهای مدت آموزش</strong>:</p> <ul><li><code>num_train_epochs</code>: کل مدت زمان تمرین را کنترل می کند</li> <li><code>max_steps</code>: جایگزین دوره ها، حداکثر تعداد مراحل آموزشی را تنظیم می کند</li> <li>دوره های بیشتر امکان یادگیری بهتر را فراهم می کند، اما خطر تطبیق بیش از حد را دارد</li></ul></li> <li><p><strong>پارامترهای اندازه دسته</strong>:</p> <ul><li><code>per_device_train_batch_size</code>: میزان استفاده از حافظه و ثبات تمرین را تعیین می کند</li> <li><code>gradient_accumulation_steps</code>: اندازه های دسته ای موثرتر را فعال می کند</li> <li>دسته های بزرگتر گرادیان های پایدارتری را ارائه می دهند اما به حافظه بیشتری نیاز دارند</li></ul></li> <li><p><strong>پارامترهای نرخ یادگیری</strong>:</p> <ul><li><code>learning_rate</code>: اندازه به روز رسانی وزن را کنترل می کند</li> <li><code>warmup_ratio</code>: بخشی از آموزش مورد استفاده برای گرم کردن میزان یادگیری</li> <li>بیش از حد بالا می تواند باعث بی ثباتی شود، نتایج بسیار کم منجر به یادگیری کند می شود</li></ul></li> <li><p><strong>پارامترهای مانیتورینگ</strong>:</p> <ul><li><code>logging_steps</code>: فرکانس ثبت متریک</li> <li><code>eval_steps</code>: هر چند وقت یکبار باید روی داده های اعتبارسنجی ارزیابی شود</li> <li><code>save_steps</code>: فرکانس ذخیره های ایست بازرسی مدل</li></ul></li></ol> <blockquote class="tip"><p>با مقادیر محافظه کارانه شروع کنید و بر اساس نظارت تنظیم کنید:</p> <ul><li>با 1-3 دوره شروع کنید</li> <li>در ابتدا از اندازه های کوچکتر استفاده کنید</li> <li>معیارهای اعتبارسنجی را از نزدیک نظارت کنید</li> <li>اگر آموزش ناپایدار است، نرخ یادگیری را تنظیم کنید</li></ul></blockquote> <!--[1--><h2 class="relative group"><a id="پیاده-سازی-با-trl" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#پیاده-سازی-با-trl"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>پیاده سازی با TRL</span></h2><!--]--><!----> <p>اکنون که اجزای کلیدی را درک کردیم، بیایید آموزش را با اعتبارسنجی و نظارت مناسب پیاده سازی کنیم. ما از کلاس <code>SFTTrainer</code> از کتابخانه Transformers Reinforcement Learning (TRL) استفاده خواهیم کرد که در بالای کتابخانه <code>transformers</code> ساخته شده است. در اینجا یک مثال کامل با استفاده از کتابخانه TRL آورده شده است:</p> <div class="code-block relative "><div class="absolute top-2.5 right-4"><button class="inline-flex items-center relative text-sm focus:text-green-500 cursor-pointer focus:outline-none transition duration-200 ease-in-out opacity-0 mx-0.5 text-gray-600 " title="code excerpt" type="button"><svg xmlns="http://www.w3.org/2000/svg" aria-hidden="true" fill="currentColor" focusable="false" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 32 32"><path d="M28,10V28H10V10H28m0-2H10a2,2,0,0,0-2,2V28a2,2,0,0,0,2,2H28a2,2,0,0,0,2-2V10a2,2,0,0,0-2-2Z" transform="translate(0)"></path><path d="M4,18H2V4A2,2,0,0,1,4,2H18V4H4Z" transform="translate(0)"></path><rect fill="none" width="32" height="32"></rect></svg><!----> <div class=" absolute pointer-events-none transition-opacity bg-black text-white py-1 px-2 leading-tight rounded font-normal shadow left-1/2 top-full transform -translate-x-1/2 translate-y-2 opacity-0 "><div class="absolute bottom-full left-1/2 transform -translate-x-1/2 w-0 h-0 border-black border-4 border-t-0" style="border-left-color: transparent; border-right-color: transparent;"></div> Copied</div><!----></button><!----></div> <pre class="language-python "><!----><span class="hljs-keyword">from</span> datasets <span class="hljs-keyword">import</span> load_dataset
<span class="hljs-keyword">from</span> trl <span class="hljs-keyword">import</span> SFTConfig, SFTTrainer
<span class="hljs-keyword">import</span> torch
<span class="hljs-comment"># Set device</span>
device = <span class="hljs-string">&quot;cuda&quot;</span> <span class="hljs-keyword">if</span> torch.cuda.is_available() <span class="hljs-keyword">else</span> <span class="hljs-string">&quot;cpu&quot;</span>
<span class="hljs-comment"># Load dataset</span>
dataset = load_dataset(<span class="hljs-string">&quot;HuggingFaceTB/smoltalk&quot;</span>, <span class="hljs-string">&quot;all&quot;</span>)
<span class="hljs-comment"># Configure model and tokenizer</span>
model_name = <span class="hljs-string">&quot;HuggingFaceTB/SmolLM2-135M&quot;</span>
model = AutoModelForCausalLM.from_pretrained(pretrained_model_name_or_path=model_name).to(
device
)
tokenizer = AutoTokenizer.from_pretrained(pretrained_model_name_or_path=model_name)
<span class="hljs-comment"># Setup chat template</span>
model, tokenizer = setup_chat_format(model=model, tokenizer=tokenizer)
<span class="hljs-comment"># Configure trainer</span>
training_args = SFTConfig(
output_dir=<span class="hljs-string">&quot;./sft_output&quot;</span>,
max_steps=<span class="hljs-number">1000</span>,
per_device_train_batch_size=<span class="hljs-number">4</span>,
learning_rate=<span class="hljs-number">5e-5</span>,
logging_steps=<span class="hljs-number">10</span>,
save_steps=<span class="hljs-number">100</span>,
eval_strategy=<span class="hljs-string">&quot;steps&quot;</span>,
eval_steps=<span class="hljs-number">50</span>,
)
<span class="hljs-comment"># Initialize trainer</span>
trainer = SFTTrainer(
model=model,
args=training_args,
train_dataset=dataset[<span class="hljs-string">&quot;train&quot;</span>],
eval_dataset=dataset[<span class="hljs-string">&quot;test&quot;</span>],
processing_class=tokenizer,
)
<span class="hljs-comment"># Start training</span>
trainer.train()<!----></pre></div><!----> <blockquote class="tip"><p>هنگام استفاده از دیتاسِت با فیلد “پیام ها” (مانند مثال بالا)، SFTTrainer به طور خودکار الگوی چت مدل را اعمال می کند، که آن را از هاب بازیابی می کند. این بدان معناست که برای مدیریت مکالمات به سبک چت نیازی به پیکربندی اضافی ندارید - مربی پیام ها را مطابق با قالب مورد انتظار مدل قالب بندی می کند.</p></blockquote> <!--[1--><h2 class="relative group"><a id="بسته-بندی-دیتاست" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#بسته-بندی-دیتاست"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>بسته بندی دیتاسِت</span></h2><!--]--><!----> <p>SFTTrainer از بسته بندی نمونه برای بهینه سازی کارایی آموزش پشتیبانی می کند. این ویژگی به چندین مثال کوتاه اجازه می دهد تا در یک توالی ورودی یکسان بسته بندی شود و استفاده از GPU در طول آموزش به حداکثر برسد. برای فعال کردن بسته بندی، به سادگی <code>packing=True</code> را در سازنده SFTConfig تنظیم کنید. هنگام استفاده از دیتاسِت های بسته بندی شده با <code>max_steps</code>، توجه داشته باشید که بسته به پیکربندی بسته بندی خود ممکن است دوره های بیشتری از آنچه انتظار می رود تمرین کنید. می‌توانید نحوه ترکیب نمونه‌ها را با استفاده از یک تابع قالب‌بندی سفارشی کنید - مخصوصاً هنگام کار با دیتاسِت‌هایی که دارای فیلدهای متعدد مانند جفت‌های پرسش و پاسخ هستند. برای دیتاسِت های ارزیابی، می توانید بسته بندی را با تنظیم <code>eval_packing=False</code> در SFTConfig غیرفعال کنید. در اینجا یک مثال اساسی از سفارشی کردن پیکربندی بسته بندی آورده شده است:</p> <div class="code-block relative "><div class="absolute top-2.5 right-4"><button class="inline-flex items-center relative text-sm focus:text-green-500 cursor-pointer focus:outline-none transition duration-200 ease-in-out opacity-0 mx-0.5 text-gray-600 " title="code excerpt" type="button"><svg xmlns="http://www.w3.org/2000/svg" aria-hidden="true" fill="currentColor" focusable="false" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 32 32"><path d="M28,10V28H10V10H28m0-2H10a2,2,0,0,0-2,2V28a2,2,0,0,0,2,2H28a2,2,0,0,0,2-2V10a2,2,0,0,0-2-2Z" transform="translate(0)"></path><path d="M4,18H2V4A2,2,0,0,1,4,2H18V4H4Z" transform="translate(0)"></path><rect fill="none" width="32" height="32"></rect></svg><!----> <div class=" absolute pointer-events-none transition-opacity bg-black text-white py-1 px-2 leading-tight rounded font-normal shadow left-1/2 top-full transform -translate-x-1/2 translate-y-2 opacity-0 "><div class="absolute bottom-full left-1/2 transform -translate-x-1/2 w-0 h-0 border-black border-4 border-t-0" style="border-left-color: transparent; border-right-color: transparent;"></div> Copied</div><!----></button><!----></div> <pre class="language-python "><!----><span class="hljs-comment"># Configure packing</span>
training_args = SFTConfig(packing=<span class="hljs-literal">True</span>)
trainer = SFTTrainer(model=model, train_dataset=dataset, args=training_args)
trainer.train()<!----></pre></div><!----> <p>هنگام بسته بندی دیتاسِت با چندین فیلد، می توانید یک تابع قالب بندی سفارشی برای ترکیب فیلدها در یک توالی ورودی واحد تعریف کنید. این تابع باید لیستی از نمونه ها را تهیه کند و یک فرهنگ لغت را با دنباله ورودی بسته بندی شده برگرداند. در اینجا مثالی از یک تابع قالب بندی سفارشی آورده شده است:</p> <div class="code-block relative "><div class="absolute top-2.5 right-4"><button class="inline-flex items-center relative text-sm focus:text-green-500 cursor-pointer focus:outline-none transition duration-200 ease-in-out opacity-0 mx-0.5 text-gray-600 " title="code excerpt" type="button"><svg xmlns="http://www.w3.org/2000/svg" aria-hidden="true" fill="currentColor" focusable="false" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 32 32"><path d="M28,10V28H10V10H28m0-2H10a2,2,0,0,0-2,2V28a2,2,0,0,0,2,2H28a2,2,0,0,0,2-2V10a2,2,0,0,0-2-2Z" transform="translate(0)"></path><path d="M4,18H2V4A2,2,0,0,1,4,2H18V4H4Z" transform="translate(0)"></path><rect fill="none" width="32" height="32"></rect></svg><!----> <div class=" absolute pointer-events-none transition-opacity bg-black text-white py-1 px-2 leading-tight rounded font-normal shadow left-1/2 top-full transform -translate-x-1/2 translate-y-2 opacity-0 "><div class="absolute bottom-full left-1/2 transform -translate-x-1/2 w-0 h-0 border-black border-4 border-t-0" style="border-left-color: transparent; border-right-color: transparent;"></div> Copied</div><!----></button><!----></div> <pre class="language-python "><!----><span class="hljs-keyword">def</span> <span class="hljs-title function_">formatting_func</span>(<span class="hljs-params">example</span>):
text = <span class="hljs-string">f&quot;### Question: <span class="hljs-subst">{example[<span class="hljs-string">&#x27;question&#x27;</span>]}</span>\n ### Answer: <span class="hljs-subst">{example[<span class="hljs-string">&#x27;answer&#x27;</span>]}</span>&quot;</span>
<span class="hljs-keyword">return</span> text
training_args = SFTConfig(packing=<span class="hljs-literal">True</span>)
trainer = SFTTrainer(
<span class="hljs-string">&quot;facebook/opt-350m&quot;</span>,
train_dataset=dataset,
args=training_args,
formatting_func=formatting_func,
)<!----></pre></div><!----> <!--[1--><h2 class="relative group"><a id="نظارت-بر-پیشرفت-آموزش" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#نظارت-بر-پیشرفت-آموزش"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>نظارت بر پیشرفت آموزش</span></h2><!--]--><!----> <p>نظارت موثر برای کوک کردن موفقیت آمیز بسیار مهم است. بیایید بررسی کنیم که در طول تمرین به چه چیزی توجه کنیم:</p> <!--[2--><h3 class="relative group"><a id="درک-الگوهای-ضرر" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#درک-الگوهای-ضرر"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>درک الگوهای ضرر</span></h3><!--]--><!----> <p>از دست دادن تمرین معمولاً از سه مرحله متمایز پیروی می کند:</p> <ol><li>Initial Sharp Drop: سازگاری سریع با توزیع داده های جدید</li> <li>تثبیت تدریجی: سرعت یادگیری با کوک کردن مدل کاهش می یابد</li> <li>همگرایی: مقادیر ضرر تثبیت می شود که نشان دهنده اتمام آموزش است</li></ol> <img src="https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/nlp_course_sft_loss_graphic.png" alt="SFTTrainer Training"/> <!--[2--><h3 class="relative group"><a id="معیارهایی-برای-نظارت" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#معیارهایی-برای-نظارت"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>معیارهایی برای نظارت</span></h3><!--]--><!----> <p>نظارت مؤثر شامل ردیابی معیارهای کمی و ارزیابی معیارهای کیفی است. معیارهای موجود عبارتند از:</p> <ul><li>از دست دادن آموزش</li> <li>از دست دادن اعتبارسنجی</li> <li>پیشرفت سرعت یادگیری</li> <li>هنجارهای گرادیان</li></ul> <blockquote class="warning"><p>در حین تمرین مراقب این علائم هشدار باشید:</p> <ol><li>از دست دادن اعتبار سنجی افزایش می یابد در حالی که از دست دادن تمرین کاهش می یابد (بیش از حد)</li> <li>عدم بهبود قابل توجهی در مقادیر زیان (کمبود)</li> <li>مقادیر بسیار کم از دست دادن (به خاطر سپردن بالقوه)</li> <li>قالب بندی خروجی ناسازگار (مشکلات یادگیری الگو)</li></ol></blockquote> <!--[2--><h3 class="relative group"><a id="مسیر-همگرایی" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#مسیر-همگرایی"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>مسیر همگرایی</span></h3><!--]--><!----> <p>با پیشرفت تمرین، منحنی ضرر باید به تدریج تثبیت شود. شاخص کلیدی تمرین سالم، شکاف کوچکی بین آموزش و از دست دادن اعتبار است که نشان می‌دهد
مدل به جای به خاطر سپردن مثال های خاص، الگوهای قابل تعمیم را یاد می گیرد. مقادیر تلفات مطلق بسته به وظیفه و دیتاسِت شما متفاوت خواهد بود.</p> <!--[2--><h3 class="relative group"><a id="نظارت-بر-پیشرفت-آموزش" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#نظارت-بر-پیشرفت-آموزش"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>نظارت بر پیشرفت آموزش</span></h3><!--]--><!----> <p>نمودار بالا یک پیشرفت تمرینی معمولی را نشان می دهد. توجه کنید که چگونه از دست دادن آموزش و اعتبارسنجی در ابتدا به شدت کاهش می یابد، سپس به تدریج کاهش می یابد. این الگو نشان می‌دهد که مدل با حفظ توانایی تعمیم، به طور مؤثر یاد می‌گیرد.</p> <!--[2--><h3 class="relative group"><a id="علائم-هشدار-دهنده-که-باید-مراقب-آنها-باشید" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#علائم-هشدار-دهنده-که-باید-مراقب-آنها-باشید"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>علائم هشدار دهنده که باید مراقب آنها باشید</span></h3><!--]--><!----> <p>چندین الگو در منحنی های زیان می تواند نشان دهنده مسائل بالقوه باشد. در زیر علائم هشدار دهنده رایج و راه حل هایی را که می توانیم در نظر بگیریم، نشان می دهیم.</p> <img src="https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/sft_loss_1.png" alt="SFTTrainer Training"/> <p>اگر تلفات اعتبارسنجی با سرعت قابل توجهی کمتر از از دست دادن تمرین کاهش یابد، احتمالاً مدل شما بیش از حد با داده‌های آموزشی سازگار است. در نظر بگیرید:</p> <ul><li>کاهش مراحل آموزش</li> <li>افزایش اندازه دیتاسِت</li> <li>اعتبارسنجی کیفیت و تنوع دیتاسِت ها</li></ul> <img src="https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/sft_loss_2.png" alt="SFTTrainer Training"/> <p>اگر ضرر بهبود قابل توجهی را نشان ندهد، مدل ممکن است به صورت زیر باشد:</p> <ul><li>یادگیری خیلی آهسته (سعی کنید سرعت یادگیری را افزایش دهید)</li> <li>مبارزه با کار (بررسی کیفیت داده ها و پیچیدگی کار)</li> <li>رفع محدودیت های معماری (مدل متفاوتی را در نظر بگیرید)</li></ul> <img src="https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/sft_loss_3.png" alt="SFTTrainer Training"/> <p>مقادیر بسیار کم از دست دادن می تواند به جای یادگیری، حفظ کردن را نشان دهد. این به ویژه در مورد اگر:</p> <ul><li>این مدل در نمونه های جدید و مشابه عملکرد ضعیفی دارد</li> <li>خروجی ها فاقد تنوع هستند</li> <li>پاسخ ها بسیار شبیه به نمونه های آموزشی هستند</li></ul> <blockquote class="warning"><p>هم مقادیر تلفات و هم خروجی های واقعی مدل را در طول آموزش کنترل کنید. گاهی اوقات از دست دادن می تواند خوب به نظر برسد در حالی که مدل رفتارهای ناخواسته ایجاد می کند. ارزیابی کیفی منظم پاسخ‌های مدل به بررسی مسائلی کمک می‌کند که معیارها به تنهایی ممکن است از دست بروند.</p></blockquote> <p>باید توجه داشته باشیم که تفسیر مقادیر تلفاتی که در اینجا بیان می‌کنیم، متداول‌ترین مورد را هدف قرار می‌دهد، و در واقع، مقادیر تلفات بسته به مدل، دیتاسِت‌ها، پارامترهای آموزشی و غیره می‌توانند به روش‌های مختلفی رفتار کنند. اگر علاقه‌مند به کاوش بیشتر در مورد الگوهای مشخص شده هستید، باید این پست وبلاگ توسط افراد <a href="https://www.fast.ai/posts/2023-09-04-learning-jumps/" rel="nofollow">Fast AI</a> را بررسی کنید.</p> <!--[1--><h2 class="relative group"><a id="ارزیابی-بعد-از-sft" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#ارزیابی-بعد-از-sft"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>ارزیابی بعد از SFT</span></h2><!--]--><!----> <p>در بخش <a href="/en/chapter11/4">11.4</a> نحوه ارزیابی مدل با استفاده از دیتاسِت‌های معیار را یاد خواهیم گرفت. در حال حاضر، ما بر ارزیابی کیفی مدل تمرکز خواهیم کرد.</p> <p>پس از تکمیل SFT، اقدامات بعدی را در نظر بگیرید:</p> <ol><li>مدل را به طور کامل بر اساس داده های آزمون نگه داشته شده ارزیابی کنید</li> <li>پایبندی الگو را در ورودی های مختلف اعتبار سنجی کنید</li> <li>آزمون حفظ دانش خاص دامنه</li> <li>معیارهای عملکرد دنیای واقعی را رصد کنید</li></ol> <blockquote class="tip"><p>فرآیند آموزش خود را مستند کنید، از جمله:</p> <ul><li>ویژگی های دیتاسِت</li> <li>پارامترهای آموزشی</li> <li>معیارهای عملکرد</li> <li>محدودیت های شناخته شده
این مستندات برای تکرار مدل های آینده ارزشمند خواهد بود.</li></ul></blockquote> <!--[1--><h2 class="relative group"><a id="آزمون" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#آزمون"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>آزمون</span></h2><!--]--><!----> <!--[2--><h3 class="relative group"><a id="۱-کدام-پارامترها-مدت-تعلیم-در-sft-را-کنترل-میکنند" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#۱-کدام-پارامترها-مدت-تعلیم-در-sft-را-کنترل-میکنند"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>۱. کدام پارامترها مدت تعلیم در SFT را کنترل می‌کنند؟</span></h3><!--]--><!----> <div><form><!--[--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="0"/> <!---->num_train_epochs و max_steps<!----></label> <!--[-1--><!--]--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="1"/> <!---->batch_size و learning_rate<!----></label> <!--[-1--><!--]--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="2"/> <!---->gradient_checkpointing و warmup_ratio<!----></label> <!--[-1--><!--]--><!--]--> <div class="flex flex-row items-center mt-3"><button class="btn px-4 mr-4" type="submit" disabled="">Submit</button> <!--[-1--><!--]--></div></form></div><!----> <!--[2--><h3 class="relative group"><a id="۲-کدام-الگو-در-منحنیهای-هزینه-نشاندهندهی-بیشبرازش-احتمالی-است" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#۲-کدام-الگو-در-منحنیهای-هزینه-نشاندهندهی-بیشبرازش-احتمالی-است"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>۲. کدام الگو در منحنی‌های هزینه نشان‌دهنده‌ی بیش‌برازش احتمالی است؟</span></h3><!--]--><!----> <div><form><!--[--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="0"/> <!---->هزینه‌ی اعتبارسنجی افزایش یابد، در حالی که هزینه‌ی تعلیم همچنان کاهش پیدا کند<!----></label> <!--[-1--><!--]--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="1"/> <!---->هزینه‌ی تعلیم و اعتبارسنجی هر دو پیوسته کاهش پیدا کنند<!----></label> <!--[-1--><!--]--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="2"/> <!---->هزینه‌ی تعلیم ثابت بماند، در حالی که هزینه‌ی اعتبارسنجی کاهش پیدا کند<!----></label> <!--[-1--><!--]--><!--]--> <div class="flex flex-row items-center mt-3"><button class="btn px-4 mr-4" type="submit" disabled="">Submit</button> <!--[-1--><!--]--></div></form></div><!----> <!--[2--><h3 class="relative group"><a id="۳-gradientaccumulationsteps-برای-چه-کاری-استفاده-میشود" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#۳-gradientaccumulationsteps-برای-چه-کاری-استفاده-میشود"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>۳. gradient_accumulation_steps برای چه کاری استفاده می‌شود؟</span></h3><!--]--><!----> <div><form><!--[--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="0"/> <!---->افزایش اندازه‌ی مؤثر بتچ بدون استفاده از حافظه‌ی بیشتر<!----></label> <!--[-1--><!--]--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="1"/> <!---->ذخیره‌ی نقاط تعلیم در طول تعلیم<!----></label> <!--[-1--><!--]--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="2"/> <!---->کنترل زمان‌بندی نرخ یادگیری<!----></label> <!--[-1--><!--]--><!--]--> <div class="flex flex-row items-center mt-3"><button class="btn px-4 mr-4" type="submit" disabled="">Submit</button> <!--[-1--><!--]--></div></form></div><!----> <!--[2--><h3 class="relative group"><a id="۴-هنگام-تعلیم-sft-چه-چیزهایی-را-باید-زیر-نظر-داشته-باشید" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#۴-هنگام-تعلیم-sft-چه-چیزهایی-را-باید-زیر-نظر-داشته-باشید"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>۴. هنگام تعلیم SFT چه چیزهایی را باید زیر نظر داشته باشید؟</span></h3><!--]--><!----> <div><form><!--[--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="0"/> <!---->هم معیارهای کمّی و هم خروجی‌های کیفی<!----></label> <!--[-1--><!--]--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="1"/> <!---->فقط هزینه‌ی تعلیم<!----></label> <!--[-1--><!--]--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="2"/> <!---->فقط کیفیت خروجی مدل<!----></label> <!--[-1--><!--]--><!--]--> <div class="flex flex-row items-center mt-3"><button class="btn px-4 mr-4" type="submit" disabled="">Submit</button> <!--[-1--><!--]--></div></form></div><!----> <!--[2--><h3 class="relative group"><a id="۵-چه-چیزی-نشاندهندهی-همگرایی-سالم-هنگام-تعلیم-است" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#۵-چه-چیزی-نشاندهندهی-همگرایی-سالم-هنگام-تعلیم-است"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>۵. چه چیزی نشان‌دهنده‌ی همگرایی سالم هنگام تعلیم است؟</span></h3><!--]--><!----> <div><form><!--[--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="0"/> <!---->فاصله‌ی کمی میان هزینه‌ی تعلیم و اعتبارسنجی<!----></label> <!--[-1--><!--]--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="1"/> <!---->رسیدن هزینه‌ی تعلیم به صفر<!----></label> <!--[-1--><!--]--><label class="block"><input autocomplete="off" class="form-input -mt-1.5 mr-2" name="choice" type="checkbox" value="2"/> <!---->کمتر بودن هزینه‌ی اعتبارسنجی از هزینه‌ی تعلیم<!----></label> <!--[-1--><!--]--><!--]--> <div class="flex flex-row items-center mt-3"><button class="btn px-4 mr-4" type="submit" disabled="">Submit</button> <!--[-1--><!--]--></div></form></div><!----> <!--[1--><h2 class="relative group"><a id="-کارتان-عالی-بود" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#-کارتان-عالی-بود"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>💐 کارتان عالی بود!</span></h2><!--]--><!----> <p>یاد گرفتید چگونه مدل‌ها را با SFT کوک کنید! برای ادامه‌ی یادگیری:</p> <ol><li>نوت‌بوک را با پارامترهای مختلف امتحان کنید.</li> <li>با دیتاسِت‌های دیگر آزمایش کنید.</li> <li>به بهبود مطالب دوره کمک کنید.</li></ol> <!--[1--><h2 class="relative group"><a id="منابع-بیشتر" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#منابع-بیشتر"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span>منابع بیشتر</span></h2><!--]--><!----> <ul><li><a href="https://huggingface.co/docs/trl" rel="nofollow">مستندات TRL</a></li> <li><a href="https://github.com/huggingface/trl/blob/main/trl/scripts/sft.py" rel="nofollow">مخزن نمونه‌های SFT</a></li> <li><a href="https://huggingface.co/docs/transformers/training" rel="nofollow">بهترین روش‌های کوک‌کردن</a></li></ul></div> <a class="!text-gray-400 !no-underline text-sm flex items-center not-prose mt-4" href="https://github.com/huggingface/course/blob/main/chapters/fa/chapter11/3.mdx" target="_blank"><svg class="mr-1" xmlns="http://www.w3.org/2000/svg" aria-hidden="true" fill="currentColor" focusable="false" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 32 32"><path d="M31,16l-7,7l-1.41-1.41L28.17,16l-5.58-5.59L24,9l7,7z"></path><path d="M1,16l7-7l1.41,1.41L3.83,16l5.58,5.59L8,23l-7-7z"></path><path d="M12.419,25.484L17.639,6.552l1.932,0.518L14.351,26.002z"></path></svg><!----> <span><span class="underline">Update</span> on GitHub</span></a><!----> <p></p><!--]--><!----><!--]--><!--]--><!--]--> <!--[-1--><!--]--><!--]-->
<script>
{
__sveltekit_pfm8ny = {
base: "/docs/course/pr_1364/fa",
assets: "/docs/course/pr_1364/fa"
};
const element = document.currentScript.parentElement;
Promise.all([
import("/docs/course/pr_1364/fa/_app/immutable/entry/start.CqZXmSrv.js"),
import("/docs/course/pr_1364/fa/_app/immutable/entry/app.B4UvgX5H.js")
]).then(([kit, app]) => {
kit.start(app, element, {
node_ids: [0, 23],
data: [null,null],
form: null,
error: null
});
});
}
</script>

Xet Storage Details

Size:
72.6 kB
·
Xet hash:
a37f5b63a83026eb11c08ac09dcff95e3b4d8d3853b9ee02def52d03edcf662d

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.