Buckets:

|
download
raw
12.3 kB

آزمون پایان فصل[[end-of-chapter-quiz]]

۱. ترتیب خط لوله‌ی مدل‌سازی زبان چیست؟

<Question choices={[ { text: "ابتدا مدل که متن را پردازش می‌کند و پیش‌بینی‌های خام را برمی‌گرداند. سپس توکِنایزر این پیش‌بینی‌ها را تفسیر می‌کند و در صورت نیاز آن‌ها را دوباره به متن تبدیل می‌کند.", explain: "مدل نمی‌تواند متن را درک کند! ابتدا توکِنایزر باید متن را توکِن‌سازی و آن را به شناسه تبدیل کند تا برای مدل قابل‌فهم باشد." }, { text: "ابتدا توکِنایزر که متن را پردازش و شناسه‌ها را برمی‌گرداند. مدل این شناسه‌ها را پردازش می‌کند و پیش‌بینی‌ای برمی‌گرداند که می‌تواند متنی باشد.", explain: "پیش‌بینی مدل نمی‌تواند مستقیماً متن باشد. برای تبدیل پیش‌بینی به متن باید از توکِنایزر استفاده شود!" }, { text: "توکِنایزر متن را پردازش و شناسه‌ها را برمی‌گرداند. مدل این شناسه‌ها را پردازش و یک پیش‌بینی تولید می‌کند. سپس می‌توان دوباره از توکِنایزر برای تبدیل این پیش‌بینی‌ها به متن استفاده کرد.", explain: "از توکِنایزر می‌توان هم برای توکِن‌سازی و هم برای توکِن‌گشایی استفاده کرد.", correct: true } ]} />

۲. تِنسور خروجی مدل ترنسفورمر پایه چند بُعد دارد و این بُعدها چه هستند؟

<Question choices={[ { text: "۲: طول رشته و اندازه‌ی بتچ", explain: "نادرست! تِنسور خروجی مدل بُعد سومی هم دارد: اندازه‌ی پنهان." }, { text: "۲: طول رشته و اندازه‌ی پنهان", explain: "نادرست! همه‌ی مدل‌های ترنسفورمر بتچ‌ها را مدیریت می‌کنند، حتی اگر فقط یک رشته داشته باشند؛ در این صورت اندازه‌ی بتچ برابر ۱ است!" }, { text: "۳: طول رشته، اندازه‌ی بتچ و اندازه‌ی پنهان", explain: "آفرین!", correct: true } ]} />

۳. کدام‌یک از موارد زیر نمونه‌ای از توکِن‌سازی زیرواژه‌ای است؟

<Question choices={[ { text: "WordPiece", explain: "بله، این یکی از نمونه‌های توکِن‌سازی زیرواژه‌ای است!", correct: true }, { text: "توکِن‌سازی مبتنی بر نویسه", explain: "توکِن‌سازی مبتنی بر نویسه نوعی توکِن‌سازی زیرواژه‌ای نیست." }, { text: "تقسیم بر اساس فاصله‌ی خالی و علائم نگارشی", explain: "این یک روش توکِن‌سازی مبتنی بر واژه است!" }, { text: "BPE", explain: "بله، این یکی از نمونه‌های توکِن‌سازی زیرواژه‌ای است!", correct: true }, { text: "Unigram", explain: "بله، این یکی از نمونه‌های توکِن‌سازی زیرواژه‌ای است!", correct: true }, { text: "هیچ‌کدام از موارد بالا", explain: "اشتباه است!" } ]} />

۴. سرِ مدل چیست؟

<Question choices={[ { text: "مؤلفه‌ای از شبکه‌ی ترنسفورمر پایه که تِنسورها را به لایه‌های درست هدایت می‌کند", explain: "چنین مؤلفه‌ای وجود ندارد." }, { text: "که با نام مکانیزم خودتوجهی نیز شناخته می‌شود و بازنمایی یک توکِن را بر اساس توکِن‌های دیگر رشته تطبیق می‌دهد", explain: "لایه‌ی خودتوجهی واقعاً شامل «سرهای» توجه است، اما این‌ها سرهای تطبیقی نیستند." }, { text: "مؤلفه‌ای اضافی که معمولاً از یک یا چند لایه تشکیل شده و پیش‌بینی‌های ترنسفورمر را به خروجی ویژه‌ی یک مسئله تبدیل می‌کند", explain: "درست است. سرهای تطبیقی که به‌سادگی سر هم نامیده می‌شوند، شکل‌های مختلفی دارند: سرهای مدل‌سازی زبان، سرهای پاسخ به پرسش، سرهای دسته‌بندی رشته و غیره.", correct: true } ]} />

۵. AutoModel چیست؟

<Question choices={[ { text: "مدلی که به‌صورت خودکار روی داده‌های شما تعلیم می‌بیند", explain: "آیا آن را با محصول AutoTrain ما اشتباه گرفته‌اید؟" }, { text: "شیئی که بر اساس نقطه‌ی تعلیم، معماری درست را برمی‌گرداند", explain: "دقیقاً: AutoModel فقط باید نقطه‌ی تعلیمی را که قرار است از آن مقداردهی اولیه شود بداند تا معماری درست را برگرداند.", correct: true }, { text: "مدلی که زبان استفاده‌شده در ورودی‌های خود را به‌طور خودکار تشخیص می‌دهد تا وزن‌های درست را بارگذاری کند", explain: "اگرچه بعضی نقطه‌های تعلیم و مدل‌ها می‌توانند چندین زبان را مدیریت کنند، ابزار داخلی‌ای برای انتخاب خودکار نقطه‌ی تعلیم بر اساس زبان وجود ندارد. برای یافتن بهترین نقطه‌ی تعلیم برای مسئله‌ی خود به هاب مدل‌ها بروید!" } ]} />

۶. هنگام بتچ‌سازی رشته‌هایی با طول‌های متفاوت، باید از چه تکنیک‌هایی آگاه باشیم؟

<Question choices={[ { text: "کوتاه‌سازی", explain: "بله، کوتاه‌سازی راه درستی برای هم‌اندازه کردن رشته‌هاست تا در یک شکل مستطیلی جا بگیرند. اما آیا تنها راه همین است؟", correct: true }, { text: "برگرداندن تِنسورها", explain: "اگرچه تکنیک‌های دیگر به شما اجازه می‌دهند تِنسورهای مستطیلی برگردانید، برگرداندن تِنسورها هنگام بتچ‌سازی رشته‌ها کمکی نمی‌کند." }, { text: "هم‌طول‌سازی", explain: "بله، هم‌طول‌سازی راه درستی برای هم‌اندازه کردن رشته‌هاست تا در یک شکل مستطیلی جا بگیرند. اما آیا تنها راه همین است؟", correct: true }, { text: "ماسک‌گذاری توجه", explain: "کاملاً درست! ماسک‌های توجه هنگام کار با رشته‌هایی با طول‌های متفاوت اهمیت زیادی دارند. بااین‌حال، این تنها تکنیکی نیست که باید از آن آگاه باشیم.", correct: true } ]} />

۷. اعمال تابع SoftMax روی لوجیت‌های خروجی مدل دسته‌بندی رشته چه فایده‌ای دارد؟

<Question choices={[ { text: "لوجیت‌ها را نرم می‌کند تا قابل‌اعتمادتر شوند.", explain: "خیر، تابع SoftMax بر قابل‌اعتماد بودن نتایج تأثیری ندارد." }, { text: "کران پایین و بالایی اعمال می‌کند تا قابل‌فهم شوند.", explain: "مقدارهای حاصل بین ۰ و ۱ قرار می‌گیرند. البته این تنها دلیل استفاده از تابع SoftMax نیست.", correct: true }, { text: "مجموع کل خروجی برابر ۱ می‌شود و در نتیجه می‌توان آن را به‌صورت احتمالی تفسیر کرد.", explain: "درست است! البته این تنها دلیل استفاده از تابع SoftMax نیست.", correct: true } ]} />

۸. مرکز API توکِنایزر بر کدام روش قرار دارد؟

<Question choices={[ { text: "encode، چون می‌تواند متن را به شناسه و شناسه را به پیش‌بینی تبدیل کند", explain: "اشتباه است! اگرچه روش encode در توکِنایزرها وجود دارد، در مدل‌ها وجود ندارد." }, { text: "فراخوانی مستقیم شیء توکِنایزر.", explain: "دقیقاً! روش __call__ توکِنایزر بسیار قدرتمند است و تقریباً از عهده‌ی هر کاری برمی‌آید. همچنین از همین روش برای دریافت پیش‌بینی‌ها از مدل استفاده می‌شود.", correct: true }, { text: "pad", explain: "اشتباه است! هم‌طول‌سازی بسیار مفید است، اما فقط بخشی از API توکِنایزر است." }, { text: "tokenize", explain: "روش tokenize احتمالاً یکی از مفیدترین روش‌هاست، اما هسته‌ی API توکِنایزر نیست." } ]} />

۹. متغیر result در این نمونه‌کد چه چیزی را در خود دارد؟

from transformers import AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("bert-base-cased")
result = tokenizer.tokenize("Hello!")

<Question choices={[ { text: "فهرستی از رشته‌ها که هر رشته یک توکِن است", explain: "کاملاً درست! این را به شناسه تبدیل کنید و برای مدل بفرستید!", correct: true }, { text: "فهرستی از شناسه‌ها", explain: "نادرست؛ برای این کار باید از روش __call__ یا convert_tokens_to_ids استفاده کنید!" }, { text: "رشته‌ای شامل همه‌ی توکِن‌ها", explain: "این کار بهینه نیست، چون هدف تقسیم رشته به چندین توکِن است." } ]} />

۱۰. آیا کد زیر مشکلی دارد؟

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("bert-base-cased")
model = AutoModel.from_pretrained("gpt2")

encoded = tokenizer("Hey!", return_tensors="pt")
result = model(**encoded)

<Question choices={[ { text: "خیر، درست به نظر می‌رسد.", explain: "متأسفانه، جفت کردن مدلی با توکِنایزری که با نقطه‌ی تعلیم متفاوتی آموزش دیده است، به‌ندرت ایده‌ی خوبی است. مدل برای درک خروجی این توکِنایزر تعلیم ندیده، بنابراین خروجی مدل (اگر اصلاً اجرا شود!) هیچ معنایی نخواهد داشت." }, { text: "توکِنایزر و مدل باید همیشه از یک نقطه‌ی تعلیم باشند.", explain: "درست است!", correct: true }, { text: "بهتر است با توکِنایزر هم‌طول‌سازی و کوتاه‌سازی انجام شود، چون هر ورودی یک بتچ است.", explain: "درست است که هر ورودی مدل باید یک بتچ باشد. بااین‌حال، کوتاه‌سازی یا هم‌طول‌سازی این رشته لزوماً منطقی نیست، چون فقط یک رشته داریم و این تکنیک‌ها برای بتچ‌سازی فهرستی از جمله‌ها به کار می‌روند." } ]} />

Xet Storage Details

Size:
12.3 kB
·
Xet hash:
d0fc843f2f0debeb6db46bc346fd830068e518e1d6f8424b0f7af96e0fdf11ba

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.