امید ریاضی، واریانس، گشتاورها و قانون واریانس کل

امید ریاضی $E[X]$ میانگین وزن‌دار (با وزن احتمال) یک متغیر تصادفی است. تقریباً هر محاسبهٔ کنکوری دربارهٔ میانگین‌ها، واریانس‌ها و کمیت‌های شرطی به فهرست کوتاهی از قواعد ساختاری فرو می‌کاهد: خطی‌بودن، تجزیه به حاصل‌ضرب تحت استقلال، اتحاد واریانس، نامساوی ینسن، خانوادهٔ نامساوی‌های بریدگی/مارکوف/کوشی–شوارتز، توابع مولد، و دو قانون شرطی‌سازی (خاصیت برجی و قانون واریانس کل).

۱. تعریف، وجود، قانون LOTUS

برای یک متغیر گسسته با تابع جرم احتمال $p(x)$ و یک متغیر پیوسته با چگالی $f(x)$،

$E[X]=\sum_x x\,p(x),\qquad E[X]=\int_{-\infty}^{\infty} x\,f(x)\,dx.$

میانگین تنها زمانی وجود دارد که مجموع/انتگرال به‌طور مطلق همگرا باشد، یعنی $E|X|<\infty$ (متغیر کوشی اصلاً میانگین ندارد)؛ و $E[X^{2}]<\infty$ دقیقاً همان فرضی است که $\operatorname{Var}(X)$ — و هر گزارهٔ بعدی که از آن استفاده می‌کند — تحت آن مجاز است.

به‌طور کلی‌تر، قانون آماردان ناآگاه (LOTUS) اجازه می‌دهد میانگین یک تبدیل را بدون یافتن توزیع آن حساب کنید:

$E[g(X)]=\sum_x g(x)\,p(x)\quad\text{or}\quad \int_{-\infty}^{\infty} g(x)\,f(x)\,dx.$

برای متغیر نامنفی، فرمول دنباله (تابع بقا) اغلب سریع‌ترین راه است:

$E[X]=\int_0^{\infty}P(X>t)\,dt,\qquad E[N]=\sum_{k\ge 1}P(N\ge k)\quad\big(N\in\{0,1,2,\dots\}\big).$

همین اصل در حالت دومتغیره، $E[g(X,Y)]=\iint g(x,y)\,f_{X,Y}(x,y)\,dx\,dy$، همان چیزی است که امکان می‌دهد عبارت‌هایی را که در آن‌ها یک متغیر در توان متغیر دیگر می‌نشیند (بخش ۱۰) محاسبه کنید، بی‌آنکه هرگز توزیع شیء ترکیبی را بیابید.

۲. خطی‌بودن — همیشه برقرار است

برای هر متغیر تصادفی و هر ثابت $a,b,c$،

$E[aX+bY+c]=a\,E[X]+b\,E[Y]+c.$

این رابطه به هیچ استقلالی نیاز ندارد و مفیدترین واقعیت یگانه است: یک میانگین دشوار را به تکه‌های ساده بشکنید (متغیرهای نشانگر، مجموع‌ها، بخش‌های متقارن). ترفند نشانگر $E\big[\mathbf{1}_A\big]=P(A)$ مسائل شمارشی را به مجموع میانگین‌ها تبدیل می‌کند.

۳. حاصل‌ضرب، کوواریانس، واریانس یک مجموع

امید ریاضی حاصل‌ضرب به‌طور کلی تجزیه نمی‌شود. اما اگر $X\perp Y$،

$E[XY]=E[X]\,E[Y],$

و به‌طور کلی‌تر $E[g(X)h(Y)]=E[g(X)]\,E[h(Y)]$؛ این حکم به هر گردایهٔ متناهی از متغیرهای مستقل دوبه‌دو (به‌طور متقابل مستقل) تعمیم می‌یابد. اندازهٔ شکست این تجزیه، کوواریانس است:

$\operatorname{Cov}(X,Y)=E[XY]-E[X]E[Y],$

پس استقلال $\Rightarrow$ ناهمبستگی، ولی عکس آن برقرار نیست (مثلاً $X$ متقارن با $Y=X^{2}$). در حالت کلی

$\operatorname{Var}\Big(\sum_i a_iX_i\Big)=\sum_i a_i^{2}\operatorname{Var}(X_i)+2\sum_{i<j}a_ia_j\operatorname{Cov}(X_i,X_j).$

تجزیه به حاصل‌ضرب دقیقاً همان چیزی است که محاسبات «شکستن چوب» را ممکن می‌کند: نگه‌داشتن تکهٔ چپِ یک شکستِ یکنواخت، طول را در عاملِ مستقلِ $U\sim\mathrm{Unif}(0,1)$ با $E[U]=\tfrac12$ ضرب می‌کند، پس پس از دو شکست مستقل

$E[U_1U_2\,L]=L\,E[U_1]\,E[U_2]=L\cdot\tfrac12\cdot\tfrac12=\tfrac{L}{4}.$

۴. گشتاورها و واریانس

گشتاور (خام) $k$-اُم برابر $\mu_k'=E[X^{k}]$ است؛ گشتاور مرکزی $k$-اُم برابر $E[(X-\mu)^{k}]$ با $\mu=E[X]$. گشتاور مرکزی دوم همان واریانس است:

$\operatorname{Var}(X)=E[(X-\mu)^{2}]=E[X^{2}]-\big(E[X]\big)^{2}\ \ge\ 0.$

اتحاد $E[X^{2}]=\operatorname{Var}(X)+(E[X])^{2}$ نشان می‌دهد $E[X^{2}]\ge (E[X])^{2}$ — حالت خاصی از نامساوی ینسن در ادامه — با تساوی اگر و تنها اگر $X$ تقریباً همه‌جا ثابت باشد. مقیاس‌پذیری: $\operatorname{Var}(aX+b)=a^{2}\operatorname{Var}(X)$ (واریانس انتقال را نادیده می‌گیرد و ضریب‌ها را به توان دو می‌رساند)، و برای $X,Y$ مستقل، $\operatorname{Var}(X+Y)=\operatorname{Var}(X)+\operatorname{Var}(Y)$.

گشتاورها بنا بر نامساوی لیاپونوف/ینسن تودرتو هستند: $E|X|\le\sqrt{E[X^{2}]}\le\big(E[X^{4}]\big)^{1/4}\le\cdots$، پس متناهی‌بودن یک گشتاور بالاتر، متناهی‌بودن همهٔ گشتاورهای پایین‌تر را ایجاب می‌کند. گشتاورها را می‌توان از تابع مولد گشتاور $M_X(t)=E[e^{tX}]$ نیز به‌دست آورد، از راه $E[X^{k}]=M_X^{(k)}(0)$، هرگاه این تابع در همسایگی‌ای از $0$ موجود باشد (جعبه‌ابزار کامل در بخش ۱۰).

۵. متغیرهای دونقطه‌ای: تحویل آفین به برنولی

متغیری که تکیه‌گاهش دقیقاً دو نقطه $\{a,b\}$ با $a<b$ است، کاملاً با میانگینش تعیین می‌شود — شرط بهنجارش و میانگین، دو معادله برای دو جرم مجهول‌اند. راه تمیزِ دیدن این موضوع: هر چنین $X$ یک تصویر آفینِ یک متغیر برنولی است،

$X=a+(b-a)B,\qquad B\sim\mathrm{Bernoulli}(q),\quad q=P(X=b)\in(0,1).$

از آنجا که $\operatorname{Var}(B)=q(1-q)$ و واریانس با مربع ضریب مقیاس می‌گیرد،

$\mu=E[X]=a+(b-a)q\ \Longrightarrow\ q=\frac{\mu-a}{b-a},\qquad \boxed{\ \operatorname{Var}(X)=(b-a)^{2}q(1-q)=(\mu-a)(b-\mu).\ }$

پس واریانس یک متغیر دومقداری، حاصل‌ضرب دو فاصلهٔ میانگین تا دو سرِ تکیه‌گاه است — هیچ احتمالی لازم نیست محاسبه شود. هر گشتاور بالاتر نیز از همان دو جرم به‌دست می‌آید: $E[X^{k}]=(1-q)a^{k}+q\,b^{k}$.

سه نتیجه که ارزش دارد سر جلسهٔ کنکور با خود ببرید:

• یک سقف قطعی. بنا بر نامساوی میانگین حسابی–هندسی، $(\mu-a)(b-\mu)\le\left(\dfrac{b-a}{2}\right)^{2}=\dfrac{(b-a)^{2}}{4}$، با تساوی اگر و تنها اگر $\mu$ نقطهٔ میانی باشد. این کران پوپوویچیو است که دقیقاً توسط توزیع دونقطه‌ای متوازن حاصل می‌شود؛ هر گزینه‌ای که از $(b-a)^{2}/4$ بیشتر باشد، در نگاه اول ناممکن است.
• حدی‌بودن. در میان همهٔ متغیرهای با تکیه‌گاه در $[a,b]$ و میانگین $\mu$، توزیع دونقطه‌ای روی $\{a,b\}$ بیشترین واریانس ممکن را دارد و مقدار آن، $(\mu-a)(b-\mu)$، دقیقاً کران باتیا–دیویسِ بخش ۶ است. توزیع‌های دونقطه‌ای، حدی‌سازِ تقریباً هر مسئلهٔ واریانس‌اند — و چنان‌که بخش ۸ ثبت می‌کند، حالت تساوی مارکوف و چبیشف نیز هستند.
• سازگاری. شرط $q\in(0,1)$ ایجاب می‌کند $a<\mu<b$؛ میانگینی که بیرون تکیه‌گاه اعلام شود فرضی ناسازگار است، و هر نقطهٔ تکیه‌گاهِ یک توزیع گسسته جرم اکیداً مثبت دارد.

نمونهٔ شاخص. تکیه‌گاه $\{a,b\}=\{2,7\}$ با $E[X]=4$. بی‌درنگ $\operatorname{Var}(X)=(4-2)(7-4)=6$. راه طولانی، برای تأیید: $q=P(X=7)=\frac{4-2}{7-2}=\frac{2}{5}$، پس $E[X^{2}]=\frac{3}{5}\cdot 4+\frac{2}{5}\cdot 49=22$ و $\operatorname{Var}(X)=22-4^{2}=6$. سقف در اینجا $\frac{5^{2}}{4}=6.25$ است، پس هر گزینهٔ بالاتر از $6.25$ بدون هیچ حساب‌وکتابی حذف می‌شود.

نکتهٔ کنکوری: برای تکیه‌گاه دونقطه‌ای، واریانس را مستقیماً به‌صورت $(\mu-a)(b-\mu)$ بخوانید و پیش از هر محاسبه‌ای از $(b-a)^{2}/4$ به‌عنوان صافیِ بالایی روی گزینه‌ها استفاده کنید.

۶. قیدهای گشتاوری $\Rightarrow$ کران‌های واریانس

یک الگوی پرتکرار کنکوری، رابطه‌ای میان گشتاورها به شما می‌دهد و کران دقیق $\operatorname{Var}(X)$ را می‌خواهد. دستور کار همیشه یکی است:

۱. قرار دهید $\mu=E[X]$ و با $\operatorname{Var}(X)=E[X^{2}]-\mu^{2}$ مقدار $E[X^{2}]$ را به کمک فرض حذف کنید؛ واریانس به تابعی از تنها پارامتر $\mu$ بدل می‌شود. ۲. شرط $\operatorname{Var}(X)\ge 0$ را اعمال کنید — این یک قید واقعی است و معمولاً $\mu$ را در یک بازه محبوس می‌کند. ۳. عبارت تک‌متغیرهٔ حاصل را روی آن بازه بهینه کنید (مربع کامل کنید). ۴. توزیعی صریح که حد را اختیار می‌کند نمایش دهید، و یک توزیع تباهیده ($X\equiv\text{const}$، واریانس $0$) تا هر کران پایینِ پیشنهادی را باطل کند.

نمونهٔ شاخص. فرض کنید $E[X^{2}]=E[X]$. آنگاه

$\operatorname{Var}(X)=\mu-\mu^{2}=\tfrac14-\big(\mu-\tfrac12\big)^{2}\ \le\ \tfrac14,$

و $\operatorname{Var}(X)\ge0$ ایجاب می‌کند $0\le\mu\le1$. این کران با $X\sim\mathrm{Bernoulli}(\tfrac12)$ حاصل می‌شود، حال آنکه $X\equiv 0$ واریانس $0$ می‌دهد؛ پس $0\le\operatorname{Var}(X)\le\tfrac14$ از هر دو سو دقیق است. توجه کنید فرض می‌گوید $E[X(X-1)]=0$، که ایجاب نمی‌کند $X\in\{0,1\}$ — کران به‌هرحال برقرار است، زیرا تنها از عبارت درجه‌دوم $\mu(1-\mu)$ استفاده شد.

دو کران همراه که حفظ‌کردنشان می‌ارزد:

به‌ویژه یک متغیر با مقادیر در $[0,1]$ همواره $\operatorname{Var}(X)\le\tfrac14$ دارد — با همان استدلال یک‌خطی. بخش ۵ دقیقاً حالت تساوی سطر میانی است: به‌محض آنکه تکیه‌گاه دقیقاً $\{a,b\}$ باشد، نامساوی به اتحاد $\operatorname{Var}(X)=(\mu-a)(b-\mu)$ بدل می‌شود.

۷. نامساوی ینسن — کران‌گذاری روی $E[g(X)]$

هرگاه باید میانگینِ یک تبدیل را با تبدیلِ میانگین مقایسه کنید، از نامساوی ینسن استفاده کنید که تنها به تحدب $g$ وابسته است:

برای $g(x)=\sqrt{x}$ روی $[0,\infty)$ داریم $g''(x)=-\tfrac14x^{-3/2}<0$، پس $g$ مقعر است و با $E[X]=a$ برای $X$ نامنفی،

$E[\sqrt{X}]\le\sqrt{E[X]}=\sqrt{a}.$

تساوی تنها وقتی برقرار است که $X$ تقریباً همه‌جا ثابت باشد. توجه کنید کران در برابر $\sqrt{a}$ است، نه در برابر $a=E[X]$: مثال‌های ثابت $X=\tfrac14$ (که $E[\sqrt X]=\tfrac12>a$ می‌دهد) و $X=4$ (که $E[\sqrt X]=2<a$ می‌دهد) نشان می‌دهند هیچ مقایسهٔ تمیزی با خودِ $a$ وجود ندارد.

سطر آفین یک نکتهٔ پیش‌پاافتاده نیست: همان مجوز دقیق برای میان‌بُرِ «پارامتر میانگین را جایگذاری کن» در بخش ۹ است، و ناکامی آن برای هر $g$ غیرخطی سرچشمهٔ گزینهٔ انحرافی استاندارد در مسائل آمیخته است.

۸. میانگین‌های بریده‌شده و نامساوی‌های گشتاوری (مارکوف ← کوشی–شوارتز ← پیلی–زیگموند)

خانوادهٔ دومی از سؤالات کنکوری هرگز عدد نمی‌خواهد: چهار نامساوی میان $E[X]$، $E[X^{2}]$، میانگین‌های بریده‌شدهٔ $E[X\mathbf{1}_A]$ و احتمال‌های دنباله فهرست می‌کند و می‌پرسد کدام نادرست است. همهٔ آن‌ها از سه اصل اولیه ساخته شده‌اند، پس اصل‌ها را بیاموزید تا خانواده فرو بریزد.

۸٫۱ بریدگی — یکنوایی انتگرال

برای $X\ge 0$ و هر پیشامد $A$ (با نشانگر $\mathbf{1}_A$، توجه کنید $\mathbf{1}_A^{2}=\mathbf{1}_A$)،

$E[X]=E\big[X\mathbf{1}_A\big]+E\big[X\mathbf{1}_{A^{c}}\big],\qquad 0\ \le\ E\big[X\mathbf{1}_A\big]\ \le\ E[X].$

محدودکردن انتگرال به پیشامدی کوچک‌تر تنها می‌تواند آن را کوچک کند، با تساوی اگر و تنها اگر $X=0$ تقریباً همه‌جا روی $A^{c}$. نامنفی‌بودن ضروری است: اگر $X$ مقادیر منفی بگیرد، حذف ناحیه‌ای که در آن منفی است انتگرال را بالا می‌برد و $E[X\mathbf{1}_A]\le E[X]$ می‌تواند نقض شود.

نسخهٔ کمّی، $A=\{X\ge a\mu\}$ را با $\mu=E[X]>0$ و $0<a<1$ می‌گیرد. روی $A^{c}$ داریم $0\le X<a\mu$، پس $E[X\mathbf{1}_{A^{c}}]\le a\mu\,P(A^{c})\le a\mu$، و بنابراین

$\boxed{\ (1-a)E[X]\ \le\ E\big[X\mathbf{1}_{\{X\ge aE[X]\}}\big]\ \le\ E[X].\ }$

به بیان ساده: آن بخش از $X$ که بالای کسر $a$ از میانگینش زندگی می‌کند، دست‌کم کسر $1-a$ از میانگین را با خود حمل می‌کند. این دو نامساوی میانگین بریده‌شده را در میان می‌گیرند، و نامساوی بالایی هرگز نمی‌تواند برعکس شود — همین یک واقعیت است که سرنوشت بیشتر سؤال‌های «کدام نادرست است» را تعیین می‌کند.

۸٫۲ مارکوف، چبیشف و فرزندانشان

نامساوی مارکوف. برای $X\ge0$ و $t>0$، از کران نقطه‌ایِ $t\,\mathbf{1}_{\{X\ge t\}}\le X$،

$P(X\ge t)\ \le\ \frac{E[X]}{t}.$

به‌طور کلی‌تر، برای هر $\varphi$ مثبت و ناکاهشی، $P(X\ge t)\le E[\varphi(X)]/\varphi(t)$. دو حالت خاص همهٔ کار را انجام می‌دهند:

• $\varphi(x)=x^{k}$ می‌دهد $P(X\ge t)\le E[X^{k}]/t^{k}$ برای $X\ge0$. با $k=2$ و $t=a\,E[X]$ فرم بی‌مقیاس به‌دست می‌آید $P\big(X\ge a\,E[X]\big)\ \le\ \frac{E[X^{2}]}{a^{2}\big(E[X]\big)^{2}},$ که مجاز است زیرا $X>0$ پیشامدهای $\{X\ge a\mu\}$ و $\{X^{2}\ge a^{2}\mu^{2}\}$ را یکسان می‌کند.
• $\varphi(x)=e^{\lambda x}$ با $\lambda>0$ کران چرنوف $P(X\ge t)\le e^{-\lambda t}M_X(\lambda)$ را می‌دهد که سپس روی $\lambda$ بهینه می‌شود.

چبیشف همان مارکوف اعمال‌شده بر $(X-\mu)^{2}$ است: $P\big(\lvert X-\mu\rvert\ge t\big)\le\sigma^{2}/t^{2}$. تیزکردن یک‌طرفهٔ آن کانتلی است: $P(X-\mu\ge t)\le\sigma^{2}/(\sigma^{2}+t^{2})$.

همهٔ این‌ها کران‌های بالا روی یک دنباله‌اند، و هرگاه سمت راست از $1$ بیشتر شود بی‌محتوا می‌شوند — بی‌محتوا هنوز درست است، پس یک کران «بی‌فایده» هرگز گزینهٔ نادرست نیست.

۸٫۳ کوشی–شوارتز و پیلی–زیگموند (روش گشتاور دوم)

کوشی–شوارتز، $\big(E[XY]\big)^{2}\le E[X^{2}]\,E[Y^{2}]$، با $Y=\mathbf{1}_A$ پلی می‌سازد از گشتاور اولِ بریده‌شده به گشتاور دوم:

$E\big[X\mathbf{1}_A\big]\ \le\ \sqrt{E[X^{2}]\,P(A)}.$

این را با کران پایینِ بریدگی در بخش ۸٫۱ زنجیر کنید و به توان دو برسانید (هر دو طرف $\ge0$‌اند): برای $X\ge0$ با $0<E[X^{2}]<\infty$ و $0\le a<1$،

$(1-a)^{2}\big(E[X]\big)^{2}\le E[X^{2}]\,P(A)\quad\Longrightarrow\quad \boxed{\ P\big(X\ge a\,E[X]\big)\ \ge\ (1-a)^{2}\,\frac{\big(E[X]\big)^{2}}{E[X^{2}]}\ }$

— نامساوی پیلی–زیگموند، تنها عضو خانواده که یک دنباله را از پایین کران می‌زند. در $a=0$ همان اسب‌کاریِ روش گشتاور دوم است: $P(X>0)\ge (E[X])^{2}/E[X^{2}]$ — متغیری نامنفی که میانگینش نسبت به گشتاور دومش بزرگ است، با احتمالی جدا از صفر مثبت است. توجه کنید $\{X>a\mu\}\subseteq\{X\ge a\mu\}$، پس نسخه‌های با نامساوی اکید و ناکید هر دو معتبرند (پیشامد $\ge$ بزرگ‌تر است).

۸٫۴ خانواده در یک نگاه

دقت (تیزی): مارکوف با توزیع دونقطه‌ای روی $\{0,t\}$ حاصل می‌شود، چبیشف با یک توزیع سه‌نقطه‌ای متقارن روی $\{\mu-t,\mu,\mu+t\}$، و کوشی–شوارتز اگر و تنها اگر $Y=cX$ تقریباً همه‌جا — باز هم حدی‌سازها همان توزیع‌های گسستهٔ بخش ۵‌اند.

۸٫۵ روش — شناسایی نامساوی نادرست

۱. هر گزینه را بر حسب جهت طبقه‌بندی کنید. احتمال یک دنباله که از بالا کران خورده باید از مارکوف/چبیشف/چرنوف آمده باشد؛ اگر از پایین کران خورده باید از پیلی–زیگموند باشد. عبارتی از نوع مارکوف که جهتش اشتباه باشد، در نگاه اول نادرست است. ۲. کران‌های ساختاری‌ای را که می‌دانید اعمال کنید: $0\le P(\cdot)\le1$، و $E[X\mathbf{1}_A]\le E[X]$ برای $X\ge0$. هر گزینه‌ای که مدعی $E[X]\le E[X\mathbf{1}_A]$ باشد تساوی را می‌طلبد، یعنی $P(0<X<a\mu)=0$، که از فرض‌ها نتیجه نمی‌شود. ۳. همگنی را بررسی کنید. $X$ را با $cX$ جایگزین کنید: هر عضو درست این خانواده یا از نظر بُعدی متوازن است یا کاملاً بی‌مقیاس (مثلاً $E[X^{2}]/(a^{2}(E[X])^{2})$ و $(1-a)^{2}(E[X])^{2}/E[X^{2}]$ تغییر نمی‌کنند). ناهماهنگی، گزینهٔ دست‌کاری‌شده را لو می‌دهد. ۴. دنبال ثابت حذف‌شده یا متورم‌شده بگردید. دست‌کاری محبوب، حذف عامل $(1-a)$ یا $(1-a)^{2}$ است: چون $0<a<1$، این کار یک گزارهٔ درست را قوی‌تر می‌کند، و قوی‌ترکردن یک نامساوی تیز آن را نادرست می‌سازد. ۵. با یک مثال نقض تمام کنید. $X\sim\mathrm{Unif}(0,1)$، $X\sim\mathrm{Exp}(1)$ یا یک توزیع دونقطه‌ای، ادعای نادرستی را بی‌درنگ فیصله می‌دهد. (مثال تنها می‌تواند رد کند؛ سه گزینهٔ دیگر باید با ساختار توجیه شوند.)

مثال کوچک حل‌شده. بگیرید $X\sim\mathrm{Unif}(0,1)$ و $a=\tfrac12$، پس $\mu=\tfrac12$، $E[X^{2}]=\tfrac13$، $a\mu=\tfrac14$ و $A=\{X\ge\tfrac14\}$ با $P(A)=\tfrac34$.

$E\big[X\mathbf{1}_A\big]=\int_{1/4}^{1}x\,dx=\frac12-\frac1{32}=\frac{15}{32}.$

هر عضو خانواده درست از آب درمی‌آید، و نامساوی اکید در وسط همان نکتهٔ اصلی است:

$(1-a)\mu=\frac14\ \le\ \frac{15}{32}\ <\ \frac12=\mu,\qquad P(A)=\frac34\ \ge\ (1-a)^{2}\frac{\mu^{2}}{E[X^{2}]}=\frac14\cdot\frac{1/4}{1/3}=\frac{3}{16},$

$P(A)=\frac34\ \le\ \frac{E[X^{2}]}{a^{2}\mu^{2}}=\frac{1/3}{1/16}=\frac{16}{3}\quad(\text{true but vacuous}).$

فاصلهٔ اکید $\frac{15}{32}<\frac12$ دقیقاً همان چیزی است که ادعای دست‌کاری‌شدهٔ $E[X]\le E[X\mathbf{1}_A]$ را رد می‌کند.

تلهٔ رایج: در این نمادگذاری کلاسیک، $E^{2}(X)$ یعنی $\big(E[X]\big)^{2}$، نه $E(X^{2})$. جابه‌جاکردن این دو، کران درست مارکوف $E(X^{2})/\big(a^{2}E^{2}(X)\big)$ را به یاوه تبدیل می‌کند و رایج‌ترین شیوهٔ بدخوانی این گزینه‌هاست.

۹. امید شرطی و دو قانون تجزیه

$E[X\mid Y]$ یک عدد نیست: یک متغیر تصادفی $g(Y)$ است که در آن $g(y)=E[X\mid Y=y]$. ویژگی‌های اساسی‌اش:

• خاصیت برجی / قانون امید کل: $E\big[E[X\mid Y]\big]=E[X]$ (فرم گسسته: $E[X]=\sum_y E[X\mid Y=y]P(Y=y)$؛ فرم پیوسته: $E[X]=\int E[X\mid Y=y]\,f_Y(y)\,dy$).
• خطی‌بودن: $E[aX+bZ\mid Y]=aE[X\mid Y]+bE[Z\mid Y]$.
• بیرون‌کشیدن آنچه معلوم است: $E[h(Y)X\mid Y]=h(Y)\,E[X\mid Y]$؛ به‌ویژه $E[Y\mid Y]=Y$.
• استقلال: $X\perp Y\ \Rightarrow\ E[X\mid Y]=E[X]$ (یک ثابت).

واریانس شرطی $\operatorname{Var}(X\mid Y)=E[X^{2}\mid Y]-\big(E[X\mid Y]\big)^{2}$ نیز به همین ترتیب یک متغیر تصادفی است، تابعی از $Y$. میانگین‌گیری از آن و افزودن پراکندگی میانگین شرطی، کل واریانس را بازمی‌سازد — قانون واریانس کل (EVVE)، معتبر هرگاه $E[X^{2}]<\infty$:

$\operatorname{Var}(X)=E\big[\operatorname{Var}(X\mid Y)\big]+\operatorname{Var}\big(E[X\mid Y]\big).$

آن را چنین بخوانید: پراکندگی درون‌گروهی $+$ پراکندگی بین‌گروهی. هر دو جمله $\ge0$‌اند، پس هر یک حداکثر $\operatorname{Var}(X)$ است — یک صافی سلامت‌سنجی فوری روی گزینه‌های چندگزینه‌ای. حالت‌های حدی: $X\perp Y$ جملهٔ دوم را $0$ می‌کند؛ $X=h(Y)$ جملهٔ اول را $0$ می‌کند.

۹٫۱ آمیخته‌های متناهی — آزمایش دومرحله‌ای

رایج‌ترین چهرهٔ ملموس خاصیت برجی، یک آمیخته است: آزمایشی دومرحله‌ای که در آن یک مؤلفه $T$ با وزن‌های $w_i=P(T=i)$ انتخاب می‌شود و سپس $X$ از توزیع مؤلفهٔ $i$-اُم، با میانگین $\mu_i$ و واریانس $\sigma_i^{2}$، بیرون کشیده می‌شود. آنگاه

$f_X(x)=\sum_i w_i f_i(x),\qquad E[g(X)]=\sum_i w_i\,E\big[g(X)\mid T=i\big],$

و به‌ویژه، با نوشتن $\bar\mu=E[X]=\sum_i w_i\mu_i$،

$\operatorname{Var}(X)=\underbrace{\sum_i w_i\sigma_i^{2}}_{E[\operatorname{Var}(X\mid T)]}+\underbrace{\sum_i w_i\big(\mu_i-\bar\mu\big)^{2}}_{\operatorname{Var}(E[X\mid T])}.$

سه هشدار ساختاری:

• آمیخته از چگالی‌ها میانگین می‌گیرد، متغیرها را جمع نمی‌کند: $X$ یک نمونه از جمعیتی است که تصادفی انتخاب شده، پس واریانسش همان مجموع نمایش‌داده‌شده است، هرگز $\sum w_i^{2}\sigma_i^{2}$ و هرگز یک پیچش (کانولوشن).
• چون جملهٔ بین‌مؤلفه‌ای $\ge0$ است، یک آمیخته دست‌کم به اندازهٔ میانگین مؤلفه‌هایش پراکنده است: $\operatorname{Var}(X)\ge\sum_i w_i\sigma_i^{2}$، با تساوی اگر و تنها اگر همهٔ $\mu_i$ برابر باشند.
• وزن‌ها باید به $1$ جمع شوند؛ عبارتی مانند «سهم باقی‌مانده» دقیقاً همان بررسی بهنجارش است.

میان‌بُر آفین و حدود آن. اگر میانگین شرطی تابعی آفین از پارامتر آمیزنده باشد، $E[X\mid T]=\alpha T+\beta$، آنگاه خطی‌بودن می‌دهد

$E[X]=\alpha\,E[T]+\beta,$

پس می‌توانید به‌طور مجاز پارامتر میانگین را جایگذاری کنید. برای هر تابعک شرطی غیرخطی — گشتاورهای دوم، واریانس‌ها، احتمال‌ها — این کار ممنوع است (ینسن، بخش ۷)، و «با پارامتر میانگین‌گرفته‌شده حساب کن» گزینهٔ انحرافی همیشگی کنکور است.

نمونهٔ شاخص. $T$ را از $\{n_1,\dots,n_m\}$ با وزن‌های $w_i$ انتخاب کنید و، به شرط $T=n$، بگذارید $X$ روی $\{1,\dots,n\}$ یکنواخت باشد، چنان‌که

$E[X\mid T=n]=\frac{n+1}{2},\qquad E[X^{2}\mid T=n]=\frac{(n+1)(2n+1)}{6},\qquad \operatorname{Var}(X\mid T=n)=\frac{n^{2}-1}{12}.$

میانگین شرطی نسبت به $n$ آفین است، پس $E[X]=\dfrac{E[T]+1}{2}$ برای هر مجموعه وزن. با وزن‌های $0.2,0.5,0.3$ روی $n=4,6,8$: $E[T]=6.2$ و $E[X]=\frac{7.2}{2}=3.6$، که با میانگین مستقیم $0.2(2.5)+0.5(3.5)+0.3(4.5)=3.6$ می‌خواند. اما واریانس، که غیرخطی است، باید درست سرهم شود:

$E\big[\operatorname{Var}(X\mid T)\big]=\frac{0.2(15)+0.5(35)+0.3(63)}{12}=\frac{39.4}{12}\approx3.283,\qquad \operatorname{Var}\big(E[X\mid T]\big)=13.45-3.6^{2}=0.49,$

پس $\operatorname{Var}(X)\approx3.773$ — حال آنکه میان‌بُر غیرمجازِ «یک تاس با $n=E[T]=6.2$» مقدار $\frac{6.2^{2}-1}{12}=3.12$ را می‌داد. میانگین از میانگین‌گیری روی پارامتر جان سالم به‌در می‌برد؛ واریانس نه.

۹٫۲ میان‌بُر تقارن (تعویض‌پذیری)

اگر $X_1,\dots,X_n$ مستقل و هم‌توزیع باشند و $S=X_1+\dots+X_n$، آنگاه $S$ تابعی متقارن از آن‌هاست، پس همهٔ $E[X_i\mid S]$ برابرند؛ با جمع‌زدن و استفاده از $E[S\mid S]=S$،

$n\,E[X_1\mid S]=E[S\mid S]=S\quad\Longrightarrow\quad E[X_1\mid S]=\frac{S}{n}.$

با $\sigma^{2}=\operatorname{Var}(X_1)$ هر دو نیمهٔ تجزیه صریح می‌شوند:

$\operatorname{Var}\big(E[X_1\mid S]\big)=\frac{\operatorname{Var}(S)}{n^{2}}=\frac{\sigma^{2}}{n},\qquad E\big[\operatorname{Var}(X_1\mid S)\big]=\sigma^{2}-\frac{\sigma^{2}}{n}=\sigma^{2}\,\frac{n-1}{n}.$

هیچ چگالی شرطی‌ای لازم نیست — و این مهم است، چون $f_{X_1\mid S}$ نسبتی از چگالی‌های اروین–هال (چندجمله‌ای تکه‌ای) است.

۹٫۳ پارامترهای تصادفی‌شده (آمیخته‌های پیوسته)

بسیاری از سؤال‌ها یک مدل شرطی مشخص می‌کنند: $X$ به شرط $\Theta$ میانگین شرطی معلوم $m(\Theta)=E[X\mid\Theta]$ و واریانس شرطی $v(\Theta)=\operatorname{Var}(X\mid\Theta)$ دارد. آنگاه، به‌طور مکانیکی،

$E[X]=E\big[m(\Theta)\big],\qquad \operatorname{Var}(X)=E\big[v(\Theta)\big]+\operatorname{Var}\big(m(\Theta)\big).$

بنابراین یک پواسون آمیخته همواره فراپراکنده است ($\operatorname{Var}(X)>E[X]$)، مگر آنکه $\Lambda$ تباهیده باشد. مراقب قرائت تباهیدهٔ چنین نمادگذاری‌ای باشید: اگر توزیع شرطیِ بیان‌شده پارامترهایی داشته باشد که به متغیر شرطی‌ساز وابسته نیستند — عبارتی مانند «$N\mid X\sim\mathrm{Pois}(2)$» — آنگاه توزیع شرطی با توزیع حاشیه‌ای یکی است و $N$ صرفاً از $X$ مستقل است؛ بیان شرطی اشاره‌ای به خاصیت برجی است، نه ادعای وابستگی.

۹٫۴ مجموع‌های تصادفی (والد)

اگر متغیر شمارندهٔ $N$ از دنبالهٔ مستقل و هم‌توزیع $X_1,X_2,\dots$ با میانگین $\mu$ و واریانس $\sigma^{2}$ مستقل باشد، آنگاه $S_N=\sum_{i=1}^{N}X_i$ در روابط زیر صدق می‌کند

$E[S_N]=E[N]\,\mu,\qquad \operatorname{Var}(S_N)=E[N]\,\sigma^{2}+\operatorname{Var}(N)\,\mu^{2},$

هر دو بلافاصله از شرطی‌کردن بر $N$ به‌دست می‌آیند، جایی که $E[S_N\mid N]=N\mu$ و $\operatorname{Var}(S_N\mid N)=N\sigma^{2}$.

۱۰. توابع مولد: $E[s^{N}]$، $E[e^{tX}]$ و $E[X^{N}]$

تعاریف. برای $N$ با مقادیر در $\{0,1,2,\dots\}$، تابع مولد احتمال (PGF) عبارت است از

$G_N(s)=E\big[s^{N}\big]=\sum_{n\ge0}s^{n}P(N=n),$

که دست‌کم برای $\lvert s\rvert\le1$ به‌طور مطلق همگراست، پس دست‌کاری جمله‌به‌جمله در آنجا مجاز است. برای $X$ عمومی، تابع مولد گشتاور (MGF) برابر $M_X(t)=E[e^{tX}]$ است؛ این دو با رابطهٔ $G_N(s)=M_N(\ln s)$ برای $s>0$ به هم مربوط‌اند. هر یک، هرجا در همسایگی‌ای از نقطهٔ پایه متناهی باشد، توزیع را یکتا تعیین می‌کند.

چه چیزی به شما می‌دهند.

• ضرایب همان تابع جرم احتمال‌اند: $G_N(0)=P(N=0)$ و $P(N=n)=\dfrac{G_N^{(n)}(0)}{n!}$.
• گشتاورها در $s=1$: $G_N(1)=1$، $G_N'(1)=E[N]$، $G_N''(1)=E[N(N-1)]$، پس $\operatorname{Var}(N)=G_N''(1)+G_N'(1)-\big(G_N'(1)\big)^{2}$. برای MGF، $E[X^{k}]=M_X^{(k)}(0)$.
• استقلال، مجموع‌ها را به حاصل‌ضرب بدل می‌کند: $N\perp M\Rightarrow G_{N+M}=G_N\,G_M$، و $M_{X+Y}=M_X\,M_Y$.

سطر پواسون همان سطری است که باید بتوانید در یک خط بازتولیدش کنید: $\sum_{n\ge0}s^{n}e^{-\lambda}\frac{\lambda^{n}}{n!}=e^{-\lambda}\sum_{n\ge0}\frac{(\lambda s)^{n}}{n!}=e^{-\lambda}e^{\lambda s}=e^{\lambda(s-1)}$ — عامل باقی‌ماندهٔ $e^{-\lambda}$ جایی است که بیشتر نمرات از دست می‌رود.

الگو: پایهٔ تصادفی با توان تصادفی. عبارت‌هایی مانند $E[X^{N}]$ (یا $E[t^{N}]$، $E[e^{tX}]$) با شرطی‌کردن بر یکی از دو مؤلفه حل می‌شوند تا یک تابع مولد ظاهر شود:

۱. بر پایه شرطی کنید: $E[X^{N}]=E\big[E[X^{N}\mid X]\big]$. ۲. امید درونی را به‌عنوان یک PGF محاسبه‌شده در پایهٔ مشاهده‌شده بازشناسید: $E[X^{N}\mid X=x]=\sum_{n\ge0}x^{n}P(N=n\mid X=x)$. اگر پارامترهای شرطی به $x$ وابسته نباشند، این دقیقاً $G_N(x)$ است؛ و اگر وابسته باشند — مثلاً $N\mid X=x\sim\mathrm{Pois}(\lambda(x))$ — از همان فرم بسته با $\lambda(x)$ به‌جای $\lambda$ استفاده کنید که $e^{\lambda(x)(x-1)}$ می‌دهد. ۳. روی پایه میانگین بگیرید: $E[X^{N}]=\int G_N(x)\,f_X(x)\,dx$. ۴. یا از سوی دیگر شرطی کنید: $E[X^{N}]=E\big[E[X^{N}\mid N]\big]=E\big[h(N)\big]$ با $h(n)=E[X^{n}]$، گشتاور $n$-اُم پایه. هر کدام از مجموع/انتگرال که ساده‌تر باشد برنده است — و انجام هر دو یک بررسی متقاطع رایگان است.

مثال کوچک حل‌شده. فرض کنید $X\sim\mathrm{Unif}(0,1)$ مستقل از $N\sim\mathrm{Pois}(\lambda)$ باشد؛ $E[X^{N}]$ را حساب کنید.

راه A — شرطی‌کردن بر $X$ و استفاده از PGF پواسون:

$E[X^{N}]=\int_0^1 G_N(x)\,dx=\int_0^1 e^{\lambda(x-1)}\,dx=e^{-\lambda}\left[\frac{e^{\lambda x}}{\lambda}\right]_0^1=\frac{e^{-\lambda}\big(e^{\lambda}-1\big)}{\lambda}=\frac{1-e^{-\lambda}}{\lambda}.$

راه B — شرطی‌کردن بر $N$ و استفاده از $E[X^{n}]=\frac{1}{n+1}$:

$E[X^{N}]=E\left[\frac{1}{N+1}\right]=\sum_{n\ge0}\frac{1}{n+1}\,e^{-\lambda}\frac{\lambda^{n}}{n!}=\frac{e^{-\lambda}}{\lambda}\sum_{n\ge0}\frac{\lambda^{n+1}}{(n+1)!}=\frac{e^{-\lambda}\big(e^{\lambda}-1\big)}{\lambda}=\frac{1-e^{-\lambda}}{\lambda}.\ \checkmark$

بررسی‌های ساختاری که هم‌زمان صافی گزینه‌اند: $0\le X^{N}\le1$ تقریباً همه‌جا، پس پاسخ باید در $[0,1]$ بیفتد؛ $\lambda\to0^{+}$ باید $1$ بدهد (آنگاه $N\to0$ و $X^{0}=1$)؛ $\lambda\to\infty$ باید $0$ بدهد (توانی بسیار بزرگ عددی در $(0,1)$ را له می‌کند). هر سه برقرارند.

تلهٔ رایج: گزینه‌های انحرافی در سؤال‌های تابع مولد از سه لغزش مشخص ساخته می‌شوند — حذف عامل بهنجارش $e^{-\lambda}$ (که $\frac{1-e^{-\lambda}}{\lambda}$ را به $\frac{e^{\lambda}-1}{\lambda}$ متورم می‌کند)، فراموش‌کردن میانگین‌گیری روی متغیر بیرونی (یعنی محاسبه در $x=1$، جایی که همیشه $G_N(1)=1$)، و گم‌کردن $\frac{1}{\lambda}$ حاصل از $\int_0^1 e^{\lambda x}\,dx$. هر چنین سؤالی را با بررسی بازهٔ $0\le E[X^{N}]\le1$ تمام کنید.

۱۱. روش — حمله به یک سؤال گشتاور شرطی

۱. انتخاب کنید بر چه چیزی شرطی کنید. متغیری را بگیرید که شیء درونی را به چیزی تبدیل کند که از پیش می‌دانید: یک ثابت (استقلال)، یک میانگین/واریانس شرطی استاندارد، برچسب مؤلفه در یک آمیخته، یا یک PGF/MGF با فرم بسته. اگر هر دو انتخاب شدنی‌اند، انتگرال ساده‌تر برنده است و دیگری بررسی شما می‌شود. ۲. تشخیص دهید در عبارت خواسته‌شده چه چیزی تصادفی است: $\operatorname{Var}(X\mid Y)$ و $E[X\mid Y]$ تصادفی‌اند؛ $E[\operatorname{Var}(X\mid Y)]$ و $\operatorname{Var}(E[X\mid Y])$ عددند. ۳. تجزیهٔ $\operatorname{Var}(X)=E[\operatorname{Var}(X\mid Y)]+\operatorname{Var}(E[X\mid Y])$ را بنویسید و تصمیم بگیرید کدام جمله آسان است. ۴. $E[X\mid Y]$ را از ساختار به‌دست آورید، نه با انتگرال‌گیری: استقلال (ثابت است)، تقارن/تعویض‌پذیری ($S/n$)، جدول میانگین مؤلفه‌های یک آمیخته، یا یک مدل شرطی شناخته‌شده (مثلاً $X\mid \Lambda\sim\mathrm{Poisson}(\Lambda)$ می‌دهد $E[X\mid\Lambda]=\Lambda$، $\operatorname{Var}(X\mid\Lambda)=\Lambda$). ۵. $\operatorname{Var}(X)$ غیرشرطی را از جدول استاندارد حساب کنید، سپس تفریق کنید. ۶. سلامت‌سنجی: پاسخ باید در $[0,\operatorname{Var}(X)]$ بیفتد، و یک میانگین باید میان کوچک‌ترین و بزرگ‌ترین میانگین شرطی قرار گیرد.