مدل‌های گرافیکی

به‌طور کلی مدل‌های گرافیکی احتمالی از یک نمایش مبتنی بر گراف به عنوان پایه و اساس برای رمزگذاری کامل توزیع بیش از یک و چند بعدی در فضا است و یک گراف که نمایش فاکتور سازی شده مجموعه‌ای از عدم وابستگی‌ها در توزیع خاص است استفاده می‌کند. دو شاخه از نمایش‌های گرافیکی از توزیع‌ها معمولاً استفاده می‌شوند، که شبکه‌های بیزی و مارکوف در شبکه‌های نام دارند. هر دو خانواده شامل خواص فاکتور سازی و عدم وابستگی هستند، اما آن‌ها در مجموعه‌ای از عدم وابستگی از توزیع که می‌توانند رمز و فاکتور سازی کنند تفاوت دارند.

شبکه بیزی

اگر ساختار شبکه از نوع یک مدل گرافی جهت‌دار بدون دور باشد، مدل نشان دهنده فاکتور سازی توزیع احتمال توأم از تمام متغیرهای تصادفی است. به بیان دقیق تر اگر واقعه‌های ${\displaystyle X_1,\dots ,X_n}$

${\displaystyle P[X_1,\dots ,X_n]=\prod _{i=1}^{n}P[X_i|p{a}_i]}$

که در آن ${\displaystyle p{a}_i}$

${\displaystyle P[A,B,C,D]=P[A]\cdot P[B]\cdot P[C,D|A,B]}$

هر دو گره با داشتن مقادیر والدهای خود به صورت مستقل شرطی هستند. در کل اگر معیار d-separation در گراف موجود باشد هر دو مجموعه از گره‌ها با داشتن هر مجموعه سومی مستقل شرطی هستند. عدم وابستگی محلی و کلی در شبکه‌های بیز یکسان هستند.

این نوع از مدل گرافیکی به نام مدل گرافیکی جهت دار، شبکه بیز یا شبکه‌های باور شناخته شده‌اند. روش‌های یادگیری ماشین کلاسیک مانند مدل پنهان مارکوف و شبکه‌های عصبی و مدل‌های جدیدتر مانند مدل variable-order Markov می‌توانند به عنوان موارد خاص از شبکه‌های بیزی در نظر گرفته بشوند.

میدان تصادفی مارکوف

یک میدان تصادفی مارکوف، که به صورت شبکه مارکوف نیز شناخته شده‌است، یک مدل روی یک گراف بدون جهت است. یک مدل گرافیکی با بسیاری زیر ساختارهای تکرار شونده که با plate notation نشان داده می‌شود.

انواع دیگر

• یک گراف فاکتور یک گراف بدون جهت دو بخشی است که متغیرها و فاکتورها را متصل می‌کند. هر فاکتور نشان دهنده یک تابع روی متغیرهایی است که به آن متصل است. گراف فاکتور یک نمایش مفید برای فهمیدن و پیاده‌سازی انتشار باور می‌باشد.
• یک درخت کلیک (clique tree) یا درخت اتصال یک درخت از کلیک‌ها می‌باشد که برای الگوریتم اتصال درخت (junction tree algorithm) استفاده می‌شود.
• یک زنجیره گراف یک گراف است که ممکن است یال‌های بدون جهت و جهت دار داشته باشد، اما هیچ دور جهت داری ندارد (به عنوان مثال اگر ما از یک راس شروع کرده و در جهت یال‌ها حرکت کنیم نتوانیم با عبور از یک یال جهت دار به راس اولیه برگردیم). هر دو گراف جهت دار بدون دور و گراف بدون جهت حالت خاصی از گراف زنجیره هستند که یک راه برای تعمیم و گسترش شبکه‌های بیز و مارکوف است.
• گراف اجدادی یک ویژگی اضافه تر دارد و دارای یال‌های جهت دار، دو جهته و بدون جهت است.
• یک مدیان تصادفی شرطی یک مدل متمایز دهنده است که با استفاده از گراف بدون جهت نشان داده می‌شود.
• یک ماشین بولتزمان محدود شده یک مدل مولد دوبخشی است که با استفاده از یک گراف بدون جهت دو بخشی نشان داده می‌شود.

چارچوب مدل، الگوریتم‌هایی برای شناخت و تجزیه و تحلیل ساختارها در توزیع‌های پیچیده برای توصیف آن‌ها به صورت خلاصه و استخراج اطلاعات بدون ساختار ارائه می‌دهد، که به آن‌ها اجازه می‌دهد تا به صورت مؤثر ساخته و بهینه‌سازی شوند. کاربردهای مدل‌های گرافیکی شامل استخراج اطلاعات، تشخیص گفتار، بینایی ماشین، رمز گشایی از کدهای بررسی توازن کم چگالی، مدل‌سازی شبکه تنظیم ژن, پیدا کردن ژن‌ها و تشخیص بیماری‌ها، و مدل‌های گرافیکی برای ساختار پروتئین است.

• مدل معادلات ساختاری

• Probabilistic Graphical Models taught by Eric Xing at CMU

کتاب‌ها

• Bishop, Christopher M. (2006). "Chapter 8. Graphical Models" (PDF). Pattern Recognition and Machine Learning. Springer. pp. 359–422. ISBN 0-387-31073-8. MR 2247587.
• Cowell, Robert G.; Dawid, A. Philip; Lauritzen, Steffen L.; Spiegelhalter, David J. (1999). Probabilistic networks and expert systems. Berlin: Springer. ISBN 0-387-98767-3. MR 1697175. A more advanced and statistically oriented book
• Jensen, Finn (1996). An introduction to Bayesian networks. Berlin: Springer. ISBN 0-387-91502-8.
• Koller, D.; Friedman, N. (2009). Probabilistic Graphical Models. Massachusetts: MIT Press. p. 1208. ISBN 0-262-01319-3.
• Pearl, Judea (1988). Probabilistic Reasoning in Intelligent Systems (2nd revised ed.). San Mateo, CA: Morgan Kaufmann. ISBN 1-55860-479-0. MR 0965765. A computational reasoning approach, where the relationships between graphs and probabilities were formally introduced.

مقالات جورنال‌ها

• Edoardo M. Airoldi (2007). "Getting Started in Probabilistic Graphical Models". PLoS Computational Biology. 3 (12): e252. doi:10.1371/journal.pcbi.0030252. PMC 2134967. PMID 18069887.
• Jordan, M. I. (2004). "Graphical Models". Statistical Science. 19: 140–155. doi:10.1214/088342304000000026.

دیگر

• Heckerman's Bayes Net Learning Tutorial
• A Brief Introduction to Graphical Models and Bayesian Networks
• Sargur Srihari's lecture slides on probabilistic graphical models