انیمیشن بالا نمونه هایی از ساختارهای مدل و تعداد پارامترهایی را که مدل باید یاد بگیرد تا خروجی های مورد نظر را تنظیم کند، نشان می دهد. جزئیات آنچه در اینجا دیده می شود موضوعات فصل های آینده است.
وقتی از این طریق به آن نگاه می کنید، ممکن است نسبتا پیچیده به نظر برسد. شبکه های عصبی به عنوان “جعبه سیاه” در نظر گرفته می شوند زیرا ما اغلب نمی دانیم چرا آنها به نتیجه گیری می رسند. با این حال، ما درک می کنیم که آنها چگونه این کار را انجام می دهند.
لایه های متراکم، رایج ترین لایه ها، از نورون های به هم پیوسته تشکیل شده اند. در یک لایه متراکم، هر نورون یک لایه معین به هر نورون لایه بعدی متصل می شود، به این معنی که مقدار خروجی آن به ورودی نورون های بعدی تبدیل می شود. هر اتصال بین نورون ها دارای وزنی است که با آن مرتبط است ، که یک عامل قابل آموزش برای استفاده از مقدار این ورودی است و این وزن در مقدار ورودی ضرب می شود. هنگامی که همه وزن های ورودی به نورون ما سرازیر می شوند، جمع می شوند و یک سوگیری، یک پارامتر قابل آموزش دیگر، اضافه می شود. هدف از سوگیری جبران خروجی مثبت یا منفی است، که می تواند به ما کمک کند تا انواع واقعی داده های پویا را ترسیم کنیم. در فصل 4، نمونه هایی از نحوه عملکرد آن را نشان خواهیم داد.
مفهوم وزن ها و سوگیری ها را می توان به عنوان “دستگیره” در نظر گرفت که می توانیم آنها را تنظیم کنیم تا مدل خود را با داده ها مطابقت دهیم. در یک شبکه عصبی، ما اغلب هزاران یا حتی میلیون ها مورد از این پارامترها را داریم که توسط بهینه ساز در طول آموزش تنظیم شده اند. برخی ممکن است بپرسند، “چرا فقط تعصب یا فقط وزن نداشته باشیم؟” سوگیری ها و وزن ها هر دو پارامترهای قابل تنظیم هستند و هر دو بر خروجی نورون ها تأثیر می گذارند، اما این کار را به روش های مختلف انجام می دهند. از آنجایی که وزن ها ضرب می شوند، فقط اندازه را تغییر می دهند یا حتی علامت را به طور کامل از مثبت به منفی تغییر می دهند یا برعکس. خروجی = وزن · ورودی + بایاس بی شباهت به معادله یک خط نیستy = mx+b. ما می توانیم این را با موارد زیر تجسم کنیم: