Tənzimləyicilər optimallaşdırma zamanı təbəqə parametrlərinə və ya təbəqə fəaliyyətinə cərimə tətbiq etməyə imkan verir. Bu cəzalar şəbəkənin optimallaşdırdığı itki funksiyasına cəmlənir. Tənzimləmə cəzaları hər qat əsasında tətbiq edilir.
Fəaliyyət nizamlayıcı nədir?
Fəaliyyət nizamlayıcısı şəbəkə çıxışının funksiyası kimi işləyir və əsasən gizli vahidləri nizamlamaq üçün istifadə olunur, çəki_tənzimləyicisi isə adından da göründüyü kimi çəkilər üzərində işləyir (məsələn, onları çürütmək).
Fəaliyyət nizamlayıcısından nə vaxt istifadə etməliyəm?
Çıxış funksiyasının mənşədən keçməsini (və ya kəsişməyə daha yaxın olmasını) istəyirsinizsə, qərəzli nizamlayıcıdan istifadə edə bilərsiniz. Çıxışın daha kiçik (və ya 0-a yaxın) olmasını istəyirsinizsə, fəaliyyət nizamlayıcısından istifadə edə bilərsiniz.
Keras nizamlayıcısından necə istifadə edirəm?
Bir qata nizamlayıcı əlavə etmək üçün siz sadəcə olaraq qatın açar sözü 'kernel_regularizer' arqumentinə üstünlük verilən nizamlanma texnikasını keçməlisiniz. Keras nizamlamasının həyata keçirilməsi üsulları nizamlanma hiperparametri dəyərini təmsil edən parametr təmin edə bilər.
Kernel və bias nədir?
Sıx sinif
Sıx əməliyyatı həyata keçirir: çıxış=aktivasiya(nöqtə(giriş, kernel) + bias) burada aktivasiya aktivləşdirmə arqumenti kimi ötürülən element baxımından aktivləşdirmə funksiyasıdır, kerneltəbəqəsi tərəfindən yaradılmış çəkilər matrisidir vəqərəz təbəqə tərəfindən yaradılmış qərəz vektorudur (yalnız istifadə_qərəzi Doğru olduqda tətbiq edilir).
