Какой коэффиецент поставить у Dropout?

Dropout (рус. дропаут) - это метод регуляризации нейронных сетей. Он заключается в отключении части нейронов на определенном слое нейронной сети. При этом отключаемые нейроны выбираются случайно на каждой эпохе обучения. В большинстве фреймворков значение дропаута задается от 0 до 1. Где 0 - это включение всех нейронов, а 1 - это отключение всех нейронов.

Ниже представлена таблица рекомендуемых значений коэффицента в Dropout слое в зависимости от предыдущего слоя.

Приложение

Коэффициенты

Полносвязные слои

0.4 -- 0.5

Сверточные слои

0.1 -- 0.2

Last updated