Где обучать нейросети?

[Раздел написан не полностью]

Обучение нейросетей в Google Collaboratory

Самым доступным вариантом для начинающего исследователя является сервис Google Collaboratory. Этот сервис предоставляет бесплатные виртуальные машины с не менее чем 12Гб оперативной памяти, процессором, ускорителем вычислений от NVIDIA и операционной системой на базе Linux. Все что вам нужно сделать для начала использования этого сервиса, это перейти по ссылке https://colab.research.google.com/ . Появится страница показанная ниже:

Далее необходимо создать новый блокнот выбрав в меню File->New Python 3 Notebook, а затем включить аппаратый ускоритель вычислений. Для это нужно выбрать пункт меню Runtime->Change runtime type, что приведет к появлению окна показанного ниже. В появившемся окне стоит нажать на выпадающий список Hardware accelerator и выбрать пункт GPU, затем нажать кнопку ОК. Всегда при работе в Google collaboratory включайте аппаратное ускорение!

Теперь вы можете приступать к непосредственному изучению нейросетей. Например можно начать с копирования и запуска примера из стандартной документации Keras (https://github.com/keras-team/keras/blob/master/examples/mnist_mlp.py) как показано ниже:

Обучение сетей на персональном компьютере

В первую очередь, необходимо понять, что время обучение исскуственных нейронных сетей на процессорах кардинально отличается от времени их обучения на ускорителях вычислений в худшую сторону. Простейший пример на сверточную нейронную сеть для распознавания рукописных букв https://github.com/keras-team/keras/blob/master/examples/mnist_cnn.py на процессоре будет учиться 15-20 минут для достижения того же качества распознавания, что будет достигнуто при обучении нейронной сети на ускорителе вычислений NVIDIA за 3 минуты.

Учитывая размер современных нейроных сетей, обучение которых может занимать до нескольких суток на ускорителях вычислений, их обучение на процессоре невозможно за сколько-нибудь разумное время. Поэтому, перед началом работы с нейронными сетями на персональном или рабочем оборудовании убедитесь, что на нем есть видеокарта от NVIDIA. Практически все современные видеокарты этого производителя поддерживают технологию NVIDIA CUDA, которая необходима для обучения нейронных сетей. Пока вы остаетесь в рамках простых проектов, производительность карты не будет играть для вас особого значения.

Для началы работы с нейронными сетями мы рекомендуем среду Jupyter Notebook или Jupyter Lab.