Цитаты из книги «Нейронные сети. Эволюция»

https://github.com/CaniaCan/neuralmaster

которые определяются размерами весов соответствующих связей. .

В данном случае, сигнал на выходном нейроне, формируется за счет двух позади стоящих нейронов. Их весовые коэффициенты равны 1 и 3, соответственно. Если ошибку на выходе, разделить пропорционально между двух позади стоящих нейронов, то для того чтобы обновить меньший вес ( её части. Если представить, что сеть имеет тысяча или более нейронов, связанных подобным образом с выходным нейроном, мы бы распределяли выходную ошибку между всеми этими связями, пропорционально их вкладам

Как находить ошибку на выходе мы прекрасно усвоили: Использовать лишь одну величину ошибки на выходе для всех связей, затея глупая. Так как величина ошибки, определяется вкладами всех связей, а не только одной. Значит нам нужно каким-то образом, распределить эту ошибку между всеми узлами, пропорционально их вкладам в неё. То есть, большая часть ошибки приписывается тем связям, которые имеют больший вес, потому что они оказывают большее влияние на величину ошибки:

Мозг в свою очередь представляет собой

компьютера. Сложение чисел с очень большой скоростью – это огромное преи

Мы можем говорить о скорости изменения чего угодно – физической величины, экономического показателя и так далее.

Напомню, дифференциальное исчисление сводится к нахождению изменения одной величины в результате изменения другой.

Дифференциальное исчисление – это просто математически строгий подход к определению величины изменения одних величин при изменении других.

У такого абстрактного подхода, есть математическая версия, которая называется – градиентным спуском. Где подножье холма – минимум ошибки, а шагами в его направлении – обновления весовых коэффициентов.