Błąd średni kwadratowy – Funkcja jakości działania sieci neuronowej w procesie uczenia oznacza wartość średnią (oczekiwaną) zmiennej losowej. Wartość oczekiwana liczona jest po wszystkich zbiorach par uczących. Zakładamy przy tym, że wybory kolejnych par uczących są niezależne od siebie.