Cálculo e otimização: derivadas que orientam o ajuste

Para uma função f(w), a razão [f(w+h)-f(w)]/h mede a variação média num deslocamento h. A derivada f′(w) é o limite dessa razão quando h se aproxima de zero, se esse limite existir. Seu sinal informa se aumentar w faz a função crescer ou diminuir localmente. Sua magnitude depende das unidades: derivar tempo em relação a tamanho produz uma taxa de tempo por unidade de tamanho. Não se trata de uma previsão global sobre todos os valores de w. Um deslocamento grande pode sair da região em que a aproximação local é útil.

Considere f(w)=w². Expandir (w+h)²-w² produz 2wh+h². Dividir por h dá 2w+h, cujo limite é 2w. Em w=3, a derivada vale seis: um aumento pequeno de 0.01 tende a mudar a função por aproximadamente 0.06. O valor exato é 3.01²-3²=0.0601, mostrando o pequeno termo de segunda ordem omitido. Essa diferença entre aproximação e resultado exato prepara o diagnóstico de passos grandes. O programa de cálculo do MIT situa derivadas e otimização entre os conceitos da disciplina; nossas contas com perdas são aplicações originais dessa base.

↗ 18.02SC Multivariable Calculus — syllabus

Um modelo raramente aplica uma única operação. Primeiro calcula uma previsão, depois um erro e finalmente uma penalidade. Para uma observação x=2, y=1, com previsão z=2w, defina erro e=z-1 e perda L=e²/2. A derivada de L em relação a e é e; a de e em relação a z é um; a de z em relação a w é dois. Multiplicar essas sensibilidades dá dL/dw=2(2w-1). Essa é a regra da cadeia: cada etapa informa como uma mudança chega à seguinte.

Em w=0, a previsão é zero, o erro é menos um, a perda é 0.5 e a derivada é menos dois. Para reduzir a perda, aumentamos w um pouco, indo contra o sinal negativo da derivada. Se alguém usar apenas a derivada do quadrado e esquecer que z depende de w por um fator dois, o gradiente terá magnitude errada. O algoritmo pode continuar produzindo melhorias em alguns passos, portanto observar queda da perda não prova que a derivada esteja correta. Conferir a composição no papel e por diferenças finitas é um diagnóstico mais forte.

Agora a previsão tem dois parâmetros: z=b+mx. A perda de uma observação é (z-y)²/2. A derivada parcial em relação a b é z-y, e em relação a m é (z-y)x. O gradiente reúne essas duas derivadas na ordem dos parâmetros. Parcial significa variar um parâmetro mantendo os outros fixos. Se a entrada for x=2 e os parâmetros forem zero, o gradiente é [-1,-2]. Isso conecta a conta ao produto matriz-vetor da álgebra: as coordenadas [1,x] determinam como cada parâmetro influencia a previsão.

Em um lote com n observações, usaremos a média das perdas: L=(1/n)Σ(zᵢ-yᵢ)²/2. Cada componente do gradiente também é a média de suas contribuições. Dividir apenas a perda por n e esquecer de dividir o gradiente altera a relação entre fórmula e implementação. Duplicar todas as linhas deve preservar a média e o gradiente médio, oferecendo um teste simples. Uma soma de perdas também é válida como objetivo, mas sua escala cresce com n e exige interpretar a taxa de aprendizado de outra forma. O importante é declarar a convenção e usá-la consistentemente.

↗ 18.02SC Multivariable Calculus — syllabus

A atualização é theta_novo=theta_atual−η gradiente, com taxa de aprendizado η positiva. O sinal de menos busca a direção local de queda. Para o exemplo de um parâmetro, w=0 e gradiente menos dois, usar η=0.1 produz w=0.2. A nova previsão é 0.4 e a perda cai de 0.5 para 0.18. Usar η=1 produz w=2, previsão quatro e perda 4.5. A direção inicial estava correta nos dois casos; a diferença está na distância percorrida. Um passo que ultrapassa a região útil pode piorar o objetivo.

Com vários parâmetros, calcule todas as componentes do gradiente no mesmo estado e só depois atualize. Se modificar b antes de calcular a derivada de m, a segunda derivada verá outro modelo e deixará de representar o passo simultâneo descrito. Escala dos atributos também importa: multiplicar x por cem aumenta a sensibilidade em relação à inclinação e altera a curvatura da perda. A taxa que funcionava antes pode se tornar excessiva. Normalização, escolha de taxa e algoritmos adaptativos são ferramentas possíveis, mas nenhuma dispensa verificar o objetivo e os dados.

Para a reta com x=[0,1,2] e y=[1,2,2], a perda quadrática é convexa e a solução conhecida é b=7/6, m=0.5. Um gradiente adequado se aproxima dessa solução sob um passo compatível. Redes com camadas e ativações geralmente têm superfícies mais complexas; queda local não garante encontrar o melhor resultado global. Também há diferença entre minimizar perda no treino e produzir boas previsões em novos casos. A próxima unidade separará esses dois critérios por meio de conjuntos diferentes.

A diferença central estima uma derivada por [L(theta+h eⱼ)-L(theta-h eⱼ)]/(2h), alterando uma coordenada por vez. Usaremos h=0.00001 em dados pequenos e compararemos ao gradiente analítico. Essa verificação não é a maneira eficiente de treinar uma rede grande, pois exige muitas avaliações da função. Ela é uma ferramenta de depuração. h grande aumenta erro de aproximação; h pequeno demais pode causar cancelamento numérico. Teste em pontos não especiais: no mínimo, um gradiente incorreto pode coincidir com zero e esconder o defeito.

A perda quadrática penaliza erros grandes de forma acentuada. Perda absoluta responde de maneira diferente e não tem derivada usual no erro zero. Classificação binária frequentemente utiliza uma perda ligada à probabilidade prevista, que estudaremos com uma rede. Escolher uma função de perda significa definir que erros o treinamento enfatizará. Ela deve ser comparada com a métrica relevante para a operação, pois um objetivo diferenciável é uma ferramenta de otimização e não uma descrição completa do custo de negócio. Em todo caso, valores não finitos e dados vazios precisam ser tratados antes do primeiro passo.

Nas notas do CS229, leia 4.1 (gradiente) e 4.4 (mínimos quadrados). Compare a forma matricial com as derivadas escalares calculadas aqui e identifique a hipótese que permite zerar o gradiente. Essa leitura não substitui o teste de passo ou a avaliação de generalização da próxima unidade.

↗ CS229 Linear Algebra Review and Reference