How to estimate the parameter of a temperature sensor?

El proceso de actualización de parámetros consiste en que apartir de una ecuación de una recta que pasa por el origen y tiene una pendiente θ que se propone, se revisa que tan alejada está la recta del valor deseado (calculando el error) y en base a eso se obtiene un valor que modifique la pendiente de manera en que la recta pase por valor deseado, si se utiliza una tasa de aprendizaje α menor a 1, causa que la recta no pase inemdiatamente por el punto deseado, si no que solo se vaya acercando poco a poco dependiendo de que tan pequeña sea α. Cabe aclarar que para este método se deben tener valores reales del sistema para que la recta pueda ajustarse a ellos. Ejemplo:

Si θ⁰ = 5 mV/°C , x = 40 °C e y = 240 mV

Entonces:

y^ = (5 mV/°C)(40°C) = 200 mV

El error es la diferencia entre "y" y "y^", entonces:

E = y - y^ = 240mV - 200mV = 40mV

Una vez que se tiene el error se puede obtener la corrección necesaria:

∆θ = E/x = 40mV/40°C = 1 mV/°C

Se pide que la tasa de aprendizaje se actualice con un alpha de 0.2, entonces en lugar de sumar directamente el valor de ∆θ a θ⁰ se hace de la siguiente manera:

θ¹ = θ⁰ + α∆θ = 5mV/°C + (0.2)(1mV/°C) = 5.2 mV/°C

Se puede repetir este proceso utilizando la nueva θ obtenida hasta que se obtenga un error aceptable.

y^ = (5.2 mV/°C)(40°C) = 208 mV

E = y - y^ = 240mV - 208mV = 32mV

∆θ = E/x = 32mV/40°C = 0.8 mV/°C

θ² = θ¹ + α∆θ = 5.2mV/°C + (0.2)(0.8mV/°C) = 5.36mV/°C

Ahora y^ = (5.36 mV/°C)(40°C) = 214.4 mV

Cómo se puede apreciar, cada nuevo valor de y^ es más cercano a "y" original , causando que el error sea menor. Aunque cada iteración proporciona el incremento de θ necesario para estar justo en el valor deseado. El tener un factor de incremento α menor a 1, el cual multiplica al incremento, hace que el incremento se reduzca causando que siempre se tenga un valor y^ menor al deseado. Mientras más chica sea α, menos se acercará y^ al valor deseado.

Si se utiliza un valor de α = 1 y existiera un valor atípico, esto causaría que la pendiente de la recta cambie drásticamente al permitir sumar el incremento completo. Una α pequeña haria que la pendiente de la recta solo cambie un poco y que siga estando cerca de los demás valores.

1.- Y^=5.0(40)=200mV
2.- E=240-200=40mV
3.- Increment theta= 40/40= 1mV
4.- theta^1= 5.0+0.2(1)= 5.2mV/°C
4.- Y^New=5.2(40)=208mV
5.- La nueva prediccion si se acerca más al resultado deseado, sinembargo la taza de aprendizaje evita que la nueva prediccion cambie por completo por la corrección pues al utilizar el factor alpha, obtenemos solo un porcentaje de la corrección obtenida por el metodo
6.- Si el factor alpha fuera 1 y en el caso de tener la medicion de un valor fuera de lo común seria lo mismo a que si no tuvieramos el factor alpha, pues al multiplicar por 1 el valor de la correción seria el mismo.

en pocas palabras el parametro alpha nos dice "cuanto creer" en la correción que calculamos

Resolución de incisos 1-4
https://drive.google.com/file/d/1QkAtp0eRC9vqGEQw0F9sNmKRIao2l0nF/view?usp=sharing

5 - Si el valor se movió más cerca del medido, el LR provoca que sólo se corrija la predicción hasta cierto punto, en éste caso sólo un 20% por iteración, mientras más grande sea el porcentaje la correción será mayor, y se acercará más rápido al valor deseado.

6 - Si existiera un valor que destacara muy por encima/debajo del promedio de las muestras y se aplicara la correción con alpha igual a uno, este aplicaría la corrección muy cercana a ese valor de golpe, cambiando de manera abrupta la gráfica resultante.

Datos:
X=40°C
Y=240mV
θ⁰=5mV/°C
α=0.2

1. Y^=θ⁰X=(5mV/°C)(40°C)=200mV

2. YT=Y=240mV
   E=YT-Y^=240mV-200mV=40mV

3. ∆θ=E/X=(40mV)/(40°C)=1mV/°C

4. θ¹=θ⁰+α∆θ=(5mV/°C)+(0.2)(1mV/°C)= 5.2mV/°C
   Nueva predicción
   Y^=θ¹X=(5.2mV/°C)(40°C)=208mV

El proceso de actualización de parámetros consiste en hacer nuestra predicción usando el actual valor de theta, luego calculamos que tan lejos estuvo la predicción actual (Y^) previamente calculada respecto valor real medido (YT), depués checamos cuanto ajuste ocupa nuestro theta, y finalmente se usa la tasa de aprendizaje con el fin de aplicar un cambio pequeño pero seguro para que el modelo corrija su rumbo sin que le efecte de forma exagerada un solo dato

5. La segunda predicción si se acercó más al valor medido que la primera predicción porque al actualizar el parámetro θ sumandole la corrección, la predicción se ajusta en la dirección correcta.

La tasa de aprendizaje evita que se adapte el modelo a una sola medición para que si aparece un valor atípico alejado de los demás datos, no le afecte a nuestro nuevo parámetro (θ)

6. El modelo cambiaría de golpe para adaptarse por completo a un valor nuevo que no sabemos si vaya a estar lejos de los demás datos perdiento la precisión

https://acrobat.adobe.com/id/urn:aaid:sc:US:14aa987c-94ae-4ec7-bd5a-d09adcc44882

En el siguiente link a adobe se muestra el procedimiento que se siguió para resolver los ejercicios 1-5.
https://acrobat.adobe.com/id/urn:aaid:sc:US:8c6d90dd-edf3-49bd-b1dd-226224fea0e8

Respuesta a pregunta 6:
El nuevo valor de predicción se acerca cada vez más al valor medido gracias al cálculo del error para encontrar correctamente el valor del factor de sensibilidad. La tasa de aprendizaje previene a que el modelo se adapte completamente porque únicamente utiliza cierto porcentaje del incremento para que la trayectoria de la pendiente que llevaba no cambie drásticamente; se podría decir que le da cierta confianza al aprendizaje.

Respuesta a pregunta 7:
El modelo tratará de adaptarse a las entradas para dar como resultado las salidas esperadas, sin embargo esto en una gráfica daría cambios bruscos sin tener alguna dirección lineal.

Como el valor de y^ = θ*x y θ = 5.0 mV/°C
entonces con x = 40° se tiene:

y^ = (5.0 mV/°C)*(40°C) = 200mV.

El error se calcula restando el valor predicho al valor real. El valor real siendo y = 240 mV. Entonces:

E = 240 mV - 200mV = 40 mV.

Para calcular un nuevo valor de θ se tiene ∆θ = E/x, entonces:
∆θ = 40 mV/40°C = 1 mV/°C

Ahora, obteniendo un nuevo valor de θ pero considerando el learning rate "α" de 0.2:

θ¹ = θ⁰ + α∆θ = 5.0 mV/°C + 0.2(1 mV/°C) = 5.2 mV/°C

Si calculamos un nuevo valor de y^ con θ¹:

y^ = (5.2 mV/°C) * (40°C) = 208mV. Este valor está mas cerca del valor real, comprobándose al calcular el error nuevamente:

E = 240 mV - 208mV = 32 mV.

El learning rate evita que el modelo se adapte completamente al último valor del error establecido debido a que controla "que tanto" error va a corregir.
Si el modelo presentara una inconsistencia como que a 10°C se registraran 500mV, entonces un learning rate menor a 1 evitaría que se tome a consideración este dato por completo, sino una fracción únicamente. Pero si el learning rate es igual a 1, se aplicaría el cambio completo calculado a partir del error, por lo que, un dato anómalo que produzca un error muy grande podría provocar una modificación considerable en el valor de θ y afectar más las siguientes predicciones.