Lo natural es que tomemos decisiones racionales, y que si, por ejemplo, estamos cansados, volvamos por donde hemos venido. O si nos vemos con fuerzas, y hace buen tiempo, sigamos por alguno de los dos caminos.\u00a0<\/p>\n
Y es que en nuestro d\u00eda a d\u00eda nos topamos con este tipo de decisiones donde, \u201csabiendo lo que sabemos\u201d, tenemos que elegir en un escenario de incertidumbre.<\/p>\n
El paradigma Bayes<\/h3>\n
A fin de cuentas, la incertidumbre no es m\u00e1s que un estado en el que el conocimiento se ve limitado por la falta informaci\u00f3n para describir futuras acciones o eventos.<\/p>\n
La ciencia de datos y la modelizaci\u00f3n estad\u00edstica han ido desarrollando a lo largo de los a\u00f1os numerosas formas de poder cuantificar la incertidumbre con el fin de mejorar las predicciones de futuros eventos. Existen numerosas disciplinas que hacen uso de la cuantificaci\u00f3n de la incertidumbre, como la ingenier\u00eda, la f\u00edsica, la meteorolog\u00eda, y la econom\u00eda. Uno de los beneficios de utilizar un enfoque <\/strong>bayesiano<\/i><\/strong> (todo empez\u00f3 con este maestro de la estad\u00edstica<\/a>) es que precisamente estamos incorporando la incertidumbre a nuestra toma de decisiones.<\/p>\n Hoy, venimos a hablar del m\u00e9todo m\u00e1s extendido para cuantificar esa incertidumbre. En la siguiente parte de esta serie de posts, realizaremos alg\u00fan ejemplo aplicado a Machine Learning. De momento, vamos a empezar describiendo un poco los diferentes paradigmas que existen para cuantificar la probabilidad y la incertidumbre de un conjunto de datos con un enfoque Bayesiano. \u00bfPara qu\u00e9 es necesario esto? Bueno, no siempre tenemos una \u00fanica soluci\u00f3n a un problema, si no que por lo general, y m\u00e1s en ciencia de datos, disponemos de muchas. Por tanto, entender las diferencias entre uno y otro nos puede servir de base para empezar con buen pie.\u00a0<\/p>\n Los enfoques para modelar un conjunto de datos m\u00e1s extendido suelen venir de los \u201cf\u00edsicos<\/strong>\u201d y los \u201cevidenciales<\/strong>\u201d. Estos enfoques hacen uso de la probabilidad para realizar estudios sobre un conjunto de datos, observaciones, registros, eventos, etc. Cualquier sistema de inteligencia artificial basado en Machine Learning hace (casi siempre) uso de alguno de estos enfoques para realizar predicciones o inferencias, y es que:<\/p>\n Hist\u00f3ricamente, siempre ha habido disputas dentro de la comunidad cient\u00edfica por determinar cu\u00e1l es el mejor m\u00e9todo para estudiar el mundo que nos rodea. Al principio, el probabilismo (relacionado con lo que venimos denominando como lo bayesiano), no era m\u00e1s que un paradigma epistemol\u00f3gico. Con el pasar de los a\u00f1os, se convirti\u00f3 en otro arma m\u00e1s para la ciencia de cara a realizar experimentos y contrastar hip\u00f3tesis. <\/p>\n La inferencia bayesiana trata de actualizar una probabilidad a posteriori como consecuencia de dos antecedentes: una probabilidad a priori y una funci\u00f3n de verosimilitud. Expresado matem\u00e1ticamente, tenemos:<\/p>\n Este teorema tuvo mucho impacto en la ciencia, y lo sigue teniendo a d\u00eda de hoy. Por ejemplo, podemos resolver algoritmos de inferencia estad\u00edstica aplicando esta l\u00f3gica para incorporar a nuestras predicciones el concepto de incertidumbre. Por ejemplo, la regresi\u00f3n lineal. Es un sencillo algoritmo que intenta explicar o predecir una variable usando una combinaci\u00f3n lineal de otras. El enfoque frecuentista para realizar inferencias es sencillo, y es que en una regresi\u00f3n lineal, simplemente tenemos que pasar los datos (matriz X) que queramos inferir a la siguiente ecuaci\u00f3n para obtener nuestras predicciones Y:<\/p>\n Nuestra variable de respuesta tendr\u00e1 la siguiente forma:<\/p>\n Al final, nuestro resultado ser\u00e1 que, en vez de obtener un n\u00famero que nos defina al 100%, nuestras predicciones, obtendremos un rango, o mejor dicho, una distribuci\u00f3n de probabilidad de nuestros coeficientes. <\/p>\nLos tipos de enfoque<\/b><\/h3>\n
\n
En la pr\u00e1ctica<\/b><\/h3>\n
![\"\"](\"https:\/\/i0.wp.com\/keepler.io\/wp-content\/uploads\/2020\/10\/Paradigma-bayes-formula-1.png?resize=275%2C85&ssl=1\")
<\/p>\n\n
![\"\"](\"https:\/\/i0.wp.com\/keepler.io\/wp-content\/uploads\/2020\/10\/Paradigma-bayes-formula-2.png?resize=163%2C51&ssl=1\")
De entre todas las formas que existen para encontrar los mejores par\u00e1metros , la siguiente forma es la m\u00e1s extendida:<\/p>\n![\"\"](\"https:\/\/i0.wp.com\/keepler.io\/wp-content\/uploads\/2020\/10\/Paradigma-bayes-formula-3.png?resize=184%2C67&ssl=1\")
Sin embargo, existe tambi\u00e9n la regresi\u00f3n lineal con enfoque bayesiano. Aqu\u00ed, asumimos que nuestra variable a predecir sigue una distribuci\u00f3n de probabilidad. La idea de una regresi\u00f3n lineal bayesiana, no es conseguir calcular los mejores coeficientes o par\u00e1metros que minimicen el error de entrenamiento y test, si no determinar cu\u00e1l es la distribuci\u00f3n posterior de los par\u00e1metros o coeficientes:<\/p>\n![\"\"](\"https:\/\/i0.wp.com\/keepler.io\/wp-content\/uploads\/2020\/10\/Paradigma-bayes-formula-4.png?resize=315%2C78&ssl=1\")
<\/p>\n![\"\"](\"https:\/\/i0.wp.com\/keepler.io\/wp-content\/uploads\/2020\/10\/Paradigma-bayes-formula-5.png?resize=227%2C68&ssl=1\")
En la pr\u00e1ctica, tendremos que definir primero cu\u00e1les son las distribuciones a priori de nuestros par\u00e1metros, nuestras creencias, lo que conocemos, para ir actualizando nuestro distribuci\u00f3n a posteriori v\u00eda un algoritmo de sampleo como MCMC<\/a> (que, a lo mejor, podr\u00edamos explicar en otro post). As\u00ed, una de las principales ventajas de usar un enfoque bayesiano es que:<\/p>\n\n
Un caso de uso real en un escenario de incertidumbre<\/b><\/h3>\n
![\"\"](\"https:\/\/i0.wp.com\/keepler.io\/wp-content\/uploads\/2020\/10\/Paradigma-bayes-formula-6.png?resize=364%2C127&ssl=1\")
Y es el n\u00famero de infectados, M es la constante, B es la tasa de crecimiento del n\u00famero de infectados, y es un par\u00e1metro para a\u00f1adir aleatoriedad, sigma, a todo el proceso. En Keepler realizamos el mismo ejercicio propuesto por el autor, y obtuvimos este resultado:<\/p>\n![\"\"](\"https:\/\/i0.wp.com\/keepler.io\/wp-content\/uploads\/2020\/10\/Regresion-bayesiana-prediccion.jpg?resize=1080%2C1589&ssl=1\")
<\/p>\n