Uma visão amigável do Teorema de Bayes

Posted by Igor Nascimento on August 4, 2017

Eventos, Probabilidade e Condicionalidade

No livro The History of Probability o autor Todhunter relata de forma cronológica considerações de aspectos elementares da Teoria da Probabilidade de alguns notáveis personagens da história. No entanto, os primórdios da probabilidade está relatado nas correspondências entre Pierre De Fermat e Blaise Pascal sobre um problema de jogos em lançamento de dados no século XVII, citados em Games, Gods & Gambling.

Probabilidade é a área da matemática responsável por mensurar aquilo que não é determinístico. Os resultados dos lançamentos de dados ou moedas são considerados experimentos de probabilidade, pois estão sujeitos ao acaso.

Para o cálculo de probabilidades, considere as seguintes abordagens:

  • Clássica: “Suponha que dentre resultados possíveis e equiprováveis sejam favoráveis. A probabilidade de um evento favorável é .” Essa abordagem é o resultado das correspondências entre Fermat e Pascal.

  • Frequentista: “Foram realizados experimentos dos quais eram favoráveis. A frequência relativa da ocorrência de um evento favorável é .” Jakob Bernoulli, em seu livro Ars Conjectandi, provou a convergência entre a frequência relativa de ocorrência e a probabilidade clássica a medida que aumenta-se o número de experimentos .

Dito isso, vamos definir como a probabilidade de ocorrer o evento em um determinado conjunto de valores possíveis . Antes de tudo vamos aquecer o cérebro compreendendo os importantes conceitos de independência e permutabilidade para o estudo de probabilidade.

Independência

Seja uma caixa contendo 2 bolas brancas e 3 pretas. Considere o experimento da retirada aleatória e observância da cor da bolas, com representação Bernoulli () de ocorrência:

  • caso a bola retirada seja branca

  • caso a bola retirada seja preta

Pela abordagem clássica, a probabilidade da bola ser branca é e de ser preta .

Após a primeira retirada, e sem reposição, você retira mais uma bola. Qual a probabilidade da segunda bola ser branca?

A resposta mais intuitiva é DEPENDE. De fato, a probabilidade da segunda retirada () está condicionada ao resultado da primeira. Perceba, caso a primeira seja branca, restam mais branca e as demais pretas, e, nesse caso, a probabilidade de uma segunda retirada branca é . Caso a primeira tenha sido preta, seria .

De maneira geral, a probabilidade do evento condicionada ao evento é representada por . Nesse caso, temos que:

Dessa forma, dizemos que o evento é dependente do evento .

A probabilidade conjunta dos eventos e é expressa pela regra do produto: que também pode ser expressa por .

Considere agora um outro experimento, o lançamento de uma moeda honesta e a observância da face virada para cima. Considere a representação Bernoulli () de ocorrência:

  • caso o resultado do lançamento seja coroa

  • caso o resultado do lançamento seja cara

Por ser justa, a probabilidade do resultado cara é e o de coroa é .

Em seguida, a moeda é lançada novamente e o resultado representado por . Perceba que nesse caso, a probabilidade da ocorrência de cara no segundo lançamento também é igual a por não ser afetado pelo resultado do primeiro lançamento.

Dizemos que é independente de , e nesse caso, temos que a regra do produto é:

Permutabilidade

Permutabilidade é a propriedade da alteração no ordenamento de realizações em uma sequência de eventos sem que a probabilidade conjunta seja alterada.

Considere o lançamento de moedas não viciadas, com representação semelhante a apresentada anteriormente, sendo observado o seguinte resultado , isto é, (cara,coroa,cara,cara,cora). Sabemos que os lançamentos são independentes e que a probabilidade conjunta desse evento é .

Nessa situação, caso fosse observado o evento , a probabilidade não seria alterada, pois . Dessa forma, a ordem da ocorrências dos resultados cara não altera a probabilidade conjunta, desde que seja a mesma quantidade de resultados de “sucesso”. Esse é uma versão não rigorosa do Teorema de De Finetti.

De maneira geral, a independência de uma sequência de eventos garante a permutabilidade da mesma.

No entanto, a permutabililidade não é condição necessária para a permutabilidade, apenas suficiente. Isto é, ainda que uma sequência não seja formada por eventos independente, é possível que sejam permutáveis.

Considere a mesma representação do exemplo da caixa com bolas apresentado anteriormente para o caso da retirada de bolas sem reposição. Como visto, esses eventos não são independentes, pois a probabilidade de um determinado evento na sequência, depende do resultado observado nos eventos anteriores.

Dessa forma, vamos verificar se o evento é permutável. Inicialmente, vamos calcular a probabilidade :

Agora, vamos calcular a probabilidade , alterando o resultado do segundo e o quarto evento:

Dessa forma, embora essa sequência seja formada por eventos dependentes, a ordem desses eventos não altera a probabilidade conjunta, tornando-a permutável.

Teorema de Bayes

O teorema de bayes estabelece a seguinte relação entre dois eventos A e B, com probabilidades, respectivamente, P(A) e P(B):

Considerando os eventos e permutáveis, o termo é igual a e, dessa forma, pode ser escrita como:

Por fim, tem-se a seguinte relação:

Nesse caso, o probabilidade é denominada probabilidade a priori, isto é, a informação sobre o evento antes que se soubesse algo sobre o evento . Mais adiante, quando se tenha conhecimento sobre , a probabilidade relacionada ao evento deve ser atualizada pela probabilidade do evento . A probabilidade é agora denominada probabilidade a posteriori. Sendo a razão o fator de atualização das informações sobre o evento .

Para compreender com mais detalhes o Teorema de Bayes é necessário entender a regra da probabilidade total (RPT), que expressa a probabilidade total de um resultado por meio de vários eventos disjuntos.

Inicialmente, considere o problema em encontrar o valor para a probabilidade do evento .

alt text

Considere agora que seja possível particionar o espaço em partes sem intersecções entre si. Note que a união das partes formam .

alt text

A probabilidade pode ser determinada pela intersecção entre o evento e cada partição .

alt text

alt text

Nos espaços amostrais formados pela união de partes disjuntas (mutuamente exclusivas) a probabilidade de qualquer evento de é:

Dessa forma, a probabilidade do evento pode ser representado por:

Qual a importância desse resultado?

Aplicação simples

Um amigo muito próximo lhe pediu emprestado () para solução financeira de uma emergência. Você é um investidor nato e não suporta a ideia de perder o patrimônio conquistado. Embora você decida ajudar seu amigo, você está preocupado com o risco do não pagamento do empréstimo e, por isso, cobrará juros sobre o montante inicial emprestado:

Você percebeu que o valor devolvido () do seu “investimento” ao final do período de empréstimo está sujeito às “variações do mercado”, que, nesse caso, estão relacionadas a um evento \textbf{incerto} do não pagamento da dívida. Com isso, você define o valor esperado () como o valor recebido ao final do período considerando tal incerteza.

Seja o evento indicativo do pagamento do seu amigo, então o valor esperado () ao final do período de empréstimo é a média ponderada entre as possibilidades de valores devolvidos, e , e suas respectivas probabilidades, e :

Da relação anterior, é possível obter a a taxa de juros adotada:

Você decide que o valor dos juros será determinado de maneira que o valor esperado seja igual ao investimento inicial, isto é, . Dessa forma, a taxa de juros utilizada será:

Você utilizará uma proxy o evento baseado no cadastro nacional de bons ou maus pagador. Infelizmente, você não tem acesso à esse cadastro. No entanto, você sabe que, assim como você, seu amigo possui conta no banco ABC, que regularmente publica informações agregadas sobre as operações com os clientes.

Tal banco realizou um levantamento informando que em cada clientes possuem registo ativo no cadastro nacional de maus pagadores. Dessa forma, a probabilidade do pagamento do seu amigo se concretizar é de .

Dito isso, utilizando a taxa de juros que você deve adotar é:

Dessa forma, a priori, seu amigo deveria lhe pagar R$ ao final do período para garantir que, em média e desconsiderando inflação, seu investimento inicial seja recuperado.

Nos informativos do banco também consta que em cada maus pagadores atrasam o pagamento do boleto, enquanto dentre os bons pagadores, apenas a cada atrasam suas obrigações.

Durante a conversa, seu amigo te informou que possui boletos atrasados nesse banco. Baseado nessa nova informação, qual a probabilidade do seu amigo ser mau pagador dado que atrasou o pagamento? Qual a nova taxa de juros que você deve adotar para proteger seu “investimento”?

O Teorema de Bayes responde diretamente essa pergunta. Antes disso, vamos modelar os eventos e identificar suas probabilidades. Considere o evento o cliente ser um bom pagador e o evento o atraso do pagamento de um boleto da obrigação financeira nesse banco.

  • Ser bom pagador: evento . Sendo .
  • Ser mal pagador: evento . Sendo .
  • Atraso no pagamento: evento . Sendo não informado.
  • Atraso no pagamento dos bons pagadores: evento . Sendo .
  • Atraso no pagamento dos mal pagadores: evento . Sendo .
  • Probabilidade do seu amigo ser bom pagadores caso tenha atrasado o pagamento. ?.

Utilizando o Teorema de Bayes e a RPT em , tem-se que:

Dessa forma, após saber que ele não pagou o boleto do banco, a probabilidade de ser bom pagador a posteriori reduz em quase a metade da priori. Dessa forma, a nova taxa de juros é , fazendo com que o valor cobrado seja de R$ .

Esse é uma versão introdutória do Teorema de Bayes e serve para motivação para posts futuros que exigirão mais pré requisitos em teoria de probabilidades. Enquanto isso, vamos ver uma aplicação me modelos de séries temporais das propriedades do Teorema de Bayes.

Modelos de Espaços de Estados

Os modelos de Espaços de Estados são uma classe de modelos utilizados para estudar e conhecer séries temporais, conjunto de valores observados ao longo de instantes no tempo, podendo ser representado por , sendo o indexador que representa o instante de mensuração da quantidade.

Considere a seguinte estrutura de dependência para a série temporal :

É importante notar que a é condicionamente independente por meio de uma função do parâmetro . Em outras palavras, as informações em são independentes das em , condicionadas a informação de . Como exemplo, para , essa relação é determinada pelo resultado . Para qualquer, tem-se que .

Essa propriedade permite que a distribuição conjunta dessa série possa ser reescrita por:

Replicando esse procedimento para a série inteira, não é difícil chegar a seguinte resultado:

Dessa forma, a distribuição conjunta dessa série é incrementada sequêncialmente a cada nova informação por meio da distribuição condicional . Dessa relação, é possível obter atualizações sobre . Vamos entender esse conceito com o estudo de um caso.

Modelos Gaussianos

Um investidor está interessado em conhecer melhor o comportamento dos retornos mensais do Índice Ibovespa utilizando a estrutura de dependência apresentada anteriormente:

Com , sendo conhecido e igual a . Nesse caso, temos a dependência condicional

Conversando com colegas ele obteve a informação inicial de que o comportamento da média dos retornos mensais () tem distribuição Normal como média e variância . Essa é a informação a priori do parâmetro da série temporal de interesse. Com base nessa informação, o investidor pretende observar os índices ao final de cada mês e atualizar o conhecimento sobre , a distribuição a posteriori, a medida que novas observações da série do índice mensal do Ibovespa estejam disponíveis.

Sabendo que o valor do índice Ibovespa para janeiro de 2017 foi , qual é a distribuição e os parâmetros da posteriori ?

Ao final do primeiro mês o investidor pretende obter a distribuição e para isso utiliza o Teorema de Bayes, chegando a seguinte relação:

O desafio, nesse ponto, é obter a distribuição conjunta por meio do produto entre a probabilidade da série , , e a priori do parâmetro , . Utilizando informaçõe das distribuições normais informadas, temos que:

Perceba que, a menos de constantes, essa distribuição conjunta tem o núcleo de uma distribuição normal com média:

e variância

Perceba que o denominador é a integração dessa distribuição conjunta (numerador) com relação a e, com um pouco de esforço algébrico, é a constante normalizadora. Mais detalhes dos processo podem ser consultados em Petris et al (2009).

Dessa forma, temos que . Essa é a distribuição a posteriori de com relação a informação . O gráfico a seguir apresenta a comparação entre as distribuições priori e posteriori.

alt text

A distribuição a posteriori tem seus parâmetros e atualizados no instante a medida que se tenha acesso a novas informações da série temporal. Em todos esses instantes, a posteriori obtida no passo é a nova priori para a estimação em .

A repetição do processo de estimação em um instante qualquer fornece o seguinte resultado:

Sendo a média entre a o valor inical e a média da série ponderados pelas variâncias do processo:

e a variância

A programação em R a seguir calcula os valores a posteriori a cada nova observação do índice Ibovespa para o ano 2017. Note que em cada período são utilizadas as informações acumuladas até o instante de análise, determinado pelo comando “y[1:i]”.

## IBOV time series 2017
y <- c(7.38,3.08,-2.52,0.64,-4.12,0.3,4.8)

## parameters      
sigma <- 5
eta   <- 2
phi   <- 2

## posteriori eta
etat <- function(y,sigma,eta,phi){
  t <- length(y)
  return((mean(y)*phi + eta*sigma/t)/(phi + sigma/t))
}

## posteriori phit
phit <- function(y,sigma,phi){
  t <- length(y)
  return((phi *sigma)/(t*phi +sigma ))
}


## storing posteriori values 
mus <- NULL
ss <- NULL

for(i in 1:length(y)){
  mus <- c(mus,etat(y[1:i],sigma,eta,phi))
  ss  <- c(ss,phit(y[1:i],sigma,phi))
}

O gráfico a seguir apresenta os retornos mensais do Ibovespa durante 2017 e o valor médio a posteriori do parâmetro .

## first axis eta
plot(mus, type="o",main = "Ibovespa 2017",
     ylab=expression(eta),xlab = "t",xaxt='n',col  = "red")

axis(side = 1, at =1:7,
     labels = c("Jan","Feb","Mar","Apr","May","Jun","Jul"))

legend(x = 5.5,y= 3.6,
       legend=c(expression(eta), expression(Y[t])),
       lty=c(1,2), pch=c(1, 16), col=c("red", "black"),box.col=0,cex = .75)

## second axis ibov time series
par(new = T)
plot(y = y,x = (1:7)/8, type="o", pch=16, lty=2, axes=F, xlab=NA, ylab=NA, cex=1.2)
axis(side = 4)
mtext(side = 4, line = 3, expression(y_t))

alt text

Considerações finais

O conteúdo do post, embora simples, apresenta de que maneira a Teoria Bayesiana é utlizada para modelos de séries temporais, permitindo que haja a atualização do conhecimento a medida que se tenha acesso a novas informações.

Por fim, é possível destacar três avanços em estudo nessa área:

  • estrutura de dependência temporal que incorpore tendência e sazonalidade

  • relações não gaussianas e não-lineares.

  • aumentar número de parâmetros desconhecidos ( ex.: )

O aumento da complexidade requer a utilização de técnicas estatísticas e computacionais mais sofisticadas para lidar com o processo de estimação. É comum encontrar distribuições a posteriori que não tenham formas fechadas ou situações com alta dimensão em virtudo da quantidade de parâmetros e tamanho da série temporal. Nesses casos, técnicas como Bootstrap, MCMC, Gibbs Sampler e Filtro de Partículas podem ser adotadas.

Referências

Todhunter, Isaac (1873). History of the Mathematical Theories of Attraction and Figure of the Earth from Newton to Laplace.

David, F. N. (1962). Games, gods and gambling.

Petris, Giovanni, Sonia Petrone, and Patrizia Campagnoli. (2009). Dynamic Linear Models With R.