Lei de Hebb

Lei de Hebb

Quando o sistema aprende modifica as conexões a[i,j] através da regra

d a[i,j] µ f[j] g[i]

d [i,j] = h f[i] g[i]

onde h é uma constante de aprendizagem.

Aprendizagem do perceptrão

0 Valores iniciais (i=1..n, w[i] = 0; b = 0; 0<a £ 1

1 Repita até convergir

Repita de 1 a 3 até esgotar os elementos f:g

1 Activar

i = 1..n, x[i] := f[i]

2 Determinar a resposta:

e :=b + å w[i] f[i]

i=1

p (e) := se e>q então +1, se não

se -q £ e£ q então 0 se não –1

3 Ajustar os pesos e o pendor: i = 1..n,

se p (e) ¹ g, então

w(i):= w[i] + a x[i] g

b := b + a g

se não

w[i] := w[i]

b := b

Máquina de Boltzmann ( Hinton e Sejnowsoki 1983)

As actividades das unidades de processamento são binárias (o estado ui é 1 ou 0) e as transições probabilistas.

As conecções são bidireccionais, wji = wij.

Os pesos são fixos e wij exprime a conveniência da sincronização entre as unidades Ui e Uj.

O objectivo é maximizar a função de consenso å å wijuiuj.

i=1 j£ i

Processamento

Sequencial: apenas uma unidade de cada vez pode transitar de estado.

Paralelo: uma ou mais unidades de cada vez podem transitar de estado.

Processamento Sequencial

Equação da variação do concenso

D Ck = (1-2uk) (wkk + å wkjuj)

Equação da probabilidade do sistema

A(k,T) = _______1_______

1 + exp( _ D Ck )

O perceptrão

O perceptrão foi proposto por Frank Rosenblatt em 1958. Era uma rede neuronal que teve um grande impacto na comunidade científica , pois o perceptrão era considerado como uma verdadeira máuina que aprende. O entusiasmo dos cientistas levou a pensar que esta máquina conseguiria fazer tudo, mas com o passar do tempo verificou-se que não era assim tão fácil. O perceptrão continha uma superfície sensorial designada por retina e que conecta com uma outra camada designada por camada de associação. As conexões entre as duas camadas eram diversas, mas caracterizavam-se por cada células de associação via apenas um subconjunto de células da retina. Existem as conexões plásticas que eram as conexões da camada de associação à camada de resposta. Para evitar que exista que mais de uma célula da camada de resposta se encontre activa recorre-se a um plexus de inibições recíprocas, isto é, quando uma célula da camada de resposta é activada, suprime as respostas das células que com ela competem.

Aprendizagem do perceptrão

0 Valores iniciais (i = 1..n, j = 1..m, w[j,i] = 0, b[j] = 0; 0<a £ 1)

1 Repita até convergir

Repita de 1 a 3 até esgotar os elementos f:g

1 Activar

i = 1..n, x[i] := f[i]

2 Determinar a resposta: para todo o j = 1..m

e[i] := b[j] + å w[j,i] f[i]

i=1

p (e[j]) := se e[j]>q então +1, se não

se -q £ e[j]£ +q então 0 se não –1

3 Ajustar os pesos e o pendor: j=1..m, i=1..n,

se p (e[j]) ¹ g[j], então

w[j,i] := w[i,j] + a x[i] g[i]

b[j] := b[j] + a g[j]

se não

w[j,i] := w[j,i]

b[j] := b[j]

Teorema da convergência do perceptrão

Se existe w tal que p ([f(p),w]) = g(p), para o p = 1..P, então o algoritmo de aprendizagem do precepetrão converge num número finito de passos, obtendo-se um vector A[·] (possivelmente diferente de w) tal que p (f(p).A[·]) = g(p), para todo o p = 1..P.

Redes de Hopfield e máquinas de Boltzmann

Características da Rede de Hopfield:

Wij = Wji

Wii = 0

Input / output: binário

Matriz de memória: bipolar

Apenas um neurónio é afectado em cada iteração.

Os neurónios não são auto-realimentados, mas são continuamente sensibilizados pelo estímulo original.

Algoritmo de Hopfield

1 Recorrer ao algoritmo de Hebb

2 Repita até convergir

Repita para todos os estímulos

2.1 Activar

i = 1..n, yi :=xi

2.2 Repetir aleatoriamente para as unidades yi

2.2.1ei := xi + å wijyj

j=1

2.2.2yi := se ei > q i, então 1

se não se ei = q i então yi se não 0

2.2.3 Alterar a actividade

Energia da rede de Hopfield

n n n n

E = -1/2 å å Wij Yi Yj - å Xi Yi + å q i Yi

i=1j=1 i=1 i=1

A variação D yk induz a alteração D E = - ( å Wkj Yj + Xk -q k) D yk.

j=1

Se Yk é positivo, então alteratr-se-á para zero se Xk + å Wkj Yj< q k.

j=1

Esta alteração determina D Yk< 0 e D E< 0

Se Yk é zero, então alterar-se-á para Yk > 0 se

Xk + å WkjYj> q k

j=1

Esta alteração determina D Yk>0 e D E<0

Assim a energia não pode crescer e , como é limitada inferiormente , a rede tem de encontrar um estado de equilíbrio.

Algoritmo de Boltzmann

Se a unidade Ui,j está numestado quiescente ( ui,j = 0) , assim como as unidades vizinhas , então a transição de estado favorece o consenso.

Se a unidade Ui,j está num estado quiescente (ui,j=0 ), mas uma das unidades vizinhas está activada , então a transição de esado desfavorece o consenso.

Atribua valores iniciais aos pesos que reflictam os constrangimentos do prblema . Atribua valor ao coeficiente de arrefecimento . Atribua valor inicial à temperatura . Atribua aleatoriamente o valor 0 ou 1 às actividades .

Repita até satisfazer o critério de paragem ( estado estacionário ou descida de temperatura abaixo de um valor limiar )

2.1 Repita n² vezes

Escolha , aleatoriamente , valores de I e J compreendidos entre 1 e n .

Calcule a variação de consenso

D C = ( 1- 2 uIJ ) ( wIJ,IJ + å å wij,IJ uij

i¹ I j¹ J

Calcule a probabilidade da transição

A(T) = _________1__________

1 + exp( _ D C )

Determine o próximo estado.

Observe a variável aleatória R com distribuição uniforme entre 0 e 1.

Se R < A(T) , então UI,J, se não UI,J := 1 - UI,J, se não UI,J := UI,J.

2.2 Reduza a temperatura: T := a T