Please enable JavaScript.

Coggle requires JavaScript to display documents.

Hopfield models KARTA (The Hopfield network (Deterministic (Energy…

- - - - Fick fram \(P_{\textrm{error}}^{t=1}\) (för slumpmönster) som funktion av \(\alpha=\frac{p}{N}\)
        
        Local field = det rätta mönstret + cross-talk term
        
        Definiera \(C_{i}^{(v)}=-x_{i}^{(v)}\cdot\textrm{cross-talk term}\) vilket ger
        
        Visa \(C_{i}^{(v)}\overset{\textrm{approx.}}{\sim}\textrm{Norm}(0,\,\frac{p}{N})\) genom...
        
        CLT
        
        p och N stora
        
        p<<N
        
        Bernoulli-försök
        + Stirling's approximation av n!
        
        Integrera normalfördelning mellan 1 och \(\infty\)
        
        ,
        där
    - - Visade att energin inte kan öka vid symmetriska vikter (som i Hebbs regel)
        
        Genom att visa att \(H'-H\leq0\)
      - Visade alternativ härledning av Hebbs regel
        
        Hitta på energifunktion som har minimum i det lagrade mönstret (så det är en attraktor)
        
        Vi ser i uttrycket att detta motsvarar att välja vikterna enligt Hebbs regel
    - - Visade att mixed states som är linjärkombinationer av udda antal mönster känns igen
        
        Visade att är sant när cross-talk kan neglectas (=\(\alpha\) litet)
  - - - Mean-field theory
        
        För N=1
        
        Vi har då \(m_{\mu}=\left\langle S_{1}\right\rangle x_{1}^{(\mu)}\)
        
        Visade att \(\left\langle S_{1}\right\rangle =\tanh(\beta b_{1})\)
        
        Eftersom local field är konstant för N=1 så ges \(S_{1}(t)\) för vilket tidssteg som helst av # vilket ger medelvärdet
        \(g(b_{1})-(1-g(b_{1}))\)
        
        Sätt in aktiveringsfunktionen g
        
        Generaliserad N
        
        För stora N är idén att fluktuationerna hos grann-neuronerna averagear ut varandra, så att detta kan negligeras
        
        vilket gör local field konstant