Hopfield network의 루비 구현

신경망 | 2009/02/14 18:39 | Posted by DMW
크리에이티브 커먼즈 라이선스
Creative Commons License
역시 별 내용은 업ㅂ구 소스 코드만 나온다능

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61

require "matrix"
require "pp"

class Hopfield
    attr_reader :output_pattern
    
    def initialize(pattern_size)
        @pattern_size = pattern_size
        @w = Matrix[ *[].fill([].fill(0, 0, @pattern_size), 0, @pattern_size) ]
    end
    
    def learn(pattern)
        delta_w = Matrix[pattern].t * Matrix[pattern]        
        @w += delta_w - Matrix.I(@pattern_size)
    end
    
    def recall(input_pattern, iteration_sequence)
        old_output = [].fill(rand, 0, @pattern_size)
        new_output = input_pattern
        
        while true
            iteration_sequence.each do |iter|
                net = input_pattern[iter] + Vector[*input_pattern].inner_product(@w.column(iter))
                new_output[iter] = af(net, new_output[iter])
                print "#{iter+1} : "
                pp new_output
            end
            puts
            if old_output == new_output
                @output_pattern = new_output
                break
            else
                old_output = new_output
            end
        end
    end
    
    private
    def af(x, net)
        if x > 0
            +1
        elsif x == 0
            net
        else
            -1
        end
    end
end

x = [ [+1, +1, -1, -1], [-1, -1, +1, +1] ]

net = Hopfield.new(4)

x.each do |i|
    net.learn i
end

puts "sequence [2, 1, 4, 3]"
net.recall [+1, -1, -1, -1], [1, 0, 3, 2]
puts "sequence [4, 1, 3, 2]"
net.recall [+1, -1, -1, -1], [3, 0, 2, 1]


Output: 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22

sequence [2, 1, 4, 3]
2 : [1, 1, -1, -1]
1 : [1, 1, -1, -1]
4 : [1, 1, -1, -1]
3 : [1, 1, -1, -1]

2 : [1, 1, -1, -1]
1 : [1, 1, -1, -1]
4 : [1, 1, -1, -1]
3 : [1, 1, -1, -1]

sequence [4, 1, 3, 2]
4 : [1, -1, -1, -1]
1 : [1, -1, -1, -1]
3 : [1, -1, -1, -1]
2 : [1, 1, -1, -1]

4 : [1, 1, -1, -1]
1 : [1, 1, -1, -1]
3 : [1, 1, -1, -1]
2 : [1, 1, -1, -1]


저작자 표시 비영리 동일 조건 변경 허락

'신경망' 카테고리의 다른 글

Hopfield network algorithm  (1) 2009/04/09
Hopfield network 데모  (4) 2009/03/24
Hopfield network의 루비 구현  (3) 2009/02/14
역전파망의 루비 구현 - Backpropagation Network in Ruby  (0) 2009/01/29
모멘텀 BP 알고리즘 momentum BP algorithm  (0) 2009/01/15
Backpropagation algorithm  (0) 2008/12/30
TAG , ,
트랙백0개 : Comment (3)

댓글을 달아 주세요

  1. Favicon of http://www.filepang.co.kr BlogIcon DMW 2009/02/19 13:33  댓글주소  수정/삭제  댓글쓰기

    지금보니까 좀 이상하네....하지만 귀차느니까 고치진 않는다능. recall 메소드에서
    new_output = input_pattern 를 new_output = input_pattern.clone 로
    net = input_pattern[iter] + Vector[*input_pattern].inner_product(@w.column(iter)) 를
    net = new_output[iter] + Vector[*new_output].inner_product(@w.column(iter)) 로 바꿔야 될꺼임

  2. Favicon of http://marocchino.tistory.com BlogIcon progr_ 2009/02/22 19:10  댓글주소  수정/삭제  댓글쓰기

    이론을 보르니 입력 * 결과가 무슨 의미인지 모르겠다능 ..;ㅅ; 어흐흐흐 늅늅.