toolbar/precog/monitor/monitor.go

   1 package monitor
   2
   3 import (
   4         // "encoding/binary"
   5         // "encoding/hex"
   6         // "io/ioutil"
   7         "fmt"
   8         "net"
   9         "os"
  10         "strings"
  11         "time"
  12
  13         "github.com/jinzhu/gorm"
  14         log "github.com/sirupsen/logrus"
  15         // dbm "github.com/vapor/database/leveldb"
  16
  17         vaporCfg "github.com/vapor/config"
  18         "github.com/vapor/crypto/ed25519/chainkd"
  19         "github.com/vapor/p2p"
  20         // conn "github.com/vapor/p2p/connection"
  21         // "github.com/vapor/consensus"
  22         // "github.com/vapor/crypto/sha3pool"
  23         "github.com/vapor/p2p/discover/dht"
  24         "github.com/vapor/p2p/discover/mdns"
  25         "github.com/vapor/p2p/signlib"
  26         "github.com/vapor/toolbar/precog/config"
  27         "github.com/vapor/toolbar/precog/database/orm"
  28 )
  29
  30 var (
  31         nodesToDiscv = 150
  32         discvFreqSec = 1
  33 )
  34
  35 type monitor struct {
  36         cfg     *config.Config
  37         db      *gorm.DB
  38         nodeCfg *vaporCfg.Config
  39         sw      *p2p.Switch
  40         discvCh chan *dht.Node
  41         privKey chainkd.XPrv
  42 }
  43
  44 func NewMonitor(cfg *config.Config, db *gorm.DB) *monitor {
  45         //TODO: for test
  46         cfg.CheckFreqSeconds = 1
  47
  48         nodeCfg := &vaporCfg.Config{
  49                 BaseConfig: vaporCfg.DefaultBaseConfig(),
  50                 P2P:        vaporCfg.DefaultP2PConfig(),
  51                 Federation: vaporCfg.DefaultFederationConfig(),
  52         }
  53         nodeCfg.DBPath = "vapor_precog_data"
  54         nodeCfg.ChainID = "mainnet"
  55         discvCh := make(chan *dht.Node)
  56         privKey, err := signlib.NewPrivKey()
  57         if err != nil {
  58                 log.Fatal(err)
  59         }
  60
  61         return &monitor{
  62                 cfg:     cfg,
  63                 db:      db,
  64                 nodeCfg: nodeCfg,
  65                 discvCh: discvCh,
  66                 privKey: privKey.(chainkd.XPrv),
  67         }
  68 }
  69
  70 func (m *monitor) Run() {
  71         defer os.RemoveAll(m.nodeCfg.DBPath)
  72
  73         var seeds []string
  74         for _, node := range m.cfg.Nodes {
  75                 seeds = append(seeds, fmt.Sprintf("%s:%d", node.Host, node.Port))
  76                 m.upSertNode(&node)
  77         }
  78         m.nodeCfg.P2P.Seeds = strings.Join(seeds, ",")
  79         m.makeSwitch()
  80
  81         go m.discoveryRoutine()
  82         go m.collectDiscoveredNodes()
  83
  84         ticker := time.NewTicker(time.Duration(m.cfg.CheckFreqSeconds) * time.Second)
  85         for ; true; <-ticker.C {
  86                 // TODO: lock?
  87                 m.monitorRountine()
  88         }
  89 }
  90
  91 // create or update: https://github.com/jinzhu/gorm/issues/1307
  92 func (m *monitor) upSertNode(node *config.Node) error {
  93         if node.XPub != nil {
  94                 node.PublicKey = fmt.Sprintf("%v", node.XPub.PublicKey().String())
  95         }
  96
  97         ormNode := &orm.Node{PublicKey: node.PublicKey}
  98         if err := m.db.Where(&orm.Node{PublicKey: node.PublicKey}).First(ormNode).Error; err != nil && err != gorm.ErrRecordNotFound {
  99                 return err
 100         }
 101
 102         if node.Alias != "" {
 103                 ormNode.Alias = node.Alias
 104         }
 105         if node.XPub != nil {
 106                 ormNode.Xpub = node.XPub.String()
 107         }
 108         ormNode.Host = node.Host
 109         ormNode.Port = node.Port
 110         return m.db.Where(&orm.Node{PublicKey: ormNode.PublicKey}).
 111                 Assign(&orm.Node{
 112                         Xpub:  ormNode.Xpub,
 113                         Alias: ormNode.Alias,
 114                         Host:  ormNode.Host,
 115                         Port:  ormNode.Port,
 116                 }).FirstOrCreate(ormNode).Error
 117 }
 118
 119 func (m *monitor) makeSwitch() {
 120         l, listenAddr := p2p.GetListener(m.nodeCfg.P2P)
 121         discv, err := dht.NewDiscover(m.nodeCfg, m.privKey, l.ExternalAddress().Port, m.cfg.NetworkID)
 122         if err != nil {
 123                 log.Fatal(err)
 124         }
 125
 126         // no need for lanDiscv, but passing &mdns.LANDiscover{} will cause NilPointer
 127         lanDiscv := mdns.NewLANDiscover(mdns.NewProtocol(), int(l.ExternalAddress().Port))
 128         sw, err := p2p.NewSwitch(m.nodeCfg, discv, lanDiscv, l, m.privKey, listenAddr, m.cfg.NetworkID)
 129         if err != nil {
 130                 log.Fatal(err)
 131         }
 132
 133         m.sw = sw
 134 }
 135
 136 func (m *monitor) discoveryRoutine() {
 137         ticker := time.NewTicker(time.Duration(discvFreqSec) * time.Second)
 138         for range ticker.C {
 139                 nodes := make([]*dht.Node, nodesToDiscv)
 140                 n := m.sw.GetDiscv().ReadRandomNodes(nodes)
 141                 for i := 0; i < n; i++ {
 142                         m.discvCh <- nodes[i]
 143                 }
 144         }
 145 }
 146
 147 func (m *monitor) collectDiscoveredNodes() {
 148         // nodeMap maps a node's public key to the node itself
 149         nodeMap := make(map[string]*dht.Node)
 150         for node := range m.discvCh {
 151                 if n, ok := nodeMap[node.ID.String()]; ok && n.String() == node.String() {
 152                         continue
 153                 }
 154                 log.Info("discover new node: ", node)
 155
 156                 m.upSertNode(&config.Node{
 157                         PublicKey: node.ID.String(),
 158                         Host:      node.IP.String(),
 159                         Port:      node.TCP,
 160                 })
 161                 nodeMap[node.ID.String()] = node
 162         }
 163 }
 164
 165 func (m *monitor) monitorRountine() error {
 166         var nodes []*orm.Node
 167         if err := m.db.Model(&orm.Node{}).Find(&nodes).Error; err != nil {
 168                 return err
 169         }
 170
 171         addresses := make([]*p2p.NetAddress, 0)
 172         for i := 0; i < len(nodes); i++ {
 173                 ips, err := net.LookupIP(nodes[i].Host)
 174                 if err != nil || len(ips) == 0 {
 175                         continue
 176                 }
 177
 178                 address := p2p.NewNetAddressIPPort(ips[0], nodes[i].Port)
 179                 addresses = append(addresses, address)
 180         }
 181
 182         m.sw.DialPeers(addresses)
 183         return nil
 184 }
 185
 186 // TODO:
 187 // implement logic first, and then refactor
 188 // /home/gavin/work/go/src/github.com/vapor/
 189 // p2p/test_util.go
 190 // p2p/switch_test.go
 191 // syncManager
 192 // notificationMgr
 193
 194 // TODO: dail nodes, get lantency & best_height
 195 // TODO: decide check_height("best best_height" - "confirmations")
 196 // TODO: get blockhash by check_height, get latency
 197 // TODO: update lantency, active_time and status