netsync/peer.go

   1 package netsync
   2
   3 import (
   4         "encoding/hex"
   5         "net"
   6         "reflect"
   7         "sync"
   8
   9         log "github.com/sirupsen/logrus"
  10         "github.com/tendermint/tmlibs/flowrate"
  11         "gopkg.in/fatih/set.v0"
  12
  13         "github.com/vapor/consensus"
  14         "github.com/vapor/errors"
  15         "github.com/vapor/p2p/trust"
  16         "github.com/vapor/protocol/bc"
  17         "github.com/vapor/protocol/bc/types"
  18 )
  19
  20 const (
  21         maxKnownTxs         = 32768 // Maximum transactions hashes to keep in the known list (prevent DOS)
  22         maxKnownBlocks      = 1024  // Maximum block hashes to keep in the known list (prevent DOS)
  23         defaultBanThreshold = uint32(100)
  24 )
  25
  26 var errSendStatusMsg = errors.New("send status msg fail")
  27
  28 //BasePeer is the interface for connection level peer
  29 type BasePeer interface {
  30         Addr() net.Addr
  31         ID() string
  32         ServiceFlag() consensus.ServiceFlag
  33         TrafficStatus() (*flowrate.Status, *flowrate.Status)
  34         TrySend(byte, interface{}) bool
  35         IsLAN() bool
  36 }
  37
  38 //BasePeerSet is the intergace for connection level peer manager
  39 type BasePeerSet interface {
  40         AddBannedPeer(string) error
  41         StopPeerGracefully(string)
  42 }
  43
  44 // PeerInfo indicate peer status snap
  45 type PeerInfo struct {
  46         ID                  string `json:"peer_id"`
  47         RemoteAddr          string `json:"remote_addr"`
  48         Height              uint64 `json:"height"`
  49         Ping                string `json:"ping"`
  50         Duration            string `json:"duration"`
  51         TotalSent           int64  `json:"total_sent"`
  52         TotalReceived       int64  `json:"total_received"`
  53         AverageSentRate     int64  `json:"average_sent_rate"`
  54         AverageReceivedRate int64  `json:"average_received_rate"`
  55         CurrentSentRate     int64  `json:"current_sent_rate"`
  56         CurrentReceivedRate int64  `json:"current_received_rate"`
  57 }
  58
  59 type peer struct {
  60         BasePeer
  61         mtx         sync.RWMutex
  62         services    consensus.ServiceFlag
  63         height      uint64
  64         hash        *bc.Hash
  65         banScore    trust.DynamicBanScore
  66         knownTxs    *set.Set // Set of transaction hashes known to be known by this peer
  67         knownBlocks *set.Set // Set of block hashes known to be known by this peer
  68         knownStatus uint64   // Set of chain status known to be known by this peer
  69         filterAdds  *set.Set // Set of addresses that the spv node cares about.
  70 }
  71
  72 func newPeer(basePeer BasePeer) *peer {
  73         return &peer{
  74                 BasePeer:    basePeer,
  75                 services:    basePeer.ServiceFlag(),
  76                 knownTxs:    set.New(),
  77                 knownBlocks: set.New(),
  78                 filterAdds:  set.New(),
  79         }
  80 }
  81
  82 func (p *peer) Height() uint64 {
  83         p.mtx.RLock()
  84         defer p.mtx.RUnlock()
  85         return p.height
  86 }
  87
  88 func (p *peer) addBanScore(persistent, transient uint32, reason string) bool {
  89         score := p.banScore.Increase(persistent, transient)
  90         if score > defaultBanThreshold {
  91                 log.WithFields(log.Fields{
  92                         "module":  logModule,
  93                         "address": p.Addr(),
  94                         "score":   score,
  95                         "reason":  reason,
  96                 }).Errorf("banning and disconnecting")
  97                 return true
  98         }
  99
 100         warnThreshold := defaultBanThreshold >> 1
 101         if score > warnThreshold {
 102                 log.WithFields(log.Fields{
 103                         "module":  logModule,
 104                         "address": p.Addr(),
 105                         "score":   score,
 106                         "reason":  reason,
 107                 }).Warning("ban score increasing")
 108         }
 109         return false
 110 }
 111
 112 func (p *peer) addFilterAddress(address []byte) {
 113         p.mtx.Lock()
 114         defer p.mtx.Unlock()
 115
 116         if p.filterAdds.Size() >= maxFilterAddressCount {
 117                 log.WithField("module", logModule).Warn("the count of filter addresses is greater than limit")
 118                 return
 119         }
 120         if len(address) > maxFilterAddressSize {
 121                 log.WithField("module", logModule).Warn("the size of filter address is greater than limit")
 122                 return
 123         }
 124
 125         p.filterAdds.Add(hex.EncodeToString(address))
 126 }
 127
 128 func (p *peer) addFilterAddresses(addresses [][]byte) {
 129         if !p.filterAdds.IsEmpty() {
 130                 p.filterAdds.Clear()
 131         }
 132         for _, address := range addresses {
 133                 p.addFilterAddress(address)
 134         }
 135 }
 136
 137 func (p *peer) getBlockByHeight(height uint64) bool {
 138         msg := struct{ BlockchainMessage }{&GetBlockMessage{Height: height}}
 139         return p.TrySend(BlockchainChannel, msg)
 140 }
 141
 142 func (p *peer) getBlocks(locator []*bc.Hash, stopHash *bc.Hash) bool {
 143         msg := struct{ BlockchainMessage }{NewGetBlocksMessage(locator, stopHash)}
 144         return p.TrySend(BlockchainChannel, msg)
 145 }
 146
 147 func (p *peer) getHeaders(locator []*bc.Hash, stopHash *bc.Hash) bool {
 148         msg := struct{ BlockchainMessage }{NewGetHeadersMessage(locator, stopHash)}
 149         return p.TrySend(BlockchainChannel, msg)
 150 }
 151
 152 func (p *peer) getPeerInfo() *PeerInfo {
 153         p.mtx.RLock()
 154         defer p.mtx.RUnlock()
 155
 156         sentStatus, receivedStatus := p.TrafficStatus()
 157         ping := sentStatus.Idle - receivedStatus.Idle
 158         if receivedStatus.Idle > sentStatus.Idle {
 159                 ping = -ping
 160         }
 161
 162         return &PeerInfo{
 163                 ID:                  p.ID(),
 164                 RemoteAddr:          p.Addr().String(),
 165                 Height:              p.height,
 166                 Ping:                ping.String(),
 167                 Duration:            sentStatus.Duration.String(),
 168                 TotalSent:           sentStatus.Bytes,
 169                 TotalReceived:       receivedStatus.Bytes,
 170                 AverageSentRate:     sentStatus.AvgRate,
 171                 AverageReceivedRate: receivedStatus.AvgRate,
 172                 CurrentSentRate:     sentStatus.CurRate,
 173                 CurrentReceivedRate: receivedStatus.CurRate,
 174         }
 175 }
 176
 177 func (p *peer) getRelatedTxAndStatus(txs []*types.Tx, txStatuses *bc.TransactionStatus) ([]*types.Tx, []*bc.TxVerifyResult) {
 178         var relatedTxs []*types.Tx
 179         var relatedStatuses []*bc.TxVerifyResult
 180         for i, tx := range txs {
 181                 if p.isRelatedTx(tx) {
 182                         relatedTxs = append(relatedTxs, tx)
 183                         relatedStatuses = append(relatedStatuses, txStatuses.VerifyStatus[i])
 184                 }
 185         }
 186         return relatedTxs, relatedStatuses
 187 }
 188
 189 func (p *peer) isRelatedTx(tx *types.Tx) bool {
 190         for _, input := range tx.Inputs {
 191                 switch inp := input.TypedInput.(type) {
 192                 case *types.SpendInput:
 193                         if p.filterAdds.Has(hex.EncodeToString(inp.ControlProgram)) {
 194                                 return true
 195                         }
 196                 }
 197         }
 198         for _, output := range tx.Outputs {
 199                 if p.filterAdds.Has(hex.EncodeToString(output.ControlProgram())) {
 200                         return true
 201                 }
 202         }
 203         return false
 204 }
 205
 206 func (p *peer) isSPVNode() bool {
 207         return !p.services.IsEnable(consensus.SFFullNode)
 208 }
 209
 210 func (p *peer) markBlock(hash *bc.Hash) {
 211         p.mtx.Lock()
 212         defer p.mtx.Unlock()
 213
 214         for p.knownBlocks.Size() >= maxKnownBlocks {
 215                 p.knownBlocks.Pop()
 216         }
 217         p.knownBlocks.Add(hash.String())
 218 }
 219
 220 func (p *peer) markNewStatus(height uint64) {
 221         p.mtx.Lock()
 222         defer p.mtx.Unlock()
 223
 224         p.knownStatus = height
 225 }
 226
 227 func (p *peer) markTransaction(hash *bc.Hash) {
 228         p.mtx.Lock()
 229         defer p.mtx.Unlock()
 230
 231         for p.knownTxs.Size() >= maxKnownTxs {
 232                 p.knownTxs.Pop()
 233         }
 234         p.knownTxs.Add(hash.String())
 235 }
 236
 237 func (p *peer) sendBlock(block *types.Block) (bool, error) {
 238         msg, err := NewBlockMessage(block)
 239         if err != nil {
 240                 return false, errors.Wrap(err, "fail on NewBlockMessage")
 241         }
 242
 243         ok := p.TrySend(BlockchainChannel, struct{ BlockchainMessage }{msg})
 244         if ok {
 245                 blcokHash := block.Hash()
 246                 p.knownBlocks.Add(blcokHash.String())
 247         }
 248         return ok, nil
 249 }
 250
 251 func (p *peer) sendBlocks(blocks []*types.Block) (bool, error) {
 252         msg, err := NewBlocksMessage(blocks)
 253         if err != nil {
 254                 return false, errors.Wrap(err, "fail on NewBlocksMessage")
 255         }
 256
 257         if ok := p.TrySend(BlockchainChannel, struct{ BlockchainMessage }{msg}); !ok {
 258                 return ok, nil
 259         }
 260
 261         for _, block := range blocks {
 262                 blcokHash := block.Hash()
 263                 p.knownBlocks.Add(blcokHash.String())
 264         }
 265         return true, nil
 266 }
 267
 268 func (p *peer) sendHeaders(headers []*types.BlockHeader) (bool, error) {
 269         msg, err := NewHeadersMessage(headers)
 270         if err != nil {
 271                 return false, errors.New("fail on NewHeadersMessage")
 272         }
 273
 274         ok := p.TrySend(BlockchainChannel, struct{ BlockchainMessage }{msg})
 275         return ok, nil
 276 }
 277
 278 func (p *peer) sendMerkleBlock(block *types.Block, txStatuses *bc.TransactionStatus) (bool, error) {
 279         msg := NewMerkleBlockMessage()
 280         if err := msg.setRawBlockHeader(block.BlockHeader); err != nil {
 281                 return false, err
 282         }
 283
 284         relatedTxs, relatedStatuses := p.getRelatedTxAndStatus(block.Transactions, txStatuses)
 285
 286         txHashes, txFlags := types.GetTxMerkleTreeProof(block.Transactions, relatedTxs)
 287         if err := msg.setTxInfo(txHashes, txFlags, relatedTxs); err != nil {
 288                 return false, nil
 289         }
 290
 291         statusHashes := types.GetStatusMerkleTreeProof(txStatuses.VerifyStatus, txFlags)
 292         if err := msg.setStatusInfo(statusHashes, relatedStatuses); err != nil {
 293                 return false, nil
 294         }
 295
 296         ok := p.TrySend(BlockchainChannel, struct{ BlockchainMessage }{msg})
 297         return ok, nil
 298 }
 299
 300 func (p *peer) sendTransactions(txs []*types.Tx) (bool, error) {
 301         for _, tx := range txs {
 302                 if p.isSPVNode() && !p.isRelatedTx(tx) {
 303                         continue
 304                 }
 305                 msg, err := NewTransactionMessage(tx)
 306                 if err != nil {
 307                         return false, errors.Wrap(err, "failed to tx msg")
 308                 }
 309
 310                 if p.knownTxs.Has(tx.ID.String()) {
 311                         continue
 312                 }
 313                 if ok := p.TrySend(BlockchainChannel, struct{ BlockchainMessage }{msg}); !ok {
 314                         return ok, nil
 315                 }
 316                 p.knownTxs.Add(tx.ID.String())
 317         }
 318         return true, nil
 319 }
 320
 321 func (p *peer) sendStatus(header *types.BlockHeader) error {
 322         msg := NewStatusMessage(header)
 323         if ok := p.TrySend(BlockchainChannel, struct{ BlockchainMessage }{msg}); !ok {
 324                 return errSendStatusMsg
 325         }
 326         p.markNewStatus(header.Height)
 327         return nil
 328 }
 329
 330 func (p *peer) setStatus(height uint64, hash *bc.Hash) {
 331         p.mtx.Lock()
 332         defer p.mtx.Unlock()
 333         p.height = height
 334         p.hash = hash
 335 }
 336
 337 type peerSet struct {
 338         BasePeerSet
 339         mtx   sync.RWMutex
 340         peers map[string]*peer
 341 }
 342
 343 // newPeerSet creates a new peer set to track the active participants.
 344 func newPeerSet(basePeerSet BasePeerSet) *peerSet {
 345         return &peerSet{
 346                 BasePeerSet: basePeerSet,
 347                 peers:       make(map[string]*peer),
 348         }
 349 }
 350
 351 func (ps *peerSet) addBanScore(peerID string, persistent, transient uint32, reason string) {
 352         ps.mtx.Lock()
 353         peer := ps.peers[peerID]
 354         ps.mtx.Unlock()
 355
 356         if peer == nil {
 357                 return
 358         }
 359         if ban := peer.addBanScore(persistent, transient, reason); !ban {
 360                 return
 361         }
 362         if err := ps.AddBannedPeer(peer.Addr().String()); err != nil {
 363                 log.WithFields(log.Fields{"module": logModule, "err": err}).Error("fail on add ban peer")
 364         }
 365         ps.removePeer(peerID)
 366 }
 367
 368 func (ps *peerSet) addPeer(peer BasePeer) {
 369         ps.mtx.Lock()
 370         defer ps.mtx.Unlock()
 371
 372         if _, ok := ps.peers[peer.ID()]; !ok {
 373                 ps.peers[peer.ID()] = newPeer(peer)
 374                 return
 375         }
 376         log.WithField("module", logModule).Warning("add existing peer to blockKeeper")
 377 }
 378
 379 func (ps *peerSet) bestPeer(flag consensus.ServiceFlag) *peer {
 380         ps.mtx.RLock()
 381         defer ps.mtx.RUnlock()
 382
 383         var bestPeer *peer
 384         for _, p := range ps.peers {
 385                 if !p.services.IsEnable(flag) {
 386                         continue
 387                 }
 388                 if bestPeer == nil || p.height > bestPeer.height || (p.height == bestPeer.height && p.IsLAN()) {
 389                         bestPeer = p
 390                 }
 391         }
 392         return bestPeer
 393 }
 394
 395 func (ps *peerSet) broadcastMinedBlock(block *types.Block) error {
 396         msg, err := NewMinedBlockMessage(block)
 397         if err != nil {
 398                 return errors.Wrap(err, "fail on broadcast mined block")
 399         }
 400
 401         hash := block.Hash()
 402         peers := ps.peersWithoutBlock(&hash)
 403         for _, peer := range peers {
 404                 if peer.isSPVNode() {
 405                         continue
 406                 }
 407                 if ok := peer.TrySend(BlockchainChannel, struct{ BlockchainMessage }{msg}); !ok {
 408                         log.WithFields(log.Fields{"module": logModule, "peer": peer.Addr(), "type": reflect.TypeOf(msg), "message": msg.String()}).Warning("send message to peer error")
 409                         ps.removePeer(peer.ID())
 410                         continue
 411                 }
 412                 peer.markBlock(&hash)
 413                 peer.markNewStatus(block.Height)
 414         }
 415         return nil
 416 }
 417
 418 func (ps *peerSet) broadcastNewStatus(bestBlock *types.Block) error {
 419         msg := NewStatusMessage(&bestBlock.BlockHeader)
 420         peers := ps.peersWithoutNewStatus(bestBlock.Height)
 421         for _, peer := range peers {
 422                 if ok := peer.TrySend(BlockchainChannel, struct{ BlockchainMessage }{msg}); !ok {
 423                         ps.removePeer(peer.ID())
 424                         continue
 425                 }
 426
 427                 peer.markNewStatus(bestBlock.Height)
 428         }
 429         return nil
 430 }
 431
 432 func (ps *peerSet) broadcastTx(tx *types.Tx) error {
 433         msg, err := NewTransactionMessage(tx)
 434         if err != nil {
 435                 return errors.Wrap(err, "fail on broadcast tx")
 436         }
 437
 438         peers := ps.peersWithoutTx(&tx.ID)
 439         for _, peer := range peers {
 440                 if peer.isSPVNode() && !peer.isRelatedTx(tx) {
 441                         continue
 442                 }
 443                 if ok := peer.TrySend(BlockchainChannel, struct{ BlockchainMessage }{msg}); !ok {
 444                         log.WithFields(log.Fields{
 445                                 "module":  logModule,
 446                                 "peer":    peer.Addr(),
 447                                 "type":    reflect.TypeOf(msg),
 448                                 "message": msg.String(),
 449                         }).Warning("send message to peer error")
 450                         ps.removePeer(peer.ID())
 451                         continue
 452                 }
 453                 peer.markTransaction(&tx.ID)
 454         }
 455         return nil
 456 }
 457
 458 func (ps *peerSet) errorHandler(peerID string, err error) {
 459         if errors.Root(err) == errPeerMisbehave {
 460                 ps.addBanScore(peerID, 20, 0, err.Error())
 461         } else {
 462                 ps.removePeer(peerID)
 463         }
 464 }
 465
 466 // Peer retrieves the registered peer with the given id.
 467 func (ps *peerSet) getPeer(id string) *peer {
 468         ps.mtx.RLock()
 469         defer ps.mtx.RUnlock()
 470         return ps.peers[id]
 471 }
 472
 473 func (ps *peerSet) getPeerInfos() []*PeerInfo {
 474         ps.mtx.RLock()
 475         defer ps.mtx.RUnlock()
 476
 477         result := []*PeerInfo{}
 478         for _, peer := range ps.peers {
 479                 result = append(result, peer.getPeerInfo())
 480         }
 481         return result
 482 }
 483
 484 func (ps *peerSet) peersWithoutBlock(hash *bc.Hash) []*peer {
 485         ps.mtx.RLock()
 486         defer ps.mtx.RUnlock()
 487
 488         peers := []*peer{}
 489         for _, peer := range ps.peers {
 490                 if !peer.knownBlocks.Has(hash.String()) {
 491                         peers = append(peers, peer)
 492                 }
 493         }
 494         return peers
 495 }
 496
 497 func (ps *peerSet) peersWithoutNewStatus(height uint64) []*peer {
 498         ps.mtx.RLock()
 499         defer ps.mtx.RUnlock()
 500
 501         var peers []*peer
 502         for _, peer := range ps.peers {
 503                 if peer.knownStatus < height {
 504                         peers = append(peers, peer)
 505                 }
 506         }
 507         return peers
 508 }
 509
 510 func (ps *peerSet) peersWithoutTx(hash *bc.Hash) []*peer {
 511         ps.mtx.RLock()
 512         defer ps.mtx.RUnlock()
 513
 514         peers := []*peer{}
 515         for _, peer := range ps.peers {
 516                 if !peer.knownTxs.Has(hash.String()) {
 517                         peers = append(peers, peer)
 518                 }
 519         }
 520         return peers
 521 }
 522
 523 func (ps *peerSet) removePeer(peerID string) {
 524         ps.mtx.Lock()
 525         delete(ps.peers, peerID)
 526         ps.mtx.Unlock()
 527         ps.StopPeerGracefully(peerID)
 528 }