drivers/net/bonding/bonding.h

   1 /*
   2  * Bond several ethernet interfaces into a Cisco, running 'Etherchannel'.
   3  *
   4  * Portions are (c) Copyright 1995 Simon "Guru Aleph-Null" Janes
   5  * NCM: Network and Communications Management, Inc.
   6  *
   7  * BUT, I'm the one who modified it for ethernet, so:
   8  * (c) Copyright 1999, Thomas Davis, tadavis@lbl.gov
   9  *
  10  *      This software may be used and distributed according to the terms
  11  *      of the GNU Public License, incorporated herein by reference.
  12  *
  13  */
  14
  15 #ifndef _LINUX_BONDING_H
  16 #define _LINUX_BONDING_H
  17
  18 #include <linux/timer.h>
  19 #include <linux/proc_fs.h>
  20 #include <linux/if_bonding.h>
  21 #include <linux/cpumask.h>
  22 #include <linux/in6.h>
  23 #include <linux/netpoll.h>
  24 #include <linux/inetdevice.h>
  25 #include <linux/etherdevice.h>
  26 #include <linux/reciprocal_div.h>
  27
  28 #include "bond_3ad.h"
  29 #include "bond_alb.h"
  30 #include "bond_options.h"
  31
  32 #define DRV_VERSION     "3.7.1"
  33 #define DRV_RELDATE     "April 27, 2011"
  34 #define DRV_NAME        "bonding"
  35 #define DRV_DESCRIPTION "Ethernet Channel Bonding Driver"
  36
  37 #define bond_version DRV_DESCRIPTION ": v" DRV_VERSION " (" DRV_RELDATE ")\n"
  38
  39 #define BOND_MAX_ARP_TARGETS    16
  40
  41 #define BOND_DEFAULT_MIIMON     100
  42
  43 /*
  44  * Less bad way to call ioctl from within the kernel; this needs to be
  45  * done some other way to get the call out of interrupt context.
  46  * Needs "ioctl" variable to be supplied by calling context.
  47  */
  48 #define IOCTL(dev, arg, cmd) ({         \
  49         int res = 0;                    \
  50         mm_segment_t fs = get_fs();     \
  51         set_fs(get_ds());               \
  52         res = ioctl(dev, arg, cmd);     \
  53         set_fs(fs);                     \
  54         res; })
  55
  56 #define BOND_MODE(bond) ((bond)->params.mode)
  57
  58 /* slave list primitives */
  59 #define bond_slave_list(bond) (&(bond)->dev->adj_list.lower)
  60
  61 #define bond_has_slaves(bond) !list_empty(bond_slave_list(bond))
  62
  63 /* IMPORTANT: bond_first/last_slave can return NULL in case of an empty list */
  64 #define bond_first_slave(bond) \
  65         (bond_has_slaves(bond) ? \
  66                 netdev_adjacent_get_private(bond_slave_list(bond)->next) : \
  67                 NULL)
  68 #define bond_last_slave(bond) \
  69         (bond_has_slaves(bond) ? \
  70                 netdev_adjacent_get_private(bond_slave_list(bond)->prev) : \
  71                 NULL)
  72
  73 /* Caller must have rcu_read_lock */
  74 #define bond_first_slave_rcu(bond) \
  75         netdev_lower_get_first_private_rcu(bond->dev)
  76
  77 #define bond_is_first_slave(bond, pos) (pos == bond_first_slave(bond))
  78 #define bond_is_last_slave(bond, pos) (pos == bond_last_slave(bond))
  79
  80 /**
  81  * bond_for_each_slave - iterate over all slaves
  82  * @bond:       the bond holding this list
  83  * @pos:        current slave
  84  * @iter:       list_head * iterator
  85  *
  86  * Caller must hold RTNL
  87  */
  88 #define bond_for_each_slave(bond, pos, iter) \
  89         netdev_for_each_lower_private((bond)->dev, pos, iter)
  90
  91 /* Caller must have rcu_read_lock */
  92 #define bond_for_each_slave_rcu(bond, pos, iter) \
  93         netdev_for_each_lower_private_rcu((bond)->dev, pos, iter)
  94
  95 #ifdef CONFIG_NET_POLL_CONTROLLER
  96 extern atomic_t netpoll_block_tx;
  97
  98 static inline void block_netpoll_tx(void)
  99 {
 100         atomic_inc(&netpoll_block_tx);
 101 }
 102
 103 static inline void unblock_netpoll_tx(void)
 104 {
 105         atomic_dec(&netpoll_block_tx);
 106 }
 107
 108 static inline int is_netpoll_tx_blocked(struct net_device *dev)
 109 {
 110         if (unlikely(netpoll_tx_running(dev)))
 111                 return atomic_read(&netpoll_block_tx);
 112         return 0;
 113 }
 114 #else
 115 #define block_netpoll_tx()
 116 #define unblock_netpoll_tx()
 117 #define is_netpoll_tx_blocked(dev) (0)
 118 #endif
 119
 120 struct bond_params {
 121         int mode;
 122         int xmit_policy;
 123         int miimon;
 124         u8 num_peer_notif;
 125         int arp_interval;
 126         int arp_validate;
 127         int arp_all_targets;
 128         int use_carrier;
 129         int fail_over_mac;
 130         int updelay;
 131         int downdelay;
 132         int lacp_fast;
 133         unsigned int min_links;
 134         int ad_select;
 135         char primary[IFNAMSIZ];
 136         int primary_reselect;
 137         __be32 arp_targets[BOND_MAX_ARP_TARGETS];
 138         int tx_queues;
 139         int all_slaves_active;
 140         int resend_igmp;
 141         int lp_interval;
 142         int packets_per_slave;
 143         int tlb_dynamic_lb;
 144         struct reciprocal_value reciprocal_packets_per_slave;
 145 };
 146
 147 struct bond_parm_tbl {
 148         char *modename;
 149         int mode;
 150 };
 151
 152 struct slave {
 153         struct net_device *dev; /* first - useful for panic debug */
 154         struct bonding *bond; /* our master */
 155         int    delay;
 156         /* all three in jiffies */
 157         unsigned long last_link_up;
 158         unsigned long last_rx;
 159         unsigned long target_last_arp_rx[BOND_MAX_ARP_TARGETS];
 160         s8     link;    /* one of BOND_LINK_XXXX */
 161         s8     new_link;
 162         u8     backup:1,   /* indicates backup slave. Value corresponds with
 163                               BOND_STATE_ACTIVE and BOND_STATE_BACKUP */
 164                inactive:1, /* indicates inactive slave */
 165                should_notify:1; /* indicateds whether the state changed */
 166         u8     duplex;
 167         u32    original_mtu;
 168         u32    link_failure_count;
 169         u32    speed;
 170         u16    queue_id;
 171         u8     perm_hwaddr[ETH_ALEN];
 172         struct ad_slave_info *ad_info;
 173         struct tlb_slave_info tlb_info;
 174 #ifdef CONFIG_NET_POLL_CONTROLLER
 175         struct netpoll *np;
 176 #endif
 177         struct kobject kobj;
 178 };
 179
 180 /*
 181  * Link pseudo-state only used internally by monitors
 182  */
 183 #define BOND_LINK_NOCHANGE -1
 184
 185 /*
 186  * Here are the locking policies for the two bonding locks:
 187  *
 188  * 1) Get rcu_read_lock when reading or RTNL when writing slave list.
 189  * 2) Get bond->curr_slave_lock when reading/writing bond->curr_active_slave.
 190  */
 191 struct bonding {
 192         struct   net_device *dev; /* first - useful for panic debug */
 193         struct   slave __rcu *curr_active_slave;
 194         struct   slave __rcu *current_arp_slave;
 195         struct   slave __rcu *primary_slave;
 196         bool     force_primary;
 197         s32      slave_cnt; /* never change this value outside the attach/detach wrappers */
 198         int     (*recv_probe)(const struct sk_buff *, struct bonding *,
 199                               struct slave *);
 200         rwlock_t curr_slave_lock;
 201         u8       send_peer_notif;
 202         u8       igmp_retrans;
 203 #ifdef CONFIG_PROC_FS
 204         struct   proc_dir_entry *proc_entry;
 205         char     proc_file_name[IFNAMSIZ];
 206 #endif /* CONFIG_PROC_FS */
 207         struct   list_head bond_list;
 208         u32      rr_tx_counter;
 209         struct   ad_bond_info ad_info;
 210         struct   alb_bond_info alb_info;
 211         struct   bond_params params;
 212         struct   workqueue_struct *wq;
 213         struct   delayed_work mii_work;
 214         struct   delayed_work arp_work;
 215         struct   delayed_work alb_work;
 216         struct   delayed_work ad_work;
 217         struct   delayed_work mcast_work;
 218 #ifdef CONFIG_DEBUG_FS
 219         /* debugging support via debugfs */
 220         struct   dentry *debug_dir;
 221 #endif /* CONFIG_DEBUG_FS */
 222 };
 223
 224 #define bond_slave_get_rcu(dev) \
 225         ((struct slave *) rcu_dereference(dev->rx_handler_data))
 226
 227 #define bond_slave_get_rtnl(dev) \
 228         ((struct slave *) rtnl_dereference(dev->rx_handler_data))
 229
 230 #define bond_deref_active_protected(bond)                                  \
 231         rcu_dereference_protected(bond->curr_active_slave,                 \
 232                                   lockdep_is_held(&bond->curr_slave_lock))
 233
 234 struct bond_vlan_tag {
 235         __be16          vlan_proto;
 236         unsigned short  vlan_id;
 237 };
 238
 239 /**
 240  * Returns NULL if the net_device does not belong to any of the bond's slaves
 241  *
 242  * Caller must hold bond lock for read
 243  */
 244 static inline struct slave *bond_get_slave_by_dev(struct bonding *bond,
 245                                                   struct net_device *slave_dev)
 246 {
 247         return netdev_lower_dev_get_private(bond->dev, slave_dev);
 248 }
 249
 250 static inline struct bonding *bond_get_bond_by_slave(struct slave *slave)
 251 {
 252         return slave->bond;
 253 }
 254
 255 static inline bool bond_should_override_tx_queue(struct bonding *bond)
 256 {
 257         return BOND_MODE(bond) == BOND_MODE_ACTIVEBACKUP ||
 258                BOND_MODE(bond) == BOND_MODE_ROUNDROBIN;
 259 }
 260
 261 static inline bool bond_is_lb(const struct bonding *bond)
 262 {
 263         return BOND_MODE(bond) == BOND_MODE_TLB ||
 264                BOND_MODE(bond) == BOND_MODE_ALB;
 265 }
 266
 267 static inline bool bond_is_nondyn_tlb(const struct bonding *bond)
 268 {
 269         return (BOND_MODE(bond) == BOND_MODE_TLB)  &&
 270                (bond->params.tlb_dynamic_lb == 0);
 271 }
 272
 273 static inline bool bond_mode_uses_arp(int mode)
 274 {
 275         return mode != BOND_MODE_8023AD && mode != BOND_MODE_TLB &&
 276                mode != BOND_MODE_ALB;
 277 }
 278
 279 static inline bool bond_mode_uses_primary(int mode)
 280 {
 281         return mode == BOND_MODE_ACTIVEBACKUP || mode == BOND_MODE_TLB ||
 282                mode == BOND_MODE_ALB;
 283 }
 284
 285 static inline bool bond_uses_primary(struct bonding *bond)
 286 {
 287         return bond_mode_uses_primary(BOND_MODE(bond));
 288 }
 289
 290 static inline bool bond_slave_is_up(struct slave *slave)
 291 {
 292         return netif_running(slave->dev) && netif_carrier_ok(slave->dev);
 293 }
 294
 295 static inline void bond_set_active_slave(struct slave *slave)
 296 {
 297         if (slave->backup) {
 298                 slave->backup = 0;
 299                 rtmsg_ifinfo(RTM_NEWLINK, slave->dev, 0, GFP_ATOMIC);
 300         }
 301 }
 302
 303 static inline void bond_set_backup_slave(struct slave *slave)
 304 {
 305         if (!slave->backup) {
 306                 slave->backup = 1;
 307                 rtmsg_ifinfo(RTM_NEWLINK, slave->dev, 0, GFP_ATOMIC);
 308         }
 309 }
 310
 311 static inline void bond_set_slave_state(struct slave *slave,
 312                                         int slave_state, bool notify)
 313 {
 314         if (slave->backup == slave_state)
 315                 return;
 316
 317         slave->backup = slave_state;
 318         if (notify) {
 319                 rtmsg_ifinfo(RTM_NEWLINK, slave->dev, 0, GFP_ATOMIC);
 320                 slave->should_notify = 0;
 321         } else {
 322                 if (slave->should_notify)
 323                         slave->should_notify = 0;
 324                 else
 325                         slave->should_notify = 1;
 326         }
 327 }
 328
 329 static inline void bond_slave_state_change(struct bonding *bond)
 330 {
 331         struct list_head *iter;
 332         struct slave *tmp;
 333
 334         bond_for_each_slave(bond, tmp, iter) {
 335                 if (tmp->link == BOND_LINK_UP)
 336                         bond_set_active_slave(tmp);
 337                 else if (tmp->link == BOND_LINK_DOWN)
 338                         bond_set_backup_slave(tmp);
 339         }
 340 }
 341
 342 static inline void bond_slave_state_notify(struct bonding *bond)
 343 {
 344         struct list_head *iter;
 345         struct slave *tmp;
 346
 347         bond_for_each_slave(bond, tmp, iter) {
 348                 if (tmp->should_notify) {
 349                         rtmsg_ifinfo(RTM_NEWLINK, tmp->dev, 0, GFP_ATOMIC);
 350                         tmp->should_notify = 0;
 351                 }
 352         }
 353 }
 354
 355 static inline int bond_slave_state(struct slave *slave)
 356 {
 357         return slave->backup;
 358 }
 359
 360 static inline bool bond_is_active_slave(struct slave *slave)
 361 {
 362         return !bond_slave_state(slave);
 363 }
 364
 365 static inline bool bond_slave_can_tx(struct slave *slave)
 366 {
 367         return bond_slave_is_up(slave) && slave->link == BOND_LINK_UP &&
 368                bond_is_active_slave(slave);
 369 }
 370
 371 #define BOND_PRI_RESELECT_ALWAYS        0
 372 #define BOND_PRI_RESELECT_BETTER        1
 373 #define BOND_PRI_RESELECT_FAILURE       2
 374
 375 #define BOND_FOM_NONE                   0
 376 #define BOND_FOM_ACTIVE                 1
 377 #define BOND_FOM_FOLLOW                 2
 378
 379 #define BOND_ARP_TARGETS_ANY            0
 380 #define BOND_ARP_TARGETS_ALL            1
 381
 382 #define BOND_ARP_VALIDATE_NONE          0
 383 #define BOND_ARP_VALIDATE_ACTIVE        (1 << BOND_STATE_ACTIVE)
 384 #define BOND_ARP_VALIDATE_BACKUP        (1 << BOND_STATE_BACKUP)
 385 #define BOND_ARP_VALIDATE_ALL           (BOND_ARP_VALIDATE_ACTIVE | \
 386                                          BOND_ARP_VALIDATE_BACKUP)
 387 #define BOND_ARP_FILTER                 (BOND_ARP_VALIDATE_ALL + 1)
 388 #define BOND_ARP_FILTER_ACTIVE          (BOND_ARP_VALIDATE_ACTIVE | \
 389                                          BOND_ARP_FILTER)
 390 #define BOND_ARP_FILTER_BACKUP          (BOND_ARP_VALIDATE_BACKUP | \
 391                                          BOND_ARP_FILTER)
 392
 393 #define BOND_SLAVE_NOTIFY_NOW           true
 394 #define BOND_SLAVE_NOTIFY_LATER         false
 395
 396 static inline int slave_do_arp_validate(struct bonding *bond,
 397                                         struct slave *slave)
 398 {
 399         return bond->params.arp_validate & (1 << bond_slave_state(slave));
 400 }
 401
 402 static inline int slave_do_arp_validate_only(struct bonding *bond)
 403 {
 404         return bond->params.arp_validate & BOND_ARP_FILTER;
 405 }
 406
 407 static inline int bond_is_ip_target_ok(__be32 addr)
 408 {
 409         return !ipv4_is_lbcast(addr) && !ipv4_is_zeronet(addr);
 410 }
 411
 412 /* Get the oldest arp which we've received on this slave for bond's
 413  * arp_targets.
 414  */
 415 static inline unsigned long slave_oldest_target_arp_rx(struct bonding *bond,
 416                                                        struct slave *slave)
 417 {
 418         int i = 1;
 419         unsigned long ret = slave->target_last_arp_rx[0];
 420
 421         for (; (i < BOND_MAX_ARP_TARGETS) && bond->params.arp_targets[i]; i++)
 422                 if (time_before(slave->target_last_arp_rx[i], ret))
 423                         ret = slave->target_last_arp_rx[i];
 424
 425         return ret;
 426 }
 427
 428 static inline unsigned long slave_last_rx(struct bonding *bond,
 429                                         struct slave *slave)
 430 {
 431         if (bond->params.arp_all_targets == BOND_ARP_TARGETS_ALL)
 432                 return slave_oldest_target_arp_rx(bond, slave);
 433
 434         return slave->last_rx;
 435 }
 436
 437 #ifdef CONFIG_NET_POLL_CONTROLLER
 438 static inline void bond_netpoll_send_skb(const struct slave *slave,
 439                                          struct sk_buff *skb)
 440 {
 441         struct netpoll *np = slave->np;
 442
 443         if (np)
 444                 netpoll_send_skb(np, skb);
 445 }
 446 #else
 447 static inline void bond_netpoll_send_skb(const struct slave *slave,
 448                                          struct sk_buff *skb)
 449 {
 450 }
 451 #endif
 452
 453 static inline void bond_set_slave_inactive_flags(struct slave *slave,
 454                                                  bool notify)
 455 {
 456         if (!bond_is_lb(slave->bond))
 457                 bond_set_slave_state(slave, BOND_STATE_BACKUP, notify);
 458         if (!slave->bond->params.all_slaves_active)
 459                 slave->inactive = 1;
 460 }
 461
 462 static inline void bond_set_slave_active_flags(struct slave *slave,
 463                                                bool notify)
 464 {
 465         bond_set_slave_state(slave, BOND_STATE_ACTIVE, notify);
 466         slave->inactive = 0;
 467 }
 468
 469 static inline bool bond_is_slave_inactive(struct slave *slave)
 470 {
 471         return slave->inactive;
 472 }
 473
 474 static inline __be32 bond_confirm_addr(struct net_device *dev, __be32 dst, __be32 local)
 475 {
 476         struct in_device *in_dev;
 477         __be32 addr = 0;
 478
 479         rcu_read_lock();
 480         in_dev = __in_dev_get_rcu(dev);
 481
 482         if (in_dev)
 483                 addr = inet_confirm_addr(dev_net(dev), in_dev, dst, local,
 484                                          RT_SCOPE_HOST);
 485         rcu_read_unlock();
 486         return addr;
 487 }
 488
 489 struct bond_net {
 490         struct net              *net;   /* Associated network namespace */
 491         struct list_head        dev_list;
 492 #ifdef CONFIG_PROC_FS
 493         struct proc_dir_entry   *proc_dir;
 494 #endif
 495         struct class_attribute  class_attr_bonding_masters;
 496 };
 497
 498 int bond_arp_rcv(const struct sk_buff *skb, struct bonding *bond, struct slave *slave);
 499 void bond_dev_queue_xmit(struct bonding *bond, struct sk_buff *skb, struct net_device *slave_dev);
 500 int bond_create(struct net *net, const char *name);
 501 int bond_create_sysfs(struct bond_net *net);
 502 void bond_destroy_sysfs(struct bond_net *net);
 503 void bond_prepare_sysfs_group(struct bonding *bond);
 504 int bond_sysfs_slave_add(struct slave *slave);
 505 void bond_sysfs_slave_del(struct slave *slave);
 506 int bond_enslave(struct net_device *bond_dev, struct net_device *slave_dev);
 507 int bond_release(struct net_device *bond_dev, struct net_device *slave_dev);
 508 u32 bond_xmit_hash(struct bonding *bond, struct sk_buff *skb);
 509 void bond_select_active_slave(struct bonding *bond);
 510 void bond_change_active_slave(struct bonding *bond, struct slave *new_active);
 511 void bond_create_debugfs(void);
 512 void bond_destroy_debugfs(void);
 513 void bond_debug_register(struct bonding *bond);
 514 void bond_debug_unregister(struct bonding *bond);
 515 void bond_debug_reregister(struct bonding *bond);
 516 const char *bond_mode_name(int mode);
 517 void bond_setup(struct net_device *bond_dev);
 518 unsigned int bond_get_num_tx_queues(void);
 519 int bond_netlink_init(void);
 520 void bond_netlink_fini(void);
 521 struct net_device *bond_option_active_slave_get_rcu(struct bonding *bond);
 522 const char *bond_slave_link_status(s8 link);
 523 struct bond_vlan_tag *bond_verify_device_path(struct net_device *start_dev,
 524                                               struct net_device *end_dev,
 525                                               int level);
 526
 527 #ifdef CONFIG_PROC_FS
 528 void bond_create_proc_entry(struct bonding *bond);
 529 void bond_remove_proc_entry(struct bonding *bond);
 530 void bond_create_proc_dir(struct bond_net *bn);
 531 void bond_destroy_proc_dir(struct bond_net *bn);
 532 #else
 533 static inline void bond_create_proc_entry(struct bonding *bond)
 534 {
 535 }
 536
 537 static inline void bond_remove_proc_entry(struct bonding *bond)
 538 {
 539 }
 540
 541 static inline void bond_create_proc_dir(struct bond_net *bn)
 542 {
 543 }
 544
 545 static inline void bond_destroy_proc_dir(struct bond_net *bn)
 546 {
 547 }
 548 #endif
 549
 550 static inline struct slave *bond_slave_has_mac(struct bonding *bond,
 551                                                const u8 *mac)
 552 {
 553         struct list_head *iter;
 554         struct slave *tmp;
 555
 556         bond_for_each_slave(bond, tmp, iter)
 557                 if (ether_addr_equal_64bits(mac, tmp->dev->dev_addr))
 558                         return tmp;
 559
 560         return NULL;
 561 }
 562
 563 /* Caller must hold rcu_read_lock() for read */
 564 static inline struct slave *bond_slave_has_mac_rcu(struct bonding *bond,
 565                                                const u8 *mac)
 566 {
 567         struct list_head *iter;
 568         struct slave *tmp;
 569
 570         bond_for_each_slave_rcu(bond, tmp, iter)
 571                 if (ether_addr_equal_64bits(mac, tmp->dev->dev_addr))
 572                         return tmp;
 573
 574         return NULL;
 575 }
 576
 577 /* Caller must hold rcu_read_lock() for read */
 578 static inline bool bond_slave_has_mac_rx(struct bonding *bond, const u8 *mac)
 579 {
 580         struct list_head *iter;
 581         struct slave *tmp;
 582         struct netdev_hw_addr *ha;
 583
 584         bond_for_each_slave_rcu(bond, tmp, iter)
 585                 if (ether_addr_equal_64bits(mac, tmp->dev->dev_addr))
 586                         return true;
 587
 588         if (netdev_uc_empty(bond->dev))
 589                 return false;
 590
 591         netdev_for_each_uc_addr(ha, bond->dev)
 592                 if (ether_addr_equal_64bits(mac, ha->addr))
 593                         return true;
 594
 595         return false;
 596 }
 597
 598 /* Check if the ip is present in arp ip list, or first free slot if ip == 0
 599  * Returns -1 if not found, index if found
 600  */
 601 static inline int bond_get_targets_ip(__be32 *targets, __be32 ip)
 602 {
 603         int i;
 604
 605         for (i = 0; i < BOND_MAX_ARP_TARGETS; i++)
 606                 if (targets[i] == ip)
 607                         return i;
 608                 else if (targets[i] == 0)
 609                         break;
 610
 611         return -1;
 612 }
 613
 614 /* exported from bond_main.c */
 615 extern int bond_net_id;
 616 extern const struct bond_parm_tbl bond_lacp_tbl[];
 617 extern const struct bond_parm_tbl xmit_hashtype_tbl[];
 618 extern const struct bond_parm_tbl arp_validate_tbl[];
 619 extern const struct bond_parm_tbl arp_all_targets_tbl[];
 620 extern const struct bond_parm_tbl fail_over_mac_tbl[];
 621 extern const struct bond_parm_tbl pri_reselect_tbl[];
 622 extern struct bond_parm_tbl ad_select_tbl[];
 623
 624 /* exported from bond_netlink.c */
 625 extern struct rtnl_link_ops bond_link_ops;
 626
 627 #endif /* _LINUX_BONDING_H */