Shell's Home

Aug 28, 2017 - 2 minute read - Comments

使用Debian作为Router

设备是一台D525的多头主机,2G内存,4G电子盘,有4个网口,两个USB口,一个Serial口(很特殊吧),还有一个VGA口。原本预装是RouterOS的。最近给RouterOS整烦了,所以把路由器洗了换成Debian了。由于不想干掉原本的电子盘,所以新买了一块msata的电子盘。JD上大概80,自己买就行。

目标

我希望整个路由能够为家里的网络系统提供良好的基础。因此,我确立了一系列目标:

  1. 全家能够上网,并充分利用带宽。
  2. 能够映射外网地址到内网,提供一定的服务(例如通过https管理内部,或者做bt)。
  3. 能够分离两个区域,一个可信区域,一个只能上外网(guest网络环境)。
  4. 能够为家里的所有用户,包括guest,提供有限目标翻墙,例如只翻google。该机制不会使访问国内网络受影响,例如变慢。可以限制部分IP不翻,例如bt。

下面是一些可选目标。

  1. 能够直接通过机器名解析出DHCP地址。这样就无需为每个需要被访问的机器总是分配固定IP。
  2. 对guest网络提供配额限制。
  3. 对总体能做一定的QoS。
  4. 基础设施层面的防投毒/欺骗/攻击。
  5. 支持IPv6,家里每个设备至少一个IPv6地址,且外网可访问。

架构

首先是分离设计。用两个网口分别提供两个网段,作为可信区域和guest网络用。然后提供一个VPN,允许guest区域进入可信区域。对于可管理交换机而言,其实也可以用vlan技术。一个网口打到交换机上,然后在交换机上设定哪些是guest口。我这里没有可管理交换机,而桌面交换机有多。所以直接出两个口就好。核心路由是四口的,一个外网,两个内网,还有富裕。

以下是主要目标的工程清单:

  1. 多头主机,上防火墙,建立Serial和ssh双管理机制。
  2. 内网dnsmasq,外网NAT。最后测速。
  3. DDNS,外网port mapping。
  4. 安装openvpn做vpn-in。
  5. 做vpn out,调整路由表。
  6. 多网段,内部互通限制。

安装

Debian的安装没什么好多说的,我直接用VGA安装的。stretch,目前stable版,没什么特殊的。等进入系统了,直接改grub配置,改成serial能够控制。这样将来路由器出问题的时候只要用Console线接上,就能登录系统排查问题了。具体方法搜一下就行,我是用这个页面,按照里面改了以下三个参数。

GRUB_CMDLINE_LINUX="console=tty0 console=ttyS0,115200n8 quiet"
GRUB_TERMINAL=serial
GRUB_SERIAL_COMMAND="serial --speed=115200 --unit=0 --word=8 --parity=no --stop=1"

然后再用putty访问就行,指令是putty -serial -sercfg 115200,8,n,1,N。注意速率要和设定一致。

安装过程中我注意到有一点坑。在上海电信这种环境,Router要上网需要PPPoE拨号。我找到了Debian官方的说明页面,里面提到了三个包,ppp,pppoe,pppoeconf。但是默认光盘里没有。说是有的,甚至还有篇文档叫做通过 PPP over Ethernet (PPPPoE) 来安装 Debian GNU/Linux。但是我按照Guide,修改了光盘的boot line,自动搜索DSL拨号配置的时候,直接失败了。幸好我早做了准备,把这几个包提前下载下来了,然后手工安装。但是比较坑的是,实现pppoe还需要一个额外的包,libpcap0.8。这个包wiki里没说,所以我就没下。但是想下的时候,原有Router又洗掉了。最后我是用手机下载传上去的,同样情况的朋友请自行注意。

初始化

进入系统后没啥复杂的,先设定PPPoE拨号,照着官方的说明页面就行。拨号成功后,首先先更新软件并重启。因为原本的系统和最新补丁会有一点时间的差异,而安装时我们没有网,所以没有安装更新补丁。

补丁升级完成并重启后,先下载iptables-persistent这个包。这个包会把你的防火墙配置固化下来并自动加载。没有这个,防火墙功能运作是缺失的。如果在无持久化的情况下安装了服务,你又需要重启路由器,就要先断开外网才能安全重启了。否则防火墙规则是空的,服务外网可访问。而且进系统后又得重新配置防火墙。所以比较简单的方法就是先装持久化包。至于防火墙,我的初始化配置是这样的。

-A INPUT -m state --state RELATED,ESTABLISHED -j ACCEPT
-A INPUT -p icmp -m icmp --icmp-type 8 -j ACCEPT
-A INPUT -i lo -j ACCEPT
-A INPUT -i ppp0 -j DROP
-A INPUT -p tcp -m tcp --dport 22 -j ACCEPT

第一条允许已经建立好的连接访问,第二条允许ping,第三条不限制本地访问,第四条禁止外网访问,第五条打开OpenSSH端口,最后别忘了INPUT默认DROP。因此第二个包就是安装OpenSSH。安装完了这个包,再配置本地网口。接下去就可以把路由器复位,通过远程来控制,而不是serial了。

具体OpenSSH的配置不多说。反正记得使用密钥,推荐ed25519。记得关闭密码访问。

基本功能

我的配置里,有两个有效内网网口。我分别对这两个设定了静态地址,然后打开forward内核选项,net.ipv4.ip_forward = 1。在iptables的forward规则里,禁止guest网口访问内网网口。最后设定出口NAT。-A POSTROUTING -o ppp0 -j MASQUERADE。再从本机测试一下上网,齐活。

这两个网口都是静态设定,虽然能上网,但是没有DHCP。因此我安装了dnsmasq。按照说明,我为两个网口分别设定了一段IP地址。然后向防火墙添加规则,-A INPUT -p udp -m udp --dport 53 -j ACCEPT-A INPUT -p udp -m udp --sport 67:68 --dport 67:68 -j ACCEPT。本机改为DHCP跑了一下,没问题。再按照同一个说明,把几台固定地址的机器加到绑定列表里面。测试下来通过没问题。最后从本机dig了一下这几台机器的名字,确定DNS可以解析出他们的名字。

最后是dns回源设定,我设定为/etc/resolv.conf无效。因为这个文件太难管理了。我将cn域名强制定到114解析,其他地址用默认使用8.8.8.8。但是其实这里是有点技巧的,请参考”dns分流”。

miniupnpd

很多内部服务是需要使用upnp或者nat-pmp映射的。我采用了熟人——miniupnpd。基本范式搜一下就有,唯一需要调整的就是allow。这里特别提醒注意两个问题。一,打开防火墙,-A INPUT -p udp -m udp --dport 5351 -j ACCEPT。二,里面很多地方,写着IP要iface。例如listening_ip,后面其实是要写端口号的。

这个很容易,utorrent测试一下就能看到防火墙规则,直接通过。

动态DNS

然后是配置动态dns。我使用的是3322的服务,因此按照网上的教材,写了一行curl来更新IP地址。这个脚本应该放在/etc/ppp/ip-up.d/下面。但是由于外网拨号后要做的事情很多,所以我干脆写了个脚本,直接run-parts /etc/ppp/$IFNAME/。例如外网的所有启动脚本,就在/etc/ppp/ppp0/。脚本如下:

#!/bin/bash

if [ -d "/etc/ppp/$IFNAME/" ]; then
    run-parts --report "/etc/ppp/$IFNAME/"
fi

这等于建立了一个机制。当外网发生IP变更的时候,自动启动一堆脚本。在这个机制里面,可以自动更新ddns,IPv6 tunnel(见下文),更新端口映射,拨出防火墙。同时再用crontab定时跑一次,以保万一。测试启动后家里的动态地址指向就改掉了。齐活。

port mapping

port mapping是整个系统里比较难的一个问题。我们要满足以下目标:

  1. 从外网访问某外网IP端口被映射到内网。
  2. 从内网访问该端口也被映射。
  3. 内网可记录外网地址。内网协议不一定是http。

这几条看着简单,实际非常难。因为port mapping传统两大方案,iptables和xinetd。一个基于报文,一个基于链路转发。iptables性能比较高,但是一般的iptables -i dev的方案呢,会导致内网访问不被转发。xinetd的方案呢?开销大不说,内网也没有外网真实地址。

所谓hairpin,就是通过iptables规则来实现上述目标。这里有几个要点。

  1. 通过iptables -d IP –dport port来分析连接,不使用interface。这样就规避了内网不能转发的问题。
  2. 在PREROUTING链上先打mark,然后做DNAT。之所以要打mark,就是因为在DNAT后,通过简单的头部规则无法识别出这些mapping流量。他们看起来就是对一些内网的访问。
  3. FORWARD里面见到mark就通过。
  4. POSTROUTING里见到内网地址的mark就SNAT。否则内网的报文会发送到目标机器,然后由目标直接返回源。在源来看,就是访问地址和反馈地址不一。

这里会产生几个缺陷。

  1. 当地址发生变更的时候,iptables规则需要相应修改。这个可以写个脚本来自动更新,由外网地址变更规则来管理。
  2. 在iptables自启动的时候会有点问题。因为iptables-persistent默认恢复的是保存规则,即会把当时的IP地址作为规则的一部分恢复回去。因此在完成后还需要跑一下脚本来修改IP。
  3. 内网只能记录外网地址,内网对内网的访问会被NAT掉源地址。
  4. 在mark和DNAT的部分,其实是两套规则。如果不一致就会有各种奇怪后果。
  5. 规则复杂,维护困难。

VPN-in

vpn in的目地有两个。一个是从外网访问家里的受限资源。另一个是从家里的“只可上网”区域(guest区域)访问受限资源。

vpn-in是最没什么好说的。安装OpenVPN,在/etc/openvpn下扔配置,修改/etc/default/openvpn,AUTOSTART改为all,开放防火墙。最后启动openvpn就行。OpenVPN虽然翻墙被墙,但是国内用用还是挺管用的。注意有些地方UDP被QoS限制了,可以考虑也启动个TCP的。

另一个要在这里注意的细节就是hairpin。虽然openvpn跑在服务器上不需要hairpin,但是问题和hairpin很类似。当内部地址访问外部udp端口时,openvpn会回复一个报文。这个报文默认使用发出端口的对应IP——对内网来说也就是内网网关地址。这会发生内网连接openvpn时,去和回的IP地址不一样的问题。这时请在配置里添加multihome

VPN-out

VPN-out采用的是云梯的IPSEC/L2TP,我这有个邀请链接,你和我都能打10元的折。linux下IPSEC/L2TP主要参考这篇文档

首先安装strongswan,xl2tpd。顺便提一下,采用strongswan主要是因为这个据说支持IKEv2。虽然我最后没用,但是考虑到将来协议的可升级和延续性,先入这个坑,将来配置不需要重新学习。

修改/etc/ipsec.conf,注意auto=不要写add,要start。因为我们的ipsec希望启动即生效,而不是敲指令生效。left可以写%defaultroute,很方便。right就要写ip了,因此服务器IP变更后需要修改这个文件。

随后是/etc/xl2tpd/xl2tpd.conf。这里要有对方地址,因此服务器IP变更后同样需要修改这个文件。注意/etc/ppp/options.l2tpd.client里,name和password不能写到/etc/xl2tpd/l2tp-secrets里。那个好像是拨入时用的。同时注意几个细节。

  • 用ifname指定拨出vpn名字,以防变更。
  • xl2tpd.conf里面别忘记加上redial = yes。这样断线后会自动重拨。
  • 最近在尝试auto=route,因为有时候ipsec还是会断开。route似乎会自动重播,start是只有启动播出,add是全手动。
  • usepeerdns开启后会默认用8.8.8.8。用不用随你高兴,反正不会影响其他机器。dnsmasq的服务器是限定死的。
  • 这个拨号也可以用上面的”run-parts”系统,因此我在/etc/ppp/vpn/routing里面,配置了很多路由规则。例如google,facebook的整个地址段全部指过去。
  • 最后,别忘了开iptables -o vpn的SNAT。

配置成功的话,使用echo "c myvpn" > /var/run/xl2tpd/l2tp-control就能看到工作了。

这里还有一个细节。你可以试试关闭ipsec来用l2tp,居然是能跑的!这太危险了。为了防止万一,我设定了iptables -A OUTPUT -p udp -m policy --dir out --pol none -m udp --dport 1701 -j DROP。在这个设定后,如果没有ipsec,l2tp将是无法拨号的。

整个系统有几个不完美。一个是ipsec太罗嗦了,syslog里面充满了ipsec的各种信息,我死活关不掉。这占用了msata宝贵的写入IO。第二个是l2tp的启动。因为各种干扰,xl2tpd经常断开。用/etc/ppp/ip-down.d/来保持启动经常失败。所以偶尔要手工重启。

多网段互通隔离

vpn out配置完成后,整个多头主机的所有interface基本就OK了,下面可以开始配置多网段互通隔离了。

我默认将FORWARD设定为DROP,然后允许RELATED和ESTABLISHED通过。下面允许哪个口过就设定哪个规则。对上述设计,具体就是:

  1. 允许可信区域进的所有包。
  2. 允许vpn-in进的所有包。
  3. 允许guest到外网和vpn-out的包。

dns分流

vpn out配置完成后,一般会习惯将主DNS切换到8.8.8.8。否则国内的DNS会把google给你污染掉,导致翻墙没有任何用处。然而如果你将主DNS指向8.8.8.8,那么很多网站将返回国际站,例如taobao。因为你的来源IP显示为VPN的出口。即使没有国际站,他也会返回一个国际访问最快的点——很可能你那里访问反而慢。这违背了我们“该机制不会使访问国内网络受影响,例如变慢”的目标。具体解法有很多,我们下面列几个。

  • dnsmasq-china-list。维护了一个超级大的域名规则表,让境内外分别查询。这个最大的缺陷就是经常变动。
  • ChinaDNS。他会先查一遍国外。如果国外给出一个国内地址,那么就无视国外的结果,再查一遍国内的。这个的一个缺陷就是,像taobao这种有国际站的网站,就不一定能返回正确结果。
  • gdns-go。他会使用edns查询服务器,来获得一个中国的真实结果。这里特别写给一些很聪明的朋友:我知道原生edns-client-subnet配合vpn out是个听起来很合理的事,性能高的多。但是是不行的。google提出了dns的原生edns-client-subnet扩展,但是他们的google dns并不支持这个协议。他们只是会使用这个协议来递归而已。因此要使用edns来查询域名,必须使用google的dns-over-https才行。

我最后用了一个类似于gdns-go的方案。再把dnsmasq的配置指过来。老婆访问国内网站就基本不受影响了。

IPv6 tunnel

再下面是ipv6 tunnel。我用的是HE的服务。也是按照官方文档写了个配置搞定。类型用的是v4tunnel,local的v4地址不用写。he那端需要更新配置,所以也要写个脚本,更新IP时自动更新配置。interface启动后可以mtr通www.kame.net的v6地址。通过。最后别忘了在ppp0的DROP规则下面加上-A INPUT -i he0 -j DROP

ipv6的另一个特殊之处在于,iptables规则有一套新的了,叫做ip6tables。我的初始化规则是这样的。

-A INPUT -m state --state RELATED,ESTABLISHED -j ACCEPT
-A INPUT -p ipv6-icmp -j ACCEPT
-A INPUT -i lo -j ACCEPT
-A INPUT -p tcp -m tcp --dport 22 -j ACCEPT

基本设定和IPv4差不多,但是forward不做任何限制。IPv6本来就是暴露整个内部网络的系统,再限制内网就没意义了。因此我的范式是每个内网设备自行做ipv6防火墙,路由器不做任何处理。上一句里面的22端口打开,其实是开放给全世界ipv6地址的。

路由器本身有ipv6不解决问题,还得解决内网的ipv6。ipv6的地址自动分配有两种模式,一个叫DHCPv6,一个叫SLAAC。我用的是SLAAC模式。

首先我们为两个内网网口分别配置静态ipv6,这个应该不难。然后安装radvd,按照这个里面radvd的配置,直接配置出来。客户端一次测试就通过,直接就拿到了ipv6地址。这里特别提醒注意,RA需要开放icmpv6。如果上面没有那条ipv6-icmp,可就不只是不能ping而已,连RA都不能用了。

最后再设定sysctlnet.ipv6.conf.all.forwarding = 1,从客户端mtr一下google就全部通过了。

iptables总结

上面做了很多配置,我知道最后大家的iptables会比较乱,所以这里总结一下:

  1. PREROUTING。根据目标地址命中port mapping或者miniupnpd规则。里面打mark和DNAT。
  2. INPUT,默认DROP。
    1. RELATED和ESTABLISHED先行
    2. icmp,lo。
    3. 对外网可访问端口,例如udp的500,4500,openvpn。
    4. ah和esp协议可访问。
    5. 拒绝外网访问,ppp,ipv6,vpn-out。
    6. 最后是对内网开放的端口,例如udp的53,67,68,5351。
  3. FORWARD,默认DROP。
    1. RELATED和ESTABLISHED先行
    2. mark放行。
    3. 内网,vpn-in放行。
    4. guest到外网放行,例如ppp,vpn-out。注意ipv6不在这里放行,那是ip6tables,默认全放行。
  4. OUTPUT。阻止没有ipsec的l2tp。
  5. POSTROUTING。
    1. 出口ppp和vpn-out的做SNAT。
    2. 来源内网,带有mark的SNAT。

总结一下可以看到,虽然比较细碎,但是还是挺有逻辑的。

riot.im简介 法国游记

comments powered by Disqus