Squid 缓存代理(一)---原理及搭建(传统代理、透明代理)

news/2024/10/21 17:22:17/

前言

Squid 是 Linux 系 统 中 最 常 用 的 一 款 开 源 代 理 服 务 软 件 ( 官 方 网 站 为 http://www.squid-cache.org),可以很好地实现 HTTP 和 FTP,以及 DNS 查询、SSL 等应用的缓存代理。缓存代理作为应用层的代理服务软件,Squid 主要提供缓存加速、应用层过滤控制的功能。

Squid理服务器应用

Squid 主要提供缓存加速、应用层过滤控制的功能。

代理的工作机制

  1. 代替客户机向网站请求数据,从而可以隐藏用户的真实IP地址

  2. 将获得的网页数据(静态Web元素)保存到缓存中并发送给客户机,以便下次请求相同的数据时快速响应。

代理服务器的概念及其作用

  • 代理服务器是一个位于客户端的原始(资源)服务器之间的服务器,为了从原始服务器取得内容,客户端向代理服务器发送一个请求并指定目标原始服务器,然后代理服务器向原始服务器转交请求并将获得的内容返回给客户端。

  • 缓存代理对于Web至关重要,尤其对于大型高负载Web站点。缓存可作为性能优化的一个重要手段,可以极大减轻后端服务器的负载。通常对于静态资源,即较少经常更新的资源,入图片,css或js等进行缓存,从而在每次刷新浏览器的时候,不用重新请求,而是从缓存里面读取,这样就可以减轻服务器的压力

其主要作用有

资源获取:代替客户端实现从原始服务器的资源获取;

加速访问:代理服务器可能离原始服务器更近,从而起到一定的加速作用;

缓存作用:代理服务器保存从原始服务器所获取的资源,从而实现客户端快速的获取;

隐藏真实地址:代理服务器代替客户端去获取原始服务器资源,从而隐藏客户端真实信息。

常用软件:Squid / nginx / varnish / cdn

内容分发网络CDN简述

CDN的全称是Content Delivery Network,即内容分发网络。其目的是通过在现有的Internet中增加一层新的CACHE(缓存)层,将网站的内容发布到最接近用户的网络”边缘“的节点,使用户可以就近取得所需的内容(就近原则),提高用户访问网站的响应速度。从技术上全面解决由于网络带宽小、用户访问量大、网点分布不均等原因,提高用户访问网站的响应速度。

简单的说,CDN的工作原理就是将您源站的资源缓存到位于全球各地的CDN节点上,用户请求资源时,就近返回节点上缓存的资源,而不需要每个用户的请求都回您的源站获取,避免网络拥塞缓解源站压力,保证用户访问资源的速度和体验

CDN的优势很明显:
(1)CDN节点解决了跨运营商和跨地域访问的问题,访问延时大大降低;
(2)大部分请求在CDN边缘节点完成,CDN起到了分流作用,减轻了源站的负载。
在这里插入图片描述

Squid代理的类型

传统代理:适用于Internet正向代理,需在 客户端指定代理服务器的地址和端口

透明代理:客户机不需指定代理服务器的地址和端口,而是通过默认路由、防火墙策略将Web访问重定向给代理服务器处理。

反向代理:如果Squid反向代理服务器中缓存了该请求的资源,则将该请求的资源直接返回给客户端:否则反向代理服务器将向后台的WEB服务器请求资源,然后将请求的应答返回给客户端,同时也将应答缓存在本地,供下一个请求者使用。

安装Squid服务

原理图示意
在这里插入图片描述

#环境
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
1.*编译安装 Squid
yum -y install gcc gcc-c++ make
tar zxvf squid-3.5.28.tar.gz -C /opt/
cd /opt/squid-3.5.28./configure --prefix=/usr/local/squid \				#指定安装目录路径
--sysconfdir=/etc \									#指定配置文件路径
--enable-arp-acl \									#MAC地址管控,防止客户端使用IP欺骗
--enable-linux-netfilter \							#使用内核过滤
--enable-linux-tproxy \								#支持透明模式
--enable-async-io=100 \								#异步IO,提升存储性能
--enable-err-language="Simplify_Chinese" \			#错误信息的显示语言
--enable-underscore \								#允许URL中有下划线
--disable-poll \									#关闭默认使用 poll 模式
--enable-epoll \									#开启epoll模式提升性能
--enable-gnuregex									#使用GNU正则表达式------------------------------------------------------------------------------
./configure --prefix=/usr/local/squid \
--sysconfdir=/etc \
--enable-arp-acl \
--enable-linux-netfilter \
--enable-linux-tproxy \
--enable-async-io=100 \
--enable-err-language="Simplify_Chinese" \
--enable-underscore \
--disable-poll \
--enable-epoll \
--enable-gnuregexmake && make installln -s /usr/local/squid/sbin/* /usr/local/sbin/
ln -s /usr/local/squid/bin/* /usr/local/bin/useradd -M -s /sbin/nologin squidchown -R squid:squid /usr/local/squid/var/		#此目录用于存放缓存文件
2.*修改 Squid 的配置文件
vim /etc/squid.conf
......
--56行--插入
http_access allow all				#放在 http_access deny all 之前,允许任意客户机使用代理服务,控制规则自上而下匹配
http_access deny all
http_port 3128						#用来指定代理服务监听的地址和端口(默认的端口号为 3128)
--61行--插入
cache_effective_user squid			#添加,指定程序用户,用来设置初始化、运行时缓存的账号,否则启动不成功
cache_effective_group squid			#添加,指定账号基本组coredump_dir /usr/local/squid/var/cache/squid		#指定缓存文件目录
3.*Squid 的运行控制
#检查配置文件语法是否正确
squid -k parse#启动 Squid,第一次启动 Squid 服务时,会自动初始化缓存目录
squid -z 					#-z 选项用来初始化缓存目录
squid						#启动 squid 服务netstat -anpt | grep "squid"

在这里插入图片描述

4.*创建 Squid 服务脚本
vim /etc/init.d/squid
#!/bin/bash
#chkconfig: 2345 90 25
PID="/usr/local/squid/var/run/squid.pid"
CONF="/etc/squid.conf"
CMD="/usr/local/squid/sbin/squid"case "$1" instart)netstat -natp | grep squid &> /dev/nullif [ $? -eq 0 ]thenecho "squid is running"elseecho "正在启动 squid..."$CMDfi;;stop)$CMD -k kill &> /dev/nullrm -rf $PID &> /dev/null;;status)[ -f $PID ] &> /dev/nullif [ $? -eq 0 ]thennetstat -natp | grep squidelseecho "squid is not running"fi;;restart)$0 stop &> /dev/nullecho "正在关闭 squid..."$0 start &> /dev/nullecho "正在启动 squid...";;reload)$CMD -k reconfigure;;check)$CMD -k parse;;*)echo "用法:$0{start|stop|status|reload|check|restart}";;
esac#2345是默认自启动级别,如是-代表任何级别都不自启动;90是启动优先级,25是停止优先级,优先级范围是0-100,数字越大,优先级越低。
chmod +x /etc/init.d/squid
chkconfig --add squid
chkconfig --level 35 squid on

在这里插入图片描述

构建传统代理服务器

vim /etc/squid.conf
......
http_access allow all
http_access deny all
http_port 3128
cache_effective_user squid
cache_effective_group squid
--63行--插入
cache_mem 64 MB				#指定缓存功能所使用的内存空间大小,便于保持访问较频繁的WEB对象,容量最好为4的倍数,单位为MB,一般设为物理内存的1/3
cache_swap_high 95			#cache目录使用量大于95%时,开始清理旧的cache
cache_swap_low 90			#cache目录清理到90%时停止reply_body_max_size 100 MB			#允许用户下载的最大文件大小,以字节为单位,当下载超过指定大小的Web对象时,浏览器的报错页面中会出现“请求或访问太大”的提示默认设置0表示不进行限制
maximum_object_size 512000 KB		#设置squid磁盘缓存最大文件,以KB为单位,超过的文件不保存到硬盘,而是直接转发给用户
maximum_object_size_in_memory 512 KB	#设置squid内存缓存最大文件,超过的文件不保存到内存
minimum_object_size 0 KB			设置squid磁盘缓存最小文件service squid restart
systemctl restart squid#生产环境中还需要修改防火墙规则
iptables -F
iptables -I INPUT -p tcp --dport 3128 -j ACCEPT#客户机的代理配置
打开浏览器,工具-->Internet选项-->连接-->局域网设置-->开启代理服务器(地址:Squid服务器IP地址,端口:3128)#查看 Squid 访问日志的新增记录中的缓存命中情况
tail -f /usr/local/squid/var/logs/access.logTCP_MEM_HIT/200#查看 Web 访问日志的新增记录
tail -f /var/log/httpd/access_log
在浏览器输入Web服务器IP地址访问,查看Web服务器访问日志,显示的是由代理服务器替客户机在访问。

客户端:192.168.60.16
Squid服务器:192.168.60.8
web服务器:192.168.60.111
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

搭建透明代理

在这里插入图片描述
客户端1:192.168.60.16
客户端2:192.168.60.44
squid服务器内网网关:192.168.60.8
squid服务器外网网关:12.0.0.8
外网web服务器:12.0.0.100

Squid服务器配置
vim /etc/squid.conf
......
http_access allow all
http_access deny all
--60行--修改添加提供内网服务的IP地址,和支持透明代理选项 transparent
http_port 192.168.60.8:3128 transparentsystemctl restart squid#开启路由转发,实现本机中不同网段的地址转发
echo 'net.ipv4.ip_forward = 1' >> /etc/sysctl.conf
sysctl -p#修改防火墙规则
iptables -F
iptables -t nat -F
iptables -t nat -I PREROUTING -i ens33 -s 192.168.60.0/24 -p tcp --dport 80 -j REDIRECT --to-ports 3128	#用于转发http协议
iptables -t nat -I PREROUTING -i ens33 -s 192.168.60.0/24 -p tcp --dport 443 -j REDIRECT --to 3128	#用于转发https协议
iptables -I INPUT -p tcp --dport 3128 -j ACCEPT
Web服务器配置
yum install -y httpd
systemctl start httpd关闭客户机的浏览器之前设置的代理服务器的功能后访问 http://12.0.0.12#查看 Squid 访问日志的新增记录
tail -f /usr/local/squid/var/logs/access.log#查看 Web 访问日志的新增记录,显示的是由代理服务器的外网口代替客户机在访问
tail -f /var/log/httpd/access_log

ACL访问控制

在配置文件 squid.conf 中,ACL 访问控制通过以下两个步骤来实现:
(1)使用 acl 配置项定义需要控制的条件;
(2)通过 http_access 配置项对已定义的列表做“允许”或“拒绝”访问的控制。
1.定义访问控制列表
格式:
acl 列表名称 列表类型 列表内容 …

vim /etc/squid.conf
......
acl localhost src 192.168.60.10/32 					#源地址为 192.168.60.10
acl MYLAN src 192.168.60.0/24 192.168.1.0/24		#客户机网段
acl destinationhost dst 192.168.60.15/32			#目标地址为 192.168.60.15
acl MC20 maxconn 20									#最大并发连接 20
acl PORT port 21									#目标端口 21
acl DMBLOCK dstdomain .qq.com						#目标域,匹配域内所有站点
acl BURL url_regex -i ^rtsp:// ^emule://			#以 rtsp://、emule:// 开头的目标 URL地址,-i表示忽略大小写
acl PURL urlpath_regex -i \.mp3$ \.mp4$ \.rmvb$		#以 .mp3、.mp4、.rmvb 结尾的目标 URL 路径
acl WORKTIME time MTWHF 08:30-17:30					#时间为周一至周五 8:30~17:30,“MTWHF”为每个星期的英文首字母#启动对象列表管理
mkdir /etc/squid
vim /etc/squid/dest.list
192.168.60.15
192.168.1.0/24vim /etc/squid.conf
......
acl destinationhost dst "/etc/squid/dest.list"			#调用指定文件中的列表内容
......
http_access deny(或allow) destinationhost				#注意,如果是拒绝列表,需要放在http_access allow all前面systemctl restart squid

http_access allow all 表示放通所有
http_access deny all 表示拒绝所有

先设置个别放通然后http_access deny all 就是白名单
拒绝个别然后http_access allow all 就是黑名单
规则匹配是从上向下依次匹配


http://www.ppmy.cn/news/729495.html

相关文章

【转帖】UDIMM、RDIMM、SODIMM以及LRDIMM的区别

转载自http://www.sohu.com/a/165343889_781333。 DIMM简介 DIMM(Dual Inline Memory Module,双列直插内存模块)与SIMM(single in-line memory module,单边接触内存模组)相当类似,不同的只是DIMM的金手指两端不像SIMM那…

DDR3命令状态(二)

DDR3中的状态机Diagram,详见相册。 ACT:Activate,表示输出行地址,和是否自动precharge控制位。 PRE:Precharge,在读写后,可以根据A10来判断是否自己进行precharge。 PREA:Precharge …

DDR4 IP的用户接口

UltraScale架构的FPGA的存储接口解决方案如下图所示。其中IP 核中包括 User Interface Block、Memory Controller、Physical Layer模块。 实验使用的是ZCU106板子,需要使用DDR4的IP 核,在添加了IP核后发现有许多接口,通过查找https://www.xil…

06、DDR4 IP的生成流程

DDR4 IP的生成流程 硬件平台:xilinx官方zcu208(xczu48dr-fsvg1517-2-e-es1)开发板 软件平台:win10 vivado 2020.2 1、常规的模式controller and physical layer,这个模式也是很常用的模式,750ps这个地方就是选择速率为1333MHz&am…

DDR3协议(二)PowerOn及Reset初始化

涉及延迟参数 PowerOn RESET# 在电源稳定状态下,保持至少200us 在RESET# 解复位之前,CKE需要拉低至少 10ns RESET# 解复位之后,需要CKE继续拉低 500us CKE有效之前,CK需要稳定至少 max(10ns, 5*clk)&…

SCQ16GS03M1F1C-32AA 紫光动态存储器

1概览 本章概述了260针DDR4无缓冲SODIMM产品系列,并介绍了其主要 特点啊 1.1特点 260针PC4-3200 DDr4 SODIMM。 频率/CAS潜伏期 0.625纳克级CL22(DDR4-3200) VDD1.2V60mV VPP2.5V(2.375V~2.75V) VDDSPD2.5伏(NOM) 可编程CAS延迟9、…

Linux基础:如何找出你的系统所支持的最大内存

原文出处: SK 译文出处: mr-ping 欢迎分享原创到 伯乐头条 大多数情况下你可以从BIOS、产品目录或者干脆手动找出你的系统所持的最大内存。这里,我们介绍一种简单有用的技巧——使用dmidecode来找出系统支持的最大内存,这样你…

DDR 内存 ECC 纠错

对于 DDR4 DIMM 和 SODIMM(支持 ECC),ECC(纠错码)由内存控制器为写入的每个字节计算。每字节一个位作为计算的一部分提供,并存储在与存储其保护的字节不同的设备中。但是,一旦写入数据到达 DRAM…