使用 AWS EKS 部署 Easysearch

embedded/2024/10/9 7:58:12/

随着企业对数据搜索和分析需求的增加，高效的搜索引擎解决方案变得越来越重要。Easysearch 作为一款强大的企业级搜索引擎，可以帮助企业快速构建高性能、可扩展的数据检索系统。在云计算的背景下，使用容器化技术来部署和管理这些解决方案已经成为主流选择，而 Amazon Elastic Kubernetes Service (EKS) 则提供了一个强大且易于使用的平台来运行容器化的应用程序。

本文旨在探索如何在 AWS EKS 上部署 Easysearch，并通过实践操作展示从集群配置到服务部署的完整过程。通过本文，读者可以了解如何在云环境中快速搭建高效的搜索服务，最大化利用云资源的弹性和可扩展性。

准备工作

  1. 准备一个 AWS Global 账户，本文选择东京区域（ap-northeast-1）进行部署。
  2. 部署 EKS 集群版本为 1.30，同时需要在 Linux 环境中安装 AWS CLI、Helm、eksctl 和 kubectl 等命令行工具。本文使用 eksctl 管理 EKS 集群，eksctl 是 AWS 官方推出的高效管理 EKS 集群的命令行工具。
  3. 本文将使用 EBS-CSI-Driver 作为存储驱动来部署 Easysearch 服务，并通过 AWS LoadBalancer Controller 将 Easysearch Console 服务以 AWS 负载均衡器的方式对外提供服务，连接集群内部的 Easysearch。

命令行工具的安装

安装 AWS CLI：

curl "https://awscli.amazonaws.com/awscli-exe-linux-x86_64.zip" -o "awscliv2.zip"
unzip awscliv2.zip
./aws/install -i /usr/local/aws-cli -b /usr/local/bin
aws --version

安装 Helm：

curl https://raw.githubusercontent.com/helm/helm/master/scripts/get-helm-3 > get_helm.sh
chmod 700 get_helm.sh
./get_helm.sh

安装 eksctl：

# 对于 ARM 系统，设置 ARCH 为：`arm64`、`armv6` 或 `armv7`
ARCH=amd64
PLATFORM=$(uname -s)_$ARCHcurl -sLO "https://github.com/eksctl-io/eksctl/releases/latest/download/eksctl_$PLATFORM.tar.gz"# （可选）验证校验和
curl -sL "https://github.com/eksctl-io/eksctl/releases/latest/download/eksctl_checksums.txt" | grep $PLATFORM | sha256sum --checktar -xzf eksctl_$PLATFORM.tar.gz -C /tmp && rm eksctl_$PLATFORM.tar.gzsudo mv /tmp/eksctl /usr/local/bin

安装 kubectl：

curl -O https://s3.us-west-2.amazonaws.com/amazon-eks/1.30.2/2024-07-12/bin/linux/amd64/kubectl
chmod +x ./kubectl
mkdir -p $HOME/bin && cp ./kubectl $HOME/bin/kubectl && export PATH=$HOME/bin:$PATH

配置 EKS 集群环境

我们使用 eksctl 创建一个 1.30 版本的集群，这里通过 YAML 模板定义 EKS 集群的 VPC 网络配置，并根据 eksctl 官方文档调整相关字段。将以下模板保存为 my-cluster.yaml 文件：

# 创建一个包含 2 个 m5.2xlarge 实例的节点组
apiVersion: eksctl.io/v1alpha5
kind: ClusterConfigmetadata:name: LAB-1-30region: ap-northeast-1vpc:subnets:private:ap-northeast-1a: { id: subnet-11223344 }ap-northeast-1c: { id: subnet-55667788 }ap-northeast-1d: { id: subnet-99001122 }nodeGroups:- name: managed-workers-01labels: { role: workers }instanceType: m5.2xlargeminSize: 2maxSize: 4desiredCapacity: 3privateNetworking: truevolumeSize: 30

通过以下命令创建集群：

eksctl create cluster -f my-cluster.yaml

集群创建完成后，使用以下命令检查集群是否就绪：

# 更新 kubeconfig 的凭证文件
aws eks update-kubeconfig --name LAB-1-30 --region ap-northeast-1
kubectl get node
[ec2-user@ip-10-0-0-84 ~]$ kubectl get node 
NAME                                              STATUS   ROLES    AGE   VERSION
ip-10-0-100-132.ap-northeast-1.compute.internal   Ready    <none>   16m   v1.30.2-eks-1552ad0
ip-10-0-101-148.ap-northeast-1.compute.internal   Ready    <none>   16m   v1.30.2-eks-1552ad0

安装 EBS-CSI-Driver 插件，后续部署时可以指定 StorageClass 来使用亚马逊云的 EBS 块存储服务：

eksctl utils associate-iam-oidc-provider --region=ap-northeast-1 --cluster=LAB-1-30 --approve
eksctl create iamserviceaccount \--name ebs-csi-controller-sa \--namespace kube-system \--cluster LAB-1-30 \--region ap-northeast-1 \--role-name AmazonEKS_EBS_CSI_DriverRole \--role-only \--attach-policy-arn arn:aws:iam::aws:policy/service-role/AmazonEBSCSIDriverPolicy \--approveeksctl create addon --cluster LAB-1-30 --name aws-ebs-csi-driver --version latest --region ap-northeast-1 \--service-account-role-arn arn:aws:iam::112233445566:role/AmazonEKS_EBS_CSI_DriverRole --force[ec2-user@ip-10-0-0-84 ~]$ kubectl get pod -n kube-system | grep -i ebs
ebs-csi-controller-868598b64f-pwmxq   6/6     Running   0          11m
ebs-csi-controller-868598b64f-qn2lz   6/6     Running   0          11m
ebs-csi-node-fplxg                    3/3     Running   0          11m
ebs-csi-node-v6qwj                    3/3     Running   0          11m

安装 AWS LoadBalancer Controller 组件：

eksctl create iamserviceaccount \--cluster=LAB-1-30 \--region ap-northeast-1 \--namespace=kube-system \--name=aws-load-balancer-controller \--role-name AmazonEKSLoadBalancerControllerRole_130 \--attach-policy-arn=arn:aws:iam::112233445566:policy/AWSLoadBalancerControllerIAMPolicy \--approvehelm repo add eks https://aws.github.io/eks-charts
helm repo update eks
wget https://raw.githubusercontent.com/aws/eks-charts/master/stable/aws-load-balancer-controller/crds/crds.yaml 
kubectl apply -f crds.yamlhelm install aws-load-balancer-controller eks/aws-load-balancer-controller \-n kube-system \--set clusterName=LAB-1-30 \--set serviceAccount.create=false \--set serviceAccount.name=aws-load-balancer-controller  \--set region=ap-northeast-1# 验证安装
kubectl get deployment -n kube-system aws-load-balancer-controller
NAME                           READY   UP-TO-DATE   AVAILABLE   AGE
aws-load-balancer-controller   2/2     2            2           39s

至此，我们已经完成了 EKS 集群的配置。

安装 Easysearch 服务

本文中，将通过 AWS LoadBalancer 部署 Console 服务。首先，通过 Helm 将 Console 相关的模板文件拉取到本地，执行以下命令：

helm pull infinilabs/console
tar -zxvf console-0.2.0.tgz 
cd console

目录结构如下：

[ec2-user@ip-10-0-0-84 console]$ tree
.
├── Chart.yaml
├── templates
│   ├── NOTES.txt
│   ├── _helpers.tpl
│   ├── hpa.yaml
│   ├── ingress.yaml
│   ├── service.yaml
│   ├── serviceaccount.yaml
│   └── statefulset.yaml
└── values.yaml

我们需要修改 service.yaml 和 values.yaml 中的部分配置：

# serivce.yaml
# 参考 AWS Load Balancer Controller 的文档，配置负载均衡器面向公网
metadata:annotations:service.beta.kubernetes.io/aws-load-balancer-scheme: internet-facingservice.beta.kubernetes.io/aws-load-balancer-nlb-target-type: instanceservice.beta.kubernetes.io/aws-load-balancer-subnets: subnet-11223344, subnet-55667788, subnet-9911223344# values.yaml
# 使用 GP2 StorageClass，并指定 Service Type 为 LoadBalancer
service:type: LoadBalancer
storageClassName: gp2

使用 Helm 部署 console 服务：

kubectl create ns Easysearch
helm upgrade --install console . -f values.yaml -n Easysearch# 检查是否创建了 Service 并获取负载均衡器的 DNS 地址
kubectl get svc -n Easysearch
NAME         TYPE           CLUSTER-IP       EXTERNAL-IP                                               PORT(S)             AGE
console      LoadBalancer   172.20.237.237   k8s-xxxx.elb.ap-northeast-1.amazonaws.com                 9000:32190/TCP      6h49m

接下来是创建 Easysearch 单节点集群服务。创建一个新的 values.yaml 文件并定义使用 GP2 类型的 StorageClass，如下：

cd ~
echo 'storageClassName: gp2' > values.yaml
cat << EOF | kubectl apply -n Easysearch -f -
apiVersion: cert-manager.io/v1
kind: Issuer
metadata:name: Easysearch-ca-issuer
spec:selfSigned: {}
---
apiVersion: cert-manager.io/v1
kind: Certificate
metadata:name: Easysearch-ca-certificate
spec:commonName: Easysearch-ca-certificateduration: 87600h0m0sisCA: trueissuerRef:kind: Issuername: Easysearch-ca-issuerprivateKey:algorithm: ECDSAsize: 256renewBefore: 2160h0m0ssecretName: Easysearch-ca-secret
EOF
helm install Easysearch infinilabs/Easysearch -n Easysearch -f values.yaml

至此，我们已在 AWS EKS 平台上完成了 Easysearch 的部署。可以通过 Kubernetes 中的 Service DNS 地址在 Console 中验证连接到内部的 Easysearch 服务。本文中使用的地址为：Easysearch.Easysearch.svc.cluster.local:9200。

也可以在 Easysearch 的 Pod 中使用命令进行连接验证：

kubectl exec -n Easysearch Easysearch-0 -it -- curl -ku 'admin:admin' https://Easysearch.Easysearch.svc.cluster.local:9200
{"name" : "Easysearch-0","cluster_name" : "infinilabs","cluster_uuid" : "fq3r_ZaHSFuZDjDtKyJY_w","version" : {"distribution" : "Easysearch","number" : "1.6.0","distributor" : "INFINI Labs","build_hash" : "e5d1ff9067b3dd696d52c61fbca1f8daed931fb7","build_date" : "2023-09-22T00:55:32.292580Z","build_snapshot" : false,"lucene_version" : "8.11.2","minimum_wire_lucene_version" : "7.7.0","minimum_lucene_index_compatibility_version" : "7.7.0"},"tagline" : "You Know, For Easy Search!"
}

总结

通过本文的实践操作，我们成功地在 AWS EKS 平台上部署了 Easysearch 服务，验证了其在云环境中的高效运行能力。从 EKS 集群的配置、存储和网络资源的准备，到最终的 Easysearch 部署与测试，整个过程展示了如何利用 AWS 提供的工具和服务，快速构建企业级搜索引擎解决方案。

通过这次部署，我们不仅了解了 Easysearch 在 Kubernetes 环境中的部署方法，还深入体验了 AWS EKS 平台的强大功能。未来，随着企业数据量的不断增长，结合云计算的弹性和容器化技术的优势，将会为企业的数据管理和搜索提供更加高效的解决方案。

参考文档

  1. AWS 命令行界面
  2. Helm
  3. eksctl
  4. Helm Chart 部署 Easysearch

http://www.ppmy.cn/embedded/97950.html

相关文章

Linux系统安全加固：深入防火墙与SELinux策略

Linux系统安全加固：深入防火墙与SELinux策略

在当前复杂多变的网络环境中&#xff0c;Linux系统作为服务器和开发环境的首选操作系统之一&#xff0c;其安全性至关重要。从防火墙的精细配置到SELinux&#xff08;Security-Enhanced Linux&#xff09;的策略调整&#xff0c;本文将深入探讨Linux系统安全加固的高级技巧&…
阅读更多...
基于LangChain手工测试用例转接口自动化测试生成工具！

基于LangChain手工测试用例转接口自动化测试生成工具！

接口自动化测试用例是一个老生常谈的问题&#xff0c;在未引入人工智能之前&#xff0c;也有非常多的生成方案&#xff0c;比如如下所示&#xff0c;通过har生成接口自动化测试用例&#xff1a; 但是以上的生成方式依然是有一些弊端&#xff0c;比如 har 本身虽然能表述一定的接…
阅读更多...
vscode 阅读linux内核（vscode+clangd）

vscode 阅读linux内核（vscode+clangd）

此插件曾在vim里用过&#xff0c;非常好用。 首先先在vscode 里下载clangd插件 这只是客户端&#xff0c;还需下载个服务器&#xff08;这在coc插件里也有说明&#xff09; sudo apt install clangd 下载完后可以 clangd --version 查看版本信息&#xff0c;如果能查看&#x…
阅读更多...
使用VirtualBox【安装Ubuntu虚拟机】并【挂载宿主机器目录】

使用VirtualBox【安装Ubuntu虚拟机】并【挂载宿主机器目录】

1.安装Ubuntu虚拟机 参考文章&#xff1a;https://blog.csdn.net/Amentos/article/details/127733864 2.虚拟机器与宿主机共享文件夹 共享文件夹 步骤&#xff1a; a. 在VirtualBox中&#xff0c;选择要添加共享文件夹的虚拟机&#xff0c;点击"设置"。 b. 在&q…
阅读更多...
讲清前端开发（入门）

讲清前端开发（入门）

前端开发&#xff1a;创建用户在网页或应用程序中直接与之交互的部分。 简单来说&#xff0c;就是负责打造用户在使用网站、网页应用或者移动应用时直接看到和与之交互的部分。打个比方&#xff0c;前端开发就像是给房子做装修。房子的框架结构已经有了&#xff0c;但是需要有…
阅读更多...
软考高级第四版备考---第四十六天（数据集成）

软考高级第四版备考---第四十六天（数据集成）

一、基础集成&#xff1a;基本原则 开放&#xff1a;要遵循工业开放标准结构化&#xff1a;复杂系统分解成相对独立和简单的子系统先进性&#xff1b;主流性 二、网络集成&#xff08;互连&#xff09;&#xff0c;主要体系框架 传输子系统&#xff1a;传输是网络的核心&…
阅读更多...
CentOS 7 的安装流程详细教程

CentOS 7 的安装流程详细教程

CentOS 7 的安装流程相对直观&#xff0c;以下是详细的安装步骤&#xff1a; 准备安装介质&#xff1a; 你可以从 CentOS 官方网站下载 ISO 镜像。使用如 Rufus 或者 UNetbootin 的工具将下载的 ISO 文件刻录到 USB 设备上&#xff0c;或者使用虚拟光驱软件。 从安装介质启动&a…
阅读更多...
Excel工具 -- vlookup函数使用

Excel工具 -- vlookup函数使用

VLOOKUP 函数使用 要快速寻找、定位和指向 VLOOKUP 函数的引用源数据&#xff0c;以下是一些实用的步骤和技巧&#xff1a; 1. 使用 Excel 中的名称管理器 如果你给 VLOOKUP 函数中的数据表格区域&#xff08;table_array&#xff09;赋予了名称&#xff08;如商品表&#x…
阅读更多...
最新文章

Copyright @ 2022~2023