概括
我正在尝试使用 Kubeadm 在 AWS 上引导 Kubernetes 集群。请在您提出建议之前,我对使用 EKS 或其他引导解决方案(如 Kops、Kubespray 等)不感兴趣。
似乎有很多关于正确程序的不准确信息,这是由于云提供商集成不是在树外而不是树内管理的分裂。因此,我一直在努力弄清楚如何正确设置此集成。
要求
官方回购指出了三个要求。
1) 您必须使用参数初始化kubelet
、kube-apiserver
和。如果我理解正确,这允许您使用 out of tree 提供程序。在这里使用将使用在弃用时间表上的树内提供程序。kube-controller-manager
--cloud-provider=external
aws
2) 您必须创建两个 IAM 策略,将它们与 IAM 实例配置文件关联,并启动附加了所述策略的 Kubernetes 节点。
3) 集群中的每个节点必须具有与底层 EC2 实例关联的相同主机名作为其Private DNS
名称。
除此之外,我相信曾经需要将以下标签附加到您的 EC2 实例、路由表、安全组和子网。我也做了很好的措施:
"kubernetes.io/cluster/${var.K8S_CLUSTER_NAME}" = "kubernetes.io/cluster/${var.K8S_CLUSTER_NAME}"
问题
然而,尽管如此,当我的工作节点在引导后上线时,它们应用了以下污点:
node.cloudprovider.kubernetes.io/uninitialized: true
这显然意味着节点尚未由云提供商初始化。我真的不知道从这里去哪里。有一个关于如何使用云提供商与 AWS 集成的额外说明的公开请求,但目前不满意。
我的配置
您可能已经注意到我在该问题上发表了评论,并详细说明了我的问题。这是我的环境详细信息的摘要,表明我应该符合列出的要求。
1) 我的 Kubeadm 配置文件将云提供商设置为external
四个地方
KubeletConfiguration 和 InitConfiguration
nodeRegistration:
kubeletExtraArgs:
cloud-provider: external
集群配置
apiServer:
extraArgs:
cloud-provider: external
集群配置
controllerManager:
extraArgs:
cloud-provider: external
2) 我的 EC2 实例是使用带有自述文件中概述的 IAM 策略的实例配置文件启动的:
$> aws ec2 describe-instances --instance-ids INSTANCE.ID | jq '.Reservations[].Instances[].IamInstanceProfile[]'
"arn:aws-us-gov:iam::ACCOUNT.ID:instance-profile/PROFILE-NAME"
3) 主机名是 EC2 私有 DNS 名称:
$> hostname -f
ip-10-0-10-91.us-gov-west-1.compute.internal
4) EC2 实例以及我的路由表、子网等标记为:
"kubernetes.io/cluster/${var.K8S_CLUSTER_NAME}" = "kubernetes.io/cluster/${var.K8S_CLUSTER_NAME}"
结果,看起来我符合所有要求,所以我不确定为什么我的节点仍然带有那个污点。任何帮助将不胜感激!
编辑
我已将每个实例上的标签更新为:
"kubernetes.io/cluster/${var.K8S_CLUSTER_NAME}" = "owned"
并将此标签添加到每个子网:
"kubernetes.io/role/internal-elb" = 1
然而,这并没有解决问题。
编辑 2
其他地方的用户建议问题可能是我没有应用repo清单目录中存在的 RBAC 和 DaemonSet 资源cloud-provider-aws
。使用此图像执行此操作后,我可以确认这并没有解决我的问题,因为根据 Pod 在启动时生成的日志,aws-cloud-controller-manager
似乎期望您使用not external`:aws
Generated self-signed cert in-memory
Neither --kubeconfig nor --master was specified. Using the inClusterConfig. This might not work.
Version: v0.0.0-master+$Format:%h$
WARNING: aws built-in cloud provider is now deprecated. The AWS provider is deprecated and will be removed in a future release
Building AWS cloudprovider
Zone not specified in configuration file; querying AWS metadata service
Cloud provider could not be initialized: could not init cloud provider "aws": clusterID tags did not match: "example-14150" vs "True"
编辑 3
我使用提交时的 repo 构建了一个新图像6a14c81
。可以在这里找到。aws
默认情况下似乎也使用提供程序?
Cloud provider could not be initialized: could not init cloud provider "aws": clusterID tags did not match: "example-14150" vs "True"
该文档没有提到需要部署 AWS Cloud Controller Manager 及其所需的 RBAC 策略。这些可以在
/manifests
repo 中找到。当前没有发布的 AWS Cloud Controller Manager 映像。因此,您需要自己构建并托管它,或者使用我在此处找到的最新提交中的图像。
您会注意到这
--cloud-provider=aws
是作为参数传递的。尽管是外部云提供商集成,但实际上有必要aws
不在external
这里传递。最后,您的所有实例还必须标记为:
"KubernetesCluster" = var.K8S_CLUSTER_NAME