cmd/bpa-operator/e2etest/bpa_bmh_verifier.sh

   1 #!/usr/bin/env bash
   2 set -eu -o pipefail
   3
   4 CLUSTER_NAME=test-bmh-cluster
   5 ADDONS_NAMESPACE=kud
   6
   7 function wait_for {
   8     local -r interval=30
   9     for ((try=0;try<600;try+=${interval})); do
  10         echo "$(date +%H:%M:%S) - Waiting for $*"
  11         sleep ${interval}s
  12         if $*; then return 0; fi
  13     done
  14     return 1
  15 }
  16
  17 function emco_ready {
  18     KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n emco wait pod --all --for=condition=Ready --timeout=0s 1>/dev/null 2>/dev/null
  19 }
  20
  21 function emcoctl_apply {
  22     [[ $(/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/emcoctl.sh apply -f $@ -v values.yaml |
  23              awk '/Response Code:/ {code=$3} END{print code}') =~ 2.. ]]
  24 }
  25
  26 function emcoctl_delete {
  27     [[ $(/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/emcoctl.sh delete -f $@ -v values.yaml |
  28              awk '/Response Code:/ {code=$3} END{print code}') =~ 404 ]]
  29 }
  30
  31 function emcoctl_instantiate {
  32     [[ $(/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/emcoctl.sh apply projects/kud/composite-apps/$@/v1/deployment-intent-groups/deployment/instantiate |
  33              awk '/Response Code:/ {code=$3} END{print code}') =~ 2.. ]]
  34 }
  35
  36 function emcoctl_terminate {
  37     [[ $(/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/emcoctl.sh apply projects/kud/composite-apps/$@/v1/deployment-intent-groups/deployment/terminate |
  38              awk '/Response Code:/ {code=$3} END{print code}') =~ 2.. ]]
  39 }
  40
  41 function emcoctl {
  42     local -r op=$1
  43     shift
  44
  45     local -r interval=2
  46     for ((try=0;try<600;try+=${interval})); do
  47         if emco_ready; then break; fi
  48         echo "$(date +%H:%M:%S) - Waiting for emco"
  49         sleep ${interval}s
  50     done
  51
  52     for ((;try<600;try+=${interval})); do
  53         case ${op} in
  54             "apply") if emcoctl_apply $@; then return 0; fi ;;
  55             "delete") if emcoctl_delete $@; then return 0; fi ;;
  56             "instantiate") if emcoctl_instantiate $@; then return 0; fi ;;
  57             "terminate") if emcoctl_terminate $@; then return 0; fi ;;
  58         esac
  59         echo "$(date +%H:%M:%S) - Waiting for emcoctl ${op} $@"
  60         sleep ${interval}s
  61     done
  62
  63     return 1
  64 }
  65
  66 function addons_instantiated {
  67     KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} wait pod -l app.kubernetes.io/instance=r1 --for=condition=Ready --timeout=0s 1>/dev/null 2>/dev/null
  68 }
  69
  70 function addons_terminated {
  71     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get pod -l app.kubernetes.io/instance=r1 --no-headers 2>/dev/null | wc -l) == 0 ]]
  72 }
  73
  74 function networks_instantiated {
  75     local -r count=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get sriovnetworknodestate --no-headers 2>/dev/null | wc -l)
  76     local -r succeeded=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get sriovnetworknodestate -o jsonpath='{range .items[*]}{.status.syncStatus}{"\n"}{end}' 2>/dev/null | grep "Succeeded" | wc -l)
  77     [[ $count == $succeeded ]]
  78 }
  79
  80 function networks_terminated {
  81     # The syncStatus will be the same whether we are instantiating or terminating an SR-IOV network
  82     networks_instantiated
  83 }
  84
  85 function kubevirt_instantiated {
  86     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get kubevirt -o jsonpath='{range .items[*]}{.status.phase}{"\n"}{end}' 2>/dev/null | grep "Deployed" | wc -l) == 1 ]]
  87     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get cdi -o jsonpath='{range .items[*]}{.status.phase}{"\n"}{end}' 2>/dev/null | grep "Deployed" | wc -l) == 1 ]]
  88 }
  89
  90 function kubevirt_terminated {
  91     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get kubevirt --no-headers 2>/dev/null | wc -l) == 0 ]]
  92     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get cdi --no-headers 2>/dev/null | wc -l) == 0 ]]
  93 }
  94
  95 if [[ $1 == "provision" ]]; then
  96     kubectl create -f e2etest/test_bmh_provisioning_cr.yaml
  97     sleep 5
  98
  99     #Check Status of kud job pod
 100     status="Running"
 101
 102     while [[ $status == "Running" ]]
 103     do
 104         echo "KUD install job still running"
 105         sleep 2m
 106         stats=$(kubectl get pods |grep -i kud-${CLUSTER_NAME})
 107         status=$(echo $stats | cut -d " " -f 3)
 108     done
 109
 110     #Print logs of Job Pod
 111     jobPod=$(kubectl get pods|grep kud-${CLUSTER_NAME})
 112     podName=$(echo $jobPod | cut -d " " -f 1)
 113     printf "\nNow Printing Job pod logs\n"
 114     kubectl logs $podName
 115
 116     if [[ $status == "Completed" ]];
 117     then
 118         printf "KUD Install Job completed\n"
 119         printf "Checking cluster status\n"
 120
 121         source ../../env/lib/common.sh
 122         CLUSTER_KUBECONFIG=/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/admin.conf
 123         APISERVER=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl config view --minify -o jsonpath='{.clusters[0].cluster.server}')
 124         TOKEN=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl get secret $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl get serviceaccount default -o jsonpath='{.secrets[0].name}') -o jsonpath='{.data.token}' | base64 --decode)
 125         if ! call_api $APISERVER/api --header "Authorization: Bearer $TOKEN" --insecure;
 126         then
 127             printf "\nKubernetes Cluster Install did not complete successfully\n"
 128             exit 1
 129         else
 130             printf "\nKubernetes Cluster Install was successful\n"
 131         fi
 132
 133     else
 134         printf "KUD Install Job failed\n"
 135         exit 1
 136     fi
 137
 138     #Apply addons
 139     printf "Applying KUD addons\n"
 140     pushd /opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/addons
 141     emcoctl apply 00-controllers.yaml
 142     emcoctl apply 01-cluster.yaml
 143     emcoctl apply 02-project.yaml
 144     emcoctl apply 03-addons-app.yaml
 145     popd
 146
 147     #Instantiate addons
 148     emcoctl instantiate addons
 149     wait_for addons_instantiated
 150     emcoctl instantiate networks
 151     wait_for networks_instantiated
 152     emcoctl instantiate kubevirt
 153     wait_for kubevirt_instantiated
 154
 155     #Test addons
 156     printf "Testing KUD addons\n"
 157     pushd /opt/kud/multi-cluster/addons/tests
 158     failed_kud_tests=""
 159     container_runtime=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl get nodes -o jsonpath='{.items[].status.nodeInfo.containerRuntimeVersion}')
 160     if [[ "${container_runtime}" == "containerd://1.2.13" ]]; then
 161         #With containerd 1.2.13, the qat test container image fails to unpack.
 162         kud_tests="topology-manager-sriov kubevirt multus ovn4nfv nfd sriov-network cmk"
 163     else
 164         kud_tests="topology-manager-sriov kubevirt multus ovn4nfv nfd sriov-network qat cmk"
 165     fi
 166     for test in ${kud_tests}; do
 167         KUBECONFIG=${CLUSTER_KUBECONFIG} bash ${test}.sh || failed_kud_tests="${failed_kud_tests} ${test}"
 168     done
 169     KUBECONFIG=${CLUSTER_KUBECONFIG} DEMO_FOLDER=${PWD} PATH=/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts:${PATH} bash plugin_fw_v2.sh --external || failed_kud_tests="${failed_kud_tests} plugin_fw_v2"
 170     if [[ ! -z "$failed_kud_tests" ]]; then
 171         printf "Test cases failed:${failed_kud_tests}\n"
 172         exit 1
 173     fi
 174     popd
 175     printf "All test cases passed\n"
 176 elif [[ $1 == "teardown" ]]; then
 177     CLUSTER_KUBECONFIG=/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/admin.conf
 178     #Tear down setup
 179     printf "\n\nBeginning BMH E2E Test Teardown\n\n"
 180     emcoctl terminate kubevirt
 181     wait_for kubevirt_terminated
 182     emcoctl terminate networks
 183     wait_for networks_terminated
 184     emcoctl terminate addons
 185     wait_for addons_terminated
 186     pushd /opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/addons
 187     emcoctl delete 03-addons-app.yaml
 188     emcoctl delete 02-project.yaml
 189     emcoctl delete 01-cluster.yaml
 190     emcoctl delete 00-controllers.yaml
 191     popd
 192     kubectl delete -f e2etest/test_bmh_provisioning_cr.yaml
 193     kubectl delete job kud-${CLUSTER_NAME}
 194     kubectl delete --ignore-not-found=true configmap ${CLUSTER_NAME}-configmap
 195     rm -rf /opt/kud/multi-cluster/${CLUSTER_NAME}
 196     rm -rf /opt/kud/multi-cluster/addons
 197     make delete
 198 fi