cmd/bpa-operator/e2etest/bpa_bmh_verifier.sh

   1 #!/usr/bin/env bash
   2 set -eu -o pipefail
   3
   4 CLUSTER_NAME=test-bmh-cluster
   5 ADDONS_NAMESPACE=kud
   6
   7 kubectl create -f e2etest/test_bmh_provisioning_cr.yaml
   8 sleep 5
   9
  10 #Check Status of kud job pod
  11 status="Running"
  12
  13 while [[ $status == "Running" ]]
  14 do
  15     echo "KUD install job still running"
  16     sleep 2m
  17     stats=$(kubectl get pods |grep -i kud-${CLUSTER_NAME})
  18     status=$(echo $stats | cut -d " " -f 3)
  19 done
  20
  21 #Print logs of Job Pod
  22 jobPod=$(kubectl get pods|grep kud-${CLUSTER_NAME})
  23 podName=$(echo $jobPod | cut -d " " -f 1)
  24 printf "\nNow Printing Job pod logs\n"
  25 kubectl logs $podName
  26
  27 if [[ $status == "Completed" ]];
  28 then
  29    printf "KUD Install Job completed\n"
  30    printf "Checking cluster status\n"
  31
  32    source ../../env/lib/common.sh
  33    CLUSTER_KUBECONFIG=/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/admin.conf
  34    APISERVER=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl config view --minify -o jsonpath='{.clusters[0].cluster.server}')
  35    TOKEN=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl get secret $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl get serviceaccount default -o jsonpath='{.secrets[0].name}') -o jsonpath='{.data.token}' | base64 --decode)
  36    if ! call_api $APISERVER/api --header "Authorization: Bearer $TOKEN" --insecure;
  37    then
  38        printf "\nKubernetes Cluster Install did not complete successfully\n"
  39        exit 1
  40    else
  41        printf "\nKubernetes Cluster Install was successful\n"
  42    fi
  43
  44 else
  45     printf "KUD Install Job failed\n"
  46     exit 1
  47 fi
  48
  49 function wait_for {
  50     local -r interval=30
  51     for ((try=0;try<600;try+=${interval})); do
  52         echo "$(date +%H:%M:%S) - Waiting for $*"
  53         sleep ${interval}s
  54         if $*; then return 0; fi
  55     done
  56     return 1
  57 }
  58
  59 function emco_ready {
  60     KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n emco wait pod --all --for=condition=Ready --timeout=0s 1>/dev/null 2>/dev/null
  61 }
  62
  63 function emcoctl_apply {
  64     [[ $(/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/emcoctl.sh apply -f $@ -v values.yaml |
  65              awk '/Response Code:/ {code=$3} END{print code}') =~ 2.. ]]
  66 }
  67
  68 function emcoctl_delete {
  69     [[ $(/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/emcoctl.sh delete -f $@ -v values.yaml |
  70              awk '/Response Code:/ {code=$3} END{print code}') =~ 404 ]]
  71 }
  72
  73 function emcoctl_instantiate {
  74     [[ $(/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/emcoctl.sh apply projects/kud/composite-apps/$@/v1/deployment-intent-groups/deployment/instantiate |
  75              awk '/Response Code:/ {code=$3} END{print code}') =~ 2.. ]]
  76 }
  77
  78 function emcoctl_terminate {
  79     [[ $(/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/emcoctl.sh apply projects/kud/composite-apps/$@/v1/deployment-intent-groups/deployment/terminate |
  80              awk '/Response Code:/ {code=$3} END{print code}') =~ 2.. ]]
  81 }
  82
  83 function emcoctl {
  84     local -r op=$1
  85     shift
  86
  87     local -r interval=2
  88     for ((try=0;try<600;try+=${interval})); do
  89         if emco_ready; then break; fi
  90         echo "$(date +%H:%M:%S) - Waiting for emco"
  91         sleep ${interval}s
  92     done
  93
  94     for ((;try<600;try+=${interval})); do
  95         case ${op} in
  96             "apply") if emcoctl_apply $@; then return 0; fi ;;
  97             "delete") if emcoctl_delete $@; then return 0; fi ;;
  98             "instantiate") if emcoctl_instantiate $@; then return 0; fi ;;
  99             "terminate") if emcoctl_terminate $@; then return 0; fi ;;
 100         esac
 101         echo "$(date +%H:%M:%S) - Waiting for emcoctl ${op} $@"
 102         sleep ${interval}s
 103     done
 104
 105     return 1
 106 }
 107
 108 function addons_instantiated {
 109     KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} wait pod -l app.kubernetes.io/instance=r1 --for=condition=Ready --timeout=0s 1>/dev/null 2>/dev/null
 110 }
 111
 112 function addons_terminated {
 113     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get pod -l app.kubernetes.io/instance=r1 --no-headers 2>/dev/null | wc -l) == 0 ]]
 114 }
 115
 116 function networks_instantiated {
 117     local -r count=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get sriovnetworknodestate --no-headers 2>/dev/null | wc -l)
 118     local -r succeeded=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get sriovnetworknodestate -o jsonpath='{range .items[*]}{.status.syncStatus}{"\n"}{end}' 2>/dev/null | grep "Succeeded" | wc -l)
 119     [[ $count == $succeeded ]]
 120 }
 121
 122 function networks_terminated {
 123     # The syncStatus will be the same whether we are instantiating or terminating an SR-IOV network
 124     networks_instantiated
 125 }
 126
 127 function kubevirt_instantiated {
 128     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get kubevirt -o jsonpath='{range .items[*]}{.status.phase}{"\n"}{end}' 2>/dev/null | grep "Deployed" | wc -l) == 1 ]]
 129     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get cdi -o jsonpath='{range .items[*]}{.status.phase}{"\n"}{end}' 2>/dev/null | grep "Deployed" | wc -l) == 1 ]]
 130 }
 131
 132 function kubevirt_terminated {
 133     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get kubevirt --no-headers 2>/dev/null | wc -l) == 0 ]]
 134     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get cdi --no-headers 2>/dev/null | wc -l) == 0 ]]
 135 }
 136
 137 #Apply addons
 138 printf "Applying KUD addons\n"
 139 pushd /opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/addons
 140 emcoctl apply 00-controllers.yaml
 141 emcoctl apply 01-cluster.yaml
 142 emcoctl apply 02-project.yaml
 143 emcoctl apply 03-addons-app.yaml
 144 popd
 145
 146 #Instantiate addons
 147 emcoctl instantiate addons
 148 wait_for addons_instantiated
 149 emcoctl instantiate networks
 150 wait_for networks_instantiated
 151 emcoctl instantiate kubevirt
 152 wait_for kubevirt_instantiated
 153
 154 #Test addons
 155 printf "Testing KUD addons\n"
 156 pushd /opt/kud/multi-cluster/addons/tests
 157 failed_kud_tests=""
 158 container_runtime=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl get nodes -o jsonpath='{.items[].status.nodeInfo.containerRuntimeVersion}')
 159 if [[ "${container_runtime}" == "containerd://1.2.13" ]]; then
 160     #With containerd 1.2.13, the qat test container image fails to unpack.
 161     kud_tests="topology-manager-sriov kubevirt multus ovn4nfv nfd sriov-network cmk"
 162 else
 163     kud_tests="topology-manager-sriov kubevirt multus ovn4nfv nfd sriov-network qat cmk"
 164 fi
 165 for test in ${kud_tests}; do
 166     KUBECONFIG=${CLUSTER_KUBECONFIG} bash ${test}.sh || failed_kud_tests="${failed_kud_tests} ${test}"
 167 done
 168 KUBECONFIG=${CLUSTER_KUBECONFIG} DEMO_FOLDER=${PWD} PATH=/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts:${PATH} bash plugin_fw_v2.sh --external || failed_kud_tests="${failed_kud_tests} plugin_fw_v2"
 169 if [[ ! -z "$failed_kud_tests" ]]; then
 170     printf "Test cases failed:${failed_kud_tests}\n"
 171     exit 1
 172 fi
 173 popd
 174 printf "All test cases passed\n"
 175
 176 #Tear down setup
 177 printf "\n\nBeginning BMH E2E Test Teardown\n\n"
 178 emcoctl terminate kubevirt
 179 wait_for kubevirt_terminated
 180 emcoctl terminate networks
 181 wait_for networks_terminated
 182 emcoctl terminate addons
 183 wait_for addons_terminated
 184 pushd /opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/addons
 185 emcoctl delete 03-addons-app.yaml
 186 emcoctl delete 02-project.yaml
 187 emcoctl delete 01-cluster.yaml
 188 emcoctl delete 00-controllers.yaml
 189 popd
 190 kubectl delete -f e2etest/test_bmh_provisioning_cr.yaml
 191 kubectl delete job kud-${CLUSTER_NAME}
 192 kubectl delete --ignore-not-found=true configmap ${CLUSTER_NAME}-configmap
 193 rm -rf /opt/kud/multi-cluster/${CLUSTER_NAME}
 194 rm -rf /opt/kud/multi-cluster/addons
 195 make delete