cmd/bpa-operator/e2etest/bpa_vm_verifier.sh

   1 #!/usr/bin/env bash
   2 set -eu -o pipefail
   3
   4 CLUSTER_NAME=cluster-test
   5 ADDONS_NAMESPACE=kud
   6 NUM_MASTERS=${NUM_MASTERS:-"1"}
   7 NUM_WORKERS=${NUM_WORKERS:-"1"}
   8
   9 # Create provisioning CR file for testing
  10 cat <<EOF > e2etest/e2e_test_provisioning_cr.yaml
  11 apiVersion: bpa.akraino.org/v1alpha1
  12 kind: Provisioning
  13 metadata:
  14   name: e2e-test-provisioning
  15   labels:
  16     cluster: ${CLUSTER_NAME}
  17     owner: c1
  18 spec:
  19   masters:
  20 EOF
  21 for ((master=0;master<NUM_MASTERS;++master)); do
  22     mac=$(virsh domiflist "master_${master}" | awk '/provisioning/ {print $5}')
  23     cat <<EOF >> e2etest/e2e_test_provisioning_cr.yaml
  24     - master-${master}:
  25         mac-address: ${mac}
  26 EOF
  27 done
  28 cat <<EOF >> e2etest/e2e_test_provisioning_cr.yaml
  29   workers:
  30 EOF
  31 for ((worker=0;worker<NUM_WORKERS;++worker)); do
  32     mac=$(virsh domiflist "worker_${worker}" | awk '/provisioning/ {print $5}')
  33     cat <<EOF >> e2etest/e2e_test_provisioning_cr.yaml
  34     - worker-${worker}:
  35         mac-address: ${mac}
  36 EOF
  37 done
  38 cat <<EOF >> e2etest/e2e_test_provisioning_cr.yaml
  39   KUDPlugins:
  40     - emco
  41 EOF
  42 kubectl apply -f e2etest/e2e_test_provisioning_cr.yaml
  43 sleep 5
  44
  45 #Check Status of kud job pod
  46 status="Running"
  47
  48 while [[ $status == "Running" ]]
  49 do
  50     echo "KUD install job still running"
  51     sleep 2m
  52     stats=$(kubectl get pods |grep -i kud-${CLUSTER_NAME})
  53     status=$(echo $stats | cut -d " " -f 3)
  54 done
  55
  56 #Print logs of Job Pod
  57 jobPod=$(kubectl get pods|grep kud-${CLUSTER_NAME})
  58 podName=$(echo $jobPod | cut -d " " -f 1)
  59 printf "\nNow Printing Job pod logs\n"
  60 kubectl logs $podName
  61
  62 if [[ $status == "Completed" ]];
  63 then
  64    printf "KUD Install Job completed\n"
  65    printf "Checking cluster status\n"
  66
  67    source ../../env/lib/common.sh
  68    CLUSTER_KUBECONFIG=/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/admin.conf
  69    APISERVER=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl config view --minify -o jsonpath='{.clusters[0].cluster.server}')
  70    TOKEN=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl get secret $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl get serviceaccount default -o jsonpath='{.secrets[0].name}') -o jsonpath='{.data.token}' | base64 --decode)
  71    if ! call_api $APISERVER/api --header "Authorization: Bearer $TOKEN" --insecure;
  72    then
  73        printf "\nKubernetes Cluster Install did not complete successfully\n"
  74        exit 1
  75    else
  76        printf "\nKubernetes Cluster Install was successful\n"
  77    fi
  78
  79 else
  80     printf "KUD Install Job failed\n"
  81     exit 1
  82 fi
  83
  84 function wait_for {
  85     local -r interval=30
  86     for ((try=0;try<600;try+=${interval})); do
  87         echo "$(date +%H:%M:%S) - Waiting for $*"
  88         sleep ${interval}s
  89         if $*; then return 0; fi
  90     done
  91     return 1
  92 }
  93
  94 function emco_ready {
  95     KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n emco wait pod --all --for=condition=Ready --timeout=0s 1>/dev/null 2>/dev/null
  96 }
  97
  98 function emcoctl_apply {
  99     [[ $(/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/emcoctl.sh apply -f $@ -v values.yaml |
 100              awk '/Response Code:/ {code=$3} END{print code}') =~ 2.. ]]
 101 }
 102
 103 function emcoctl_delete {
 104     [[ $(/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/emcoctl.sh delete -f $@ -v values.yaml |
 105              awk '/Response Code:/ {code=$3} END{print code}') =~ 404 ]]
 106 }
 107
 108 function emcoctl_instantiate {
 109     [[ $(/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/emcoctl.sh apply projects/kud/composite-apps/$@/v1/deployment-intent-groups/deployment/instantiate |
 110              awk '/Response Code:/ {code=$3} END{print code}') =~ 2.. ]]
 111 }
 112
 113 function emcoctl_terminate {
 114     [[ $(/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/emcoctl.sh apply projects/kud/composite-apps/$@/v1/deployment-intent-groups/deployment/terminate |
 115              awk '/Response Code:/ {code=$3} END{print code}') =~ 2.. ]]
 116 }
 117
 118 function emcoctl {
 119     local -r op=$1
 120     shift
 121
 122     local -r interval=2
 123     for ((try=0;try<600;try+=${interval})); do
 124         if emco_ready; then break; fi
 125         echo "$(date +%H:%M:%S) - Waiting for emco"
 126         sleep ${interval}s
 127     done
 128
 129     for ((;try<600;try+=${interval})); do
 130         case ${op} in
 131             "apply") if emcoctl_apply $@; then return 0; fi ;;
 132             "delete") if emcoctl_delete $@; then return 0; fi ;;
 133             "instantiate") if emcoctl_instantiate $@; then return 0; fi ;;
 134             "terminate") if emcoctl_terminate $@; then return 0; fi ;;
 135         esac
 136         echo "$(date +%H:%M:%S) - Waiting for emcoctl ${op} $@"
 137         sleep ${interval}s
 138     done
 139
 140     return 1
 141 }
 142
 143 function addons_instantiated {
 144     KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} wait pod -l app.kubernetes.io/instance=r1 --for=condition=Ready --timeout=0s 1>/dev/null 2>/dev/null
 145 }
 146
 147 function addons_terminated {
 148     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get pod -l app.kubernetes.io/instance=r1 --no-headers 2>/dev/null | wc -l) == 0 ]]
 149 }
 150
 151 function networks_instantiated {
 152     local -r count=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get sriovnetworknodestate --no-headers 2>/dev/null | wc -l)
 153     local -r succeeded=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get sriovnetworknodestate -o jsonpath='{range .items[*]}{.status.syncStatus}{"\n"}{end}' 2>/dev/null | grep "Succeeded" | wc -l)
 154     [[ $count == $succeeded ]]
 155 }
 156
 157 function networks_terminated {
 158     # The syncStatus will be the same whether we are instantiating or terminating an SR-IOV network
 159     networks_instantiated
 160 }
 161
 162 function kubevirt_instantiated {
 163     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get kubevirt -o jsonpath='{range .items[*]}{.status.phase}{"\n"}{end}' 2>/dev/null | grep "Deployed" | wc -l) == 1 ]]
 164     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get cdi -o jsonpath='{range .items[*]}{.status.phase}{"\n"}{end}' 2>/dev/null | grep "Deployed" | wc -l) == 1 ]]
 165 }
 166
 167 function kubevirt_terminated {
 168     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get kubevirt --no-headers 2>/dev/null | wc -l) == 0 ]]
 169     [[ $(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl -n ${ADDONS_NAMESPACE} get cdi --no-headers 2>/dev/null | wc -l) == 0 ]]
 170 }
 171
 172 #Apply addons
 173 printf "Applying KUD addons\n"
 174 pushd /opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/addons
 175 emcoctl apply 00-controllers.yaml
 176 emcoctl apply 01-cluster.yaml
 177 emcoctl apply 02-project.yaml
 178 emcoctl apply 03-addons-app.yaml
 179 popd
 180
 181 #Instantiate addons
 182 emcoctl instantiate addons
 183 wait_for addons_instantiated
 184 emcoctl instantiate networks
 185 wait_for networks_instantiated
 186 emcoctl instantiate kubevirt
 187 wait_for kubevirt_instantiated
 188
 189 #Test addons
 190 printf "Testing KUD addons\n"
 191 pushd /opt/kud/multi-cluster/addons/tests
 192 failed_kud_tests=""
 193 container_runtime=$(KUBECONFIG=${CLUSTER_KUBECONFIG} kubectl get nodes -o jsonpath='{.items[].status.nodeInfo.containerRuntimeVersion}')
 194 if [[ "${container_runtime}" == "containerd://1.2.13" ]]; then
 195     #With containerd 1.2.13, the qat test container image fails to unpack.
 196     kud_tests="topology-manager-sriov kubevirt multus ovn4nfv nfd sriov-network cmk"
 197 else
 198     kud_tests="topology-manager-sriov kubevirt multus ovn4nfv nfd sriov-network qat cmk"
 199 fi
 200 for test in ${kud_tests}; do
 201     KUBECONFIG=${CLUSTER_KUBECONFIG} bash ${test}.sh || failed_kud_tests="${failed_kud_tests} ${test}"
 202 done
 203 KUBECONFIG=${CLUSTER_KUBECONFIG} DEMO_FOLDER=${PWD} PATH=/opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts:${PATH} bash plugin_fw_v2.sh --external || failed_kud_tests="${failed_kud_tests} plugin_fw_v2"
 204 if [[ ! -z "$failed_kud_tests" ]]; then
 205     printf "Test cases failed:${failed_kud_tests}\n"
 206     exit 1
 207 fi
 208 popd
 209 printf "All test cases passed\n"
 210
 211 #Tear down setup
 212 printf "\n\nBeginning BMH E2E Test Teardown\n\n"
 213 emcoctl terminate kubevirt
 214 wait_for kubevirt_terminated
 215 emcoctl terminate networks
 216 wait_for networks_terminated
 217 emcoctl terminate addons
 218 wait_for addons_terminated
 219 pushd /opt/kud/multi-cluster/${CLUSTER_NAME}/artifacts/addons
 220 emcoctl delete 03-addons-app.yaml
 221 emcoctl delete 02-project.yaml
 222 emcoctl delete 01-cluster.yaml
 223 emcoctl delete 00-controllers.yaml
 224 popd
 225 kubectl delete -f e2etest/e2e_test_provisioning_cr.yaml
 226 kubectl delete job kud-${CLUSTER_NAME}
 227 kubectl delete --ignore-not-found=true configmap ${CLUSTER_NAME}-configmap
 228 rm e2etest/e2e_test_provisioning_cr.yaml
 229 rm -rf /opt/kud/multi-cluster/${CLUSTER_NAME}
 230 rm -rf /opt/kud/multi-cluster/addons
 231 make delete