arrow_back

Dataflow: Qwik Start - Python

Unirse Acceder
Test and share your knowledge with our community!
done
Get access to over 700 hands-on labs, skill badges, and courses

Dataflow: Qwik Start - Python

Lab 30 minutos universal_currency_alt 1 crédito show_chart Introductorio
Test and share your knowledge with our community!
done
Get access to over 700 hands-on labs, skill badges, and courses

GSP207

Labs de autoaprendizaje de Google Cloud

Descripción general

En este lab, configurarás el entorno de desarrollo de Python, obtendrás el SDK de Cloud Dataflow para Python y ejecutarás una canalización de ejemplo con la consola de Cloud.

Configuración y requisitos

Antes de hacer clic en el botón Comenzar lab

Lee estas instrucciones. Los labs son cronometrados y no se pueden pausar. El cronómetro, que comienza a funcionar cuando haces clic en Comenzar lab, indica por cuánto tiempo tendrás a tu disposición los recursos de Google Cloud.

Este lab práctico te permitirá realizar las actividades correspondientes en un entorno de nube real, no en uno de simulación o demostración. Para ello, se te proporcionan credenciales temporales nuevas que utilizarás para acceder a Google Cloud durante todo el lab.

Para completar este lab, necesitarás lo siguiente:

  • Acceso a un navegador de Internet estándar (se recomienda el navegador Chrome)
Nota: Usa una ventana de navegador privada o de Incógnito para ejecutar este lab. Así evitarás cualquier conflicto entre tu cuenta personal y la cuenta de estudiante, lo que podría generar cargos adicionales en tu cuenta personal.
  • Tiempo para completar el lab: Recuerda que, una vez que comienzas un lab, no puedes pausarlo.
Nota: Si ya tienes un proyecto o una cuenta personal de Google Cloud, no los uses en este lab para evitar cargos adicionales en tu cuenta.

Cómo iniciar su lab y acceder a la consola de Google Cloud

  1. Haga clic en el botón Comenzar lab. Si debe pagar por el lab, se abrirá una ventana emergente para que seleccione su forma de pago. A la izquierda, se encuentra el panel Detalles del lab que tiene estos elementos:

    • El botón Abrir la consola de Google
    • Tiempo restante
    • Las credenciales temporales que debe usar para el lab
    • Otra información para completar el lab, si es necesaria
  2. Haga clic en Abrir la consola de Google. El lab inicia recursos y abre otra pestaña en la que se muestra la página de acceso.

    Sugerencia: Ordene las pestañas en ventanas separadas, una junto a la otra.

    Nota: Si ve el diálogo Elegir una cuenta, haga clic en Usar otra cuenta.
  3. Si es necesario, copie el nombre de usuario del panel Detalles del lab y péguelo en el cuadro de diálogo Acceder. Haga clic en Siguiente.

  4. Copie la contraseña del panel Detalles del lab y péguela en el cuadro de diálogo de bienvenida. Haga clic en Siguiente.

    Importante: Debe usar las credenciales del panel de la izquierda. No use sus credenciales de Google Cloud Skills Boost. Nota: Usar su propia Cuenta de Google podría generar cargos adicionales.
  5. Haga clic para avanzar por las páginas siguientes:

    • Acepte los términos y condiciones.
    • No agregue opciones de recuperación o autenticación de dos factores (esta es una cuenta temporal).
    • No se registre para obtener pruebas gratuitas.

Después de un momento, se abrirá la consola de Cloud en esta pestaña.

Nota: Para ver el menú con una lista de los productos y servicios de Google Cloud, haga clic en el Menú de navegación que se encuentra en la parte superior izquierda de la pantalla. Ícono del menú de navegación

Activa Cloud Shell

Cloud Shell es una máquina virtual que cuenta con herramientas para desarrolladores. Ofrece un directorio principal persistente de 5 GB y se ejecuta en Google Cloud. Cloud Shell proporciona acceso de línea de comandos a tus recursos de Google Cloud.

  1. Haz clic en Activar Cloud Shell Ícono de Activar Cloud Shell en la parte superior de la consola de Google Cloud.

Cuando te conectes, habrás completado la autenticación, y el proyecto estará configurado con tu PROJECT_ID. El resultado contiene una línea que declara el PROJECT_ID para esta sesión:

Your Cloud Platform project in this session is set to YOUR_PROJECT_ID

gcloud es la herramienta de línea de comandos de Google Cloud. Viene preinstalada en Cloud Shell y es compatible con la función de autocompletado con tabulador.

  1. Puedes solicitar el nombre de la cuenta activa con este comando (opcional):
gcloud auth list
  1. Haz clic en Autorizar.

  2. Ahora, el resultado debería verse de la siguiente manera:

Resultado:

ACTIVE: * ACCOUNT: student-01-xxxxxxxxxxxx@qwiklabs.net To set the active account, run: $ gcloud config set account `ACCOUNT`
  1. Puedes solicitar el ID del proyecto con este comando (opcional):
gcloud config list project

Resultado:

[core] project = <project_ID>

Resultado de ejemplo:

[core] project = qwiklabs-gcp-44776a13dea667a6 Nota: Para obtener toda la documentación de gcloud, consulta la guía con la descripción general de gcloud CLI en Google Cloud.

Configura la región

  • En Cloud Shell, ejecuta el siguiente comando para establecer la región del proyecto en este lab:
gcloud config set compute/region {{{project_0.default_region | "REGION"}}}

Asegúrate de que la API de Dataflow esté habilitada de forma correcta

Para garantizar el acceso a la API necesaria, reinicia la conexión a la API de Dataflow.

  1. En la consola de Cloud, ingresa “API de Dataflow” en la barra de búsqueda superior. Haz clic en el resultado de API de Dataflow.

  2. Haz clic en Administrar.

  3. Haz clic en Inhabilitar API.

Si se te solicita confirmar, haz clic en Inhabilitar.

  1. Haz clic en Habilitar.

Cuando se haya habilitado de nuevo la API, se mostrará en la página la opción para inhabilitarla.

Tarea 1: Crea un bucket de Cloud Storage

  1. En el menú de navegación (Ícono del menú de navegación), haz clic en Cloud Storage > Buckets.
  2. Haz clic en Crear bucket.
  3. En el diálogo Crear bucket, especifica los siguientes atributos:
  • Nombre: Para que tengas un nombre de bucket único, usa -bucket. Este nombre no incluye información sensible, ya que el espacio de nombres del bucket es global y tiene visibilidad pública.
  • Tipo de ubicación: Multirregional
  • Ubicación: us
  • Una ubicación donde se almacenarán los datos del bucket
  1. Haz clic en Crear.

  2. Si aparece el mensaje Se impedirá el acceso público, haz clic en Confirmar.

Prueba la tarea completada

Haz clic en Revisar mi progreso para verificar la tarea realizada. Si la completaste correctamente, se te otorgará una puntuación de evaluación.

Crea un bucket de Cloud Storage.

Tarea 2: Instala pip y el SDK de Cloud Dataflow

  1. El último SDK de Cloud Dataflow para Python requiere una versión de Python >= 3.7.

Para asegurarte de que estés ejecutando el proceso con la versión correcta, ejecuta la imagen de Docker Python3.9:

docker run -it -e DEVSHELL_PROJECT_ID=$DEVSHELL_PROJECT_ID python:3.9 /bin/bash

Con este comando, se obtiene un contenedor de Docker con la versión estable más reciente de Python 3.9 y, luego, se abre un shell de comandos para que ejecutes los siguientes comandos en el contenedor.

  1. Cuando se esté ejecutando el contenedor, utiliza el siguiente comando desde un entorno virtual para instalar la versión más reciente de Apache Beam para Python:
pip install 'apache-beam[gcp]'==2.42.0

Verás que se devuelven algunas advertencias relacionadas con las dependencias. Puedes omitirlas en este lab.

  1. Ejecuta el ejemplo de wordcount.py de manera local con el siguiente comando:
python -m apache_beam.examples.wordcount --output OUTPUT_FILE Nota: Si bien instalaste `google-cloud-dataflow`, se ejecuta `wordcount` con `Apache_beam`, ya que Cloud Dataflow es una distribución de [Apache Beam](https://github.com/Apache/beam).

Es posible que veas un mensaje similar al siguiente:

INFO:root:Missing pipeline option (runner). Executing pipeline using the default runner: DirectRunner. INFO:oauth2client.client:Attempting refresh to obtain initial access_token

Puedes ignorarlo.

  1. Ahora puedes ver una lista de los archivos que se encuentran en tu entorno de nube local para obtener el nombre del archivo OUTPUT_FILE:
ls
  1. Copia el nombre de los archivos OUTPUT_FILE y cat:
cat <file name>

Tus resultados muestran cada palabra en el archivo y la cantidad de veces que aparecen.

Tarea 3: Ejecuta una canalización de ejemplo de manera remota

  1. Establece la variable de entorno BUCKET en el bucket creado anteriormente:
BUCKET=gs://<bucket name provided earlier>
  1. Ahora ejecutarás el ejemplo de wordcount.py de manera remota:
python -m apache_beam.examples.wordcount --project $DEVSHELL_PROJECT_ID \ --runner DataflowRunner \ --staging_location $BUCKET/staging \ --temp_location $BUCKET/temp \ --output $BUCKET/results/output \ --region {{{project_0.default_region | "filled in at lab start"}}}

Espera hasta que veas el siguiente mensaje en tu resultado:

JOB_MESSAGE_DETAILED: Workers have started successfully.

Luego, continúa con el lab.

Tarea 4: Comprueba si el trabajo se ejecutó de forma correcta.

  1. Abre el Menú de navegación y haz clic en Dataflow de la lista de servicios:

Primero, deberías ver el trabajo wordcount con el estado En ejecución.

  1. Haz clic en el nombre para ver el proceso. Cuando todas las casillas estén marcadas, puedes seguir consultando los registros en Cloud Shell.

El proceso finaliza cuando el estado es Correcto.

Prueba la tarea completada

Haz clic en Revisar mi progreso para verificar la tarea realizada. Si la completó correctamente, se te otorgará una puntuación de evaluación.

Ejecuta una canalización de ejemplo de manera remota.
  1. Haz clic en el menú de navegación > Cloud Storage en la consola de Cloud.

  2. Haz clic en el nombre de tu bucket. En él, deberías ver los directorios results y staging.

  3. Haz clic en la carpeta results para ver los archivos de salida que creó tu trabajo:

  4. Haz clic en un archivo para consultar los recuentos de palabras.

Tarea 5: Pon a prueba tus conocimientos

Aquí tienes una pregunta de opción múltiple para reforzar tus conocimientos sobre los conceptos de este lab. Intenta responderla correctamente.

¡Felicitaciones!

Finaliza tu Quest

Este lab de autoaprendizaje forma parte de la Quest Baseline: Data, ML, AI. Una Quest es una serie de labs relacionados que forman una ruta de aprendizaje. Si completas esta Quest, obtendrás una insignia como reconocimiento por tu logro. Puedes hacer públicas tus insignias y agregar vínculos a ellas en tu currículum en línea o en tus cuentas de redes sociales. Inscríbete en esta Quest o en cualquiera que contenga este lab y obtén un crédito inmediato de finalización. Consulta el catálogo de Google Cloud Skills Boost para ver todas las Quests disponibles.

Próximos pasos/Más información

Este lab forma parte de una serie llamada Qwik Starts. Estos labs están diseñados para ofrecerte una visión general de las numerosas funciones disponibles en Google Cloud. Busca “Qwik Starts” en el catálogo de Google Cloud Skills Boost para elegir el siguiente lab en el que deseas participar.

Para obtener una copia del libro en el cual está basado este lab, visita Data Science on the Google Cloud Platform: O'Reilly Media, Inc.

Capacitación y certificación de Google Cloud

Recibe la formación que necesitas para aprovechar al máximo las tecnologías de Google Cloud. Nuestras clases incluyen habilidades técnicas y recomendaciones para ayudarte a avanzar rápidamente y a seguir aprendiendo. Para que puedas realizar nuestros cursos cuando más te convenga, ofrecemos distintos tipos de capacitación de nivel básico a avanzado: a pedido, presenciales y virtuales. Las certificaciones te ayudan a validar y demostrar tus habilidades y tu conocimiento técnico respecto a las tecnologías de Google Cloud.

Última actualización del manual: 4 de mayo de 2023

Prueba más reciente del lab: 4 de mayo de 2023

Copyright 2024 Google LLC. All rights reserved. Google y el logotipo de Google son marcas de Google LLC. Los demás nombres de productos y empresas pueden ser marcas de las respectivas empresas a las que estén asociados.