GSP207

Visão geral

Neste laboratório, você vai configurar um ambiente de desenvolvimento em Python, acessar o SDK do Cloud Dataflow para Python e executar um pipeline de exemplo usando o Console do Cloud.

Configuração e requisitos

Antes de clicar no botão Start Lab

Leia estas instruções. Os laboratórios são cronometrados e não podem ser pausados. O timer é iniciado quando você clica em Começar o laboratório e mostra por quanto tempo os recursos do Google Cloud vão ficar disponíveis.

Este laboratório prático permite que você realize as atividades em um ambiente real de nuvem, não em uma simulação ou demonstração. Você vai receber novas credenciais temporárias para fazer login e acessar o Google Cloud durante o laboratório.

Confira os requisitos para concluir o laboratório:

• Acesso a um navegador de Internet padrão (recomendamos o Chrome).

Observação: para executar este laboratório, use o modo de navegação anônima ou uma janela anônima do navegador. Isso evita conflitos entre sua conta pessoal e a conta de estudante, o que poderia causar cobranças extras na sua conta pessoal.

• Tempo para concluir o laboratório---não se esqueça: depois de começar, não será possível pausar o laboratório.

Observação: não use seu projeto ou conta do Google Cloud neste laboratório para evitar cobranças extras na sua conta.

Como iniciar seu laboratório e fazer login no console do Google Cloud

1. Clique no botão Começar o laboratório. Se for preciso pagar, você verá um pop-up para selecionar a forma de pagamento. No painel Detalhes do laboratório à esquerda, você verá o seguinte:

   • O botão Abrir Console do Cloud
   • Tempo restante
   • As credenciais temporárias que você vai usar neste laboratório
   • Outras informações se forem necessárias

2. Clique em Abrir Console do Google. O laboratório ativa recursos e depois abre outra guia com a página Fazer login.

   Dica: coloque as guias em janelas separadas lado a lado.

   Observação: se aparecer a caixa de diálogo Escolher uma conta, clique em Usar outra conta.

3. Caso seja preciso, copie o Nome de usuário no painel Detalhes do laboratório e cole esse nome na caixa de diálogo Fazer login. Clique em Avançar.

4. Copie a Senha no painel Detalhes do laboratório e a cole na caixa de diálogo Olá. Clique em Avançar.

   Importante: você precisa usar as credenciais do painel à esquerda. Não use suas credenciais do Google Cloud Ensina. Observação: se você usar sua própria conta do Google Cloud neste laboratório, é possível que receba cobranças adicionais.

5. Acesse as próximas páginas:

   • Aceite os Termos e Condições.
   • Não adicione opções de recuperação nem autenticação de dois fatores (porque essa é uma conta temporária).
   • Não se inscreva em testes gratuitos.

Depois de alguns instantes, o console do GCP vai ser aberto nesta guia.

Observação: para ver uma lista dos produtos e serviços do Google Cloud, clique no Menu de navegação no canto superior esquerdo.

Ativar o Cloud Shell

O Cloud Shell é uma máquina virtual com várias ferramentas de desenvolvimento. Ele tem um diretório principal permanente de 5 GB e é executado no Google Cloud. O Cloud Shell oferece acesso de linha de comando aos recursos do Google Cloud.

1. Clique em Ativar o Cloud Shell na parte de cima do console do Google Cloud.

Depois de se conectar, vai notar que sua conta já está autenticada, e que o projeto está configurado com seu PROJECT_ID. A saída contém uma linha que declara o projeto PROJECT_ID para esta sessão:

Your Cloud Platform project in this session is set to YOUR_PROJECT_ID

gcloud é a ferramenta de linha de comando do Google Cloud. Ela vem pré-instalada no Cloud Shell e aceita preenchimento com tabulação.

2. (Opcional) É possível listar o nome da conta ativa usando este comando:

gcloud auth list

3. Clique em Autorizar.

4. A saída será parecida com esta:

Saída:

ACTIVE: * ACCOUNT: student-01-xxxxxxxxxxxx@qwiklabs.net To set the active account, run: $ gcloud config set account `ACCOUNT`

5. (Opcional) É possível listar o ID do projeto usando este comando:

gcloud config list project

Saída:

[core] project = <project_ID>

Exemplo de saída:

[core] project = qwiklabs-gcp-44776a13dea667a6 Observação: para conferir a documentação completa da gcloud, acesse o guia com informações gerais sobre a gcloud CLI no Google Cloud.

Configurar a região

• No Cloud Shell, execute o seguinte comando para definir a região do projeto deste laboratório:

gcloud config set compute/region {{{project_0.default_region | "REGION"}}}

Ative a API Dataflow

Para ter acesso à API Dataflow, reinicie a conexão.

1. No console do Cloud, digite "API Dataflow" na barra de pesquisa superior. Clique no resultado para API Dataflow.

2. Selecione Gerenciar.

3. Clique em Desativar API.

Se for necessário confirmar, clique em Desativar.

4. Selecione Ativar.

A opção para desativar a API aparece quando ela é ativada novamente.

Tarefa 1: Crie um bucket do Cloud Storage

1. No Menu de navegação (), clique em Cloud Storage > Buckets.
2. Clique em Criar bucket.
3. Na caixa de diálogo Criar bucket, especifique os seguintes atributos:

• Nome: para garantir que o bucket tenha um nome exclusivo, use o seguinte: -bucket. O nome do bucket não deve incluir informações sensíveis porque o namespace dele é global e aparece para o público.
• Tipo de local: multirregional
• Local: us
• Defina o local onde os dados do bucket serão armazenados.

4. Clique em Criar.

5. Se a mensagem "O acesso público será bloqueado" aparecer, clique em Confirmar.

Teste a tarefa concluída

Clique em Verificar meu progresso para conferir a tarefa realizada. Se a tarefa tiver sido concluída corretamente, você vai receber uma pontuação de avaliação.

Crie um bucket do Cloud Storage.

Tarefa 2: Instale o pip e o SDK do Cloud Dataflow

1. O SDK do Cloud Dataflow mais recente exige uma versão do Python igual ou posterior à 3.7.

Para garantir que você está executando o processo com a versão correta, execute a imagem do Docker Python3.9:

docker run -it -e DEVSHELL_PROJECT_ID=$DEVSHELL_PROJECT_ID python:3.9 /bin/bash

Esse comando extrai um contêiner do Docker com a versão estável mais recente do Python 3.9 e, em seguida, abre um shell para que você possa executar os comandos abaixo dentro do contêiner.

2. Depois que o contêiner estiver em execução, instale a versão mais recente do Apache Beam para Python executando o comando a seguir em um ambiente virtual:

pip install 'apache-beam[gcp]'==2.42.0

Você vai receber alguns avisos relacionados às dependências. Eles podem ser ignorados sem problemas neste laboratório.

3. Execute o exemplo do wordcount.py localmente com o seguinte comando:

python -m apache_beam.examples.wordcount --output OUTPUT_FILE Observação: você instalou "google-cloud-dataflow", mas está executando "wordcount" com "Apache_beam". Isso acontece porque o Cloud Dataflow é uma distribuição do [Apache Beam](https://github.com/Apache/beam).

Uma mensagem como esta pode aparecer:

INFO:root:Missing pipeline option (runner). Executing pipeline using the default runner: DirectRunner. INFO:oauth2client.client:Attempting refresh to obtain initial access_token

Ela pode ser ignorada.

4. Liste os arquivos do seu ambiente de nuvem local para gerar o nome de OUTPUT_FILE:

ls

5. Copie o nome de OUTPUT_FILE e cat nele:

cat <file name>

Os resultados mostram cada palavra no arquivo e quantas vezes ela aparece.

Tarefa 3: Execute um pipeline de exemplo remotamente

1. Defina a variável de ambiente BUCKET para o bucket que você criou anteriormente:

BUCKET=gs://<bucket name provided earlier>

2. Agora você vai executar o exemplo wordcount.py remotamente:

python -m apache_beam.examples.wordcount --project $DEVSHELL_PROJECT_ID \ --runner DataflowRunner \ --staging_location $BUCKET/staging \ --temp_location $BUCKET/temp \ --output $BUCKET/results/output \ --region {{{project_0.default_region | "filled in at lab start"}}}

Aguarde até esta mensagem aparecer na resposta:

JOB_MESSAGE_DETAILED: Workers have started successfully.

Continue o laboratório.

Tarefa 4: Confirme que o job foi concluído

1. Abra o Menu de navegação e selecione Dataflow na lista de serviços.

Primeiro você verá seu job wordcount com o status Em execução.

2. Clique no nome dele para assistir ao processo. Quando todas as caixas estiverem marcadas, você poderá continuar monitorando os registros no Cloud Shell.

O processo vai estar completo quando o status for Concluído.

Teste a tarefa concluída

Clique em Verificar meu progresso para conferir a tarefa realizada. Se você concluiu a tarefa, vai receber uma pontuação de avaliação.

Execute um pipeline de exemplo remotamente.

3. Clique em Menu de navegação > Cloud Storage no Console do Cloud.

4. Clique no nome do bucket. Nele, você vai encontrar os diretórios resultados e preparo.

5. Clique na pasta results para ver os arquivos de saída criados pelo seu job:

6. Clique em um arquivo para ver a contagem de palavras dele.

Tarefa 5: Teste seu conhecimento

Responda às perguntas de múltipla escolha a seguir para reforçar os conceitos abordados neste laboratório. Use tudo o que aprendeu até aqui.

Parabéns!

Termine a Quest

Este laboratório autoguiado faz parte da Quest Baseline: Data, ML, AI. Uma Quest é uma série de laboratórios relacionados que formam um programa de aprendizado. Ao concluir uma Quest, você ganha um selo como reconhecimento da sua conquista. Você pode publicar os selos com um link para eles no seu currículo on-line ou nas redes sociais. Inscreva-se nesta Quest ou em outra que tenha este laboratório para receber os créditos de conclusão na hora. Consulte o catálogo do Google Cloud Ensina para ver todas as Quests disponíveis.

Próximas etapas/Saiba mais

Este laboratório faz parte de uma série chamada Qwik Starts. Ela foi desenvolvida para apresentar a você alguns dos recursos disponíveis no Google Cloud. Pesquise "Qwik Starts" no Catálogo do Google Cloud Ensina para encontrar algum curso que seja do seu interesse.

Para ter sua própria cópia do livro que foi a base deste laboratório, acesse Data Science on the Google Cloud Platform, da O'Reilly Media, Inc (em inglês).

Treinamento e certificação do Google Cloud

Esses treinamentos ajudam você a aproveitar as tecnologias do Google Cloud ao máximo. Nossas aulas incluem habilidades técnicas e práticas recomendadas para ajudar você a alcançar rapidamente o nível esperado e continuar sua jornada de aprendizado. Oferecemos treinamentos que vão do nível básico ao avançado, com opções de aulas virtuais, sob demanda e por meio de transmissões ao vivo para que você possa encaixá-las na correria do seu dia a dia. As certificações validam sua experiência e comprovam suas habilidades com as tecnologias do Google Cloud.

Manual atualizado em 4 de maio de 2023

Laboratório testado em 4 de maio de 2023

Copyright 2024 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de produtos e empresas podem ser marcas registradas das respectivas empresas a que estão associados.