GSP012

Informações gerais

Neste laboratório, você vai analisar um grande conjunto de dados (137 milhões de linhas) de natalidade com o BigQuery e a Vertex AI.

Conteúdo do laboratório

Neste laboratório, você vai:

• Iniciar um notebook da Vertex AI
• Invocar uma consulta do BigQuery
• Criar gráficos no Jupyter
• Exportar dados para machine learning

Este laboratório mostra como realizar análises detalhadas de grandes conjuntos de dados usando ferramentas conhecidas, como Pandas e Jupyter. O segredo é fazer a primeira parte da agregação no BigQuery, recuperar um DataFrame do Pandas e trabalhar localmente com o DataFrame menor do Pandas. A Vertex AI oferece uma experiência gerenciada do Jupyter, para que você não precise executar servidores de notebook por conta própria.

Configuração

Antes de clicar no botão Start Lab

Leia estas instruções. Os laboratórios são cronometrados e não podem ser pausados. O timer é iniciado quando você clica em Começar o laboratório e mostra por quanto tempo os recursos do Google Cloud vão ficar disponíveis.

Este laboratório prático permite que você realize as atividades em um ambiente real de nuvem, não em uma simulação ou demonstração. Você vai receber novas credenciais temporárias para fazer login e acessar o Google Cloud durante o laboratório.

Confira os requisitos para concluir o laboratório:

• Acesso a um navegador de Internet padrão (recomendamos o Chrome).

Observação: para executar este laboratório, use o modo de navegação anônima ou uma janela anônima do navegador. Isso evita conflitos entre sua conta pessoal e a conta de estudante, o que poderia causar cobranças extras na sua conta pessoal.

• Tempo para concluir o laboratório---não se esqueça: depois de começar, não será possível pausar o laboratório.

Observação: não use seu projeto ou conta do Google Cloud neste laboratório para evitar cobranças extras na sua conta.

Como iniciar seu laboratório e fazer login no console do Google Cloud

1. Clique no botão Começar o laboratório. Se for preciso pagar, você verá um pop-up para selecionar a forma de pagamento. No painel Detalhes do laboratório à esquerda, você verá o seguinte:

   • O botão Abrir Console do Cloud
   • Tempo restante
   • As credenciais temporárias que você vai usar neste laboratório
   • Outras informações se forem necessárias

2. Clique em Abrir Console do Google. O laboratório ativa recursos e depois abre outra guia com a página Fazer login.

   Dica: coloque as guias em janelas separadas lado a lado.

   Observação: se aparecer a caixa de diálogo Escolher uma conta, clique em Usar outra conta.

3. Caso seja preciso, copie o Nome de usuário no painel Detalhes do laboratório e cole esse nome na caixa de diálogo Fazer login. Clique em Avançar.

4. Copie a Senha no painel Detalhes do laboratório e a cole na caixa de diálogo Olá. Clique em Avançar.

   Importante: você precisa usar as credenciais do painel à esquerda. Não use suas credenciais do Google Cloud Ensina. Observação: se você usar sua própria conta do Google Cloud neste laboratório, é possível que receba cobranças adicionais.

5. Acesse as próximas páginas:

   • Aceite os Termos e Condições.
   • Não adicione opções de recuperação nem autenticação de dois fatores (porque essa é uma conta temporária).
   • Não se inscreva em testes gratuitos.

Depois de alguns instantes, o console do GCP vai ser aberto nesta guia.

Observação: para ver uma lista dos produtos e serviços do Google Cloud, clique no Menu de navegação no canto superior esquerdo.

Ativar o Cloud Shell

O Cloud Shell é uma máquina virtual com várias ferramentas de desenvolvimento. Ele tem um diretório principal permanente de 5 GB e é executado no Google Cloud. O Cloud Shell oferece acesso de linha de comando aos recursos do Google Cloud.

1. Clique em Ativar o Cloud Shell na parte de cima do console do Google Cloud.

Depois de se conectar, vai notar que sua conta já está autenticada, e que o projeto está configurado com seu PROJECT_ID. A saída contém uma linha que declara o projeto PROJECT_ID para esta sessão:

Your Cloud Platform project in this session is set to YOUR_PROJECT_ID

gcloud é a ferramenta de linha de comando do Google Cloud. Ela vem pré-instalada no Cloud Shell e aceita preenchimento com tabulação.

2. (Opcional) É possível listar o nome da conta ativa usando este comando:

gcloud auth list

3. Clique em Autorizar.

4. A saída será parecida com esta:

Saída:

ACTIVE: * ACCOUNT: student-01-xxxxxxxxxxxx@qwiklabs.net To set the active account, run: $ gcloud config set account `ACCOUNT`

5. (Opcional) É possível listar o ID do projeto usando este comando:

gcloud config list project

Saída:

[core] project = <project_ID>

Exemplo de saída:

[core] project = qwiklabs-gcp-44776a13dea667a6 Observação: para conferir a documentação completa da gcloud, acesse o guia com informações gerais sobre a gcloud CLI no Google Cloud.

Tarefa 1: invocar o BigQuery

Abrir o console do BigQuery

1. No Console do Google Cloud, selecione o menu de navegação > BigQuery:

Você verá a caixa de mensagem Olá! Este é o BigQuery no Console do Cloud. Ela tem um link para o guia de início rápido e as notas de versão.

2. Clique em OK.

O console do BigQuery vai abrir.

3. No editor de consultas, insira a seguinte consulta:

SELECT plurality, COUNT(1) AS num_babies, AVG(weight_pounds) AS ave_weight FROM `bigquery-public-data.samples.natality` WHERE year > 2000 AND year < 2005 GROUP BY plurality

4. Clique em Executar.

5. Analise o resultado. Quantos trigêmeos nasceram nos EUA entre 2000 e 2005?

Clique em Verificar meu progresso para conferir o objetivo.

Invoque o BigQuery e execute uma consulta.

Tarefa 2: iniciar Notebooks da Vertex AI

1. No console do Cloud, no campo de pesquisa, digite "vertex" e clique em Vertex AI nos resultados.

2. No menu à esquerda clique em Workbench.

3. Clique no botão Habilitar a API Notebooks.

4. Na parte de cima da página do Workbench, clique em + Criar novo.

5. No pop-up, escolha um nome para seu notebook. Para Região selecione e para Zona selecione uma zona dentro dessa região.

6. Para Ambiente selecione "Python 3 (com Intel® MKL)"

7. Não altere os valores padrão dos outros campos e clique em Criar.

8. Clique em Abrir o JupyterLab. Uma janela do JupyterLab será aberta em uma nova guia.

Clique em Verificar meu progresso para conferir o objetivo.

Criar instância de notebook da Vertex AI

Tarefa 3: visualizar dados na Vertex AI

1. No JupyterLab, clique em Notebook > Python 3 para iniciar um novo notebook.

2. Insira o código a seguir para importar a biblioteca de cliente Python do BigQuery e inicializar um cliente. O cliente BigQuery será usado para enviar e receber mensagens da API BigQuery.

from google.cloud import bigquery client = bigquery.Client()

3. Pressione Shift + Enter para executar a célula.

4. Adicione o seguinte na próxima célula do notebook para executar uma consulta no conjunto de dados público de natalidade do BigQuery:

sql = """ SELECT plurality, COUNT(1) AS count, year FROM `bigquery-public-data.samples.natality` WHERE NOT IS_NAN(plurality) AND plurality > 1 GROUP BY plurality, year ORDER BY count DESC """ df = client.query(sql).to_dataframe() df.head()

Esse conjunto de dados descreve todos os nascimentos registrados nos Estados Unidos de 1969 a 2008. A consulta retorna a contagem anual de nascimentos de gêmeos por pluralidade (2 para gêmeos, 3 para trigêmeos etc.).

5. Pressione Shift + Enter para executar a célula.

Você acabou de executar uma consulta na nuvem. O início do DataFrame (as 5 primeiras linhas) é exibido abaixo da célula de código. Os resultados completos estão disponíveis para análise adicional em um DataFrame do Pandas.

Executar uma consulta para obter a contagem anual de nascimentos plurais por pluralidade

6. Insira o seguinte código na próxima célula para reduzir os dados e criar um gráfico de barras empilhadas da contagem de nascimentos plurais em função do tempo:

pivot_table = df.pivot(index='year', columns='plurality', values='count') pivot_table.plot(kind='bar', stacked=True, figsize=(15,7));

Depois, confira o peso dos bebês por sexo.

7. Na próxima célula, insira o seguinte comando e execute a célula:

sql = """ SELECT is_male, AVG(weight_pounds) AS ave_weight FROM `bigquery-public-data.samples.natality` GROUP BY is_male """ df = client.query(sql).to_dataframe() df.plot(x='is_male', y='ave_weight', kind='bar');

Bebês do sexo masculino são mais pesados ou mais leves que bebês do sexo feminino? Isso corresponde às suas expectativas?

Executar uma consulta para obter o peso do bebê por sexo

Para a última visualização, confira abaixo como o peso dos bebês varia de acordo com o número de semanas gestacionais.

8. Digite o seguinte comando na próxima célula e execute-a:

sql = """ SELECT gestation_weeks, AVG(weight_pounds) AS ave_weight FROM `bigquery-public-data.samples.natality` WHERE NOT IS_NAN(gestation_weeks) AND gestation_weeks <> 99 GROUP BY gestation_weeks ORDER BY gestation_weeks """ df = client.query(sql).to_dataframe() df.plot(x='gestation_weeks', y='ave_weight', kind='bar'); Observação: como o campo gestation_weeks permite valores nulos e armazena valores desconhecidos como 99, esta consulta exclui registros em que gestation_weeks é nulo ou igual a 99.

Agora você tem um gráfico que mostra como o peso dos bebês se relaciona ao número de semanas gestacionais.

Execute uma consulta para obter o peso do bebê relacionado ao número de semanas de gestação.

Parabéns!

Você aprendeu como iniciar um notebook da Vertex AI, executar consultas com o BigQuery e criar um gráfico para mostrar seus resultados.

Termine sua Quest

Este laboratório autoguiado faz parte da Quest Scientific Data Processing. Uma Quest é uma série de laboratórios relacionados que formam um programa de aprendizado. Ao concluir uma Quest, você ganha um selo como reconhecimento da sua conquista. Você pode publicar os selos com um link para eles no seu currículo on-line ou nas redes sociais. Inscreva-se nesta Quest ou em outra que tenha este laboratório para receber os créditos de conclusão imediatamente. Consulte o catálogo do Google Cloud Ensina para ver todas as Quests disponíveis.

Comece o próximo laboratório

Continue sua Quest com Predição do peso do bebê com TensorFlow no Cloud ML Engine, ou tente o lab abaixo:

• Dados meteorológicos no BigQuery

Treinamento e certificação do Google Cloud

Esses treinamentos ajudam você a aproveitar as tecnologias do Google Cloud ao máximo. Nossas aulas incluem habilidades técnicas e práticas recomendadas para ajudar você a alcançar rapidamente o nível esperado e continuar sua jornada de aprendizado. Oferecemos treinamentos que vão do nível básico ao avançado, com opções de aulas virtuais, sob demanda e por meio de transmissões ao vivo para que você possa encaixá-las na correria do seu dia a dia. As certificações validam sua experiência e comprovam suas habilidades com as tecnologias do Google Cloud.

Manual atualizado em 17 de outubro de 2023

Laboratório testado em 19 de outubro de 2023

Copyright 2024 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de produtos e empresas podem ser marcas registradas das respectivas empresas a que estão associados.