GSP207

개요

이 실습에서는 Cloud 콘솔을 사용하여 Python 개발 환경을 설정하고, Python용 Cloud Dataflow SDK를 가져오고, 예시 파이프라인을 실행합니다.

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머에는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지 표시됩니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 직접 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학생 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간---실습을 시작하고 나면 일시중지할 수 없습니다.

참고: 계정에 추가 요금이 발생하지 않도록 하려면 개인용 Google Cloud 계정이나 프로젝트가 이미 있어도 이 실습에서는 사용하지 마세요.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 팝업이 열립니다. 왼쪽에는 다음과 같은 항목이 포함된 실습 세부정보 패널이 있습니다.

   • Google 콘솔 열기 버튼
   • 남은 시간
   • 이 실습에 사용해야 하는 임시 사용자 인증 정보
   • 필요한 경우 실습 진행을 위한 기타 정보

2. Google 콘솔 열기를 클릭합니다. 실습에서 리소스가 가동된 후 로그인 페이지가 표시된 다른 탭이 열립니다.

   팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

   참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.

3. 필요한 경우 실습 세부정보 패널에서 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다. 다음을 클릭합니다.

4. 실습 세부정보 패널에서 비밀번호를 복사하여 시작 대화상자에 붙여넣습니다. 다음을 클릭합니다.

   중요: 왼쪽 패널에 표시된 사용자 인증 정보를 사용해야 합니다. Google Cloud Skills Boost 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.

5. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

   • 이용약관에 동의합니다.
   • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 않습니다.
   • 무료 평가판을 신청하지 않습니다.

잠시 후 Cloud 콘솔이 이 탭에서 열립니다.

참고: 왼쪽 상단에 있는 탐색 메뉴를 클릭하면 Google Cloud 제품 및 서비스 목록이 있는 메뉴를 볼 수 있습니다.

Cloud Shell 활성화

Cloud Shell은 다양한 개발 도구가 탑재된 가상 머신으로, 5GB의 영구 홈 디렉터리를 제공하며 Google Cloud에서 실행됩니다. Cloud Shell을 사용하면 명령줄을 통해 Google Cloud 리소스에 액세스할 수 있습니다.

1. Google Cloud 콘솔 상단에서 Cloud Shell 활성화 를 클릭합니다.

연결되면 사용자 인증이 이미 처리된 것이며 프로젝트가 PROJECT_ID로 설정됩니다. 출력에 이 세션의 PROJECT_ID를 선언하는 줄이 포함됩니다.

Your Cloud Platform project in this session is set to YOUR_PROJECT_ID

gcloud는 Google Cloud의 명령줄 도구입니다. Cloud Shell에 사전 설치되어 있으며 명령줄 자동 완성을 지원합니다.

2. (선택사항) 다음 명령어를 사용하여 활성 계정 이름 목록을 표시할 수 있습니다.

gcloud auth list

3. 승인을 클릭합니다.

4. 다음과 비슷한 결과가 출력됩니다.

출력:

ACTIVE: * ACCOUNT: student-01-xxxxxxxxxxxx@qwiklabs.net To set the active account, run: $ gcloud config set account `ACCOUNT`

5. (선택사항) 다음 명령어를 사용하여 프로젝트 ID 목록을 표시할 수 있습니다.

gcloud config list project

출력:

[core] project = <project_ID>

출력 예시:

[core] project = qwiklabs-gcp-44776a13dea667a6 참고: gcloud 전체 문서는 Google Cloud에서 gcloud CLI 개요 가이드를 참조하세요.

리전 설정

• Cloud Shell에서 다음 명령어를 실행하여 이 실습을 위한 프로젝트 리전을 설정합니다.

gcloud config set compute/region {{{project_0.default_region | "REGION"}}}

Dataflow API가 사용 설정되어 있는지 확인하기

필요한 API에 액세스할 수 있도록 Dataflow API에 대한 연결을 다시 시작합니다.

1. Cloud 콘솔의 상단 검색창에 'Dataflow API'를 입력합니다. Dataflow API에 대한 검색결과를 클릭합니다.

2. 관리를 클릭합니다.

3. API 사용 중지를 클릭합니다.

확인을 요청하는 메시지가 표시되면 사용 중지를 클릭합니다.

4. 사용 설정을 클릭합니다.

API가 다시 사용 설정되면 페이지에 사용 중지 옵션이 표시됩니다.

작업 1. Cloud Storage 버킷 만들기

1. 탐색 메뉴()에서 Cloud Storage > 버킷을 클릭합니다.
2. 버킷 만들기를 클릭합니다.
3. 버킷 만들기 대화상자에서 다음 속성을 지정합니다.

• 이름: 고유한 버킷 이름을 지정하려면 다음 이름을 사용하세요. -bucket 버킷 네임스페이스는 전역적이며 전체 공개로 표시되기 때문에 버킷 이름에 민감한 정보를 포함하면 안 된다는 점을 유의하세요.
• 위치 유형: 멀티 리전
• 위치: us
• 버킷 데이터가 저장되는 위치를 입력합니다.

4. 만들기를 클릭합니다.

5. 공개 액세스가 차단되었다는 메시지가 표시되면 확인을 클릭합니다.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다. 성공적으로 작업을 완료하면 평가 점수가 부여됩니다.

Cloud Storage 버킷 만들기

작업 2. pip 및 Cloud Dataflow SDK 설치

1. 최신 Python용 Cloud Dataflow SDK에는 Python 버전 3.7 이상이 필요합니다.

올바른 버전으로 프로세스를 실행하는지 확인하려면 Python3.9 Docker 이미지를 실행합니다.

docker run -it -e DEVSHELL_PROJECT_ID=$DEVSHELL_PROJECT_ID python:3.9 /bin/bash

이 명령어는 최신 Python 3.9 안정화 버전으로 Docker 컨테이너를 가져온 후, 컨테이너 내부에서 다음 명령어를 실행할 수 있도록 명령어 셸을 엽니다.

2. 컨테이너를 실행한 후 가상 환경에서 다음 명령어를 실행하여 Python용 Apache Beam의 최신 버전을 설치합니다.

pip install 'apache-beam[gcp]'==2.42.0

종속 항목과 관련된 몇 가지 경고가 표시되지만 이 실습에서는 무시해도 됩니다.

3. 다음 명령어를 실행하여 wordcount.py 예시를 로컬에서 실행합니다.

python -m apache_beam.examples.wordcount --output OUTPUT_FILE 참고: 'google-cloud-dataflow'를 설치했지만 'wordcount'를 'apache_beam'으로 실행하고 있습니다. 그 이유는 Cloud Dataflow가 [Apache Beam]의 배포이기 때문입니다(https://github.com/Apache/beam).

다음과 유사한 메시지가 나타날 수 있습니다.

INFO:root:Missing pipeline option (runner). Executing pipeline using the default runner: DirectRunner. INFO:oauth2client.client:Attempting refresh to obtain initial access_token

이 메시지는 무시해도 됩니다.

4. 이제 로컬 클라우드 환경에 있는 파일 목록에서 OUTPUT_FILE의 이름을 확인할 수 있습니다.

ls

5. OUTPUT_FILE의 이름을 복사하고 cat 명령어로 캡처합니다.

cat <file name>

결과에는 파일에 포함된 각 단어와 이들이 사용된 횟수가 표시됩니다.

작업 3. 원격으로 예시 파이프라인 실행

1. 이전에 만든 버킷에 BUCKET 환경 변수를 설정합니다.

BUCKET=gs://<bucket name provided earlier>

2. 이제 wordcount.py 예시를 원격으로 실행합니다.

python -m apache_beam.examples.wordcount --project $DEVSHELL_PROJECT_ID \ --runner DataflowRunner \ --staging_location $BUCKET/staging \ --temp_location $BUCKET/temp \ --output $BUCKET/results/output \ --region {{{project_0.default_region | "filled in at lab start"}}}

출력에 메시지가 나타날 때까지 기다립니다.

JOB_MESSAGE_DETAILED: Workers have started successfully.

실습을 계속 진행합니다.

작업 4. 작업이 성공했는지 확인

1. 탐색 메뉴를 열고 서비스 목록에서 Dataflow를 클릭합니다.

처음에는 wordcount 작업의 상태가 실행 중으로 표시됩니다.

2. 프로세스를 보려면 이름을 클릭합니다. 모든 체크박스를 선택 취소하면 Cloud Shell에서 로그를 계속 볼 수 있습니다.

상태가 성공이면 프로세스가 완료된 것입니다.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다. 작업을 올바르게 완료하면 평가 점수가 부여됩니다.

원격으로 예시 파이프라인 실행

3. Cloud 콘솔에서 탐색 메뉴 > Cloud Storage를 클릭합니다.

4. 버킷의 이름을 클릭합니다. 버킷에서 results 및 staging 디렉터리를 확인할 수 있습니다.

5. results 폴더를 클릭하면 작업에서 만든 출력 파일이 표시됩니다.

6. 파일에 포함된 단어 수를 보려면 파일을 클릭합니다.

작업 5. 배운 내용 테스트하기

아래는 이 실습에서 배운 내용을 복습하기 위한 객관식 문제입니다. 최선을 다해 풀어보세요.

수고하셨습니다

퀘스트 완료

이 사용자 주도형 실습은 Baseline: Data, ML, AI 퀘스트의 일부입니다. 퀘스트는 연관성이 있는 여러 실습을 하나의 학습 과정으로 구성한 것입니다. 이 퀘스트를 완료하면 배지를 얻고 수료를 인증할 수 있습니다. 배지를 공개하고 온라인 이력서 또는 소셜 미디어 계정에 연결할 수 있습니다. 이 퀘스트에 등록하거나 이 실습이 포함된 퀘스트에 등록하여 즉시 수료 크레딧을 받으세요. Google Cloud Skills Boost 카탈로그에서 등록할 수 있는 모든 퀘스트를 확인하세요.

다음 단계/더 학습하기

이 실습은 Qwik Start 실습 시리즈 중 하나이며, Google Cloud에서 제공하는 다양한 기능을 간략하게나마 소개하고자 마련되었습니다. Google Cloud Skills Boost 카탈로그에서 'Qwik Start'를 검색하여 다음으로 참여할 실습을 찾아보세요.

이 실습의 바탕이 된 서적은 Data Science on the Google Cloud Platform: O'Reilly Media, Inc.입니다.

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2023년 5월 4일

실습 최종 테스트: 2023년 5월 4일

Copyright 2024 Google LLC All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.