본문 바로가기

강의/Udacity ML

(42)
3.9 AWS DeepRacer를 활용한 강화학습 기본용어 Agent 교육 중인 소프트웨어를 에이전트라고 한다. 에이전트는 목표에 도달하기 위해 환경에서 결정을 내린다. AWS DeepRacer 차량으로 트랙을 최대한 빨리 도는 것이 목표이며, 어떤 경우에는 장애물을 피하는 것도 목표이다. Evironment 환경은 우리 요원들이 상호작용하는 주변 영역이다. AWS DeepRacer의 경우 시뮬레이터 또는 실제 환경에서 트랙이다. State 상태는 환경 내에서 에이전트에 표시되거나 알려진 현재 위치에 의해 정의된다. AWS DeepRacer의 경우 각 상태는 카메라에 캡처된 이미지이다. 차량의 초기 상태는 트랙의 출발선이며, 종단 상태는 차량이 랩을 완료하거나 장애물에 부딪히거나 트랙을 벗어나 주행하는 경우이다. Action 모든 State에 대해 에이..
3.8 강화학습과 적용 강화학습 소개 강화학습(RL)에서는 에이전트가 환경과 상호작용하면서 받는 피드백을 바탕으로 목표를 달성하도록 교육받는다. 각 작업에 대한 보상으로 숫자를 수집한다. 에이전트가 목표를 달성하는 데 도움이 되는 작업은 숫자가 많을수록 인센티브가 부여된다. 도움이 되지 않는 행동은 보상이 적거나 아예 없는 결과를 낳는다. 시간 경과에 따른 총 누적 보상을 극대화하는 학습 목표를 통해 에이전트는 시행착오를 통해 유익한 행동을 상황에 매핑하는 방법을 학습한다. 에이전트가 더 잘 훈련될수록 목표를 달성하는 작업을 더 효율적으로 선택할 수 있습니다. 강화 학습 응용 프로그램 강화학습은 실제 문제 해결을 위해 다양한 분야에서 활용되고 있다. 장기 목표의 순차적 문제를 해결하는 데 특히 유용하다. 게임 적용 - 알파고 ..
3.6 AWS 를 사용한 예제 프로젝트 AWS DeepLens를 활용한 프로젝트를 하기 위해서 4가지가 필요하다. 데이터 수집 데이터를 수집하고 Amazon S3에 저장한다. 모델 훈련 Jupyter Notebook을 활용하여 모델을 훈련한다. 모델 탑재 AWS Lambda를 활용하여 모델을 올린다. 모델 확인 및 출력 Amazon IoT Greenrass를 활용하여 모델의 출력을 확인한다. 머신러닝 워크플로우 검토 문제 정의 우리는 기계 학습을 이용하여 쓰레기가 분류되는 방식을 개선하고자 한다. 비디오 스트림을 사용하여 객체를 식별할 예정이므로 이를 컴퓨터 비전 기반 문제로 식별한다. 레이블이 이미 있는 데이터에 액세스할 수 있으므로 지도형 학습 작업으로 분류한다. 데이터셋 만들기 데이터는 모든 기계학습 또는 컴퓨터 비전 기반 프로젝트에서 ..
3.5 AWS DeepLens와 컴퓨터비전 AWS DeepLens End-to-end 컴퓨터 비전 기반 애플리케이션을 만들고 배포할 수 있다. AWS DeepLens란? AWS DeepLens는 프로그램 가능한 딥러닝 지원 비디오 카메라다. AWS Cloud와 통합되어 모든 웹 서비스와 연결하여 통찰력 또는 트리거 작업을 제공하는 컴퓨터 비전 애플리케이션을 구축할 수 있다. 튜토리얼에는 컴퓨터 비전과 딥러닝에 대해 배울 수 있는 많은 샘플 프로젝트가 있다. 딥러닝을 숙지하고 나면 사용자 지정 모델을 교육하고 배포할 수 있으며 DeepLens는 이러한 모델을 장치에서 로컬로 실행한다. 동작 방식 AWS Console이라고도 하는 AWS 웹 인터페이스에서 수행할 작업에 대해 설명한다. AWS 콘솔에서 DeepLens 디바이스를 등록하고 설정할 수 있..
3.4 컴퓨터 비전 및 응용 분야 컴퓨터 비전이란? 컴퓨터 비전을 통해 기계는 패턴을 감지하고 이미지와 비디오에 대한 높은 수준의 이해를 얻을 수 있다. 컴퓨터 비전으로 우리는 생산성을 높이고, 창의성을 주장할 수 있으며, 심지어 인간보다 문제를 더 잘 해결할 수 있다. 컴퓨터 비전의 가장 중요한 사용 중 하나는 자율주행 차이다. 딥러닝 이전의 컴퓨터 비전 먼저, 컴퓨터 비전에 대한 약간의 역사가 있다. 북극곰을 컴퓨터가 식별하도록 훈련해야 한다. 눈, 코, 귀는 0이 될 수 있다. 전통적으로, 컴퓨터 시력은 이렇게 이루어져 있다. 눈동자 패턴과 귀를 감지하는 규칙을 수동으로 코딩하여 특정한 방식으로 합치면 곰을 얻을 수 있다. 하지만 이 규칙은 와해되기 쉽다. 만약 곰이 걷고 있거나, 얼굴을 식별할 수 없는 경우가 이에 해당한다. 우리..
3.1 AWS로 머신러닝 학습하기 왜 AWS를 사용하는가? AWS 머신러닝은 기계 학습을 모든 개발자의 손에 맡기는 것이다. AWS는 가장 광범위하고 심층적인 인공지능(AI) 및 머신러닝(ML) 서비스를 탁월한 유연성으로 제공한다. AWS SageMaker를 사용하면 머신러닝 채틱 시간을 단축할 수 있다. 이전에는 전문 지식을 구축하는데 몇 개월이 걸렸지만 이제는 몇 주 또는 며칠만에 모델을 구축할 수 있다. AWS는 머신러닝에 최적화된 가장 포괄적인 클라우드 서비스를 제공한다. AWS에서는 다른 곳보다도 더 많은 머신러닝이 이루어진다. 머신러닝 현황 사용 증가 2023년까지 인공지능 시스템은 $98B까지 증가할 것이다. 파일럿에서 운영화까지 2024말까지 75%의 기업이 시범 운영에서 AI 운영으로 전환될것으로 전망된다. ML의 실제 ..
2.19 비디오 유출 감지 이 예제에서는 신경 네트워크를 사용한다. 신경 네트워크의 작동 방식에 대한 알고리즘은 이번 강의의 범위를 벗어나지만 어떻게 적용되는지 보기 위해 적용한다. 1단계 : 문제 정의 전문 현장 관리 서비스를 제공하는 회사를 운영하고 있다고 가정하자. 산업 화학 공장 고객에게는 유출 및 기타 건강 위험에 대한 신속한 대응이 필요하다. 공장의 보안 감시 시스템을 사용하여 유출물을 자동으로 탐지할 수 있다면 관리팀을 더 빨리 동원할 수 있다. 이미지 -> 모델 -> 유출 포함 감지 2단계 : 모델 훈련 (+ 선택) 이 작업은 지도형 훈련이다. 목표는 각 이미지가 클래스에 속하는지 여부를 예측하는 것이다. 유출 포함 / 미포함 -> ML 작업 -> 지도형 훈련 (데이터 라벨화) -> 카테고리 라벨 2단계 : 데이터셋..
2.18 북 장르 탐색 예제 1단계 : 문제 정의 책 설명에 있는 일반적인 단어의 존재에 따라 유사한 책의 클러스터 찾기 마이크로 장르라는 추세가 존재한다는 가정하에, 책 설명 텍스트를 사용하여 마이크로 장르를 식별하도록 한다. 클러스터링이라고 불리는 비지도형 기계학습 기술을 사용함으로써, 책 설명 텍스트가 숨겨진 마이크로 장르르 식별하는데 사용될 수 있다는 가설을 테스트할 수 있다. 이 기계 학습은 앞에서 말했듯이 데이터가 라벨링되지 않았을 때 유용한 방법이다. 2단계 : 데이터셋 만들기 가설을 검증하기 위해 서적의 책 설명 텍스트를 수집한다. 데이터 탐색, 검사 및 사전처리 이 프로젝트의 경우 대문자와 동사 시제는 문제가 되지 않을 것으로 예상되기 때문에 대문자를 제거하고 모든 동사를 동일한 시제로 변환하여 언어 처리를 하도록 ..

LIST