본문 바로가기
반응형

분류 전체보기514

생활코딩_Tensorflow_Err 원 핫 인코딩시 데이터의 타입으로 인해 발생하는 에러 Err import pandas as pd # 파일 읽어오기 파일경로 = 'https://raw.githubusercontent.com/blackdew/tensorflow1/master/csv/iris2.csv' 아이리스 = pd.read_csv(파일경로) 아이리스.head() # 품종을 숫자로 표현했기에 범주형데이터 이므로 # 원핫인코딩 되지 않는 현상 확인 인코딩 = pd.get_dummies(아이리스) 인코딩.head() # 하지만 원핫인코딩 코드가 먹히지 않음 # 왜? 판다스는 read_csv로 읽어들일 때 숫자는 숫자로 인식하여 범주형인 것을 모르기 때문이다. # 그래서 범주형으로 변경하는 작업을 해야한다. # 이를위해, 아이리스 데이터 타입.. 2020. 8. 20.
생활코딩_tensorflow_Hidden Layer 네번째 딥러닝 - 신경망의 완성:히든레이어 - Tensorflow 1 수업소개 히든레이어와 멀티레이어의 구조를 이해하고, 히든레이어를 추가한 멀티레이어 인공신경망 모델을 완성해 봅니다. 강의 멀티레이어 신경망 실습 소스코드 colab | backend.ai 보스 opentutorials.org 히든레이어와 멀티레이어의 구조를 이해하고, 히든레이어를 추가한 멀티레이어 인공신경망 모델을 완성 기존에는 퍼셉트론 하나로만 구성되어 있었으나 이제는 퍼셉트론이 깊게 연결된 딥러닝 모델을 제작해본다. 퍼셉트론을 깊게 연결하는 방법은 간단하다. 기존 퍼셉트론을 여러개 연결하면 된다. 입력과 출력 사이에 퍼셉트론을 추가하면 된다. 현재 입력과 출력 사이에 하나의 층을 쌓아서 모델을 구성했다. 추가한 레이어는 5개의 노드.. 2020. 8. 20.
생활코딩_머신러닝개념_비지도학습/강화학습 어떤 대상들을 구분해서 그룹을 만드는 것이 군집화라면, 분류는 어떤 대상이 어떤 그룹에 속하는지를 판단하는 것이라고 할 수 있습니다. 배달 사업자 - 전국 고객, 1000만명 - 전국 고객의 위치(위도,경도) - 이 위치를 바탕으로 배달본부 설치 - 1000만명이 적절히 분포된 100개 그룹(군집)을 만드는 것 => 군집화 - 표의 숫자를 군집화시켜 보여주는 도구, 좌표평면 만약 행,열이 수백개라면? 어떻게 군집화시켜서 파악할 수 있을까? 바로 머신러닝, 그중에서 비지도 학습, 그중에서 군집화입니다. 군집화라는 도구에 1000만개의 관측치(행)를 입력하고 100개의 클러스터가 필요하다고 알려주면, 유사한 속성을 가진 관측치끼리 분류하여 총 100개의 클러스터를 만들어줍니다. 좌표상에서 가깝다는 것은 데이.. 2020. 8. 20.
생활코딩_Tensorflow_Iris_범주형(분류),분류 VS 회귀 분류는 확률예측 https://bit.ly/2DJ9TQJ 꽃잎의 여러 특징을 독립 변수로 하여 아이리스의 품종을 구분하는 모델을 구현한다. 아이리스 데이터의 종속변수는 수치형이 아닌 품종이니 범주형 데이터이다. 회귀와 분류를 나누는 차이는 종속변수의 데이터타입이다. 범주형 데이터는 다음 코드가 추가된다. 노란색은 범주형데이터를 위한 코드지만 pd.get_dummies(아이리스)는 무엇일까? 종속변수가 '품종'하나인데 왜 Dense(3)일까? 이전 수식에선 입력이든 출력이든 전부 다 숫자가 들어갔다. 그러나 종속변수의 값이 숫자가 아닌 범주형이기에 숫자가 아닌 것이 수식의 결과가 될 수는 없다. 범주형 데이터는 수식에 사용될 수 있도록 특정 과정을 거쳐야 한다. 범주들을 칼럼으로 만들어준다. 원핫인코딩을 .. 2020. 8. 18.
생활코딩_머신러신개념_분류_지도학습_회귀/분류 머신러닝은 단일 기술이 아니다. 머신러닝이라는 이름 아래 각자의 목표를 지닌 다양한 도구들이 있다. 지도학습 지도학습의 ‘지도'는 기계를 가르친다(supervised)는 의미입니다. 마치 문제집을 푸는 것과 비슷합니다. 이후에 비슷한 문제를 만나면 오답에 빠질 확률은 점점 낮아집니다. 앞서 살펴본 손톱 감시 앱과 레모네이드 판매량 예측 작업은 지도학습을 이용한 것입니다. 비지도학습 비지도학습은 지도학습에 포함되지 않는 방법들입니다. 기계에게 데이터에 대한 통찰력을 부여하는 것이라고 이야기할 수 있을 것 같습니다. 누가 정답을 알려주지 않았는데도 무언가에 대한 관찰을 통해 새로운 의미나 관계를 밝혀내는 것이라고 할 수 있습니다. 데이터의 성격을 파악하거나 데이터를 잘 정리정돈 하는 것에 주로 사용됩니다. .. 2020. 8. 18.
생활코딩_Tensor_LOSS _Work Book 수식을 만들고 종속변수의 값에 가장 가까운 가중치를 찾는 것 수식의 가중치들은 어떻게 찾아가는 걸까? 2020. 8. 18.
생활코딩_Tensorflow_02_보스턴집값예측 중앙값은 순서대로 나열한 뒤, 제일 가운데에 있는 값을 의미함 이상치때문에 평균이 대표성을 띄지못할 때 사용하는 것이 중앙값이다. 보스턴 집값 예측 수식만들기 인공신경망에서 뉴런의 역할을 하는 것이 모형과 수식(퍼셉트론)이다. 만약 종속변수 2개, 독립변수 12개라면? 종속변수 1개 당 독립변수 12개로 수식을 구성한다. import tensorflow as tf import pandas as pd file_path = "https://raw.githubusercontent.com/blackdew/tensorflow1/master/csv/boston.csv" df = pd.read_csv(file_path) df.head() df.columns 독립 = df[['crim', 'zn', 'indus', '.. 2020. 8. 18.
생활코딩_Tensorflow_DeepLearning_01 이 문제를 해결하기 위해 사용하는 ML알고리즘은 다음과 같다 우리 수업에선 뉴럴네트워크를 사용한다. 불과 몇년 전만해도 사용할 수 없던 기능들 이제는 코드하나로 가능해졌다 바로 라이브러리를 통해서. 목표와 전략 원리, 수학, 코딩, 데이터를 알아야 딥러닝을 구현(코딩)할 수 있다. 딥러닝 입문 순서는 다음과 같다 지도학습의 빅픽쳐 1. 지도학습을 하려면 과거 데이터를 준비해 과거 데이터 속에서 원인(독립변수)과 결과(종속변수)를 인식할 것! 2. 예측하는 모델의 구조 만들기 종속변수, 독립변수의 개수에 따라 모델의 구조가 달라져 3. 데이터를 모델에 딱 맞게 해서 학습(FIT)시킨다. 학습을 통해 모델을 완성한다 예를들어, 온도에 2를 곱하면 매출이란 것을 학습시켜 모델을 만듦 4. 모델을 이용한다. 변.. 2020. 8. 17.
생활코딩_오렌지3를 활용한 데이터 분석 통계와 시각화 - 생활코딩 통계와 시각화 2020-08-03 22:39:39 통계와 시각화 boxplot 산점도와 상관관계 상관관계와 인과관계 opentutorials.org 대표값 평균값, 중앙값 평균값 = 중앙값 : 좁게 분포 평균값 > 중앙값 : 넓게 분포 분포는 4분위수로 파악 Barplot ScatterPlot산점도와 상관관계 상관관계 : 독립변수와 종속변수의 관계. 이 변수들 무엇인지 산점도를 통해 파악해보자. 두 변수간의 연관성이 있을 때 데이터가 골고루 배치되어 있을 때 중간에 데이터가 모여있다면 값들이비슷한애들이있따는것을알수있고 특이하게 동 떨어져있다면 그건 이상치, 불평등 데이터 일 수도 상관관계가 없을 때는 다음처럼 뒤죽박죽이다. 상관관계와 인과관계 위 표를 통해 22.5도에서 얼마나.. 2020. 8. 17.
생활코딩_머신러닝개념_모델,교양 모델 Model - 생활코딩 opentutorials.org 결정을 위한 통계학 복잡한 세상에서 결정의 어려움을 겪지 않는다면 그게 더 이상한 일이 아닐까요? 이 복잡한 세상을 숫자로 표현하기 위한 여러 가지 방법을 찾아냅니다. 그리고 이 방법들을 모아서 여기에 ‘통계’라는 이름을 붙였습니다. 하나를 가르치면 열을 안다. 공부를 하면, 똑같은 문제뿐만 아니라 비슷한 문제도 해결할 수 있는 총명한 사람들을 두고 하는 말입니다. 망원경이 있다고 눈이 필요 없어지는 것은 아닙니다. 머신러닝은 우리의 두뇌가 가진 중요한 기능인 판단능력을 확장해서 우리의 두뇌가 더욱 빠르고 정확하게 결정할 수 있게 돕는 기가 막힌 도구입니다. 지식 해결하고자 하는 문제가 없다면, 지식은 목적 없는 수단에 불과 이제 우리는 자신의.. 2020. 8. 17.
[K-ICT] Scikit-learn - 머신러닝 라이브러리 Scikit-learn API 활용하기 - 회귀 모델 : 수치형 데이터 예측, 주택 가격 예측, 주가 예측 등 - 분류 모델 : 범주형 데이터 예측, 문자 인식 바탕 스팸 메일 구분 Feature : 특징, 칼럼, 열 n_features : 특징, 칼럼, 열의 개수 sample : 표본, 행 n_samples : 표본, 행의 개수 이를 위해선 X,y의 행의 길이(n_samples)가 동일해야한다. 특징행렬인 X를 통해 훈련을 하고 대상벡터인 y를 예측해서 찾아낸다. (특징행렬인 X의 1행의 피쳐로 y를 예측한다.) 분류문제면 이산형이 들어갔을 것이고 회귀문제면 연속수치형이 들어갔을 것 A. seed값을 주는 이유는 난수를 생성할 때, 동일한 데이터를 재현하기 위해서는 난수값이 일치.. 2020. 8. 12.
비지도학습관련 사이트 [ML with Python] 3장 비지도 학습과 데이터 전처리 - 군집 3.5 군집 subinium.github.io 2020. 8. 12.
[K-ICT] 머신러닝을 위한 통계학 머신러닝과 통계학은 닮은 점이 많다. 데이터 수집, 분석, 해석, 표현 과정뿐만 아니라 용어, 이론까지! 통계학은 수학이므로 머신러닝과 통계 모델을 다루는 과정에서 수학 이론에 대한 이해가 필요하다 대부분의 통계분석은 표본을 통해 진행함. 표본 대상의 통계 분석이 비용면에서 효율적 모집단은 인구총조사. 펜스밖은 이상치. 이상치가 들어간 상태에서 통계분석을 하게되면 통계 결과의 신뢰성을 잃는다. IQR은 이상치를 판별하여 통계 결과의 신뢰성을 높임 문제 4등분 = 4분위수(백등분 = 백분위수) 4등분하려면 5개의 숫자가 필요해 0, 25, 50, 75, 100 현재 우리가 검정해야하는 것? 표본이 하나라서 단일 표본이다. 이를 단일 표본 t검정, one sample t Test라고 한다. 정규분포를 따르는.. 2020. 8. 11.
[K-ICT] 머신러닝 개념, Numpy, Pandas, Matplotlib 개념 기존 프로그램 : 프로그래밍 언어를 이용, 정해진 규칙을 수행하는 것 머신러닝 : 프로그램이 데이터를 학습하여 규칙을 만들어 수행 머신러닝이란 1. 데이터로 부터 학습하도록 컴퓨터를 프로그래밍하는 분야 2. 명시적 프로그래밍없이 컴퓨터 스스로 학습하는 능력을 부여 3. 과거경험에서 학습을 통해 얻은 지식을 미래의 결정에 이용하는 CS 분야 4. 관측 패턴을 일반화하거나 샘플을 통해 새 규칙을 생성하는 목표를 가짐 머신러닝이 적용된 프로그램 자율주행차, 알파고, 음성인식명령, 문자인식 머신러닝을 사용하는 이유? 우선 전통적인 방법을 살펴보자 1. 문제를 찾고 연구, 분석한다. 2. 해결책을 만들기 위해 직접 규칙을 작성한다. (if 조건문) 예를들어, 조건문을 토대로 스팸 메일 필터 작성 3. 평가 진행 .. 2020. 8. 11.
[펌] 한걸음 한걸음, 데이터 과학자(Data Scientist)가 되는 방법 [Goal] 한걸음 한걸음, 데이터 과학자(Data Scientist)가 되는 방법 개요 Data Scientist가 되기 위한 방법들을 정리한 글입니다. theorydb.github.io 개요 Data Scientist가 되기 위한 방법들을 정리한 글입니다. 목차 데이터 사이언스, 데이터 사이언티스트란? 빠르게 데이터 사이언티스트가 되기 위한 방향잡기 현 직장에서 데이터 사이언티스트가 되어보기 이직 창업 지금이라도 대학원을 가야할까? 롤모델 설정 및 끊임없는 학습 프로젝트 및 블로그 논문, 특허, 저서, 강연 자격증 추천할만한 교재 및 커뮤니티 (참고) AI 활용사례 (참고) 데이터 사이언티스트의 진정한 의미 (참고) 그 외의 학습조언 마무리 데이터 사이언스, 데이터 사이언티스트란? 데이터 사이언스란?.. 2020. 8. 3.
2.3 파일경로설정방법, jupyter 파일경로변경하기, "지정된 파일을 찾을 수 없습니다" 공공데이터포털에서 다운받은 파일을 주피터 노트북에서 작업하고 있는 폴더로 가져와보자 명령어를 쓴 뒤 파일위치와 파일명 그리고 마지막에 한 칸 띄우고 .을 써준다. 파일을 현재 위치로 옮긴다는 의미 mac의 경우 %mv /Users/~~~/~~~/도로교통공단_교통사고다발지역_20191010.csv . window의 경우 !move C:\Users\~~~\도로교통공단_교통사고다발지역_20191010.csv . +tab키를 이용한 경로 자동완성 만약 download 폴더안에 불러올 파일이 있다면 download 폴더로 위치 설정해줘야한다. mac의 경우 명령어 ~/dow windows의 경우 명령어 ~\dow 까지 입력 후 tab키를 누르면 하단처럼 경로가 나타난다. 위처럼 탭으로 입력했는데도 안되면 다음처럼.. 2020. 7. 6.
2.2 판다스 치트시트를 활용한 기초 익히기 파이썬의 대표 분석 라이브러리 pandas 수식을 통해 시각화하는 도구 panner data system의 약자 panner data = 행열, 엑셀유사 데이터를 다루는 것 엑셀과 유사함 엑셀로도데이터분석가능하지만이를이용하는이유? 1. 엑셀로는 힘든 대용량의 데이터를 판다스는 분석할 수 있기 때문 2. 주피터노트북에 소스코드작성시 파일만 로드하면 기존소스 재사용 가능 3. 월,주별 반복 작업은주피터노트북에 작성 후 사용가능 추천하는 학습문서 2가지 1. 10minutes to pandas문서를따라해볼것을추천(따라해보는데2,3시간소요되지만책한권 읽은것과 유소한효과) 2. 2장의 문서로 이뤄진pandas cheat sheet 문서 추천. 이 문서에있는것만익혀도판다스를사용할때무리가없음 판다스 불러오기 impo.. 2020. 7. 6.
조코딩 AI 03. Zeplin을 활용한 반응형 웹앱 제작 0. 제플린은 나중에 활용 1. 부트스트랩을 활용한다 get startd에서 head태그 부분을 복사한다 지난 시간에 만든 index.html파일의 head에 넣어주고 기존 헤드태그는 지원주되 기존 헤드태그의 link태그는 title태그 밑에 넣어준다. js코드도 그대로 가져온다. 3. 이제 부트스트랩을 활용하여 네비바를 만들어보자 navbar를 검색하여 나온 코드를 복사 후 index.html의 body태그에 넣는다. 4. 네비게이션 바 수정하기 제플린에서 보이는 것처럼 나타내고 싶다. 제플린에서 Alt를 누르면 %단위로 나타난다. 브라우저의 개발자 도구에서도 %단위로 수정해보자 5. 클래스를 만들어서 직접 %간격을 추가하자 index.html에 nav-distance클래스를 만들고 style.css에.. 2020. 5. 26.
반응형

티스토리툴바