머신러닝 2강 정리

머신러닝

1. 경험에 의해 배운다

2. 경험에 의해 퍼포먼스가 늘어남


Function Approximation - 실제에 거의 가깝게 동작하는 함수


Find-S Algorithm - 데이터에 들어있는 모든 인스턴스 중 하나의 인스턴스 X가 긍정이면 모든 feature를 판단

Version Space - 많은 hypotheses 가능

Candidate Elimination Algorithm - 가장 Specific 스페이스와 가장 general한 스페이스 

Entropy - 랜덤 variable가 얼마나 불확실한지 정의

Conditional Entropy = feature variable이 있을 때 흥미가 있는 entropy 정의

Linear Regression - 선형회귀 


댓글

댓글 쓰기

이 블로그의 인기 게시물

सुप्रभात शुभरात्रि 개인정보 처리방침

  서비스 이용약관 제 1장 총칙 제 1조 (목적) 이 약관은 “kjs”가 제공하는 “ सुप्रभात शुभरात्रि ”(이하 ‘서비스’라 합니다)를 회사와 이용계약을 체결한 ‘고객’이 이용함에 있어 필요한 회사와 고객의 권리 및 의무, 기타 제반 사항을 정함을 목적으로 합니다.  제 2조 (약관 외 준칙) 이 약관에 명시되지 않은 사항에 대해서는 위치 정보의 보호 및 이용 등에 관한 법률, 전기통신사업법, 정보통신망 이용 촉진및 보호 등에 관한 법률 등 관계법령 및 회사가 정한 서비스의 세부이용지침 등의 규정에 따릅니다.  제 2장 서비스의 이용 제 3조 (이용 자격) ① 서비스를 이용할 수 있는 자는 Application이 설치 가능한 모든 사람 입니다. 제 4조 (서비스 가입) ① “Application 관리자”가 정한 본 약관에 고객이 동의하면 서비스 가입의 효력이 발생합니다. ②“Application 관리자”는 다음 각 호의 고객 가입신청에 대해서는 이를 승낙하지 아니할 수 있습니다.   1. 고객 등록 사항을 누락하거나 오기하여 신청하는 경우  2. 공공질서 또는 미풍양속을 저해하거나...
자세한 내용 보기

네트워크 3강 정리

TCP/IP란? Transmission Control Protocol/Internet Protocol의 약자 ARPANET에 의해 처음 개발 각각의 네트워크에 접속되는 호스트들은 고유의 주소를 가지고 있어서 자신이 속한 네트워크 뿐만 아니라 다른 네트워크에 연결되어 있는 호스트까지도 서로 데이터를 주고받을 수 있도록 만들어짐 이 때 사용되는 고유 주소는 Internet Network Information Center(InterNIC)란 단체에서 관리 분배 IP 주소란? 인터넷을 사용하기 위한 전세계에서 유일하고 고유한 주소 하지만 인터넷을 사용하는 사람들은 점점 늘어나고 따라서 각기 다른 주소를 가지기 힘들어졌기 때문에 내부 네트워크에서는 공인되지 않은 IP 주소를 사용하고, 인터넷으로 나갈 때만 공인 주소를 가지고 나가는 방식인 NAT(Network Address Translation)이나 동일한 IP 주소를 가지고 여러 명이 인터넷에 접속하면서 포트 넘버 만을 바꾸는 PAT 등이 사용되고 있음 전 세계에 이러한 공인 주소를 나눠주고 관리해주는 기관이 NIC(Network Information Center) 32개의 이진수로 만들어짐 ex : 210.218.150.25 = 1101 0010.1101 1010.1001 0110.0001 1001 논리 AND 연산 1100 1111과 1111 0000을 AND 연산하면 1100 0000 둘 다 1이어야 1이 되고 하나라도 0이면 0으로 변환 서브넷 마스크에 자주 사용 DHCP란? Dynamic Host Configuration Protocol 옛날엔 부서를 이전하는 일이라도 생기면 직접 아이피를 배정하고 기존에 쓰던 아이피를 찾아와야 했으나 아이피를 자동으로 배정해주는 DHCP가 생긴 후로 해결 DHCP는 클라이언트 PC가 켜지면 네트워크에 브로드캐스트를 뿌리고 클라이언트에게 관리 중인 IP 주소 중 하나를 자동 할당 PC는 DHCP 클라이언트 구성만 가지고 있다가 DHCP 서버가 있는 네트워크에 연결만 하면 자...
자세한 내용 보기

기계학습 2강

기계학습에 필요한 세 가지 수학 - 목적함수 - 최적화 알고리즘 - 제어 사람 - 데이터 수집 수학은 선형대수, 확률과 통계, 최적화 3차원 이상의 구조를 가진 숫자 배열 - 텐서 스칼라(0차원 텐서), 벡터(1차원), 행렬(2차원) 전치행렬 - transpose 연산을 통해 가로 벡터 형태의 벡터형태로 나타낼 수 있음 행렬 - 분배법칙과 결합법칙은 성립하지만 교환버칙은 비성립 내적 - 차원이 같은 벡터에서 스칼라 값을 얻을 수 있는 연산(dot) 역행렬 - 정사각행렬에 대해서만 정의 확률분포 - 다수의 변수에 관한 확률분포 - 동시에 x = x이고 y = y일 확률 베이즈 정리 - x와 y가 같이 일어날 결합확률 = y와 x가 같이 일어날 결합확률 기계학습에서 최대 우도법 신경망이 784 - 100 - 100 - 100 - 10 구조일 때 784 * 100 + 100 * 100 + 100 * 100 + 100 * 10 = 99400(바이어스 무시) 엔트로피 - 확률분포의 무질서도 또는 불확실성 측정 최적화 목적함수가 최저값을 갖는 지점 = 기계학습의 분류 및 예측 오류가 가장 적을 곳 기계학습에서는? 훈련집합만 주어지고 미분을 계산하면서 최저점 f(x1, x2) 찾는 문제 최적화 알고리즘 - J(세타)를 최소로 하는 최적해 세타^를 찾는 알고리즘 미분(Differentiation) - 1차 도함수는 x가 미세하게 증가하였을 때 함숫값의 변화율을 알려줌 전역 최적해 - x의 정의역 전체에 걸쳐 최소인 점 지역 최적해 - 주변에서는 최적이지만 정의역 전체로 보면 최적해가 아닌 것 높은 차원의 공간에서 전역 최적해를 찾는 일은 매우 어려우므로 실제로는 지역 최적해로 만족하는 경우도 많음 실제 문제에서는 지역 최적해를 찾는 것으로 만족하는 경우가 많음 야코비안 행렬 - d개의 매개변수와 m개의 함수가 존재할 때 m개의 함수 각각을 d개의 매개변수로 편미분한 도함수를 행렬로 표현한 것 경사 하강법 - 샘플의 그레이디언트를 평균한 후 한꺼번에 갱신
자세한 내용 보기