하찮은 딥러닝 (3) 썸네일형 리스트형 [pytorch] 문법 3부작 中 2부. 자동 미분 츄베릅❤️ 출처: https://youtu.be/k60oT_8lyFw?si=lJU8cErzTzAVjtlz 2. 자동 미분 2-1) torch.autograd 패키지 tensor의 모든 연산에 대해 자동 미분이 제공되는 아름다운 코드(래요ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ) 코드를 어떻게 작성하여 실행하느냐에 따라 역전파가 정의된다는 뜻 역전파를 위해 미분값을 자동으로 계산 2-2) requires_grad = True :해당 텐서에 이루어지는 모든 연산들을 추적하기 시작 import torch a = torch.randn(3,3) a = a * 3 print(a) print(a.requires_grad) # 기본 false임 연산 기록을 추적하기 시작하면, 해당 텐서 뿐만 아니라 해당 텐서의 연산 결과 값을 가지는 텐서도 연산 .. [pytorch] 문법 3부작 中 1부. tensor 연산 츄베릅❤️ 출처: https://youtu.be/k60oT_8lyFw?si=lJU8cErzTzAVjtlz 0. 정의 - pytorch? (페이스북에서 만든) gpu를 이용한 텐서 조작 및 동적 신경망 구축이 가능한 딥러닝 프레임워크. * 라이브러리 vs 프레임워크 - 라이브러리는 사용자가 어느 정도 제어권을 갖지만, 프레임워크는 뼈대 안에서만 활용할 수 있습니다.(제어 역전이라고도 함) - 제가 느끼기로는, 둘 다 타인이 만든 코드의 집합이라는 점에서 공통점이 있습니다. 차이점이라면, pytorch의 함수(dataloader 등)는 새로운 기능을 하게 만들기 어렵습니다. 하지만 numpy는 sum() 등 여러 함수들을 이용해서 새로운 기능을 하는 만들어 내기 수월하다는 점입니다. 물론 pytorch에도 tensor.. [처음배우는딥러닝수학] 2장 01~04. 내가 수학을 논할 줄이야... 딥러닝 수업 듣는데 선형대수학이랑 최적화론, 자연어처리에서 배웠던 수학이 가물가물한 거 있죠. 수업 때 발표하는데 교수님 질문에 답변을 못하겠더라고요. 문제를 주면 풀 줄은 아는데 설명을 못 하는. 일명 메타인지가 덜 된 상태이죠. 항상 수학보다 지금 당장 하는게 더 급급하고 어느 정도 안다고 생각해서 안 했는데. 이번에 아슬아슬한 지식이란 걸 깨닫고 새로운 마음가짐으로 해봅니다. 교재는 입니다. 아쉽게도 확률과 통계가 없습니다. 그럼 시작해봅시다. 2장. 신경망을 위한 수학 기초 * 읽는 분이 딥러닝에 관한 지식이 있다고 가정합니다. 01. 신경망의 필수함수 1차/2차함수, 단위 계단/지수/시그모이드 함수, 정규 분포의 확률밀도함수 1. 1차 함수 신경망에서는 유닛이 받는 가중치를 1차 함수 관계로 표.. 이전 1 다음
