知/job지식 22

[AI]인공지능은 어떻게 학습하나

기초 원리한 줄로 말하면 인공지능 모델에 데이터를 넣고 내가 원하는 답과의 차이를 줄이는 것이다.그럼 모델은 어떻게 생겼고, 원하는 답은 무엇이고, 답과의 차이는 어떻게 구할까 모델인공지능 모델의 직관은 "세상을 선(곱하기와 더하기)으로 표현하고 싶다."이다.단순한 것으로 복잡한 것을 추측하는 이유는 그것을 계산할 식을 구하기 어렵기 때문이다.내가 계산할 수 있는 것으로 식조차 모르는 것을 푸는 방법이다.   흔히 인공지능 모델 기초를 찾아보면$$\mathbf{W}x + b$$  W(가중치), x(입력값), b(편향)로 표현한다. 흔히 알고 있는 일차함수이다. 어떻게 일차함수가 다른 것을 표현한다는 것일까?무식하게 표현하여 이어 붙이기라 말할 수 있다. 검은색 선을 표현하기 위해 빨간색과 노란색 선을 이..

知/job지식 2024.06.02

[RL] Value functions

개요강화학습(RL)에서 가치 함수(value function)는 에이전트가 특정 상태나 상태-행동 쌍에서 기대할 수 있는 보상의 총합을 나타내는 중요한 개념이다. 가치 함수는 에이전트가 환경에서 최적의 행동을 선택하도록 도와주며, 다양한 종류와 의미를 가지고 있다. 이 글에서는 강화학습에서 사용되는 가치 함수의 종류와 그 의미를 자세히 살펴보겠다. 상태 가치 함수 (State-Value function, $V(s)$)특정 상태 s에서 시작하여 어떠한 정책 $\pi$를 따를 때 기대되는 미래 보상의 총합을 나타낸다. 다음과 같이 표현된다. $$ V_{\pi}(s) = \mathbb{E_{\pi}}\left [\sum_{t=0}^{\infty}\gamma^tR_t|s_0=s\right ]$$ 여기서 $R_t..

知/job지식 2024.05.31

[RL] Markov Decision Process(MDP)

개요MDP는 S(state space), A(action space), P(transition probability), R(reward function), $\gamma$ (Discount factor) 묶음이 매 상태마다 Markov property를 가질 때로 정의한다. 어떤 문제를 해결하기 위해 사람이 문제를 정의하는 방법으로 MDP를 통해 S,A,R, $\gamma$ 또는 P 를 정의함으로 복잡한 문제를 해결할 수 있다. MDP의 주요 용어와 Model-based와 Model-free의 차이를 간단하게 알아보자. 주요 용어S : 상태 공간(State space)사람이 정의한 상태들의 집합각 상태는 미래가 과거의 영향을 받지 않기 위해(Markov property) 정의되어야 한다.A : 행동 공간..

知/job지식 2024.05.30

[Autocad] 외부참조 설정값이 원래대로 돌아갈 때

안녕하세요. 이전에 외부참조에 대해 간단히 알려드렸었는데요? ##외부참조 사용하는 방법 [Autocad] 외부참조(xref) 사용법캐드로 업무를 하다 보면가장 많이 사용하는 것 중 하나가외부참조(xref)라고 생각합니다. 그럼 외부참조(xref)에 대해한 번 알아보도록 하겠습니다. 외부참조(xref)에 대해 간략히 설명을 해보자zzinkimpitang.tistory.com 오늘은 그 외부참조 도면을 사용할 때 생기는 하나의 해프닝에 대해 소개해드리려고 합니다. 바로 외부참조 도면에 관련해 설정값을 다 수정하고 저장했으나다시 그 도면에 들어가면 모든 설정값이 원상복구가 된 적이 있지 않나요? 그에 대한 해결법을 알려드리겠습니다. 그 명령어는 바로visretain 입니다. visretain 사용법에 대해 간..

知/job지식 2024.05.29

[Autocad] 외부참조(xref) 사용법

캐드로 업무를 하다 보면가장 많이 사용하는 것 중 하나가외부참조(xref)라고 생각합니다. 그럼 외부참조(xref)에 대해한 번 알아보도록 하겠습니다. 외부참조(xref)에 대해 간략히 설명을 해보자면,한마디로현 도면이 아닌 외부에 다른 도면을불러들여 활용하는 것입니다. 저는 보통 토목, 건축 도면을외부참조도면에 넣어불러들여 사용하곤 합니다.(종종 건축물이 바뀌는데그걸 도면파일 하나하나 들어가서 바꾸기엔너무 귀찮으므로..!) 그럼 외부참조를사용하는 법을 알아볼까요?? 외부참조(xref)  1.우선 외부참조 도면을 하나 만들어볼게요.저는 파일명에 xref.000 이런 식으로 따로 기입을 해주는데,각자 기억하는 방법으로 파일명을 만들어주시면 됩니다.저는 간략히 도면 틀을 만들어 주고저장했습니다.  2.그럼 ..

知/job지식 2024.05.25