본문 바로가기

전체 글

Chapter 2-2 Neural Networks Chapter2 초기를 상기해보자. 우리는 Shallow Network와 Deep Network의 정의를 하고 넘어갔다. 이론적으로 Shallow Networks는 모든 기능을 모방할 수 있지만, 노드 수가 기하급수적으로 증가할 수 있다. 이런 기하급수적 노드의 폭발을 피하기 위해 Deep Network를 채택하고 있다. 하지만 Deep Network는 매우 강력한 힘을 가지고 있지만 많은 문제점들이 존재한다. 대표적인 예로는 어려운 최적화, Overfitting, Internal covariate shift가 있다. 많은 노드들이 사용이된다면 많은 항이 곱해지며 연산이 많아지게 된다. 그 여파로 인하여, 일부 값들이 작은 경우 기울기가 전체적으로 매우 작아며 반대로 일부 값들이 큰 경우 기울기가 전체적.. 더보기
Chat-GPT 잡아내는 AI 나왔다 출처: https://n.news.naver.com/article/015/0004804576 AI 전쟁의 서막…챗GPT 잡아내는 AI 나왔다 인공지능(AI) 챗봇인 챗GPT가 만든 콘텐츠를 잡아내는 AI 기술이 나왔다. 챗GPT의 성능이 너무 뛰어나 각종 논란이 커지면서다. 챗GPT 같은 일명 생성AI 기술이 사람을 속이는 데 악용될 수 있다는 우 n.news.naver.com 간단한 한 요약: “학생들이 (GPT 같은) LLM(대규모 언어 모델) 사용해 과제를 끝낼 수 있는데 이런 경우 선생은 학생의 학습 내용을 정확하게 평가할 수 없다”며 미국 스탠퍼드대의 크리스토퍼 매닝 교수와 첼시 핀 교수 등이 참여한 연구팀은 지난 26일 챗GPT의 바탕인 AI 언어모델 GPT3로 만들어진 문장 찾아내는 기술(디.. 더보기
Chapter 2-1 Neural Networks 간단하게 인공 신경망(Artificial Neural Network, ANN)의 탄생을 설명하고 넘어가도록하자. 우리의 뇌는 1011개의 뉴런들로 이루어져있다. 뉴런은 다음 그림과 같이 생겼다. 간단하게 이 뉴런의 구조를 Cell body, Dendrite, Axon으로 나눌수 있다. 뉴런은 해당 구조를 활용하여 정보전달을 하는데, 이는 아래의 그림과 같이 나타난다. Dendrite: 신경전달물질을 받음 Axon: 신경전달물질을 방출 Cell body: 신경전달물질저장 공간 이를 모방한 것이 ANN이다. ANN을 위의 방식으로 모방하면 다음 그림과 같이 모방이 가능할 것이다. 초기 모델들이 Sigmoid function을 사용하는 것과 해당 function을 바탕으로 XOR문제를 풀 수 있는 것은 너무 .. 더보기
Chapter 1 Machine Learning Goal of Machine Learning 통상적으로 기계 학습(機械學習) 또는 머신 러닝(영어: machine learning)은 경험을 통해 자동으로 개선하는 컴퓨터 알고리즘의 연구로 정의한다. 결국, 해당 정의는 주어진 데이터를 가장 잘 설명하는 함수를 찾아라라는 의미이다. 예를 들어보자. 주어진 데이터를 다음 그림으로 정의하겠다. 이에 최적화된 함수를 찾기위해서는 어떻게 해야될까? 여러종류의 모델중에서 선택하면 된다! 임의의 함수 f에서 주어진 데이터에 가장 잘 부합도록 변수들을 조정하는 것이다. 마지막으로 결정된 함수를 이용하여 값을 예측하면 이것이 machine learning이다. 하지만 여기에도 문제점들이 있다. 주어진 데이터를 가장 잘 설명하는 함수를 찾아라에서 우리는 어떻게 가장 잘 .. 더보기
환영합니다! https://www.notion.so/Portfolio-of-JunHan-Zang-3a33903c1e0c45e6b2cd4e019232fdb1 Portfolio of JunHan Zang Deep Learning Developer - Major Field : Reinforcement Learning www.notion.so 평범한 인공지능 블로그입니다. 더보기

티스토리툴바