ProWiseman

들어가며 본 글은 Sequence to Sequence Learning with Neural Networks를 리뷰한 글입니다. 내용 논문의 키 아이디어 LSTM으로 입력 시퀀스를 얽어 거대한 고정 차원 벡터 표현을 얻는다. 그 벡터로부터 출력 시퀀스를 뽑아내기 위해 또 다른 LSTM을 사용한다. 기존 DNN의 문제점 고정된 차원 벡터로 인코딩할 수 있는 문제에만 적용할 수 있다. 입력과 출력이 미리 정해지고 고정 돼야 한다. 여러 중요한 시퀀스 문제는 사전에 그 길이를 알 수 없다. Model Recurrent Neural Network 시퀀스에 대한 순전파 신경망의 자연스러운 일반화이다. (보통의 경우 이걸 쓴다는 느낌으로 이해했음) 입력을 \((x_{1},...,x_{T})\), 출력을 \((y_{..

들어가며 본 글은 국민대학교 임베디드 소프트웨어 동아리 KOBOT의 과제를 위해 개인적인 기록용으로 유노코딩의 입문자를 위한 CSS 기초 강의의 내용을 정리한 포스트입니다. 내용 CSS: Cascading Style Sheets Cascading : 계단식 Style : 멋을 내다 Sheets : (종이) 한 장 즉 계단식으로 스타일을 정의하는 문서이다. 다시말해 CSS는 태그가 태그를 포함하는 계단식 구조를 지니는 HTML 문서에 스타일을 더해준다. CSS 문서 자체는 독립적으로 존재할 수 있으나 그 목적이 구조화된 HTML 문서의 스타일을 정의하는 데 있으므로 HTML 문서가 없는 CSS 문서는 사실상 의미가 없다. 따라서 HTML 문서 작성이 선행되어야 한다. HTML : 웹 문서의 콘텐츠를 구성하..

들어가며 본 글은 Deep contextualized word representations을 리뷰한 글입니다. 내용 몰랐던 용어 정리 Monolingual corpus 단일 언어 말뭉치 Parallel corpus, multilingual corpus 두 개 이상의 monolingual corora. 말뭉치는 서로 번역본이다. 자료 출처 기존 연구의 한계 사전학습된 word vector는 거대한 규모의 레이블이 되지 않은 텍스트에서 구문(syntactic)과 의미(semantic) 정보를 포착하는데 탁월했기에 question answering, textual entatilment, semantic role labeling과 같은 SOTA NLP 아키텍처에서 표준 구성으로 쓰였다. 그러나 word vect..

들어가며 본 글은 국민대학교 임베디드 소프트웨어 동아리 KOBOT의 과제를 위해 개인적인 기록용으로 유노코딩의 입문자를 위한 HTML 기초 강의의 내용을 정리한 포스트입니다. 내용 HTML : HyperText Markup Language HyperText : 하이퍼링크를 통해 어떤 문서에서 다른 문서로 접근할 수 있는 텍스트 Markup : 이미지나 텍스트 등의 콘텐츠를 표시 Language : 언어 즉 하이퍼 텍스트와 콘텐츠를 표시해 주는 언어이며 웹브라우저를 통해 표시되는 웹페이지의 콘텐츠를 정의하기 위해 사용하는 언어로 말할 수 있다. 완성된 HTML 코드가 웹브라우저를 통해 해석되고 표현되는 과정을 렌더링이라고 한다. 텍스트 에디터에서 작성된 HTML 코드(*.html, *.htm)는 웹브라우저..

들어가며 본 글은 저의 TinyML 공부를 위해 towardsdatascience에 작성된 Tiny Machine Learning: The Next AI Revolution을 번역 및 재구성 한 글입니다. 내용 이 글에선 tiny machine learning(이하 초소형 머신러닝)의 아이디어와 미래의 잠재력을 소개한다. Intorduction 최근 10년간 프로세서 속도의 향상과 빅데이터의 출현을 머신러닝 알고리즘의 크기가 커졌다. 초기 모델은 로컬 머신의 CPU에서 돌릴 수 있을 정도로 작았지만 금방 더 큰 데이터셋을 다루기 위해 GPU가 필수가 됐다. 이 시기에도 여전히 하나의 머신에서 돌릴 수 있었다. 최근에는 8개의 GPU 파워를 담을 수 있을 정도의 ASICs와 TPU가 개발되었고, 이런 장치..

들어가며 본 글은 국민대학교 임베디드 소프트웨어 동아리 KOBOT의 과제로, 학습 내용을 정리하기 위해 쓰였습니다. 내용 git 없이 각 버전 별로 파일을 만들 경우 문제점 파일을 편집할 때마다 파일을 만드는 것이 번거롭다. 어느 파일의 어떤 부분이 변경 되었는지 확인하기 힘들다. 한 파일을 여럿이 동시에 편집하다가 다른 사람이 작업한 부분을 날려버릴 수 있다. 원격 저장소와 로컬 저장소 원격 저장소 : 파일이 원격 저장소 전용 서버에서 관리되며 여러 사람이 함께 공유하기 위한 저장소 로컬 저장소 : 내 PC에 파일이 저장되는 개인 저장소 이미지 출처 기초 명령어 이미지 출처 git add 특정 파일을 index(혹은 staging area)에 추가 git commit -m "커밋 메세지" index에 ..