[PyTorch] 합성곱 신경망(Convolutional Neural Network, CNN)
이미지, 시계열 데이터에서 패턴을 효율적으로 학습하기 위해 합성곱 연산과 풀링을 활용하는 딥러닝 모델
Categories
- AI 19
- Blog 12
- Design Pattern 12
- Computer Architecture 10
- NLP 9
- Algorithm 8
- Operating System 6
- Education 4
- Python 3
- Java 2
- iOS 2
- Baekjoon 2
- Diary 1
- C# 1
- React 1
AI
[PyTorch] 장단기 메모리 (Long Short-Term Memory, LSTM)
순환 신경망(RNN)의 일종으로 장기 의존성 문제를 해결하기 위해 게이트 메커니즘을 활용하는 신경망 구조
[PyTorch] 순환 신경망(Recurrent Neural Network, RNN)
순서가 있는 연속적 데이터(Sequence data)를 처리하기 위한 인공 신경망
[PyTorch] fastText
N-gram을 통해 단어를 하위 단어로 표현하는 임베딩 모델
[PyTorch] Word2Vec
CBoW, Skip-gram, 계층적 소프트맥스, 젠심(Gensim)
[PyTorch] TF-IDF (Term Frequency-Inverse Document Frequency)
Term Frequency, Document Frequency, Inverse Document Frequency, TfidfVectorizer
[PyTorch] 자연어 처리와 임베딩 (Embedding)
자기회귀 언어 모델, 통계적 언어 모델, N-gram
[PyTorch] 자연어 처리와 토큰화
자모 라이브러리, KoLNPy, spaCy, 바이트 페어 인코딩(BPE), 센텐스피스(Sentencepiece)와 코포라(Korpora), 워드피스(Wordpiece), 토크나이저스(tokenizers)
[PyTorch] 사전 학습된 모델(Pre-trained Model)
백본과 다양한 전이 학습 유형, 특징 추출과 파인 튜닝
[PyTorch] 이미지 데이터 증강(Image Data Augmentation)
토치비전(torchvision) 라이브러리, 이미지 증강(imgaug) 라이브러리와 이미지 데이터 증강 클래스
[PyTorch] 텍스트 데이터 증강(Text Data Augmentation)
NLPAUG 라이브러리와 텍스트 데이터 증강 클래스
[PyTorch] 정칙화(Regularization)
L1 정칙화, L2 정칙화, 가중치 감쇠, 모멘텀, 엘라스틱 넷, 드롭아웃, 그래디언트 클리핑
[PyTorch] 과대적합(Overfitting)과 과소적합(UnderFitting)
과대적합, 과소적합과 배치 정규화, 가중치 초기화
[PyTorch] 퍼셉트론(Perceptron)
단층 퍼셉트론(Single Layer Perceptron)과 다층 퍼셉트론(Multi-Layer Perceptron, MLP)
[PyTorch] 순전파와 역전파
순전파, 역전파 계산하기
[PyTorch] 활성화 함수와 이진 분류
파이토치로 구현한 이진 분류, 활성화 함수 종류
[PyTorch] 비선형 회귀
모델과 모듈 클래스 활용, 모델, 체크포인트 저장하기 및 불러오기
[PyTorch] 다중 선형 회귀
데이터셋과 데이터로더로 다중 선형 회귀 구현
[PyTorch] 단순 선형 회귀
넘파이, 파이토치, 신경망 패키지를 활용한 단순 선형 회귀 구현
Blog
[GitHub Blog] HITS로 방문자 수 기록하기
HITS 사이트를 이용한 방문자 수
[GitHub Blog] Liquid 템플릿 언어
지킬에서 사용하는 루비 템플릿 언어
[GitHub Blog] utterances로 댓글 기능 설정하기
깃허브 댓글 앱 utterances를 이용한 댓글 기능 설정
[GitHub Blog] Disqus를 이용한 댓글 설정
댓글 호스팅 서비스 Disqus
[GitHub Blog] Minimal Mistakes 글씨 크기 변경하기
전체적인 폰트 사이즈 변경
[GitHub Blog] Markdown 정리
블로그 포스팅을 위한 Markdown 문법
[GitHub Blog] 파비콘 등록하기
웹 브라우저 주소창 아이콘 변경
[GitHub Blog] 상단 메뉴바 수정, 검색 기능 활성화
링크를 사용한 메뉴바와 lunr 검색 엔진
[GitHub Blog] 블로그 폰트 변경하기
Minimal Mistakes theme에서 fonts 변경하기
[GitHub Blog] 스킨 커스텀하기
dark skin으로 변경, 스킨 커스텀
[GitHub Blog] 깃허브로 지킬 블로그 만들기
Github Pages를 이용해 블로그 만들기 - Minimal Mistakes
[GitHub Blog] 깃허브 블로그 시작
GitHub Pages를 통한 첫 깃허브 개발자 블로그 시작
Design Pattern
[Design Pattern] 컴퍼지트 패턴(Composite Pattern)
전체, 부분의 관계를 정의할 때 사용하는 디자인 패턴
[Design Pattern] 추상 팩토리 패턴(Abstract Factory Pattern)
관련성 있는 객체들을 일관성 있는 방식으로 생성하는 디자인 패턴
[Design Pattern] 팩토리 메서드 패턴(Factory Method Pattern)
객체 생성 코드를 별도로 분리해 객체 생성 방식 변화를 대비하는 디자인 패턴
[Design Pattern] 템플릿 메서드 패턴(Template Method Pattern)
전체적인 알고리즘은 상위 클래스, 다른 부분은 하위 클래스에서 구현하도록 하는 디자인 패턴
[Design Pattern] 데커레이터 패턴(Decorator Pattern)
여러 부가 기능의 다양한 조합을 동적으로 구현할 수 있는 디자인 패턴
[Design Pattern] 옵서버 패턴(Observer Pattern)
상태 변화가 있을 때마다 옵저버에게 통지하는 디자인 패턴
[Design Pattern] 커맨드 패턴(Command Pattern)
실행될 기능을 변경해도 호출자 클래스를 수정 없이 사용할 수 있도록 하는 디자인 패턴
[Design Pattern] 스테이트 패턴(State Pattern)
상태에 따라 작업을 수행하도록 위임하는 디자인 패턴
[Design Pattern] 싱글턴 패턴(Singleton Pattern)
인스턴스가 하나만 생성 되는 것을 보장하고, 어디에서든 접근할 수 있도록 보장하는 디자인 패턴
[Design Pattern] 스트래티지 패턴(Strategy Pattern)
전략을 쉽게 바꿀 수 있도록 해주는 디자인 패턴
[Design Pattern] SOLID 원칙
SOLID, SRP, OCP, LSP, DIP, ISP
[Design Pattern] 객체 지향 원리
추상화, 캡슐화, 일반화 관계, 다형성, 피터 코드의 상속 규칙
Computer Architecture
[Mano의 컴퓨터시스템구조] 명령어 코드
명령어 코드, 컴퓨터 레지스터, 타이밍과 제어, 사이클, 입출력, 인터럽트, AC 레지스터, 가산 논리 회로
[Mano의 컴퓨터시스템구조] 레지스터 전송과 마이크로 연산
레지스터 전송, 버스, 메모리 전송, 산술 마이크로 연산, 논리 마이크로 연산, 시프트 마이크로 연산, 산술 논리 시프트 장치
[Mano의 컴퓨터시스템구조] 데이터의 표현 - 이진 코드, 에러 검출 코드
gray 코드, BCD, 2421, Excess-3, ASCII, EBCDIC, 패리티 비트
[Mano의 컴퓨터시스템구조] 데이터의 표현 - 데이터의 종류, 보수, 고정 소수점 표현, 부동 소수점 표현
진법과 보수, 고정 소수점과 산술 가산, 감산, 오버플로, 부동 소수점
[Mano의 컴퓨터시스템구조] 디지털 부속품 - 레지스터, 이진 카운터, 메모리 장치
집적 회로 장치의 종류와 논리군, NAND 게이트 디코더와 인코더, 멀티플렉서
[Mano의 컴퓨터시스템구조] 디지털 부속품 - 집적 회로, 디코더, 멀티플렉서
집적 회로 장치의 종류와 논리군, NAND 게이트 디코더와 인코더, 멀티플렉서
[Mano의 컴퓨터시스템구조] 디지털 논리회로 - 순차 회로
순차 회로와 2비트 이진 카운터 설계하기
[Mano의 컴퓨터시스템구조] 디지털 논리회로 - 플립플롭
다양한 플립플롭 유형과 작동 원리
[Mano의 컴퓨터시스템구조] 디지털 논리회로 - 맵의 간소화, 조합 회로
카르노 맵을 이용한 불 함수 간소화와 조합 회로 작동 원리
NLP
[밑바닥2] 5장 순환 신경망(RNN)
확률과 언어 모델, RNN, RNNLM
[논문리뷰] Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks 정리
검색 모델과 대규모 언어 모델을 결합한 검색 증강 생성(RAG) 모델
[논문리뷰] Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks 번역
검색 모델과 대규모 언어 모델을 결합한 검색 증강 생성(RAG) 모델
[밑바닥2] 4장 word2vec 속도 개선
word2vec 개선, Embedding 계층과 네거티브 샘플링
[밑바닥2] 3장 word2vec
추론 기반 기법과 신경망, word2vec, CBOW
[논문리뷰] Attention Is All You Need 정리
어텐션(Attention) 기법과 트랜스포머(Transformer)
[논문리뷰] Attention Is All You Need 번역
어텐션(Attention) 기법과 트랜스포머(Transformer)
[밑바닥2] 2장 자연어와 단어의 분산 표현
시소러스, 통계 기반 기법과 개선 방법
[밑바닥2] 1장 신경망 정리
수학과 파이썬, 신경망의 추론, 학습
Algorithm
[Algorithm] 최단 경로 알고리즘
다익스트라와 플로이드 워셜 알고리즘
[Algorithm] 이진 탐색 알고리즘
정렬된 리스트에서 탐색 범위를 절반씩 좁혀가며 데이터를 탐색하는 방법
[Algorithm] 다이나믹 프로그래밍 (동적 계획법)
주어진 문제를 여러 개의 하위 문제로 나누어 푼 다음 결합하여 최종 목적에 도달하는 방법
[Algorithm] DFS & BFS
대표적인 그래프 탐색 알고리즘
[Algorithm] 구현: 시뮬레이션과 완전 탐색
머릿속의 알고리즘을 소스코드로 바꾸는 과정
[Algorithm] 그리디(탐욕) 알고리즘
매 순간마다 지금 당장의 최선인 상황만을 쫓아 최종적인 해답에 도달하는 방법
[Algorithm] 재귀 용법 (recursive call)
함수 안에서 동일한 함수 호출하는 방법
[Algorithm] 버블 정렬 (bubble sort)
인접한 두 원소를 검사해 정렬하는 알고리즘
Operating System
[운영체제 공룡책] 동기화 도구들
임계구역 문제, Peterson의 해결안, 동기화를 위한 하드웨어 지원
[운영체제 공룡책] 운영체제 별 프로세스 스케줄링
Linux, Windows, Solaris 스케줄링
[운영체제 공룡책] 스레드 스케줄링, 다중 처리기 스케줄링, 실시간 CPU 스케줄링
대칭 다중 처리, 메모리 스톨, 하이퍼 스레딩, 부하 균등화, 처리기 선호도와 NUMA, 이기종 다중 처리, 경성 실시간 시스템, 지연시간 최소화, Rate-Monotonic 스케줄링, Earliest-Deadline-First 스케줄링, 일정 비율의 몫 스케줄링
[운영체제 공룡책] CPU 스케줄링
CPU-I/O 버스트 사이클, 선점 및 비선점 스케줄링, 디스패처, FCFS 스케줄링, SJF 스케줄링, RR 스케줄링, 우선순위 스케줄링, 다단계 큐 스케줄링, 다단계 피드백 큐 스케줄링
[운영체제 공룡책] 스레드
다중 스레드 프로그래밍, 다중 스레드 모델, 스레드 라이브러리
[운영체제 공룡책] 프로세스
프로세스 개요, PCB, 스레드, 스케줄링, 문맥 교환, 프로세스의 생성과 종료
Education
[CODE LION] 일단 만드는 HTML/CSS
HTML/CSS 로 나만의 이력서 만들기
[Nomad Coders] 바닐라 JS로 크롬 앱 만들기
초보자를 위한 자바스크립트
[codeit] 코딩동댕 유치원 챌린지
컴퓨터 개론, 파이썬 기초 수강 후기
[codeit] 대학생 코딩 캠프 5기
대코캠 대외활동 수기
Python
[Python] 파이썬 문법
파이썬 기초 문법 정리
[Python] 대학생 유형 테스트 수기
tkinter를 이용한 GUI - 대학생 유형 테스트 만들기
[Python] PEP8
파이썬 스타일 가이드 PEP8 번역, 정리
Java
[Java] 자바 시작하기
대표적인 객체 지향적 프로그래밍 언어 Java(자바) 공부 시작
[IntelliJ] 인텔리제이 윈도우 단축키
알아두면 편리한 인텔리제이(IntelliJ) 윈도우 단축키
iOS
[Swift] 다양한 표현 및 확장
부스트코스 iOS 프로그래밍을 위한 스위프트 기초
[Swift] 스위프트 기초
부스트코스 iOS 프로그래밍을 위한 스위프트 기초
Baekjoon
[백준] 1951번 활자 (Python)
수학, 구현
[백준] 11558번 The Game of Death (Python)
구현, 그래프 이론, 그래프 탐색, 시뮬레이션
Diary
[서울런] 서울런 멘토단 활동 수기
서울시와 KT에서 주관하는 온라인 비대면 멘토링
C#
[C#] C# .NET 코딩 규칙
C# 코딩 스타일, .NET 명명 규칙 정리
React
[React] 리액트와 개발환경, 컴포넌트 만들기, 이벤트
웹 프론트엔드 시작하기 (리액트)