리눅스 커널 공부하기

by flyduck 2001/10/19

목차

• 1. 공부를 시작하기 전에
• 2. 리눅스 커널 전반에 대한 이해
• 2.0 기본 개념
• 2.1 메모리 관리
• 2.2 프로세스 관리
• 2.3 파일시스템
• 2.4 네트워킹
• 2.5 디바이스 드라이버
• 2.6 프로세스간 통신
• 2.7 하드웨어 메커니즘
• 2.8 기타 커널 메커니즘

1. 공부를 시작하기 전에

다음으로 자신이 가지고 있는 지식이 어느정도인지를 파악하는게 필요합니다. 리눅스 커널을 공부할 때 꼭 필요한 지식은 다음과 같습니다.

• 유닉스(UNIX) 시스템과 리눅스(LINUX) 시스템에 대한 이해
• 운영체제에 대한 이해
• C 언어에 대한 기본적인 지식
• 자료구조(Data Structure)
• 약간의 하드웨어적인 지식

무엇보다도 우선 유닉스/리눅스 시스템에 대해서 알아야 합니다. 유닉스에서 프로세스 사이에 부모 자식의 관계가 있다는 사실을 모르고서 프로세스 사이의 친족 관계나 zombi 프로세스를 이해할 수 없을 것입니다. 그리고 운영체제가 무엇을 하려는 것이며, 운영체제에서 중요한 것이 무엇인지를 알아야 합니다. 다음으로 직접 코드를 보지 않는다고 하더라도 프로그래밍 언어적인 개념과 자료구조에 대한 이해는 필수적입니다. 더군다나 커널은 복잡한 자료구조를 유지 관리하므로 자료구조에 익숙해져야 하겠습니다. 마지막으로 조금의 하드웨어적인 지식이 필요합니다.

2. 리눅스 커널 전반에 대한 이해

리눅스 커널은 크게 다음과 같은 구성요소로 나누어 볼 수 있습니다.

• 메모리 관리(Memory Management)
• 프로세스 관리(Process Management)
• 파일시스템(Filesystem)
• 네트웍(Networking)
• I/O 시스템(I/O System) 또는 디바이스 드라이버(Device Driver)
• 프로세스간 통신(Interprocess Communication)
• 인터럽트(interrupt), 예외(exception) 등의 하드웨어적인 처리
• 기타 커널 메커니즘

이 중에서 가장 중요하게 이해해야 하는 것은 커널의 가장 핵심인 메모리 관리와 프로세스 관리입니다. 이 부분이 중요하기도 하고, 어렵기도 합니다. 파일시스템이나 네트웍, 디바이스 드라이버는 관심이 있는 분들만 보셔도 상관 없습니다. 그리고 프로세스간 통신이나 인터럽트 처리 등은 기본적인 지식만 알아두면 되겠습니다.

각각의 구성요소를 공부하면서 알아야 하는 개념들을 정리하면

2.0 기본 개념

• 커널 모드(kernel mode)와 사용자 모드(user mode)의 구별
• 프로그래밍 모델 : 모놀리틱(monolithic) 커널 구조에 대한 이해

2.1 메모리 관리

• 가상 메모리(virtual memory)의 개념 :
  • 가상 메모리의 개념과 목적
  • 물리적인 메모리(physical memory)와 가상 메모리(virtual memory)의 구별
  • 주소공간(address space)에 대한 이해
• 페이징(paging)의 개념 :
  • 페이징의 목적과 구현방법
  • 물리적인 페이지(page frame)과 가상 메모리의 페이지의 구별
  • 페이지 테이블(page table)에 대한 이해
• 핵심 메모리 관리 메커니즘 :
  • 메모리 매핑(memory mapping)
  • 요구 페이징(demand paging)
  • 쓰기시 복사(copy on write)
  • 스와핑(swapping)
  • 공유 메모리(shared memory)
  • 접근 권한(access right)
• 메모리 할당과 해제 :
  • RAM의 페이지들을 관리하는 방법
  • page 단위의 할당과 해제 방법
  • 슬랩 할당자(slab allocator)에 대한 이해
  • 메모리가 부족할 때 처리하는 방법
• (Optional) 하드웨어 캐시에 대한 이해

2.2 프로세스 관리

• 프로세스(process)의 개념
• 프로세스 상태 : 각각의 상태와 상태 전이도(transition diagram)
• 멀티 태스킹(multitasking)의 구현 :
  • 선점형 멀티 태스킹(preemptive multitasking)에 대한 이해
  • 스케줄링(scheduling)에 대한 이해
  • 스케줄링 알고리즘(scheduling algorithm)
  • 컨텍스트(context)에 대한 이해
  • 프로세스 전환(task switch/context swich)
• 프로세스의 생성과 소멸 :
  • fork를 통한 프로세스 생성
  • exec를 통한 프로그램 실행
  • clone을 통한 쓰레드(thread) 생성
  • exit를 통한 프로세스 종료와 소멸
• 프로세스와 가상 메모리의 관계
• (Optional) 프로그램의 구조 : ELF binary와 공유 라이브러리(shared library)

2.3 파일시스템

• 가상 파일시스템(virtual filesystem; VFS)의 구성 :
  • VFS 인터페이스
  • 개별 파일시스템의 인터페이스
  • 버퍼 캐시(buffer cache)
  • 블럭 디바이스 드라이버(block device driver)
• 개별 파일시스템을 관리하는 방법
• 파일의 종류와 디렉토리에 대한 개념
• inode의 개념과 open file의 개념
• superblock의 개념
• 파일시스템 마운트(mount)
• 버퍼 캐시(buffer cache)의 개념과 역할, writeback
• 캐시 : directory cache, inode cache
• 특수 파일시스템 : /proc 파일시스템, 장치 파일시스템(device filesystem)
• (Optional) EXT2 파일시스템의 구조

2.4 네트워킹

• TCP/IP 네트워킹에 대한 개념
• 리눅스 네트웍 시스템의 구성 :
  • 파일시스템
  • BSD 소켓 인터페이스(socket interface)
  • 개별 프로토콜 계열(protocol family)의 인터페이스 : INET 인터페이스
  • 실제 프로토콜 : TCP, UDP, IP
  • 하드웨어 장치 : ethernet, ...
• 소켓 프로그래밍 인터페이스 : bind, listen, accept, connect, send, receive
• 소켓 버퍼(socket buffer)의 역할
• 패킷의 전송과정

2.5 디바이스 드라이버

• 디바이스 드라이버의 역할
• 장치의 종류, 디바이스 드라이버와 장치 파일(device file)과의 관계
• 파일과 디바이스 드라이버의 연계

2.6 프로세스간 통신

• 시그널(signal)
• 파이프(pipe)
• 시스템 V IPC :
  • 시스템 V IPC 객체 : IPC 객체(object)의 생성과 관리와 찾기
  • 세마포어(semaphore)
  • 메시지 큐(message queue)
  • 공유 메모리(shared memory)

2.7 하드웨어 메커니즘

• 인터럽트(interrupt) :
  • 인터럽트의 개념
  • 인터럽트 핸들러의 관리
  • 인터럽트 발생시 처리 과정
• 예외(exception/trap) :
  • 예외의 개념
  • 예외 발생시 처리 과정
• 시스템 콜(system call) :
  • 시스템 콜의 개념
  • 시스템 콜이 불렸을 때 처리 과정

2.8 기타 커널 메커니즘

• 타이머(timer)
• 작업 후처리 메커니즘 : softirq, 소작업(tasklet), 작업큐(task queue), 하반부 핸들러(bottom half)
• 대기큐(wait queue)
• (Optional) SMP(대칭형 멀티 프로세서; symmetric multiprocessor)
  • SMP 시스템의 이해
  • SMP 시스템 locking : 인터럽트 금지, spinlock
  • SMP 시스템 스케줄링
• 커널 락킹(kernel locking) 메커니즘 : 인터럽트 금지, semaphore

3. 커널에 대한 탐색

• 커널 이미지의 구성
• 리눅스 커널의 부팅 과정
• 스케줄러의 하드웨어적인 구현
• 페이징의 하드웨어적인 구현
• 파일시스템의 실질적인 구현
• TCP/IP 프로토콜의 구현
• 인터럽트, 예외, 시스템 콜의 하드웨어적인 처리
• 기타, ...

4. 커널 공부 자료

5. 커널 프로그래밍 자료