사이토 고키 | 한빛미디어

2026년 8월 31일

추천이유

이 책은 순수 파이썬과 파이토치만으로 LLM의 토크나이저부터 트랜스포머 아키텍처, 강화학습까지 완전히 구현하며 블랙박스 속 언어 모델의 내부 메커니즘을 완벽히 통제합니다. 독자는 단계별 로드맵을 따라 이론과 코드를 직접 작성하며 AI 엔지니어로 도약하기 위한 확실한 기초를 갖추게 됩니다.

한빛미디어가 지난 8월 31일 펴낸 『밑바닥부터 시작하는 딥러닝 6』(사이토 고키 지음, 개앞맵시 옮김)은 부제가 곧 이 책의 약속이다. '토크나이저부터 추론 모델까지 직접 만드는 LLM'.

외부 프레임워크나 기성 토크나이저 라이브러리를 한 줄도 빌리지 않고, 순수 파이썬과 파이토치만으로 BPE 토크나이저와 디코더 전용 트랜스포머를 짠 뒤 지도 파인튜닝(SFT)과 GRPO·DPO 강화 학습까지 손수 구현한다. RoPE, SwiGLU, KV 캐시, FlashAttention처럼 지금의 LLM이 속도와 성능을 끌어올리는 기법도 코드로 하나씩 짚는다.

저자 사이토 고키는 일본 기업에서 AI 연구·개발을 하는 엔지니어다. 신경망의 기초에서 출발한 이 시리즈는 권을 거듭하며 자연어 처리, 딥러닝 프레임워크 직접 만들기, 강화 학습, 이미지 생성 모델로 영역을 옮겨 왔다.

이원준 영풍문고 기술부문 MD는 이번 권을 시리즈의 종합편으로 읽었다. "앞선 권들에서 따로 다뤘던 자연어 처리와 프레임워크 구현, 강화 학습이 이번 권에서 하나의 언어 모델 안으로 모인다"며 "저자가 왜 여섯 번째 주제로 LLM을 골랐는지는 목차만 봐도 납득이 간다. 사전 학습에서 SFT를 지나 강화 학습으로 이어지는 순서가 지금 LLM이 실제로 만들어지는 순서와 같다"고 말했다. 시리즈 전 권을 우리말로 옮겨 온 개앞맵시(이복연)가 이번에도 번역을 맡아 용어의 결이 앞선 권들과 이어진다.

책은 CodeBot, StoryBot, WebBot이라는 세 개의 봇을 차례로 만들며 난도를 올린다. 각 부가 토크나이저, 모델, 학습의 세 장으로 똑같이 짜여 있어, 같은 뼈대가 데이터와 규모에 따라 어떻게 달라지는지를 비교하며 읽을 수 있다.

권기원 영풍문고 서적팀 팀장은 400쪽을 독자에 따라 나눠 펼치라고 권했다. "LLM 구조가 처음이라면 0장 'LLM이 만들어지기까지'로 전체 그림을 잡고 1부 CodeBot을 끝까지 완주하는 게 우선"이라며 "오픈소스 모델을 파인튜닝해 본 실무자라면 2부와 3부의 학습 장으로 곧장 가서 SFT와 강화 학습 코드를 자기 프로젝트와 견줘 보면 된다"고 말했다. 수식의 근거까지 확인하고 싶은 연구자에게는 어텐션 스케일링 효과 증명, DPO 최적해 유도 등을 담은 다섯 개의 부록이 따로 기다린다.

API 호출만으로도 LLM 서비스를 만들 수 있는 시대다. 그럼에도 모델이 왜 그런 답을 내는지 설명해야 하는 순간은 반드시 온다. 토큰 하나가 어떻게 쪼개지고 보상 하나가 학습을 어떻게 바꾸는지 코드 단위로 말할 수 있는 개발자가 되고 싶다면, 영풍문고는 이 책을 이번 주 개발서 서가의 첫머리에 놓는다.

■ 추천 도서

-『밑바닥부터 시작하는 딥러닝 6』

- 사이토 고키 지음 | 개앞맵시(이복연) 옮김

- 한빛미디어 | 2026년 8월 31일 출간 | 400쪽 | 정가 35,000원

- ISBN 9791175790957

영풍문고는 1992년 종로에서 문을 연 이래 34년간 책과 독자를 이어온 서점입니다. 현재 전국 46개 지점과 온라인몰을 운영하며, 100만명의 회원에게 도서와 문화 콘텐츠를 제공하고 있습니다.

AI타임스 news@aitimes.com