AI 시대 필수, 컴공 전공자가 알려주는 LLM

안녕하세요, 서울에서 컴퓨터공학을 전공하며 AI 기술과 투자 트렌드를 꾸준히 탐구하고 있는 20대 대학생 투자자입니다.

여러분이 사용하는 ChatGPT나 Gemini 같은 서비스들은 모두 LLM(Large Language Model, 대형 언어 모델)을 기반으로 작동합니다. 오늘은 AI 시대에 필수적으로 알아야 할 개념인 LLM에 대하여 핵심만 콕 짚어, 쉽게 정리해 보겠습니다.

 

1.  LLM이란?

• LLM은 방대한 텍스트 데이터를 학습해 언어의 패턴과 문맥을 이해하고, 그 학습 결과로 자연스러운 문장을 생성하는 AI 모델입니다.
• 파라미터(parameter)가 수십억 개 단위로 구성되어 있어, 사람 언어의 복잡한 규칙과 뉘앙스를 포착할 수 있습니다.
• 대표 모델: OpenAI의 GPT 시리즈, 구글의 PaLM, 메타의 LLaMA 등

2.  LLM의 작동 원리

1. Transformer 구조

 

요즘 나오는 GPT, Gemini 등과 같은 최신 LLM들은 모두 이 Transformer 구조를 기반으로 만들어졌습니다.

 

 

• 텍스트를 토큰(token)으로 분할 → 각 토큰 간 관계도를 Attention으로 계산 → 문맥을 반영해 다음 단어 예측
• 전공자 관점: RNN/LSTM 대신 병렬 연산할 수 있는 Self-Attention을 쓰니, 대규모 데이터 학습이 빠르고 효율적입니다.

 

• 쉽게 설명하기 위해 예시를 들면, 입력으로 “나는”만 주어졌다고 가정해 봅시다.

1. Transformer는 다음 토큰 후보로 “축구”, “야구”, “게임” 등 수많은 단어에 확률을 부여합니다.
2. 가장 높은 확률을 가진 “축구”를 선택해 “나는 축구”로 만들고, 이어서 “를”, “좋아한다”를 순차적으로 예측해 “나는 축구를 좋아한다” 문장을 완성합니다.
3. 이처럼 토큰별 확률 분포를 계산해, 문맥에 맞는 단어를 하나씩 생성하는 구조입니다.

 

2. 자연어 처리(NLP)

 

• 컴퓨터는 본질적으로 0과 1로 이루어진 디지털 신호를 처리합니다.
• 사람이 쓰는 언어(문장, 단어, 뉘앙스)는 이진수 형태(0과 1)로 바로 이해할 수 없기 때문에, 자연어 처리(NLP)라는 학문이 등장했습니다.
• NLP는 컴퓨터가 인간 언어를 “토큰화 → 태깅 → 문법/의미 분석 → 생성” 과정으로 다룰 수 있게 돕는 기술입니다.

 

• NLP의 주요 과정

1. 토큰화(Tokenization)
   • 문장을 단어·구두점 단위로 쪼개서, 기계가 처리할 최소 단위(token)로 변환
2. 품사 태깅(Part-of-Speech Tagging)
   • 각 토큰에 명사, 동사, 형용사 등 문법적 역할 정보를 부착
3. 의존 구문 분석(Dependency Parsing)
   • 단어 간의 문법적 관계(주어-목적어 등)를 트리 구조로 파악
   • 트리 구조란 쉽게 예를 들면 “철수가 사과를 먹었다”라는 문장에서
   • “먹었다”가 뿌리(root) 역할을 하고
   • “철수가”는 주어(subj) 가지,
   • "사과를”은 목적어(obj) 가지로 이어지는 나무 구조를 그려요.
4. 의미 분석(Semantic Analysis)
   • 명사-개체(entity) 인식, 문장 전체의 의미 해석

 

 

3. 사전 학습(Pre-training) & 미세 조정(Fine-tuning)

• 사전 학습: 인터넷 뉴스·위키·책 등 온전한 언어 코퍼스로 일반 언어 지식 습득, 여기서 코퍼스(corpus)는 자연어 처리(NLP)에서 '언어의 말뭉치'라 불리는 대규모 텍스트 집합을 의미합니다.
• 미세 조정: 특정 업무(예: 채팅, 번역, 요약) 데이터로 추가 학습 → 성능 최적화

3.  LLM 주요 활용 사례

• 챗봇 & 고객 응대: 24시간 상담, FAQ 자동 응답
• 문서 요약 & 번역: 보고서·논문·뉴스 자동 요약, 다국어 번역
• 코드 생성 & 리뷰: GitHub Copilot, AI 페어 프로그래밍
• 전문 분야 지원: 의료 기록 요약, 법률 문서 초안 작성

 

4.  LLM의 문제

• Hallucination(허위 정보 생성): 허위 정보를 사실처럼 AI가 우리에게 말하는데 이는 검증이 필요합니다.
• 데이터 바이어스: 학습 데이터 편향이 결과에 반영될 수 있음, 쉽게 말해 학습 데이터에 ‘개발자’라는 단어가 주로 남성 이름과 함께 등장했다면, “개발자”라는 질문에 AI 모델이 남성만 떠올릴 수 있는 식입니다.
• 연산 비용 & 인프라: 수조 개 파라미터 학습·추론에 GPU/TPU 대규모 자원 필수, 이는 전력·장비·운영비용이 엄청나게 들어간다고 생각하시면 됩니다.

✍️ 마치며

이번 글에서는 GPT·Gemini 같은 최신 AI의 핵심 엔진인 LLM이 무엇이고, Transformer 구조, NLP 과정, 사전 학습·미세 조정, 활용 사례와 함께 Hallucination, 데이터 바이어스, 연산 비용 같은 한계까지 짚어보았습니다.

AI에서 LLM은 제가 생각하기에 사람으로 비유하면 뇌와 같은 역할이라고 생각합니다. 뇌의 신경망이 경험을 기반으로 연상하듯, LLM도 학습된 방대한 지식(파라미터)을 바탕으로 대화를 기억하고 문맥에 맞춰 유연하게 응답하기 때문이 아닐까라고 생각합니다.

LLM을 활용하면서 학습이 훨씬 수월해졌고 작업 효율도 크게 향상되었습니다. 정말 뛰어난 기술이라 앞으로도 이 분야를 꾸준히 연구하고 싶습니다. 다만, AI의 답변을 100% 신뢰하기보다는 항상 결과를 검증하는 습관을 갖고, 보조 도구로서의 장점을 최대한 살려 활용하는 데 초점을 맞추신다면 더욱 효과적으로 사용할 수 있을 것입니다.

 

2025.06.28 - [AI 관련 포스팅] - 전공자가 사용하는 AI