[LLM] LM에서 LLM으로 발전하는 과정에서의 주요 변화

BERT, BART, T5와 같은 모델에서 LLM(대형 언어 모델)로 넘어오면서 모델이 더 다양한 NLP 작업을 하나로 통합할 수 있게 된 데는 몇 가지 주요 변화와 개선점이 있습니다. 이 과정에서 모델의 훈련 방식, 크기, 일반화 능력, 프롬프트 기반 학습 등이 발전하면서 여러 NLP 작업을 통합하여 처리할 수 있게 되었습니다.

1. 모델 크기의 증가

• BERT, BART, T5와 같은 초기 모델은 대규모로 훈련된 언어 모델이었지만, GPT-3, GPT-4와 같은 LLM은 훨씬 더 많은 파라미터를 가지고 있습니다.
  • BERT는 수억 개의 파라미터를 가졌지만, GPT-3는 1750억 개의 파라미터를 가지고 있습니다.
  • 모델 크기의 증가는 모델이 훨씬 더 방대한 양의 데이터를 학습하고, 더 복잡하고 다양한 언어 패턴을 이해할 수 있게 만듭니다.
  • 이로 인해 다양한 작업(예: 분류, 추론, 생성 등)을 처리할 수 있는 일반화 능력이 크게 향상되었습니다.

2. 프리트레인-파인튜닝에서 프리트레인-프롬프트로의 전환

• BERT, BART, T5 같은 모델은 일반적으로 프리트레인(pre-training) 후에 파인튜닝(fine-tuning)을 통해 특정 작업에 최적화되었습니다. 예를 들어, BERT는 마스크드 언어 모델링을 통해 사전 학습된 후, 특정 NLP 작업(예: NER, 텍스트 분류 등)에서 성능을 발휘하도록 각각의 데이터셋에 맞춰 파인튜닝되었습니다.
• 그러나 LLM에서는 프롬프트 기반 학습(Pre-train, Prompt, Predict)이 강조되었습니다. 즉, 모델을 프롬프트(prompt)로 제어하여 다양한 작업을 처리할 수 있습니다.
  • 프롬프트 설계만으로 감정 분석, 추론, 번역 등 다양한 작업을 처리할 수 있기 때문에, 작업별로 파인튜닝할 필요가 크게 줄어들었습니다.
  • 예를 들어, GPT-3는 사전 학습된 후 프롬프트만으로 몇 가지 예시를 제공하면 즉시 새로운 작업을 처리할 수 있습니다(Zero-shot, Few-shot 학습).

3. 텍스트 생성 능력의 발전

• BERT와 같은 모델은 텍스트 이해에 중점을 두었고, 텍스트를 생성하는 능력은 제한적이었습니다. 반면, BART와 T5 같은 모델은 인코더-디코더 구조를 사용하여 텍스트 생성도 어느 정도 가능했으나, 그 규모나 유연성은 제한적이었습니다.
• LLM으로 넘어오면서 텍스트 생성 능력이 크게 향상되었습니다. 예를 들어, GPT-3나 GPT-4는 단순한 텍스트 예측뿐만 아니라, 고품질의 텍스트 생성, 요약, 번역, 코딩 등 매우 다양한 생성 작업을 처리할 수 있게 되었습니다.
• 이로 인해 텍스트 이해와 생성이 모두 가능해졌고, 대화형 AI나 자동 요약 등의 작업을 자연스럽게 처리할 수 있는 범용 언어 모델로 진화했습니다.

4. 다양한 작업을 통합할 수 있는 일반화 능력

• BERT, BART, T5는 특정 작업(예: 문장 분류, 문장 생성)에서 매우 높은 성능을 발휘했지만, 작업별로 모델을 따로 파인튜닝해야 했습니다.
• LLM은 사전 학습(pre-training)에서 다양한 데이터를 폭넓게 학습하면서 작업에 특화되지 않고도 텍스트의 전반적인 의미와 패턴을 이해할 수 있습니다. 따라서, LLM은 사전 학습된 지식을 바탕으로 작업별로 파인튜닝하지 않고도 여러 작업에 바로 적용될 수 있습니다.
  • 예를 들어, GPT-3는 프롬프트 기반으로 감정 분석, 자연어 추론(NLI), 번역, 텍스트 생성 등 다양한 작업을 처리할 수 있습니다.

5. Zero-shot 및 Few-shot 학습 능력

• BERT, T5 같은 모델은 파인튜닝이 필수적이었습니다. 즉, 새로운 작업을 처리하려면 해당 작업에 대한 데이터셋을 주고 추가 학습이 필요했습니다.
• 그러나 GPT-3 같은 LLM은 Zero-shot 또는 Few-shot 학습이 가능합니다.
  • Zero-shot 학습이란 별도의 파인튜닝 없이, 프롬프트만으로 새로운 작업을 바로 처리할 수 있는 능력입니다.
  • Few-shot 학습은 몇 가지 예시를 통해 작업을 학습시키는 방식으로, 학습 데이터가 거의 없더라도 성능을 발휘할 수 있습니다.
• 이런 능력 덕분에, LLM은 여러 작업을 하나의 모델로 통합하여 처리할 수 있게 되었습니다.

6. 프롬프트 엔지니어링의 발전

• LLM에서는 프롬프트 엔지니어링이 매우 중요해졌습니다. 프롬프트를 어떻게 설계하느냐에 따라 모델의 성능이 크게 달라지며, 같은 모델이 다양한 작업을 처리할 수 있게 됩니다.
• 이를 통해 LLM은 파인튜닝 없이도 적절한 프롬프트만으로 분류, 번역, 요약, 질의응답 등 다양한 작업을 통합하여 수행할 수 있습니다.

7. 더 방대한 데이터 학습

• LLM은 기존 모델보다 훨씬 더 방대한 양의 데이터를 학습합니다. 이 데이터에는 뉴스 기사, 책, 웹페이지, 코드, 논문 등 다양한 종류의 텍스트가 포함되므로, LLM은 더 다양한 작업에서 성능을 발휘할 수 있습니다.
• 학습된 데이터의 폭넓은 범위 덕분에, 새로운 작업에 대한 학습 없이도 다양한 작업을 처리할 수 있는 범용성이 크게 향상되었습니다.

---

결론적으로:

BERT, BART, T5 같은 모델에서 LLM으로 넘어오면서 모델이 더 큰 크기와 더 방대한 데이터를 학습하게 되었고, 프롬프트 기반 학습을 통해 다양한 NLP 작업을 하나의 모델로 통합할 수 있게 되었습니다. 파인튜닝 없이도 작업을 처리할 수 있는 Zero-shot, Few-shot 학습 능력과 프롬프트 설계가 중요한 역할을 하면서, 한 모델로 여러 작업을 동시에 처리할 수 있는 범용적인 NLP 플랫폼으로 발전하게 된 것입니다.

GPT-3부터는 일반적으로 LLM(대형 언어 모델, Large Language Model)으로 분류됩니다. GPT-3는 그 크기와 성능 덕분에 LLM의 대표적인 예로 여겨지며, LLM의 기준을 몇 가지 주요 특성으로 설명할 수 있습니다.

1. 모델의 크기

• GPT-3는 1750억 개의 파라미터를 가지고 있어 그 크기 자체가 대형 언어 모델의 대표적인 특징입니다.
• GPT-3 이전의 모델들(BERT, GPT-2, T5)은 수억 개에서 수십억 개의 파라미터를 가졌지만, GPT-3는 파라미터 수를 극적으로 늘리면서 보다 방대한 데이터와 더 복잡한 언어 패턴을 학습할 수 있게 되었습니다.
• 대형 언어 모델(LLM)의 중요한 특성 중 하나는 이러한 막대한 파라미터 수로, 더 많은 데이터를 학습하고 더 복잡한 작업을 처리할 수 있는 능력을 갖춥니다.

2. 다양한 작업을 통합할 수 있는 능력

• GPT-3는 다양한 NLP 작업(번역, 텍스트 생성, 질의응답, 요약 등)을 하나의 모델에서 처리할 수 있습니다.
• BERT나 GPT-2 같은 이전 모델들은 특정 작업에 파인튜닝을 해야만 높은 성능을 발휘할 수 있었습니다. 반면 GPT-3는 파인튜닝 없이 프롬프트만으로도 다양한 작업을 처리할 수 있는 능력을 가지고 있어, 이 점이 LLM의 또 다른 특징입니다.

3. Zero-shot 및 Few-shot 학습

• GPT-3는 Zero-shot 또는 Few-shot 학습 능력으로 유명합니다. 이는 추가 학습 없이도 새로운 작업을 처리할 수 있다는 의미입니다.
• 예를 들어, GPT-3는 사전 학습된 상태에서 몇 가지 예시를 제공하는 것만으로 새로운 작업을 바로 수행할 수 있습니다. 이 점에서 기존의 언어 모델들과 차별화됩니다.
• 이러한 Zero-shot 및 Few-shot 학습 능력은 LLM의 중요한 특징 중 하나로, 다양한 작업에 맞게 빠르게 적응할 수 있습니다.

4. 텍스트 생성 능력의 향상

• GPT-3는 이전 모델들보다 텍스트 생성 작업에서 월등한 성능을 발휘합니다. 이는 더 긴 문장, 더 자연스러운 대화, 더 복잡한 맥락을 이해하고 생성할 수 있는 능력 때문입니다.
• 텍스트 생성 능력이 우수한 GPT-3와 같은 모델들은 범용적인 언어 생성 작업에 강력한 성능을 발휘하여, 대화형 AI, 자동 콘텐츠 생성 등에서 사용됩니다.

5. 범용적인 모델

• GPT-3와 같은 LLM은 특정 작업에 제한되지 않고, 다양한 분야에서 범용적으로 사용될 수 있습니다.
• 예를 들어, GPT-3는 감정 분석, 번역, 텍스트 요약, 코드 생성 등 여러 분야에서 사용되며, 사전 학습된 하나의 모델로 매우 다양한 작업을 수행할 수 있습니다.

---

요약:

GPT-3부터는 모델의 크기, 성능, 범용성 등 여러 측면에서 LLM(대형 언어 모델)로 간주됩니다. GPT-3는 거대한 파라미터 수, Zero-shot/Few-shot 학습 능력, 프롬프트 기반 작업 처리를 통해 다양한 NLP 작업을 처리할 수 있는 능력을 갖춘 첫 모델로, LLM의 기준을 형성한 모델로 볼 수 있습니다.

따라서, GPT-3부터 LLM의 시작점으로 볼 수 있으며, 이후의 모델들(예: GPT-4, PaLM, LLaMA 등)은 이 범주에 포함됩니다.