본문으로 건너뛰기

GPT-4 Technical Report

· 약 3분
OpenAI

논문 정보​

  • 제목: GPT-4 Technical Report
  • 저자: OpenAI (Josh Achiam, Steven Adler, Sandhini Agarwal 외 다수)
  • 학회/저널: arXiv preprint
  • 발행일: 2023-03-15 (최종 수정: 2024-03-04)
  • DOI: 10.48550/arXiv.2303.08774
  • 주요 연구 내용: 이미지와 텍스트를 입력으로 받아 텍스트를 출력하는 대규모 멀티모달 언어 모델 GPT-4의 개발, 성능 평가, 안전성 분석
  • 주요 결과 및 결론: 다양한 전문적·학술적 벤치마크에서 인간 수준의 성능을 달성하며, 모의 변호사 시험 상위 10% 수준의 점수를 기록. RLHF 기반 정렬을 통해 사실성 및 바람직한 행동 준수를 향상
  • 기여점: 현대 LLM 연구의 기준점을 제시하고, 스케일 예측 방법론을 실증하며, 포괄적인 안전성 평가 프레임워크를 제공

요약​

초록​

본 보고서는 이미지와 텍스트를 입력으로 받아 텍스트를 출력하는 대규모 멀티모달 모델 GPT-4의 개발을 보고한다. GPT-4는 Transformer 기반 모델로 문서의 다음 토큰을 예측하도록 사전 훈련되었다. 다양한 전문적·학술적 벤치마크에서 인간 수준의 성능을 보이며, 모의 변호사 시험에서 상위 약 10%의 점수를 달성한다. 사후 훈련 정렬 과정은 사실성 및 바람직한 행동 준수 측면에서 성능을 향상시킨다. 본 프로젝트의 핵심 구성 요소는 광범위한 스케일에서 예측 가능하게 동작하는 인프라 및 최적화 방법의 개발이었다.

서론​

최근 수년간 대규모 언어 모델은 자연어 처리의 다양한 과제에서 놀라운 성능 향상을 보여주었다. GPT 시리즈는 이러한 발전의 선두에 있으며, GPT-4는 멀티모달 입력(텍스트 + 이미지) 처리 능력을 추가하여 모델의 활용 범위를 크게 확장하였다. 이 보고서는 GPT-4의 능력, 한계, 안전성에 대한 종합적인 분석을 제공한다.

모델 아키텍처 / 방법론​

  • 기본 아키텍처: Transformer 기반 사전 훈련 모델 (다음 토큰 예측)
  • 멀티모달 입력: 텍스트와 이미지를 동시에 입력으로 처리 (Vision 기능)
  • RLHF 기반 정렬: 사실성 및 바람직한 행동 준수를 위한 사후 훈련 정렬(post-training alignment) 적용
  • 스케일 예측: GPT-4 컴퓨팅의 1/1,000 수준으로 훈련된 소규모 모델을 사용하여 GPT-4의 최종 성능 일부를 예측 가능함을 실증. 이는 대규모 모델 개발의 자원 효율성을 크게 향상시키는 방법론

실험 및 결과​

GPT-4는 다양한 벤치마크에서 뛰어난 성능을 달성하였다:

  • 전문 시험: 모의 변호사 시험(Bar Exam) 상위 약 10% 수준, 의학·법학·수학 등 다양한 전문 시험에서 고득점
  • NLP 벤치마크: 기존 대규모 언어 모델 대비 우수한 성능, 대부분의 보고된 최첨단 시스템을 초과
  • 안전성 벤치마크: TruthfulQA에서 향상된 사실성, RealToxicityPrompts에서 감소된 독성
  • 다국어 성능: 영어 외 다수의 언어에서도 강력한 성능

결론​

GPT-4는 현대 LLM 연구의 기준점이 되는 모델로, 멀티모달 처리 능력과 전문적 수준의 성능을 결합하였다. 스케일 예측 방법론의 실증은 향후 대규모 모델 개발의 효율성 향상에 기여한다. 한편, GPT-4의 능력과 한계가 만들어내는 중요하고 새로운 안전 문제들(편향, 허위 정보, 과의존, 프라이버시, 사이버 보안 등)에 대한 포괄적인 분석도 제공한다. BT 생성, 코드 생성, 시나리오 명세 등 다양한 자동화 연구에서 GPT-4가 베이스라인으로 활용되고 있다.