Skip to content

About

Fine-tuning BERT for Sentiment Analysis on IMDB Dataset

Resources

Stars

0 stars

Watchers

0 watching

Forks

Repository files navigation

BERT Fine-tuning 기반 영화 리뷰 감성 분석

  • 50,000건의 IMDB 데이터를 활용한 감성 분류 모델 구축 및 최적화 (Accuracy 94.44%)
  • Tech Stack: Python, PyTorch, Transformers, Pandas

주요 성과 및 문제 해결

  • 모델 구조 최적화: 복잡한 MLP(GELU/Tanh)보다 단순한 1-layer Linear 구조가 파인튜닝 성능이 우수함을 실험으로 입증 (정확도 94.44% 달성)
  • 학습 전략 수립: GPU 메모리 제한 상황에서 Gradient Accumulation 대신 소규모 배치(Batch 8)를 활용해 일반화 성능과 학습 안정성 확보
  • 데이터 품질 개선: HTML 태그 제거 등 노이즈 전처리를 통해 모델의 문맥 이해도 향상

About

Fine-tuning BERT for Sentiment Analysis on IMDB Dataset

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages