Contact
코드 수정을 위한 소형 언어 모델의 미세조정과 필터링
Publication

코드 수정을 위한 소형 언어 모델의 미세조정과 필터링

정보과학회논문지, 제53권 제11호, pp. 1182-1187, 2026.11

Abstract

본 연구에서는 온디바이스 환경에서 활용할 수 있는 소형 언어 모델(CodeBERT, CodeT5, CodeT5+, UniXcoder)을 이용하여 프로그램 결함 위치 추정과 수정을 효과적으로 수행하기 위한 미세조정 방법과 효과적인 필터링 기법을 비교 분석한다. 코드의 특정 부분을 생성하여 결함을 수정하는 구문 생성 방식과 신경망 기계 번역에 기반을 둔 코드 전체 생성 방식을 비교하여 성능을 분석하였으며, 필터링을 통해 단순 복제(naive copy) 현상을 억제함으로써 결함 수정의 정확성을 높이는 방법을 추가하였다. 실험 결과, 제안하는 필터링 기법은 코드 전체 생성 방식에서 결함 위치 추정과 수정의 정확도를 각각 최대 296%와 280%까지 향상시켰으며, 그 결과 구문 생성 방식 대비 26개 더 많은 수정이 가능함을 확인하였다. 반면, 구문 생성 방식은 추론 시간이 15∼103배 더 짧고 컴파일 가능한 수정에 용이함을 보였다. 이러한 결과는 두 접근법의 장단점에 따라 제한된 자원 환경에서 소형 언어 모델을 활용하여 프로그램 결함 위치 추정과 수정을 수행할 수 있음을 보인다.