산업체 세션

임준호 CTO
(튜터러스랩스)

Biography
2026-현재	경북대학교 겸임교원, 언어AI 공동연구
2023-현재	연세대학교 겸임교원, 언어AI, 교육AI 강의
2022-현재	㈜튜터러스랩스 CTO, 교육AI 기술개발, 사업화
2005-현재	한국전자통신연구원 책임연구원, 언어AI기술 연구개발
2016	충남대학교 컴퓨터공학 박사
2005	고려대학교 컴퓨터학 석사
2002	고려대학교 컴퓨터학 학사

Long Context 추론을 위한 반증 기반 SLM 오케스트레이션 프레임워크 (45분)

대형 언어모델은 복잡한 추론에 강하지만 막대한 연산 비용과 데이터 보호 문제로 산업 현장 도입이 제약되며, 저렴한 소형 언어모델(SLM)은 장문 처리와 멀티홉 추론에 취약하고 다중 에이전트 앙상블에서는 동료의 오류에 무비판적으로 수렴하는 "동조 편향"에 시달린다. 본 발표에서는 이를 해결하기 위한 이종 SLM을 위한 반증 기반 오케스트레이션 프레임워크인 SLM-FUSION을 소개한다. 제안 방법은 각 모델의 강점에 맞춰 전처리 작업(질문 분해·재구성·문맥 요약)을 분배하는 Task-Specific Routing과 동료의 후보 답을 "가설"로 보고 문맥 내 모순을 능동적으로 탐색해 가장 적게 반박당한 답을 채택하는 반증 기반 교차검증을 결합한다. LongBench v2 벤치마크에서 5B 미만 SLM 앙상블만으로 44.9%의 정확도를 달성해 235B Qwen3(40.4%)와 Claude 3.5 Sonnet(41.0%)을 능가하고 GPT-4o(46.0%)에 근접했다. 이는 추가 학습 비용 없이도 추론 깊이를 파라미터 규모와 분리할 수 있음을 실증하며, 온프레미스 환경을 위한 신뢰성 높고 효율적인 AI 인프라의 가능성을 보여준다.