[이강훈 칼럼] 초거대 AI 시대, 지속 가능한 모델.. 최선은 '오픈랩'

데일리연합 (SNSJTV. 타임즈M) 곽중희 기자 | 인공지능(AI)이 비약적으로 발전하면서, 초거대 언어 모델이 빠르게 등장하고 있다. 이는 과거에는 상상하기 어려웠던 수준의 성능을 보여주지만, 막대한 학습 비용과 이후에도 끊임없이 드는 추론(운영) 비용이라는 거대한 부담을 함께 가져왔다. 이제는 단순히 모델을 크게 만드는 것만으로는 부족하며, 지속 가능한 방식으로 모델을 운영해야 할 필요성이 더욱 부각되고 있다. 학습 뒤에도 끝나지 않는 비용 문제 과거에는 대규모 자원을 투입해 모델을 학습하고, 이를 API 형태로 서비스하는 것이 일종의 정석으로 여겨졌다. 그러나 초거대 모델이 더욱 커질수록 다음과 같은 문제들이 심화되고 있다. 학습 이후의 추론 비용: 한 번 거대한 모델을 학습했다고 해서, 그 비용 문제가 모두 해결되는 것은 아니다. 모델이 복잡해질수록 실시간 질의응답(추론) 시 GPU 리소스가 기하급수적으로 소모되며, 이는 운영 부담으로 이어진다. 서비스 확장 시 리소스 폭증: 사용자 요청이 늘어날수록 추론 횟수도 많아지고, GPU 인프라 및 전력 사용량이 크게 증가한다. 이에 따른 유지 비용이 기업이나 기관에 막대한 부담을 준다. 이처럼 학습 단