[뉴스토마토 박재연 기자] 생성형 인공지능(AI)의 '할루시네이션(환각)' 현상은 피할 수 없는 구조적 한계라는 오픈AI의 연구 결과가 제시되면서 국내 기업들의 대응 전략에도 관심이 쏠리고 있습니다. AI 환각이 서비스 신뢰도를 떨어뜨리는 문제로 지목돼온 만큼, 기업들은 이를 최소화하기 위한 기술 고도화에 힘쓰고 있는데요. 다만 일각에서는 기술 심화 과정에서 개발 비용 증가·응답 지연 등 부작용 우려도 함께 제기되고 있습니다. 

 

오픈AI 연구진은 지난 4일 발표한 '언어 모델이 환각을 일으키는 이유' 논문을 통해 "거대언어모델(LLM)은 확률적 언어 모델 구조를 따르고 데이터 불완전성·통계적 복잡성 탓에 환각을 완전히 제거할 수는 없다"며 현실적으로는 환각 최소화를 위한 노력이 이어져야 한다고 설명했습니다. 챗GPT를 만든 오픈AI가 이 같은 내용을 발표했다는 점에서 무게감이 큰데요. AI의 구조적 제약을 짚은 이 논문은 환각 문제가 앞으로도 장기적으로 풀어야 할 난제임을 보여줍니다. 

 

결국 기업들은 이를 최소화하기 위한 전략이 필요한 시점인데요. 국내 기업들은 이전부터 환각 억제에 공을 들여왔습니다. AI 솔루션 기업 '업스테이지'는 광학문자인식(OCR) 기반 문서 AI를 LLM과 결합해, 단순 텍스트 입력 대신 원문 검증 절차를 더하는 방식으로 정확도를 높여왔습니다. 최훈 업스테이지 개발 총괄은 지난 11일 삼성SDS(삼성에스디에스(018260)) '2025 리얼 서밋' 키노트 세션에 참석해 "OCR과 LLM을 결합해 기존 모델의 오류를 최소화하고 99% 이상의 정확성을 달성했다"고 강조하기도 했는데요. 24일 업스테이지 관계자는 "LLM은 기본적으로 다음에 나올 단어를 확률적으로 예측하는 방식이기에 환각 확률이 0%가 될 수는 없다"며 "회사는 기업 내 비정형 데이터를 걸러내는 과정도 추가해 데이터 정확도를 높이고 있다"고 설명했습니다. 

 

AI 기업 '솔트룩스'는 생성형 AI ‘루시아’에 지식 그래프를 적용, 답변의 근거를 설명할 수 있는 구조를 마련하면서 신뢰성을 높였습니다. 지난달에는 환각 억제 기능을 강화한 '루시아 3.0'을 공개하기도 했는데요. 솔트룩스 관계자는 "오픈AI의 주장처럼 현실적으로 환각 현상 제로화는 어렵지만 사회적 수용성을 높이는 단계까지는 환각을 줄여 나가고 있다"며 "차세대 모델의 추론 기능을 강화해 현재는 환각 비율을 1% 미만에 이른 가운데, 향후에는 0.3% 이하로도 낮출 수 있을 것으로 기대한다"고 강조했습니다. 

 

AI 스타트업 '포티투마루'는 검색증강생성(RAG)과 기계독해(MRC42) 기술을 적용해 LLM의 환각 문제를 완화하는 중입니다. 검색으로 확보한 최신 정보를 독해 모델이 이해한 뒤, 답변을 생성하는 방식으로 환각 현상을 억제하는 것인데요. 관계자는 "축적된 RAG·MRC 기술을 활용한 산업 분야별 특화 학습으로 모델의 정확도를 올리고 있다"며 "이를 통해 복잡한 금융권에서의 활용도 기대 중"이라고 설명했습니다. 

 

박재연 기자 damgomi@etomato.com