RAG의 시대는 곳 갈 것이다

아직도 RAG를 찾는 기업들이 많다. 하지만 GPT에 PDF를 넣는 것으로는 “검색”만 가능할 뿐, 진짜 ”이해”는 일어나지 않는다.

곧 등장할 Agentic LLM은 RAG가 아닌 Storage로 직접 가서 문서를 읽고, 스스로 필요한 정보를 판단해 응답하는 구조가 될 것이다.

[User Query] 
   ↓
[LLM] → "이건 X에 대한 내용이군. 관련 문서 A, B, C를 봐야겠어."
   ↓
[Structured Storage Access] (문서 ID 기준, 인덱스 기반 탐색)
   ↓
[요약/정제/반영 → 응답 생성]

예컨대, 사용자가 “작년 고객 불만사항 요약해줘”라고 묻는다면, Agent는 연간 CS 리포트 문서를 스스로 열람하고, 필요한 항목만 추려 응답하게 될 것이다.

이 방향이 바로 다음 LLM 시대의 Retrieval 방식이다.

Agentic Retrieval… 이미 생각한 것은 항상있더라…