AI 트랜드에 관한 짦은 생각

AI를 매일 사용하다 보면 묘한 경험을 하게 된다.

처음에는 AI가 정말 똑똑해 보인다.

내가 설명한 내용을 이해하고, 필요한 정보를 찾아주고, 보고서를 작성해주고, 코드를 만들어준다.

그런데 어느 순간 이런 생각이 든다.

"아니, 그거 전에 말했잖아."

분명히 지난달에 이야기했던 프로젝트다.

 

방향도 정했고, 기술 검토도 끝냈고, 해야 할 일도 정리했다.

그런데 AI는 마치 처음 듣는 이야기처럼 다시 설명해 달라고 한다.

결국 사용자는 같은 내용을 반복해서 입력한다.

AI가 부족해서가 아니다.

기억이 관리되지 않기 때문이다.

 

AI의 기억을 어떻게 효율적으로 지속시킬까

최근 AI 업계에서는 Memory가 중요한 키워드가 되었다.

대표적으로 다음과 같은 프로젝트들이 등장하고 있다.

• Mem0
• Letta(MemGPT)
• LangGraph Memory
• LangMem
• Hermes

이들의 공통점은 AI가 사용자의 정보를 장기적으로 기억할 수 있도록 만드는 것이다.

예를 들어 사용자가 다음과 같이 이야기했다고 가정해보자.

• IT 인프라 관리자
• Docker 환경 선호
• GPU 서버 운영 중
• 농업 데이터 분석 프로젝트 진행 예정

일반적인 LLM은 이 내용을 시간이 지나면 잊어버린다.

하지만 Memory 시스템은 이를 저장한다.

덕분에 다음 대화에서 사용자의 성향과 과거 대화를 반영한 답변이 가능해진다.

이것만으로도 엄청난 발전이다.

하지만 여전히 뭔가 부족하다.

 

누가, 기억을 계속 저장해 달래?

실제로 사용자가 원하는 것은 기억 저장소가 아니다.

사용자가 원하는 것은 집사다.

예를 들어 내가 AI에게 이런 이야기를 했다고 하자.

"부모님 농지 데이터를 드론으로 수집해서 스마트농업 사업 가능성을 검토하고 싶어."

이후 몇 달 동안 관련 이야기를 하지 않았다.

현재 AI는 아무 일도 일어나지 않는다.

그저 대화를 기다릴 뿐이다.

하지만 우리가 기대하는 AI는 다르다.

"3개월 동안 해당 프로젝트와 관련된 활동이 없습니다."

"보류 상태로 전환할까요?"

"지난번 검토한 드론 장비 비교 결과를 다시 확인할까요?"

이것이 기억 저장과 기억 관리의 차이다. 결국 센스다.

 

주목받는 Hermes

최근 Hermes 프로젝트가 관심을 받는 이유도 여기에 있다.

Hermes는 단순히 채팅 이력을 저장하지 않는다.

사용자를 모델링한다.

예를 들어 Hermes는 다음과 같은 구조를 가진다.

• Session
• Memory
• Skill
• User Model

처음에는 토큰을 많이 사용한다.

사용자의 기억을 읽고,
과거 경험을 확인하고,
사용자 모델을 불러온다.

하지만 시간이 지날수록 상황이 달라진다.

사용자가 매번 같은 설명을 반복할 필요가 없어진다.

AI가 사용자의 작업 방식과 선호도를 학습하기 때문이다.

그래서 Hermes를 사용하는 사람들은 종종 이런 이야기를 한다.

"처음에는 무겁다."

"하지만 익숙해질수록 점점 더 똑똑해진다."

실제로는 AI가 똑똑해지는 것이 아니다.

사용자의 맥락을 잃어버리지 않기 때문이다.

 

아직, 우린 목마르다

여기서 중요한 점이 있다.

Hermes는 기억하는 AI에 가깝다.

하지만 사용자가 원하는 것은 관찰하는 AI다.

둘은 비슷해 보이지만 다르다.

기억하는 AI는 이런 일을 한다.

"사용자는 GPU 서버 운영에 관심이 있음."

"사용자는 Docker 환경을 선호함."

"사용자는 농업 데이터 분석 프로젝트를 검토 중임."

관찰하는 AI는 여기서 한 단계 더 나아간다.

"GPU 서버 활용 프로젝트는 진행되었지만 모니터링 구성은 아직 완료되지 않았습니다."

"농업 데이터 프로젝트는 4개월 동안 업데이트가 없습니다."

"현재 계획은 이전 목표와 일부 충돌합니다."

즉 기억을 저장하는 것이 아니라 기억을 관리한다.

 

다음 세대 AI는 'AI 집사'가 될 것이다

많은 사람들이 AI Agent를 이야기한다.

MCP를 이야기한다.

RAG를 RAC를 이야기한다.

하지만 사용자의 입장에서 가장 큰 문제는 의외로 단순하다.

"내가 이미 말한 것을 또 말해야 한다."

AI가 정말 개인 비서가 되려면 단순한 Memory를 넘어야 한다.

필요한 것은 Memory DB가 아니다.

필요한 것은 Chief of Staff다.

나의 목표를 알고,

내가 결정했던 내용을 기억하고,

중단된 프로젝트를 추적하고,

서로 충돌하는 계획을 알려주고,

가끔은 "이거 하기로 하지 않았나요?"라고 물어보는 존재.

그때 비로소 AI는 검색 엔진도, 챗봇도, 에이전트도 아닌 진짜 디지털 집사가 될 수 있을 것이다.

20년전 우리들의 마음을 알아서 척척해내는 걸 칭하는 '스마트' 하다 라는 말을 AI도 듣게 되는 날이 얼마 남지 않을 것이라는 기대마저 든다.

 

마치며

지금의 AI는 기억을 저장하는 시대에 들어섰다.

하지만 앞으로 중요한 것은 얼마나 많이 기억하느냐가 아니다.

무엇이 중요한 기억인지 판단하고,

그 기억을 기반으로 사용자의 삶과 프로젝트를 관리하는 능력이다.

어쩌면 다음 세대 AI 경쟁은 모델 성능이 아니라,

누가 더 좋은 '집사'가 되는가의 경쟁이 될지도 모른다.