Evolusi Memory AI Agent: Dari Menyimpan Chat ke Write-Manage-Read Loop

AI agent yang menyimpan seluruh riwayat chat belum tentu punya memory yang bagus. Ia cuma punya arsip besar.

Memory baru berguna ketika sistem bisa memutuskan tiga hal: apa yang layak ditulis, bagaimana ingatan itu dirawat, dan kapan bagian tertentu perlu dibaca kembali. Survey terbaru tentang memory untuk autonomous LLM agents menyebut pola ini sebagai write-manage-read loop. Memory terhubung langsung dengan perception dan action, bukan sekadar database di samping model.

Masalah agent jangka panjang bukan cuma context window yang terbatas. Context yang terlalu panjang juga bisa mengencerkan perhatian model. Sementara retrieval yang terlalu agresif dapat memasukkan fakta basi, duplikat, atau relevan secara kata tetapi salah secara situasi.

Model mental yang lebih tepat: write, manage, read

Berdasarkan survey Memory for Autonomous LLM Agents: Mechanisms, Evaluation, and Emerging Frontiers, memory agent dapat dibaca sebagai loop:

1. Write: memilih pengalaman, fakta, keputusan, preferensi, atau hasil tool yang pantas disimpan.
2. Manage: menggabungkan duplikat, memperbarui perubahan, menangani kontradiksi, memberi struktur waktu, dan melupakan data yang tak lagi berguna.
3. Read: mengambil memory yang tepat untuk keputusan sekarang, dengan batas token, latency, serta risiko privasi.

Ketiganya saling tergantung. Retrieval canggih tidak akan menyelamatkan write path yang memasukkan semua noise. Penyimpanan rapi juga percuma jika agent tidak tahu kapan harus memanggilnya. Bahkan lupa bukan selalu kegagalan. Dalam sistem yang sehat, forgetting dapat menjadi keputusan agar konteks tetap bersih.

Paper survey tersebut membagi mekanisme memory menurut temporal scope, media representasi, dan control policy. Di level implementasi, beberapa keluarga mekanisme berikut sering terlihat mirip dari luar, padahal masalah yang mereka selesaikan berbeda.

1. Context compression: ringkas agar pekerjaan tetap jalan

Context compression mempertahankan informasi di working context dengan cara merangkum, memangkas, atau menyusun ulang jejak interaksi. Pendekatan ini berguna untuk sesi panjang karena cepat dan tidak selalu membutuhkan infrastruktur retrieval terpisah.

Kelemahannya adalah kehilangan detail. Ringkasan merupakan interpretasi, bukan rekaman netral. Kesalahan kecil dapat terbawa ke ringkasan berikutnya. Compression juga kurang cocok jika agent perlu menemukan kembali satu fakta spesifik dari banyak sesi lama.

Survey Context Engineering for Large Language Models menempatkan context management bersama retrieval, generation, dan processing sebagai bagian dari disiplin yang lebih luas: menyusun information payload yang masuk ke model saat inference. Jadi menambah context window tidak otomatis menyelesaikan masalah. Isi context tetap harus dikurasi.

Paling cocok: kontinuitas tugas aktif, ringkasan progress, dan penyelamatan state sebelum context penuh.

2. Vector/RAG memory: cari potongan yang paling mirip

Vector memory menyimpan potongan informasi sebagai embedding, lalu mengambil item yang semantik paling dekat dengan query. Ini sederhana, scalable, dan efektif untuk banyak knowledge lookup.

Tetapi similarity bukan relevance yang lengkap. Kalimat yang mirip belum tentu masih benar, berasal dari user yang sama, atau berlaku untuk fase project sekarang. RAG juga cenderung memperlakukan memory sebagai koleksi dokumen statis, padahal pengalaman agent terus berubah.

Karena itu vector search sebaiknya dilengkapi metadata seperti waktu, sumber, identitas, scope project, confidence, dan status validitas. Retrieval juga perlu filter sebelum hasilnya masuk ke prompt.

Paling cocok: pencarian fakta atau catatan yang tersebar luas ketika relasi waktu dan konflik belum terlalu kompleks.

3. Mem0: ekstraksi, konsolidasi, dan retrieval memory penting

Paper Building Production-Ready AI Agents with Scalable Long-Term Memory memperkenalkan Mem0 sebagai arsitektur yang mengekstrak, mengonsolidasikan, dan mengambil kembali informasi penting dari percakapan. Varian graph-nya menambahkan representasi relasi antar-elemen memory.

Pada evaluasi LOCOMO yang dilaporkan paper, Mem0 memperoleh peningkatan relatif 26% pada metrik LLM-as-a-Judge dibanding baseline OpenAI. Penulis juga melaporkan p95 latency 91% lebih rendah dan penghematan token lebih dari 90% dibanding full-context. Angka ini adalah hasil setup evaluasi paper, bukan jaminan universal untuk setiap workload produksi.

Yang menarik justru write path-nya: percakapan mentah tidak otomatis dianggap memory permanen. Sistem mencoba mengubahnya menjadi unit memory yang lebih ringkas dan dapat diperbarui.

Paling cocok: personalization dan percakapan lintas sesi yang membutuhkan fakta salient tanpa membawa seluruh transcript.

4. MemGPT/Letta: context sebagai virtual memory

MemGPT, yang konsepnya diteruskan dalam ekosistem Letta, mengambil inspirasi dari hierarchical memory pada operating system. LLM bekerja dengan context window terbatas, sementara data dipindahkan antara memory tier yang cepat dan storage yang lebih besar. Hasilnya disebut virtual context management.

Perbedaannya dengan RAG biasa ada pada control flow. Memory bukan hanya endpoint pencarian yang dipanggil dari luar. Agent ikut mengelola perpindahan informasi dan dapat memakai interrupt untuk mengatur interaksi dengan user.

Arsitektur ini menarik untuk agent yang hidup lama, tetapi kualitasnya tetap bergantung pada keputusan paging: data apa yang dipertahankan di context, apa yang dipindah, dan kapan dipanggil kembali. Salah paging menghasilkan efek yang mirip komputer dengan memory management buruk: agent sibuk memindahkan informasi tetapi tetap kehilangan state penting.

Paling cocok: agent stateful dengan banyak sesi dan kebutuhan context hierarchy yang eksplisit.

5. Zep/Graphiti: memory sebagai temporal knowledge graph

Paper Zep: A Temporal Knowledge Graph Architecture for Agent Memory memakai Graphiti untuk menggabungkan percakapan tak terstruktur dan data bisnis terstruktur dalam graph yang sadar waktu. Ini berguna ketika fakta berubah: jabatan seseorang, status project, keputusan terakhir, atau hubungan antar-entitas.

Dalam paper tersebut, Zep dilaporkan mencapai 94,8% pada Deep Memory Retrieval, dibanding 93,4% untuk MemGPT. Pada LongMemEval, penulis melaporkan peningkatan akurasi hingga 18,5% serta penurunan latency 90% terhadap baseline tertentu. Karena paper berasal dari tim pembuat sistem, angka tersebut perlu dibaca sebagai bukti pada benchmark yang dipilih, bukan kemenangan mutlak atas semua desain memory.

Temporal graph memberi jawaban yang sulit diperoleh dari similarity search saja: bukan cuma "apa yang berkaitan?", tetapi "apa yang benar pada waktu tertentu?" dan "fakta mana yang menggantikan fakta lama?". Biayanya adalah ingestion, entity resolution, dan conflict handling yang lebih rumit.

Paling cocok: operasi bisnis, CRM, project history, dan relasi yang terus berubah.

6. Memory-as-Action: menyimpan dan melupakan sebagai policy

Memory as Action membawa ide ini lebih jauh. Framework MemAct memperlakukan pengelolaan working memory sebagai action yang dapat dipelajari. Agent melakukan editing langsung pada context melalui deletion dan insertion, lalu policy tersebut dioptimalkan bersama performa tugas menggunakan reinforcement learning.

Dalam eksperimen paper, MemAct-RL-14B dilaporkan menyamai akurasi model yang 16 kali lebih besar sambil mengurangi rata-rata panjang context sebesar 51%. Klaim pentingnya bukan sekadar efisiensi token. Agent belajar bahwa keputusan memory merupakan bagian dari reasoning policy.

Di titik ini, pertanyaan desainnya ikut berubah. Bukan lagi "database apa yang dipakai?", melainkan:

• kapan agent harus menyimpan hasil observasi;
• memory mana yang boleh diganti;
• kapan data harus dihapus dari working context;
• retrieval apa yang pantas dilakukan sebelum action berikutnya.

Paling cocok: long-horizon task yang memungkinkan memory policy dilatih dan dievaluasi terhadap outcome tugas.

Perbandingan fair: tidak ada satu mekanisme yang menang untuk semua kasus

Mekanisme di atas sebaiknya tidak dibaca sebagai ranking tunggal.

• Context compression murah dan praktis untuk menjaga task aktif, tetapi detail mudah hilang.
• Vector/RAG memory mudah diskalakan, tetapi lemah terhadap perubahan waktu dan kontradiksi tanpa metadata tambahan.
• Mem0 menekankan ekstraksi dan konsolidasi fakta penting dari interaksi.
• MemGPT/Letta menekankan hierarchy serta perpindahan informasi di dalam virtual context.
• Zep/Graphiti kuat untuk relasi dan validitas temporal, dengan pipeline data yang lebih kompleks.
• Memory-as-Action menjadikan curation sebagai policy yang dipelajari, tetapi training dan evaluasinya lebih berat.

Sistem produksi sering membutuhkan kombinasi. Working summary menjaga tugas sekarang. Vector store membantu pencarian luas. Structured profile menyimpan preferensi stabil. Temporal graph menangani perubahan. Audit log mempertahankan bukti mentah. Policy menentukan kapan masing-masing lapisan dipakai.

Fakta paper vs rekomendasi operasional Rama Digital

Bagian sebelumnya merangkum mekanisme dan hasil yang dilaporkan sumber primer. Bagian ini adalah rekomendasi operasional Rama Digital, bukan kesimpulan langsung dari satu paper.

1. Pisahkan transcript, state, knowledge, dan preference

Jangan taruh semuanya dalam satu bucket "memory". Transcript adalah bukti mentah. State menunjukkan posisi task. Knowledge berisi fakta yang dapat dipakai ulang. Preference menyimpan kebiasaan user. Masing-masing punya retention dan retrieval rule berbeda.

2. Tetapkan write policy sebelum memilih vector database

Definisikan event yang boleh menjadi memory, siapa pemiliknya, scope-nya, confidence, expiry, serta cara koreksinya. Infrastruktur retrieval baru dipilih setelah aturan ini jelas.

3. Simpan provenance dan waktu

Setiap memory penting sebaiknya punya sumber, timestamp, identitas terkait, dan status validitas. Tanpa provenance, agent sulit membedakan instruksi user, inference model, hasil tool, dan ringkasan otomatis.

4. Buat forgetting sebagai fitur yang diaudit

Memory yang kedaluwarsa perlu diarsipkan atau dinonaktifkan, bukan dibiarkan terus muncul. Untuk data sensitif, deletion policy dan batas akses harus menjadi bagian arsitektur sejak awal.

5. Evaluasi keputusan, bukan recall saja

Agent bisa mengingat fakta yang benar tetapi tetap mengambil action yang salah. Uji multi-session harus mengukur apakah memory membantu outcome: mengurangi pengulangan, mencegah konflik, menjaga constraint, dan memperbaiki keputusan.

Implikasi singkat untuk OpenClaw dan Hermes Agent

Untuk runtime agent seperti OpenClaw, implikasinya konkret: file memory, daily notes, session transcript, tool result, dan retrieval index sebaiknya diperlakukan sebagai layer berbeda. Memory yang dikurasi perlu mempunyai scope serta lifecycle, bukan sekadar menumpuk chat. Context per sesi tetap harus dirakit sesuai task yang sedang berjalan.

Untuk Hermes Agent, pola serupa relevan pada long-running task, tool-use history, skill execution, dan pengalaman lintas sesi. Memory paling berguna ketika membantu agent memilih action berikutnya, bukan ketika hanya membuat jawabannya terasa familiar.

Ini bukan perbandingan produk. Keduanya menggambarkan kebutuhan operasional yang sama: runtime agent memerlukan write policy, maintenance, retrieval, dan evaluasi outcome yang dapat diaudit.

Kesimpulan operasional

Evolusi memory AI agent bergerak dari "simpan lalu cari" menuju sistem yang aktif mengkurasi pengalaman. Context compression, RAG, memory extraction, virtual context, temporal graph, dan learned policy menyelesaikan lapisan masalah yang berbeda.

Keputusan praktisnya sederhana: jangan mulai dari pertanyaan "pakai database apa?". Mulai dari alur kerja memory:

1. Apa yang boleh ditulis?
2. Siapa atau policy apa yang merawatnya?
3. Kapan memory dipanggil kembali?
4. Bagaimana konflik, perubahan, privasi, dan lupa ditangani?
5. Apakah memory benar-benar memperbaiki keputusan agent?

Kalau lima pertanyaan itu belum terjawab, agent belum punya memory architecture. Ia baru punya tempat penyimpanan.

Referensi primer

• Memory for Autonomous LLM Agents: Mechanisms, Evaluation, and Emerging Frontiers (arXiv:2603.07670)
• Memory as Action: Autonomous Context Curation for Long-Horizon Agentic Tasks (arXiv:2510.12635)
• A Survey of Context Engineering for Large Language Models (arXiv:2507.13334)
• Building Production-Ready AI Agents with Scalable Long-Term Memory (arXiv:2504.19413)
• MemGPT: Towards LLMs as Operating Systems (arXiv:2310.08560)
• Zep: A Temporal Knowledge Graph Architecture for Agent Memory (arXiv:2501.13956)