Waktu pertama kali baca headline "Perplexity Rilis Portable Computer", gue kira mereka mendadak alih profesi jadi pabrik laptop buat nyaingin Apple atau Lenovo. Ternyata bukan.
Yang mereka rilis adalah aplikasi software super buas yang memindahkan seluruh arsitektur Agen AI (yang tadinya cuma bisa jalan di server cloud mereka) langsung ke mesin PC lokal kamu. Berkolaborasi dengan NVIDIA, debut aplikasi ini dirancang khusus untuk berjalan di atas superkomputer desktop NVIDIA DGX Spark.
Bagi developer, data analyst, atau perusahaan yang paranoid dengan kebocoran data, peluncuran pada 25 Agustus ini adalah game-changer sejati.
Selamat Tinggal Kuli Token API
Kalau kamu sering mainan Autonomous Agent (AI yang jalan sendiri berjam-jam buat ngerjain tugas, kayak riset dokumen atau coding), kamu pasti paham betapa berdarah-darahnya tagihan token API cloud. Agen itu rakus. Dia bakal terus-terusan manggil API buat ngetes code, baca hasil, dan nulis ulang.
Nah, nilai jual paling sakti dari Portable Computer adalah: Argometer tokennya berhenti di angka nol.
Karena seluruh ekosistemnya (Mulai dari Orchestrator LLM, Subagent, Agent Harness, sampai Secure Sandbox buat eksekusi code) jalan murni secara lokal di DGX Spark kamu. Nggak ada sepeser pun biaya per token yang ditarik, selama kamu nggak melempar tugasnya ke cloud.
| Kategori | AI Agent Cloud (Biasa) | Perplexity Portable Computer |
|---|---|---|
| Biaya Eksekusi | Hitungan per token API (Sangat mahal buat looping lama). | Gratis (Jalan di hardware sendiri). |
| Keamanan Data | Rawan (File rahasia/PII ke- upload ke server luar). | 100% Privat (File diam di lokal). |
| Kerumitan Setup | Harus setel router, framework, dan API keys manual. | Plug-and-play (Semua paket agent stack udah ke-bundle). |
Hybrid Routing: Minta Tolong ke "Dewa" Pas Mentok
Tentu saja, sehebat-hebatnya model lokal (seperti Qwen 27B), dia punya batas nalar (reasoning). Kalau kamu nyuruh dia mikir logika arsitektur coding yang ruwet, dia bakal kewalahan.
Di sinilah fitur hibridanya bersinar. Kalau si Agen lokal merasa nggak sanggup, dia nggak akan asal nebak. Dia bakal minta izin (User-Gated) ke kamu untuk ngelempar bagian spesifik dari tugas itu ke model raksasa di cloud (seperti Claude Opus).
Kerennya lagi, sebelum ngelempar request ke cloud, sistem bakal nge- scan data kamu. File PDF sensitif (misal: laporan keuangan atau source code perusahaan) tetep ditahan di lokal. Yang dikirim ke cloud cuma panduan teks/pertanyaannya aja!
💻 Bedanya Sama Setup Ollama Biasa?
Pasti banyak kaum "mending rakit PC" yang nanya: "Lah, apa bedanya sama gue install Ollama + Llama 3 di lokal?"
Perbedaannya ada di level Agent Harness. Kalau kamu pakai Ollama, kamu cuma dapet mesin penjawab (Inference Engine). Kalau mau bikin dia bisa jalanin terminal, baca PDF beruntun, connect ke Slack/Gmail, dan verifikasi kodenya sendiri, kamu harus coding dan merakit pipeline-nya manual (yang mana seringnya error dan crash).
Perplexity nge- bundle semua infrastruktur ruwet itu jadi satu UI yang tinggal pakai. Bahkan, alat konektor ke Gmail atau GitHub diubah dari yang tadinya rakus token, jadi command-line tools yang ringkas.
Buat kamu yang penasaran pengen nyoba tapi belum punya DGX Spark, tenang aja. Perplexity berjanji bakal meluncurkan dukungan untuk mesin Linux dengan GPU NVIDIA RTX (minimal 24GB VRAM, sekelas RTX 3090) dalam waktu dekat, disusul versi Windows bulan September nanti.
Menurut kamu, apakah revolusi AI lokal ini bakal ngebunuh model bisnis jualan token API dari OpenAI dan Anthropic? Jujur, punya Agen AI 24 jam nonstop tanpa takut billing jebol adalah mimpi basah semua developer!