[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"blog-it-lightweight-rag-embeddings-small-data":3},{"id":4,"title":5,"author":6,"body":7,"cover":361,"description":362,"draft":363,"extension":364,"locale":365,"meta":366,"navigation":367,"path":368,"publishedAt":369,"seo":370,"seoTitle":371,"slug":372,"stem":373,"tags":374,"__hash__":376},"blog\u002Fit\u002Fblog\u002Flightweight-rag-embeddings-small-data.md","RAG leggero: embedding, SQLite e quando evitare il vector DB","Manuel Tardivo",{"type":8,"value":9,"toc":350},"minimark",[10,27,32,35,74,81,85,88,119,130,134,137,194,200,204,207,232,236,247,251,261,264,268,305,316,326,330,347],[11,12,13,14,18,19,22,23,26],"p",{},"Un vector database dedicato (Pinecone, Weaviate, Qdrant cloud, …) ha senso quando servono ",[15,16,17],"strong",{},"milioni di vettori",", ",[15,20,21],{},"filtri metadata complessi in millisecondi"," o team che non vogliono toccare storage. Per molti MVP con pochi migliaia di chunk, ",[15,24,25],{},"embeddings in-process + similarità su disco o in RAM"," sono sufficienti e riducono superficie operativa.",[28,29,31],"h2",{"id":30},"range-di-n-chunk-e-latenza","Range di N chunk e latenza",[11,33,34],{},"Ordine di grandezza (non benchmark certificati—profila sul tuo hardware):",[36,37,38,53,68],"ul",{},[39,40,41,44,45,48,49,52],"li",{},[15,42,43],{},"N \u003C 5 000"," chunk, embedding ",[15,46,47],{},"1536 dim"," float32 ≈ 30 MB solo vettori; dot product o cosine in RAM è spesso ",[15,50,51],{},"\u003C 10 ms"," su CPU moderna senza indice ANN.",[39,54,55,58,59,62,63,67],{},[15,56,57],{},"N tra 10k e 100k",": senza indice ANN le scan lineari diventano p95 > 100 ms; serve ",[15,60,61],{},"HNSW\u002FIVF"," (spesso fornito dal vector DB) o librerie come ",[64,65,66],"code",{},"hnswlib"," lato server.",[39,69,70,73],{},[15,71,72],{},"N > 100k"," con query interattive: valuta seriamente un motore vector o almeno un index serializzato on-disk.",[11,75,76,77,80],{},"La latenza dipende anche da ",[15,78,79],{},"batch embedding"," vs on-the-fly: cache degli embedding dei documenti, non ricalcolarli per ogni query se il corpus è statico.",[28,82,84],{"id":83},"scelta-dimensione-embedding","Scelta dimensione embedding",[11,86,87],{},"Esempi da verificare sul catalogo aggiornato del provider:",[36,89,90,109],{},[39,91,92,93,96,97,100,101,108],{},"OpenAI ",[64,94,95],{},"text-embedding-3-small"," offre dimensioni ",[15,98,99],{},"configurabili"," (es. 512 vs 1536) con tradeoff accuratezza\u002Fdimensione documentato nelle ",[102,103,107],"a",{"href":104,"rel":105},"https:\u002F\u002Fplatform.openai.com\u002Fdocs\u002Fguides\u002Fembeddings",[106],"nofollow","API embeddings",".",[39,110,111,112,18,115,118],{},"Modelli open-weight (es. ",[64,113,114],{},"bge",[64,116,117],{},"e5",") espongono dimensione fissa—leggi la card del modello su Hugging Face.",[11,120,121,122,125,126,129],{},"Regola pratica: per N piccolo, ",[15,123,124],{},"dimensione più alta"," spesso migliora il recall; per N grande, ",[15,127,128],{},"compressione"," o product quantization ripaga prima di clusterizzare infra.",[28,131,133],{"id":132},"storage-file-sqlite-niente-vector-saas","Storage: file, SQLite, niente vector SaaS",[11,135,136],{},"Tre pattern MVP:",[138,139,140,153,180],"ol",{},[39,141,142,148,149,152],{},[15,143,144,145],{},"NumPy\u002FPickle o file ",[64,146,147],{},".npy"," + manifest JSON con mapping ",[64,150,151],{},"chunk_id → offset",". Funziona per demo; fragile per concorrenza scrittura.",[39,154,155,158,159,18,162,165,166,18,169,172,173,176,177,108],{},[15,156,157],{},"Tabella SQL",": colonne ",[64,160,161],{},"chunk_id",[64,163,164],{},"embedding BLOB"," (float32 serializzati), ",[64,167,168],{},"content TEXT",[64,170,171],{},"metadata JSON",". Query: caricare candidati per filtro metadata, poi similarità in app ",[15,174,175],{},"solo"," su quel sottoinsieme—evita scan globali se puoi pre-filtrare per ",[64,178,179],{},"source_id",[39,181,182,185,186,193],{},[15,183,184],{},"SQLite + estensione vector"," (es. ",[102,187,190],{"href":188,"rel":189},"https:\u002F\u002Fgithub.com\u002Fasg017\u002Fsqlite-vec",[106],[64,191,192],{},"sqlite-vec","): unifica ACID + ANN se l’estensione è accettabile nel deploy (Nitro\u002FNode con load extension abilitato dove permesso).",[11,195,196,199],{},[15,197,198],{},"Quando evitare vector DB dedicato",": team piccolo, N sotto le soglie sopra, niente requisito di multi-region replica per gli embedding, budget ops limitato.",[28,201,203],{"id":202},"quando-migrare","Quando migrare",[11,205,206],{},"Segnali oggettivi:",[36,208,209,212,219,226],{},[39,210,211],{},"p95 retrieval > budget prodotto (es. 200 ms) anche dopo batch e cache.",[39,213,214,215,218],{},"Corpus ",[15,216,217],{},"cresce ogni settimana"," oltre la soglia che hai profilato.",[39,220,221,222,225],{},"Serve ",[15,223,224],{},"hybrid search"," (BM25 + vector) gestito da un unico servizio.",[39,227,228,231],{},[15,229,230],{},"Più applicazioni"," devono condividere lo stesso index con ACL diversi.",[28,233,235],{"id":234},"anti-pattern-rag-senza-eval","Anti-pattern: RAG senza eval",[11,237,238,239,242,243,246],{},"Se non misuri ",[15,240,241],{},"hit rate"," o MRR su un set di domande fisse, non sai se il “RAG leggero” funziona. Tenere ",[15,244,245],{},"20–50 query golden"," con chunk attesi e rilanciare lo script dopo ogni cambio embedding o splitter è il minimo sindacale.",[28,248,250],{"id":249},"pseudocodice-top-k-cosine-ram","Pseudocodice top-k (cosine, RAM)",[252,253,259],"pre",{"className":254,"code":256,"language":257,"meta":258},[255],"language-text","def top_k(query_vec, matrix, k):\n    # matrix: float32 [n, d], riga L2-normalizzata\n    scores = matrix @ query_vec  # [n]\n    return argpartition(scores, -k)[-k:]\n","text","",[64,260,256],{"__ignoreMap":258},[11,262,263],{},"Normalizza query e righe se usi dot product al posto di cosine esplicito.",[28,265,267],{"id":266},"sqlite-vec-vettori-dentro-sqlite-senza-pinecone","sqlite-vec: vettori dentro SQLite senza Pinecone",[11,269,270,271,276,277,280,281,18,284,287,288,291,292,295,296,299,300,304],{},"Il progetto ",[102,272,274],{"href":188,"rel":273},[106],[15,275,192],{}," (Alex Garcia) è un’estensione SQLite in C che aggiunge tipi vettoriali (",[64,278,279],{},"vec0"," virtual table), funzioni di distanza (",[64,282,283],{},"vec_distance_cosine",[64,285,286],{},"vec_distance_L2",", …) e query KNN stile ",[64,289,290],{},"… match :query and k = 10",". Utile quando vuoi ",[15,293,294],{},"un solo file DB"," con metadati + ANN senza servizio esterno. ",[15,297,298],{},"Nota",": è dichiarato ",[301,302,303],"em",{},"pre-v1","—previsti breaking tra release; blocca la versione dell’estensione come faresti per ogni dipendenza nativa.",[11,306,307,308,311,312,315],{},"In alternativa REST-only: ",[15,309,310],{},"Turso\u002FlibSQL"," propone embedding remoto—modello operativo diverso da file ",[64,313,314],{},".db"," locale.",[11,317,318,319,322,323,325],{},"Per ",[15,320,321],{},"solo-forza bruta"," in SQL puoi anche ordinare per distanza esplicita senza ",[64,324,279],{},", ma oltre ~10k–50k righe di solito serve ANN o un motore dedicato.",[28,327,329],{"id":328},"sintesi","Sintesi",[11,331,318,332,335,336,18,339,342,343,346],{},[15,333,334],{},"pochi k chunk",", embeddings cached + similarità lineare o SQLite sono spesso sufficienti. Il vector DB diventa necessario quando ",[15,337,338],{},"N",[15,340,341],{},"latenza"," o ",[15,344,345],{},"features"," (filtri, hybrid) superano ciò che vuoi mantenere in codice—non quando il blog dice che “tutti usano Pinecone”.",[11,348,349],{},"Riferimenti: documentazione del modello embedding scelto (dimensione, max tokens, lingua), e linee guida chunking del framework che usi.",{"title":258,"searchDepth":351,"depth":351,"links":352},2,[353,354,355,356,357,358,359,360],{"id":30,"depth":351,"text":31},{"id":83,"depth":351,"text":84},{"id":132,"depth":351,"text":133},{"id":202,"depth":351,"text":203},{"id":234,"depth":351,"text":235},{"id":249,"depth":351,"text":250},{"id":266,"depth":351,"text":267},{"id":328,"depth":351,"text":329},"\u002Fblog\u002F21_lightweight_rag_embeddings_small_data_1x.webp","Tradeoff per RAG su volumi piccoli: dimensione dei vettori, storage, e quando puoi restare su SQLite senza un vector database dedicato.",false,"md","it",{},true,"\u002Fit\u002Fblog\u002Flightweight-rag-embeddings-small-data","2026-05-17",{"title":5,"description":362},"RAG leggero: embedding SQLite, no vector DB","lightweight-rag-embeddings-small-data","it\u002Fblog\u002Flightweight-rag-embeddings-small-data",[375],"mvp","86nT7DkePDKN3gu4nxT7YG8sXRIEyjeNXFzNT6ZzVh8"]