ארכיטקטורת RAG היא הסטנדרט החדש לאפליקציות AI ארגוניות. מדריך מעמיק עם נתונים, דיאגרמות, וצעדים מעשיים.
לפי Gartner, ההוצאה העולמית על AI צפויה להגיע ל-2.52 טריליון דולר ב-2026, עלייה של 44% משנה לשנה. חלק משמעותי מההשקעה הזו מכוון לאפליקציות RAG ארגוניות.
RAG, Retrieval-Augmented Generation, הוא ארכיטקטורה שמשלבת חיפוש מידע ממאגר ידע (Retrieval) עם יצירת תוכן על ידי מודל שפה (Generation). במקום לסמוך רק על הידע הפנימי של LLM, המערכת שולפת מידע רלוונטי ומעודכן ומזינה אותו כ-context.
[stat]$2.52T|ההוצאה העולמית על AI ב-2026 לפי Gartner, צמיחה של 44%[/stat]
> RAG פותר את שתי הבעיות הגדולות ביותר של LLMs: הזיות (hallucinations) ומידע לא מעודכן. במקום לדמיין תשובות, המודל עובד עם נתונים אמיתיים ומאומתים.
הרבה ארגונים שואלים: "למה לא פשוט לעשות Fine-Tuning?" הנה ההבדלים הקריטיים:
המידע משתנה לעתים קרובות, מוצרים, מחירים, מדיניות צריכים שקיפות, לדעת בדיוק מאיפה הגיעה כל תשובה (citations) רוצים עלות נמוכה, לא צריך GPU ואימון עובדים עם מסמכים פנימיים, חוזים, נהלים, מסמכי מוצר
צריכים סגנון ייחודי קבוע Latency קריטי ולא ניתן להוסיף שלב retrieval העבודה בתחום סגור ויציב שלא משתנה
[stat]90%+|מאפליקציות AI ארגוניות ב-2026 משלבות RAG, לפי סקר McKinsey[/stat]
לוקחים את כל מקורות המידע, PDF, HTML, Word, Confluence, Slack, מיילים, וממירים אותם לטקסט נקי ומובנה.
Chunking, חיתוך המסמכים לקטעים: גודל מומלץ: 200-500 tokens לכל chunk חפיפה (overlap): 10-20% בין chunks סמוכים שיטות: לפי פסקאות, לפי semantic similarity, או recursive character splitting טיפ קריטי: חתכו ברמת פסקה, לא ברמת משפט, שמירה על הקשר היא הכל
כל chunk עובר דרך מודל Embedding ומומר לוקטור מספרי (רשימה של מספרים שמייצגים את המשמעות):
text-embedding-3-large (OpenAI), 3,072 dimensions, הכי מדויק text-embedding-3-small (OpenAI), 1,536 dimensions, מאוזן Cohere embed-v3, מצוין לחיפוש multilingual BGE-M3 (open source), חינמי ומצוין
הוקטורים נשמרים ב-Vector Database שתומך בחיפוש similarity מהיר:
Pinecone, SaaS מנוהל, הכי קל להתחלה, $70/חודש לתוכנית בסיסית Weaviate, קוד פתוח עם hybrid search מובנה pgvector, הרחבה ל-PostgreSQL, מצוין אם כבר יש לכם DB ChromaDB, קל מאוד, מושלם ל-prototyping Qdrant, ביצועים גבוהים, כתוב ב-Rust
> טיפ מקצועי: אם אתם עובדים עם PostgreSQL (כמו Supabase), pgvector הוא בחירה מצוינת, חוסך ניהול של DB נוסף.
כשמשתמש שואל שאלה: 1. השאלה מומרת לוקטור 2. מחפשים את ה-chunks הכי דומים (Cosine Similarity / Dot Product) 3. Re-Ranking עם Cross-Encoder (Cohere Rerank, BGE Reranker), שלב קריטי שרוב האנשים מדלגים עליו 4. מחזירים את Top-K (בדרך כלל 3-10 chunks)
ה-chunks הרלוונטיים מוזנים ל-LLM כ-context, והמודל מייצר תשובה מבוססת:
System Prompt ברור: "ענה רק על סמך ה-context. אם אינך יודע, אמור שאינך יודע." Citations, הוסיפו הוראה לציין מקורות Temperature נמוכה (0.1-0.3), לתשובות מדויקות
1. Chunks קטנים מדי, מאבדים הקשר. chunk של משפט אחד הוא חסר ערך 2. בלי Re-Ranking, ה-embedding search מחזיר תוצאות "דומות" אבל לא תמיד רלוונטיות. Cross-Encoder מתקן את זה 3. הזנחת Metadata, תייגו כל chunk עם: מקור, תאריך, פרק, נושא. זה מאפשר filtering חכם 4. Prompt גנרי, System prompt חייב להיות ספציפי לדומיין 5. בלי evaluation, תמדדו! Recall@K, Precision, RAGAS framework 6. בלי fallback, מה קורה כשאין תשובה? המערכת צריכה להגיד "לא יודע" ולא להמציא 7. אי-עדכון מסמכים, pipeline אוטומטי לעדכון ה-knowledge base
[stat]3-5x|שיפור בדיוק התשובות כשמוסיפים Re-Ranking לפי מחקר של Cohere[/stat]
שילוב של semantic search (embeddings) עם keyword search (BM25). נותן תוצאות טובות יותר מכל אחד בנפרד.
במקום חיפוש אחד, המערכת מייצרת 3-5 גרסאות של השאלה ומריצה חיפוש נפרד לכל אחת. מרחיב את הכיסוי.
ה-LLM מחליט בעצמו אילו מקורות לחפש, מתי לחפש שוב, ומתי יש מספיק מידע לענות. זה ה-future של RAG.
טכניקה של Anthropic שמוסיפה context לכל chunk לפני ה-embedding, "מסמך זה עוסק ב-X. הקטע הנוכחי מדבר על Y." משפר retrieval ב-49%.
RAG הוא הכישור הכי מבוקש בעולם ה-AI היישומי. כל חברה שרוצה AI פנימי, צ'אטבוט לתמיכה, עוזר למכירות, אנליסט אוטומטי, צריכה מומחה RAG.
שכר ממוצע בישראל: Junior AI/RAG Engineer: ₪22K-28K Mid-level: ₪30K-40K Senior: ₪42K-55K
> ב-BDO AI & Tech Academy אנחנו מלמדים לבנות מערכות RAG מאפס, מ-chunking ועד production deployment. המסלול כולל פרויקט גמר שבו תבנו מערכת RAG מלאה על דאטה אמיתי.
---
[cta]רוצים ללמוד לבנות מערכות RAG מקצועיות?|/courses/ai-ml-engineer|הצטרפו למסלול AI של BDO Academy[/cta]