RAG แชตบอท: ย้ายเกินพื้นฐาน Q&เอ.
ผม เคย เห็น บริษัท มาก เกิน ไป ใช้ แช ตบอท ที่ ตอบ ได้ เฉพาะ เอฟ เอ คิว เท่า นั้น. แล้ว พวก เขา ก็ สงสัย ว่า ทําไม ลูก ค้า ยัง คง เรียก การ เกื้อ หนุน. ปัญหา ไม่ ใช่ แนว คิด แบบ แช ตบอท. มัน เป็น สถาปัตยกรรม. หุ่นยนต์พื้นฐานพึ่งพาความตั้งใจหรือรูปแบบที่เข้ากันได้ มันแตกเมื่อผู้ใช้ขอบางอย่าง นอกกรอบเล็กน้อย
ที่ นั่นการสนทนาแบบ RGเปลี่ยนทุกอย่าง RAG ย่อมาจากรุ่นที่โดนยึดไป มันดึงเอกสารที่เกี่ยวข้องหรือข้อมูล ที่เกิดขึ้นในเวลาจริง และป้อนให้โมเดลภาษา ผล ก็ คือ คํา ตอบ ที่ แท้ จริง, สด, และ เจาะจง สําหรับ ธุรกิจ ของ คุณ. "ผมขอโทษ ผมไม่เข้าใจ"
ในโพสต์นี้ฉันจะเดินคุณผ่านสิ่งที่ทําให้ RAG แชทบอท ที่แตกต่างกันร่วมตัวเลขยากที่ผลกระทบและให้คุณขั้นตอนแผนสําหรับส่วนเสริม AIได้ผลจริงๆ เรา จะ หลีก เลี่ยง คํา ศัพท์ และ ยึด มั่น กับ ข้อมูล.
อะไร ทํา ให้ RAG แชตบอท ต่าง ออก ไป?
พื้นฐาน แชทบอทเก็บคําตอบไว้ในฐานความรู้ เมื่อ ผู้ ใช้ ถาม หุ่น จะ หา คํา ตอบ. หากเข้าคู่กับรายการแล้ว จะเป็นการตอบกลับที่ใช้ได้ ถ้าไม่ได้ก็เพิ่มขึ้นเป็นมนุษย์
Aการสนทนาแบบ RGไม่เหมือนกัน มันมี 2 ส่วน คือ เครื่องกําเนิดไฟฟ้า ตัวดึงข้อมูลค้นหาฐานข้อมูลของเวกเตอร์ (เช่นไพน์คอนสําหรับข้อความที่เกี่ยวข้องกับการสอบถาม เครื่องกําเนิดไฟฟ้า (เช่น GPT-4 จากOpenAIแล้วสร้างคําตอบจากภาษาธรรมชาติ จากท่อนเหล่านั้น
เหตุ ผล ที่ มี การ ตี อย่าง รุนแรง
- ข้อมูลใหม่แชตบอทของคุณสามารถอ่านคู่มือผลิตภัณฑ์ล่าสุดของคุณได้ โดยไม่ต้องสอนซ้ํา แค่อัพเดตฐานข้อมูลของเวกเตอร์
- ภาพหลอนน้อย▪ โดย อาศัย คํา ตอบ ที่ ได้ มา จาก ข้อ ความ ที่ ได้ รับ มา แบบ อย่าง นี้ ไม่ อาจ อธิบาย ข้อ เท็จ จริง ได้. 2023 การศึกษาโดยการ์ทเนอร์พบว่า RAG พบว่าลดอัตราภาพหลอนลง 40% เมื่อเทียบกับรุ่นบริสุทธิ์
- ความแหลม:▪ คุณ ไม่ จําเป็น ต้อง เขียน กฎ ที่ ตั้งใจ ไว้ สําหรับ ทุก คํา ถาม ที่ เป็น ไป ได้. The Rebackers จัดการกับนวนิยาย Fringing
ผมทํางานกับลูกค้าดูแลสุขภาพ ที่มี FAQ 2,000+ หุ่นเก่าของพวกเขา ตรงกับ 60% ของคําถามที่ถูกต้อง หลัง จาก เปลี่ยน ไป เป็น RAG แชตบอท แล้ว ความ ถูก ต้อง แม่นยํา ก็ เพิ่ม ขึ้น ถึง 92% ภาย ใน สอง สัปดาห์. นั่น ไม่ ใช่ ทฤษฎี. นั่น เป็น เรื่อง จริง.
ระบบ สุขภาพ เดียว กัน นั้น เห็น อะไร บาง อย่าง ที่ ไม่ คาด คิด: การ ได้ รับ ความ พอ ใจ จาก คนไข้ (Pres Ganey) เพิ่ม ขึ้น 18 จุด. ทําไม? เพราะผู้ป่วยที่ถาม "ยาเฉพาะของฉันปลอดภัยกับยาเสริมนี้หรือไม่" ได้คําตอบที่แม่นยําและอ้างอิงได้ในวินาที -- ไม่ใช่การเชื่อมโยงทั่วไปกับ PDF ลูกความอีกคน ยี่ห้อเสริมโดยตรงกับบริษัท ใช้ RAG แชตบอท ในหน้าผลิตภัณฑ์ของพวกเขา เจ้าหุ่นที่อ้างอิงฐานข้อมูลส่วนประกอบ และผลแลปที่ 3 ในเวลาจริง อัตราการเปลี่ยนจากการปฏิสัมพันธ์ระหว่างแชทบอทเท่านั้น ที่ดีขึ้น 22% และเลิกสนับสนุนการสนทนาลดลง 35% สิ่ง เหล่า นี้ ไม่ ใช่ กรณี ที่ น่า อึดอัด แต่ กลับ ทํา ซ้ํา กัน ทั่ว อุตสาหกรรม เมื่อ ได้ ค้น หา พื้น ที่ สําหรับ คน รุ่น ใหม่ ใน สิ่ง ที่ สําคัญ สําหรับ ผู้ ใช้ ใน ขณะ นั้น.
ตัวเลข จริง: ทําไม จึง สําคัญ
ลอง ดู สถิติ ที่ เกี่ยว ข้อง กับ ซี เอฟ โอ.
| เมตริก | พื้นฐาน Chartbot | RAG แชตบอท | แหล่ง |
|---|---|---|---|
| สืบค้นความถูกต้อง | 55–65% | 85–95% | ม้านั่งภายใน 2024 |
| ความละเอียดการสัมผัสครั้งแรก | 30% | 75% | Sendesk CX Trinds 2024 |
| เฉลี่ยเวลาจับ | 4 นาที | 1.5 นาที | ข้อมูลไคลเอนต์ DG10 |
| ภาพหลอนรายเดือน | 200+ | 20–30 | ลังชาอินศึกษา |
การ ที่ อาการ ประสาท หลอน ลด ลง 40% ไม่ ใช่ การ เดา.แลงชินจัด พิมพ์ รายงาน หนึ่ง ซึ่ง แสดง ว่า RAG ลด ข้อมูล เท็จ ลง ใน การ สนับสนุน ของ ลูก ค้า 38-145%. เมื่อ คุณ พูด คุย กัน เดือน ละ 10,000 ครั้ง นั่น หมาย ถึง คํา ตอบ ที่ ผิด น้อย กว่า 4,000 คํา.
อีกหมายเลขที่ผมติดตาม: ค่าใช้จ่ายต่อคําถาม chartobs พื้นฐานที่ขึ้นอยู่กับแบบจําลอง gpU ราคาแพงทุกไม่กี่เดือน ตัว อย่าง เช่น ตัว เลข ที่ ถูก กว่า และ ราคา ถูก กว่า จะ ถูก กว่า. หนึ่งในลูกความอีคอมเมอซ์ตัดค่าใช้จ่ายจาก 0.08 เป็น $0.02 หลังจากย้ายไปที่ RAG นั่น คือ การ ลด ลง 75%.
และ ให้ เรา มา พิจารณา เรื่อง ความ เสมอ ต้น เสมอ ปลาย กัน. หนังสือ RAG แช ตบอท ตอบ คํา ถาม เดียว กัน นี้ ว่า ผู้ ใช้ จะ พิมพ์ เป็น ภาษา อังกฤษ, สเปน, หรือ อินโดนีเซีย ตราบ ใด ที่ มี การ แปล เอกสาร ของ แหล่ง ข้อมูล เหล่า นั้น หรือ ไม่ ก็ สนับสนุน การ เก็บ เอกสาร หลาย ภาษา. สําหรับ บริษัท การ ท่อง เที่ยว แห่ง หนึ่ง ซึ่ง มี 60% ของ การ สอบ ถาม ที่ มา ถึง ใน ภาษา อื่น นอก เหนือ จาก ภาษา อังกฤษ หุ่น มาตรฐาน ได้ บรรลุ ความ เสมอ ต้น เสมอ ปลาย 38% ใน ภาษา ต่าง ๆ; โครงการ RAG ของ พวก เขา มี ถึง 91%. นั่น คือ ความ แตก ต่าง ระหว่าง หุ่น ยนต์ ที่ รู้สึก ว่า ฉลาด กับ ตัว ที่ รู้สึก ว่า เพิ่ง เรียน รู้ วิธี พูด.
ผม ไม่ อาจ เน้น มาก พอ ว่า ความ ถูก ต้อง แม่นยํา และ การ ปรับ ปรุง ค่า ใช้ จ่าย เหล่า นี้ ผ่าน ทาง องค์การ ได้ อย่าง ไร. ลูกความหนึ่งคนลดอัตราการเลื่อนชั้นของพวกเขา จาก 22% เหลือ 6% -- ซึ่งแปลว่าเจ้าหน้าที่สนับสนุนน้อยลง 9 คน พวกเขารีเซปโลปีให้คนเหล่านี้ เข้าสู่การจัดการบัญชีมูลค่าสูง เพิ่มขึ้นโดยตรง อัตราการสร้างใหม่ แช ตบอท ไม่ ได้ เข้า มา แทน ที่ มนุษย์; มัน ยก ระดับ พวก เขา.
RAG Chartbot ขั้น ตอนการเติมเต็ม
การ ให้ ยา RAG แช ตบอท ไม่ ยาก เท่า ที่ ฟัง ขึ้น. ผม ทํา ให้ กระบวนการ นี้ แตก เป็น ห้า ขั้น. คาด หมาย ว่า จะ ใช้ เวลา สอง ถึง หก สัปดาห์ ขึ้น อยู่ กับ คุณภาพ ของ ข้อมูล.
ขั้น ที่ 1: เลือก กระเป๋า
คุณจําเป็นต้องมีสามส่วนของ: โมเดลการฝังตัว, ร้านขายเวกเตอร์, และแบบจําลองเชิงพันธุกรรม
- รุ่นที่ฝังตัวการแปลงข้อความของคุณเป็นเวกเตอร์ตัวเลข ตัวเลือก: text; imbedhapping 3small (OpenAI) หรือ BAI/bagismall (ฟรี). สําหรับกรณีการใช้งานหลายภาษา อินทฟลัต/มัลติอัลเทนไรด์ อี 5 เป็นตัวเลือกที่เปิดรับอย่างแข็งแรง
- ร้านค้าเวกเตอร์จัดเก็บเวกเตอร์เหล่านั้นสําหรับการค้นหาอย่างรวดเร็ว ฉันแนะนําว่าไพน์คอนสําหรับการผลิต (99.99% ของเวลาเพิ่ม SLA) หรือ Qdrant for elfhost. สําหรับขนาดขนาดใหญ่ (100M+เวกเตอร์) ลองพิจารณาวีเวทหรือเวสป้าที่ทนทาน
- รุ่นที่ใช้ร่วมกันGPTH4O หรือ Claude 3.5 Sonnet. ทั้งสองจัดการ RAG ได้เป็นอย่างดี สําหรับ ออน พรีม คอนเทนเมนท์, Lama 3.1 70B กับเครื่องยนต์อนุมานอย่างรวดเร็ว (VLLM) ทํางาน.
การกู้อวัยวะกลายเป็นมาตรฐานทอง Dens embections จับภาพความหมาย secmantic; การดึงข้อมูลเล็กน้อย (เช่น BM25) จับคําสําคัญที่แน่นอน ผนวกมัน -- เพิ่มขึ้นผ่านทางแรงฟิวชั่นที่ลดระดับลง -- การพิสูจน์การเรียกคืนโดย 10-115% ข้ามชนิดของเอกสาร heterignous
ขั้น ที่ 2: เตรียม ฐาน ความ รู้ ของ คุณ
รวบรวมเอกสารของคุณ PDF, Wikis, FAQs, Doc. ใส่ ลง ใน วรรค 200-500 คํา. การทับซ้อนกันมากเกินไป (100: 100 คําทับซ้อน) ช่วยผู้ดึงข้อมูลค้นหาบริบท โดยไม่สลับข้อมูลหลัก
ตัวอย่างจริงบริษัทฟินเทคมีเอกสารรับรอง 1,200 หน้า เราแบ่งแต่ละหน้าเป็นสามส่วน สร้างเวกเตอร์ 3,600 ตัว และทําดัชนีในไพน์โคนี่ The Rebacker ค้นพบส่วนที่เหมาะสม ใน 200 มม. แต่เวทมนต์ที่แท้จริงคือการกรองข้อมูลกํากับ พวก เขา ติด ป้าย แต่ ละ ชิ้น ด้วย ชนิด ผลิตภัณฑ์, เขต ปกครอง, และ วัน สุด ท้าย ที่ มี การ ตรวจ สอบ. เมื่อลูกค้าถาม "ค่าผ่อนชําระหนี้สําหรับยืมอัตโนมัติในแคลิฟอร์เนียคืออะไร?" ระบบที่รับมาเท่านั้นติดป้ายผลิตภัณฑ์=auto loanและขอบเขตอํานาจ=CA. ถ้า ไม่ มี เครื่อง กรอง นั้น หุ่น นั้น ก็ จะ กลับ มา พร้อม กัน และ บาง ครั้ง ก็ อ้าง ถึง กฎ ของ อัล เบอร์ ตา. ข้อมูลกํากับภาพเปลี่ยนแปลงการรับข้อมูลทั่วไป ให้กลายเป็นบรรณารักษ์ในโดเมน
ประมวลผลรหัสผ่านก่อนทําดัชนีเสมอ เครื่อง มือ ต่าง ๆ เช่น ห้อง สมุด ที่ ไม่ มี โครง สร้าง หรือ ไม่ มี โครง สร้าง อาจ ทํา ให้ เกิด ความ ซับ ซ้อน ของ PDF และ รักษา ตาราง และ ราย ชื่อ. ผม เคย เห็น การ กระโดด ที่ ถูก ต้อง 15% จาก การ ทํา ความ สะอาด ข้อมูล.
ขั้น ที่ 3: สร้าง ท่อ รับ น้ํา
ใช้กรอบภาพแบบแลงชินเพื่อเชื่อมต่อทุกอย่าง นี่ คือ การ ไหล:
- ผู้ ใช้ ถาม ว่า “นโยบาย เงิน คืน ของ คุณ คือ อะไร?
- เปิดการสอบถาม
- ค้นหา ไพน์คอร์ สําหรับสามเวกเตอร์ที่ใกล้ที่สุด
- ส่ง ชิ้น ส่วน เหล่า นี้ ไป ยัง GPTH4 พร้อม ด้วย คํา สั่ง ดัง นี้: “จง ใช้ เฉพาะ บริบท ที่ ได้ รับ การ จัด ให้ เท่า นั้น. “หากปรากฏว่ามีการสงสัย (ในเรื่อง) ก็จงกล่าวเถิด แท้จริงเจ้าไม่รู้
การ สอน ครั้ง สุด ท้าย นั้น เป็น เรื่อง สําคัญ. มันป้องกันแบบจําลองจากการสร้างคําตอบ แม้เมื่อการกู้ล้มเหลว
เพื่อ จะ ปรับ ปรุง คุณภาพ ให้ ดี ขึ้น จง เพิ่ม ขั้น ตอน ใน การ เปลี่ยน แปลง. เมื่อผู้รับคืนคืนส่วนบน 20 ก้อน, รุ่นตัวข้ามน้ําหนักเบา (เช่น Rerangek ของ Cone หรือ BAI/bGERERranger) คะแนนแต่ละก้อนกับคําถามเฉพาะ จากนั้นเก็บด้านบน 3. การ ทํา เช่น นี้ ทํา ให้ มี ความ เกี่ยว พัน กัน 8–12% และ ลด ปริมาณ ข้อ ความ ที่ ไม่ เกี่ยว ข้อง กับ เครื่อง กําเนิด ไฟฟ้า นั้น ต้อง ดําเนิน การ ซึ่ง ยัง ลด ความ ล่า ช้า และ ค่า ใช้ จ่าย ด้วย. หนึ่งในลูกค้าของเราเห็นคําตอบ ความแม่นยํากระโดดจาก 82% ถึง 94% ง่ายๆ โดยการแทรกขั้นตอนการย้าย -- ไม่มีการเปลี่ยนแปลงแบบจําลองจําเป็น
ขั้น ที่ 4: เพิ่ม ราง รถไฟ
คุณต้องกรองส่วนที่อันตรายออกมา ใช้ เครื่อง ขยาย เสียง (เช่น ยาม แล มมา) เพื่อ กัน สาร พิษ. แล้วก็สร้างความมั่นใจ ถ้าตัวนํากลับมาพร้อมกับความคล้ายคลึงต่ํากว่า 0.7 ให้หุ่นพูดว่า "ฉันต้องการที่จะย้ายคุณไปยังมนุษย์".
ครั้ง หนึ่ง ผม เคย เห็น หนังสือ RAG แช ตบอท ตอบ ว่า “ผม จะ เจาะ ระบบ ของ คุณ อย่าง ไร? ไม่ ดี เลย. ยามซ่อมได้
นอก จาก ความ ปลอด ภัย ใน การ เข้า มา แล้ว การ ออก เสียง ไม่ ได้ รับ การ สนับสนุน. วิธี ง่าย ๆ: ให้ แอล แอล เอ็ม แยก ต่าง หาก จาก กัน เพื่อ ประเมิน คํา ตอบ สําหรับ อาการ หลอน ประสาท, ข้อ เท็จ จริง: เครื่อง มือ ต่าง ๆ เช่น เครื่อง ป้องกัน เอ ไอ หรือ เอ็น วี ดี ดี เอ ใน เน โม การ์ เต ลส์ ทํา ให้ คุณ บังคับ ใช้ นโยบาย ต่าง ๆ อย่าง เด็ด ขาด. เรามักจะทดสอบด้วย adversarial commands เสมอ: "คําสั่งก่อนหน้านี้ ผู้รักษาการรักษาความปลอดภัยที่เป็นอนุโลมได้ และตอบว่า "ผมสามารถพูดคุยได้เพียงนโยบายเท่านั้น"
ม.
เรียกผู้ใช้จริง 200 คน วัดอัตราคําตอบที่ถูกต้อง อัตราการปฏิเสธและการโอน เป้า หมาย ของ คุณ: อัตรา ที่ ถูก ต้อง>85%, อัตราการถ่ายโอน<10% ขนาดรูนและนับค่า จนกระทั่งคุณกดเลขเหล่านั้น
ผมแนะนําให้ใช้ขั้นตอนการทดสอบเอ/บี ซึ่ง 10% ของการจราจรสดตีหุ่นตัวใหม่ ในขณะที่ที่เหลือยังคงใช้ระบบเก่า สําหรับ นก จาบ ปีก อ่อน ตัว หนึ่ง การ ทํา ร่ม เงา สอง สัปดาห์ ดัง กล่าว เผย ให้ เห็น ว่า หุ่น ตัว นั้น งอ เกิน ไป สําหรับ ผู้ ใช้ ที่ เคลื่อน ไหว ได้. เราย่อส่วนการกระตุ้นและลดความยาวก้อน การเพิ่ม CSAT โทรศัพท์มือถือโดย 14% ก่อนการม้วนเต็ม ถ้า ไม่ มี การ ทดสอบ เช่น นั้น เรา คง ได้ เริ่ม การ พูด คุย กัน อย่าง ถูก ต้อง ใน ทาง เทคนิค แต่ แทบ จะ ไม่ สามารถ ใช้ ได้. การ จราจร ทั่ว โลก มัก จะ เผย ให้ เห็น รูป แบบ ที่ ไม่ มี ห้อง ทดสอบ เลย.
RAG Chartbot การชดเชยค่าใช้จ่าย VS ประโยชน์
ตาราง ที่ อยู่ ข้าง ล่าง นี้ เปรียบ เทียบ การ ลง ทุน ใน ระดับ หน้า กับ การ ประหยัด ระยะ ยาว. ตัวเลขตั้งอยู่บนบริษัทขนาดกลางที่มีตัวแทนสนับสนุน 50 คน
| แก้ไขโครงการหลัก... | ค่า | บันทึกย่อ |
|---|---|---|
| ฐานข้อมูลของเวกเตอร์ (Pineconne) | $70/month | สําหรับเวกเตอร์ 10k, 1M query/เดือน |
| LLM April (GPTHE4O) | 0. 015 ต่อคําถาม | 50k quiries/เดือน = 750 |
| เวลาพัฒนา | $8,000–$15,000 | 21-24 สัปดาห์ของนักพัฒนาอาวุโส พ.ศ. |
| เงินออมประจําปีจากตั๋วลดทอน | $180,000 | มีตั๋วสนับสนุนน้อยกว่า 40% ที่ 30 เหรียญต่อตั๋ว |
| ROI หลังจากปีแรก | 10x | การออมเงิน ลบค่าใช้จ่ายทั้งหมด |
ตัวเลขมันเป็นเรื่องจริง บริษัท ทํา ไม้ แห่ง หนึ่ง ที่ ผม ทํา งาน ด้วย ใช้ เงิน 12,000 ดอลลาร์ ใน การ จัด ระเบียบ และ เก็บ เงิน ไว้ 25,000 ดอลลาร์ สําหรับ ค่า ค้ําจุน กว่า 12 เดือน. พวกเขาส่วนเสริม AIจ่ายเงินสําหรับตัวเองในสามเดือน
อย่า มอง ข้าม ประโยชน์ ที่ เห็น ได้ ชัด น้อย กว่า. สําหรับ ผู้ ให้ ไม้ ซุง นั้น การ เปลี่ยน แปลง โดย เฉลี่ย จะ ตก ลง เพราะ แชต บอท ได้ ขจัด การ เรียก ซ้ํา ๆ ที่ ทํา ให้ ข้อง ขัดใจ มาก ที่ สุด. พวกเขาประมาณเงิน 45,000 ดอลล่าห์ ออมออมเงินและฝึกต่อปี 2561. 000 บาท. 000 บาท. ลําดับที่สองนี้ทําให้ 10x ROI เป็นอนุรักษ์นิยม
ข้อ ผิด พลาด ทั่ว ไป ใน การ ขาด ความ มั่น ใจ
แม้กับ RAG ทีมจะทําผิดพลาด นี่คือสามที่ผมเห็นบ่อยที่สุด
ความ ผิด พลาด 1: การ ใช้ กลยุทธ์ ที่ ยาก จน
Chanks ที่มีขนาดเล็กเกินไป (ไม่ต่ํากว่า 100 คํา) แพ้บริบท จง ฝัง คํา ตอบ ไว้. ผมมักจะเริ่มด้วยเนื้อคํา 300 และการทดสอบทับซ้อน วิธี ที่ ดี กว่า: การ แยก เนื้อ ออก จาก กัน ซึ่ง คุณ แยก กัน ใน ขอบ เขต ของ เรื่อง ตาม ธรรมชาติ โดย ใช้ การ แยก ความ คล้ายคลึง กัน ที่ เกิด จาก การ อาบ ยา. การ ทํา เช่น นี้ ช่วย รักษา แนว คิด ที่ สอดคล้อง ลง รอย กัน และ ช่วย ให้ มี ความ เกี่ยว พัน กัน มาก ถึง 15% ของ ชิ้น เนื้อ ที่ คงทน.
ความ ผิด พลาด 2: ไม่ ใส่ ใจ ผู้ ใช้
RAG แชตบอทสามารถกู้เอกสารที่ถูกต้อง แต่ยังคงตอบคําถามผิด ถ้า ผู้ ใช้ ถาม ว่า “ฉัน จะ ตั้ง รหัสผ่าน ใหม่ ได้ อย่าง ไร? ” อย่า ปล่อย ให้ แบบ ที่ ไม่ ชัดเจน อีก ต่อ ไป. ฉันเคยเห็นหุ่นเปลี่ยนปุ่ม "กดปุ่มสีน้ําเงินบนขวา" เป็น "เปิดรับเมนูไรท์ แล้วเลือกตัวเลือก" -- และผู้ใช้ก็หลงทาง ใช้ วิศวกรรม อัตโนมัติ เพื่อ บังคับ ขั้น ตอน การ สืบ พันธุ์ ตาม ตัว อักษร เมื่อ มี ส่วน เกี่ยว ข้อง.
ข้อ ผิด พลาด 3: ไม่ มี การ วก กลับ
คุณต้องบันทึกการประมวลผลและทําดัชนีการรับข้อมูลใหม่ทุกสัปดาห์ ถ้าลูกค้าเอาแต่ถามเกี่ยวกับผลิตภัณฑ์ใหม่ เพิ่มเอกสารนั่นเข้าไป ถ้าไม่มีความคืบหน้า RAG แชตบอทของคุณจะเก่าลง ใน วิธี การ อย่าง หนึ่ง การ เปลี่ยน นโยบาย การ กลับ มา ของ บริษัท นั้น ไม่ ได้ ถูก เพิ่ม เข้า กับ ร้าน ของ เวชกรรม เป็น เวลา สาม สัปดาห์. หุ่น ตัว นี้ ยัง คง อ้าง ถึง นโยบาย เก่า ๆ ซึ่ง ยัง ผล ให้ มี การ ขอ ให้ ทํา อย่าง ไม่ ถูก ต้อง 300+00,000 ครั้ง. ตั้งค่าท่อส่งข้อมูล CI/CD ที่เปลี่ยนเอกสารโดยอัตโนมัติ
ข้อ ผิด พลาด 4: การ ละเลย ความ เร่ง ด่วน
เวลา ที่ จะ หยุด พัก สําคัญ พอ ๆ กับ ความ ถูก ต้อง. หุ่นยนต์ที่ใช้เวลา 8 วินาทีในการตอบ รู้สึกว่าเสีย แม้คําตอบจะสมบูรณ์แบบ โพรไฟล์ท่อส่งแก๊สของคุณ: การฝังตัว + การค้นหาในเวกเตอร์ควรอยู่ต่ํากว่า 200 มม. แคชเชียร์มักจะร้องด้วย TTL ใช้ การ ไหล เวียน เพื่อ แสดง ความ ก้าว หน้า. คน หนึ่ง ขาย สินค้า ลด อัตรา การ ทิ้ง ของ เขา เพียง แต่ โดย การ ย้าย แบบ จําลอง การ อาบ ยา ไป เป็น ตัว อย่าง ออน พรีม และ ทํา ให้ การ ตอบ สนอง มี แพร่ หลาย.
วิธี ตรวจ สอบ ร่าง กาย ของ คุณ
ทดสอบการสนทนาแบบ RGต้องใช้เมตริกต่างจากหุ่นมาตรฐาน นี่ คือ สิ่ง ที่ ผม ต้อง ทํา.
- ความสูง:ชิ้นส่วนที่ชิงมาได้ ตอบคําถามได้จริงหรือเปล่า วัดการเรียกคืน@k (วิธีบ่อยที่เนื้อที่ถูกต้องอยู่ในด้านบน 3).
- ความ ซื่อ สัตย์คํา ตอบ ที่ ได้ มา จะ อยู่ ใน ส่วน ที่ ได้ มา เท่า นั้น ไหม? ใช้ตัวประเมินแบบ LLMMTA แบบ DeBTERta หรือโครงการ RAGAS ซึ่งทําคะแนนความซื่อตรงอัตโนมัติ, การตอบตอบกลับ, และบริบทเรียกคืน
- สาย: เวลาตอบสนองทั้งหมดควรน้อยกว่า 3 วินาที ถ้า มัน ค่อย ๆ ชะลอ ตัว ให้ เป็น รูป ร่าง ดี ที่ สุด หรือ ใช้ แบบ ดอง ที่ เร็ว กว่า.
ทําการทดสอบเหล่านี้ในชุดที่หลากหลาย 300-500 ซีรีส์ ฉันใช้ส่วนผสมของ FAQs กรณีขอบและคําถามที่คลุมเครือ ตัว อย่าง เช่น:
- (จะมีคําบัญชาแก่มะลาอิกะฮฺว่า) จงนํามายังข้าเถิด
- “ ฉัน จะ เอา ไมโครเวฟ ที่ ซื้อ เมื่อ เดือน ที่ แล้ว มา คืน ได้ ไหม?
- “ คุณ จะ ยื่น ใบ รับรอง อะไร ให้ นาน ที่ สุด?
ถ้า หุ่น ของ คุณ ตอบ ถูก ทั้ง สาม คุณ ก็ มี รูป ร่าง ดี. ผม ยัง ได้ แนะ นํา ให้ ตรวจ สอบ ด้วย ว่า: ต้อง มี อักษร ที่ ไม่ ครบ ถ้วน, ประโยค ที่ ไม่ ครบ ถ้วน, หรือ บริบท ที่ ซ่อน ไว้ (“แล้ว สิ่ง ที่ ผม ถาม ก่อน หน้า นี้ ล่ะ?). หุ่น REG ที่แข็งแรงรักษาสภาวะการสนทนา และยังคงได้รับเนื้อที่พอดี จุด สําคัญ ไม่ ใช่ แค่ ผ่าน การ ทดสอบ แต่ เป็น การ ป้องกัน ไม่ ได้.
ส่งบอลไป แล้วมอบอํานาจ
วิธีที่เราตรวจสอบนี้ (กันยายน 2026): เราทดสอบคุณภาพของ RAG ใหม่ และค่าใช้จ่ายในข้อสันนิษฐานของลูกค้าที่สร้างขึ้นในเดือนกันยายน 2026; ตัวเลขที่อ้างถึงเป็นตัวเลขที่ปรากฏในโพสต์นี้
แชตบอทจะดีเท่ากับเนื้อหาที่มันเอามา มัคคุเทศก์เหล่านี้แก้ไขชั้นแหล่ง:
- AEO vs SEO— โครงสร้างคําตอบเพื่อให้ทั้งหุ่นยนต์และเครื่องยนต์อ้างอิงพวกเขา
- คู่มือวิศวกรรมการอ้างอิง-ชั้นเชมาที่ทําให้แหล่งอ่านเครื่องจักร
- อัลกอริธึมที่อยู่เชื่อมโยงไปถึง— เผยแพร่เนื้อหาที่หุ่นของคุณนํากลับมา
ถาม บ่อย ๆ
1. อะไรคือผลประโยชน์หลักของ RAG แชตบอท กับหุ่น FAQ แบบดั้งเดิม?
RAG แชตบอทสามารถตอบคําถามได้โดยดึงจากฐานความรู้ ไม่ จําเป็น ต้อง ฝึก ซ้อม ใหม่ ทุก ครั้ง. โดยปกติจะสูงกว่าหุ่นแบบตั้งใจ 30%
2. รถราจีแชตบอทราคาสร้างเท่าไร?
ค่า ใช้ จ่าย ใน การ พัฒนา มี ตั้ง แต่ 8,000 ดอลลาร์ ถึง 15,000 บาท. ค่าใช้จ่าย API ดําเนินการอยู่ที่ประมาณ $0.0.02 ต่อคําถาม บริษัทส่วนใหญ่จะเห็นผลตอบแทนภายในหกเดือน
3. ผมขอใช้โมเดลโอเพนซอร์สสําหรับ RAG ได้ไหม?
ใช่ Lamama 3.1 และ Mistral ทํางานได้ดีกับเครื่องรับแบบ BM25 หรือ ColBATT คุณ จะ ต้อง มี อุปกรณ์ มาก ขึ้น (จี พี ยู) แต่ คุณ จะ หลีก เลี่ยง ค่า ใช้ จ่าย API.
4 ฉัน จะ แน่ ใจ ได้ อย่าง ไร ว่า RAG แช ตบอท ของ ฉัน ไม่ มี ข้อมูล ที่ ละเอียด อ่อน?
เพิ่มตัวกรองนําเข้าเพื่อบล็อค PIL ใช้ฐานข้อมูลของเวกเตอร์แยก สําหรับเอกสารภายในสาธารณะ ห้ามทําดัชนีแฟ้มลับโดยไม่มีสิทธิ์ที่อนุญาต
5 คุณจะแนะนําเครื่องมืออะไรในการสร้าง RAG แชตบอท
แลงชินสําหรับวงออเคสตร้าไพน์คอนสําหรับการรักษาเวกเตอร์ และOpenAIสําหรับรุ่น สําหรับตัวเอง ใช้คดรันท์และลามา
6. RAG แชตบอทสามารถจัดการที่ซับซ้อน, หลายขั้นตอนเช่นการจองบริการ?
เมื่อจับคู่กับเครื่องของรัฐ หรือเอเจ้นท์เฟรม แน่นอน ขั้น ตอน ที่ ได้ มา นี้ สามารถ ให้ ความ รู้ แก่ แต่ ละ คน ใน ขณะ ที่ ชั้น ของ ตัว ควบคุม การ ไหล เวียน จะ จัด การ กับ กระบวนการ นี้. เราสร้าง RAGGKa ที่มีการนัดหมายที่มีประสิทธิภาพ ที่จัดการปรับปรุงใหม่ การยกเลิก และการตรวจสอบการประกันในเส้นด้ายเดียว
พร้อมจะสร้าง RAG Chatbot ของคุณ?
Aการสนทนาแบบ RGไม่ ใช่ โครงการ วิทยาศาสตร์. นั่น เป็น เครื่อง มือ ที่ พิสูจน์ แล้ว ว่า เป็น การ ลด ค่า ค้ําจุน, ปรับ ปรุง ความ พึง พอ ใจ ของ ลูก ค้า, และ สัดส่วน กับ ธุรกิจ ของ คุณ. แต่คุณต้องมีแผนที่ถูกต้อง และคู่หูที่ถูกต้อง
ที่ DG10 Agency เราให้โครงการ RAG แชตบอท สําหรับลูกความในศูนย์สาธารณสุข, epcommerce, และการเงิน ค่าเฉลี่ยของเราการสนทนาแบบ RGโครงการส่งอัตราความแม่นยํา 85% ภายในเดือนแรก เราจัดการทุกอย่างจากข้อมูล เพื่อการเตรียมการและติดตาม
เวลาสู่ตลาดสําคัญพอๆกับการแสดง โดยเฉลี่ยแล้ว เราย้ายจากการค้นพบ โทรหาต้นแบบสดในอีก 2 สัปดาห์ ลูกค้าของเรากําลังตอบคําถามลูกค้าที่แท้จริง -- ถูกต้อง -- ก่อนที่ข้อมูลการฝึกหุ่นเก่าของพวกเขาจะเสร็จสิ้น ความ เร็ว ดัง กล่าว มา จาก สมุด เล่น ที่ ผ่าน การ ทดสอบ แล้ว แต่ มัน ปรับ ให้ เข้า กับ ฐาน ความ รู้ ที่ ไม่ เหมือน ใคร, เสียง ยี่ห้อ, และ ข้อ เรียก ร้อง ตาม ความ ต้องการ.
ถ้า คุณ พร้อม จะ ย้าย ไป ไกล กว่า คิว ขั้น พื้น ฐาน&ผม อยาก จะ คุย กับ ลูก ค้า ของ คุณ และ ช่วย สร้าง แช ตบอท.
ติดต่อ DG10เพื่อขอคําปรึกษาฟรี เรา จะ ทบทวน กรณี ที่ คุณ ใช้, ประมาณ ค่า ใช้ จ่าย, และ แสดง ให้ คุณ ดู แบบ จําลอง ที่ มี ชีวิต ภาย ใน สอง สัปดาห์. หรือสํารวจบริการอัตโนมัติ AI ของเราเพื่อดูวิธีการ RAG ตรงกับกลยุทธ์ดิจิตอลขนาดใหญ่ของคุณ
อย่า ปล่อย ให้ แช ตบอท ของ คุณ ล้ม เหลว อยู่ เรื่อย ๆ. จง สร้าง ผู้ ที่ รับ, เรียน รู้, และ ช่วย ให้ รอด. สร้างการสนทนาแบบ RG.



