ทำได้ทุกสิ่ง AnythingLLM (จริงหรือ?)

โครงร่างเนื้อหา

AnythingLLM / Everything LLM อะไร ๆ ก็ LLM ทุกวันนี้เราได้ยินคำนี้กันบ่อยขึ้น มากขึ้น และผลิตภัณฑ์ที่เกี่ยวข้องก็มากขึ้นด้วย อย่างเช่นบทความนี้ จะพาทุกท่านไปรู้จักกับ AnythingLLM ซึ่งเป็นอีกหนึ่งทางเลือกที่ดี สำหรับคนที่อยากมี AI LLM เป็นของตนเอง

รู้จักกับ AnythingLLM

เป็นแพลตฟอร์มโอเพ่นซอร์สที่ช่วยให้คุณสามารถใช้งานและจัดการโมเดลปัญญาประดิษฐ์ (LLM – Large Language Model) ได้อย่างง่ายดาย โดยรองรับการปรับแต่ง (fine-tuning) และการใช้งานโมเดลภายในองค์กรหรือโครงการส่วนตัว

https://anythingllm.com

และที่สำคัญไม่แพ้กันคือ มาพร้อม Community และเอกสารอ้างอิง คู่มือวิธีการใช้งาน

เห็นแบบนี้ เชื่อว่าหลาย ๆ คนเริ่มอยากรู้จัก บางคนเริ่มอยากใช้ ตอนท้ายบทความจะมี เกริ่นนำการติดตั้งบนวินโดว์ spec ต่ำ

คุณสมบัติหลัก

การจัดการเอกสารและข้อมูล
- สามารถนำเข้าข้อมูลจากหลายแหล่ง เช่น ไฟล์ PDF, Docs, Markdown และอื่นๆ
- จัดระเบียบและค้นหาข้อมูลได้ง่ายขึ้น
รองรับโมเดลหลากหลาย
- ใช้งานกับโมเดล AI เช่น OpenAI (GPT), Llama, Mistral และโมเดลโอเพ่นซอร์สอื่นๆ
- สามารถตั้งค่าให้รันโมเดลผ่าน API หรือในเซิร์ฟเวอร์ของตัวเอง
การปรับแต่งให้เหมาะกับองค์กร
- สามารถฝึกโมเดลให้เรียนรู้จากข้อมูลเฉพาะขององค์กร
- รองรับการเชื่อมต่อกับฐานข้อมูลและเครื่องมือต่างๆ
การใช้งานร่วมกับ Chatbot และ API
- สามารถสร้าง Chatbot ที่ตอบคำถามจากเอกสารที่อัปโหลด
- รองรับการใช้งานผ่าน API ทำให้สามารถเชื่อมต่อกับแอปพลิเคชันอื่นๆ ได้
โอเพ่นซอร์สและติดตั้งเองได้
- คุณสามารถติดตั้งบนเซิร์ฟเวอร์ของคุณเองเพื่อควบคุมข้อมูลทั้งหมด
- ลดความเสี่ยงด้านความปลอดภัยของข้อมูล

การใช้งานเหมาะกับใคร?

นักพัฒนา ที่ต้องการสร้างระบบ AI ที่อ่านและเข้าใจเอกสาร
องค์กรและบริษัท ที่ต้องการระบบ AI ภายในที่สามารถตอบคำถามจากเอกสารภายในองค์กร
นักวิจัยและผู้สนใจ AI ที่ต้องการทดลองและใช้งานโมเดลภาษาในรูปแบบที่ปรับแต่งเอง

การติดตั้ง AnythingLLM บนวินโดว์

ในบทความนี้ จะทดลองติดตั้งลงบน Notebook Windows 11 ที่มี Ram เพียง 16 G ผลจะเป็นอย่างไร จะใช้ได้หรือไม่ มาดูกัน

Download … ติดตั้ง

ที่เมนู Download จะพบการแสดงผลเรียบง่าย ดังรูป มีให้เลือกทั้ง MacOs, Windown และ Linux

ซึ่งการติดตั้งในวินโดว์ ก็ง่ายเหมือนติดตั้งโปรแกรมทั่ว ๆ ไป แน่นอน รวมถึงการติดตั้งด้วยเช่นกัน

LLM Preference

AnythingLLM can work with many LLM providers. This will be the service which handles chatting.

สำรวจหน้าแรก

เมื่อติดตั้งเสร็จ จะโชว์ของกันตั้งแต่หน้าแรกเลย ด้วยการบอก “Search LLM providers” ว่ามีอะไรบ้าง แนะนำอะไรบ้าง

แน่นอน และดี คือ เราสามารถใช้โมเดล GGUF หรือ Import โมเดลจาก Ollama และ HuggingFace ก็ได้เช่นกัน

GGUF (GPTQ/GGML Unified Format) เป็นฟอร์แมตไฟล์ที่ใช้สำหรับเก็บและโหลดโมเดลปัญญาประดิษฐ์ขนาดใหญ่ (Large Language Models – LLM) โดยเฉพาะโมเดลที่ถูกปรับให้ทำงานได้มีประสิทธิภาพสูงขึ้นบนฮาร์ดแวร์ที่มีทรัพยากรจำกัด เช่น CPU และ GPU ที่ไม่มีหน่วยความจำสูงมาก