การใช้ AI On-Prem Appliance Solution ร่วมกับ AI Inference Suite ทำให้ลูกค้าสามารถใช้ AI สร้างสรรค์โดยการใช้ข้อมูลเฉพาะของตนเอง โมเดลที่ปรับแต่งมาเฉพาะ และโครงสร้างพื้นฐานทางเทคโนโลยีเพื่อทำให้กระบวนการและแอปพลิเคชันของมนุษย์และเครื่องจักรอัตโนมัติในสภาพแวดล้อมต่างๆ เช่น ร้านค้าปลีก, ร้านอาหารบริการด่วน, ร้านช้อปปิ้ง, ตัวแทนจำหน่าย, โรงพยาบาล, โรงงาน และพื้นโรงงาน ซึ่งกระบวนการทำงานเหล่านี้ได้รับการกำหนดไว้อย่างชัดเจน สามารถทำซ้ำได้ และพร้อมสำหรับการนำไปใช้งานอัตโนมัติ
นากุล ดักกัล (Nakul Duggal) ผู้จัดการทั่วไปกลุ่มสำหรับยานยนต์, Industrial IoT และ Cloud Computing ของ Qualcomm Technologies, Inc. กล่าวว่า "AI On-Prem Appliance Solution และ Cloud AI Inference Suite ช่วยเปลี่ยนแปลงเศรษฐศาสตร์ TCO ของการปรับใช้ AI โดยทำให้สามารถประมวลผลงานที่เกี่ยวข้องกับ AI สร้างสรรค์จากการใช้คลาวด์เพียงอย่างเดียวไปสู่การใช้งานภายในองค์กร สำหรับกรณีการใช้งานอัตโนมัติของ AI หลากหลายประเภท เช่น ผู้ช่วยในร้าน, การฝึกอบรมพนักงาน, ข้อมูลเฉพาะสถานที่, การปฏิบัติตามมาตรฐานความปลอดภัย และการสนับสนุนการขายและบริการในร้าน, ตัวแทนจำหน่าย หรือพื้นโรงงาน โซลูชัน AI On-Prem Appliance ของเราช่วยลดต้นทุนในการดำเนินงาน AI ได้อย่างมีนัยสำคัญสำหรับองค์กรและอุตสาหกรรมต่างๆ องค์กรสามารถเร่งการปรับใช้แอปพลิเคชัน AI สร้างสรรค์ โดยใช้โมเดลของตนเอง ควบคู่กับการรักษาความเป็นส่วนตัว การปรับแต่ง และการปรับเปลี่ยนในขณะที่ยังคงควบคุมได้อย่างเต็มที่ และมั่นใจได้ว่าข้อมูลของพวกเขาจะไม่ออกจากองค์กร"
Qualcomm AI On-Prem Appliance Solution ขับเคลื่อนโดย Qualcomm(R) Cloud AIได้รวมความสามารถในการเข้าถึงและประสิทธิภาพของเซิร์ฟเวอร์การอนุมานในศูนย์ข้อมูลเข้ากับประสิทธิภาพการใช้พลังงาน, น้ำหนักและรูปทรง, ความเป็นส่วนตัวของข้อมูล, การปรับแต่ง และการควบคุมที่มีในโซลูชัน AI ภายในองค์กร โซลูชัน AI On-Prem Appliance รองรับความสามารถที่หลากหลาย
- การขยายขีดความสามารถจากผลิตภัณฑ์เดสก์ท็อปแบบสแตนด์อโลนไปยังคลัสเตอร์อุปกรณ์ที่ติดตั้งบนผนัง ซึ่งให้บริการ AI ภายในท้องถิ่นหลากหลาย เช่น ตัวแทนเสียงในกล่อง, การถ่ายโอนโมเดลภาษาเล็ก (SLM), โมเดลภาษาใหญ่ (LLM) และโมเดลมัลติโหมดขนาดใหญ่ (LMM), รวมถึงฟังก์ชันการสร้างข้อมูลที่เสริมด้วยการค้นหาที่มีการจัดทำดัชนีและการสรุปผล (RAG), AI แบบเอเจนต์, การอัตโนมัติในกระบวนการทำงานของ AI, การสร้างภาพ, การสร้างโค้ด, การมองเห็นคอมพิวเตอร์ และการประมวลผลกล้อง
- รองรับโมเดล AI แบบสร้างสรรค์, การประมวลผลภาษาธรรมชาติ, และการมองเห็นคอมพิวเตอร์หลายโมเดล ทั้งแบบโอเพ่นซอร์สและเฉพาะทาง เพื่ออำนวยความสะดวกในการอัตโนมัติกระบวนการทำงานสำหรับแอปพลิเคชันในองค์กรหลายประเภท เช่น การค้นหาหลายภาษาที่ชาญฉลาด, ผู้ช่วย AI และตัวแทนที่ปรับแต่งได้, การสร้างโค้ด, การร่างเอกสารอัตโนมัติ และการจดบันทึก รวมถึงอื่นๆ
- กล้อง AI ที่รองรับการประมวลผลภาพ วิดีโอ และสตรีมมิ่ง สำหรับแอปพลิเคชันการมองเห็นคอมพิวเตอร์ที่เน้นด้านความปลอดภัย ความมั่นคง และการตรวจสอบสถานที่
Qualcomm AI Inference Suite On-Prem ช่วยให้องค์กรลูกค้าและนักพัฒนาภายนอกสามารถเข้าถึงชุดเครื่องมือและไลบรารีที่ครอบคลุมสำหรับการพัฒนา หรือการนำแอปพลิเคชัน AI แบบสร้างสรรค์ไปใช้งานกับ AI On-Prem Appliance Solution หรือโซลูชันอื่นๆ ที่ใช้เทคโนโลยี Qualcomm Cloud AI accelerators โดยชุดเครื่องมือนี้มีอินเตอร์เฟซการเขียนโปรแกรมแอปพลิเคชัน (APIs) ที่หลากหลาย รวมถึงการจัดการและการบริหารผู้ใช้, การแชท, การสร้างภาพ, ความสามารถของ AI แบบสร้างสรรค์ในด้านเสียงและวิดีโอ, การรองรับ OpenAI API และ RAG ชุดเครื่องมือยังรองรับการรวมเข้ากับโมเดล AI แบบสร้างสรรค์ที่ได้รับความนิยม, โครงสร้างงาน, และการปรับใช้โดยใช้ Kubernetes หรือ bare containers
ผู้นำในอุตสาหกรรมใช้โซลูชัน Qualcomm AI On-Prem และ AI Inference Suite
Honeywell ได้ร่วมมือกับ Qualcomm Technologies ในการออกแบบ ทดสอบ และ/หรือใช้งานกรณีศึกษาเกี่ยวกับการปรับปรุงเวิร์กโฟลว์อัตโนมัติด้วยโซลูชัน AI On-Prem และ AI Inference Suite
Aetina หนึ่งในผู้ผลิตอุปกรณ์ดั้งเดิม (OEM) รายแรกที่นำเสนออุปกรณ์ AI สำหรับองค์กรที่ติดตั้งในสถานที่ (On-Premises) โดยใช้โซลูชัน AI On-Prem Appliance โดดเด่นด้วยอุปกรณ์ AI ขนาดกะทัดรัดที่ใช้พลังงานจากไฟฟ้าภายในอาคาร และรองรับการประมวลผลภาษาธรรมชาติ (NLP) ด้วย SLMs ผสานกับ LLMs และ LMMs ที่ปรับแต่งพิเศษ (สูงสุดถึง 70 พันล้านพารามิเตอร์) เพื่อสนับสนุนเอเจนต์ AI ในองค์กร พร้อมทั้งฟังก์ชันการทำงานอัตโนมัติ เช่น การค้นหาอัจฉริยะและการสร้างเนื้อหาแบบเรียลไทม์ โดยทั้งหมดนี้ได้รับการออกแบบเพื่อประสิทธิภาพด้านการใช้พลังงานที่ยอดเยี่ยมและต้นทุนการเป็นเจ้าของที่เหนือกว่า
ในขณะเดียวกัน IBM กำลังร่วมมือเพื่อผสานแพลตฟอร์มข้อมูล watsonx รวมถึงแพลตฟอร์ม AI และ Granite ที่ใช้ได้กับ AI On-Prem Appliance เพื่อรองรับกรณีการใช้งานในอุตสาหกรรมและองค์กรต่าง ๆ เช่น ยานยนต์ การผลิต ค้าปลีก และโทรคมนาคม นอกเหนือจากการใช้งานบนระบบคลาวด์
ที่มา: All Match Media