工業技術研究院

技術簡介

在大型賣場建置一套本地端交互式導引人工智慧系統，利用大語言模型(Local LLM)結合檢索增強生成(RAG)技術，提供即時、精準且友善的優惠與促銷資訊服務，以提升顧客購物體驗與賣場營運效率。面對隱私法規及雲端成本以及延遲與穩定性等問題，本系統採用完全本地端部署架構，以輕量化LLM搭配RAG作為核心設計，避免對雲端的依賴並強化系統可控性與安全性。

Abstract

This study implements an on-premise interactive guidance artificial intelligence system in large retail stores. The system leverages a local Large Language Model (LLM) combined with Retrieval-Augmented Generation (RAG) to provide real-time, accurate, and user-friendly discount and promotion information services, with the goal of enhancing both the customer shopping experience and overall store operational efficiency. In response to challenges related to privacy regulations, and system stability, the system adopts a fully on-premise deployment architecture.

技術規格

- 智慧導覽互動顯示系統。 - 可依據現場環境之影像或聲音調整顯示內容，相關性 ＞85％。 - 關鍵語意分析，準確率 ＞90％。 - 專屬領域回饋內容，相關性 ＞85％。

Technical Specification

- Smart Interactive Wayfinding Display System - Display content can be adapted based on on-site environmental visual or audio inputs, with relevance ＞85％ - key semantic analysis with accuracy ＞90％ - domain-specific response content with relevance ＞85％

技術特色

輕量化Local LLM結合RAG為核心，於賣場端離線推論，降低雲端成本與延遲並強化資料隱私與可控性。 系統可依現場影像/聲音動態調整互動顯示內容，並以語意分析與領域知識庫產生高相關回覆。

應用範圍

大型量販產業、餐飲旅遊展演產業、宮廟互動顯示產業、會展或藝文展演、影視產業

接受技術者具備基礎建議（設備）

a) 光機組裝與系統測試設備 b) 個人電腦

接受技術者具備基礎建議（專業）

a) 軟體設計能力 b) 光機設計能力 c) 具系統整合設計開發能力更佳

聯絡資訊