식당의 포장주문·예약·길안내를 처리하는 전화상담 AI를 클로옵스와 여러 도구, 미니 PC 서버, 하이쿠 조합으로 테스트 중이라는 사례가 공유됐다. 클로옵스 구독형 구성에서는 응답 지연이 1~2초 수준이지만, 비용을 줄이기 위해 여러 모델과 서비스를 직접 연결하는 경우 지연을 추가로 측정해야 한다. 단순 문의에는 빠른 비추론 모델을 사용하고, 답변이 어려운 경우 주인에게 연결하는 폴백을 두는 구조가 제안됐다.
- 전화로 포장주문과 예약을 받고 자동 등록하거나 빌지를 출력하는 기능을 개발 중이다.
- 배달 플랫폼에서 걸려오는 전화에 관련 안내를 자동으로 제공하는 기능은 더 어렵다고 했다.
- 클로옵스 구독형 구성의 응답 지연은 1~2초 수준으로 언급됐다.
- 비용 절감을 위해 여러 서비스와 모델을 조합하면 지연을 별도로 테스트해야 한다.
- 답변하지 못하는 문의는 주인에게 재연결하는 폴백 구조가 필요하다.