Claude나 Codex 같은 외부 AI 서비스가 장애일 때 서비스 기획을 어떻게 해야 하는지 질문이 나왔다. 로컬 LLM의 장애 가능성, 복수 모델 연결과 품질 일관성, 장애 대응을 위한 LLM 서빙, 상업 라이선스 문제가 함께 언급됐다. 구체적인 결론이나 비교 답변은 대화에 제시되지 않았다.
- 외부 모델 API 장애를 전제로 한 서비스 설계 필요성이 제기됐다.
- 로컬 LLM도 장애가 없는지 질문이 나왔다.
- 복수 모델 연결보다 직접 LLM 서빙이 품질과 장애 대응에 유리한지 논의가 시작됐다.
- 상업적 사용을 위한 라이선스 검토 필요성이 언급됐다.