선택 기준
- Spring 기반 서비스: Spring AI를 후보로 두고 기존 인증·트랜잭션·관측 체계와 연결합니다.
- TypeScript 기반 서비스: AI SDK 또는 공급자 SDK를 후보로 두고 스트리밍·도구 계약·스키마 검증을 비교합니다.
- 기능 하나의 실험: SDK를 여러 층으로 감싸기 전에 단일 호출로 품질을 측정합니다.
이는 프로젝트 선택을 위한 제안이며 모든 앱에 같은 프레임워크가 유리하다는 의미는 아닙니다.
권장 경계
HTTP 요청 → 인증·요청 제한 → AI 서비스 → 모델 어댑터 / 검색 / 도구 실행기 → 결과 검증 → 응답.
웹 컨트롤러가 모델 SDK와 데이터베이스 관리자 권한을 직접 함께 다루지 않도록 책임을 분리합니다.
구현 체크
- 키는 서버의 비밀 저장소에서 주입합니다.
- 모델 ID·프롬프트 버전·최대 출력량을 설정으로 관리합니다.
- 시간 초과·취소·동시 요청 상한을 둡니다.
- 429·일시 오류 재시도는 횟수와 총시간을 제한합니다.
- 쓰기 도구는 멱등 키를 받고 권한을 다시 검사합니다.
- JSON 형식 통과와 업무 의미의 유효성을 별도로 검사합니다.
첫 프로젝트 제안
배포 로그를 입력받아 오류 후보와 근거 줄을 반환하는 읽기 전용 도우미를 만듭니다. 출력은 원인 후보, 근거, 다음 확인 명령으로 제한합니다. 실제 배포·롤백은 별도 워크플로로 유지합니다.
공식 자료