시뮬레이션 모드 와 소설 모드 작성 시에
연속된 작품을 만들고 싶을거라 생각해서 작성.
AI는 특성상 대화가 길어지면 비용이 늘어나고, API의 경우 기억 기능이 있지 않으므로 주로 모든 대화를 보낸다.
Claude 의 경우는 이를 캐시 기법을 사용해 5분 내로 대화가 지속되면 비용 절감 효과가 있다.
하지만 역시 이런 기법도 무한정이 아니므로
작품을 특정 단위별로 끊게 하는 것이 제일 베스트.
그래서 메모리키 기능을 추가 하기로 함.
AI에게 대답을 할때 시뮬레이션 / 소설의 엔딩 여부를 확인.
엔딩일 경우에 다시 AI에게 질답을 함으로, 진행 중임 작품의 요약본을 받아와서 DB에 저장.
메모리키가 필요한 다른 작품의 경우 시작시에 해당 메모리키를 입력하게끔 설정.
그리고 API 시 대화에 첨부하는 것과 같이 메모리를 첨부.
테스트가 필요한 내용
- AI 가 엔딩 여부를 제대로 파악할지에 대해서 테스트가 필요하다.
- 기존 캐시를 이어받아 비용을 줄일수 있는 방안을 마련해야한다.
'필링(Feeling) > 업데이트 설명' 카테고리의 다른 글
시뮬레이션, 소설 모드 엔딩 시 처리 내용 (0) | 2025.04.21 |
---|