CMS 서비스에 AI 처리기능 넣기

글을 써주거나 제목을 만들거주거나 태그를 만들어줄때 고민을 하다가 조금 병목이 걸리기도 한다.
이럴때 AI가 대신 해주면 많이 도움이 될것이다.

특히 일부 글이나 이미지를 통하여 제목과 태그를 추천해준다면 생산성에 많이 도움이 될것이다.
모든걸 전부 만들어준다면 기계적인 색깔이 짙어지지만 일부 도구로써 같이 만들어갈 수 있다면 좋을것이라 느껴진다.

그래서 관리자 프로그램에서 AI 서비스 API 를 붙이거나 로컬 LLM을 사용할 수 있다면 많은 도움이 될것이다.

로컬 LLM이든 서비스든지 API로 통신을 할 수 있다. 아니면 MCP로 만들어 통신을 할 수 있을것이다.

작동 과정

• AI 엔드포인트와 모델을 선택한다.
• 접속이 되는지 테스트
• 각 관리 페이지에서 텍스트나 이미지 컨텐츠를 만드는데 AI에게 요청하고 받아서 사용한다.

컨테츠 만들기 아이디어

데이터를 관리하는데 여러가지 페이지가 있고, 항목이 있고, UI가 존재한다.
그래서 어떻게 요청하고 응답을 받아와서 사용할지에 대한 방법론이 여러가지 있을 것이다.
각자 장단점이 있으니 고민하고 선택해야 할것이다.

각 입력 요소 맞춤형식

• 각 요소(예: 제목 입력 폼) 옆에 AI에게 물어보기 버튼을 누르면 응답으로 결과값을 만들어 넣어준다.
• 요소마다 일일히 입력과 출력, 처리하는 기능을 만들어야 할것이다.
• 사용은 편할것이다. (누르면 값이 입력될 것이다.)

범용으로 사용하는 윈도우

• 각 요소 옆에 AI 패널 열기 버튼을 누르면 레이어 윈도우가 열리고 각 역할(프롬프트 템플릿)을 선택하고 "요청" 버튼을 누르면 답변을 알려주는데 그걸로 복사해서 사용하거나 입력폼에 넣기
• 입출력 기능을 통합할 수 있어 개발에는 용이하다.
• 각 요소에서는 값을 건네주고 사용하는 인터페이스만 만들면 된다.

AI 모델에 관하여..

• 처리만 하면 그만이라서 추론은 전혀 필요없다.
• 요청할때마다 매번 세션은 새로 만들어야 한다. 아니면 랜덤시드로 꼭 설정해야 한다. 과거의 기록을 참조해버리면 원하는 답에서 멀어질 것이다.
• 여러가지 모델이 존재하며 상황마다 작동이 안될수도 있기 때문에 빠르게 교체할 수 있어야 한다.
• api 포맷을 openai로 하던지 lm-studio로 하던지 한쪽으로 정하는게 좋겠다. (각 프로그램이나 서비스마다 엔드포인트가 다르기 때문..)

설정항목

관리자에서 모델 설정을 직접 해야하는 항목이다.

• api 주소: 서버 주소 URL
• 토큰: 인증이 걸려있으면 토큰을 입력해야 한다.
• 모델: LLM 모델이 여러개 존재하기 때문에 선택할 수 있다.