lou@blog $ _

AI를 이용한 자동화 작업을 하면서 Slack 메세지를 통합해본 경험이 있는 분들이라면 한번쯤 이쁜 출력에 대해 고민해봤을 것이다. 구조화된 출력을 하게하고 직접 포맷팅하는 방법이 가장 마음에 들겠지만, 구조화된 출력을 위해 낭비되는 토큰들이 아깝거나, 사내공유 Slack 메세지처럼 딱히 정확한 출력을 원하지 않을때 내가 사용하는 방법이있다. LLM에게는 마크다운으로 작성하라고하고, 그걸 Slack 메세지 포맷으로 바꾸는 방법이다.처음부터 LLM에게 Slack 메세지 포맷으로 해달라고하면 메세지 포맷이 지켜지지 않기가 일쑤다. (특히, Google Gemini 2.0 Flash는 **를 엄청나게 쓴다.) 마크다운 문법은 모든 LLM이 거의 완벽하게 구사하기때문에 일관된 결과를 출력할 수 있다.https:..

2024년 9월 20일, Anthropic은 Contextual Retrieval이라는 개념을 제시했다. Contextual Retrieval은 기존의 RAG의 검색 성공률을 향상시키기 위한 방법으로, Contextual Embeddings와 Contextual BM25의 두가지 하위 기술을 사용한다. Anthropic에 따르면 이 방법을 이용할 경우 실패한 검색 수를 49%까지 줄일 수 있으며, ReRanking과 함께 사용하면 67%까지 줄일 수 있다고한다. 최근에는 RAG에 이어 CAG(Cache-Augmented Generation)도 등장했다. CAG는 더 길어진 LLM의 Context Window를 충분히 활용하여, 검색 증강하려는 문서의 전체 내용이 Context Window에 들어갈 수 있..

유튜브에서 AI가 생각한 "나루토" 캐릭터 등등이 유행하길래 나도 만들어보고 싶어서 시도를 해보았다. Stable Diffusion에다가 Realistic Vision V2.0 모델을 적용시키고 아래 키워드들을 사용했다. img2img로 만든 것도있지만, 이누야샤의 경우는 text2img의 결과물이다. photo of , detailed faces, highres, RAW photo 8k uhd, dslr 모든 것이 나루토 정도 퀄리티만 되어도 바로 유튜브 비디오 찍어내려고 했는데... 그나마 이 이미지들도 파라미터를 조절해가면서 얻은거라... 아마도 랜덤한 파라미터를 주면서 한 캐릭터당 5장씩 뽑아내도록 자동화를 해보면 괜찮아질 수도 있을거같기도하고...ㅋㅋㅋ 캐릭터가 너무 얼탱이 없어서 올려본다.