Blog for Programming

1. 개요 FLOWBIT 서비스에 LLM이 필요하다는 결론을 내리고 Groq라는 구세주를 만났다. 사용 모델을 llama3으로 확정한 후 테스트를 위해 모델에 여러 질문을 해보다가 프롬프트 엔지니어링을 알게되었고, 이를 적용해보았다. 이번 글에서는 그 과정을 적어보고자한다.2. 본론2.1 프롬프트 엔지니어링프롬프트 엔지니어링이란 무엇인가... 찾아보니 좋은 문서가 있어 공유해본다.  아래의 글을 요약하자면, 세부적인 결과를 얻을 수록 자세한 지침이 필요하고 이를 여러 방법(문자, 기호, 형식)으로 정규화 한것을 프롬프트 엔지니어링으로 생각하면 된다. https://aws.amazon.com/ko/what-is/prompt-engineering/ 프롬프트 엔지니어링이란? - AI 프롬프트 엔지니어링 설명 ..

1. 개요OpenAI를 무료로 사용하기 힘들었다. 무료로 사용할 수 있는 token수가 생각보다 적었다. 이 이슈를 정말 해결하고 싶었다. 사실 해결 방법은 간단하다. 돈을 쓰면 된다. 그러나 "조금 더 좋은 방법이 있지 않을까?" 라는 생각을 하게 되었고 Groq API를 알게 되었다.  input token의 제한으로 FLOWBIT VER2에서는 Chat GPT의 그래프 분석 기능이 포함되지 않았지만 다시 우리 서비스의 LLM을 사용한 그래프 분석 기능을 넣고 싶었고, 기획자분도 해당 기능의 필요성을 말해주셨다. 다음은 기획자분이 전달해주신 기획자료 중 일부이다. AI에이전트는 복잡한 정보를 한 번에 정리해주는 아주 중요한 기능을 한다. 내가 사용자였어도 비트코인 투자를 처음 시작한다면 복잡한 지표보..

1. 개요  FLOWBIT VER2가 릴리즈 되었다. "이젠 정말 버그가 없겠지?" 라는 생각으로 테스트를 한 기간이 3개월이 넘어갔다. 각자 자신의 커리어를 위해 관철하는 과정에서 일부의 시간을 하나의 프로젝트에 사용한다는 것은 쉬운일이 아니다. 그런 분들이 6명이나 있으니 이런 팀에서 팀장으로 있는 것 자체가 나에게는 큰 도움이 된 것 같다.  프로젝트가 끝날 때까지 긴 시간이 걸렸지만 포기하지 않고 성공적으로 VER2를 릴리즈 했다는 사실에 일단 만족하고 있다. 그러나 진정한 목적을 달성하기 위해 다시 시작하는 마음으로 회고록을 작성하고자한다.https://www.flowbit.co.kr/ 플로우빗 www.flowbit.co.kr2. 본론 - 사이드 프로젝트를 하는 이유  처음에는 그저 좋은 회사에..

1. 개요 길고긴 DDD 스터디가 끝나고 해당 구조를 나의 서비스에 적용해보고 싶었다. 사실 기본적인 개념만을 이해한 상태에서 서버에서 돌아가고 있는 서비스의 구조를 바꾸는 것은 생각보다 쉽지 않았다. 바운디드 컨텍스트를 MSA를 구성하는 하나의 서버라고 생각하고 도메인을 정리하니 나름 구조가 갖춰졌다. 이번 기록지에서는 기존에 돌아가던 서비스에 DDD 개발론을 적용하는 과정을 적어보고자 한다. 2. 본론 일단 기존의 파일 구조는 다음과 같았다. (이렇게 보니 머신이고 뭐고 아주 개판인 것 같다.) 아주 개판이다... ㅋㅋㅋ spring boot의 controller, service, dao, dto, repository 계층의 구조만 알고있던 사람이 자동시스템 코드에 주먹구구식으로 배운 flask 프레..

1. 개요 비트코인 자동거래 시스템을 만들기 위해 AI 모델을 학습시켰다. 이렇게 모델을 학습 시키고 나니 해당 정보를 사용자들에게 제공하는 것이 어떨까? 라는 생각이 들었다. 해당 모델의 값을 매일 업데이트하여 USER에게 제공해주는 서버를 개발하다면 스스로도 공부가 될 것 같았다. 그래서 팀을 모아 내 인생 첫 사이드 프로젝트인 FLOWBIT를 개발하기 시작하였다! 2. 본문 - 웹 서버 구현 비트코인 가격 예측 모델을 학습한 후 이를 배포할 서버가 필요했다. 그리고 Python 기반의 서버 프레임워크를 원했다. 마침 4학년 1학기 때 배운 Flask를 활용해보고 싶기도 하고 예측 가격만을 도츨하는 가벼운 기능이었기에 Flask를 최종적으로 선택하였다. USER 서버 같은 경우 Spring boot로..