로컬 LLM 모델을 찾아보다 보면 이런 표현을 자주 보게 된다.Dense ModelSparse ModelMoE ModelTotal ParametersActive Parameters처음 보면 꽤 헷갈린다.특히 모델 이름에 7B, 14B, 32B, 8x7B, 30B-A3B, 235B-A22B 같은 표현이 붙어 있으면 더 어렵다.“그래서 이 모델이 무거운 건가?”“내 컴퓨터에서 돌아가는 건가?”“Active Parameter가 작으면 무조건 빠른 건가?”이런 의문이 생긴다.결론부터 말하면 핵심은 이거다.Dense는 모델 전체를 비교적 조밀하게 사용하는 구조이고,Sparse는 일부만 선택적으로 사용하는 방식이며,MoE는 Sparse 구조의 대표적인 형태다.1. Dense 모델이란?Dense 모델은 가장 일반적인..
이제 입사한지 2달차 매주 일하면서 배운 내용을 기록하고자 한다 첫 시작.. 두줄 요약claude와 codex의 합작프론트를 몰라도 프론트 개발자가 되다.. 이번주 업무입사한 뒤로 원래 AI 에이전트 개발을 맡고 있다가여러 사유로 기존 VUE + Spring Boot(BFF) 로 작동하던 프론트를최신 기술 스택(React)으로 마이그레이션 하는 업무를 3주째 진행중이다. 느낀 점사실 난 지금까지 백엔드만 공부했다.근데 취업하고보니 얼떨결에 프론트만 개발한다..그래도 나름 다행인점?..은커널 360 부트캠프 하면서 바이브 코딩으로 프론트 개발을 해본 적이 있다는 점?..그때 해봐서 그런지 딱히 부담감을 느끼거나 큰 어려움을 느낀 적은 아직 없는 것 같다.(AI가 그만큼 똑똑한 것일지도,,) 하지만 지금 ..
이전에 작성했던 계획을 바탕으로 간단한 에이전트를 구현해보았다.전체적인 구조는 위와 같다 작동 방식 (6단계)사용자 질문 수신 - POST /api/ai/chat 엔드포인트로 질문 전송의도 파악 - Gemini API로 질문 분석, 6가지 의도 분류, JSON으로 파라미터 추출데이터 검색 - Switch Expression으로 라우팅, MySQL에서 실제 출석 데이터 조회데이터 포맷팅 - 엔티티를 텍스트로 변환 (목록형/통계형)자연어 답변 생성 - Gemini API로 친절한 답변 생성총 2번의 GEMINI API 호출이 필요하다.이러한 방식을 채택한 이유1. 간단한 질문만 가능하게끔 하고 싶었다.2. AI가 직접적으로 쿼리에 접근하는 것은 위험하다고 판단되었다, 하지만 결국 6가지 의도로 분류된..
요즘 블로그에 올라오는 출석관리체계 서비스원래는 홈서버에 배포해서 운영하다가새해를 맞이해 클라우드로 옮겨야겠다는 생각이 들었다. 왜냐?작년에 아파트가 한번 점검으로 인해 정전된 적이 있었다.우리집의 네트워크 구조는 이런 구조로 구성되어 있다.포트포워딩을 통해 홈서버로 요청이 들어가 응답이 오는 구조였는데 정전 이후 DHCP로 홈서버의 IP가 변경되면서서버는 살아있지만 외부에서 접속할 수 없는 상황이 발생한것이다.. 하필 이 당시에 나는 제주도에 있었고,,네트워크 설정을 건드릴 수 없는 상황에 놓인것이다. 이 때 나중을 위해서라도 클라우드로 전환이 필요하다고 생각이 들었다. 그렇게 새해부터는 클라우드 비용을 지원받을 수 있게 되어서aws로의 전환을 시도했다. 1차 전환기일단 도메인은 가비아를 통해 구매했..
하도 자주 반복해서 기록용으로 남겨둔다.도메인은 구입해야한다. Client ↓ httpsnginx (host, 443) ↓ proxy_passSpring Boot (Docker, 8080) 전체적인 구조 1. 도메인 dns a 레코드 등록 확인dig api.domain.xyz해당 명령어를 통해 구입한 도메인에 a 레코드가 제대로 등록되었는지 확인한다.새로 구입한 도메인에 경우 운 없으면 1시간이상 걸린다.(내가 그랬다.)2. nginx 설치 ( 호스트)sudo apt update sudo apt install -y nginx상태 확인:sudo systemctl status nginx3. nginx 기본 프록시 설정sudo vi /etc/nginx/sites-enabled/default아마 기본 설정..
교회에서 중고등부 교사를 하면서 비효율적으로 출석 체크를 하는 현상을 확인했다...매주 학생 리스트에 엑셀로 1,0 을 입력하며 출석을 하고 있던 것이였다.. 그래서 간단하게 AI로 프론트 개발하고백엔드는 직접 개발하며 출석관리체계를 만들어 1년간 사용했다. 부끄러운 프론트그냥 간단하게 출석, 지각, 결석 여부를 체크하는 방식이다.뭐 숨겨진 여러 기능이 있긴하다만..2026년이 되면서 2.0으로 업그레이드 할 겸지금까지 쌓은 출석 데이터를 바탕으로 AI 에이전트를 만들어보고자 한다."이번 달 출석 위험 학생 알려줘”“지각이 잦은 순서로 10명 보여줘”“지난 학기 대비 출석 개선된 학생은?”“이번 달 한 번도 안 나온 아이들 알려줘”“3주 연속 결석한 학생 있어?”이런식의 자연어 질문을 AI가 해석하고 응..
