Ollama 구조화 출력 실전 — Pydantic으로 로컬 LLM 응답을 타입 안전하게 받는 법
Ollama 0.3+의 JSON schema 강제 모드와 Pydantic을 연결해 로컬 LLM 응답을 타입 안전하게 파싱하는 실전 가이드. 직접 측정한 결과, 구조화 출력은 일반 텍스트보다 6배 빠르고 파싱 성공률이 100%에 가깝다.
jangwook.net
Kim Jangwook
Personal technical notes on AI agents, automation, developer tools, and the process of building software.
Latest Notes
Recent writing by language
The root page stays intentionally small. Choose a language, then read the full archive and related posts there.
한국어
AI 에이전트, 자동화, 개발 도구, 소프트웨어 제작 과정을 한국어로 기록합니다.
sentence-transformers로 RAG 임베딩 직접 실험하기 — 한국어 쿼리 정확도가 67% 떨어지는 이유
all-MiniLM-L6-v2를 로컬에서 설치해 코사인 유사도, 미니 RAG, 다국어 모델 비교까지 직접 측정했다. 영어 최적화 임베딩 모델로 한국어 RAG를 구축하면 정확도가 67% 하락한다는 실측 결과와 해결책을 공유한다.
InsightForge를 만든 이유: AI 소비자 리서치를 검증 우선순위 도구로 만들기까지
InsightForge가 무엇인지, 왜 만들었는지를 솔직하게 정리했다. synthetic panel과 SSR 방법론으로 소비자 리서치 자동화를 구현하면서 겪은 시행착오, 그리고 AI를 검증 우선순위 결정 도구로 재정의하기까지의 핵심 설계 원칙과 기술적 선택을 공유한다.
English
Personal notes on AI agents, automation, developer tools, and building software.
Ollama Structured Outputs in Practice — Getting Type-Safe JSON from Local LLMs with Pydantic
A hands-on guide to Ollama's JSON schema enforcement with Pydantic for type-safe local LLM responses. Measured: 6x faster with near-100% parse success.
Testing RAG Embeddings Hands-On with sentence-transformers — Why Korean Queries Drop Accuracy by 67%
Ran all-MiniLM-L6-v2 locally and compared English vs multilingual embeddings on Korean RAG queries. The accuracy gap was bigger than expected, with real logs.
Why I Built InsightForge: Turning AI Consumer Research Into Validation Priorities
A founder-style build log on what InsightForge is, why I built it, and the hard parts of turning synthetic research panels into a responsible product.
日本語
AIエージェント、自動化、開発ツール、ソフトウェア開発の記録です。
Ollama構造化出力実践ガイド — PydanticでローカルLLMのレスポンスを型安全に受け取る方法
Ollama 0.3+のJSONスキーマ強制モードとPydanticを組み合わせ、ローカルLLMのレスポンスを型安全にパースする実践ガイド。 直接測定した結果、構造化出力は通常テキストより6倍速く、パース成功率もほぼ100%。
sentence-transformersでRAG埋め込みを直接実験 — 韓国語クエリで精度が67%落ちる理由
all-MiniLM-L6-v2をローカルで動かし、コサイン類似度・ミニRAG・多言語モデル比較まで直接測定した。英語最適化の 埋め込みモデルで韓国語RAGを構築すると精度が67%低下するという実測結果と解決策を共有する。
InsightForgeを作った理由: AI消費者リサーチを検証優先度の道具にするまで
InsightForgeとは何か、なぜ作ったのか、synthetic panelとSSR的な方法論を責任あるプロダクトにする中で苦労した点をまとめました。
简体中文
记录 AI 代理、自动化、开发工具和软件构建过程。
Ollama结构化输出实战指南 — 用Pydantic安全解析本地LLM的JSON响应
将Ollama 0.3+的JSON Schema强制模式与Pydantic结合，实现本地LLM响应的类型安全解析。 实测结果：结构化输出比普通文本快6倍，JSON解析成功率接近100%。
用sentence-transformers实测RAG嵌入 — 韩语查询准确率为何下降67%
在本地安装all-MiniLM-L6-v2，直接测量余弦相似度、运行迷你RAG，并比较英语与多语言嵌入模型。 用英语优化模型构建韩语RAG系统时，准确率下降67%的实测结果与解决方案。
我为什么做InsightForge：把AI消费者研究变成验证优先级工具
这是一篇产品构建记录，说明InsightForge是什么、为什么要做，以及把synthetic panel和SSR式方法做成负责任产品时遇到的困难。