archive

コラム · ページ 6

356 · ページ 6

13 分

AIクローラーをrobots.txtで正しく制御する — 学習は拒否、引用は許可する2026年の戦略

GPTBotを一行ブロックして「AI遮断完了」と思っているサイトは多い。学習・検索・ユーザー要求のクローラーを分けて制御するrobots.txtを実際に書き、標準パーサーで検証した。Google-ExtendedがAI Overviewsを止められない落とし穴と、llms.txtの正直な現状まで。

GEO AIO robots.txt
11 分

ローカルLLMにエージェント8個を同時接続してみた — Ollama同時実行スループット実測

サブエージェントを並列で回せばローカルモデルもその分速くなると思っていた。実際に測ると既定のOllamaはリクエストを順番待ちで捌くので、8個つないでも総スループットは変わらなかった。OLLAMA_NUM_PARALLELを上げたときの利得とその代償をM1 16GBで実測した。

ローカルLLM Ollama 同時実行
12 分

ローカル推論モデルは推論の元が取れるのか — gemma4:12bでthinking ON/OFFを実測した記録

前回の記事でgemma4:12bの空応答をパッケージングのバグと断定した。違った。推論モデルだったのだ。そこで推論ON/OFFで13問を回した。 推論は正解を1つ多く出したが、出力トークンを68倍、時間を19倍消費した。エージェントでいつ点けていつ消すかを実測でまとめる。

ローカルLLM Ollama 推論モデル
12 分

ローカルエージェントがシステムプロンプトを忘れた理由 — Ollama num_ctx無言truncationを実測

ローカルエージェントが長い会話で急に指示を無視しはじめた。プロンプトの先頭に秘密コードを隠し、長さを伸ばしながらrecallを測った。 num_ctxを超えるとOllamaはエラーも出さずプロンプトの前方を切り落とす。そして「既定値は4096」という通説も私のMacでは外れていた。

ローカルLLM Ollama エージェント設計
13 分

ローカルLLMの最初の応答はなぜ時々10秒もかかるのか — コールドスタート(load_duration)を実測した

少し離れてからエージェントを呼び直すと、最初の応答だけやけに重い。Ollamaが応答ごとに返すload_durationをモデルサイズ別に 分解すると、2GBで1.5秒、9.6GBで最大9.7秒だった。しかも「コールド」には二種類あった。keep_alive一つでこの費用が どう分かれるかを実測してまとめた。

ローカルLLM Ollama 推論最適化
14 分

ローカルLLMはなぜ会話が長くなると遅くなるのか — prefillとgenerationを分解して測った

同じ9,700トークンのプロンプトが私のノートPCで最初のトークンまで55秒かかったのに、2回目の呼び出しは65ミリ秒だった。Ollamaのタイムスタンプを直接取り出してprefillとgenerationを分離測定し、prefixキャッシュがなぜ396倍速かったのか、エージェントのコンテキスト設計にどう活かすかをまとめた。

ローカルLLM Ollama 推論最適化
14 分

同じ記事なのに韓国語はトークン1.4倍 — 自分のブログ285本で非英語トークン税を実測した

同じ記事をko/ja/en/zhの4言語で出している自分のブログ285本を、実トークナイザー3種でトークン化し非英語のトークン費用を測った。 韓国語は英語の1.38倍、日本語1.34倍、そしてトークナイザーの世代交代が実質的に非英語向けの割引だったことまでデータで確かめた。

LLMコスト トークナイザー 多言語
フッターへ移動