ToolArc

ブログ記事

  • Claude
  • Obsidian
  • AI Workflow

AIにスクショ+キャプションを渡すと精度が上がる理由【実運用Tips】

"スクリーンショット単体よりキャプション付きで渡した方がAIの誤解が減ります。UI設定系のバージョン差への対処法も含めて解説。"

この記事の結論

  • スクリーンショット単体より、キャプション付きで渡した方が AI の誤解が減る
  • UI設定系の画像はバージョン差で項目名がずれやすいため、キャプションで補足が必要
  • ずれが出たら captions を追記して再依頼するだけで修正できる

スクショ単体では AI が誤解しやすい

AI に画像を渡すとき、スクリーンショットだけを添付していないでしょうか。

画像だけを渡した場合、AI は「画面に何が写っているか」を読み取ろうとします。しかし、筆者が何の操作をしているのか、どの部分に注目してほしいのかまでは、画像からは判断できません。

結果として、説明のポイントがずれたり、関係のない部分について言及されたりすることがあります。スクリーンショットに一言キャプションを添えるだけで、このすれ違いが大幅に減ります。


captions.md に書く内容は「何の画面か・注目点」の1文でいい

キャプションは長く書く必要はありません。以下の2点を1文にまとめるだけで十分です。

  • 何の画面か(例: Cursor の設定画面、Claude の新規チャット画面)
  • 注目点(例: 左メニューの「Models」タブ、赤枠で囲った箇所)

書き方のイメージ:

## settings-models.png
- 何の画面か: Cursor の設定画面(Settings > Models)
- 注目点: 使用モデルの切り替えボタン。ここが「gpt-4o」になっていることを確認する

captions.md にまとめて書いておくと、画像が複数枚になっても管理しやすくなります。記事フォルダに screenshots/ フォルダと captions.md をセットで用意しておくのがおすすめです。


UI設定系はバージョン差に注意が必要

Cursor・Claude・ChatGPT などの設定画面は、アップデートのたびに項目名や配置が変わることがあります。スクリーンショットだけで渡すと、AI が古い仕様を参照して誤った説明を生成するケースがあります。

キャプションで「何を操作しているか」を明示しておくことで、画面の見た目が変わっていても AI が意図を正しく読み取りやすくなります。

また、記事として公開する場合は、スクリーンショットの撮影日や対象バージョンを captions.md に記録しておくと、後から更新が必要になったときに判断しやすくなります。


ずれたら captions を追記して再依頼するだけでいい

出力がずれた場合、プロンプト全体を書き直す必要はありません。

captions.md の該当箇所に補足を1行追記して、同じ依頼を再度行うだけで済みます。変更が局所化されるため、修正のコストが低く抑えられます。

公開前には以下も確認しておくと安心です。

  • 個人情報・アカウント名・メールアドレスが写り込んでいないか
  • 画面のバージョン・撮影時期を captions.md に記録したか
  • 本文の手順と画像の順番が一致しているか

まとめ・次に読む

スクショ+キャプション運用のポイントをまとめます。

  1. 対象画面のスクリーンショットを保存する
  2. captions.md に「何の画面か・注目点」を1文書く
  3. ChatGPT / Claude に画像と captions.md を同時に渡す
  4. 出力がずれたら captions を追記して再依頼する
  5. 公開前に個人情報の写り込みがないか確認する

captions.md の詳しい書き方や、source.md とのセット運用については以下の記事も参考にしてください。


本記事は 2026-05-28 時点の運用方法をもとに書いています。各ツールの UI・仕様はアップデートにより変更されることがあります。最新情報は各ツールの公式ドキュメントをご確認ください。