よくある質問

AI の回答は毎回変わるのに、言及率を測って意味があるのか

意味があります。1回の答えは「出た・出なかった」の二択で、偶然を多く含みます。同じ質問を独立に何度も投げて割合にすると、ばらつきの中に傾向が見えます。PromptCensus は 30 の質問を 3 つのエンジンに 3 回ずつ、週に 270 回投げ、推薦率と言及率を幅つきで出します。

1回の答えは、なぜ当てにならないか

ChatGPT・Gemini・Perplexity は、同じ質問を新しいチャットで聞き直すと、毎回少し違う答えを返します。挙がる会社の顔ぶれも、並び順も、説明の文も変わります。

だから1回だけ聞いて「うちが出た」「出なかった」と判断すると、その結果が実力なのか偶然なのかを区別できません。出た日に安心し、出なかった日に慌てる、という読み方になってしまいます。

反復して割合にすると、何が見えるか

同じ質問を独立に何回も投げることを反復と呼びます。反復して「何回中何回出たか」を割合にすると、1回ごとの違いは平均の中に吸収され、どのくらいの頻度で名前が挙がるかという傾向が残ります。

割合には幅が付きます。10回中3回出た会社と、100回中30回出た会社は同じ30%ですが、幅は後者の方が狭く、次の週も30%前後に収まる見込みが高いことを意味します。回数が少ないほど幅は広くなり、幅が広い数字は「動いた」とも「動かなかった」とも言えません。

同じ設計で週をまたいで測ると、先週と今週の差が幅の中に収まっているか、幅を超えて動いたかが言えるようになります。1週の差だけで施策の効果を判断しないのは、このためです。

「統計的に信頼できる数字」とは何か

幅(95%信頼区間)が付いた割合のことです。幅の付かない「出た・出なかった」や、1回分のスクリーンショットは、記録としては残せても比較には使えません。

PromptCensus では、1つのパネルにつき 30 種類の質問を、ChatGPT・Gemini・Perplexity の 3 つのエンジンに、毎回新しいチャットで各 3 回投げます。週に 270 回の回答を 1 件ずつ「推薦」「説明的な言及」「否定」に分け、薦められた割合を幅つきで記録します。指標の定義と集計方法は用語集で公開しています。質問文の実物だけは、最適化を防ぐため公開していません。

自分で手触りを確かめるには

計測を頼む前に、手元で確かめる方法があります。

  • ChatGPT と Gemini で、社名を入れずに「(業界・地域)で、おすすめの会社は?」と聞く
  • 同じ質問を、毎回新しいチャットで 5 回繰り返す
  • あなたの会社の名前が挙がった回数と、一緒に挙がった会社を書き留める

5 回で出た回数が 0 回か 5 回かで、おおよその位置はつかめます。2 回や 3 回のときは幅が広すぎて判断できないので、そこから先が反復計測の出番です。

更新日: 2026-10-19

よくある質問

何回繰り返せば十分ですか。

PromptCensus の設計では、1 つの質問を 3 つのエンジンに 3 回ずつで 9 回、30 の質問で週 270 回です。回数を減らすと幅が広がり、週ごとの差が幅に埋もれます。回数を増やしても幅はゆっくりしか狭まらないので、ここを基準にしています。

毎週同じ質問を投げると、AI が覚えてしまいませんか。

毎回新しいチャットで、履歴を持たずに投げます。前回の答えを前提にした続きの会話にはならないので、各回は独立した 1 回として数えられます。

言及率と推薦率は、どちらを見ればいいですか。

推薦率が中心です。言及率は、勧められたかを問わず社名が出た割合で、説明や否定も含みます。2 つの違いと、引用(出典)との関係は「言及・推薦・引用の違いは何か、どう測るか」にまとめています。

まずは1回、無料で
確かめませんか。

あなたの会社の業界で ChatGPT・Gemini・Perplexity の答えを数え、名前が挙がった割合をお見せします。