AIに自社の発信用の文章を書かせたら、身に覚えのない体験談が出てきました。
「僕が去年の3月に体調を崩したとき」。この一文から始まる文章を、私たちのツールが出力しました。体調を崩した事実はありません。渡した情報のどこにも書いていません。
私たちは広島でBtoBの営業支援とAI活用支援をしている会社です。X投稿・記事・営業メッセージを生成するツールを自社で作り、毎日動かしています。
この記事は、そのツールが嘘をついた記録と、嘘を止めようとしてさらに失敗した記録です。
そして、この記事自体もAIが書いています。その運用も最後に書きます。
結論：嘘は「書くな」と命令しても止まらない
AIは「登録情報にないことを書くな」と指示しても嘘を書きます。そして嘘を機械で検出しようとすると、本物の数字まで消えるか、全部同じ記事になります。
私たちが実際に3つのツールで試した結果、たどり着いた対策は検査ではありませんでした。
AIに渡す一次情報（＝自分で実測した事実）の在庫を厚くすることでした。
出典はすべて自社ツールの実測ログです（2026年8月3日〜8月17日に記録）。
AIは具体的に何を捏造したのですか
存在しない体調不良、残業時間、送信数、売上の増減、受注件数。5つとも渡した情報にない作り話でした。
実際に出力された文章から抜き出します。
| AIが書いた文 | 実際は |
|---|---|
| 「僕が去年の3月に体調を崩したとき」 | 渡した情報になし |
| 「週平均50時間残業してた」 | 渡した情報になし |
| 「DMは1日100通以上」 | 渡した情報になし |
| 「売上は前月比で20%ダウン」 | 渡した情報になし |
| 「受注件数が12件から18件に増え」 | 渡した情報になし |
特に重い問題は、どれも本当らしく読めることです。
「週平均50時間残業してた」は、いかにもありそうな数字です。「受注件数が12件から18件に増え」も自然です。桁が外れていれば気づけますが、ありそうな数字は誰も疑いません。
そして、これらはすべて一人称で書かれていました。会社の代表が自分の体験として語る形です。もし気づかずに公開していれば、実在しない体験談を実名で発信していたことになります。
「嘘を書くな」と指示しても、なぜ守られないのですか
指示文に「登録情報にないことを書かない」と明記していました。それでも起きました。守るかどうかがAIのモデルによって分かれたからです。
私たちのツールは、複数のAIを順番に試す作りにしています。1社目が失敗したら2社目、という形です。コストを抑えるためと、1社が止まっても動き続けるためです。
実測すると、特定のモデルでだけ捏造が発生していました。別のモデルは同じ指示文で、きちんと守っていました。
つまり、指示文は「守られる保証」ではなく「お願い」でしかありません。同じ文章を渡しても、受け取る側によって結果が変わります。
ここから得た第1の教訓です。プロンプトに書いたルールを、守られた前提で設計してはいけません。
後段の「文章を磨く処理」が、捏造を守ってしまいました
さらに悪いことが起きました。
私たちのツールは、生成した文章を後からもう一度きれいにする処理を持っています。そこに「品質が下がっていないか」を見る仕組みを入れていました。
その仕組みの判定基準が、「数字が消えたら品質低下」でした。
結果どうなったか。捏造された数字を、品質を守るために残してしまったのです。
嘘を消そうとする力より、数字を守ろうとする力のほうが強い設計でした。善意で入れた品質チェックが、嘘を保護していたわけです。
捏造を機械で検出できないのですか
やってみました。2種類の失敗をしました。「すり抜け」と「誤爆」です。
最初に作ったのは、素材のどこかに同じ数字があるかを照合する仕組みです。生成された文章に出てくる数字が、渡した素材に含まれていれば通す。含まれていなければ落とす。
これが通用しませんでした。
数字だけの部分一致で照合してはいけません。「3」という数字は、素材のどこかに必ずあります。日付にも、件数にも、順番にも入っています。
結果、「受注が3件増えた」という捏造が、そのまま通りました。「3」が素材にあったからです。
逆に、本物の数字を消す誤爆も起きました
もう1つの失敗は、逆方向でした。
素材に「0.2〜0.5%」という表記がありました。単位の「%」は後ろにしか付いていません。
検査の仕組みは、これを「0.2」と「0.5%」として読みました。そして前半の「0.2」を裏付けのない数字と判定し、消してしまいました。
本物の実測値です。それを機械が嘘とみなして削除しました。
つまり、検査を厳しくするほど、すり抜けと誤爆が両方増えます。片方を締めると、もう片方が漏れます。
一方で、検出の仕組みが無駄だったとは考えていません。明らかな桁違いや、素材に一切現れない固有の表現は、機械で止められます。問題は、それだけで安全になったと思い込むことです。
AIが書いた記事のファクトチェックで、何が出ましたか
5種類の誤りが出ました。数字の合体、時点のずれ、性質の取り違え、出典ゼロ、読者と反対側の数字です。
別のツールで、AIに長文記事を書かせました。人の手でファクトチェックをしたところ、次の5つが見つかりました。
第1に、2つの異なる数字を合体させていました。提案の件数と、商談の件数を足した数字が、そのまま見出しに置かれていました。
第2に、古い時点のデータを現在のものとして書いていました。数年前に集計された割合が、「いまは〜です」という文で語られていました。
第3に、サービスの性質を取り違えて説明していました。あるプラットフォームの仕組みを、まったく別の種類のサービスとして解説していました。
第4に、出典がゼロの金額が書かれていました。検査をすり抜けていました。しかも、その数字がどこから来たのか、最後まで特定できませんでした。
第5に、読者と反対側の数字を見出しに置いていました。読者が受け取る金額ではなく、支払う側の金額でした。読者は自分がもらえる額だと読みます。
原因は、素材に3つの情報が無かったことでした
5つとも、原因は同じ場所にありました。
AIに渡した素材データに、「①単位 ②いつ時点の数字か ③誰の数字か」が書かれていなかったのです。
数字だけが並んでいました。だからAIは、単位を推測し、時点を現在だと思い込み、主体を読者側だと解釈しました。AIが勝手に間違えたのではなく、間違える余地を残して渡していたと考えられます。
この記事のメディアでは、以下を運用ルールにしています。
数字を素材に登録するときは、単位・時点・主体の3点セットを必ず付ける。3点が揃わない数字は、素材に入れない。
検査を厳しくすると、今度は何が起きますか
全部同じ記事になります。26本を確認したら、14本で一字一句同じ文が使われていました。
捏造対策を進めた結果、次の問題が出ました。出力の均一化です。
実測した数字を書きます。
| 確認した内容 | 実測 |
|---|---|
| 確認した記事の本数 | 26本 |
| 一字一句同じ文が使われていた本数 | 14本 |
| 後半の構成が共通していた本数 | 17本中17本 |
| 実績の紹介部分がほぼ同文だった本数 | 9本中9本 |
原因は4つありました。
第1に、完成形の骨組みをコードに直書きしていました。AIは穴埋めをしているだけでした。骨格が同じなら、出力も同じ形になります。
第2に、機械チェックの項目を増やすほど、外れ値がレールに引き戻されました。私たちの場合、チェック項目は17個まで増えていました。1つ直すたびに、固定される要素が1つ増えます。
第3に、参考にする記事が実際には反映されていないバグがありました。
第4に、調査結果を30日間使い回す設計でした。同じテーマで作り直すと、素材が完全に同じになります。
捏造対策そのものが、単調さの原因でした
いちばん効いていたのは、実はここでした。
捏造の検査を厳しくすると、検査を通る数字が限られます。すると、AIは毎回その少ない数字に戻ってきます。書ける材料が減るからです。
別のツールでは、返信文が毎回同じ内容になる問題が起きました。調べると、検査を通過できる数字がごく少数しか無く、AIは毎回そこへ戻っていたことが分かりました。
つまり、「嘘を書かせない」と「同じことしか書かない」は、同じコインの裏表です。
検査を厳しくしすぎて、いちばん質の低い出力が採用されました
もう1つ、極端な壊れ方をした事例があります。
営業メッセージを生成するツールで、売り込みっぽい表現を弾く検査を厳しくしました。同時に、テンプレート側に検査で弾かれる語が含まれていました。
結果、すべてのAIが検査を通過できなくなりました。
そこから連鎖が起きます。上位のAIが何度も落ちるため、無料で使える枠を使い切りました。最後に残ったのが、いちばん性能の低いAIでした。その出力が、そのまま採用されました。
品質を上げるための検査が、最終的に最低品質の文章を出力させたわけです。
では、何をすればいいのですか
検査を増やすのをやめて、AIに渡す一次情報の在庫を厚くしました。これが唯一きいた対策です。
理屈はかんたんです。
AIが嘘をつくのは、書くべき事実が足りないときです。素材が薄ければ、AIは足りない部分を埋めます。埋めた部分が捏造になります。
だから、埋める必要がない状態を作ります。
私たちがやったことは3つです。
1つ目は、実測した事実を集めて棚卸しすることです。自社ツールのログ、事故の記録、送信数、順位の実測。書ける事実を洗い出して、一覧にしました。この記事の材料も、その一覧から出ています。
2つ目は、すべての数字に単位・時点・主体を付けることです。3点が揃わない数字は、素材に入れません。入れなければ、AIが誤読することもありません。
3つ目は、素材を定期的に足すことです。在庫が増えないかぎり、出力は必ず単調に戻ります。検査を直しても解決しません。
一方で、正直に書いておくべきことがあります。この方法でも、捏造がゼロになるとは言えません。私たちは検査の仕組みも残しています。素材を厚くしたうえで、機械の検査と人の確認を両方かけています。
第1に素材、第2に検査、第3に人の目という順番です。順番を逆にすると、今回のような壊れ方をします。
この記事もAIが書いています
この記事はAIが書きました。AIの危険性を、AIが書いている構造です。それを隠さずに書いておきます。
だからこそ、運用を公開します。
第1に、この記事に出てくる数字は、すべて自社ツールの実測ログから取っています。5つの捏造の実例、26本・14本・17本という本数、17個の検査項目。どれも記録に残っている実数です。
第2に、AIに渡した素材の外にあることは書いていません。素材にない数字を書く必要が出た場合は、書かずに空欄として残す運用にしています。
第3に、素材の数字には単位・時点・主体を付けています。この記事で使った実測値は、2026年8月3日から8月17日のあいだに記録されたものです。
第4に、書いた本人以外が実測で検品します。AIの自己申告は使いません。過去に、自己チェックで「問題なし」と申告した原稿から、あとで5件の誤りが出たことがあるためです。
特に印象的だったのは、AIは自分の嘘を自分で見つけられないという点でした。生成したAIに「この文章に捏造はありますか」と聞いても、あまり意味がありません。照合できるのは、素材を持っている側だけです。
AIで記事を書くこと自体は否定しません。私たちは実際にそうしています。ただし、素材と検品を人が持たないかぎり、成立しないと考えています。
よくある質問
プロンプトに「嘘を書くな」と書けば防げませんか
防げませんでした。私たちは実際に「登録情報にないことを書かない」と明記していました。それでも捏造は起きました。
守るかどうかは、使うAIのモデルによって分かれます。指示文は保証ではなく、お願いだと考えたほうが安全です。
捏造を検出する仕組みは作らないほうがいいのですか
作ったほうがいいと考えています。ただし、それだけで安全になったと思わないことが大事です。
私たちの場合、数字の部分一致で照合したところ、「受注が3件増えた」という捏造がすり抜けました。同時に、本物の「0.2%」が消される誤爆も起きました。
AIで記事を書くのはやめたほうがいいですか
やめる必要はないと考えています。この記事もAIが書いています。
分けるべきなのは、何をAIに任せるかです。文章を組み立てる作業は任せられます。事実を用意する作業と、事実と照合する作業は、人が持つ必要があります。
一次情報の在庫は、どうやって厚くするのですか
自社の中にある実測値を棚卸しするところから始めます。ツールのログ、送信数、事故の記録、順位の推移。すでに手元にあるものが大半です。
そのとき、数字に単位・時点・主体を付けて記録してください。あとから付け足すのは、かなり大変です。
捏造に気づかず公開してしまったら、どうしますか
私たちは、記事を出したあとに人の手でファクトチェックをして、5種類の誤りを見つけた経験があります。そのうち1件は、数字の発生源が最後まで特定できませんでした。
そのため、公開前に人が確認する工程を必ず入れる運用にしています。
AIの記事捏造を止めるのは、検査ではなく素材の在庫
AI活用の相談を受けるとき、多いのは「ハルシネーション（＝AIが事実でないことを言う現象）をどう検出するか」という質問です。
私たちの実測から出た答えは、少し違います。
検出の精度を上げても、すり抜けと誤爆が増えるだけでした。さらに、検査を増やすほど出力は同じ形に寄っていきました。26本のうち14本が、一字一句同じ文を使っていた状態です。
効いたのは、AIに渡す事実の在庫を厚くすることでした。書くべき事実が足りているとき、AIは埋めなくて済みます。
私たちは広島で、この工程ごと引き受けるAI活用支援をしています。自社データの棚卸し、単位・時点・主体を付けた素材づくり、生成と検品の設計まで含みます。まず、いま出ている文章に「数えていない数字」が何個あるかを数えるところから見ます。
「AIで記事や営業文を作りたいが、嘘が怖い」という段階であれば、一度ご相談ください。
この記事を書いた人
丸山 祐介／株式会社hoshimi 代表
広島でBtoBの営業支援（LinkedIn運用代行・フォーム営業・アポ獲得代行）をしています。前職のマーケティング会社ではCOOとして、営業利益を1年で5,000万円から2億円にしました。
自社ツールを内製して毎日運用しており、この記事の数字はすべてその実データです。
この記事の作り方
下書きはAIが書き、数字と事実は人が元データに当たって確認しています。確認が取れなかった数字は載せていません。
広島から、実測データごと営業支援をしています
この記事の数字は、株式会社hoshimi（広島市中区）が自社の本番運用で実測したものです。同じ仕組み・同じ実測レポートつきで、貴社の営業も運用します。
