ChatGPTを使っていて、「そんなこと言ったっけ？」「なんだか話が変わっていない？」と思ったことはありませんか？
ChatGPTは文章を作ったり、長い話を整理したりするのが得意です。しかし、ときには実際に起きていない出来事を付け足したり、誰が言った言葉なのかを取り違えたりすることがあります。
私もChatGPTと一緒に長い記事を制作しているときに、似たような経験をしました。
今回は、実際に体験した失敗をもとに、ChatGPTが事実と違うことを書く理由と、初心者でもできる対策を紹介します。
ちなみに、ChatGPTとの共同制作で起きた失敗や、AIを使って書いた記事が5,000円で売れた経緯については、無料noteで詳しく公開しています。
AIと人間の役割分担や、そもそも有料記事にはどんな価値があるのか、といった考え方まで書いた実体験です。
技術的な知識がなくても読める内容なので、興味のある方はぜひご覧ください。
ChatGPTは嘘をつくことがある？
結論から言うと、ChatGPTは事実と違うことを答える場合があります。
ただし、人間のように相手を騙そうと考えて嘘をついているわけではありません。
ChatGPTは、質問や会話の内容をもとに文章を生成するAIです。自然な文章を作る能力が高い一方で、正しい情報だけを出力するとは限りません。
こうしたAIの誤った出力は、一般的に「ハルシネーション」と呼ばれることがあります。
難しい名前ですが、初心者のうちは「AIがもっともらしい間違いを書くことがある」と覚えておけば十分です。
間違った情報でも自信満々に答えることがある
例えば、存在しない本について質問したとします。
ChatGPTが「その本は存在しません」と答えることもありますが、存在しない著者や内容を作り出してしまう場合もあります。
しかも、文章だけを読むと本当の情報のように見えることがあります。
これが厄介なところです。
実際にChatGPTと記事を作っていて起きたこと
私の場合、ChatGPTを使ってブログ記事やnoteの記事を作っています。
あるとき、牧場のカレンダー制作について話していたところから、記事を作ることになりました。
私が実際に経験した出来事を話し、ChatGPTが文章を整理する。完成した文章を読んで、違うところがあれば修正する。
そんな作業を繰り返していました。
AIが作った表現を、私が言ったことのように扱い始めた
長い文章を作っていると、誰が最初に言い出した言葉なのかが重要になることがあります。
私が話した内容なのか。
ChatGPTが整理する過程で考えた表現なのか。
それとも、会話の途中で一緒に作った言葉なのか。
ところが、やり取りを重ねるうちに、ChatGPTが作った表現を、私自身が最初から言っていたかのように扱う場面がありました。
言葉自体が気に入っていたとしても、誰が言ったのかまで変わってしまうのは困ります。
特に体験談では、事実関係が変わってしまうからです。
AIは話をきれいに整理しすぎることもある
もう一つ気になったのが、文章を自然につなげようとすることです。
実際の人間の話は、必ずしもきれいな順番ではありません。
途中で考えが変わったり、話が脱線したり、後から別のことを思い出したりします。
ところが、ChatGPTに整理してもらうと、最初から一貫した考えがあったような文章になる場合があります。
読みやすくなるのはありがたいのですが、実際に考えた順番まで変わってしまうと、体験談としては正確ではありません。
私はこのようなとき、文章をきれいにつなげすぎないように修正をお願いしています。
ChatGPTが勝手に話を作ってしまう理由
ChatGPTが間違った内容を書く原因はいくつかあります。
1. 足りない情報を推測してしまう
例えば、「昨日、友達と食事をしました。ブログ記事にしてください」とお願いしたとします。
何を食べたのか、どこへ行ったのか、どんな会話をしたのか。
こうした情報が足りない状態で長い記事を作らせると、AIが内容を補ってしまう可能性があります。
2. 長い会話の細かい情報を正確に扱えない
ChatGPTは長い会話を扱えますが、過去のすべての発言を常に正確に参照できるわけではありません。
会話が長くなると、古い情報や細かい経緯を取り違える場合があります。
また、ChatGPTには過去の会話を参考にする仕組みもありますが、すべての会話を完全に記録して再現する機能ではありません。
3. 読みやすさを優先してしまう
文章の作成をお願いすると、ChatGPTは自然で読みやすい文章に整えようとします。
しかし、実際に起きた出来事が不自然だった場合、その不自然さこそ重要なこともあります。
読みやすい文章と、正確な体験談は必ずしも同じではありません。
ChatGPTに嘘を書かせないための5つの対策
完全に間違いを防ぐ方法はありませんが、いくつかの工夫でリスクを減らせます。
1. 話していないことを追加しないように指示する
記事を書いてもらう前に、次のように伝えます。
私が話した内容だけを使って記事を書いてください。実際に話していない出来事や感想を勝手に追加しないでください。情報が足りない場合は質問してください。
この指示だけですべての間違いがなくなるわけではありませんが、最初に伝えておくとよいでしょう。
2. 事実と推測を分けてもらう
例えば、次のようにお願いできます。
確認できている事実と、あなたが推測した内容を分けてください。推測した部分は、推測だとわかるようにしてください。
特に、仕事の資料や実体験の記事を書く場合に便利です。
3. 長い記事は少しずつ確認する
何万文字もの記事を一度に作って、最後に全部確認するのは大変です。
そのため、見出しごとに文章を作り、内容を確認しながら進める方法もあります。
間違いを早い段階で見つけやすくなります。
4. 大切な出来事は元の記録を残しておく
自分が話した内容や、実際に起きた出来事の記録は残しておくと安心です。
ChatGPTが作った要約だけを保存するのではなく、元のメモや会話も確認できるようにしておきます。
特に日付、金額、発言者など、正確さが必要な情報は重要です。
5. 最後は自分の目で確認する
最も大切なのは、完成した文章を自分で確認することです。
ChatGPTに「間違いがないか確認して」とお願いすることもできますが、AI自身が間違いに気づかない場合もあります。
自分の経験については、自分が最もよく知っています。
事実関係を確認し、必要に応じて元の資料と照らし合わせましょう。
ChatGPTが間違えたら、使わない方がいい？
私はそうは思っていません。
ChatGPTと記事を作る中で、間違いや違和感を何度も修正してきました。
それでも使い続けているのは、文章を整理する作業を手伝ってもらえるメリットが大きいからです。
私が経験を話す。
ChatGPTが文章にする。
私が確認して修正する。
このように役割を分けることで、自分だけでは難しかった長文記事も作れるようになりました。
もちろん、AIに任せる部分と自分で確認する部分は、使いながら調整しています。
AIの失敗から気づいたこともある
実は、ChatGPTと一緒に記事を作っていたら、AIの間違いをきっかけに、文章の作り方や自分自身の経験の価値について考えるようになりました。
その結果、単なる記事制作の体験談だったはずの文章が、AIと人間の共同制作について考える長い記事になりました。
さらに、その制作過程では、AIで作った有料記事が5,000円で売れるという出来事もありました。
実際にどんな失敗があり、そこからどんな考え方が生まれたのか。
こちらの無料noteで、制作の経緯を詳しく公開しています。
まとめ｜ChatGPTの文章は便利。でも事実確認は忘れずに
ChatGPTは文章作成に便利なツールですが、事実と違う内容を出力することがあります。
特に、自分の体験談や仕事の資料を作る場合は注意が必要です。
今回紹介したように、事実と推測を分ける、元の記録を残す、少しずつ確認するなどの工夫を取り入れてみてください。
大切なのは、ChatGPTをまったく間違えない道具として扱わないことです。
AIが得意なことは任せ、正確さが必要なところは人間が確認する。
私は今のところ、そのような使い方が自分に合っていると感じています。
文章を書くことが苦手な人も、AIが間違えることを恐れて使うのをやめる必要はありません。
まずは小さな文章から試し、AIの癖を知りながら、自分に合った使い方を見つけてみてください。
