基礎知識 / サービスを知る
ドキュメントフォース利用の注意事項
ドキュメントフォースは、ドキュメント処理を大きく効率化できるサービスですが、生成AIを利用する以上、あらかじめ知っておきたい前提や注意点があります。
生成AI利用における注意link
解析精度link
AIモデルの高性能化に伴い、ドキュメントフォースの解析精度は日々向上しています。ただし、解析精度は常に一定ではなく、次の3つの要素に左右されます。
ドキュメントの品質
解像度が低い、文字がかすれている、傾いているなど、元のドキュメントの状態によって読み取り結果は変化します。
プロンプト
「何を」「どのように」取得するかの指示が曖昧であるほど、期待と異なる回答が返りやすくなります。
モデルの性能
利用するAIモデルによって、読解力や推論力が異なります。
また、生成AIには回答の再現性が保証されないという特性があります。同じドキュメントに同じプロンプトで解析をおこなっても、必ず同じ回答が返るとは限りません。100回連続で同じ回答であったとしても、101回目で異なる回答になる可能性は十分にあります。
加えて、事実と異なる内容をもっともらしく生成してしまうハルシネーション(幻覚)にも注意が必要です。ドキュメントフォースは、大原則としてアップロードされたドキュメントの中から解析をおこないますが、それでも一定の確率でハルシネーションが発生する可能性は残ります。
ドキュメントフォースの解析結果は、人間による最終チェックを前提として運用してください
Tips:ハルシネーション(幻覚)はなぜ起きるのか
ハルシネーション(幻覚)とは、AIが事実とは異なる内容を、もっともらしい文章として生成してしまう現象のことです。
生成AIは、文章の意味を人間のように理解しているわけではなく、学習した大量の文章をもとに「次に来る可能性が高い言葉」を確率的に選びながら回答を組み立てています。そのため、ドキュメント内に該当する記載が見つからない場合や、プロンプトの指示が曖昧な場合でも、「わかりません」と答えるのではなく、文脈として自然に見える回答を作り出してしまうことがあります。
AI学習link
ドキュメントフォースでは、大前提としてアップロードされたドキュメントをAIに学習させることはありません。個人情報や機密情報を学習させないことを、サービスの基本ポリシーとしています。
この方針には、次のようなメリットとデメリットがあります。
メリット
- 情報の機密性を高く保てる — 入力した内容がAIの学習に使われないため、社内の情報管理ルールにも適合させやすくなります。
デメリット
- 自社向けの自動最適化はされない — 社内のデータを自動的に学習して賢くなる、といった機能は有していません。「使い続けるほど自社向けに最適化されていく」という性質のサービスではない点に留意してください。
ただし、社内データを用いた学習はおこなわないものの、AIモデル自体は汎用的な学習を日々重ねています。そのため、ドキュメントフォースで利用できるモデルの性能は継続的に向上していきます。
解析コストlink
ドキュメント解析には、必ずクレジットが消費されます。
解析コストは、1ページあたりいくらという固定の単価ではありません。ドキュメントに含まれる文字量やデータ量、解析項目の数などによって変化するため、解析するドキュメントによってコストは変動します。
また、高性能なモデルを使うほど解析精度は向上しますが、その分クレジットの消費も多くなります。精度とコストはトレードオフの関係にあるため、ドキュメントの難易度に応じてモデルを選ぶことが大切です。
付与されたクレジットを使い切ると、新たなドキュメント解析はおこなえなくなります
ただし、クレジットが枯渇した場合でも、ドキュメントの検索や書類作成など、クレジットを消費しない操作は引き続き利用できます。消費状況はクレジット使用状況の画面から確認できるため、運用の中で定期的に確認しておくと安心です。
継続的な改善が必要link
ドキュメントフォースでは、1度プロンプトを設定すれば、大量のドキュメントを同じ条件で解析し続けられます。
ただし、設定して終わりというわけではありません。実際に解析を進めるうちに、想定していなかったフォーマットの書類が届いたり、「この項目も取得したい」という新たな要件が見つかったりすることは多くあります。そのため、運用しながらプロンプトを改善していく作業が求められます。
① 設定
抽出したい項目とプロンプトを設定します。
② 運用
設定した内容で、日々のドキュメントを解析します。
③ 課題の発見
想定外のフォーマットや新たな要件が見つかります。
④ 改善
プロンプトや設定を調整し、精度を高めます。
autorenew②〜④を繰り返しながら、精度を育てていきます
プロンプトを調整したり設定を変更したりといった作業は管理者がおこなうため、管理者には基本的な操作方法を習得していただく必要があります。とはいえ、AIアシスタントをはじめとするAIによるサポート機能が充実しているため、複雑な手順を覚える必要はありません。
