1. AIを入れる仕事と、入れない仕事を分ける

「AIを使いたい」という希望を、担当者が行っている仕事で考えます。文章の下書きや分類、検索、問い合わせの要約なら、何を渡して何を受け取るかを説明できます。一方、最終判断など、責任の重い仕事もあります。AIが得意そうに見えても、間違いの影響が大きい仕事は、最初は任せないか、人の承認を必須にします。

必要な条件を整理するために、次の文を作ります。

誰が、どの情報を入力し、AIは何を返し、その結果を誰がどの業務で使うのか

この文を説明できなければ、試作品が動いても業務に役立つかを判断できません。AIを使わない検索や定型処理で目的を満たせる場合もあります。AIを使う場合と使わない場合を比べてください。

2. 使うための条件を5項目にまとめる

最初の打ち合わせでは、次の5項目を表にします。回答の正しさだけで判断せず、日々の運用で困らないかも確認します。

横幅が狭いときは左右にスクロールできます

AI機能を使う前に決める5項目
項目決めること確認すること
1. 入力AIへ渡す情報の種類と形式欠けた情報や誤った情報が来たらどうするか
2. 出力返してほしい文章・分類・候補利用者や担当者にどう表示するか
3. 品質と確認許容できない間違いと承認者人が確認しないと進めてはいけない場面はどこか
4. データデータの保存・共有・削除方法と、アクセス権(見たり使ったりできる人の範囲)個人情報や社内情報をどこまで扱えるか
5. 運用費用、監視、改善、停止手順回答が変わったとき誰が気づき、止めるか

「正確に答える」という目標は、具体例で確認できる形にします。よい回答、避けたい回答、判断に迷う回答の例を用意してください。担当者が同じ基準で確認しやすくなります。回答を採用する人、直す人、使わないと判断する人も決め、必要な操作を画面に含めます。

3. 試作品の動作と、仕事で使えるかを確かめる

試作では、通常の入力に加え、空欄、表記ゆれ(同じ言葉の異なる表記)、長い文章、想定外の質問も試します。AIの回答がもっともらしく見えても、根拠を確認する手順が必要です。試作で確認できないデータや、実際に運用しないと分からない点は、未確認のリスクとして記録します。

実務に入れる前の段取りは次のようにします。

  1. 現在の仕事の手順と、AIを使う部分を図にする
  2. 渡す情報と受け取る結果の例を用意し、合格の基準を決める
  3. 人の確認を含む小さな試作を行う
  4. 例外、個人情報、権限、費用を確認する
  5. 担当者が操作し、公開後の問い合わせ手順を決める

AIを使っても、人が判断する仕事は残ります。DEPARTUREの公開記事では、AIに任せる作業と、エンジニアが担う仕事を説明しています。必要な機能の整理、設計の判断、コードの点検であるコードレビュー、品質確認はエンジニアが担います。AI駆動開発の実践を、役割分担を考える材料にしてください。

仮の例として、問い合わせを要約する機能を試すとします。文章が短くなっただけでは合格にせず、依頼内容、希望日、取り消しの有無など、引き継ぎに必要な項目が残っているかを確かめます。「書かれていない希望日をAIが補ったら、読みやすくても使わない」といった判断例も残します。

比較には、利用を許可された同じ情報を使います。使った情報の版、設定、回答、確認者、採用・修正・破棄の理由を一緒に記録してください。調整に使った例に加え、調整には使わずに残した例でも確かめます。回答を作るAIモデルや参照資料を変えたら、この記録を使い、良くなった点と悪くなった点を同じ条件で比べます。

4. 変更する方法と、停止する手順を決める

サービスやデータが更新されると、AIの回答や利用条件が変わる可能性があります。入力を保存するか、回答をいつまで残すか、担当者が直した内容をどう扱うかを決めます。AIを使っていることを利用者へ知らせるか、回答を確定した情報と区別して表示するかも、業務に合わせて確認します。

公開後は、正解率に加えて、回答が空になっていないか、処理が止まっていないか、費用が想定を超えていないか、危険な内容が出ていないかを確認します。誰が異常に気づき、どの条件で手作業に切り替えるかを決めてください。問題が解消するまで機能を止める手順があれば、問題を抱えたまま利用範囲を広げずに済みます。

資料が変わったときや担当者が交代したときにも、同じ確認ができるよう、例と判断理由を残します。導入時だけでなく、業務やデータが変わるたびに5項目を見直してください。

AI駆動システム開発では、目的と現在の業務を伺い、試す範囲、テスト、公開後の運用を整理します。AI機能を使う前に必要な条件を確認したい方は、作りたい仕組みの整理から相談するところからご連絡ください。