【2023年7月版】BenefitterのGPTへの取り組み状況

企業内で生成AIを使いこなすための利用基盤

現在、OpenAI社のChatGPTやGoogle社のBARDに代表される生成AI（大規模言語モデル：LLM）の企業内利用について、多くのお問い合わせをいただいています。
国内の各企業では生成AI利用ガイドラインの策定が進められていますが、ガイドラインだけではリスク対策として十分ではありませんし、大きな活用効果も獲得できません。
本コラムでは生成AIの企業利用を支援する「生成AI利用基盤」について紹介します。

1．生成AI利用基盤とは

■生成AI活用のビジネスリスク（前回コラム）

• 社内情報の漏洩リスク
• 生成された文章の知的財産権の侵害リスク
• 適切ではない回答をすることがある
• 使いこなしが難しい

『生成AI利用基盤』とは、上記の生成AI利用上のリスクを低減させるための機能を備えた付加価値インターフェース機構です。『生成AI利用基盤』を介してOpenAI社のGPT APIサービスやMicrosoft社のAzure OpenAIサービスを利用することで、サブスクリプションサービスであるWeb版のChatGPTを直接利用するよりも、安全かつ効果的に生成AIを利用することが可能です。

生成AI利用基盤の要件は主に下記の7つです。

①利用状況モニタリング・証跡管理
リスク対策や万が一の事故発生時の調査と対策のために、「誰が」「いつ」「どのように」生成AIを利用したかを生成AIの利用履歴や監査証跡から確認できる仕組みが必要です。また、アクセス権限のあるユーザーだけに利用を制限する認証管理も必要です。

②NGワードフィルタ
Web版のChatGPTを個人で利用する場合には、入力内容をAIに学習されることを回避するため、非学習設定（オプトアウト）を行う必要があります。一方、生成AI利用基盤では生成AIサービスをAPI経由で利用しますが、API経由の場合においては入力内容がAIに学習されることはありません。そのため、個人利用時のオプトアウト設定漏れを防止することができます。
一方で生成AIサービスの中には入力されたテキストを30日間保管するものがあります。この保管データは生成AIサービスに不具合があった時の調査に利用されるものであり、サービス側が不正に利用するわけではないのですが、社外秘情報や個人情報がサービス側のサーバーに存在することになります。
意図しない情報流出を防ぐためには、特定の単語や文章、個人情報に類するテキストを生成AIに送信する前に検知する仕組みが必要です。

③プロンプト設計負荷軽減
生成AIから望んだ回答を得るには生成AIに送り込む質問（プロンプト）を工夫する必要があります。
プロンプトは「指示」「背景」「入力データ」「出力形式」を明確に指示することや、例を与えて回答の適切さを向上させたり、論理的な試行ステップで回答させたりするテクニックが必要です。これを「プロンプト・エンジニアリング」や「プロンプト・デザイン」と呼びます。
生成AIの利用に慣れることで、ある程度使いこなすことができますが、基礎的なメソッドは学習する必要があります。
従業員全員にプロンプトデザインの知識を持たせるのではなく、有識者が設定したプロンプトを一般従業員が簡単に呼び出して利用できるインターフェースが必要です。

④啓蒙アラート
企業内で生成AIガイドラインを制定しても、社内に定着させ、全従業員がリスクを認識して日常的に生成AIを使いこなすまで継続的にコストがかかります。
生成AIを利用する際には、各個人の利用頻度や習熟度に応じてガイドラインの内容を適時表示して注意を促したり、理解度確認用のワンポイントテストをするような機能を備えることによって、集団的かつ継続的に社内セミナー開催などの普及コストを低減することができます。

⑤社内情報や社内システムとの連携
イントラネット内のWebページや保存文書を生成AIのデータソースとして設定することで、ハルシネーションリスクを低減しながら、社内業務の効率を最大化することができます。
具体的な方法としては、事前に社内情報を生成AIが処理しやすい状態に準備したり、検索エンジンと連携させて適時生成AIが利用できるようにするなど、複数の方法が存在します。

⑥複数AIの接続
生成AI技術やサービス開発のスピードは著しく、今後もGPTやBARD以外にも有力な大規模言語モデル（LLM)がリリースされる可能性は高いです。生成AIを経済合理的かつ業務効率を最大化するように利用し続けるには、複数のAIの性能や特徴を理解した上で使い分けることも重要です。
生成AI利用基盤は複数のAIサービスと接続できること、使い分けや組み合わせができることが望まれます。

⑦マルチチャネル
企業内のコミュニケーションやナレッジ共有において、チャットツール（Teams、Slack、Google Chat、等）は重要なインフラです。
Webブラウザだけでなく、チャットツールからも生成AIを利用できるようになることで、チャット上でのアイデア出し、要約・翻訳、グループ内での生成結果の共有など、業務の効率化に貢献できます。

2．Benefitterの生成AI利用基盤機構

Benefitterでは生成AI利用基盤の要件やその他の付加価値として、下記の3つのカテゴリで機能を2023年10月までに順次提供します。

■利用リスク低減
①ID認証連携
企業内で利用されているID認証の仕組みと連携することができます。最も早く実現可能な認証連携はAzureADとの連携ですが、その他の認証機構との連携もサポートします。

②NGワードフィルタ
単語、文章、指定した表示形式（携帯電話番号であればxxx-xxxx-xxxx）を登録することにより、それらが含まれた情報を生成AIに送信する前に検知してアラートを出したり、ブロックすることができます。

③利用状況モニタリング・証跡管理
「誰が」「いつ」「どのような」テキストを送受信したかを記録し、利用状況を確認することができます。

④啓蒙アラート
企業内で採用されたガイドラインに沿って、生成AIを利用する際にユーザー別に適時にアラートを表示することができます。
また、ガイドラインへの誘導や簡単な理解度テストなども設定可能です。

⑤利用量管理
生成AIサービスの利用量を契約単位やユーザー単位でモニタリングし、事前に設定した閾値に応じて利用を停止させたり、他のAIに切り替えるように促すことが可能です。

■業務効果最大化
⑥プロンプト設計負荷軽減
ユースケース別のプロンプト（質問文やデータセット）をプリセットして、呼び出して使うことができます。プロンプトエンジニアリングのスキルがないユーザーでも一定水準の成果物を生成することができます。

⑦データ参照
イントラネット内のWebページを参照したり、文書ファイルをアップロードすることで、生成AIに回答を生成させることができます。また、エンタープライズサーチサービスと連携させることで、社内情報をより広範囲に検索して活用することも可能です。

⑧業務プロセスパッケージ化
「ネット広告用の出稿素材一式を指定形式で出力したい」「社内用の企画書一式を出力したい」といった各ユースケースにおいて、必要なインプット情報やアウトプット情報を整理し、チャットボットとの対話によって最終成果物を出力する仕組みづくりをサポートします。

■UI・UX向上
⑨会話セッション管理
ChatGPTやBingと同様に、生成AIとの会話において「文脈」を理解させるために、会話の内容を複数回利用することができます。また、過去の会話を確認することも可能です。

⑩複数AIサービス接続
複数のAIサービスと接続することで、同じ質問に対して複数のAIから回答を得たり、連携を行うことができます。

⑪マルチチャネル化
以下のチャットツールと連携して生成AIをご利用いただくことができます。
  ▼連携可能なチャネル
　　・Webブラウザ（Chrome/Edge）
　　・＋メッセージ／双方向SMS
　　・LINE
　　・Teams
　　・Slack
　　・Googl Chat
　　・LINEWORKS

3．生成AI利用支援

生成AI利用基盤を導入することで、従業員が個別にChatGPTを利用するよりも安全かつ効果的な利用環境を早期に実現することが可能です。
各企業の用途や利用条件に適した生成AI利用基盤サービスをご検討ください。

また、CTCでは「生成AIアドバイザリサービス」も提供しています。生成AI関連の投資に見合うリターンを最大化するために、生成AI利用基盤の導入と併せて、利活用方法についてもサポートさせていただきます。
https://www.ctc-g.co.jp/company/release/20230525-01582.html

 

是非、お問い合わせください。

GPTの利用事例や、Benefitterに実装済み／実装中のGPT補完機構をお打ち合わせにて詳しく紹介させていただきます。