みなさん、こんにちは。

 

ここまでで「Now Assist」に精通し、「Now Assist」で作業を開始し、ワークフローを強化し、貴重なインサイトを提供する可能性を実感している方も多いでしょう。しかし、ライセンスの重要な構成要素である 「Assist」 の計算メカニズムは、私にとってブラックボックスのように感じることがよくあります。

この「Assist」がどのように計算されるかを正確に理解することは、私たちのコミュニティ内で多くの議論と探求のトピックとなっています。

正確な公式は依然として不明瞭な点があるかもしれませんが、この記事では、これを主要なコンポーネントである 「トークン」 と関連付けることで、私の見解を提供することを目指します。Now Assist がどのように情報を「トークン」に分解し、これらの「トークン」が「Assist」スコアにどのように寄与するかを調べることで、謎を解き明かすことができます。

ここでの主な目標は、現在の理解を共有し、Now Assist のインテリジェントな提案という魅力的なプロセスの根底にあるこの概念をある程度説明するのに役立つフレームワークを提供することです。

まず「Assist」から始め、次に「トークン」、そしてそれぞれの例を見ていきましょう。

 

「Assist」とは何ですか？

 

「Assist」は、AIインタラクションを追跡する測定単位です。「Assist」は、AIエンジンによって実行されたインタラクションの数を測定します。

 

例 1:

質問1. ユーザーがAIボットに「フランスの首都は何ですか？」と尋ねます。

R1. AIボットはこの質問を処理し、「フランスの首都はパリです」と答えます

 

この場合、上記の1往復（ユーザーからの質問とAIからの直接回答）は、 1「Assist」 と見なされます。これは、AIがユーザーからのリクエストを正常に処理するたびに、「Assist」のカウントが1ずつ増加することを意味します。

 

例 2:

質問1. ユーザーがAIボットとやり取りします - 「チョコレートケーキを作るためのレシピを教えてもらえますか？」

R1. AIボットは「チョコレート、小麦粉、砂糖、卵、塩...」と指示を処理して応答します。これにより1アシストが消費されます。

質問2. ユーザー: 「ありがとうございます！柔らかくふわふわのケーキを作るにはどのくらい焼けば良いですか？」

R2. 現在、AIボットは「ふわふわにするには20分間焼きます」と処理して応答します。これにより1アシストが消費され、合計で 2アシスト が消費されたことになります。

 

この基本的な理解と、「Assist」がどのように消費されるかを理解していただければ幸いです。ご注意ください、 これは、内部処理 ( 「トークン」 ) ではなく、ユーザー向けアクションまたは完了したタスクに関するものです。ServiceNow関連の例を見てみましょう。

 

シナリオで「Assist」の計算方法を解き明かしましょう。

シナリオ 1:ServiceNow でのインシデントの要約

ユーザーが ServiceNow で、次のような長くて詳細なインシデントチケットを持っているとします。

* 説明:問題の長い説明。

* 再現手順: 問題を再現するための詳細な手順。

* ログ: 技術データとエラーメッセージ。

* コメント: ユーザーとサポート スタッフ間のやり取りのスレッド。

ユーザーは、Now Assist でこのインシデントの簡潔なサマリーを生成することを望んでいます。

 

実例:

Now Assist を使用する以下の例を挙げます。

参照: https://www.servicenow.com/docs/r/platform-administration/monitoring-now-assist-usage.html?content-l...

 

| スキル | 複雑さ | 「トークン」 | 「Assist」ユニット |
| チャット返信の推奨事項 | 高 (マルチターンコンテキスト、予測生成) | 多くの「トークン」、動的要因。 | 5 |
| 変更リスクの説明 | 低 (単一レコード、静的要因) | 「トークン」が少なく、ロジックは少ない | 1 |
| メール要約機能* | 中 (単一レコード、ステータス要因) | 「トークン」数が多く、ロジックは少ない | 1 (使用される「トークン」の数は、要約の長さによって異なります。) |

「Assist」の仕組み:

* ユーザー要求: ユーザーは Now Assist でボタンをクリックするかコマンドをトリガーして、インシデントを要約します。

* AI 処理: Now Assist のAIモデルは、短い説明、説明、作業メモなど（Yokohamaではカスタマイズ可能）を含め、インシデントチケット全体を入力として受け取ります。

* サマリー生成: AI が情報を処理し、短くて首尾一貫したサマリーを生成します。

* サマリーを表示: Now Assist はユーザーにサマリーを表示します。

ユーザーの最初の要求からサマリーの表示までのこのプロセス全体は、1 つの「Assist」としてカウントされます。

 

では、「トークン」について見ていきましょう。

 

• 「トークン」は、AI がそのタスクを実行するために使用するデータの単位であり、「トークン」の数は計算コストに影響します

例: 上記の同じ例「フランスの首都は何ですか？」を見てみましょう。この入力文字列は、AIトークナイザーによって「What」、「Is」、「the」、「capital」、「of」、「France」、「?」のように個々の「トークン」に分解され、おおよそ 7トークン になります。

 

「フランスの首都はパリ」という応答になります。「The」「capital」「of」「France」「is」「Paris」のように分割され、おおよそ 6トークン となります。合計13トークンが処理されたことになります。では、長いメールの場合にどれほどの「トークン」が使用され、どれほどの計算コストが発生するか想像してみてください。それがServiceNow Skill kitが「トークン」数を制限している理由です。

 

AIは、入力「トークン」の処理（質問を理解するため）と出力「トークン」の生成（回答を作成するため）の両方で、 計算コスト を発生させます。「トークン」数が多ければ多いほど、処理時間が長くなり、消費エネルギーも増大します。

 

この記事が、「Assist」、その計算方法、そして「トークン」に関する基本的な理解を深める一助となれば幸いです。次の記事では、「Assist」が「トークン」と計算コストにどのように関連するか、また 「Now Assist」 に事前定義された「Assist」が付属している理由について説明します。

 

私の理解に誤りがあれば、お気軽に編集または訂正をお願いいたします！これがお役に立てば幸いです。

 

よろしくお願いいたします。

ポール

 

 

 

 

 

 

---

この記事は機械翻訳されております。最新は元となる記事をご覧ください: https://www.servicenow.com/community/now-assist-blog/assist-amp-token-how-assist-and-tokens-define-your-now-assist/ba-p/3235887

免責事項: 一部の日本語は、翻訳ソフトウェアを使用してお客様の便宜のために翻訳されています。正確な翻訳をご提供できるよう相当な努力を払っておりますが、いかなる自動翻訳も人間の翻訳者に代わすることはなく、そのようなことは意図されておりません。翻訳は「現状のまま」提供されています。他言語への翻訳の的確性、信頼性または正確性については、明示または黙示を問わず、いかなる保証も行われません。翻訳ソフトには限界があるため、一部のコンテンツが正確に翻訳されていない場合があります。これらの資料の公用言語は英語です。翻訳の際に生じる相違または不一致は、コンプライアンスまたは履行の目的に関しては拘束力を有さず、法的効力はないものとします。