人が関与する仕組み
作業はAIが。判断はあなたが。
人が関与するとは、AIがしていることを、人が止め、方向づけ、承認できるということです。あとから報告で知るのではなく、それが問題になるその瞬間に。ひとつの設定ではありません — すべての下書きに目を通すことから、お金が動く前に一度だけ確認を求められることまで、距離の異なる操作の集まりです。
エージェントがあなたに質問しています
患者さまの保険のグループ番号を求められています。手元にありません — 何をお伝えすればよいですか？
進行中の通話にそのまま入ります
あるいは、ひとこと頼むだけ
つまみは、あなたのいる場所に。
自律の度合いを上げ下げし、止まって尋ねてきたことに答える — いまいるスレッドの中で。
Inbox確認: $1,240 を返金 — YES 5583
Keplerから$1,240の返金依頼があり、やり取りの内容とも整合しています。お金はここで必ず止まる設計です。YES 5583 と返信してください。1回だけ有効、24時間で失効します。
YES 5583。$500超は今後も毎回止めて。
@Octo support@ の送信止めて。指示するまで下書きだけ
対応中 🔧(実行中configure_email_channel…)
下書き承認制にしました。個々のスレッドは、どちら向きにもこれを上書きできます。 (edited)
🔒 32件の返信 · 最終返信 9分前
YESコードもこのチャンネルに流して
メール octo@agent.omniocto.com · WhatsApp 1-MAN-ASK-OCTO · Slack #omniocto
なぜこれだけで1ページなのか
自律性はつまみであり、そのつまみこそが製品です。
AIをお客さまの前に立たせることへの反対は、けっして「書けるのか」ではありません。「何を送るのか」です。ですから以下の機能はどれも、人がその経路の中に入れる場所であり、その多くは既定で慎重な側に寄せてあります。
- 書くのはAI、送信を押すのはあなた
- 下書きモードは返信を作り、あなた自身のGmailやOutlookの下書きフォルダに置きます。人が承認するまで、お客さまには何も届きません。同じ下書きを二度承認しても、二度送られることはありません。
- メールボックス単位ではなく、スレッド単位で
- 自律性はチャネルごとに決める既定値で、どの1スレッドでも上書きできます。多くの人はメールボックスを下書きモードにしたうえで、決まりきったスレッドをいくつかだけ自動で走らせます。あるいはその逆に、手ごわいお客さまひとりだけを人だけの対応に固定します。
- 通話の途中で、手を止めてあなたに聞く
- エージェントが人にしか答えられないことに行き当たると、相手がまだ電話口にいるあいだに、その質問があなたのダッシュボードに現れます。あなたが答えを打てば、通話を投げ出すのではなく、進行中の会話にそれが入ります。
- 通話をやり直さずに方向を変えられる
- 進行中の通話に指示を送り、聞き、ミュートし、まるごと引き継ぐこともできます。おかしな方向に進むのを見たからといって、切ってかけ直す必要はありません。
- 粘るのをやめどきを知っている
- エスカレーションのルールが、会話を人に渡すべきときを決めます — 力になれない状態が続いたとき、人を出してほしいと言われたとき、あなたが指定した話題が出たとき。引き継ぎは1時間後のメールではなく、その通話の中で起きます。
- お金が動く前に、ひとつのコード
- 支払い、一斉送信、破壊的な操作は、これから何が起きるのかの平易な説明と、返信用の短いコードとともに止まります。コードは一度きり有効で、1日で失効し、送信先の一覧は質問した時点で凍結されます — あなたが承認したものが、そのまま出ていきます。
- すべてのツールがリスク区分を持つ
- ツールは、安全、支払いが発生、一斉送信、破壊的、稼働中の設定を変更、のいずれかに分類され、その分類はビルドで強制されるので、分類のないツールが入ってくることはありません。確認なしで動くのは、無害な区分だけです。
- ワークフローは人を待てる
- 人の承認ステップは、誰かが決めるまでワークフローを止めます。ささいな部分だけでなく、影響の大きいことまで安心して自動化できるのは、これがあるからです。
- まず、何をするつもりかを見る
- 試験実行は、何かをする前に、そのワークフローが何をするつもりで、いくらかかるかを知らせます。お客さまにメッセージを送る自動化で、確信と願望を分けるのがこれです。
- 言葉では越えられない上限
- ワークスペースごとに、月ごとのモデル予算と1日の通話分数の上限があり、50%、80%、100%で通知が届きます。上限に達すると作業は止まります。お金が消えたあとに報告するのではありません。
- 電話の向こうの人には、そう伝わる
- すべての通話で、AIであることの音声での告知が既定で有効です。文面はあなたが決められますし、実際の人の声の録音をそのまま流すこともできます。各通話には、相手に何を伝えたかの監査記録が残ります。
- どれにあなたが要るのかを教えてくれる
- すべての会話が、どれだけ緊急かとは別に、人が動く必要があるかどうかで格付けされます。関与することに意味が出るのは、どこに関与すべきかが分かってからです。
どこで目にするか