AIエージェントの承認はどこまで自動に？Amazon Quickの設定と人が見る操作
悠 Yu NiiboriAIエンジニアプロフィール
出典 4件
AIエージェントの操作に毎回承認を求めると、いつもの操作でも確認の画面が何度も出ます。AWSの業務用AIアシスタント「Amazon Quick」のSmart Approvalsは、操作を自動で承認するか、使う人の確認に回すかを決める機能です。12
この記事の目次（8節）
- 自動で承認される操作と、使う人の確認に回る操作
- Smart Approvalsが判断する操作と初期設定
- デスクトップ版で試した人の報告
- 管理者が設定すること
- CloudTrailに残る承認の記録
- 試す順番と、向いている仕事
- 入れる前に、情報システム部門や開発を頼む相手と確かめること
- どの操作をAIに任せるか、30分で整理する
この機能が自動で通すのは、依頼どおりでリスクが低い操作だけです。社外への送信や支払いのような影響の大きい操作は、使う人の確認に回します。2 初期設定で全員が使えます。1
必ず人の承認が要る操作は、Smart Approvalsに頼らず、操作ごとの設定で確認を必須にしておくよう勧められています。24
自動で承認される操作と、使う人の確認に回る操作
Smart Approvalsは、AIがしようとする操作を、使う人の依頼と照らし合わせます。管理者が決めた範囲を広げることも、禁止した操作を通すこともありません。2
| 操作 | どうなるか |
|---|
| リスクが低く、使う人の依頼どおりの操作 | 自動で承認し、そのことを会話の中に表示する |
| 例えば、社外への送信・権限の変更・内容の削除や上書き・支払いの開始のような、影響の大きい操作 | 使う人の確認に回す |
| 判断が時間切れなどで失敗した操作 | 使う人の確認に回す |
| 管理者が禁止した操作 | 実行しない |
| 管理者が人の承認を必須にした操作 | いつも使う人の確認に回す |
自動の承認は1回かぎりです。判断したその操作と中身にしか使えません。1
何を見て判断するか
Amazon Quickでは、作業をするAIとは別のAIが判断します。このAIは、その操作が何をするか、データをどこへ送るか、誰に影響するかを見ます。1
例えば、四半期の報告書を作り、名前を挙げた同僚2人に送るよう頼んだとします。ところが、チームの取引先メモには、営業の全員に届く配信リスト（約2,000人）にも送ると書かれていました。1
宛先が頼んだ範囲を超えるので、この送信は使う人の確認に回るように作られています。1
ただし、この判断が間違えることもあります。1
AIエージェントが提案した操作が、自動で承認されるまでの順番。管理者の設定で決まっている操作は、Smart Approvalsの判断を通りません
Smart Approvalsが判断する操作と初期設定
Smart Approvalsが見るのは、本来なら毎回確認の画面が出る操作です。次の2つの設定がそろった操作だけを、確認の画面を出す前に判断します。23
| 誰の設定か | 設定 |
|---|
| コネクタ（Gmailなどのサービスとつなぐための設定）を作った人 | 「ユーザーの選択に任せる」 |
| 使う人 | 「毎回確認する」 |
コネクタを作った人が「毎回確認する」にした操作は、使う人の設定に関係なく、毎回確認の画面が出ます。「常に許可する」にした操作は、確認の画面もSmart Approvalsの判断もなく実行されます。24
メールの送信や記録の更新のような書き込みの操作は、初めから上の表の2つの設定になっています。3 管理者も使う人も設定を変えなければ、書き込みの操作はどれも、Smart Approvalsが自動で承認するかを決めることになります。
「信頼」を押すと、次から確認が出ない
確認の画面には「許可」「信頼」「拒否」のボタンがあります。34
- 「許可」: その1回だけ実行し、次も確認の画面を出す
- 「信頼」: 実行し、次からその操作では確認の画面を出さない
- 「拒否」: 実行しない
「信頼」を押した操作は、次から確認の画面が出なくなります。3 使う人の設定を「毎回確認する」のまま保つなら「許可」を選ぶよう、試した人は勧めています。4
そのため、「信頼」を押した操作は、Smart Approvalsが見ることもなく、毎回そのまま実行されると考えます。
デスクトップ版で試した人の報告
Amazon Quickのデスクトップアプリ（macOS版 1.1.4053）とGmailで試した結果が、クラスメソッドの石川覚さんの10月30日の記事にあります。4
| 頼んだこと | 確認の画面 | 結果 |
|---|
| 宛先のない下書きを作る | 出なかった | 作られた |
| ラベルを作り、色を変える | 出なかった | 作られ、変わった |
| 自分宛てにメールを送る | 出なかった | 送られた |
| 送ったメールをごみ箱に移す | 出なかった | 移された |
| 自分宛てに、別の件名でメールを送る | 出た | 拒否したので送られなかった |
同じ自分宛ての送信で、確認の画面が出た回と出なかった回がありました。理由は特定できなかったそうです。4
ほかに、次の結果もありました。4
- 自動で承認したという表示が、会話の中に見当たらなかった
- Smart Approvalsをオフにしても、ラベルは確認なしで作られた
- Web版で同じようにラベルを作ると、確認の画面が出た
- ドキュメントにある切り替えと承認の記録が、CloudTrail（AWSの操作の記録を残すサービス）では3つのリージョンで探しても1件も無かった
確認の画面が出なかったとき、Smart Approvalsが承認したのか、確認そのものが行われなかったのかは、この結果では区別できなかったそうです。4
管理者が設定すること
Smart Approvalsは、デスクトップとスマホのアプリで使えます。Web版では、いまは使えません。2
使える人を絞る
管理者は、カスタム権限プロファイル（使える機能を人ごとに決める設定）で、Smart Approvalsを使える人を選びます。2
このプロファイルで、機能を初めは全部止める設定にしている場合は、Smart Approvalsを個別に許可します。1
- Quickのコンソールで「Manage Quick」を開く
- 左の「Permissions」から「Custom permissions」を選ぶ
- プロファイルを作るか、既存のプロファイルの「Edit」を押す
- 「Capabilities & features」の「AI capabilities」を開く
- 「Smart Approvals」を制限すれば使えなくなり、制限しなければ使える
- 保存して、ユーザー・ロール・アカウントに割り当てる
必ず人が承認する操作を固定する
必ず人の承認が要る操作は、コネクタを作った人が、操作ごとの設定で「毎回確認する」にします。社内でコネクタを作る人が管理者と別なら、その人に頼みます。24
使う人が自分でオンとオフを切り替える
管理者が使えるようにしていれば、使う人はチャットの「＋」のメニューで切り替えられます。この設定は、その人のすべての会話と、スケジュールを組んで自動で動かす作業の両方に当てはまります。2
オフにすると、スケジュールで動かす作業でも、対象の操作は使う人の確認を待って止まります。2
CloudTrailに残る承認の記録
Smart Approvalsが承認した操作と、使う人がオンとオフを切り替えたことは、CloudTrailに記録されます。記録には、使う人・どのAIエージェントか・コネクタと操作・時刻が入ります。2
承認の記録は承認したことを示すだけで、操作が実行されたことまでは示しません。実行されたかは、送信済みのメールのように、つないだサービスの側で確かめます。12
CloudTrailの「Event history」は90日で消えます。それより長く調べるなら、証跡（記録を長く残す設定）を作っておきます。1
チャットの記録とエージェントの変更の記録をCloudWatch Logs（記録を集めて保管するサービス）に送る設定も勧められています。1
試す順番と、向いている仕事
まず1つのチームで、決まった仕事だけ試します。試す前に、うまくいったと言える目安を決めておきます。目安は、いつもの操作で確認の画面が減り、大事な操作はそれでも使う人の確認に回ることです。1
試すあいだは、自動で承認された操作をいくつか抜き出して見ます。社外への送信や、資料に書かれていた宛先が足される場合も試し、使う人の確認に回るかを確かめます。1
社内の決まった相手への連絡のように、依頼の文で中身が決まる仕事から試すのがよいと考えます。宛先や金額が資料によって変わる仕事は、「毎回確認する」にしておきます。
事務作業をAIに任せ、最後の確定だけを人が見る形は、事務作業をAIに任せる記事にまとめました。Copilot Coworkで承認と使う人の範囲を決める話は、Copilot Coworkの使い方の記事にあります。
AIに止める仕組みと記録を持たせる考え方は、自律AIの設計の記事にあります。手元のパソコンでAIが触れる範囲を囲う例は、Copilotで範囲を囲う記事を見てください。
当サイトのAI秘書でも、個別の問い合わせへの返信は、人が確かめてから送る形でお引き受けしています（AI秘書の顧客対応）。
入れる前に、情報システム部門や開発を頼む相手と確かめること
- 使う人が、デスクトップかスマホのアプリを入れているか
- 社外への送信・支払い・権限の変更・削除の操作を、「毎回確認する」に固定したか
- 使う人が「信頼」を押してよい操作を、決めてあるか
- 自社の環境で、確認の画面が出るか、CloudTrailに承認の記録が残るかを確かめたか
- CloudTrailの証跡と、チャットの記録を残す設定を作ったか
どの操作をAIに任せるか、30分で整理する
自社のどの仕事をAIに任せ、どの操作で人が承認するかは、無料AI業務診断（オンラインで30分）で一緒に整理できます。申し込みは相談のページからです。
