RescaleがA Iエ ージェントでテストの失敗を振り分け、リリース待ちは2 0%減
悠 Yu Niibori AIエンジニア プロフィール
出典 3件
要点
対象:繰り返しの振り分けをA Iに任せたい担当者
本番リリースを止める時間が2 0%減 人と同じ振り分けは4 4%から6 8%に 報告書はエンジニアが確かめる RescaleのA Iエ ージェント(頼まれた作業を自分で進めるA I)は、毎晩の自動テストで出た失敗を、エンジニアより先に調べて振り分けています。使い始めてから、失敗の原因を調べるために本番リリースを止めておく時間が、2 0%減 りました。1
この記事の目次(5節) AIが失敗の原因を4 つに分けて、報告書まで書く AIの振り分けが人と合う割合は4 4%から6 8%に 5日間のワークショップで、本番の手前まで ブログが触れていないこと 自社で試すなら
Rescaleは、製品開発のためのシミュレーションと計算の基盤をクラウドで提供している米国の会社です。2 026年1 0月2 2日 のA WSのブログに、A WSとR escaleの担当者が一緒に書いた記事が載りました。1 3
AIが失敗の原因を4 つに分けて、報告書まで書く
Rescaleでは、数百件のテストを毎晩流しています。このテストに通らないと、週1回の本番リリースができません。1
これまでは、当番のエンジニアが失敗ごとにログを開いて原因を見分け、担当のチームに回していました。テストの失敗が解決しないままだと、リリースの前に複数のチームが何時間も調整に追われることもありました。1
いまは失敗が出ると、テストから本番リリースまでを自動で進める仕組み(CI/CD)が、A Iエ ージェントを動かします。原因の判定には、「Amazon Bedrock」経由でA nthropicの「Claude Opus 4.8」を使っています。1
誰が すること AIエ ージェント 失敗の原因を、インフラの問題・コードの不具合・不安定なテスト(同じコードでも通ったり落ちたりするテスト)・環境の問題の4 つに分ける AIエ ージェント 過去の似た失敗を参考にし、ログから判定の裏付けを集める AIエ ージェント 関係するファイルと関数の名前、直し方の案を報告書にまとめる エンジニア 手を動かす前に、報告書を確かめる
Rescale:毎晩のテストの流れ(出典:AWSのブログ)
毎晩のテスト
数百件を毎晩実行
AIエージェント
原因を4つに分ける
直し方の報告書を書く
エンジニア
報告書を確かめる
AIの振り分けが人と同じだった割合
使い始め 44%
いま 68%
本番リリースを止めておく時間 20%減
毎晩のテストで失敗が出ると、パイプラインがA Iエ ージェントを動かし、A Iが原因を分けて報告書を書きます。
一連の作業は数秒で終わり、結果はチームがふだん見ている報告の場所にそのまま届きます。1
AIの振り分けが人と合う割合は4 4%から6 8%に
数字は次の2 つです。1
何の数字か 数字 AIの振り分けが人と同じだった割合 使い始めの4 4%から、いまは6 8% 失敗の原因を調べるために、本番リリースを止めておく時間 20%減った
テストは週1回の本番リリースの関門です。止めておく時間が減れば、そのぶん変更が早く本番に出ます。当番のエンジニアが、同じような振り分けに取られる時間も減りました。1
5日間のワークショップで、本番の手前まで
開発にあたっては、A WSとR escaleのエンジニアが、対面で5 日間のワークショップを開きました。開発の手法には、A WSが提唱する「AI-DLC」を使っています。A Iが計画やコードを出し、大事なことは人が決める手法です。1 2
最初の2 日で、A Iから出た2 0以上の質問にチームで答え、作る範囲を決めました。変更の提案(プルリクエスト)をA Iに自動で作らせる機能は、人の判断で後回しにしました。1
4日目にはステージング環境(本番の前に試す環境)で一通り動き、その後数週間のうちに本番でも使い始めました。1
ブログが触れていないこと
20%減は、いつからいつまでを比べた数字か
68%を、何件の正解の例と比べて出したか
AIと人の振り分けが食い違った失敗を、あとでどう扱ったか
AIエ ージェントを動かす費用
自社で試すなら
AIに任せたのは最初の振り分けだけで、報告書はエンジニアが必ず確かめます。A Iと人の振り分けが合う割合が6 8%のうちから成果が出たのは、この役割の分担が効いたからだと考えています。
ただし、A Iに任せる仕事を増やすと、今度は人の確認が追いつかなくなります。A nthropicのレポートも、A Iの出力が増えると人の確認が詰まると指摘しています(Anthropic社 内の記事 )。
権限や記録の仕組みをどう作るかは、自律A Iエ ージェントの設計の記事 にまとめています。A Iの下書きを人がどこまで確かめるかは、確認の範囲の記事 にあります。
まず、人がすでに振り分けた過去の5 0件をA Iにも振り分けさせ、人と同じになった割合を出してみてください。
次に読む