AI-Agent Opsで運用が変わる!CCO Forceの挑戦 #AI #運用自動化

はじめに

本記事ではCCO(Co-Creation Ops)サービスにおける運用業務へのAI活用を推進しているチーム「CCO Force」について、これまでの取り組みと今後の展望を紹介します。

ここ最近、生成AIやAIエージェントの進化は目覚ましく、開発の現場ではAIを使ったコーディングが当たり前になりつつあります。一方で、システムをリリースした後の運用業務にAIをどう活かしていくかについては、まだまだ手探りの状態だと感じています。

CCOサービスとは

CCO(Co-Creation Ops)はクリエーションラインの造語で、アプリ開発とSREの知見を融合し、システムの安定稼働と継続的な改善を両立させる運用サービスです。

開発が終わった後の運用フェーズでは、「誰が運用・保守を担うのかが曖昧」「障害発生時にコードの背景を知る人がいない」といった課題が残りがちです。CCOサービスでは開発フェーズから参画し、インフラ保守・SRE・アプリケーション保守の3つのアプローチで、開発後の運用・保守まで一貫して伴走します。

CCO Forceとは

CCO Forceは、CCOサービスとAIを掛け合わせた「AI-Agent Ops」を基軸としたサービスモデルを確立するために立ち上がったチームです。

ここで言うAI-Agent Opsとは、システムにおける運用業務やタスクをAIが自動的に実施する運用のことを指しています。

従来のインフラ運用は人手による対応を前提としていることが多く、手作業での繰り返しの作業が発生し、システムが大きくなるにつれて運用コストも増えていきます。CCOではSREのアプローチで自動化や仕組み化を進めてきましたが、それでもコストの確認やアラートの判断、ライブラリのアップデートなど、人が手を動かしている業務はまだ数多く残っています。

こうした業務をAIエージェントに任せていくことで、お客様の運用工数を削減していくことが私たちの目指すところです。

これまでの取り組み

CCO Forceではこれまで、以下の運用業務に対してAIを利用して実行する検証を行ってきました。

検証した業務内容
クラウドコスト分析(AWS/Google Cloud)クラウドの利用料金からコストが高いものを洗い出し、その要因を分析する
Dependabotの導入アプリケーションが利用しているライブラリやパッケージを最新の状態に保つための仕組みづくり
アラート判定分析クラウドやアプリから上がってきたアラートについて対応の必要なものかどうかを判断する
インフラコード(IaC)設定値のレビューTerraformで書かれたインフラコードの設定値に問題がないかを確認する

いずれも、実際の運用現場で定常的に発生しており、担当者の手を取られやすい業務を題材にしています。

成果

AIを取り入れたことで、運用工数の削減には一定の効果がありました。

特にクラウドコスト分析では、これまで手作業で行っていた各リソースごとのコスト確認やログ調査をAIエージェントに任せたことで、作業を効率化できただけでなく、クラウドリソースの利用傾向の分析や、コスト削減に向けたレコメンドまで出せるようになりました。作業をAIに置き換えるだけでなく、これまで人手では手が回りにくかった分析まで踏み込めたのは大きな収穫だったと感じています。

見えてきた課題

一方で、課題も見えてきました。

効果を計測した結果、例えばクラウドコスト分析を手動で実施したときと比較すると16時間の工数削減にはつながりましたが、運用業務全体から見るとその効果は限定的でした。個々のタスクをAIに実施させても、その前後の確認や判断、作業の受け渡しは結局人が担うことになるため、運用全体の負荷を大きく下げるまでには至らないというのが私たちの結論です。

また、AIの精度についてもまだまだ物足りない部分があります。安心して任せられるレベルにはまだ距離があり、精度を上げていくにはもっと時間を掛けて取り組む必要があると感じました。

今後の取り組み

上期の検証を通じて、タスク単位ではなく業務フロー全体でAIの活用を考える必要があることが分かりました。そこで今後は、ある社内プロジェクトのシステムをサンプルとして、運用業務を網羅的に自動化していく、つまりシステム全体を網羅した業務フローに対してAI-Agent Ops化に取り組んでいきます。

ただ、既存の運用設計は人が作業することを前提に作られているため、そこにAIを後から当てはめるだけではうまくいきません。そのため、AIを利用することを前提とした運用設計ガイドラインを策定します。どの業務をAIに任せ、どこで人が判断・承認するのかといった役割分担を、設計の段階から定義しておくイメージです。

そのうえで、このガイドラインに沿ってサンプルとなるシステムの業務フロー全般にAIを導入していきます。進め方としては、以下のようなイメージです。

  • STEP2:AIを利用することを前提とした運用設計ガイドラインを策定する
  • STEP3:ガイドラインに沿って、業務フロー全般にAIを導入する

例えばアラート判定分析であれば、アラートの通知からAIによる判定、開発者への調査依頼、ナレッジへの蓄積までを一つの業務フローとしてつなげていくイメージです(下図)。

上期の課題であったAIの精度についても、業務フロー全体の中で継続的に使い続けることで、どこが弱いのか、どこまでなら任せられるのかが見えてくると思っています。

最終的には、大規模なシステムに対しての運用自動化を実現し、お客様へ価値提供していくことをゴールとしています。

最後に

今回はCCO Forceのこれまでの取り組みと今後の展望について紹介しました。運用業務の完全自動化というゴールはまだ先にありますが、これまでの検証で得た成果と課題を糧に、AIを前提とした運用の在り方を確立し、お客様に価値として届けられるサービスモデルにしていきたいと思っています。

これから定期的に私たちの活動を投稿していきますので、よろしくお願いします。

Author

将来はいろいろな都市に住んでみたいリモート好きなエンジニア

a-ikedaの記事一覧

新規CTA