AIによるインシデント対応の自動化がエンジニアの習熟を妨げる懸念

しかし、同氏は大きな懸念も示しています。日常的なインシデントへの対応機会が減ることで、エンジニアがシステムの挙動や故障のパターンに関する直感を養う機会を失ってしまうという点です。

これは、自動化が進むほどオペレーターは定型業務の訓練機会を失う一方で、異常事態への責任は重くなるという、1983年の論文で示された「自動化の皮肉」に通じる問題です。AIが解決できない複雑で未知の事態が発生した際、エンジニアの対応が遅れる可能性があります。

同氏は、AIの活用によって多くのインシデントの平均復旧時間（MTTR）は短縮されるものの、複雑な問題については調査能力の低下により、解決時間が大幅に増大すると予測しています。

この課題への対策として、同社が所属するRootlyは、LLM（大規模言語モデル）を活用したシミュレーション訓練を導入しています。エンジニアが擬似的な障害対応を行うことで、不完全な情報下での意思決定や調整といった、AIには代えがたいスキルの維持・向上を図る試みが進められています。