AIにすべてを任せようとして、お客様に迷惑をかけた

AIで仕事のすべてを完結させたいと考え、実際の案件でそのやり方を試してきた。しかし今回は、うまく進められず、お客様に迷惑をかけてしまった。便利さや速さを求めた結果、本来もっとも守るべきだった、お客様からいただいた指示を正確に反映することができなかった。

勝手な判断をしないよう、保守的に動くことを指示文で強く求めた。変更後の品質確認も増やした。それでも、指示の意味を取り違えたり、修正を頼まれていない文章まで書き換えたりすることが起きた。一度直して終わりではなく、修正するたびに別の場所へ影響が広がり、確認と手戻りが重なった。

最終的には、こちらから今回は代金をいただけないとお伝えした。成果物の品質だけでなく、お客様が確認や説明に費やした時間まで考えれば、当然の判断だったと思う。AIが間違えたから仕方がない、とは言えない。どこまで任せ、どこで止め、何を確認するかを設計した責任はこちらにある。

すべてを人がきちんと確認していれば、防げたのではないかとも考えた。確かに、一つひとつの変更を最初から最後まで見比べられれば、多くの問題は見つけられる。しかし、百ページを超えるサイトで、全ページの全文章を毎回読み直す方法は続かなかった。確認する人の注意力に頼るだけでは、量が増えた時点で破綻する。今回はその限界がはっきり表れた。

必要なのは、AIが変更した場所を変更前と変更後で自動的に見つけ、頼まれた範囲と合っているかを一件ずつ確認できる仕組みだと思う。変更ごとに、承認する、戻す、保留するを選び、承認したものだけを本番へ反映する。頼まれていない変更は、たとえ文章として自然でも通さない。そのくらい細かな止め方が必要だ。

さらに、お客様の指示と実際の変更を結び付けて確認できることも大切になる。どの指示に対して、どのページのどの文章を変えたのか。変更していない場所はどこか。後からでも経緯をたどれ、問題があればすぐ元へ戻せる状態にする。確認を人の記憶や目視だけに背負わせない環境が必要だ。

今回の結論は、AIに仕事を任せること自体をやめる、ということではない。すべてを一度に任せて、最後にまとめて確認する進め方をやめるということだ。小さく変更し、その場で確かめ、承認したものだけを積み重ねる。AIの速さを生かすには、人が安全に止められる仕組みが先に要る。

今回のような案件をもう一度きちんと扱えるように、変更の見える化と個別承認を前提にした環境を整えたい。お客様に迷惑をかけた事実を忘れず、確認を頑張るという精神論ではなく、頼まれていない変更がそのまま通らない仕事の進め方へ改める。失敗を繰り返さないための土台を作ることが、今やるべきことだと強く感じている。