AIの失敗は、たいてい「AI以外」のところで起きる ―自分でやらかした2つの話

自動生成された書類と深夜を指す時計のイメージ。AIの失敗が出力ではなく運用設計で起きることを表す｜日本家業承継協会

この協会は、「AI導入の失敗談を集める」ことを旗印にしています。きれいごとを言う前に、まず自分たちがやらかした話から出します。運営そのものを、AIの公開実験にしているからです。

最近やっと、AIエージェントに「最後まで」仕事をさせられるようになりました。便利になったぶん、転び方も具体的になります。今日はその2つを正直に書きます。先に結論を言うと——AIでの失敗は、たいてい「AIが賢いかどうか」ではなく、その手前の"運用設計"と、こちらの"発想"のところで起きます。

① 請求書を、深夜0時過ぎに送ってしまった話

請求書づくりを自動化しました。使ったのは Codex と Claude Code。ローカルのフォルダに請求書の雛形を置いておき、「この日付で更新して」と指示すると、自動で請求書ができあがる——そこまでは、ちゃんと動きました。

問題はその先です。「できあがったら知らせる／送る」という設定を、私はしていませんでした。気づいたら夜。そのまま送信したら、時刻は0時過ぎ。請求先から、やんわりと言われました。「常識的に、0時過ぎに請求書を送るのは失礼じゃないですか」と。

ぐうの音も出ませんでした。スタートアップ的に動いていると、何時に連絡しても、返事がいつでも、あまり気にならない空気があります。その感覚のまま、きちんとした事業会社に向き合ってしまった。

学んだのはシンプルです。自動化は「作る」では終わらない。「いつ・どう届けるか」までが仕様だということ。いまは「送信・通知は日中の営業時間だけ」というルールを組み込んでいます。AIに任せる前に、相手の常識をこちらが言葉にして渡しておく——AIが賢い／賢くないの話では、まったくありませんでした。

② 名刺づくりで、何時間も溶かした話

去年の話です。「名刺も、チャットに指示するだけで作れるんじゃないか」と思い立ちました。

画像で名刺を作ってみる。ところが印刷サイトはPDF限定。PDFを直に書き出すと、どうしても余白が出てしまう（AIとのやり取りで作ると、これが起きがちです）。何度言葉で「もう少し詰めて」「位置をこう」と指示しても、しっくりこない。気づけば、最初の段階で何時間も溶かしていました。

行き詰まって、発想を変えました。「パワポのスライドみたいに、自分で編集できる画面を作って」とお願いしたのです。すると、デザインも文字の大きさも位置も、手で感覚的に調整できるようになり、最後の出力（データ処理）まですんなり通りました。

ここでの学びは、細かい見た目の調整を"言葉の往復"だけで詰めようとしたのが、そもそもの間違いだったということ。AIには、"成果物そのもの"を作らせるより、"成果物を作るための道具"を作らせたほうが速い場面があります。そして何より、作業に入る前に「何ができたら解決なのか」を捉える。発想を一段ずらすだけで、何時間が数分になりました。

失敗は「出力」ではなく、「設計」と「発想」で起きる

2つに共通するのは、AIの出力が悪かったわけではない、という点です。①は届け方（運用設計）を決めていなかった。②は何を作れば解決かという発想にたどり着くのが遅かった。どちらも、つまずいたのは"AI以外"のところでした。

だから私たちは、成功談より失敗談を集めています。「素人がAIを使うと、ここでこう転ぶ」を等身大で共有することのほうが、よほど役に立つと思うからです。なぜ私たちがAIにこだわり、同時に"AI化してはいけないもの"があると考えているかは、看板記事「なぜAIか ―AI化してはいけないものがある」に書きました。

あなたの「AIでやらかした話」も聞かせてください。 業務でAIを使ってみて、うまくいかなかったこと・後悔したこと・遠回りしたこと——どんな小さなことでも構いません。失敗の共有が、次の誰かのつまずきを減らします。お問い合わせフォームからお寄せください。

この記事はAIが執筆し、人が監修しています。協会のAI運用比率はAI運用の透明性で公開しています。