Other

AI×MCPで現場で起きていること

公開

AIは「相談相手」から「実務パートナー」へ

「ちょっとDBを見て、受注の傾向をまとめておいて」

そう打ち込むだけで、AIが自律的にデータベースへ接続し、クエリを叩き、綺麗なグラフを返してくます。

最近、MCPなどの仕組みによって、AIは外部のツールやデータに接続し、実際の作業を進められるようになってきました。AIはただの「相談相手」から「手足を動かす実務パートナー」になり、このスピード感にはワクワクさせられます。

けれど、使っていてふと「ドキッ」とする瞬間があります。

「……これ、一歩間違えたら大惨事じゃないか?」

悪気がないから、一番こわい

セキュリティ事故というと「外部からのサイバー攻撃」を想像しがちです。でも、MCPを活用する現場で注意したいのは、悪意がなくても起こりうる事故です。

たとえば、ローカル環境で「コード全体を見てリファクタ案を出して」と作業ディレクトリを丸ごと渡したとき。

AIが作業に必要だと判断して、アクセス可能な .env や秘密鍵まで読み込み、クラウド型のLLMに送信してしまう可能性もあります。「待て、そこまで送るな!」と、画面の前で背筋が凍ります。

あるいは「不要なテストデータを消しておいて」と指示したとき。

AIが削除権限を持っていれば、指示を誤解したまま DELETE を実行し、関連テーブルのデータまで想定以上に削除してしまう可能性もあります。

人間なら「本当に消していいのか?」と立ち止まる場面でも、AIはそのまま処理を進めてしまうことがあります。

AIにも、指示したエンジニアにも悪意はありません。

ただ「あまりに素直で、優秀すぎた」だけです。

道具を疑う前に、「権限」を疑う

「AIが暴走した」とツールのせいにするのは簡単です。けれど本質は、MCPで繋ぐ以前の「システム構造」と「権限設計」にあります。 新人社員の初日に、社内のマスターキーや更新権限つきのDBアカウントを渡すチームはないはずです。

MCPも同じです。

  • 参照用には「読み取り専用(Read-Only)」しか渡さない
  • 見せるフォルダは必要な作業領域だけに絞る
  • 削除や更新の前には、必ず人間が承認するクッションを置く

やるべきことは、昔から変わらない「最小権限」でリスクを考えることです。

アクセルを全開にして走れるのは、しっかりしたブレーキがあるからこそ。「信用はするけれど、全権は渡さない」という境界線を引くことが、これからの現場のエンジニアの腕の見せどころなのだと思います。

「新しい技術を安全に活かして、事業の課題を解決したい」

J.B.Goodeでは、最新AI技術の開発のご相談も、ともに現場を面白くするエンジニアの応募も、いつでもお待ちしています。


■ エンジニア・デザイナーの方へ

私たちのものづくりへの執着や、カルチャーに少しでもピンと来たら、まずは気軽にお話ししましょう。スマートな面接ではなく、お互いのこだわりを語り合う時間にしたいと思っています。

👉 カジュアル面談の応募はこちら

■ 制作・開発のご相談をご検討の方へ

「AIを使って何かしたいが、現場の泥臭い課題が解決できない」「型にはまったコーポレートサイトやシステムに限界を感じている」など、御社の課題をぜひ私たちに教えてください。

👉お問い合わせ・ご相談はこちら

J.B.Ooue

.Account

デザイナー&フロントエンド&ディレクター経験からアカウントをしています。