AIは「相談相手」から「実務パートナー」へ
「ちょっとDBを見て、受注の傾向をまとめておいて」
そう打ち込むだけで、AIが自律的にデータベースへ接続し、クエリを叩き、綺麗なグラフを返してくます。
最近、MCPなどの仕組みによって、AIは外部のツールやデータに接続し、実際の作業を進められるようになってきました。AIはただの「相談相手」から「手足を動かす実務パートナー」になり、このスピード感にはワクワクさせられます。
けれど、使っていてふと「ドキッ」とする瞬間があります。
「……これ、一歩間違えたら大惨事じゃないか?」
悪気がないから、一番こわい
セキュリティ事故というと「外部からのサイバー攻撃」を想像しがちです。でも、MCPを活用する現場で注意したいのは、悪意がなくても起こりうる事故です。
たとえば、ローカル環境で「コード全体を見てリファクタ案を出して」と作業ディレクトリを丸ごと渡したとき。
AIが作業に必要だと判断して、アクセス可能な .env や秘密鍵まで読み込み、クラウド型のLLMに送信してしまう可能性もあります。「待て、そこまで送るな!」と、画面の前で背筋が凍ります。
あるいは「不要なテストデータを消しておいて」と指示したとき。
AIが削除権限を持っていれば、指示を誤解したまま DELETE を実行し、関連テーブルのデータまで想定以上に削除してしまう可能性もあります。
人間なら「本当に消していいのか?」と立ち止まる場面でも、AIはそのまま処理を進めてしまうことがあります。
AIにも、指示したエンジニアにも悪意はありません。
ただ「あまりに素直で、優秀すぎた」だけです。
道具を疑う前に、「権限」を疑う
「AIが暴走した」とツールのせいにするのは簡単です。けれど本質は、MCPで繋ぐ以前の「システム構造」と「権限設計」にあります。 新人社員の初日に、社内のマスターキーや更新権限つきのDBアカウントを渡すチームはないはずです。
MCPも同じです。
- 参照用には「読み取り専用(Read-Only)」しか渡さない
- 見せるフォルダは必要な作業領域だけに絞る
- 削除や更新の前には、必ず人間が承認するクッションを置く
やるべきことは、昔から変わらない「最小権限」でリスクを考えることです。
アクセルを全開にして走れるのは、しっかりしたブレーキがあるからこそ。「信用はするけれど、全権は渡さない」という境界線を引くことが、これからの現場のエンジニアの腕の見せどころなのだと思います。
「新しい技術を安全に活かして、事業の課題を解決したい」
J.B.Goodeでは、最新AI技術の開発のご相談も、ともに現場を面白くするエンジニアの応募も、いつでもお待ちしています。
■ エンジニア・デザイナーの方へ
私たちのものづくりへの執着や、カルチャーに少しでもピンと来たら、まずは気軽にお話ししましょう。スマートな面接ではなく、お互いのこだわりを語り合う時間にしたいと思っています。
■ 制作・開発のご相談をご検討の方へ
「AIを使って何かしたいが、現場の泥臭い課題が解決できない」「型にはまったコーポレートサイトやシステムに限界を感じている」など、御社の課題をぜひ私たちに教えてください。