AIに全てを任せていて、大きな損害を出したり失敗したりしたケースを見るに、よくもまあAIをそこまで信用するかなあと思います。
そもそも、例えば個人事業主として何らかの仕事をしていて、パートさんとして一ヶ月で数千円〜数万円の最低時給以下で雇っている人に、自分のデータを全て操作させますか？ もしくは、無料で使えるAIに対しても全権限を預けるなんて、そこら辺を歩いているオッサンオバハンに、自宅の鍵や通帳や実印を預けるようなものです。
確かに近年、AI技術は目覚ましい発展を見せており、その活用範囲も広がり続けています。しかしながら、AIに対して無警戒で全てを任せてしまうという人がいることに、強い懸念を抱いています。
ITセキュリティの世界では、ゼロトラストという考え方が主流になってきています。「ゼロトラスト」とは、「何も信頼しない」ことを前提としたセキュリティの考え方で、ネットワークの内外問わず全てのアクセスを「信用できないもの」として、都度認証と検証を行うモデルです。コロナ禍後のリモートアクセス普及により、曖昧になったネットワークの内と外という区別ではなく、ユーザーやデバイスによるアクセスを全て検証して許可するシステムです。
そこで、AI利用に対しても「ゼロトラスト」の考え方も必要なのではないかと思っています。つまり、AIの利用時に、常に「接続先のAI」を検証し、「必要最小限の情報」だけを渡し、「必要最低限の操作」だけを認める仕組みです。
なぜ、誰もがAIに対してゼロトラストの考え方を真剣に検討していないのでしょうか？
特に、月20ドル程度で利用できるAIサービスが数多く登場し、企業や個人が手軽にAIを試せる環境が整ってきています。しかし、この安価さゆえに、セキュリティ対策は後回しにしてしまいがちです。
まるで、子供がオモチャを見つけたように、AIツールを導入してしまい、その潜在的なリスクを十分に理解せずに、全ての情報と操作権限を与えてしまうような状況が広がっています。これは非常に危険な行為であり、情報漏洩、不正アクセス、悪意のある攻撃など、様々なセキュリティ問題を引き起こす可能性があります。
自分はAIを使わないとか、AIを使うにしても厳格な条件で行っているという人も多いと思いますが、自分が使わなくても自分の情報を持っている・使っている人が、先に述べたような全権限をAIに任してしまうと、被害が自分に及びかねません。自分が依頼している弁護士が、AIに操作を任せたために全世界にトラブルの中身を公開してしまったり、かかりつけの医者がAIにカルテを書かせたために致命的な誤診を行ったりといったSFじみた仮定も、今後はありえない話ではないでしょう。
また、AIは学習能力を持ち、常に進化していきます。過去のAIを全て包含して良い方向にだけ進むのなら良いのですが、先般のGPT-5の大失敗に見られるように、時として変な方向に進んだり、過去のAIとは全く違う挙動をしたりすることもあります。AIの挙動を完全に予測することは不可能であり、予期せぬ動作やエラーが発生する可能性も否定できません。
ゼロトラストの原則に基づけば、AIに対しても、常に「危害を与える可能性がある」という前提でセキュリティ対策を行うべきです。アクセス制御を厳格化し、ログを詳細に記録・分析することで、異常な挙動を早期に検知することが重要になります。また、AIが扱うデータの種類や機密性に応じて、可逆的な操作しか許可しないとか、バックアップには手を出させないと言った、適切な保護措置を講じる必要があります。
AIは、例えそのバブルが崩壊したとしても、これまで以上に今後も社会に大きな変革をもたらすでしょう。それは間違いないはずですが、同じくらいの悪い方の影響力もあり得ることを忘れてもいけません。
「ゼロトラスト」セキュリティの考え方は、AI利用時にも十分活かせるものだと思います。月額数千円で導入できるAIサービスであっても、そのリスクを十分に理解し、適切なセキュリティ対策を講じることで、安全なAI活用を実現していく必要がべきでしょう。