Anthropicがブラウザで直接動くAIアシスタント「Claude for Chrome」の限定テストを開始

Anthropicは8月27日、同社のAIアシスタント「Claude」がChromeブラウザ上で直接動作する拡張機能「Claude for Chrome」の試験運用を開始したと発表した。この拡張機能を使えば、Claudeがユーザーに代わってウェブサイトのボタンをクリックしたり、フォームに入力したりといった操作を自動で行えるようになる。

現在は月額100〜200ドルのMaxプランを契約している1,000名限定でテストを実施中。今後、安全性を確認しながら段階的に利用者を増やしていく予定だ。

便利さの裏に潜むリスク Anthropic社内でのテスト運用では、すでに様々な場面で業務効率の大幅な改善が確認されている。カレンダーの管理、会議の設定、メールの返信文作成、経費精算書の処理など、日々の煩雑な作業を自動化できることが分かった。

しかし一方で、深刻なセキュリティリスクも浮き彫りになっている。特に懸念されているのが「プロンプトインジェクション攻撃」だ。これは、悪意のある第三者がウェブサイトやメールに見えない指示を埋め込み、AIを騙して不正な操作をさせる手法である。

実際、Anthropicが行った検証では、何も対策を講じない状態では約4回に1回(23.6%)の割合で攻撃が成功してしまうことが判明した。

多重防御でリスクを軽減 こうしたリスクに対し、Anthropicは複数の防御策を導入している:

主な安全対策

  • ウェブサイトごとにアクセス権限を細かく設定可能
  • 購入や個人情報の送信など、重要な操作の前には必ず確認を求める
  • 金融サービスやアダルトサイトなど、リスクの高いサイトは最初からアクセス不可に
  • AIへの不審な指示を自動で検知するシステムを搭載

これらの対策により、攻撃の成功率は11.2%まで下がったという。それでもまだゼロではないため、さらなる改善が必要だとAnthropicは認めている。

使ってみるには 試してみたい人は、claude.ai/chromeでウェイトリストに登録できる。順番が来たらChrome Web Storeから拡張機能をインストールし、Claudeアカウントでログインすれば利用可能になる。

ただし、Anthropicは「最初は信頼できるサイトから使い始め、銀行や医療関係など、重要な個人情報を扱うサイトでは使わないように」と注意を促している。

引用

あわせて読みたい
Piloting Claude for Chrome Announcing a pilot test of a new Claude browser extension
よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

AI・DX・LowCodeなど企業に役立つ情報を発信しています。

目次