「AI（人工知能）を利用している企業向けクラウドサービスのうち、約4割が利用規約でAIの利用を明示していない」――。クラウドサービスのセキュリティー評価サービス「Assured」を手掛けるアシュアードの調査で、こうした実態が明らかになった。アシュアードはこれらのクラウドサービスを「隠れAI」と呼び、利用者が知らぬ間にAIにデータを学習されたり、情報が漏洩したりするリスクを指摘する。「隠れAI」の危険性とその対策を掘り下げていく。 調査は、Assuredを提供するためにクラウドサービス提供事業者に実施した質問票への回答と、Webで公開された資料を基に、同社の評価対象となった3212件のクラウドを分析したものだ。「サービスに既存のAIまたは自社開発のAIを利用していますか」の質問に「はい」と回答したサービスは全体の42.8％で、そのうち42.1％が「利用規約を作成していない」または「利用規約で
はじめに こんにちは。GMO Flatt Security株式会社 セキュリティエンジニアの山川(@dai_shopper3)です。 LLMはテキスト生成、要約、質問応答といった多様な用途に高い能力を発揮しますが、単体での活用にはいくつかの制約があります。そもそもモデル単体には、ただ入力された自然言語に対して文字列を生成するだけの機能しかありませんから、LLMをもとに自律的に行動するAIを作るには、外部と情報をやり取りし、具体的なアクションを実行するための手段が必要です。 また、モデルの知識は訓練データの収集時点で停止しており、それ以降の最新情報や特定の非公開情報も知りません（ナレッジカットオフ）。そのため、多くの実用的なアプリケーションにおいては、外部サービスとのAPI連携のような、LLMがモデル外の知識や計算資源にアクセスする仕組みが不可欠となっています。 特にLLMが外部と連携できる
はじめに こんにちは。クラウドエースの荒木です。 AI と外部システムの連携を標準化する Model Context Protocol (MCP) が、2024 年後半に Anthropic 社から発表されて以来 [1]、界隈では大きな注目を集めています。AI が様々なツールやリソースへ簡単にアクセスできるようになる「AI のための USB-C」というコンセプトは非常に魅力的です。実際に MCP に対応する Cursor や Zed といった開発ツールやさまざまな MCP サーバーなどが登場したことでエコシステムは着実に広がり、盛り上がりを見せています。私も以前、MCP の基本的な仕組みや将来性について解説する記事を書きましたが、思っていたよりも大きな反響がありました。 しかし、実際に MCP に触れたり関連情報を追っていく中で、課題も見えてきました。特に、前回良い面を中心に紹介した手前、
Wizは「組織は増加するスタートアップやプロバイダーのAIツールやサービスの導入を急いでいるが、同時にこれらの企業に機密データを託していることを忘れてはならない」と指摘している。 DeepSeekは21日、米OpenAIのハイエンドモデル「o1」と同レベルの性能をうたう大規模言語モデル（LLM）「DeepSeek-R1」を公開。高性能ながら開発コストが極めて低いとの情報が広がり、注目を浴びている。 【訂正：2025年1月30日午後3時】当初、見出しで「情報漏えいか」としていましたが、Wizのレポートには実際に漏えいした可能性には言及していなかったため、記事タイトルを変更しました。 関連記事 DeepSeekが集める個人情報は「中華人民共和国にある安全なサーバに保存」 中国DeepSeekのサービスが急激に注目を集めている。同社のプライバシーポリシーには、収集した個人情報は中国のサーバーに保
Okta Japanは2024年10月17日、アイデンティティー管理ソリューション「Okta Customer Identity Cloud」の新機能「Auth for GenAI」を発表した。これによってアプリ開発者はAI特有のセキュリティリスクから保護され、生成AIエージェントを迅速に製品に統合できる。 生成AI活用におけるセキュリティの懸念を解消 Auth for GenAIに含まれる主な機能は以下の通りだ。 User Authentication： 「Langchain」や「Vercel」などの生成AIフレームワークやライブラリでAuth for GenAIが利用できるようになる。開発者はこれによってユーザー認証をシームレスに実施し、アプリでAuth for GenAIの機能を活用できる ユーザーに代わってAPIを呼び出す： 新しいサードパーティーAPI機能によって、エージェントは
米MicrosoftとLinkedInが発表した、職場でのAI活用の実態調査の結果によると、職場でAIを使っている日本のユーザーのうち78％が自前のAIツールを職場に持ち込んでいた。同社は、「日本の職場でも今後“Bring Your Own AI”が増加すると考えられる」とし、企業データを安全に活用するための環境整備が必要だと訴えている。 2024年2月から3月にかけ、日米を含む世界31の市場で、各1000人のフルタイムの従業員と自営業のナレッジワーカーを対象にオンラインで実施。平均値を算出した。 対象者の75％が仕事にAIを活用しており、うち46％が半年以内に使い始めていた。 地域別で見ると、生成AIを仕事で使っている人は北米で66％、アジア太平洋地域で83％、欧州で65％、日本では32％と日本は相対的に低かった。 世界でAIを使っている人の78％が自前のAIツールを職場に持ち込んでおり
Microsoftは2024年3月13日（米国時間）、「Microsoft Copilot for Security」（以下、Copilot for Security）を4月1日に一般提供を開始する旨を発表した。MicrosoftはCopilot for Securityについて「セキュリティおよびIT専門家が見逃したものをキャッチし、迅速に行動し、チームの専門知識を強化するのに役立つ」と述べている。 Microsoft Copilot（以下、Copilot）は、Microsoftが毎日処理している78兆件以上のセキュリティシグナルを含む大規模データと脅威インテリジェンスから情報を得て、大規模な言語モデルと組み合わせることで、カスタマイズされた洞察を提供するという。「Copilotを使用すれば、AIのスピードとスケールを活用し、セキュリティの運用を変革することが可能だ」（Microsoft
「ChatGPT」のような生成AIをサイバー攻撃に使った場合、より自然で巧妙な攻撃手法が編み出される危険性がある。ChatGPTを開発したOpenAIや資金を提供するMicrosoftはどのような対策をとっているのだろうか。 攻撃グループによるAIの利用状況は ChatGPTは容易に利用できるため、攻撃グループが大規模に利用することはたやすい。どうすればよいのだろうか。 OpenAIは「当社の大規模言語モデル（LLM）を悪質なハッキングキャンペーンの土台作りに利用していた国家に関連する脅威グループのアカウントを停止した」と発表した（注1）。この取り組みはMicrosoftの脅威研究者と共同で決定した。 国家に関連する脅威グループには、ロシアに関連する「Forest Blizzard」、北朝鮮に関連する「Emerald Sleet」、イランに関連する「Crimson Sandstorm」、中
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 イスラエルのネゲヴ・ベン・グリオン大学に所属する研究者らが発表した論文「What Was Your Prompt？ A Remote Keylogging Attack on AI Assistants」は、大規模言語モデル（LLM）を活用したAIチャットbotが生成するテキスト回答を復元するサイドチャネル攻撃を提案した研究報告である。攻撃者は、AIチャットbotが応答する際の通信データを傍受することで内容を復元して他人のやりとりを盗み出すことができる。 攻撃方法としては、まずユーザーとLLMの間の暗号化されたパケット通信を傍受するところか
米OpenAIは4月25日（現地時間）、AIチャットサービス「ChatGPT」に、チャット履歴を保存しない機能を追加すると発表した。ユーザー設定で「Chat Histroy & Training」をオフにすれば、AIとの会話はモデルのトレーニングに使われず、サイドバーにも表示されない。 この機能は同日からすべてのユーザーに展開される（本稿執筆時点で筆者の環境ではまだ表示されない）。 OpenAIは数週間前に履歴を保存しないオプトアウトを可能にしているが、Googleフォームから申請する必要があった。 新たな機能では、設定画面でいつでも変更できる。なお、チャット履歴を無効にしても、不正行為監視の目的で会話は30日間保持される。 OpenAIはまた、ChatGPTの新たなプラン「ChatGPT Business」も発表した。「データをより詳細に管理する必要のある専門家や、エンドユーザーの管理が
チェック・ポイント・ソフトウェア・テクノロジーズは、ChatGPTを使ったサイバー攻撃が起きる可能性があるとして注意喚起した。フィッシングメールや攻撃プログラムの生成に成功したという。 イスラエルの情報セキュリティ企業チェック・ポイント・ソフトウェア・テクノロジーズは1月10日、米OpenAIの文章生成AI「ChatGPT」を使ったサイバー攻撃が起きる可能性があるとして注意喚起した。同社による検証の結果、フィッシングメールの本文や攻撃用プログラムを、AIで生成できることが分かったという。 検証に使ったのはChatGPTと、OpenAIのプログラム生成AI「Codex」。フィッシングメールについては、ChatGPTに「架空の会社を装ったフィッシングメールの文章を作成してください」と指示。リンクや添付Excelファイルを開くよう促す文章を生成させた。Excelファイルを開くと攻撃プログラムをダ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く