2024年10月24日 / 最終更新日時 : 2024年10月24日 ryo fujii 安全性 RAGの新たなセキュリティリスク・ConfusedPilotの危険性および対策 1. イントロダクション ConfusedPilotは、RAG(Retrieval Augmented Generation)ベースのAIシステムを標的とした新たなセキュリティ脅威であり、特に企業環境で使用されるRAGシ […]
2024年10月23日 / 最終更新日時 : 2024年10月24日 ryo fujii お知らせ 元 内閣官房内閣サイバーセキュリティセンター サイバーセキュリティ監査官 徳地隆弘氏、Controudit AI 技術顧問に就任 株式会社Controudit AI(代表取締役:藤井涼)は、AIガバナンス分野における専門性をさらに強化するため、株式会社野村総合研究所(NRI)に約35年間勤務の後、内閣官房内閣サイバーセキュリティセンターにてサイバー […]
2024年9月22日 / 最終更新日時 : 2024年9月27日 ryo fujii 生成AIのリスク なぜ生成AIの脱獄(Jailbreak)が可能なのか 1. はじめに 生成AIは、自然言語を扱うAI技術の中で最も注目される技術の一つです。日々進化を続けるこれらのAIは、私たちの生活や仕事を便利にする一方で、悪用されるリスクもあります。その中でも特に問題となっているのが、 […]
2024年9月16日 / 最終更新日時 : 2024年9月18日 ryo fujii 安全性 【悪用厳禁】生成AIに対するJailbreak(脱獄)の様子を公開 1. イントロダクション まず最初に強くお伝えしたいのは、本記事の目的は、生成AI(Generative AI)のセキュリティを強化し、その脅威に対処するための意識を喚起することです。決して、AIシステムに対する攻撃方法 […]
2024年9月14日 / 最終更新日時 : 2024年9月14日 ryo fujii AIが社会に与える影響 生成AI時代における、人材教育を考える 1.イントロダクション 生成AI(Generative AI)の登場は、ビジネスや日常生活だけでなく、教育分野にも大きな影響を与えています。従来の教育法では対応しきれない部分が増え、AIを使いこなすためには新たな学習方法 […]
2024年9月9日 / 最終更新日時 : 2024年9月12日 ryo fujii 公平性 生成AIのリスク軽減策:コンテンツフィルタリングとは 1.イントロダクション 生成AI(Generative AI)は、テキスト、画像、音声などの様々なコンテンツを自動で生成する技術で、多くの産業に変革をもたらしています。しかし、この技術にはさまざまなリスクが伴います。特に […]
2024年9月3日 / 最終更新日時 : 2024年10月23日 ryo fujii 透明性 SHAP, LIMEを用いた予測根拠の定量化 1. イントロダクション 機械学習の技術が進展する中で、モデルの性能向上と引き換えにその内部構造が複雑化し、一般的に「ブラックボックス」と称される状況が増えています。ブラックボックスモデルとは、入力に対して出力を生成する […]
2024年8月30日 / 最終更新日時 : 2024年8月30日 ryo fujii IT統制フレームワーク QA4AIガイドラインとは – AIプロダクトの品質保証における5つの評価軸とその活用法 イントロダクション AI技術が日々進化する中で、AIプロダクトの品質保証がますます重要になっています。AIシステムが日常的に使用され、業務やサービスに深く組み込まれるにつれ、その品質を確保することは不可欠です。そこで注目 […]
2024年8月29日 / 最終更新日時 : 2024年8月30日 ryo fujii お知らせ 目的に合わせた表示により、ブログ記事が読みやすくなりました ブログ画面をアップデートしました。従来は最新の記事が順に表示されていましたが、今回のアップデートにより、「ブログ記事を読む目的」を選択することで、自動的に関連する記事が提案されるようになりました。操作方法は以下の図解をご […]
2024年8月28日 / 最終更新日時 : 2024年9月2日 ryo fujii 正確性 データドリフトをKLダイバージェンスで検証 1. イントロダクション 機械学習モデルの精度を維持するためには、モデルが学習したデータの分布と、新しく入力されるデータの分布が一貫していることが重要です。しかし、現実世界では、データの分布が時間とともに変化することが避 […]