2024年10月24日 / 最終更新日時 : 2024年10月24日 ryo fujii 安全性 RAGの新たなセキュリティリスク・ConfusedPilotの危険性および対策 1. イントロダクション ConfusedPilotは、RAG(Retrieval Augmented Generation)ベースのAIシステムを標的とした新たなセキュリティ脅威であり、特に企業環境で使用されるRAGシ […]
2024年9月16日 / 最終更新日時 : 2024年9月18日 ryo fujii 安全性 【悪用厳禁】生成AIに対するJailbreak(脱獄)の様子を公開 1. イントロダクション まず最初に強くお伝えしたいのは、本記事の目的は、生成AI(Generative AI)のセキュリティを強化し、その脅威に対処するための意識を喚起することです。決して、AIシステムに対する攻撃方法 […]
2024年9月9日 / 最終更新日時 : 2024年9月12日 ryo fujii 公平性 生成AIのリスク軽減策:コンテンツフィルタリングとは 1.イントロダクション 生成AI(Generative AI)は、テキスト、画像、音声などの様々なコンテンツを自動で生成する技術で、多くの産業に変革をもたらしています。しかし、この技術にはさまざまなリスクが伴います。特に […]
2024年8月23日 / 最終更新日時 : 2024年8月28日 ryo fujii 安全性 AIに対する敵対的攻撃とは何か – 対処法も解説 1. イントロダクション AI技術の進化は、私たちの生活やビジネスに数多くの恩恵をもたらしています。しかし、その一方で、AIシステムが敵対的攻撃(Adversarial Attacks)の標的となるリスクも増加しています […]