2024年9月22日 / 最終更新日時 : 2024年9月27日 ryo fujii 生成AIのリスク なぜ生成AIの脱獄(Jailbreak)が可能なのか 1. はじめに 生成AIは、自然言語を扱うAI技術の中で最も注目される技術の一つです。日々進化を続けるこれらのAIは、私たちの生活や仕事を便利にする一方で、悪用されるリスクもあります。その中でも特に問題となっているのが、 […]
2024年9月16日 / 最終更新日時 : 2024年9月18日 ryo fujii 安全性 【悪用厳禁】生成AIに対するJailbreak(脱獄)の様子を公開 1. イントロダクション まず最初に強くお伝えしたいのは、本記事の目的は、生成AI（Generative AI）のセキュリティを強化し、その脅威に対処するための意識を喚起することです。決して、AIシステムに対する攻撃方法 […]
2024年9月9日 / 最終更新日時 : 2024年11月11日 ryo fujii 公平性 生成AIのリスク軽減策：コンテンツフィルタリングとは 1.イントロダクション 生成AI（Generative AI）は、テキスト、画像、音声などの様々なコンテンツを自動で生成する技術で、多くの産業に変革をもたらしています。しかし、この技術にはさまざまなリスクが伴います。特に […]
2024年8月30日 / 最終更新日時 : 2024年11月11日 ryo fujii IT統制フレームワーク QA4AIガイドラインとは – AIプロダクトの品質保証における5つの評価軸とその活用法 イントロダクション AI技術が日々進化する中で、AIプロダクトの品質保証がますます重要になっています。AIシステムが日常的に使用され、業務やサービスに深く組み込まれるにつれ、その品質を確保することは不可欠です。そこで注目 […]
2024年8月25日 / 最終更新日時 : 2024年11月11日 ryo fujii 生成AIのリスク RAGにおけるリスクとは何か？対策も交えて解説 目次 1. RAGとは RAG（Retrieval-Augmented Generation）は、生成AI技術の一つで、情報検索とテキスト生成を組み合わせることで、より高度で正確な回答を生成することを目指した技術です。具 […]
2024年8月24日 / 最終更新日時 : 2024年11月10日 ryo fujii 生成AIのリスク OWASP Top10 for LLM とは何か？ ガイドラインの特徴を解説 1. イントロダクション OWASP（Open Web Application Security Project）は、WebアプリケーションやAPIのセキュリティに関するベストプラクティスを提供する非営利団体として広く知 […]
2024年8月19日 / 最終更新日時 : 2024年11月11日 ryo fujii 正確性 生成AIの脱獄（Jailbreak）を徹底解説 1. イントロダクション 生成AIは、多くの分野で革新的な技術として注目されていますが、その一方で、生成AIに対する攻撃手法の一つである「Jailbreak（脱獄）」が深刻なリスクとして浮上しています。本記事では、生成A […]
2024年8月18日 / 最終更新日時 : 2024年11月10日 ryo fujii 公平性 生成AI特有のリスクとその対策について 1. イントロダクション 生成AI（Generative AI）は、新しいデータやコンテンツを自動的に生成する技術として注目を集めています。特に、テキスト生成、画像生成、音声合成など、幅広い分野で活用されていますが、その […]
