2024年10月28日 / 最終更新日時 : 2024年10月28日 ryo fujii お知らせ 日本最大級のスタートアップ展示会「Startup JAPAN 2024 – 秋 -」に出展します 株式会社Controudit AIは、2024年11月20日（水）～21日（木）に東京ビッグサイトにて開催される、スタートアップ業界 日本最大級の展示会「Startup JAPAN EXPO 2024 – 秋 […]
2024年10月24日 / 最終更新日時 : 2024年11月11日 ryo fujii 安全性 RAGの新たなセキュリティリスク・ConfusedPilotの危険性および対策 1. イントロダクション ConfusedPilotは、RAG（Retrieval Augmented Generation）ベースのAIシステムを標的とした新たなセキュリティ脅威であり、特に企業環境で使用されるRAGシ […]
2024年9月22日 / 最終更新日時 : 2024年9月27日 ryo fujii 生成AIのリスク なぜ生成AIの脱獄(Jailbreak)が可能なのか 1. はじめに 生成AIは、自然言語を扱うAI技術の中で最も注目される技術の一つです。日々進化を続けるこれらのAIは、私たちの生活や仕事を便利にする一方で、悪用されるリスクもあります。その中でも特に問題となっているのが、 […]
2024年9月16日 / 最終更新日時 : 2025年7月1日 ryo fujii 安全性 【悪用厳禁】生成AIに対するJailbreak(脱獄)の様子を公開 1. イントロダクション まず最初に強くお伝えしたいのは、本記事の目的は、生成AIのセキュリティを強化し、その脅威に対処するための意識を喚起することです。決して、AIシステムに対する攻撃方法を推奨したり、助長するものでは […]
2024年9月14日 / 最終更新日時 : 2025年7月1日 ryo fujii AIが社会に与える影響 生成AI時代における、人材教育を考える 1.イントロダクション 生成AI（Generative AI）の登場は、ビジネスや日常生活だけでなく、教育分野にも大きな影響を与えています。従来の教育法では対応しきれない部分が増え、AIを使いこなすためには新たな学習方法 […]
2024年9月9日 / 最終更新日時 : 2025年7月1日 ryo fujii 公平性 生成AIのリスク軽減策：コンテンツフィルタリングとは 1.イントロダクション 生成AI（Generative AI）は、テキスト、画像、音声などの様々なコンテンツを自動で生成する技術で、多くの産業に変革をもたらしています。しかし、この技術にはさまざまなリスクが伴います。特に […]
2024年9月3日 / 最終更新日時 : 2024年11月10日 ryo fujii 透明性 SHAP, LIMEを用いた予測根拠の定量化 1. イントロダクション 機械学習の技術が進展する中で、モデルの性能向上と引き換えにその内部構造が複雑化し、一般的に「ブラックボックス」と称される状況が増えています。ブラックボックスモデルとは、入力に対して出力を生成する […]
2024年8月30日 / 最終更新日時 : 2024年11月11日 ryo fujii IT統制フレームワーク QA4AIガイドラインとは – AIプロダクトの品質保証における5つの評価軸とその活用法 イントロダクション AI技術が日々進化する中で、AIプロダクトの品質保証がますます重要になっています。AIシステムが日常的に使用され、業務やサービスに深く組み込まれるにつれ、その品質を確保することは不可欠です。そこで注目 […]
2024年8月28日 / 最終更新日時 : 2025年7月1日 ryo fujii 正確性 データドリフトをKLダイバージェンスで検証 1. イントロダクション 機械学習モデルの精度を維持するためには、モデルが学習したデータの分布と、新しく入力されるデータの分布が一貫していることが重要です。しかし、現実世界では、データの分布が時間とともに変化することが避 […]
2024年8月25日 / 最終更新日時 : 2024年11月11日 ryo fujii 生成AIのリスク RAGにおけるリスクとは何か？対策も交えて解説 目次 1. RAGとは RAG（Retrieval-Augmented Generation）は、生成AI技術の一つで、情報検索とテキスト生成を組み合わせることで、より高度で正確な回答を生成することを目指した技術です。具 […]
